落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
- 美國聯網車監管制度與合規實務說明會
因應人工智慧發展，日本更新人工知能基本計畫 資訊工業策進會科技法律研究所 2026年08月17日 2026年7月，日本內閣府發布最新的AI基本計畫[1]（人工知能基本計畫，下稱AI基本計畫），旨在因應代理型AI（AI agent）之崛起，並建立AI之轉型藍圖。 壹、事件摘要 日本AI基本計畫最早係於2025年12月發布，為日本依據人工知能相關技術之研究開發及活用推進法[2]》（人工知能関連技術の研究開発及び活用の推進に関する法律，下稱日本AI法）第18條所定之國家級計畫。該條規定，日本政府應針對該法基本措施，制定促進AI相關技術研究、開發及運用之基本計畫，且該計畫應由日本內閣府之AI戰略總部負責[3]。AI基本計畫以信賴的AI以及日本再起為核心，旨在使日本成為世界上最容易利用及開發AI之國家。為能跟上AI技術發展以及部會間之協調，該計畫預計每年檢視計畫並調整[4]。 2026年6月，距離2025年版本發布僅半年，意識到AI之快速發展，尤其是能夠自訂計畫並實行、驗證及修正之代理型AI崛起，且於國際上各領域應用與管制，日本政府進而著手修訂AI基本計畫，並於7月通過公布。相較於前次基本計畫，2026年之計畫核心概念係從AI使用轉向AI開發，強調中小企業及區域之AI轉型（AIＡＩトランスフォーメーション, AX）。同時明確提出AI主權概念，透過技術及基礎建設之強化，提升生態系之自主性及國際談判能力。 貳、重點說明 2026年之基本計畫基本理念可分為代理型AI、AI轉型以及AI主權三大核心理念。 一、核心理念 （一）強化基礎建設以因應代理型AI 基本計畫中提及，代理型AI為能自主進行計畫、執行、驗證以及修正之AI系統，提升組織運作及決策之效率，而將代理型AI實際應用於社會中，將直接關係到國家的經濟、國防以及技術能力。故加強日本AI產業相關之基礎建設至關重要，包含能夠適應代理型AI之算力資源、電力、制度以及政策，以全面強化日本之AI實戰能力[5]。 （二）釐清日本優勢實施AI轉型 為解決日本少子化、高齡化及產業人手短缺之問題，基本計畫強調應積極推動AI轉型（AI Transformation, AX），利用AI解決社會結構性問題，並推動AI之應用。日本之AI轉型重點在於運用其既有之優勢，著重用於產業及行政現場之領域專用型「垂直AI」（バーティカルＡＩ），以及能於現實空間中創造價值之「實體AI」（フィジカルＡＩ）。透過垂直AI蒐集與整合各領域現場之高品質資料，結合實體AI之機器人與自動化設備，將以代理型AI為首之先進AI技術，深入整合進日本製造、服務及基礎設施等產業，解決日本之社會結構性問題，創造日本獨有之價值[6]。 （三）建立AI主權，推動敏捷治理及AI協作社會 2026之AI基本計畫提出了AI主權之概念，強化技術、供應鏈及基礎建設，提高日本於AI之自主性以及談判能力，避免過度依賴特定國家或企業，建立日本之AI生態系，防止供應鏈及資料外洩風險。在敏捷治理上，面對AI既有及代理型AI所帶來之新型態風險，日本政府將積極推動「負責任之敏捷治理」。除相關法規制度之推進，亦須提升組織管理應對能力，促進創新之同時並能確保各項權益之保障[7]。 二、具體政策措施 依據前述核心理念，AI基本計畫提出政府應採取之具體措施，建立推動社會AI轉型之體制，檢視跨部會之制度及運作。 （一）打造運用AI之社會[8] 推動AI於社會中之運用，包含中小企業、地方區域以及各年齡層之國民都能於日常生活中使用AI。為能強化產業競爭力，推動於醫療、福利、農業、社會建設等公共領域使用代理型AI，透過AI之使用解決特定領域內之社會問題（如地方區域人口減少、社會基礎設施維護費用增加等）。而為能有效推動全民AI，基本計畫強調應由政府開始做起，中央政府內部之AI「源內」（げんない）將擴大應用於地方政府，推動以AI重新建構行政服務之行政AI轉型。同時配合合規採購規範之調整，確保AI之信任及透明度。 （二）強化AI基礎建設及開發戰力[9] 因應代理型AI對算力、資料及供電穩定之高度要求，日本將「AI部署能力」定義為家基礎設施，進一步建立包含資料中心、雲端、算力等資源甚至物理空間之完整AI生態系，以落實可信任AI之政策。在戰略上，確立開放之AI主權，採取多模型調度機制，以避免過度依賴特定外國企業；同時活用日本國內具有優勢之算力供應鏈以及特定場域之現場資料，積極引進國內外優秀人才，提升訓練及開發能力。政府亦將運用經濟政策及研發/設備投資租稅優惠，吸引民間資金投入基礎建設，最終開發出能解決日本自身社會問題（如人口老化、人力短缺）之AI，並將其化為能解決世界問題之工具，以強化日本之戰略不可替代性。 （三）AI風險管理及人才培育 面對AI使用導致之風險以及代理型AI引入後產生之技術、社會及網路自律攻擊等更為複雜之風險，日本政府推動敏捷治理，整合制度檢討、技術評估以及組織管理，同時強化AI安全研究所（AISI）對包含代理型AI及高性能AI（如國家安全相關）之安全評估，推動如Project YATA-Shield等強化網路安全及評估之機制。日本政府亦積極推動國際合作，並與理念相近之全球南方合作，承襲「廣島AI進程」，主導國際規則之標準制定，成為全球可信賴AI之創新核心[10]。 在日本轉型及實務層面，將推動跨領域之AI轉型，透過產官學界共同培養適當之AI人才。此外，雖鼓勵AI之使用，AI基本計畫仍強調須以人類負有最終決策責任之「人類力」為核心，防止過度依賴AI之社會以及注意AI可能產生之偏見；尤其應關注青少年自身能力之養成及其身心健康，以建構安全並可信賴之AI社會[11]。 參、事件評析 從日本2026年之AI基本計畫可看出，面對AI技術之進展以及日本社會少子化、高齡化等社會結構性問題，日本政府透過釐清日本既有之產業及技術優勢，將AI定位為能解決社會問題之工具，同時透過基礎建設強化建構AI主權。在因應人口老年化方面，日本政府結合垂直AI與實體AI，將AI導入醫療照護、物流自動化、農業及公共行政等各領域，使AI作為社會基礎並實際運用，成為協助社會問題解決之工具。而就整體戰略布局而言，則是強調國家AI主權之建構，包含強化其國家內部算力、資料及供電之基礎建設，以提升日本之自主及談判能力，並防止對他國企業之依賴，建立日本之AI生態系。於風險治理方面則是透過敏捷治理、安全評估機制以及Project YATA-Shield[12]之實施，防範代理型AI所帶來之新興網路安全風險及自律攻擊；亦延續廣島AI進程之國際合作精神，強化與全球南方國家之連結，希冀能持續主導國際AI規則之制定，提升日本之國際競爭力以及戰略不可或缺性。 日本AI計畫之修正，透過社會轉型之核心概念，將技術創新、產業應用及國際規則主導結合，建構其本土AI主權及生態系，同時仍強調人類角色於AI應用之重要性。我國同樣面臨產業轉型以及人口高齡化之社會結構，或可考慮參考日本之政策轉型，強化我國於全球AI供應鏈之較有優勢之部分，搭配推動產業AI轉型，減緩勞動力不足挑戰。而在AI基本計畫擬定層面，我國行政院依據《人工智慧基本法》第6條成立人工智慧戰略特別委員會，並制定《國家人工智慧發展綱領》[13]，推動及協調全國性之AI事務。現行《國家人工智慧發展綱領》草案中，同樣重視AI主權及相關基礎建設；於產業推動面則是規畫優先將AI導入教育、醫療、金融及司法等公共與專業服務。在AI計畫之檢視及調整上，我國《人工智慧基本法》第6條要求須每年召開會議，並審議《國家人工智慧發展綱領》，與日本AI計畫每年檢視及調整之規劃相似，皆能藉此確保整體戰略與AI技術發展之一致性。惟《國家人工智慧發展綱領》現仍尚未正式公布，未來於執行上之具體發展仍有待後續觀察。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]人工知能基本計画 ～日本ＡＸ、より強く、より豊かに～，令和８年７月14日，https://www8.cao.go.jp/cstp/ai/ai_plan/aiplan_20260714.pdf (最後瀏覽日: 2026/07/24)。 [2]人工知能関連技術の研究開発及び活用の推進に関する法律（令和７年法律第53号）。 [3]同前註，第18條。 [4]前註1，頁2。 [5]同前註1，頁2。 [6]同前註，頁3。 [7]同前註，頁4。 [8]同前註，頁7-8。 [9]同前註，頁10。 [10]同前註，頁14-15。 [11]同前註，頁18。 [12]為日本政府為因應AI導致之網路攻擊而設之應變方案。透過由國家安全局及國家網路指揮辦公室等政府機構之合作，加強因應AI技術之措施，https://japansecuritysummit.org/2026/05/14354/ (最後瀏覽日：2026/7/29)。 [13]，行政院網站，https://www.ey.gov.tw/Page/9277F759E41CCD91/e7954aaa-25ce-4b85-9747-f70d06da9ef5 (最後瀏覽日：2026/08/03)。
2016年生物支付技術將可能取代傳統支付型態根據美國公共電視台在2016年1月6日的新聞，指出生物支付將可能成為新興支付工具。生物支付之定義為利用生物辨識(biometric)技術驗證個人生物特徵，諸如：指紋、虹膜等進行支付。採用生物支付技術，未來將無須使用信用卡或行動裝置，僅需要個人生物特徵之辨識即可完成交易。此轉變將使未來交易更加快速、便利，但同時，生物支付的安全性卻也不無疑義。 即便生物辨識屬於高層級的資訊安全保護機制，但水能載舟，亦能覆舟。生物辨識利用生物不可變之特性進行身分識別，涉及高度個人隱私，為妥善保護個人資訊安全，需訂立生物辨識相關規範加以管制，否則將衍生許多法律問題。 例如：在2015年6月，美國線上出版商Shutterfly公司被控訴違法蒐集個人資料。原告稱其並非Shutterfly公司之註冊使用者，也從未同意其生物辨識資訊被該公司蒐集，但其面紋(Face print)卻被上傳至該公司網站，並標註姓名，儲存在自動針對相片標記臉部辨識系統之資料庫。 依據BIPA針對生物辨識定義及蒐集規範： 1.第10條： 生物辨識之態樣，包含視網膜、虹膜掃描、指紋或是手部、臉部外觀之掃描，但不包括簽名、照片、用於科學檢測之人體樣本、頭髮顏色等。 2.第15條(a)： 規定公司蒐集個人生物特徵資訊應有相關規範供公眾查閱，並應提供生物辨識資訊之保管及銷毀日期及相關資訊。 3.第15條(b)(1)： 蒐集生物辨識資訊應告知當事人。 Shutterfly公司提出要求法院不受理之抗辯，主張BIPA規定之臉部外觀，其文意解釋應為物理上個人親自接受掃描所得之資訊，並非原告所主張以照片辨識之臉部外觀，但法院認為Shutterfly之主張並不合理，因此同意受理此案。 觀察該案可發現，儘管生物辨識提高資訊安全之保護，但相關法規範解釋仍待實務完備。另一方面，生物特徵資訊極易被他人蒐集，因此，如何建置蒐集個人辨識資訊及完善相關措施，也是推行生物支付措施所需突破的關口。
歐盟「開放網路規則」實施指引歐盟會員國電子通訊傳播監理機關組織(Body of European Regulators for Electronic Communications, BEREC)於2016年8月公布「歐盟會員國網路中立規則監理機關執行指引」(BEREC Guidelines on the Implementation by National Regulators of European Net Neutrality Rules)。本執行指引係依歐盟於2015年11月通過之「有關開放網路近用並修正全球服務與使用者有關電子通訊網絡與服務之第2002/22/EC號指令以及於歐盟境內於公用行動通訊網絡進行漫遊之第531/2012號規則」的第2015/2120號規則(下稱「開放網路」規則)第5條第(3)項所訂定，用以作為歐盟各會員國相關監理機關於實施「開放網路」規則時之參考依據。 以網路中立性所蘊涵之不歧視原則為例，「開放網路」規則第3條第3項第一段規定，「網際網路近用服務提供者於提供相關服務時，對所有流量應平等對待(treat all traffic equally)，而無歧視、限制、或干擾，且亦不論係對於發送方與接收方、所近用或散布之內容、所使用或提供之應用或服務、或所利用之終端設備」。對此，執行指引明確表示，不歧視原則是網際網路服務提供者在提供網路近用服務時之義務，且對於本項之違反，亦將同時構成對於終端使用者受「開放網路」規則第3條第1項所保障權利之侵害。不過執行指引也強調，各會員國相關監理機關應該注意到，所謂的「平等對待」不必然意味著所有終端使用者都將體驗相同的網路效能或服務品質。
智慧財產權盡職調查（IP Due Diligence）智慧財產權盡職調查（Intellectual Property Due Diligence, IP DD），又稱智慧財產權稽核（IP Audits）。所謂盡職調查（Due Diligence, DD）係指：即將進入投資或購買交易前，投資者或其委託人透過事實證據所進行與投資或購買相關的評估。評估內容包含公司結構、財務狀況、業務、稅務、人力資源等，亦涵蓋有形資產與無形資產。其主要目的在於釐清該投資或購買是否存在潛在的法律風險。隨智慧財產權的概念愈來愈成熟，智慧財產權盡職調查也益發重要。智慧財產權盡職調查的內容常會包含：財產權（如：註冊地域、質押或保全情形）、授權或轉授權限制、申請之時期、優先權效期、爭議或訴訟（如：是否存在專利權無效之風險）。智慧財產權盡職調查的資料蒐集方式除了調閱智慧財產權申請記錄（file wrapper）、保密契約、授權文件，常見調查方式亦包含訪談重要員工和審閱發明人的僱傭契約。 假若沒有善盡智慧財產權盡職調查，很可能會後續引發潛藏的風險，諸如：估值錯誤、交易可能會因為未提前排除繁冗細節而遲延進而影響投資人意願、可能會導致必須重新談判，最嚴重可能必須放棄整個交易。未善盡智慧財產權盡職調查著名的實例是蘋果（Apple）與唯冠的iPad商標爭議。2006年蘋果策畫平板電腦並希望以iPad為名，台灣的唯冠集團早在2000年起於多國註冊iPad電腦商標。2009年蘋果透過英國子公司以3.5萬英鎊收購唯冠的iPad全球商標，並於2010年推出iPad。因為蘋果的智慧財產權盡職調查疏漏，而未發現iPad於中國大陸之商標權屬於深圳唯冠公司而非台灣唯冠，所以不能進入中國大陸市場。最後，蘋果與深圳唯冠以6,000萬美元鉅額和解。從iPad案可窺知智慧財產權盡職調查之重要性。