落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國於2018年10月5日，通過《2018年地理空間資料法》（Geospatial Data Act of 2018，下稱《GDA 2018》），並編列入《2018年美國聯邦航空總署重新授權法案》（Federal Aviation Administration Reauthorization Act of 2018）。該法是接續《2017年地理空間資料法》（Geospatial Data Act of 2017，下稱《GDA 2017》），做出進一步的調整。 《GDA 2017》的核心目標就是要根本性地重整管轄權，以順利發展「國家空間資料基礎建設」（National Spatial Data Infrastructure）。要點如下： 原先美國有許多管轄的地理空間資料旁枝機構，工作重疊性高、權責不清，《GDA 2017》指定「聯邦地理空間資料委員會」（Federal Geographic Data Committee, FGDC）作為權責機關，並管理國家空間資料資產（National Geospatial Data Asset）。 指定「國家地理空間資料諮詢委員會」（National Geospatial Advisory Committee, NGAC），提供FGDC建議並進行監督。 擴充「地理空間資料」的定義，把所有量測（Survey）和製圖（Mapping）成果解釋成地理空間資料（Geospatial Data）。 《GDA 2018》進一步提出規範，明確化地理空間資料管理： 回饋報告 要求執行與地理空間相關計畫的聯邦單位，提供年度報告；並要求聯邦地理空間資料委員會（FGDC）按《GDA 2017》所列的職責，對於所有相關單位進行評估報告。這些評估報告會提交給國家地理空間資料諮詢委員會（NGAC）寫成報告，在兩年內提供給國會。 國家空間資料基礎建設 明確設立兩個目標：第一個目標是地理空間資料的隱私管理和安全性保障；第二個目標則是建置全球空間資料基礎建設。 國家空間資料資產 希望FGDC會能夠就各個主題指定專責機構進行管理。
英國競爭與市場管理局發布人才競爭指引英國競爭與市場管理局(Competition and Markets Authority，簡稱CMA)於2025年9月9日發布人才競爭指引(Competing for Talent)，說明企業在勞動市場中採取何種行為可能會違反競爭法。 指引中指出三項於勞動市場中可能會違反競爭法的行為，分別是： (1)禁止挖角(no poach)：指企業同意不向其他企業招募現職員工，或同意在未經他企業許可前，接觸或招募該公司的現職員工，此一行為可能違反競爭法；惟須考量與禁止招募條款(no-solicitation clauses)之差異，禁止招募條款係為避免企業離職員工或合作企業於一定期間內直接或間接招募企業員工、客戶或其餘合作夥伴，禁止招募條款於合理必要範圍內之限制並不違反競爭法。 (2)固定薪資(wage fixing)：此為CMA近期的執法重點，指二個以上之企業就薪資及員工福利達成協議，包含薪資調漲幅度、設定薪資上限，或是依產業工會建議薪資來固定員工薪資等等。 (3)交換競爭敏感資訊(exchange of competitively sensitive information)：係指競爭對手間不應交換競爭敏感資訊，包含定價方式、商業策略等等，即使接收方未根據獲得的敏感資訊採取對應措施，提供資訊方仍被認定為違反競爭法。 上述協議不以正式或是書面之方式達成一致為必要，企業間的社交聯繫、非正式的互動或君子協議(gentleman’s agreements)均屬之，且皆可能違反競爭法，違法之企業可能會面臨全球營業總額10%的罰款、禁止參與政府採購、面臨私人損害賠償訴訟等結果。 近年勞動市場與競爭法之議題正逐漸受到重視，除了英國，美國、歐盟、日本等亦發布相關指引文件，或對違反競爭法之企業進行調查或裁罰。我國公平交易委員會目前尚未針對此議題提出明確的論述，企業於勞動市場中限制競爭之行為，究竟如何適用公平交易法或屬勞動法範疇，仍有待相關部會進一步討論，相關國際發展趨勢仍可持續觀察作為我國公平交易法制發展後續參考方向。
美國商務部工業暨安全局公布「確保聯網車輛資通訊技術及服務供應鏈安全」法規預告.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 美國商務部工業暨安全局（Bureau of Industry and Security, BIS）於2024年9月23日公布「確保聯網車輛資通訊技術及服務供應鏈安全」（Securing the Information and Communications Technology and Services Supply Chain: Connected Vehicles）法規預告（Notice of Proposed Rulemaking, NPRM），旨在透過進口管制措施，保護美國聯網車供應鏈及使用安全，避免國家受到境外敵對勢力的威脅。 相較於BIS於2024年3月1日公布的法規制定預告（Advanced Notice of Proposed Rulemaking, ANPRM），NPRM明確指出受進口管制的國家為中國及俄國，並將聯網車輛資通訊技術及服務之定義，限縮於車載資通訊系統、自動駕駛系統及衛星或蜂巢式通訊系統，排除資訊洩漏風險較小的車載操作系統、駕駛輔助系統及電池管理系統。NPRM定義三種禁止交易型態：（1）禁止進口商將任何由中國或俄國擁有、控制或指揮的組織（下稱「中俄組織」）設計、開發、生產或供應（下稱「提供」）的車輛互聯系統（vehicle connectivity system, VCS）硬體進口至美國；（2）禁止聯網車製造商於美國進口或銷售含有中俄組織所提供的軟體之聯網整車；（3）禁止受中俄擁有、控制或指揮的製造商於美國銷售此類整車。 NPRM亦提出兩種例外授權的制度：在特定條件下，例如年產量少於1000輛車、每年行駛公共道路少於30天等，廠商無須事前通知BIS，即可進行交易，然而須保存相關合規證明文件；不符前述一般授權資格者，可申請特殊授權，根據國安風險進行個案審查。其審查重點包含外國干預、資料洩漏、遠端控制潛力等風險。此外，為提升供應鏈透明度並檢查合規性，BIS預計要求VCS硬體進口商及聯網車製造商，每年針對涉及外國利益的交易，提交符合性聲明，並附軟硬體物料清單（Bill of Materials, BOM）證明。BIS針對此規範是否有效且必要進行意見徵詢，值得我國持續關注。
FCC核准拍賣700MHz頻譜波段，作為各式無線服務的使用有鑑於目前美國的廣播電視系統所使用的698-806 MHz 頻譜波段（一般稱作700MHz頻段），預計在由類比式的電視系統轉換至數位電視系統後，該頻段可完全地為各類無線服務所使用，包括公共安全以及商業服務，聯邦通訊傳播委員會（Federal Communications Commission, FCC）在2007年4月25日對此採納了「報告與命令」（Report and Order）以及「規則制訂建議的進一步通告」(Further Notice of Proposed Rulemaking )等文件作為相關規範。 關於700 MHz頻段的使用，目前FCC正朝下列三個面向來規劃： (1) 在商用服務方面，FCC以不同經濟規模的區域（如都會區、較大的經濟區塊等）來決定執照的發放，同時也制訂了如功率限制及其他的技術性規範。 (2)在保護頻道（Guard Bands）方面，FCC將改變目前在次級市場方面的租賃管理制度，使取得執照的業者在保護頻道的使用上更有彈性與效率； (3) 在公共安全頻段方面，FCC認為藉著更多頻段的釋放，使全國不同的網路（包括寬頻與窄頻）皆能全面達成互連，使危難發生時更得以發揮保障公共安全之功能。 上述相關的規則與建議將使FCC得以拍賣700 MHz頻段中不同用途的執照，並期待在全國性無線寬頻服務的互連方面，營造出更為創新以及符合公共安全的服務環境。