落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國國際貿易委員會(United States International Trade Commission)最新公布一份報告指出，中國大陸對於侵害智慧財產權（中國大陸稱知識產權）的立法與執法不力，在中國市場降低了美國企業的獲利能力，例如產品被非法與低成本的仿冒。 報告指出，中國大陸因為重大的結構性與體制性障礙，妨礙了對智慧財產權侵害的執法效果，包括地方政府對侵害企業的保護，各政府單位間缺乏協調，執法的資源與人員訓練不足，相關的民刑事法令也缺乏嚇阻效果。 由於中國大陸對智慧財產權侵害的執法不力，助長中國境內廣泛的侵害美國公司的商標、專利、營業秘密等權利，對於許多美國公司，特別是小公司而言，智慧財產權是重要資產，但缺乏在中國境內保護自己智慧財產權的資源。 報告還指出，在2009年所有美國海關扣押貨物的案件中，來自中國大陸佔79％，來自香港佔10％，整體金額達到2.047億美元。中國大陸有24萬家網咖，使用非法軟體。中國大陸的產品與商標仿冒問題仍十分常見，就算是支付權利金，與其他國家比較，中國大陸所支付的智慧財產權利金僅是一小部分。
美國FTC警告科技公司，不應迫於外國勢力而削弱對消費者之隱私與資料安全保障美國聯邦貿易委員會（Federal Trade Commission）主席Andrew N. Ferguson於2025年8月21日發信給13家科技公司，其中包含Alphabet、Amazon、Apple、Microsoft、Meta、X等國際知名科技公司，警告他們有義務保護美國消費者隱私與資料安全，若在外國政府施壓下審查美國公民的資料，將有違反《聯邦貿易委員會法》（Federal Trade Commission Act, FTC Act）之虞。 信中指出，科技公司可能為遵循外國法規或迫於外國政府壓力，削弱對美國公民的隱私及資料安全保護。如歐盟《數位服務法》（Digital Services Act）、英國《網路安全法》（Online Safety Act）期望科技公司審查用戶言論內容；而英國《調查權力法》（Investigatory Powers Act）則為滿足英國政府取得用戶儲存資料之目的，要求科技公司削弱原本對用戶採行之點對點加密措施。Ferguson主席更表示：「外國勢力審查及削弱加密措施等行動，將侵害美國公民的自由或使美國公民遭受各種危害，例如受外國政府監視、增加身分盜用與詐騙風險」。 信中亦提及，科技公司在遵守外國法律及相關要求的同時，仍須遵守FTC Act第5條規定，亦即禁止企業在市場中進行不公平或欺騙性行為的規定。同時也表示，過去20年來，FTC已對未能履行消費者資料安全或隱私承諾之公司提起數十起訴訟，並將持續要求蒐集、使用、分享或傳輸消費者個人資料的公司，應採取合理的安全措施，藉此確保消費者權益。
美國競爭法主管機關發布反托拉斯執法與智慧財產權報告美國司法部（Department of Justice, DOJ)及聯邦貿易委員會（Federal Trade Commission, FTC)於今（2007）年4月中旬，公布了眾所矚目的「反托拉斯執法與智慧財產權報告」（Antitrust Enforcement and Intellectual Property Rights, Antitrust-IP Report）。本報告綜整歸納DOJ與FTC於2002年所舉行的一系列名為「知識經濟時代之競爭與智慧財產權法制政策」（Competition and Intellectual Property Law and Policy in the Knowledge-Based Economy）公聽會重點，以及來自於不同利益團體與產業代表之看法。 DOJ與FTC於1995年曾公布「智慧財產授權之反托拉斯指導原則」（Antitrust Guidelines for the Licensing of Intellectual Property，以下簡稱1995年指導原則），基本上，甫公布的「反托拉斯執法與智慧財產權報告」的內容，重申DOJ與FTC過去依1995年指導原則的執法實務與政策，報告也特別針對幾種經常引起疑義的智慧財產運用態樣，諸如搭售（tying）：專屬交易（exclusive dealing）、特殊授權條款、專利聯盟（patent pools）、交互授權（cross-licenses），肯認其亦有加強競爭並有利於消費者的效果，故DOJ與FTC將會依合理原則（rule of reason）評估個別契約的合法性，而不會逕認其係本質違法（per se unlawful）。所謂合理原則，係指由法院及競爭法主管機關，就特定協議之有利於競爭效果與反競爭效果間進行權衡，以判斷其對整體市場競爭與消費者福祉所產生之影響。 此外，DOJ與FTC也針對個別的行為，如單方拒絕授權（unilateral Refusals to License）、標準制定（standard setting）、交互授權（cross-licenses）、專利聯盟（patent pools）、使專利期間延長於法定保護期間之外（extending patent rights beyond the statutory term）等，於報告中揭示其所持的一般管理政策。
法國憲法委員會認定HADOPI法「三振條款」違憲延續本中心前幾期對於法國國會於今年5月所通過的「支持網路創作傳佈及保護法」（loi favorisant la diffusion et la protection de la création sur Internet，簡稱loi création et internet；又因該法中特別設立所謂的「網路著作散佈及權利保護高等署」（Haute Autorité pour la Diffusion des Œuvres et la Protection des Droits sur Internet，通常簡稱HADOPI）作為執行本法相關任務之獨立行政機關（autorité administrative indépendante），故本法又被稱為HADOPI法）中相關議題的報導，本次將簡要介紹法國憲法委員會（Conseil constitutionnel）於今年6月10日所作出（Décision n° 2009-580 DC du 10 juin 2009）對於該法所制定「三振條款」認定違憲之理由。 在進入憲法委員會此一決定前，須先說明HADOPI法的性質：依據本法第1條及第2條之指示，此一法律主要係修正及增補「法國智慧財產權法典」（Code de la propriété intellectuelle）之相關規定，特別是透過電子及網路傳輸之著作物（œuvres）的保護措施，並將原法典中「技術措施管理署」（l'Autorité de régulation des mesures techniques）更改為前述之「高等署」，並透過調整權限及組織內容之方式，賦予其「獨立行政機關」之地位─而特別值得注意的，則是此一獨立行政機關的9位委員中亦包括由中央行政法院（Conseil d'État）、法國最高法院（或稱「廢棄法院」；Cour de cassation ）、審計法院（Cour des comptes）等指派之成員。而所謂的「三振條款」，即是本法第5條（亦為增補後之智慧財產權法典第L. 331-25〜331-27條、）中所規定之：如網路用戶於接獲兩次由HADOPI所寄發之「違反勸阻通知」（recommandation）後依然違反智慧財產權法典第L. 336-3條所賦予之義務（禁止透過網路傳送服務對於受著作權及其他相近權利保護之著作進行非法複製、再現等；最常見之形式即為非法下載）時，HADOPI即可在進行「對辯程序」（procédure contradictoire，包括事前通知、卷宗閱覽、書面陳述意見，以致若經當事人要求須進行有律師或輔佐人陪同之正式聽證程序）後，對其進行裁罰（sanctions），最長可處使用者全面中斷（suspension）一年的網路服務。 因此，在法國憲法委員會對於此一法案的審議中，其關注重點即落在對於HADOPI是否可做出此種對於網路服務使用者進行中斷服務的裁罰之上。而主要基於2項理由，憲法委員會認為此一裁罰違反憲法： 1.此一中斷服務之裁罰雖可視為係達成此一法律任務所必要之措施，但因其涉及限制人民之自由及權利，故其實具有刑罰（punition）之性質；從而依據權力分立原則，能夠享有判斷並做出此一裁罰決定之權限者，僅為法院，而非行政機關。 2.而就算強調此一裁罰係由包含司法部門成員的獨立行政機關所做成，其依然違反了憲法前言、1789年法國人權及公民權宣言中所指涉及保護的基本權利，其中包括宣言第9條的「無罪推定」，以及在本案中具備決定性之宣言第11條「思想及意見自由傳達」的權利：因為在現代民主社會發展中，使用傳播工具及網路服務已是實現此一自由所不可或缺者；從而政府中斷網路服務之裁罰行為本身，已損及人民接近使用網路服務的基本權利。 然而，儘管法國憲法委員會在其決定中否認了HADOPI法中「三振條款」的合憲性，但因除去此一部份違憲條文外，整體HADOPI法仍通過了本次的憲法考驗，且HADOPI此一機關本身之正當性亦藉此取得確定。從而，HADOPI於後續實際案例中將會如何解釋適用此一法律，顯然是日後必須持續關心的重要議題。