落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國哥倫比亞特區聯邦地方法院於今（2010）年8月23日作出暫時禁制令（preliminary injunction）的裁定，要求聯邦政府不得資助胚胎幹細胞（embryonic stem cell）之研究。本案是源自於2009年歐巴馬總統以行政命令（Executive Order 13505號）將小布希政府時代對胚胎幹細胞研究之限制予以放寬，讓科學家使用民間經費所製造之胚胎幹細胞株進行研究時，可申請聯邦經費的支持，美國國家衛生研究院隨後並提出人類幹細胞研究指導方針。 不過，對於此項新政策，部分保守團體及宗教團體也紛紛表示不滿，並進而支持成體幹細胞（adult stem cell）研究者James Sherley在內的原告，以衛生部違反聯邦法規，並且影響其申請經費為由，向法院提出訴訟。本案承審法官Royce Lamberth認為，1996年國會通過「Dickey-Wicker修正案」已禁止以聯邦經費資助毀壞人類胚胎的所有研究活動，而胚胎幹細胞研究必然伴隨著人類胚胎的毀壞，因此本案有違反Dickey-Wicker修正案之虞。在原告具有聲請暫時禁制令的要件下，包括勝訴可能性、無法彌補之損害、利害權衡以及公共利益等，裁定發出暫時禁制令。 這項裁定震撼了美國行政部門及科學界，過往對於Dickey-Wicker修正案，自柯林頓政府以降，行政部門均理解為聯邦政府不得資助毀壞人類胚胎之研究，但對於使用民間經費所製造之胚胎幹細胞株，則不在此限。因此本案法官之看法實已挑戰行政部門十多年來之共識，本案後續將如何判決，以及是否將促使行政部門提出法律修正案直接規範，將是後續觀察重點。
美國發明法(Leahy-Smith America Invents Act, AIA)於今年(2013)3月16日全面生效美國發明法(Leahy-Smith America Invents Act, AIA)於今年度(2013)3月16日全面實施，係近年來美國專利制度的重要變革，茲就AIA第三階段生效的重點介紹如下: １.專利權申請制度的變革 為促進美國專利制度與國際接軌、保障發明人權利，專利申請權歸屬將由原本的「先發明制」(First to Invent)，改為發明人「先申請制」(First Inventor to File)。簡言之，是以「有效申請日」先後決定專利權歸屬。 2.新穎性標準的修改 修法後的新穎性標準係以「有效申請日」為斷。惟，新法仍保留新穎性寬限期（grace period）之規定，為避免採行「先申請制」而延宕發明技術公開之窘境，新法限縮申請人享有寬限行為的範圍，僅限於「發明人的公開行為」才不構成先前技術之公開。 上述兩項修法內容皆於3月16日正式生效。美國總統歐巴馬於2月的座談會中公開表示，AIA為其任內推動的重要修法，顯示政府欲藉由法制改革，打擊專利蟑螂濫訴的決心。
美國國際貿易委員會（USITC）指出中國大陸對侵害智財權執法不力成為美國企業嚴重問題美國國際貿易委員會(United States International Trade Commission)最新公布一份報告指出，中國大陸對於侵害智慧財產權（中國大陸稱知識產權）的立法與執法不力，在中國市場降低了美國企業的獲利能力，例如產品被非法與低成本的仿冒。 報告指出，中國大陸因為重大的結構性與體制性障礙，妨礙了對智慧財產權侵害的執法效果，包括地方政府對侵害企業的保護，各政府單位間缺乏協調，執法的資源與人員訓練不足，相關的民刑事法令也缺乏嚇阻效果。 由於中國大陸對智慧財產權侵害的執法不力，助長中國境內廣泛的侵害美國公司的商標、專利、營業秘密等權利，對於許多美國公司，特別是小公司而言，智慧財產權是重要資產，但缺乏在中國境內保護自己智慧財產權的資源。 報告還指出，在2009年所有美國海關扣押貨物的案件中，來自中國大陸佔79％，來自香港佔10％，整體金額達到2.047億美元。中國大陸有24萬家網咖，使用非法軟體。中國大陸的產品與商標仿冒問題仍十分常見，就算是支付權利金，與其他國家比較，中國大陸所支付的智慧財產權利金僅是一小部分。
日本發布Startup交易習慣之現況調查報告最終版，統整新創事業實務上遭遇不公平競爭行為之態樣日本公平交易委員會於2020年11月27日發布「Startup交易習慣之現況調查報告最終版」（スタートアップの取引慣行に関する実態調査について最終報告），主旨為揭露其國內新創事業於交易市場遭遇不公平競爭行為的調查結果。本報告的作成目的，係基於新創事業發展具備推動創新、活絡國內經濟之潛力，故針對各類型新創事業在參與市場交易時，有無因其與相對人間的不對等地位（因需仰賴相對人提供資金或資源），遭遇不公平競爭的情況進行調查。同時，本報告所公布的調查結果，將會作為未來訂定新創事業與合作廠商間契約指引的參考依據，以圖從制度面改善新創事業參與市場的競爭環境。 本報告書所調查的交易態樣，聚焦於容易出現不公平競爭行為的契約或競爭關係，並分別整理主要的行為態樣如下：（1）新創事業與合作廠商間之契約：要求新創事業揭露營業秘密、約定對合作廠商有利的保密協議條款、無償進行概念驗證（Proof of Concept）、無償提供授權、於共同研究契約中約定智財權僅歸屬合作廠商、延遲給付報酬予新創事業等；（2）新創事業與出資者間之契約：要求新創事業揭露營業秘密、負擔出資者外包業務予第三人之費用、購買不必要的商品或服務、提供片面優惠待遇、限制新創事業的交易對象等；（3）新創事業與其他競爭廠商間之關係：競爭廠商要求交易相對人不得向與其存在競爭關係之新創事業買入競爭性商品；競爭廠商針對特定新創事業設定較高的商品售價，而事實上拒絕與其進行交易等。同時，依據報告書，在與合作廠商或出資者進行交易、或訂定契約的過程中，約有17%的新創事業表示曾遭遇「無法接受的行為」（納得できない行為），且當中有約八成的新創事業妥協接受。其中，若為銷售額未滿5000萬日圓、且公司未配有法務人員的新創事業，遇到無法接受行為的事業家數為銷售額5000萬日圓以上、且公司有法務人員之新創事業的2.5倍。