落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
韓國通訊委員會（Korea Communications Commission，KCC）主席Choi See-jung於2010年4月21日宣布韓國政府將推動一項新的「無線網路活化計畫」（comprehensive plans for wireless internet activation），預計在未來五年間投入1兆5000億韓圜，與民間共同合作發展無線網路建設，以搶佔智慧行動領域的發展先機。 因應智慧手機發展速度倍增在政治面上帶來的需求，韓國政府希望透過本計畫能將南韓建設成「智慧行動領域的發電所（powerhouse）」。並據此願景規劃了4個政策目標、10項策略方案。此四個政策目標包括：確保在智慧行動領域的全球競爭力、推動智慧手機的普及與生產應用、營造世界最高水準的無線寬頻網路、強化下世代行動科技的發展與人才培育。 KCC將組成「網路去管制推動小組」（Internet de-regulation promotion team），於4月底開始著手進行包括定位資料保護、用戶識別系統和智慧手機的金流安控等領域的法規檢視與修正工作。 KCC預測能藉此創造12,535個工作機會、促進3,648億韓圜的產值。KCC同時解釋，透過對無線網路的活化應用，支持在各層面的創新應用發展（包括醫療服務、商業活動、教育等領域），此時正是奠定韓國成為行動服務核心業務強國的時機。
「達文希密碼」的著作權爭議「聖血及聖杯」作者邁可貝奇及理查李伊於今年二月在英國高等法院對暢銷書「達文西密碼」出版商「藍燈書屋」（Random House）提出訴訟，主張「達」書作者丹布朗抄襲「聖」書中的若干想法（ideas）及主題（themes），包括其研究多年的「耶穌血脈理論」，因而侵害其著作權。 被告律師對於原告所提之控訴表示，「聖」書中的若干創意在本質上具備高度普遍化特質，無法成為著作權保護之客體。而原告律師亦強調，本案爭論重點並不在於「忽視他人創意成果」或是「獨佔想法或歷史事件」，主要是證明「達」書作者大量依賴「聖」書內容而完成「達」書。原告希望取得禁止令禁止「達」書使用「聖」書資料，此舉將迫使原訂今年5月中旬由湯姆漢克主演之原著電影延後上映。 著作權法之核心精神是保護「表達」，而非「想法」。對於同一題材之文學作品要區分何者屬表達，何者屬想法，並非易事。本案的出現僅是再次印證理論與實務之差距，而本案之後續發展亦值得繼續關注。
美國交通部發布國家道路安全戰略，建立五大核心目標期待實現道路零死亡願景美國交通部（U.S. Department of Transportation）於2022年1月27日發布「國家道路安全戰略」（National Roadway Safety Strategy, NRSS），向道路零死亡的長期目標邁出第一步。NRSS採取「安全系統方法」（Safe System approach）作為解決道路安全問題的指導性框架，其內容涵蓋行為干預（behavioral interventions）、道路應對措施（roadway countermeasures）、法律與政策之執行、車輛安全特性與性能，及緊急醫療照護等層面。不同於傳統安全方法，安全系統方法承認人為錯誤與人性脆弱的事實，基於道路死亡應可預防之原則，利用可提前準備的主動工具（Proactive Tools）預先識別並解決交通系統中的問題，並且建立一套能有效解決或降低風險的備援系統（redundant system），以確保某一環節發生故障時，其餘部份仍可正常運作。 NRSS將以五大核心目標為主軸，規劃全面性的安全措施，以實現道路零死亡願景。上述五大核心目標包括： （1）更安全的人們（safer people）：鼓勵用路人採取安全、負責之行為，避免酒駕或毒駕等危險行為。 （2）更安全的道路（safer roads）：設計可減少人為錯誤之道路環境，提高脆弱用路人安全移動之可能性。 （3）更安全的車輛（safer vehicles）：透過改進既有技術與設備，並擴大對有效防止碰撞及使影響最小化的車輛技術與功能之使用，提高車輛安全性並降低碰撞頻率，例如：透過先進駕駛輔助系統（Advanced Driver. Assistance Systems, ADAS）預防或減輕碰撞的影響；或是利用偏離車道警示系統對車輛進行監控與紀錄，如檢測到車輛偏離車道，則立即向駕駛發出警報。此外應建立公共資訊資料庫，以便提供資訊幫助車輛安全行駛。 （4）更安全的速度（safer speeds）：透過結合環境的道路設計、教育與推廣活動，以及活用自動測速器、依路段環境進行速限等方式，有效控制車輛行駛速度。 （5）事故後照護（post-crash care）：透過完善緊急醫療照護提高事故存活率，並落實交通事故管理，避免事故再次發生。
美國FTC認為政府擴大拜杜法權介入權適用範圍將引發專利叢林危機美國聯邦貿易委員會（Federal Trade Commission, FTC）於2024年2月6日針對「介入權指引草案」（Draft Interagency Guidance Framework for Considering the Exercise of March-In Rights）提交意見書。介入權指引草案由美國國家標準技術研究院（National Institute of Standards and Technology, NIST）2023年12月8日公布於聯邦公報（Federal Register），旨在訂立政府機關發動《拜杜法》（Bayh-Dole Act）第203條「介入權」（March-in rights）之判斷流程與標準，以確保介入權發動具一致性。根據草案內容，當受政府補助之研發成果若經商業運用後被以「不合理價格」販售，而未滿足民眾健康與安全需求時，提供補助之政府機關應適時介入。 然而，介入權指引草案將「價格合理性」納入介入權發動要件，被美國各界質疑係為達成拜登政府打擊藥價之政策目的，亦即透過擴大、強化介入權之方式，將「受政府補助之專利藥」強制再授權專利，以降低藥品價格。 FTC於意見書中亦對此爭議提出看法，認為美國人民就處方藥須支付不斷上漲之昂貴價格，雖然賦予各機關審查「價格合理性」，將使得介入權發動更為廣泛且靈活，並得以監督藥品價格。惟擴大、強化介入權仍有隱患，尤其製藥公司恐為了保護其藥品專利，因此擴大申請專利權範圍導致專利叢林（patent thicket）現象產生，例如除將活性成分申請專利外，另將製程、劑型亦申請專利，此為未來各政府機關應該共同解決之問題。