落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國聯邦貿易委員會(Federal Trade Commission，以下簡稱FTC)在2016年2月針對一款宣稱能矯正視力之Ultimeyes App處罰。此款App由Carrot Neurotechnology公司研發，以美金9.99元於平台上販售供民眾下載。App宣稱具有提升及改善視力功能，透過App使用即可在日常生活中的各種活動中，感受視力恢復而不需使用眼鏡。然而，FTC起訴認為，App所稱之使用療效，缺乏充分的文獻資料佐證說明。其必須具備完整及可信賴的科學證據來證明，包含臨床試驗或盲測等方式，且該科學證明必須符合相同領域專家所認定之標準，否則，該款App內容所標榜之效果即屬不實陳述，將造成民眾誤認。為此，Carrot Neurotechnology公司最終以美金15萬達成和解，並且經FTC要求，若將App說明當中未經科學證明的療效部份予以刪除，即可繼續再繼續販售此款App。此案並非美國FTC首度針對mHealth App處罰之案例，然而，可能造成mHealth App發展業者對FTC與FDA角色之間之混淆，後續兩者主管機關之間之角色如何調和將是未來關注之重點。反觀我國，目前雖無相關案例發生，然在鼓勵發展之際，亦應考量是否有違反消費者保護之情形。
日本制定民間個人健康紀錄業者蒐集、處理、利用健康資料之基本指引草案日本厚生勞動省、經濟產業省和總務省共同於2021年2月19日公布「有關民間個人健康紀錄（Personal Health Record, PHR）業者蒐集、處理、利用健康資料之基本指引」（民間PHR事業者による健診等情報の取扱いに関する基本的指針）草案，檢討民間PHR業者提供PHR服務之應遵守事項，希望建立正確掌握和利用個人、家族健康診斷或病例等健康資料之電子紀錄制度。 本指引所稱之「健康資料」，係指可用於個人自身健康管理之敏感性個人資料，如預防接種、健康診斷、用藥資訊等；而適用本指引之業者為蒐集、處理、利用上開健康資料並提供PHR服務之業者。根據指引規定，PHR業者應針對資訊安全對策、個人資料處理、健康資料之保存管理和相互運用性及其他等4大面向採取適當措施。首先，在資訊安全對策部份，業者需取得風險管理系統之第三方認證（如資訊安全管理系統制度（ISMS））；其次，針對個人資料，業者應制定隱私政策和服務利用規約，並遵守個資法規定；然後，為確保健康資料之保存管理和相互運用性，系統應具備雙向資料傳輸之功能；最後，本指引提供檢核表供業者自行檢查，業者亦應在網站上公佈自行檢查結果。
日本智慧交通挑戰計畫日本經濟產業省於2018年召開「IoT和AI可能衍生之新型態交通服務研究會」（IoTやAIが可能とする新しいモビリティサービス関する研究会），並於2019年4月公布「朝向新型態交通服務之活性化」（新しいモビリティーサービスの活性化に向けて）報告；國土交通省亦自2018年底起召開「都市與地方新型態交通服務懇談會」（都市と地方の新たなモビリティサービス懇談会），於2019年3月公布中間結果。經產省和國土省根據上述會議結論，自2019年4月起，發起支援地方政府挑戰推動新型態交通服務之新計畫「智慧交通挑戰」（スマートモビリティチャレンジ）。 「智慧交通挑戰」計畫之目的，在於促使地方政府與企業合作，以實現自動駕駛社會，並透過新型態交通服務解決既有交通問題和加速地方活性化，其具體措施包括︰（1）透過設置「智慧交通挑戰推進協議會」及舉辦論壇，促進地方政府和企業間共享資訊，形成工作網路；（2）經濟產業省補助新型態交通服務實用化、計畫制定和效果分析等計畫；（3）國土交通省補助MaaS等新型態交通服務實驗，以及建構以解決地區交通服務為目的之模型等計畫。經產省與國土省分別自4月起對外公開募集提案，最終於75個提案中選出28個計畫，將於今年起陸續施行。
OASIS網路標準服務遭抵制開放原始碼及自由軟體的大老等發起一封抵制網路服務標準機構OASIS新專利政策的活動，並簽署了一份電子郵件，呼籲社群不要採用由OASIS標準組織所通過的規格。OASIS本月修改了它的專利政策，宣稱為開放原始碼軟體的開發提供了更好的選擇。 這份電子郵件中表示，不要採用OASIS的不開放標準。要求OASIS修改它的政策。如果你是OASIS成員，對於這種窒礙難行，不能用在開放原始碼及自由軟體上的標準，不要參與其工作小組。支持者亦表示，希望類似OASIS這樣的組織能訂出明確政策，好讓所有想採用業界標準的組織可以預先知道未來是否會被收費。 然而，OASIS為自己的政策修改提出辯護，也對這個活動加以反擊。其表示，OASIS這個政策和W3C的政策一樣，都要求必須免權利金才行。且其政策規定，業界標準可以加入專利技術，但必須對外公佈此事才行。而且幾乎在所有的案例裡，這倒頭來都會變成免專利金。 OASIS所修改的政策為標準工作提出了三種模式：RAND（reasonable and nondiscriminatory licensing，合理且統一的授權）；RAND條件下的RF（免權利金）；或者是有條件下的RF。 對於OASIS的杯葛，反應出產業在IP權利上的利益，以及開放原始碼和自由軟體支持者間的爭執。OASIS的新政策預計要在4月15日生效，原本是要展示對開放原始碼擁護者的妥協。但是，這份電子郵件簽署活動，顯示出新政策依然難已被接受。