資通安全法律案例宣導彙編 第5輯
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國眾議院通過綠色化學研發法案美國眾議院本（9）月通過「2007年綠色化學研究發展法案」（The Green Chemistry Research and Development Act of 2007），其目的在要求總統建立「綠色化學研究發展計畫」（Green Chemistry Research and Development Program），統籌改善聯邦政府對於綠色化學研發、教育宣導及技術移轉等活動之資源投入，而綠色化學則是指那些依安全與有效生產程序製造高品質產品時、能減少使用或產生毒性化學物質之化學產品或製程技術。美國化學協會（American Chemical Society）讚許眾議院通過本法案是睿智的舉動，表示發展綠色化學最能證明經濟和環境得同時併進，發展綠色企業實務，改善藥學加工及本土營建產業以迎刃氣候變遷及能源危機等挑戰。 本法案並要求自明（2008）年起，編列經費由以下政府單位合作執行本計畫，即國家科學基金（National Science Foundation）、國家標準技術研究院（National Institute of Standards and Technology）、能源局（Department of Energy）及環保署（Environmental Protection Agency）。參議院在過去兩屆都通過類似的法案，尚等待參議院支持通過相同法案，以獲得生效。 為減低對石化原料的依賴、發展生物經濟，美國政府積極投入促進綠色科技、生質科技之研發活動，例如從農林廢棄物或副產品或其他來源開發再生性原物料供綠色化學使用。此外，美國政府亦資助建立了生質（biomass）能源及產品的網路圖書館（BioWeb）；BioWeb所收錄的生質科技資訊、文獻，許多都是來自大學或國家實驗室著名研究人員，都會先經各領域專家進行嚴格的同儕審查（peer-review），再開給所有公眾瀏覽；BioWeb將會持續蒐羅各種基礎及應用科學知識，並擴充各種經濟及政策相關資訊。BioWeb的理想目標，是擴大規模成為最大最有價值的生質燃料、能源及產品公共資料庫。
聯合國教科文組織發布《人工智慧倫理建議書》草案聯合國教科文組織於2020年9月發布《人工智慧倫理建議書》草案（First Draft Of The Recommendation On The Ethics Of Artificial Intelligence）（下稱建議書），以全球性的視野與觀點出發，為第一份全球性關於人工智慧倫理的建議書，試圖對人工智慧倫理作出框架性規定，對照其他區域性組織或個別國家人工智慧倫理準則或原則，著重之處稍有差異。該建議書係由組織總幹事Audrey Azoulay於2020年3月任命24位在人工智慧倫理學方面之跨領域專家，組成專家小組（AD HOC EXPERT GROUP, AHEG），以《建議書》的形式起草全球標準文書。 其主要內容提到六大價值觀：（一）人性尊嚴（Human dignity）、(二）基本人權和自由（Human rights and fundamental freedoms）、（三）不遺漏任何人（Leaving no one behind）、（四）和諧共生（Living in harmony）、（五）可信賴（Trustworthiness）、（六）環境保護（Protection of the Environment）。其中尤值關注處在於，建議書除強調人工智慧的技術、資料及研究需要進行全球範圍的共享外，相當重視世界上所有的國家及地區在人工智慧領域是否能均衡發展。特別在六大價值觀中提出「不遺漏任何人」觀點，也同時呼應了聯合國永續發展目標（Sustainable Development Goals, SDGs）的倡議。在人工智慧技術發展過程中，開發中國家（global south）及相對弱勢的群體是相當容易被忽略的。人工智慧蓬勃發展的時代，若某些群體或個體成為技術弱勢者，不僅在技術發展上有落差，更可能使人工智慧系統容易產生歧視、偏見、資訊和知識鴻溝，其後更將導致全球不平等問題的挑戰。 由專家小組起草的建議書草案已於2020年9月提交給聯合國成員國，作為對建議書的初步報告。該報告將提供給各會員國，並同步提交給預定於2021年召開的政府專家委員會，最後預計於2021年底的提交聯合國教科文組織大會。
歐盟核准澳洲基因改造康乃馨之進口歐盟最近核准一項由澳洲生技公司Florigene所研發的基因改造康乃馨之進口，核准有效時間為十年。Florigene為澳洲最早設立的生技公司之一，屬日本三多利集團（Suntory group）之一，Florigene的基因改造康乃馨係以”Florigene Moonlite”之名行銷，該公司利用基改技術改變康乃馨的顏色，以延長其瓶插的時間，該基因改造康乃馨中另含有抗雜草基因。 根據歐盟執委會核准內容，未來Florigene的基因改造康乃馨將可在歐盟27個會員國境內，以切花的形式銷售，但不得在歐盟境內栽種，並須依歐盟法令規定，明確標示為「本產品為基因改造生物」或「本產品為基因改造康乃馨」，標示內容同時必須指明「不得供人類或動物食用，且不得用以栽種」或在產品附隨文件中為前述之說明。 事實上歐盟並非首次核准通過基因改造康乃馨之進口，早在1998年開始展開實質的六年基因改造生物進口禁令前，歐盟所通過的最後兩件基因改造植物核准案，即是基因改造康乃馨。不過歐盟一向對基因改造生物持保守態度，因此在2004年實施更為嚴格的基因改造生物管理法制後，才又重新啟動基因改造生物之進口審查。