落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
科技與創新委員會(Commission of Technology & Innovation，以下簡稱CTI)係瑞士重要之創新推進機構，成立於1943年，2011年新修正之研究與創新促進法實施後，CTI正式從經濟部聯邦職業教育及科技局(Federal Office for Professional Education and Technology, OEPT)獨立出來，成為一個具決策權的獨立機關，直接隸屬於聯邦經濟事務部（Federal Department of Economic Affairs, FDEA）。 CTI為擴大高科技創業並創造研發成果商品化之效益推動創業家計畫。該計畫主要係由CTI出資成立的「創業實驗室」（Venture Lab）來執行。創業實驗室針對大學生及創業家推出了一系列創業推廣及訓練課程，從單日的工作坊、五日之創業實務密集課程到在大學開設的創業學期課程，每一個訓練課程都有專家評審，針對創新構想及商業模式給予參與課程者具有建設性的建議。 資料來源：Venture Lab網站 圖 Venturelab 創業課程
英國宣布禁止16歲以下兒少使用社群媒體，並擴大兒少網路保護措施為保護兒少網路安全並為下一代建立全新的網路規範，英國科學、創新與技術部（DSIT）於2026年6月15日發布政策新聞稿，除將全面禁止社群媒體平台對16歲以下兒少提供服務外，更將管制範疇延伸至更廣泛的網路服務。相關法案預計於2026年底前提交國會審議，最快於2027年春季生效。 核心規範與管制措施包括： 一、禁用社群媒體平台：參考澳洲現行兒少社群媒體禁用制度，將全面禁止以促進社交互動、允許使用者發布內容並結合演算法為宗旨之「使用者對使用者平台」（user-to-user platforms），包含Snapchat、TikTok、YouTube、Instagram、Facebook及X等平台，對16歲以下兒少提供服務。至於「即時通訊服務」（messaging services），如WhatsApp和Signal等則未納入此一社群媒體禁用範圍。 此外，為確保教育服務、電子商務平台及音樂串流服務不受影響，後續將制定定義嚴格且保持滾動式檢討之豁免清單。 二、網路有害功能封鎖措施：包括禁止16歲以下兒少於所有平台上進行「自主直播」（livestreaming themselves）；以及阻斷「未知使用者」（unknown users）主動單獨接觸、傳訊予16歲以下兒少之功能。 又為避免兒少年滿16歲時防護網瞬間解除而形成「法規懸崖」（cliff edge），上述限制防護措施對於16歲與17歲之兒少帳號，於系統中均將強制採取「預設開啟」（On by default）之防護狀態。 三、強化AI聊天機器人管制：旨在模擬性愛關係或與使用者進行角色扮演之AI戀愛伴侶聊天機器人，未來將強制執行18歲之法定最低年齡限制；其他一般聊天機器人若同樣具備親密互動功能，亦將對未滿18歲之使用者實施更嚴格之限制。 四、推動高效年齡驗證制度：將引進「高效年齡驗證」（Highly Effective Age Assurance, HEAA），以降低兒少規避年齡限制安全防護之可能性。英國通訊管理局（Ofcom）將盡速展開研究，評估何種年齡驗證技術最能有效確認使用者是否已滿16歲。政府亦將挹注充裕資金以支持英國通訊管理局履行相關執法措施。 五、研議深夜網路宵禁及防成癮機制：將進一步評估針對未滿18歲兒少實施「深夜網路宵禁」（Overnight curfews）及「無限滾動中斷機制」（breaks in infinite scrolling）等政策，具體細節預計於同年7月份對外公布。 為迅速回應社會期待，英國政府後續將依據現行《兒童福祉與學校法案》（Children’s Wellbeing and Schools Act）之授權，直接採用「次級立法」（Secondary legislation）方式推動。此舉可大幅簡化繁瑣之立法程序，確保首波防護措施得以在2027年春季迅速上路實施。 隨著社群媒體及人工智慧技術快速發展，如何兼顧數位發展與兒少保護已成為各國重要課題。英國此次並未僅採取傳統「一刀式全面禁用」（blanket ban）社群媒體之作法，而係同步推動網路有害功能封鎖、強化AI管制及引進高效年齡驗證等配套措施，以建構更完整之兒少網路保護機制，其相關作法值得我國持續關注。
解析中國江蘇省「企業知識產權管理規範」之內容與對台商的影響 基改作物MON810，德法命運大不同德國今年1月底通過新修法，使國際知名生技公司孟山都主要用做於飼料的基改抗蟲玉米MON810得以在德國更加順利種植。 原來德國法律規定基改作物與其相同種類傳統非基改作物間的種植距離為150公尺，與有機作物間的距離則為300公尺；但這項距離的規定對於農田面積多數不大的德國西部來說始終是一個問題，新法為此提供了一項新的出路，亦即基改作物種植者可與其相鄰傳統作物種植者簽訂契約來排除前述種植距離的限制，此項契約雖可能使傳統作物必須標示成為基改作物，但預估仍不會減低傳統作物種植者簽訂契約的意願。 專家評論德國這項新的立法仍然為德不卒，由於新立法並未將德國公開註冊制度中基改作物需揭露詳細的種植地點改為只需揭露種植地區，使得反基改分子仍將得以順利找到基改作物並加以破壞。另外，此次亦未修正的鄰田污染賠償責任使專家擔憂基改研究仍將限於校園內。 MON810在另一端的法國則顯得命運多舛，自去年秋天起，法國引用歐盟法的防衛條款（Articles 23 of the EU Deliberate Release Directive）來暫時禁種此一抗蟲玉米，於今年1月初，法國政府為此項問題所組成的委員會向環境部長提交調查結果，委員會主席並對外表示嚴重質疑MON810的安全性，並已取得大量MON810對動、植物負面影響的科學證據，使法國政府於1月中宣佈延續去年的禁種令。但專家質疑委員會主席對於調查報告之陳述失之客觀，由於調查報告中關於MON810商業種植對於環境影響的問題仍懸而未定，事實上並未存有委員會主席所謂的「嚴重質疑」。