日本Spam對策研究會即將公布最終報告
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國加州機動車輛管理局3月10日發布無人駕駛車輛管理方案無人駕駛汽車、電腦駕駛汽車或輪式移動機器人，皆屬自動化載具的一種，具有傳統汽車的運輸能力。而作為自動化載具，自動駕駛汽車不需要人為操作即能感測其環境及導航。目前無人車仍未全面商用化，大多數均為原型機及展示系統，部份可靠技術才下放至商用車型，但有關於自駕車逐漸成為現實，已經引起了很多有關於道德與法律上的討論。 無人駕駛車輛若能夠變得商用化，將可能對整體社會造成破壞性創新的重大影響。然而，在商品化之前的實際道路測試是自動駕駛車輛開發過程非常重要的一環，是否允許自動駕駛車輛實際上路測試為各地交通主管機關之職責。因此，為了保障公共安全與推廣創新，為美國加州機動車輛管理局(Department of Motor vehicles ，下稱加州DMV)便自2015年12月公布無人駕駛車輛規範草案後，歷經2016年9月的修正，於2017年3月10日正式公布無人駕駛車輛管理規範。 美國加州申請自動駕駛車輛上路測試規定係依據加州汽車法規 （California Vehicle Code）38750 中之條款 3.7所訂定，依照加州DMV規畫，在社區內和高速公路上進行測試的自動駕駛車，仍需與傳統汽車一樣，具有方向盤與煞車踏板，而且駕駛座上亦需有人隨時待命應付緊急情況發生。此外，無人駕駛車輛尚必須有人進行遠距監控，並且能在緊急情況發生時安全停靠路邊。 截至2017年3月8日，已有27家公司獲得加州DMV許可，在道路上測試無人駕駛車輛，且這些車輛迄今只造成少數事故。加州DMV公布無人駕駛車輛管理規範後，還將於2017年4月24日舉行公聽會持續蒐集意見，研擬規範修改內容，以符合實際需求。 人駕駛車輛是汽車產業未來發展的趨勢之一，我國於不久的將來亦可能面臨有無人駕駛車輛在國內進行實際道路測試的需求。然而，我國地狹人稠，交通狀況複雜，且國人守法觀念尚有加強空間，確也增添無人駕駛車輛在國內道路測試的挑戰性，以及主管機關於受理測試申請之困難度。因此，加州DMV所公布之無人駕駛車輛管理規範之後續發展，值得吾人持續關注。
德國民眾對奈米科技關切評估報告出爐為了瞭解德國消費者對於市面上眾多應用「奈米」科技之消費產品的想法，德國聯邦風險評估研究所（Bundesinstitut für Risikobewertung,BfR）於2007年抽樣調查一千位消費者，並於該年底公布調查結果。根據該問卷調查結果顯示，超過三分之二（66％）受訪者對於奈米科技發展持樂觀態度，並認為應該支持奈米科技的持續發展，並且認為奈米科技改善了生活品質以及其帶來的效益勝過風險。 但是，對於不同領域所應用之奈米科技，受訪者卻表現出不同的態度。因此該研究所所長Andreas Hensel認為，消費者不是依據事實為評價，而是依據「感性標準」。也就是說，他們所「感覺到」的風險在他們理解新科技時扮演重要角色。 相較於2004年所做的問卷調查，目前約有52％的受訪者聽過奈米概念，之前的調查結果只有15％。多數受訪者相信奈米可以幫助醫學領域的發展；其也相信應用奈米於顏料、漆料可提高耐刮與耐磨之能力。在紡織品領域也一樣，民眾相信防污的產品；受到民眾接受的還包括奈米科技在包裝材料以及防曬產品領域之應用。不過，對於其他化妝品卻只有53％的受訪者相信奈米的改善功能。絕大多數受訪者都拒絕將奈米科技應用於食品：69％受訪者拒絕添加「奈米」於調味料，即使奈米可以防止結塊；而就算因此可以延長食物保存期限，也有高達84％的受訪者拒絕在食物中添加奈米微粒。 多數的消費者獲取奈米科技資訊主要來自於大眾媒體，如電視、報紙、期刊與網際網路。但是他們是否相信該資訊，則取決於提供者為何，最受信賴之資訊來自於消費者組織，如消費者保護團體以及產品檢測基金會（Stiftung-Warentest）以及科學界（92％），最不受信賴的資訊則來自於經濟（32％）與政治（23％）。
因應虛擬貨幣發展，日本內閣通過修法草案，允許創投基金得持有加密資產日本經濟產業省（METI）2024年2月16日於官網公布，內閣已審議通過《產業競爭力強化法》（Act on Strengthening Industrial Competitiveness）、《投資事業有限合夥契約法》（Limited Partnership Act for Investment, LPS法）等法律修正案。修法目標係為驅動企業投資新創、促進新創事業發展，其中允許創業投資基金（Venture Capital Fund, VC）得持有加密資產（crypto assets）即為本次修法亮點之一。 根據本次《投資事業有限合夥契約法》修正案，加密資產將被增列到「投資事業有限合夥」（Investment limited partnership, Investment LPS）得收購和持有的資產清單中。實務上日本創投基金多依《投資事業有限合夥契約法》規定，採投資事業有限合夥之組織型態存在。故若修正案最終能落實，將使新創事業得以透過向創業投資基金發行加密資產之方式進行籌資，可以大幅提高「加密貨幣與區塊鏈領域」之Web3新創獲得國內創業投資基金投資的機會，有助於日本建立更強大的區塊鏈技術（Blockchain Technology）和去中心化金融（decentralized finance, DeFi）市場。 日本本次修法，同時兼顧保護投資者利益與金融創新，頗值得我國借鏡。我國金管會雖已相繼公布「虛擬通貨平台及交易業務事業防制洗錢及打擊資恐辦法」以及「管理虛擬資產平台及交易業務事業（VASP）指導原則」，惟相關規範尚未完成細節。金管會主委今年初（2024年1月30日）表示，將朝設置專法強化投資人保障及管理之方向進行委外研究，草案預計今年9月出爐。面對區塊鏈技術暨加密資產快速發展帶來的監理挑戰，我國應持續積極關注國際組織及各國主管機關之監理發展方向，以研擬合適之法制規範。