歐盟提出先進製造先進歐洲報告與行動方針
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
日本對未來2020年至2030年間網路基礎設施之預測日本總務省未來網路基礎設施研究會（将来のネットワークインフラに関する研究会）4月份針對日本人工智慧（Artificial Intelligence 簡稱AI）、物聯網（Internet of Things 簡稱IoT）、資訊及通訊技術（Information and Communication Technologies 簡稱ICT）等技術相對應之網路基礎設施做作出預測。 在2020年以後第五代通信技術（5G）、物聯網系統、高畫質通訊等技術相繼成熟及普及化，相關業者勢必發展出多樣化、高度專業化使用者需求之網路結構，而手機聯網系統從單純的資訊傳遞網路，逐漸變成社會系統之神經網絡（社会システムの神経網）。 物聯網服務目前係由專用終端設備，並根據特定的應用目的建構，但在未來的網絡基礎設施，可能出現如橫向合作應用的通用平台，到2030年左右物聯網服務中M2M（Machine to Machine，機器和機器之間的通訊）的佔有率估計將達到10％。 人工智慧網路技術不僅僅是虛擬化層網路（仮想化レイヤのネットワーク）之維護和操作，更是物理層面的網路（物理レイヤのネットワーク）資源的管理，AI仍然只擔任協助之工具。其中，物理網絡（物理ネットワーク）和邏輯網絡（論理ネットワーク）應分別處理，邏輯網絡將型成多層次化，將變得難以檢測故障和調查原因，但在安全和可靠的網絡基礎設施下，經營者使用AI技術仍然是沒有問題的。 由於雲端技術、通訊技術之提昇，非電信營運者進入網路經營之商業型態逐漸產生，型成網路使用者、資料提供者之多樣性及複雜性。網路流量方面，在2030年左右將超出100Tbps核心網絡所需的傳輸容量，達到以往的光纖的容量限制，將透過無線電接入技術進一步發展，補足不足的光學寬頻。然而，人們對於網路更快的通信速度、安全性及可靠性的功能需求是沒有改變的。
美國通過「智慧財產資源及機構優先法案」，強化打擊侵權力道2008年9月26日美國國會通過「智慧財產資源及機構優先法案」（the Prioritizing Resources and Organization for Intellectual Property Act, PRO-IP Act），該法案的內容將加強跨單位合作與國際間打擊仿冒、盜版之動作，例如增加主管機關可沒收或扣押侵害著作權相關物品的權力等，以遏止日益增加之侵權案件。 在10月13日的時候，美國總統布希終於簽署PRO-IP法案。其中特別的是，該法案增設一個行政部門：「智慧財產執行協調官」（Intellectual Property Enforcement Coordinator, IPEC），IPEC可掌控與管理美國境內各行政機關之智慧財產保護措施，並直接向總統報告。一般預料布希總統雖簽署該法案，但應該不會在其任內發布任何命令，而會將IPEC之人事任命權留給下一任總統。 許多人對PRO-IP法案的通過仍存有疑慮，例如：設立IPEC的功能不明，且有疊床架屋之嫌。但美國唱片業協會（RIAA）卻十分支持該法案，其認為有助於保護美國的智慧財產，RIAA引用最近的調查報告指出，全球智慧財產仿冒、盜版等行為讓美國一年損失580億美元及37萬份以上的工作機會，並讓美國勞工損失160億美元的收入，故RIAA認為通過該法案可以減緩此一損害。
歐盟發佈Amazon違反反托拉斯法之初步調查結果，並將對其電商業務展開第二輪調查歐盟執委會於2020年11月10日對Amazon發佈反托拉斯調查之初步調查結果，針對其2019年7月之首次調查提出調查意見書（Statement of Objections, SO），認定Amazon使用大量非公開賣家資料，減少自身作為零售商之競爭風險，相關可能違反歐盟運作條約（TFEU）第102條禁止濫用市場主導地位。 歐盟於2019年7月17日對Amazon展開首次反托拉斯調查。Amazon作為平台，具有雙重身分，第一個身分是作為零售商，在網站上銷售商品；第二個身分是作為平台商，提供第三方賣家銷售商品的市場。因此歐盟認為Amazon在平台上收集價格或活動統計資料，將調查Amazon和第三方賣家的標準協議中，是否允許Amazon分析賣家的買賣統計資料？以及第三方賣家使用「黃金購物車」（Buy Box）的機制為何？ 歐盟執委會調查說明，Amazon作為平台，可以大量使用第三方賣家資料，例如訂購及發貨數量、賣家收入、報價次數、物流資料、賣家表現評價、消費者索賠資訊等。然而相關統計數字及資料進入Amazon業務自動化系統，使Amazon零售業務可以大量使用上述非公開資料，以調整自身產品零售報價和業務決策，降低自身作為零售商的市場競爭風險。 此外，歐盟執委會認為，Amazon的「黃金購物車」和「Prime label」機制，使平台上的第三方賣家必須選擇使用Amazon物流、倉儲和售後服務（Fulfillment by Amazon, FBA），才能取得平台的「黃金購物車」和「Prime label」標章，才可能增加產品搜尋曝光度、交易成功率，進而提高銷售量（據統計，Amazon平台超過八成之交易是透過黃金購物車完成）。因此導致消費者大多選擇購買曝光度高、也就是使用Amazon物流的賣家，形成賣家之間的不公平競爭。歐盟執委會後續將啟動第二輪調查，且未言明結束調查時間。