歐盟提出先進製造先進歐洲報告與行動方針
瑞士聯邦委員會於2022年3月30日，發布了一份關於推進可信的「資料空間」（Data Spaces）與「數位自決權」（Digital Self-Determination）報告。此份報告旨在強調資料是數位時代下創造價值的基礎，為了更好地運用資料的潛在價值，呼籲各界採用新的資料使用概念，加強資料所有者（Data Owner）或資料控管者（Data Controller）對於資料的控制，以「數位自決權」為核心，透過科學技術與法律制度，進一步為實踐「資料共享」（Data Sharing）提供一個安全、便捷、自主、開放、公平而值得信賴的「資料空間」。 值得注意的是，透過該報告，聯邦委員會指示聯邦外交部（FDFA）與聯邦環境、運輸、能源和通訊部（DETEC）實施多項措施，以期能在2023年6月份之前，制定一部由所有利害關係人參與的可信賴資料空間操作之自願行為準則。 此外，該報告列舉出當下對於充分發揮資料潛力所存在的障礙，包括： 資料愈趨集中於大企業手中，且多基於自身目的而使用。 私人和公共服務的提供者在資料的使用上存在多種障礙，例如：資源不足、缺乏專業知識以及擔心競爭劣勢。 社會對於資料的使用態度轉趨保守，無論是擔心資料被濫用而侵犯隱私，或是缺乏資料共享的動機。 該報告更進一步指出資料流通的跨國性，因而有必要創建值得信賴且國際兼容的資料空間，為此亦須建立可信賴資料空間的國際準則，以在國際間形成法律確定性。 觀諸我國個人資料保護法第1條便明確指出，本法制定的目的不僅是為了保護個人資料以及相應之人格權與隱私權，而是更進一步欲透過個人資料管理制度的建構與落實，健全社會及商業互信，以期達成資料的合理利用、創造價值並促進公共福祉的終極目標。 關於我國的資料共享體制，現階段主要從金融機構間開始萌芽，未來如何以數位自決權為基礎，同時在充分保障資訊安全的前提下，擴及其他產業並接軌國際，有賴更多科技與法制的創造與積累、外國經驗的借鑑以及國際參與，而台灣近日以創始會員身分加入「全球跨境隱私規則論壇」（Global Cross-Border Privacy Rules Forum）即為著例。
歐盟著作權指令實行至今未達促進網路服務成長之目的歐洲委員會委託荷蘭「阿姆斯特丹大學資訊法律學院」及倫敦「皇后瑪莉智慧財產中心」，就歐盟2001年通過之著作權指令於各會員國實行之情況與對市場之影響進行評估，並於2007年2月完成評估報告。該份報告指出，歐盟著作權指令就推動線上內容服務成長之目的僅達成少部分目標，若歐盟未來可能成為網路服務之單一市場，則本指令必須加以修改。 報告指出，部分指令內容的欠缺明確，留給各會員國極大的裁量空間於內國法排除規範之訂定與限制規範之研擬，此一情況實為該指令功能未能彰顯之重要因素。且因各會員國幾乎可完全自由決定欲採用之制度，將嚴重影響跨疆界網路內容服務的建構，尤其調和規範之欠缺，直接影響關於市場玩家提供跨疆界網路服務相關法律的明確性。而由於規範的不確定性，則迫使使用者於面臨跨疆界著作之使用時，需與每位權利人就使用受保障著作的範圍進行協商，導致交易成本之增加。另外，該指令之規範亦轉變了科技法律之態樣，推翻舊有權利平衡，而創造出偏向權利人、遠離著作使用者的規範模式，擴張的重製權賦予權利人幾乎完全的控制權力，而此一權利實非於實體世界權利人所能專享。 此份報告建議，為達成會員國規範具某程度的一致性，未來宜就該指令可附加之限制，明列簡短的必要禁止規範，各國亦可依據自身需求附加進一步的排除條款。同時建議歐洲各國可參考德國強制將數位權力管理資訊、著作使用範圍與特性於產品上附加說明之模式，作為未來規範訂定之參考。
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國總統拜登簽署「改善國家網路安全」行政命令美國總統拜登於2021年5月12日簽署「改善國家網路安全」總統行政命令（Executive Order on Improving the Nation’s Cybersecurity），旨在增進美國政府與私部門在網路安全議題的資訊共享與合作，以加強美國對事件發生時的因應能力。本命令分從數個面向達成前述目標，分別為： （1）情資共享之強化：消除威脅政府與私部門之間資訊共享的障礙，要求IT與OT服務者偵測到可疑動態時，與政府共享相關資訊與相關安全漏洞資料，簡化並提高服務商與聯邦政府系統服務合約之資安要求。 （2）現代化聯邦政府網路安全：針對聯邦政府網路，建構更現代化與嚴格的網路安全標準，並採取零信任架構，例如應強化雲端服務與未加密資訊之共享機制，包括由公眾直接透過WiFi連網取得或下載之資訊網頁等，針對其建構安全機制、更新加密金鑰與建構新的安全工具。 （3）強化軟體供應鏈安全：提高軟體供應鏈安全性，包括要求開發人員提高其軟體透明度、公開安全資料、利用聯邦資源促進軟體開發市場，以及建構軟體認證，使市場更容易確定該軟體的安全性。 （4）建立資安審查委員會：建立由公私部門共同合作的資安審查委員會（Cybersecurity Safety Review Board），針對重大資安事件做及時的回應、，並進行獨立第三方之審查與建議。 （5）標準化聯邦政府應對資安弱點及資安事件的教戰手冊：建構聯邦政府因應資安事件之資安事件教戰手冊，使聯邦政府得以及時並一致地回應網路攻擊事件。 （6）改進對聯邦政府網路資安弱點及資安事件之偵測：清查聯邦政府端點，改善聯邦政府對資通安全事件的偵查能力，並進一步布建強大的端點監測和回應系統（Endpoint Detect and Response, EDR）。 （7）提升聯邦政府調查與補救之能力：提升資訊安全事件調查與補救能力，並透過更頻繁與一致的資安事件日誌來減緩駭客對聯邦政府網路的入侵。 （8）建制國家安全系統：要求聯邦政府部門採用符合相關網路安全要求之國家安全系統。 本行政命令是美國政府在美國油管遭駭事件後，對相關事件之具體因應。本行政命令雖主要著眼於聯邦政府的網路安全，但亦透過總統行政命令鼓勵私部門在網路安全核心服務上加強合作與投資。預計美國在此總統行政命令基礎上，將有進一步強化公私合作的措施與資源挹注。