歐盟針對數位革命之法制障礙展開討論
歐盟布魯塞爾會議規劃組織（QED）在2016年12月針對第四次工業革命法制議題提出討論，呼應2016年4月歐盟執委會提出之歐洲產業數位化政策，加速標準建立，並且預計調整現行法律規制，著重於資料所有權、責任、安全、防護方面等支規定，討論重點如下：
1.目前面臨之法律空缺為何
2.歐洲產業數位化是否須建立一般性法律框架
3.標準化流程是否由由公部門或私部門負責
4.相容性問題應如何達改善途徑
5.資料所有權部分之問題如何因應
6.數位化之巨量資料應如何儲存與應用，雲端是否為最終解決方式
7.如何建立適當安全防護機制。
8.一般資料保護規則是否足以規範機器產生之數據
9.各會員國對於資料保護立法不同，其間如何調合朝向資料自由發展之方向進行
我國2016年7月由行政院通過「智慧機械產業推動方案」，期待未來朝向「智慧機械」產業化以及產業「智慧機械化」之目標進行，未來，相關法制配套規範，如個人資料保護、巨量資料應用、以及標準化等議題，皆有待進一步探討之必要。
本文為「經濟部產業技術司科技專案成果」
廖凱民
法律研究員 編譯整理
加拿大聯邦法院在Voltage Pictures LLC v. Does一案中核發命令要求第三人ISP業者TekSavvy提供在該案中被控非法下載電影的2千多位使用者姓名與地址資訊給著作權人Voltage電影公司，此例在著作權、科技與隱私的微妙關係中投出一記變化球。在本案例中，法院需要對2件事進行判斷，一是是否核發該命令，二是若核發命令，法院如何降低對隱私權的侵害並確保權利人以正當的目的使用相關資訊。 在判斷是否核發命令時，法院考量到下列因素，包括：法院命令是唯一合理取得資訊的方式，TekSavvy擁有係爭資訊，且命令不會對其造成不當的花費與影響。同時，認定Voltage有真實的意圖向非法下載者提出侵權訴訟，且對於資訊的揭露並無不當的目的。此外，在本案所提供的證據上，也認定Voltage確為善意的主張（bona fide claim），因此其著作權比受影響的使用者隱私權利益來得重要等因素。 不過，法院仍然必須進一步決定Voltage在本案中，是否將以善意的方式（bona fide manner）使用其所取得之隱私資訊，法院考量英、美著作權蟑螂（copyright trolls）濫發警告信勒索使用者的案例，認為在命令中對Voltage聯繫接觸使用者的方式作了限制與要求是平衡著作權與隱私權，及同時抑制著作權蟑螂的最好作法，包括：法院有權檢視並要求修改Voltage寄給使用者的信件、信件中必須表明尚未有侵權的裁決、收件者未必有責、並提示收件者可尋求法律意見，同時要求該信件以法院命令做為附件，確保命令不會被濫用。 Voltage一例對於著作權人、ISP業者與使用人而言相當關鍵，著作權人只要有適當的證據就可以取得法院命令要求ISP業者提供侵權使用者資訊，不過法院也表明會透過命令內容的限制，平衡著作權與隱私權，抑制蟑螂類型的商業模式在加拿大蔓延。
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
日本內閣府公布最新科學技術基本計畫草案，期以智慧聯網服務平台實現超智能社會日本內閣府2015年12月10日於「綜合科學技術創新會議」上公布最新「科學技術基本計畫」草案，預計將投入26兆日圓，約占GDP1%的資金。該計畫之法源基礎係1995年公布之《科學技術基本法》第9條第1項，要求政府自1996年開始制定以五年為期，整體、宏觀且跨部會之科技發展計畫，目前最新之「第五期科學技術基本計畫」將於2016年開始施行。 「第五期科學技術基本計畫」共計七章，作為本期計畫核心之第二至第五章，揭櫫四大原則及相應規畫： 一、 以未來產業創新及社會變革為方向創造新價值(第二章) 旨在發展對未來產業創新及社經變遷具有前瞻性之技術及服務，如智慧聯網、巨量資料、人工智慧等，並以此為基礎實現領先世界之「超智能社會」。 二、 因應經濟社會新課題(第三章) 1. 確保能源、資源及糧食供應穩定。 2. 因應超高齡化、人口減少等問題，打造永續發展的社會。 3. 提高產業競爭力及地區活力。 4. 確保國家安全及國民安全。 5. 因應全球範圍內發生的社經問題，並對世界發展做出具體貢獻。 三、 強化科技創新基礎能力(第四章) 企圖打破產官學界間障壁，加速人才流動及人才多樣化，對造成障礙之制度進行改革，此外，將增加青年及女性研究者比例，及提升學術論文品質。 四、 構築人才、知識、資金三要素的良性循環制度以朝向創新發展(第五章) 將透過產官學界合作，打造創新人才培育及適其發展之環境，強化國際知識產權及標準化之運用，並依國內各區域特性推動相關創新措施。 在這當中，「實現超智能社會」為本期計畫最重要之發展目標，由於資通訊技術高度發展帶動生產、交通、醫療、金融、公共服務等各方面之巨大變革，創造出新產品、新服務，卻也相應帶來新挑戰及社會問題，日本政府計畫打造「智慧聯網服務平台」(IoTサービスプラットフォーム)，將內閣府2015年6月19發布之「科學技術創新綜合戰略2015」中所列舉的11個系統分階段完成串連整合，以推動跨系統間之數據應用，達成各科學領域巨量資料之流通使用，同時兼顧資訊安全保障的「超智能社會」。
美國加州網路中立法遭司法部提告美國加州州長Jerry Brown於2018年09月30日簽署該州的網路中立（Net Neutrality）Senate Bill 822法案，但美國司法部（Department of Justice，DoJ）隨即於同日對加州提起訴訟。DoJ指出Senate Bill 822法案牴觸聯邦政府於2018年對於網際網路採取解除管制之政策，該法案意圖阻撓聯邦政策的施行，有違美國憲法。 美國國會於1996年針對電信法（The Communications Act）制定「聯邦或州對網路低度管制（unfettered by Federal or State regulation）」之政策，美國聯邦通訊委員會（Federal Communications Commission，FCC）為符合該政策，於2002年發布命令，將寬頻網路接取服務列為資訊服務（information service），而美國不將資訊服務提供者以公共事業來看待並進行管理。雖然FCC於2015年就網路中立性訂立規則，要求網路服務提供者（Internet Service Provider）應平等處理所有資料，不得擅自降低流量速度、封鎖網站或服務，以確保任何人獲取資訊時不受不合理的限制。但FCC於2017年12月取消網路中立規定，並確保網際網路會在FCC之低度管制措施下，持續維持其自由與開放性。 DoJ及FCC均認為，網際網路本質上為跨州資訊服務，依據美國憲法第6條第2項規定，憲法、聯邦法律及美國對外條約為全國之最高法律，跨州之商務(interstate commerce)應屬聯邦管轄事項而非州管轄事項。因此，在聯邦政府已廢除網路中立性的情形下，且州政府沒有制定州際貿易規範的權限，則加州政府通過Senate Bill 822法案對網路立法監管，針對網路使用頒布違法且極端的法令，是企圖藉由Senate Bill 822法案破壞聯邦政府的規定，不當限制網路自由，與聯邦政府政策有所牴觸，此為違法及不利於消費者。故DoJ聲明其有責任捍衛聯邦政府的特權（prerogatives）以及維護憲法秩序。為此，DoJ起訴聲明為禁止加州執行Senate Bill 822法案，並請求法院判決Senate Bill 822法案無效。 雖然美國聯邦政府廢除網路中立性，但此政策受民主黨、Facebook、Amazon等著名大型科技公司及消費者的抨擊。因此，就DoJ起訴加州Senate Bill 822法案違法，法院是否認同DoJ所主張的牴觸美國憲法，以及美國對於網路中立性議題的後續發展，值得觀察。