歐盟2020年人工智慧白皮書
歐盟執委會於2020年2月19日發布「人工智慧白皮書」（White Paper on Artificial Intelligence: a European approach to excellence and trust），以打造卓越且可信賴的人工智慧為目標。歐盟認為在推動數位轉型過程中的一切努力，均不應脫離歐盟以人為本的最高價值，包含：開放（open）、公平（fair）、多元（diverse）、民主（democratic）與信任（confident），因此在人工智慧的發展上，除了追求技術的持續精進與卓越外，打造可信賴的人工智慧亦是歐盟所重視的價值。
歐盟執委會於人工智慧白皮書中分別就如何追求「卓越」與「可信賴」兩大目標，提出具體的措施與建議。在促進人工智慧卓越方面，執委會建議的措施包含：建立人工智慧與機器人領域的公私協力；強化人工智慧研究中心的發展與聯繫；每個成員國內應至少有一個以人工智慧為主題的數位創新中心；歐盟執委會與歐洲投資基金（European Investment Fund）將率先在2020年第1季為人工智慧開發與使用提供1億歐元融資；運用人工智慧提高政府採購流程效率；支持政府採購人工智慧系統等。上述各項措施將與歐盟「展望歐洲」（Horizon Europe）科研計畫密切結合。
而在建立對人工智慧的信賴方面，執委會建議的措施則包含：建立有效控制人工智慧創新風險但不箝制創新的法規；具高風險的人工智慧系統應透明化、可追溯且可控制；政府對人工智慧系統的監管程度應不低於對醫美產品、汽車或玩具；應確保所使用的資料不帶有偏見；廣泛探討遠端生物辨識技術的合理運用等。歐盟執委會將持續徵集對人工智慧白皮書的公眾意見，並據以在2020年底前提出成員國協力計畫（Coordinated Plan）之建議。
本文為「經濟部產業技術司科技專案成果」
范晏儒
專案經理 編譯整理
英國資訊委員辦公室提出人工智慧（AI）稽核框架，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&i=72&d=8249&no=64 （最後瀏覽日：2020/03/05）。
歐盟電子通訊隱私指令（Directive 2002/58/EC on Privacy and Electronic Communications, e-Privacy Directive）第五條(3)中對於cookie（即業者為辨別使用者身份而儲存在用戶端上的資料）設置的規範，將於2011年5月全面施行。惟對於cookie之使用，部分網路業者認為如果網路使用者沒有選擇不要裝置cookie (opt-out)，那麼就等同於同意裝置，而不需另外取得使用者的同意。針對此點，歐盟第29條資料保護工作小組（Article 29 Data Protection Working Party）於2010年06月22日對於網際行為廣告作出一份意見（Opinion 2/2010 on online behavioural advertising）。 意見中澄清，網際行為廣告係一種透過cookie的使用，追蹤蒐集網路使用者上網行為的資料，其網路資訊將被使用於日後發放與使用者上網行為相對應的廣告之用。除非是屬於網路使用者明白要求使用cookie，或是使用網路服務所『必要』的cookie（例如，沒有cookie就無法顯示或進行至下一個頁面），則不必先行取得使用者的同意外；其他凡經由cookie所儲存的資料，均應被視為『個人資料』，使用上必需先行取得網路使用者的明示同意，以自行選擇（opt-in）的方式接受cookie的使用，後存於網路使用者的個人電腦中。業者不得以搜尋引擎的cookie設定主張視為網路使用者等同已經明示同意使用cookie進行被追蹤及蒐集資料。 該意見受到許多歐盟及國際之網際出版、廣告及商務業者的反彈，業者表示所蒐集的資料並非可辨認性或敏感性資料，此規範的執行將會嚴重衝擊到廣告產業的收益，建議採行自律規範或使用行為守則來取代上述規定。 由於這項規範尚未於歐盟中被執行，歐盟第29條資料保護工作小組對於技術上如何遵循該規範也並沒有提出具體的建議。
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
歐盟個人資料保護工作小組就目的限制原則發表意見2013年4月2日，歐盟個人資料保護工作小組（the Article 29 Working Party，以下稱「工作小組」），就目的限制原則（purpose limitation principle）發表意見書，檢視歐盟資料保護指令(Data Protection Directive)第六條所規定的目的限制原則，包括(一)資料的蒐集必須具有特定、明確與合法之目的，以及(二)資料的處理或利用必須符合資料蒐集時之目的。 另一方面，工作小組亦檢視目的限制原則對巨量資料(big data)與開放資料(open data)可能會造成的潛在衝擊： 1.就巨量資料的部分而言，工作小組界定了二個應用情境，一是分析巨量資訊，以分析辨識趨勢或資訊間的相關性，另一是直接影響個人（例如，對當事人的行為進行追蹤、分析、側寫，並據此進行廣告與行銷）。對此，工作小組認為，應給予當事人選擇的權利，另外，組織應揭露關決策標準，並且提供當事人之側寫資料。 2.關於開放資料，工作小組強調匿名化以及資料保護衝擊分析的重要性，以確保必要的安全措施。 工作小組提出兩項修正意見，包括(一)個人資料保護規則（General Data Protection Regulation）草案的第五條宜針對目的限制原則為更明確之規定，以及(二)刪除個人資料保護規則草案第六條第四項之規定。
澳洲政府制定ISP反垃圾郵件從業規則澳洲政府於 3 月 28 日 發布了反垃圾郵件（ anti-spam ）從業規則（ code of practice ），強制網路服務提供者（ ISP ）採取反制措施，以防堵大量、不請自來的電子郵件；業者若未配合新法的要求，將面臨鉅額的罰款。 繼 2003 年頒布的「垃圾郵件法」（ Spam Act ）後，澳洲通訊及媒體局（ Communications and Media Authority ）此次依據垃圾郵件法規定，針對 ISP 業者進一步制定了從業規則，成為對抗垃圾郵件的另一項重要工具。新法課予 ISP 業者的主要義務包括了： (1) 向用戶提供過濾垃圾郵件的服務選項； (2) 合理限制用戶電子郵件的發送；及 (3) 設立相關的投訴機制等。 為給予業者相當的緩衝時間，新法將自今年的 7 月 16 日 實施，屆時主管機關將針對澳洲當地近 700 家 ISP 業者進行檢查。一旦發現有違規情事，澳洲聯邦法院可對之處以 1,000 萬澳幣以下的罰款。