聯合國教科文組織發布《人工智慧倫理建議書》草案
聯合國教科文組織於2020年9月發布《人工智慧倫理建議書》草案（First Draft Of The Recommendation On The Ethics Of Artificial Intelligence）（下稱建議書），以全球性的視野與觀點出發，為第一份全球性關於人工智慧倫理的建議書，試圖對人工智慧倫理作出框架性規定，對照其他區域性組織或個別國家人工智慧倫理準則或原則，著重之處稍有差異。該建議書係由組織總幹事Audrey Azoulay於2020年3月任命24位在人工智慧倫理學方面之跨領域專家，組成專家小組（AD HOC EXPERT GROUP, AHEG），以《建議書》的形式起草全球標準文書。
其主要內容提到六大價值觀：（一）人性尊嚴（Human dignity）、(二）基本人權和自由（Human rights and fundamental freedoms）、（三）不遺漏任何人（Leaving no one behind）、（四）和諧共生（Living in harmony）、（五）可信賴（Trustworthiness）、（六）環境保護（Protection of the Environment）。其中尤值關注處在於，建議書除強調人工智慧的技術、資料及研究需要進行全球範圍的共享外，相當重視世界上所有的國家及地區在人工智慧領域是否能均衡發展。特別在六大價值觀中提出「不遺漏任何人」觀點，也同時呼應了聯合國永續發展目標（Sustainable Development Goals, SDGs）的倡議。在人工智慧技術發展過程中，開發中國家（global south）及相對弱勢的群體是相當容易被忽略的。人工智慧蓬勃發展的時代，若某些群體或個體成為技術弱勢者，不僅在技術發展上有落差，更可能使人工智慧系統容易產生歧視、偏見、資訊和知識鴻溝，其後更將導致全球不平等問題的挑戰。
由專家小組起草的建議書草案已於2020年9月提交給聯合國成員國，作為對建議書的初步報告。該報告將提供給各會員國，並同步提交給預定於2021年召開的政府專家委員會，最後預計於2021年底的提交聯合國教科文組織大會。
游詩喬
副法律研究員 編譯整理
Elaboration of a Recommendation on the ethics of artificial intelligence, https://en.unesco.org/artificial-intelligence/ethics , (last visited Dec.12,2020).
Outcome document: first draft of the Recommendation on the Ethics of Artificial Intelligence, https://unesdoc.unesco.org/ark:/48223/pf0000373434 , (last visited Dec.02,2020).
Preliminary study on the Ethics of Artificial Intelligence, https://unesdoc.unesco.org/ark:/48223/pf0000367823 , (last visited Dec.18,2020).
2021年4月26日，歐盟商標協會（European Communities Trade Mark Association，以下簡稱ECTA）針對3D列印設計保護修法方向，向歐盟提交一份立場意見書（position paper）。歐盟自1998年發布《設計指令》（Directive 98/71/EC on the legal protection of designs）及2002年發布《設計規則》（Council Regulation（EC） No 6/2002 on Community designs）以來，已多年未進行修正；為了能對設計提供更有效的法律保護，歐盟從2018年起開始進行修法的公眾諮詢，並於2020年11月提出修法評估報告。 ECTA一直以來都很關注3D列印技術發展涉及的智慧財產議題，在意見書中列出了修法時應納入評估的重點。例如ECTA指出，雖然3D列印所使用的CAD模型檔案僅是列印過程中的媒介，檔案本身不能受到設計法律的保護，但檔案中包含了設計藍圖及其設計特徵，為了讓以數位形式呈現的設計能受到保護，建議應考慮修改《設計規則》第3條（b）及《設計指令》第1條（b）中對於產品（product）的定義，將CAD模型檔案及其他任何含有以數位形式呈現設計的物件（items）也納入產品的定義之中。 其次，ECTA認為應針對任何明知有侵權事實，但仍提供幫助的行為人課予輔助侵權責任（contributory infringement），以提供設計權人更有效的武器來捍衛自身權利。如行為人未經設計權人同意，自行利用3D儀器掃描物體，根據所得數據製作成CAD模型檔案，並將該CAD模型檔案提供給直接侵權人時，應成立輔助侵權。 最後，ECTA認為目前沒有針對3D列印技術制定專法的必要，僅需要在現行智財法律體系中進行修法調整即可，以避免法律體系過於複雜。
網路業者呼籲美國政府進行電子通訊隱私法之修正以Google及微軟為首等網路業者，及名為「資訊正當法律程序」協會的數個成員，呼籲美國聯邦政府對於儲存於雲端或第三人資料儲存系統的私人電子郵件或電子資料之取得，應進行相關法律修正。 由於1986年開始施行的「電子通訊隱私法（Electronic Communications Privacy Act, ECPA）」，係立法者基於當時資通訊技術水準所制定，然近年來諸如電子郵件、雲端運算、網路社群活動及行動通訊等科技之興起，使得該法已不足因應當今狀況，故有制定更為透明、簡單且明瞭的資料取得標準之需要。尤其是現今電子資訊儲存於第三人資訊系統內情形之普遍，更讓此等資訊取得行為是否適用該法，產生相當的模糊。 此等模糊性，讓現今的司法部門認為僅需使用傳票（subpoena）或取得法院命令（court order），便可要求第三人提供客戶的資料。但是，上述這些團體希望政府應修正既有法律以與現時社會相符，確保須透過更為嚴謹的程序，始能要求第三人提供客戶的私人資訊，例如需申請「令狀」(warrant)。蓋因資料儲存於私人電腦內，需透過令狀以命其揭露，而若儲存於第三人處，理論上亦應該透過令狀以命第三人揭露該等資訊；再者，「美國人權法案（Bill of rights ）」要求政府機關除非具特定理由，否則不得對他人住宅進行無搜索令之搜索，同樣的，在電腦資訊之取得，亦不應降低保護人民之標準。 該團體揭示之四項標準為： ．政府僅能在出示正當理由，並取得搜索令（search warrant）的情況下，才能對任何受ECPA規範的實體（無線或電子通訊服務的提供者，或遠端電腦服務提供者）要求揭露未能輕易由公眾取得之資訊。且不受通訊時代，儲存工具及狀態，或提供者的權限及其通常商業活動的通訊使用所影響。 ．政府僅能在獲得具有正當理由之搜索令下，才得要求任何受ECPA規範的實體，提供行動通訊裝置的地點資訊。 ．政府僅能在獲得司法審查，及透過法院認為其已具備第2703(d)條之情形，才能要求任何受ECPA規範的實體提供撥打電話號碼的資訊，往來電子郵件、及該實體藉由電子記錄器和追蹤設備所記錄的資訊或數據。 ．政府單位經「Stored Communications Act」之授權取得傳票，其取得資訊之範圍僅得針對特定帳號或個人。其他非特定的要求，皆須司法同意後始得進行。
歐盟執委會發表數位政府有助於因應COVID-19疫情之說明歐盟執委會（European Commission, EC）於2020年3月24日發表新聞稿，說明在COVID-19疫情期間，各國政府要求人民保持社交距離甚或自我隔離；人民無法會面互動下，數位政府政策成為維持正常生活的解套方式。歐盟於新聞稿中重申先前建構「歐盟內部市場電子交易之電子身分認證與信賴服務規則」（REGULATION EU No 910/2014 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 23 July 2014 on electronic identification and trust services for electronic transactions in the internal market and repealing Directive 1999/93/EC，以下簡稱 eIDAS）、電子識別（electronic identification, eID）以及發展信任服務（trust services）的必要性，例如電子戳記（eTimestamps）、電子圖章（eSeals）、電子簽章（eSignatures）、網站認證（Website authentication）等均屬之。歐盟公民無須離開住宅，即可和公部門互動。 除了公部門，信任服務可以支援歐盟企業（特別是疫情嚴重地區的中小型企業）遠端執行業務，維持業務連續性。例如金融服務對交易、認證、安全性及防洗錢等領域發展數位化：eID識別客戶身分、整合同一客戶的海外金融帳戶服務、遠端驗證防洗錢要求；電子簽章可與客戶遠端簽署金融服務契約；電子註冊交付服務（electronic registered delivery service）則作為安全交換重要文件或契約之機制。 在零售業而言，安全的電子交易對於線上業務尤為重要。例如eID可對購買酒類等管制商品或藝術品等高價商品之消費者進行更嚴格的身分檢查；電子簽章和電子戳記則強化文件及流程追蹤機制，降低追蹤成本。 在運輸部門，以汽車共享服務為例，eID可用於證明客戶的身份，提供安全登錄，並允許客戶進行遠端車輛解鎖。而貨運及物流產業，若在不同營運商運送之間遇有延遲，則電子戳記可使責任歸屬更加明確。另外，對重要文件使用電子圖章，可證明文件完整性、有效性並減少對紙本文件的依賴，並降低疫情期間會面之風險。
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).