歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰
人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。
歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。
在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件：
- 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及
- 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。
歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。
- White Paper On Artificial Intelligence-A European approach to excellence and trust
- Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust
- European Commission’s White Paper on Artificial Intelligence
- Europe reveals its ambitious tech blueprint to take on Silicon Valley and China
- EU plans new rules for AI but experts seek more detail
莊貫勤
法律研究員 編譯整理
EUROPEAN COMMISSION, White Paper On Artificial Intelligence-A European approach to excellence and trust (Feb. 19, 2020), https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en (last visited Apr. 7, 2020).
Tiba Razmi, Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust, Medium, Feb. 23, 2020, https://medium.com/@tibastar/summary-of-eu-white-paper-on-artificial-intelligence-a-european-approach-to-excellence-and-trust-e04a1a018b5 (last visited Apr. 7, 2020).
Lisa Peets, Marty Hansen, Sam Jungyun Choi and Anna Oberschelp de Meneses, European Commission’s White Paper on Artificial Intelligence (Part 2 of 4), Covington Digital Health (February 28, 2020.), https://www.covingtondigitalhealth.com/2020/02/european-commissions-white-paper-on-artificial-intelligence-part-2-of-4/ (last visited Apr. 7, 2020).
Charlie Wood and Shona Ghosh, Europe reveals its ambitious tech blueprint to take on Silicon Valley and China, BUSINESS INSIDER, Feb. 19, 2020, https://www.businessinsider.com/europe-digital-strategy-challenge-us-china-big-tech-artificial-intelligence-2020-2 (last visited Apr. 7, 2020).
Chris Baraniuk, EU plans new rules for AI but experts seek more detail, BBC, Feb. 19, 2020, https://www.bbc.com/news/technology-51559010 (last visited Apr. 7, 2020).
歐盟委員會（European Commission）於 2025年2月3日因應將於2025年9月12日施行的資料法（Data Act），就其常見問題說明進行補充與更新為1.2版（Frequently Asked Questions on the Data Act，下稱FAQs），以協助企業面對資料法施行後的挑戰。 於新版FAQs中就資料法進行補充說明，以助企業了解資料法之適用範圍，就資料法所稱之聯網裝置與服務，聯網裝置泛指可以連上網路的裝置，包含智慧型手機，並僅限於由使用者所擁有的聯網裝置，另就聯網服務則須具備雙向資料傳遞且須與聯網產品的操作功能有影響之服務。 就資料持有者有義務提供之資料適用範圍，僅限於聯網裝置與相關服務所產出的原始資料與預處理資料（原始但可用），資料持有者就原始資料或預處理資料進行加值所產生資料，如經分析所產生之衍生資料、經投入重大資源進行清理之資料等，則不在共享義務之範圍內，另就資料的內容有其他法律保護亦不在資料法的範疇中，如網路攝影機之照片/影片有受著作權法保護係屬於資料內容，網路攝影機之使用模式/電池狀態/照明強度等資料才是資料法所規範之資料，惟須留意若影像之內容非屬著作權保護之標的，如網路攝影機因具感測功能而自動就影像判斷是否異常現象或提供建議，此類影像因不具人類創意而不受著作權保護，仍屬資料法所涵蓋範圍。 於FAQs之解釋中，就資料法實際操作與預期有所差異，歐盟委員會後續亦會整合與數位資料相關之法規，如建立資料聯盟策略（Data Union Strategy），以助於企業促進數位資料的使用與共享。國內廠商若有提供歐盟客戶相關聯網設備與服務時，須留意內部資料管理制度能否滿足資料法要求，確保組織有因應相關法規議題的變化進行制度的變更，如何將外部議題與資料管理制度連結，可參資策會科法所創意智財中心就數位資料管理機制所公布之《重要數位資料治理暨管理制度規範（EDGS）》，將組織營運所在國別之法規範變動納入關注之外部議題，並設定對應之資料政策與目標，建立符合法令規範之資料管理制度，如是否得以識別為資料法所適用之資料等，以確保組織資料管理機制符合法令要求。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
IBM提出「人工智慧日常倫理」手冊作為研發人員指引隨著人工智慧快速發，各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題，應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」（Everyday Ethics for Artificial Intelligence）手冊，其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範，該手冊提供了問責制度、價值協同、可理解性等關注點，以促進社會對人工智慧的信任。 一、問責制度（Accountability） 由於人工智慧的決策將作為人們判斷的重要依據，在看似客觀的演算系統中，編寫演算法、定義失敗或成功的程式設計人員，將影響到人工智慧的演算結果。因此，系統的設計和開發團隊，應詳細記錄系統之設計與決策流程，確保設計、開發階段的責任歸屬，以及程序的可檢驗性。 二、價值協同（Value Alignment） 人工智慧在協助人們做出判斷時，應充分考量到事件的背景因素，其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員，應協同應用領域之價值體系與經驗，並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時，設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀，使演算系統與使用者之行為準則相符。 三、可理解性（Explainability） 人工智慧系統的設計，應盡可能地讓人們理解，甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大，其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解，並針對人工智慧結論或建議，進而有所反饋的重要關鍵；並使用戶面對高度敏感決策時，得以據之檢視系統之背景數據、演算邏輯、推理及建議等。 該手冊提醒，倫理考量應在人工智慧設計之初嵌入，以最小化演算的歧視，並使決策過程透明，使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊，應視為影響數百萬人甚至社會生態的核心角色，應負有義務設計以人為本，並與社會價值觀和道德觀一致的智慧系統。
歐巴馬宣布將立法保護學生數位隱私權美國總統歐巴馬日前表示其將訂立「學生數位隱私法」（The Student Digital Privacy Act）以確保因教育目的而被蒐集之學生個人資料將不會被用於無關之用途。換言之，該法將禁止，例如，利用所蒐集資料對學生進行精準行銷的行為，但仍會許可蒐集者利用所蒐集資料改善其所提供之軟硬體教育設備或用以幫助學生之學習品質。 針對學生之隱私保護，目前於聯邦層級至少已有家庭教育權利與隱私法（Family Educational Rights and Privacy Act，FERPA），該法及其授權法令雖賦予學生及其家長對學校所保有之教育紀錄（educational record）之蒐集、使用有知情同意權及其他如修正教育紀錄之權利。但FERPA也列了相當多的例外情形，例如，醫療資料、受雇紀錄等均不在教育紀錄之列；此外，學校亦可不經同意即公布學生的姓名、電子郵件、出生地、主修、預計畢業日期等資料。 學生數位隱私法未來如能獲國會通過成為法律，該法與FERPA的異同，及其內容與施行實務是否確有助於學生隱私之改善，仍有待觀察。
猴子自拍照著作權爭議；美國法院：動物無法擁有著作權2015年1月6日，美國聯邦地區法官裁定，猴子用照相機自拍，猴子無法取得自拍照的著作權。 英國攝影師Slater在四年前，讓黑冠猴Naruto使用其相機，成功的拍出了罕見的黑冠猴自拍照；而攝影師Slater後來把這些自拍照收錄在出版書中，並同時在網路上公開，並獲得廣大迴響。但之後維基百科(Wikipedia)收進免費圖片資源中，供大眾免費下載使用，Slater認為則認為這些照片的著作權已經被英國官方認可屬於Slater所開設的公司，此認可應適用於全世界。惟美國著作權局在2014年最新政策中，認為著作權登記僅適用「人類作品」，據此Naruto之自拍照並不受著作權保障。 而善待動物組織PETA(People for the Ethical Treatment of Animals)組織也加入了著作權爭奪戰局，其認為由Naruto所拍攝自拍照，其著作權應屬於Naruto，但由於Naruto不懂如何行使權利，故由PETA代為管理著作權，相關收益均會用於保護黑冠猴，並且向舊金山聯邦法院提出告訴。美國聯邦法院則在2016年1月6日判決，目前著作權法仍未將保護範圍擴張至動物作品上，故Naruto並未擁有該自拍照著作權，自無PETA代掌著作權可能；PETA接獲判決後表示會提出上訴。