歐盟公布數位單一市場下ICT標準化優先發展項目
歐盟於2016年4月19日公布數位單一市場下ICT標準化優先發展項目(ICT Standardisation Priorities for the Digital Single Market)，包括：5G通訊、雲端運算、智慧聯網、巨量資料技術、以及網路安全等，作為目前數位單一市場發展的基礎。相關影響產業包含：智慧健康、智慧能源、智慧運輸系統、電動車、智慧家居、以及智慧城市等。其三大主軸依次說明如下：
1. ICT標準建立為數位單一市場發展核心
歐盟將依1025/2012規則為基礎，進行標準化建立，因此將聚焦在數位單一市場需要發展的核心技術領域，優先進行標準訂定。
2. 因應全球技術變遷發展
ICT標準發展主要仍以產業為導向，且由產業自願性採納，建立之原則包括應具備透明性、開放、公平與一致性、有效與連結性等，此同時也能促成歐洲創新能量之發展。
3.以雙主軸計畫優先發展ICT標準設立
(1)首先歐盟執委會將確認數位單一市場優先發展之五項領域，並且設立發展時程。
(2)針對上述的優先發展領域，歐盟將進行施行檢視以及相關細項。
在5G通訊部分，預計將透過5G公私協力合作發展，同時以目前產業的需求為發展導向；在雲端運算方面，歐盟將以資金補助方式，促進雲端應用的互通性與易取性發展，並且支持企業，尤其在中小企業部分，以服務層級協議為基礎，協助採用雲端運算服務；在智慧聯網發展部分，主要為發展技術、介面、Open API等，建立準則，並預計將智慧聯網標準納入成為政府採購項目之一；在網路安全性部分，在上述發展技術領域當中，資料安全與隱私保護為核心議題，因此除了透過公司協力方式發展安全技術以外，同時也鼓勵業者應該設計著手保護隱私等概念優先納入技術之中；關於巨量資料技術部分，包括跨部門技術整合、資料與後設資料有更佳的互通性。此外，尚包括資料與軟體基礎設施服務，提供科學資料的交換、執行資料管理計畫、品質驗證、信賴性與透明性等原則。
最後，在可能受影響之產業方面，以智慧健康發展為例，智慧健康必須符合病人預期要求，如病人安全維護以及達到更佳的健康照護體系。因此，互通性的標準為當中關鍵的角色，未來亦有助於發展各國之間跨境醫療照護實踐。在電子病歷交換方面，從病人病歷摘要、電子處方簽等等，在符合個資保護條件之下，建立互通性標準可使疾病的治療更為完善。歐盟未來將持續鼓勵各會員國之間標準互通性之發展，包含目前行動健康應用程式的使用，以及未來遠距醫療應用。後續，歐盟將從2016年開始至2017年，持續針對標準建立進行討論會議，預計以資金費用補助以及其他政策方式輔導發展，同時也在2016年6月提出規劃說明使歐盟標準化政策發展符合現代化。
莊晏詞
法律研究員 編譯整理
European Commission, Communication: ICT Standardisation Priorities for the Digital Single Market, https://ec.europa.eu/digital-single-market/en/news/communication-ict-standardisation-priorities-digital-single-market (last visited Aug 15, 2016).
European Commission, Commission Takes Steps to Modernise EU’s Standardisation Policy,http://europa.eu/rapid/press-release_IP-16-1962_en.htm (last visited Aug. 15, 2016)
日本文化廳發布《人工智慧著作權檢核清單和指引》 資訊工業策進會科技法律研究所 2024年08月21日 日本文化廳為降低生成式人工智慧所產生的著作權風險，保護和行使著作權人權利，於2024年7月31日以文化廳3月發布的《人工智慧與著作權的思考》、內閣府5月發布的《人工智慧時代知識產權研究小組中期報告》，以及總務省和經濟產業省4月份發布的《人工智慧事業指引（1.0版）》的資料為基礎，制訂發布《人工智慧著作權檢核清單和指引》[1]。 壹、事件摘要 日本文化廳的《人工智慧著作權檢核清單和指引》主要分成兩部分，第一部分是「人工智慧開發、提供和使用清單」，依循總務省和經濟產業省4月份發布的《人工智慧事業指引（1.0版）》的區分方式，分為「AI開發者」、「AI提供者」、「AI（業務）使用者（事業利用人）」和「業務外利用者（一般利用人）」四個利害關係人，依不同的身份分別說明如何降低人工智慧開發前後的資料處理和學習等智慧財產權侵權風險的措施，以及提供和使用人工智慧系統和服務時，安全、適當地使用人工智慧的技術訣竅。 第二部分則是針對著作權人及依著作權法享有權利的其他權利人（例如表演人）的權益保護，從權利人的思考角度，建議正確理解生成式AI可能會出現什麼樣的（著作權）法律上利用行為[2]。其次，說明近似侵權的判斷要件、要件的證明、防止與賠償等可主張的法律上請求、可向誰主張侵權、權利主張的限制；於事先或發現後可採取的防止人工智慧侵權學習的可能措施；最後對侵權因應建議權利人可發出著作權侵權警告、進行訴訟、調解等糾紛解決，並提供可用的法律諮詢窗口資訊。 貳、重點說明 日本文化廳於此指引中，針對不同的角色提出生成式AI與著作權之間的關係，除更具體的對「AI開發者」、「AI提供者」、「AI（事業與一般利用人）」，提醒其應注意的侵權風險樣態、可能的合法使用範圍，並提供如何降低風險的對策。同時，從權利人角度提供如何保護權益的指引，並提供可用的法律諮詢窗口資訊。重點說明如下： 一、不符合「非享受目的」的非法AI訓練 日本著作權法第30條之4規定適用於以收集人工智慧學習資料等為目的而進行的著作權作品的複製，無需獲得權利人的授權，但是，該指引特別明確指出「為了輸出AI學習資料中包含的既有作品的內容，而進行額外學習；為讓AI產出學習資料庫中所包含的既有作品的創作表現；對特定創作者的少量著作權作品進行額外個別學習」，這三個情況係同時存有「享受」著作目的，不適用無須授權的規定[3]。 二、不能「不當損害著作權人利益」 從已經採取的措施和過去的銷售紀錄可以推斷，資料庫著作權作品計劃有償作為人工智慧學習的資料集。在這種情況下，未經授權以人工智慧學習為目的進行複製時，屬於「不當損害著作權人利益」的要求，將不適用（日本）著作權法第30條之4規定[4]。在明知某個網站發布盜版或其他侵害著作權的情況下收集學習資料，則使用該學習資料開發的人工智慧也會造成著作權侵權，人工智慧開發者也可能被追究著作權責任[5]。不應使用以原樣輸出作為學習資料的著作權作品的學習方法，如果該已訓練模型處於高概率生成與學習資料中的著作物相似的生成結果的狀態等情況下，則該已訓練模型可能被評價為「學習資料中著作物的複製物」， 對銷毀該模型的請求即有可能會被同意[6]。 三、使用生成式AI即可能被認定為可能有接觸被侵害著作[7] 權利人不一定必須證明「生成所用生成AI的學習資料中包含權利人的作品。如有下述AI使用者認識到權利人的作品的情況之一，權利人亦可透過主張和證明符合「依賴性（依拠性）」要件，例如：AI使用者將現有的著作物本身輸入生成AI、輸入了現有著作物的題名（標題）或其他特定的固有名詞、AI生成物與現有著作物高度類似等。 四、開發與提供者也可能是侵權責任主體[8] 該指引指出，除利用人外，開發或提供者亦有負侵權責任的可能，特別是－－人工智慧頻繁產生侵權結果，或已意識到人工智慧很有可能產生侵權結果，但沒有採取措施阻止。於其應負侵權責任時，可能被請求從訓練資料集中刪除現有的著作權作品，甚至是刪除造成侵權的人工智慧學習創建的訓練模型。即便人工智慧學習創建的訓練模型一般並非訓練資料的重製物，不過如果訓練後的模型處於產生與作為訓練資料的著作權作品相似的產品的機率很高的狀態，該指引認為可能會被同意[9]。 參、事件評析 人工智慧（AI）科技迎來契機，其生成內容隨著科技發展日新月異，時常可以看見民眾在網路上分享AI技術生成的圖像和影音。是否能將AI生成的圖案用在馬克杯或衣服販售，或是將Chat GPT內容當作補習班教材，均成為日常生活中的訓練AI的資料與運用AI的產出疑義。 各國固然就存有人類的「創造性貢獻」是人工智慧生成結果是否受著作權法保護、可受著作權保護的條件，單純機械性的AI自動生成，基本上欠缺「人的創造性」，非著作權保護對象，已有明確的共識。如何以明確的法令規範降低AI開發過程的侵權風險或處理成本？賦予AI訓練合法使用既有著作，應有的界限？衡平(賦予)既有著作的著作權人權益？AI服務提供者應負那些共通義務？是否合理課予AI服務提供者應負之侵權損害責任？AI使用者之侵權責任是否須推定符合「接觸」要件？等等諸此進一步的疑義，則仍在各國討論、形成共識中。 而從日本文化廳的《人工智慧著作權檢核清單和指引》，我們可以清楚的看出，在樹立成為AI大國的國家發展政策下，其著作權法雖已賦予AI訓練資料合法的重製，但在指引是明列已屬「享受」目的訓練行為、不合理損害著作權利用的情況、明示開發服務者應負的揭露義務與可能承擔侵權責任，彰顯其對權利人權益平衡保護的努力。值得於我國將來推動落實AI基本法草案中維護著作權人權益原則時，做為完善相關法令機制的重要參考。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1] 文化庁著作権課，「AI著作権チェックリスト＆ガイダンス」，令和6年7月31日，https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/seisaku/r06_02/pdf/94089701_05.pdf，最後閱覽日：2024/08/20。 [2] 詳見前註，頁31。 [3] 詳見前註，頁7。 [4] 詳見前註，頁8。 [5] 詳見前註，頁9。 [6] 詳見前註，頁9。 [7] 詳見前註，頁35。 [8] 詳見前註，頁36。 [9] 詳見前註，頁42。
歐洲議會通過《人工智慧法案》朝向全球首部人工智慧監管標準邁進下一步歐洲議會通過《人工智慧法案》 朝向全球首部人工智慧監管標準邁進下一步 資訊工業策進會科技法律研究所 2023年06月26日 觀察今年的科技盛事屬ChatGPT討論度最高，將人們從區塊鏈、元宇宙中，帶入人工智慧（AI）領域的新發展。ChatGPT於2022年11月由OpenAI開發的生成式人工智慧，透過深度學習模型，理解和生成自然語言，其功能包含回答各類型問題（如科學、歷史）、生成邏輯結構之文章（如翻譯、新聞標題）、圖形、影像等內容。然而對於人工智慧的發展，究竟如何去處理人機間互動關係，對於風險之管理及相關應用之規範又該如何，或許可從歐盟的法制發展看出端倪。 壹、事件摘要 面對人工智慧的發展及應用，歐盟執委會（European Commission）早在2018年6月成立人工智慧高級專家組（AI HLEG），並於隔年（2019）4月提出「可信賴的人工智慧倫理準則」（Ethics Guidelines for Trustworthy AI），要求人工智慧需遵守人類自主、傷害預防、公平、透明公開等倫理原則。於2021年4月21日歐盟執委會提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（以下稱人工智慧法案），於2023年內部市場委員會（Internal Market Committee）與公民自由委員會（Civil Liberties Committee）通過並交由歐洲議會審議（European Parliament），最終《人工智慧法案》於2023年6月14日通過。後續將再歐盟理事會（Council of the European Union）與辯論協商，尋求具共識的最終文本[1]。 貳、重點說明 由於「歐盟議會通過」不等於「法案通過」，實際上歐盟立法機制不同於我國，以下透過法案內容說明的契機，概述一般情況下歐盟之立法流程： 一、歐盟立法過程 通常情況下，法案由歐盟執委會（下簡稱執委會）提出，送交歐盟理事會及歐洲議會，作為歐盟的「立法者」歐洲理事會（下簡稱理事會）與歐洲議會（下簡稱議會）將針對法案獨立討論並取得各自機關內之共識。大致上立法程序有可分為三階段，在一讀階段若理事會與議會對於執委會版本無修改且通過，則法案通過，若任一機關修改，則會進行到二讀階段。針對法案二讀若仍無法取得共識，則可召開調解委員會（Conciliation）協商，取得共識後進入三讀。簡單來說，法案是否能通過，取決於理事會與議會是否取得共識，並於各自機關內表決通過[2]。 目前《人工智慧法案》仍處於一讀階段，由於法案具備爭議性且人工智慧發展所因應而生之爭議迫在眉睫，議會通過後將與執委會、理事會進入「三方會談」（Trilogue）的非正式會議，期望針對法案內容取得共識。 二、人工智慧法案 （一）規範客體 《人工智慧法案》依風險及危害性程度分級，其中「不可接受風險」因抵觸歐盟基本價值原則禁止（符合公益目標，如重大或特定犯罪調查、防止人身安全遭受危害等例外許可）。「高風險」則為法案規範之重點，除針對系統技術穩健、資料處理及保存訂有規範外，針對人為介入、安全性等也訂定標準。 而針對高風險之範疇，此次議會決議即擴大其適用範圍，將涉及兒童認知、情緒等教育及深度偽造技術（Deepfake）納入高風險系統，並強調應遵循歐盟個人資料保護規範。此外對於社會具有高影響力之系統或社群平臺（法案以4500萬用戶做為判斷基準），由執委會評估是否列為高風險系統。針對目前討論度高的生成式人工智慧（ChatGPT），議會針對法案增訂其系統於訓練及應用目的上，應揭露其為生成式人工智慧所產出之內容或結果，並摘要說明所涉及之智慧財產權[3]。 （二）禁止項目 關於《人工智慧法案》對於高風險系統之要求，從執委會及理事會的觀點來看，原則上重點在於對弱勢的保護及生物資料辨識之權限。歐盟禁止人工智慧系統影響身理及心理，包含對於特定族群如孩童、身心障礙者等弱勢族群之不平等待遇。同時原則禁止即時遠端的生物辨識利用，包含對於人性分析、動作預測等對於人類評價、分類之應用，例外情況如犯罪調查、協尋失蹤兒童、預防恐怖攻擊、關鍵基礎設施破壞等情況時方被允許。此次議會決議提高禁止即時遠端生物辨識的標準，包含納入敏感資訊的蒐集如性別、種族、政治傾向等，及其他臉部辨識、執法、邊境管制、情緒辨識等項目[4]。 參、事件評析 有關《人工智慧法案》雖歐洲議會已一讀通過，然而後續仍要面對與歐盟理事會的協商討論，並取得共識才能規範整個歐盟市場。因此上述規範仍有變數，但仍可推敲出歐盟對於人工智慧（含生成式）的應用規範態度。在面對日新月異的新興科技發展，其立法管制措施也將隨著橫向發展，納入更多種面向並預測其走向趨勢。因人工智慧有應用多元無法一概而論及管制阻礙創新等疑慮，觀察目前國際上仍以政策或指引等文件，宣示人工智慧應用倫理原則或其風險之管理，偏重產業推動與自律。 觀察歐盟《人工智慧法案》之監管目的，似期望透過其市場規模影響國際間對於人工智慧的監管標準。倘若法案後續順利完成協商並取得共識通過，對於如OpenAI等大型人工系統開發商或社群平臺等，若經執委會評估認定為高風險系統，勢必對於未來開發、應用帶來一定衝擊。因此，歐盟對於人工智慧監管的態度及措施實則牽一髮而動全身，仍有持續觀察之必要。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]The AI Act, Future of Life Institute, https://artificialintelligenceact.eu/developments/ (last visited Jun. 20, 2023) [2]The ordinary legislative procedure, Council of European Union, https://www.consilium.europa.eu/en/council-eu/decision-making/ordinary-legislative-procedure/ (last visited Jun. 19, 2023) [3]EU AI Act: first regulation on artificial intelligence, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence (last visited Jun. 21, 2023) [4]MEPs ready to negotiate first-ever rules for safe and transparent AI, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai(last visited Jun. 21, 2023)
世界衛生組織發布人工智慧於健康領域之監管考量因素文件，期能協助各國有效監管健康領域之人工智慧世界衛生組織（World Health Organization, WHO）於2023年10月19日發布「人工智慧於健康領域之監管考量因素」（Regulatory considerations on artificial intelligence for health）文件，旨在協助各國有效監管健康領域之人工智慧，發揮其潛力同時最大限度地降低風險。本文件以下列六個領域概述健康人工智慧之監管考量因素： （1）文件化與透明度（Documentation and transparency） 開發者應預先規範（pre-specifying）以及明確記錄人工智慧系統（以下簡稱AI系統）之預期醫療目的與開發過程，如AI系統所欲解決之問題，以及資料集之選擇與利用、參考標準、參數、指標、於各開發階段與原始計畫之偏離及更新等事項，並建議以基於風險之方法（Risk-based approach），根據重要性之比例決定文件化之程度、以及AI系統之開發與確效紀錄之保持。 （2）風險管理與AI系統開發生命週期方法（Risk management and AI systems development lifecycle approaches） 開發者應在AI系統生命之所有階段，考慮整體產品生命週期方法（total product lifecycle approach），包括上市前開發管理、上市後監督與變更管理。此外，須考慮採用風險管理方法（risk management approach）來解決與AI系統相關之風險，如網路安全威脅與漏洞（vulnerabilities）、擬合不足（underfitting）、演算法偏差等。 （3）預期用途、分析及臨床確效（Intended use, and analytical and clinical validation） 開發者應考慮提供AI系統預期用途之透明化紀錄，將用於建構AI系統之訓練資料集組成（training dataset composition）之詳細資訊（包括大小、設定與族群、輸入與輸出資料及人口組成等）提供給使用者。此外，可考慮透過一獨立資料集（independent dataset）之外部分析確效（external analytical validation），展示訓練與測試資料以外之效能，並考慮將風險作為臨床確效之分級要求。最後，於AI系統之上市後監督與市場監督階段，可考慮進行一段期間密集之部署後監督（post-deployment monitoring）。 （4）資料品質（Data quality） 開發者應確認可用資料（available data）之品質，是否已足以支援AI系統之開發，且開發者應對AI系統進行嚴格之預發布評估（pre-release evaluations），以確保其不會放大訓練資料、演算法或系統設計其他元素中之偏差與錯誤等問題，且利害關係人還應考慮減輕與健康照護資料有關之品質問題與風險，並繼續努力創建資料生態系統，以促進優質資料來源之共享。 （5）隱私與資料保護（Privacy and data protection） 開發者於AI系統之設計與部署過程中，應考慮隱私與資料保護問題，並留意不同法規之適用範圍及差異，且於開發過程之早期，開發者即應充分瞭解適用之資料保護法規與隱私法規，並應確保開發過程符合或超過相關法規要求。 （6）參與及協作（Engagement and collaboration） 開發者於制定人工智慧創新與部署路線圖之期間，需考慮開發可近用且具有充足資訊之平台，以於適合與適當情況下促進利害關係人間之參與及協作；為加速人工智慧領域實務作法之進化，透過參與及協作來簡化人工智慧監管之監督流程即有必要。