歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰
人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。
歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。
在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件：
- 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及
- 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。
歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。
- White Paper On Artificial Intelligence-A European approach to excellence and trust
- Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust
- European Commission’s White Paper on Artificial Intelligence
- Europe reveals its ambitious tech blueprint to take on Silicon Valley and China
- EU plans new rules for AI but experts seek more detail
莊貫勤
法律研究員 編譯整理
EUROPEAN COMMISSION, White Paper On Artificial Intelligence-A European approach to excellence and trust (Feb. 19, 2020), https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en (last visited Apr. 7, 2020).
Tiba Razmi, Summary of EU white paper on Artificial Intelligence — A European approach to excellence and trust, Medium, Feb. 23, 2020, https://medium.com/@tibastar/summary-of-eu-white-paper-on-artificial-intelligence-a-european-approach-to-excellence-and-trust-e04a1a018b5 (last visited Apr. 7, 2020).
Lisa Peets, Marty Hansen, Sam Jungyun Choi and Anna Oberschelp de Meneses, European Commission’s White Paper on Artificial Intelligence (Part 2 of 4), Covington Digital Health (February 28, 2020.), https://www.covingtondigitalhealth.com/2020/02/european-commissions-white-paper-on-artificial-intelligence-part-2-of-4/ (last visited Apr. 7, 2020).
Charlie Wood and Shona Ghosh, Europe reveals its ambitious tech blueprint to take on Silicon Valley and China, BUSINESS INSIDER, Feb. 19, 2020, https://www.businessinsider.com/europe-digital-strategy-challenge-us-china-big-tech-artificial-intelligence-2020-2 (last visited Apr. 7, 2020).
Chris Baraniuk, EU plans new rules for AI but experts seek more detail, BBC, Feb. 19, 2020, https://www.bbc.com/news/technology-51559010 (last visited Apr. 7, 2020).
美國近期通過「外國情報偵察法」（Foreign Intelligence Surveillance Act, FISA）之修正案，其中，原先於１月份到期的第七章（Title VII）702條款（Section 702），重新延長授權6年，直至2023年12月31日。 此法案於1978年生效，為美國第一個要求政府須先獲得法院許可，始能進行電子監視的法律。法案宗旨係為平衡國家安全以及人民權利，基於憲法第四修正案對人民的保障，使身處美國領土內的人民免於被恣意監視，國家在通常情況下，須獲得外國情報偵察法院（Foreign Intelligence Surveillance Court, FISC）搜索票（warrant）才可對人民進行搜查。 本次法案修正通過後，使聯邦調查局能夠持續使用情報數據資料庫，以獲取有關美國人的信息，但法案新增要求聯邦調查局在預測性刑事調查中（predicated criminal investigation）如要索取與國家安全無關的內容，必須事先經FISC法院審查許可（court order）。 因911恐攻事件後出現的反恐需要，2008年增訂第七章702條款為FISA的正式條款，原本在今年1月到期，法案修正通過後，此條款延長授權6年。目的為美國公民提供隱私保護，禁止政府針對美國公民和位於美國境內的外國人為監視對象；僅處於國外的外國人，涉及外國情報資訊才可被列為本條進行監視的目標。允許情報部門，在三個政府部門（外國情報偵察法院，行政部門和國會）的監督下，收集關於國際恐怖分子，武器散布者以及其他位於美國境外的重要外國情報。 此項修正案保留702條款的操作靈活性，並加入了一些增強隱私措施及要求。惟，受質疑且具爭議的是，702條款條文內容規範，允許美國政府的情報機構--國家安全局（National Security Agency, NSA）基於該條款，例外不需法院搜索票，可向Google、Apple、微軟、Facebook或電信業者等美國企業蒐集、調閱國外非美國人用戶的海外通訊內容（包含電子郵件、電話、其他私人信息等），當這些被監聽的國外用戶之通訊對象係涉及美國人時亦同；意即，若美國人曾接觸被鎖定的國外對象，也會被納入調查並取得通訊紀錄等個資，且禁止業者通知受影響的用戶。曾有國會參議員試圖修改此法案，加入隱私保護條款，但最終並未獲多數同意。
強化AI安全防線：八國連署AI與機器學習供應鏈風險管理指南日本國家網路安全辦公室（国家サイバー統括室）於2026年3月5日，代表日本連署了「AI、機器學習供應鏈風險與緩和措施」（Artificial intelligence and machine learning Supply chain risks and mitigations）之國際文書（下稱本文書），並公布本文書內容。本文書是由隸屬於澳洲訊號局（Australian Signals Directorate，簡稱ASD）之澳洲網路安全中心（Australian Cyber Security Centre，簡稱ACSC）主導訂定，主要針對有導入或開發 AI、機器學習系統與元件等需求的組織，揭示其可能存在供應鏈風險與提升整體網路安全之重要性，並就AI開發或採購階段，組織應留意相關風險與可採行之緩和措施。有關連署國家，除了日本與澳洲以外，也包括加拿大、紐西蘭、韓國、新加坡、英國與美國等共八個國家皆已完成連署。 本文書內容強調組織於管理 AI、機器學習等風險時，應將 AI 供應鏈視為整體網路安全戰略的一環，同時評估產品或服務之整體生命週期風險，不應著重於單一技術，而是組織需要掌握整體供應鏈的全貌，包括特定關係事業者、活用AIBOM（AI物料清單，主要用來記錄AI模型相關資產與資訊，提供快速定位與管控AI問題模型功能）或SBOM（軟體物料清單，主要記錄軟體相依元件，用於漏洞管理與供應鏈透明度）、意識到是否已針對AI、機器學習系統可能帶來的風險，進行漏洞管理，以及針對AI、機器學習系統所導致之網路安全事件建立應處機制等。 本文書將AI、機器學習供應鏈風險大致區分為五類：AI 數據、機器學習模型、AI 軟體、AI 基礎設施（含硬體），以及第三方服務，本文書指出AI、機器學習應用於供應鏈時可能產生之風險，其中包括數據品質不良、資料受竄改、模型遭植入惡意程式碼、軟體元件複雜導致難以保證其安全、硬體與韌體擴大攻擊面，以及導入第三方服務致使供應鏈產生弱點等。 此外，本文書也針對各類風險提出可行的因應方法，例如： 1.數據面：需做標準化搜集、外部資料檢疫、資料前處理與完整性驗證。 2.模型面：需從可信來源取得透明模型，實施性能驗證與惡意程式偵測。 3.軟體面：需做完整性驗證、元件審核，並透過 SBOM 掌握已知弱點。 4.硬體面：需確認設備無惡意內容，並在網路中適當分區。 5.第三方服務面：需持續評估與監控供應商的資安實務與脆弱性管理。 總結來說，日本已意識到國家網路安全治理下，針對AI、機器學習的安全，不單是模型安全，而是涉及整體性供應鏈安全。日本藉由與他國連署國際文書，不僅強化國際合作，同時建立供應鏈網路安全共識，因應AI對於國家供應鏈之網路安全挑戰，從資料、模型、軟體、硬體到第三方服務等視角提出具體因應方法，作為全面提升國家整體網路安全環境之參考指引。日本透過強化與他國合作，提升國家網路安全治理之作法，值得我國未來借鏡參考。
日本用老鼠複製人類腎臟日本慈惠醫科大學研究人員用人類幹細胞，植入實驗鼠胚胎中，培育出具有人基因的複製腎，能過濾尿液。 研究人員先把生成腎臟的神經營養因子基因植入骨髓含有的幹細胞，然後在實驗鼠胚胎未生成腎臟前，將幹細胞注入胚胎中可生成腎臟的部位。隨後，研究人員摘出胚胎中相當於腎臟的部分。經過六天的培養，這部分組織長出了讓腎臟發揮功能的腎單位及其周圍的腎間質。基因檢查結果確認該腎臟是由人的骨髓幹細胞生成。研究人員再將這一"複製腎"移植到其他實驗鼠的腹部，約二周時間後，"複製腎"生長到一百五十毫克。 利用骨髓幹細胞進行再生醫療，生成皮膚和軟骨等已經進入實用階段，但利用動物再生人類器官還沒有先例。參加研究的橫尾隆認為，從理論上說，用這種方法生成的器官不會發生排異反應。除腎臟外，這種方法還可用來生成胰腺和肝臟。
日本內閣府公開徵集「研究安全和風險管理系統開發支援計畫」，加強研究安全保障日本內閣府公開徵集「研究安全和風險管理系統開發支援計畫」，加強研究安全保障 資訊工業策進會科技法律研究所 2025年03月10日 壹、事件摘要 內閣府科學技術創新推進事務局（科学技術・イノベーション推進事務局），於2025年2月19日發布公告，自2025年2月19日至3月24日公開徵集國內負責經濟安全重要技術的補助機關和研究機構加入「研究安全和風險管理系統開發支援計畫」 [1]（研究セキュリティ・インテグリティに関するリスクマネジメント体制整備支援事業，下簡稱研究安全計畫），以加強研究安全之保障。 貳、重點說明 日本曾發生研究者在不知情的情形下與北韓研究者共著論文而危害研究安全事件，根據日本經濟新聞2024年11月28日報導，自2016年底北韓受到聯合國加強制裁以來，共有八篇北韓研究機構的國際共著論文發表，包含東京大學、名古屋大學等日本五所大學的研究者皆在共同著作者之列，雖研究者皆表示與北韓無聯繫，但此行為仍可能違反聯合國制裁規定，且一名涉及本事件的研究者在論文發表後，仍被任命為國內主導研究計畫的主持人，負責百億日圓預算及先進技術的管理，顯示日本研究安全管理問題[2]。 為避免類似事件發生及提升日本科技實力，以及配合G7國家關於研究安全與誠信的政策，內閣府公開徵集負責經濟安全重要技術的補助機關和研究機構加入研究安全計畫。該計畫將蒐集與分析國際合作研究所需的公開資訊，並整合後於2025年出版「研究安全與誠信程序手冊」（RS/RI に関する手順書）。 所謂經濟安全重要技術，係指《促進特定重要技術研發及適當運用成果基本指南》（特定重要技術の研究開発の促進及びその成果の適切な活用に関する基本指針）所列，包含AI、生物技術等先進技術領域[3]，內閣府將透過此計畫驗證學研機構所實施之研究安全與誠信措施是否得宜，並與學研機構分享典範實務，參考政府制定的研究安全與誠信規範，提出分析與改善方法。 研究安全計畫將支援日本國內研究機構和其他處理對經濟安全重要技術的機關，在國內外開展聯合研究時採取必要的技術外流防止措施，一方面提供分析資源，如協助分析研究人員及研究機構的公開資訊（職業經歷、其他工作以及研究資金流向等），另一方面支援實施風險管理的相關費用，並針對整體防止技術外流的風險控管體系進行評估後給予建議[4]。 研究安全計畫參與對象為補助研發之機關及領取補助進行研究開發的機構（如公立研究機構、研究開發公司、大學等），且應有足夠能力執行完整風險控管計畫。另計畫評選期間，研究機構不得有內閣府所定停止補助、停止推薦等情形[5]。 內閣府為結合國家政策與國際標準，全面提升日本在經濟安全重要技術領域的研究安全與誠信管理能力，透過分析與資金支援，協助研究機構構建完善的風險控管體系，確保研究中的技術外流防範措施得以落實。此舉不僅為日本科技實力的長期發展奠定基石，亦為維護國家經濟安全及國際信譽提供堅實保障。 參、事件評析 近年研究安全成為國際間之重要議題，為防止技術外流，各國亦有許多政策，如美國國家科學基金會（National Science Foundation, NSF）啟動「保護美國研究生態系統社群 」[6]（Safeguarding the Entire Community of the U.S. Research Ecosystem, SECURE）計畫，並成立 SECURE 中心；加拿大政府公告「三機構關於敏感技術研究和關注從屬性政策指南」[7]（Tri agency guidance on the Policy on Sensitive Technology Research and Affiliations of Concern, STRAC Policy）等，在如此趨勢下，日本亦開始注重研究安全之保障。 日本內閣府此次推動研究安全計畫，顯示日本政府已深刻意識到研究安全議題的迫切性與重要性。隨著全球科技競爭日益激烈，國際間的技術交流與合作頻繁，但也伴隨著技術外流、竊取敏感研究資訊等風險。尤其是北韓等受國際制裁國家，可能透過隱匿身分或間接合作的方式，取得敏感資訊，對國際社會的安全構成潛在威脅。 日本政府推動研究安全計畫，透過提供分析資源、資金支援及風險控管體系的評估建議，協助研究機構建立完善的防範機制，期望透過以上防範機制，全面提升日本在研究安全管理能力，並確保技術外流防範措施得以落實。 然而，此計畫的推動仍存在一些挑戰與考量。首先，如何在確保研究安全與維護學術自由之間取得平衡，避免過度限制造成研究自主性與創新能力的損害，將是重要課題。此外，背景審查與資訊分析機制的建置，需注意個人隱私保護，避免引發研究人員的反彈與抵制。再者，國際合作研究的審查程序若過於繁瑣，也可能影響日本研究機構與國際間的合作意願，甚至對國際學術地位造成負面影響。 因此，日本政府在推動此項政策時，應積極參考美國、加拿大等國的經驗，建立透明且具彈性的管理制度，並與國際夥伴保持密切溝通，協調一致的研究安全標準，避免孤立於國際科研社群之外。綜上所述，日本此次行動對於提升國內研究安全與誠信管理能力，並維護國家經濟安全，具有正面且積極的意義，未來仍需持續關注政策推行的成效與後續調整方向，以達成長期穩健的發展目標。 [1]〈研究セキュリティ・インテグリティに関するリスクマネジメント体制整備支援事業の公募について〉，內閣府，https://www8.cao.go.jp/cstp/kokusaiteki/integrity/kobo_r7.html （最後瀏覽日：2025/3/10）。 [2]日本経済新聞，〈東大など5大学、知らずに北朝鮮と共同研究 ｢寝耳に水｣〉， 20254/11/28，https://www.nikkei.com/article/DGXZQOUE293WI0Z20C24A1000000/ （最後瀏覽日：2025/3/10）。 [3]〈特定重要技術の研究開発の促進及びその成果の適切な活用に関する基本指針〉，內閣府，https://www.cao.go.jp/keizai_anzen_hosho/suishinhou/doc/kihonshishin3.pdf （最後瀏覽日：2025/3/10）。 [4]〈研究セキュリティ・インテグリティに関するリスクマネジメント体制整備支援事業公募要領〉，內閣府，頁3，https://www8.cao.go.jp/cstp/kokusaiteki/integrity/kobo_r7/kobo_r7.pdf （最後瀏覽日：2025/3/10）。 [5]同前註，頁4。 [6]NSF-backed SECURE Center will support research security, international collaboration, US National Science Foundation, https://www.nsf.gov/news/nsf-backed-secure-center-will-support-research (last visited Mar. 10, 2025). [7]Tri-agency guidance on the Policy on Sensitive Technology Research and Affiliations of Concern (STRAC Policy), Natural Sciences and Engineering Research Council of Canada, https://www.nserc-crsng.gc.ca/InterAgency-Interorganismes/RS-SR/strac-rtsap_eng.asp (last visited Mar. 10, 2025).