美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署
美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。
美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下：
（1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。
（2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。
（3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
本文為「經濟部產業技術司科技專案成果」
劉心妍
副法律研究員 編譯整理
U.S. Department of Homeland Security, 2024 Artificial Intelligence Roadmap, Mar. 17, 2024, https://www.dhs.gov/sites/default/files/2024-03/24_0315_ocio_roadmap_artificialintelligence-ciov3-signed-508.pdf (last visited May 7, 2024).
陳政陽，〈日本公布設立AI安全研究所與著手訂定AI安全性評鑑標準〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9157〈最後瀏覽日：2024/5/7〉。
周晨蕙，〈日本經產省和總務省共同發布AI業者指引草案，公開徵集意見〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9146〈最後瀏覽日：2024/5/7〉。
吳彬詣，〈歐盟執委會發布人工智慧創新政策套案〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9143〈最後瀏覽日：2024/5/7〉。
科法觀點
俄羅斯聯邦政府於2022年3月7日發布第299號法令（Постановление Правительства Российской Федерации № 299，下稱本法令），規定於有國家利益考量之情況下，得不經授權利用「不友好國家」的專利權。而我國也在前述「不友好國家」名單之列。 具體而言，本法令之解釋脈絡應從俄羅斯民法（Гражданский кодекс Российской Федерации）第1360條談起，該條規定在確保國家安全或保護公民生命與健康之極端必要情況下，俄羅斯聯邦政府有權決定，未經專利權人同意，使用相關發明、新型和工業品外觀設計，惟需儘快通知專利權人，並支付相應之補償金。 2021年10月18日，俄羅斯聯邦政府按民法第1360條第2項規定，頒布第1767號法令（Постановление Правительства Российской Федерации № 1767）確定補償數額為受專利保護之商品與服務所產生實際收益之0.5%。 然而，因烏俄戰爭持續延燒致俄羅斯聯邦政府採取反西方制裁措施之故，其發布第299號法令，針對第1767號法令再次增修補償數額之認定方法，規定：「倘專利權人來自『不友好國家』，則俄羅斯實體或個人未經專利權人同意，使用相關發明、新型或工業設計進行生產、銷售商品、提供勞務及服務時，須向權利人支付權利金為前述活動所產生實際收益之0%」。 基此，第299號法令應限縮在有國家利益考量之情況下（如：與國家安全或保護俄羅斯公民的生命、健康相關），針對使用特定的專利或商品，可免支付專利強制授權的補償金。換言之，本法令不應解讀為，任何專利在俄羅斯都可恣意利用，而無需經權利人同意或支付適當補償。惟因無法預期未來俄羅斯聯邦政府對「不友好國家」會否有其他強制授權情事，故我國經濟部智慧財產局發函通知專利權人，應密切關注相關議題，並預作準備以降低風險。
因應巨量資料（Big Data）與開放資料（Open Data）的發展與科技應用，美國國會提出「資料仲介商有責與透明法草案」（Data Broker Accountability and Transparency Act）美國國會議員Markey與Rockefeller於2014年2月提出S. 2025：「資料仲介商有責與透明法草案」（Data Broker Accountability and Transparency Act），以促進對於消費者保護，與資料仲介產業發展間的平衡。該草案預將授權「美國聯邦貿易委員會」與各州據以監督與執行。 該草案對「資料仲介商」（以下簡稱Data Broker）加以定義為係以銷售、提供第三方近用為目的，而蒐集、組合或維護非其客戶或員工之個人相關資料的商業實體；更進一步的禁止Data Broker以假造、虛構、詐欺性的陳述或聲明的方式（包括提供明知或應知悉為偽造、假造、虛構、或詐欺性陳述或聲明的文件予以他人），自資料當事人取得或使其揭露個人相關資料。 該草案亦要求Data Broker建置及提供相關程序、方式與管道，以供資料當事人進行下列事項： 1.檢視與確認其個人相關資料（除非為辨識個人為目的的姓名或住址）正確性（但有其他排除規定）。 2.更正「公共紀錄資訊」（Public Record Information）與「非公共資訊」（Non-public Information） 3.表達其個人相關資料被使用的時機與偏好。例如在符合一定條件下，資料當事人得以「選擇退出」（Opt Out）其資料被Data Broker蒐集或以行銷為目的而販售。 於此同時，加州參議院亦已於2014年5月通過S.B. 1348：Data Brokers的草案，該草案要求資料當事人擁有檢視Data Broker所持有的資料，並得要求其於刪除提出後10天內永久刪除；當資料一經刪除，該Data Broker不得再行轉發或是將其資料販售給第三人。加州參議院並提案，該法案通過後將涵蓋適用至2015年1月1日所蒐集的資料，且個人於Data Broker每次違反時得提出$1,000美元的損害賠償訴訟（律師費外加）。雖然該草案受到隱私權保護團體的支持，卻受到加州商會（California Chamber of Commerce）與直銷聯盟（Direct Marketing Association）的反對。加州在Data Broker的立法規範上是否能超前聯邦的進度，讓我們拭目以待吧。
美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括： 1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。 2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。 3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。 4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。 5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。 6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。 7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。 8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。 9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。 10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。 11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。 12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。 為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
美國聯邦資料戰略〈2020年行動計畫〉美國白宮於2018年3月發布〈總統管理方案（President’s Management Agenda）〉，其中發展「聯邦資料戰略（Federal Data Strategy）」，將資料作為戰略資產，藉以發展經濟、提高聯邦政府效能、促進監督與透明度，為方案中重要之工作目標之一。「聯邦資料戰略」之架構上主要包括四個組成部分，以指導聯邦資料之管理和使用：1.使命宣言：闡明戰略之意圖與核心目的；2.原則：有十大恆定原則對於機關進行指導；3.實作規範：有四十項實作規範指導機關如何利用資料之價值；4.年度行動計畫：以可衡量之活動來實踐這些實作規範。 於2019年12月23日，〈2020年行動計畫〉之最終版正式發布，其將建立堅實之基礎，在未來十年內支持戰略之實踐。詳言之，〈2020年行動計畫〉之內涵主要包含三大部分與二十個行動： 機關行動：旨在支持機關利用其資料資產，包括六大行動：(1)行動1：確認用於回答對於機關而言具有優先性之問題所需之資料；(2)行動2：將機關之資料治理制度化；(3)行動3：評估資料與相關基礎設施之成熟度；(4)行動4：確認提高員工資料技能之機會；(5)行動5：確認用於機關開放資料計劃之優先資料資產；(6)行動6：發布與更新資料庫存。 實踐共同體之行動：由特定機關或一群機關就一共通主題所採取之行動，可加速並簡化現有要求之執行，包括下列四大活動：(1)行動7：成立聯邦首席資料官委員會；(2)行動8：改善用於AI研究與發展之資料與模型資源；(3)行動9：改善財務管理資料標準；(4)行動10：將地理空間資料實務整合至聯邦資料事業中。 共享解決方案行動：為所有機關之利益、由單一機關或委員會試行或發展之活動：(1)行動11：開發聯邦事業資料資源儲存庫；(2)行動12：創建美國預算管理局聯邦資料政策委員會；(3)行動13：制定策畫之資料技能目錄；(4)行動14：制定資料倫理框架；(5)行動15：開發資料保護工具組；(6)行動16：試行一站式之標準研究應用程序；(7)行動17：試行一種自動化之資訊收集評論工具，該工具支持資料庫存之創建與更新；(8)行動18：試行用於聯邦機構之增強型資料管理工具；(9)行動19：制定資料品質評估與報告指引；(10)行動20：發展資料標準之儲存庫。 〈2020年行動計畫〉確定機關之初步行動，其對建立流程、建立能力、調整現有工作以更好地將資料作為戰略資產至關重要。未來之年度行動計畫將會在〈2020年行動計畫〉之基礎上進一步發展出針對聯邦資料管理之協調方案。