美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」
美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括：
1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。
2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。
3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。
4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。
5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。
6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。
7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。
8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。
9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。
10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。
11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。
12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。
為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
許嘉芳
法律研究員 編譯整理
NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY [NIST], NIST-AI-600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, July 26, 2024, https://www.nist.gov/itl/ai-risk-management-framework (last visited Sept. 13, 2024).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
繼歐盟於 2006 年通過資料保存指令（ Directive on the retention of data ）後，美國司法部亦開始關注資料保存的議題，但不同於英歐盟資料保存之目的乃著眼於對抗恐怖主義及打擊嚴重犯罪，美國資料保存的目地則偏重於根除兒童色情相關的問題。 為因應科技時代的犯罪， 檢察官常需要透過 ISP 業者提供客戶通聯紀錄等資訊以協助犯罪偵察 ， 因此美國在 United States Code, Section 2703(f) 便早已規定 ， 有線或電子通信服務業者必須配合政府要求提供調查犯罪所須的資訊。但由於該法並未明白要求業者應主動收集哪些項資訊，因此美國 ISP 業者僅保存與商業利益有關之網路使用記錄，美國司法部長 Alberto Gonzales 4 月 20 日於國家兒童權益保護中心（ National Center for Missing and Exploited Children ， NCMEC ） 表示，目前 ISP 業者能提供的資料相當有限，這相當程度地阻礙犯罪調查工作的進行，因此他認為應研擬更利於法庭證據取得之資料保存法令。 為避免人權團體以資料保存侵害個人的隱私權為由，而妨礙立法的進度，因此美國目前資料保存法令的推動方向可能有兩種不同的發展方向，其一是僅由 ISP 業者記錄特定期間內民眾的活動紀錄，另一種方向則是與歐盟相似，保存電話通聯、網頁瀏覽以及 mail 、即時通訊等內容。
美國紐約州通過《政府自動化決策監督法》規範州政府使用自動化決策系統紐約州州長於2024年12月21日簽署《政府自動化決策監督法》（Legislative Oversight of Automated Decision-making in Government Act, LOADinG Act），用以規範紐約州政府使用人工智慧自動決策系統的方式以及相關義務，成為美國第一個通過這類法律的州。 該法所定義之「自動化決策系統」係指任何使用演算法、計算模型或人工智慧技術，或其組合的軟體，用於自動化、支援或取代人類決策；這類系統亦包括應用預定義規則或機器學習演算法進行資料分析，並在自動產生結論、建議、結果、假設、預測。 針對政府使用自動化決策系統之情形，《政府自動化決策監督法》有三大重點：人類監督、影響評估以及資訊揭露。 一、人類監督 州政府在提供社會福利資源或其他可能實質影響人民權益與法定權利的業務時，除非是在「有意義的人工審查」下進行操作，否則不得使用自動化決策系統。同時，此法也強調，州政府亦應確保其員工現有權利不會受到自動化決策系統的影響，例如不得因此受到解雇、調職或減薪等。 前述有意義的人工審查，係指對自動化決策流程進行審查、監督及控制的工作人員，必須是受過訓練、對該系統有一定之了解且擁有權力干預、變更系統最終決策的人。 二、影響評估 州政府如欲使用自動化決策系統，應進行影響評估且每兩年應至少重新評估一次；系統在進行重大更新前，也應重新進行影響評估。若評估發現系統產生歧視性或有偏見的結果，機關必須停止使用該系統及其生成的資訊。 影響評估的項目除了性能、演算法及訓練資料外，亦應進行準確性、公平性、偏差歧視、以及個人資料安全等相關測試。 三、資訊揭露 影響評估需在系統實施前至少30天提交給州長與州議會，並在相關機關的網站上公布；僅機關在特殊情況下（例如涉及公共安全考量），州政府可針對報告揭露之資訊進行必要的刪改，但必須說明做出此決定的原因。此外，州政府亦需於本法通過後向州議會提交報告，說明包括系統描述、供應商資訊、使用開始日期、用途、人類決策的支持或取代情況、已進行的影響評估摘要等。 本法強調對人工智慧技術的審慎應用，特別關注其對勞工權益的影響。該法明確規定，禁止在無人類監督的情況下，使用自動化系統進行失業救濟或育兒補助等福利的審核決策，並保障州政府員工不因人工智慧的實施而減少工作時間或職責。此類規定在現行立法中較為罕見，顯示出立法者對勞工權益的高度重視。該法的實施效果及影響，值得未來持續保持關注。
政府科研計畫執行與貪污犯罪 中國大陸網路安全法於6月1日正式施行中國大陸網路安全法於去（2016）年11月通過，於今（2017）年6月1日正式施行，該法主要係為了保障網路安全，維護網路空間主權與國家安全、社會公共利益，保護公民、法人和其他組織的合法權益，為第一個國家層級處理網路安全問題的法律，旨在確保維護網路空間的國家主權、保護使用者個資、防範網路攻擊及網路詐騙。 中國大陸網路安全法共七章79條，包括第一章總則、第二章網路安全支持與促進、第三章網路運行安全、第四章網路訊息安全、第五章監測預警與應急處置、第六章法律責任、第七章附則。其規範重點之一為關鍵資訊基礎設施正式納入網路安全保護範圍內，關鍵資訊基礎設施之定義不僅包括電力、運輸和金融等傳統關鍵行業，還包括法律規定涉及民生的其他基礎設施，表示任何關鍵資訊基礎設施相關廠商、供應商等外國公司，以及擁有大量中國大陸訊息的廠商，都有可能成為中國大陸網路安全法監管、執法調查、強制執行的主要對象。 中國大陸網路安全法亦要求關鍵資訊基礎設施相關廠商將個資與重要數據資料在地化，或是將這些數據資料傳輸至國外前，必須經過相關的監管機構進行自我安全評估或先加以批准。