美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」
美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括：
1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。
2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。
3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。
4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。
5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。
6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。
7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。
8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。
9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。
10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。
11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。
12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。
為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
許嘉芳
法律研究員 編譯整理
NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY [NIST], NIST-AI-600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, July 26, 2024, https://www.nist.gov/itl/ai-risk-management-framework (last visited Sept. 13, 2024).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施： （1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。 （2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。 （3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。 （4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。 （5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。 CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
美國聯邦通訊傳播委員會決議將進行網路中立立法美國聯邦通訊傳播委員會(Federal Communications Commission, FCC )在2009年10月22日表決，一致同意開始進行對「網路開放」（Open internet）相關之規範。除了2005年所提出之前四項提議原則外版本外，FCC新提出兩項提議原則，尋求意見，共包含： 1. 確保網路使用人均可選擇網路服務及內容之自由； 2. 保護對合法網路應用和合法服務使用之權利； 3. 選擇於網際網路上使用設施（devices）之自由； 4. 網路提供業者（network providers）、應用提供業者（application providers）、服務業者（service providers）、和內容提供業者（content providers）者間之競爭關係； 5. 網路提供業者之管理措施，不得基於網路流量（traffic）而對之歧視（discriminate），但得基於顧客之利益采取相關管理措施； 6. 寬頻提供業者，需揭露網路管理措施之方案資訊，以及管理措施對使用者所造成之影響。 參議員John McCain 則表示，網路中立（Net neutrality）的原則，將會扼殺創意和傷害就業市場，該議員並提出網路自由法案（Internet Freedom Act of 2009），認為該法案使避免網路受到政府管控，並且允許持續的創新和創造更多高價值之就業機會。維持網路事業的自由，免於沉重的規範，將是對經濟最佳之刺激方式。 同時也有人質疑，FCC並非授權管理網路之機構，且其所訂定之原則，並未具有法規效力，無法強制執行，而FCC制定該原則之意義為何？但FCC則表示，已獲得政策原則執行之授權。
美國加州「Asilomar人工智慧原則決議」美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議（23 Asilomar AI Principles, ACR-215），此決議表達加州對於「23條Asilomar人工智慧原則」之支持，以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標，並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下： （1）於研究原則上，人工智慧之研究應以建立對於人類有利之人工智慧為目標。 （2）於研究資助上，人工智慧之研究資助應著重幾個方向，如：使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。 （3）於科學政策之連結上，人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。 （4）於研究文化上，人工智慧研究者應保持合作、互信、透明之研究文化。 （5）於安全性上，人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。 （6）人工智慧系統應該於服務期間內皆具備安全性及可檢視性。 （7）人工智慧系統之編寫，應可使外界於其造成社會損失時檢視其出錯原因。 （8）人工智慧系統如應用於司法判斷上，應提供可供專門人員檢視之合理推論過程。 （9）人工智慧所產生之責任，應由設計者以及建造者負擔。 （10）高等人工智慧內在價值觀之設計上，應符合人類社會之價值觀。 （11）高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。 （12）對於人工智慧所使用之資料，其人類所有權人享有擷取、更改以及操作之權利。 （13）人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。 （14）人工智慧之技術應盡力滿足越多人之利益。 （15）人工智慧之經濟利益，應為整體人類所合理共享。 （16）人類對於人工智慧之內在目標應享有最終設定權限。 （17）高等人工智慧所帶來或賦予之權力，對於人類社會之基本價值觀應絕對尊重。 （18）人工智慧所產生之自動化武器之軍備競賽應被禁止。 （19）政策上對於人工智慧外來之發展程度，不應預設立場。 （20）高等人工智慧系統之研發，由於對於人類歷史社會將造成重大影響，應予以絕對慎重考量。 （21）人工智慧之運用上，應衡量其潛在風險以及可以對於社會所帶來之利益。 （22）人工智慧可不斷自我循環改善，而可快速增進運作品質，其安全標準應予以嚴格設定。 （23）對於超人工智慧或強人工智慧，應僅為全體人類福祉而發展、設計，不應僅為符合特定國家、組織而設計。