美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」
美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括：
1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。
2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。
3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。
4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。
5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。
6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。
7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。
8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。
9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。
10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。
11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。
12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。
為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
許嘉芳
法律研究員 編譯整理
NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY [NIST], NIST-AI-600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, July 26, 2024, https://www.nist.gov/itl/ai-risk-management-framework (last visited Sept. 13, 2024).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
茲因回應2008年針對環境議題所召開之國家諮詢會議，並考量整體環境變遷快速，有待解決之相關問題與過往相較已有所不同，法國政府於2009年1月7日公布新修正之環保法令草案，力求與時俱進；其新環境法規草案著重以下主題：建築與都市計畫、交通、能源與氣候、生物多樣性、風險、健康與廢棄物處理。 其中值得注意者，係針對可能導致危害環境或人體健康的奈米粒子材料，於新法中加以規範。依該新環保法草案第73條，除非個案內容有損國家安全因而為特例之外，現行製造、輸入與使用奈米粒子材料於產品之業者，必須就該奈米材料之性質、數量與使用方式加以揭露，使公眾周知；此外，於主管機關的要求下，業者應評估並呈報該奈米材料之暴露程度與所潛藏之風險。 之所以將奈米粒子納入規範當中，係參考「化學物質登記、評估、授權和管制法」(Registration, Evaluation, Authorisation and Restriction of Chemical substances，REACH)，基於永續發展之目標，因而於產品製造及銷售的過程中，賦予製造商與進口商特定之責任與義務；亦即業者必須以負責任之態度製造、進口或使用化學物質，進而取得該化學物質之相關資訊，使之透明化，以確保人體健康和環境免於受到負面影響，促成風險管理措施之順利運行。 該等觀念彰顯了本次法國環境法規修改之特色，其六大主題之規範更需要諸多政府部門的通力合作；再者，法國於積極發展奈米科技的同時，以客觀之態度審視其優缺點，試圖掌握奈米粒子材料之特性，作為管理潛在風險之判斷基準。該法案於2009年2月10日送至議會待表決，後續發展仍值得注意。
買回用戶迴路的另一種選擇 美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。 美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下： （1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。 （2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。 （3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
因應京都議定書 1500家企業須揭露環境資訊經濟部將在近日研商成立「輔導推動委員會」，至遲在今年底、明年初推動環境資訊揭露制度。根據經濟部初步規劃，「企業環境資訊揭露」制度，將先鎖定京都議定書溫室氣體減量規範，要求企業揭露 CO2 排放量盤查資訊及減量努力與目標，並鎖定「環境數據」、「社會責任」及「環境活動」三方面，要求企業說明因應 CO2 減量的努力情形。 「環境資訊揭露制度」將依是否上市櫃及企業規模，要求不同程度的資訊揭露。上市公司，列為「義務性揭露」，必須將「環境資訊」列入重大訊息予以公開揭露；營業額達 1 億元以上的企業及上櫃、興櫃公司，屬「自願性揭露」，以漸進的方式，在該機制實施後二年內達到「完整環境資訊揭露」；中小企業則採取「鼓勵性揭露」。 今年 5 月間，證期局為保障國內投資人，曾強制 972 家電子電機上市櫃公司，以「重大訊息」說明公司因應歐盟有毒物質禁用指令（ RoHS ）的情形，此一要求僅為「環保支出」之資訊，並未要求說明未來因應對策及可能支出。故經濟部希望透過「環境資訊揭露」制度的建立，讓企業從被動提報「環保支出」，提升到主動揭露「環境資訊」，並逐漸建立企業環境會計制度，因應國際環保趨勢。