美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」
美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括：
1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。
2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。
3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。
4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。
5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。
6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。
7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。
8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。
9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。
10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。
11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。
12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。
為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
許嘉芳
法律研究員 編譯整理
NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY [NIST], NIST-AI-600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, July 26, 2024, https://www.nist.gov/itl/ai-risk-management-framework (last visited Sept. 13, 2024).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
兩年前蘋果選擇開放原始碼成像引擎（ rendering engine ） KHTML 做為 Safari 瀏覽器的基礎；兩年後，蘋果則打算以自己的程式碼取代該引擎，藉以解決相容性的問題。 KHTML 成像引擎──也是其瀏覽器的核心，考慮在其架構上放棄 KHTML 的程式庫（ code base ），或者所謂的「樹狀圖」（ tree ），改用蘋果自己的版本，也就是所謂的 WebCore （網頁核心）。 KHTML 原本是為了要在 KDE （ K Desktop Environment ）上執行而撰寫的──這是 Linux 和 Unix 作業系統的介面。 Safari 並不是蘋果唯一以開放原始碼為基礎的軟體，其麥金塔（ Macintosh ）作業系統就是以達爾文（ Darwin ）開放原始碼計畫為基礎。 企業在某些方面受到限制，而開放原始碼社群以不受限制為傲。蘋果自己內部有些問題搞不定，以致銜接不上 KDE 開發 KHTML 的模式，導致 KHTML 與 Safari 逐漸產生分歧，後來情況則越來越嚴重。
美國FDA計畫舉辦3D列印技術於醫療運用下之法制探討會議隨著3D印表機的價格日趨親民、3D列印設計檔案於網際網路交流越趨頻繁，以及預期3D列印技術在未來的應用會更加精進與複雜化，3D列印技術於醫療器材製造面所帶來的影響，已經逐漸引起美國食品藥物管理局(FDA)的關注。 在近期FDA Voice Blog posting中，FDA注意到使用3D列印所製造出的醫療器材已經使用於FDA所批准的臨床干預行為(FDA-cleared clinical interventions)，並預料未來將會有更多3D列印醫療器材投入；同時，FDA科學及工程實驗辦公室(FDA’s Office of Science and Engineering Laboratories)也對於3D列印技術就醫療器材製造所帶來的影響進行調查，且CDRH功能表現與器材使用實驗室(CDRH’s Functional Performance and Device Use Laboratory)也正開發與採用電腦模組化方法來評估小規模設計變更於醫療器材使用安全性所帶來的影響。此外，固體力學實驗室(Laboratory of Solid Mechanics)也正著手研究3D列印素材於列印過程中對於醫療器材耐久性與堅固性所帶來的影響。 對於3D列印就醫療器材製造所帶來的法制面挑戰，在Focus noted in August 2013中，其論及的問題包含：藉由3D列印所製造的醫療器材，由於其未經由品質檢證是否不應將其視為是醫療器材？3D列印醫療器材是否需於FDA註冊登記？於網路分享的3D列印設計檔案，由於未事先做出醫療器材風險與效益分析，FDA是否應將其視為是未授權推廣等問題。 針對3D列印於醫療器材製造所帶來的影響，CDRH預計近期推出相關的管理指引，然FDA認為在該管理指引推出前，必須先行召開公聽會來援引公眾意見作為該管理指引的建議參考。而就該公聽會所討論的議題，主要依列印前、列印中與列印後區分三階段不同議題。列印前議題討論包含但不限於材料化學、物理特性、可回收性、部分重製性與過程有效性等；列印中議題討論包含但不限於列印過程特性、軟體使用、後製程序與額外加工等；列印後議題討論則包含但不限於清潔/多餘材料去除、消毒與生物相容性複雜度影響、最終裝置力學測定與檢證等議題。
生物倫理vs.生物科技 孰重孰輕？去（2005）年11月，全球幹細胞研究先驅－韓國首爾大學黃禹錫教授承認其研究有國際醫學倫理瑕疵，而引發軒然大波。主要爭議原因是其研究所使用之卵子，部分來自於其領導研究團隊的女性研究員，以及部分支付報酬給捐卵者。韓國「生物倫理及安全法」於2005年1月開始施行，立法目的強調生命科學及生物科技之發展應具有安全性並符合生物倫理原則，該法更明文規定：受試者需被充分告知資訊，亦有權同意是否參與研究以及不得買賣精子卵子等。因此，黃禹錫教授研究團隊的女性研究員雖是自願提供卵子，但在面對研究同儕壓力時，該名研究員是否真正”完全自願同意”地捐卵，此點頗受爭議。 隨著複製研究技術的與日俱進，生物倫理（Bioethics）相關議題已無國界之分，為此，聯合國科教文組織（UNESCO）於去（2005）年11月底之會員國大會，通過「世界生物倫理及人權宣言」（The Universal Declaration on Bioethics and Human Rights），建立起國際共通的生物倫理標準，希望能給各國在制定生物倫理相關法制政策有所依據，並作為相關研究行為之指導原則。 隨著韓國黃禹錫教授之幹細胞研究醜聞頻傳，國內生醫研究活動更應引為警惕，由於我國目前欠缺法律層次之研究倫理規範，前述UNESCO新近通過之「世界生物倫理及人權宣言」，在我國欠缺相關法律之現況下，更值得研究人員參考。
美國制訂「促進政府資訊開放」行政命令及推動「藍色按鈕倡議」計畫美國歐巴馬總統於2013年5月9日正式簽署「促進政府資訊開放並利機器讀取」行政命令（Executive Order 13642–Making Open and Machine Readable the New Defaut for Government Information），推崇聯邦政府過去釋出氣候、全球定位系統（GPS）等資訊對於私部門產業創新及新創事業（entrepreneurship and star-up）之正面影響，盼未來所有新增加的政府資料在資訊安全和隱私權雙重確保之前提下，將開放以可供機器可讀取之格式給公共大眾，帶動整體經濟正面循環發展。之前，美國推動聯邦政府資料開放政策，重要者為白宮科學技術政策辦公室（Office of Science and Technology Policy, OSTP）於2009年3月份啟動「開放政府倡議」（Open Government Initiative），民眾可透過「Data.gov」入口網站 ，取得高價值、機器可讀取之聯邦政府資料。 近年來，在公部門政府政策鼓勵導引下，不同的產業也逐漸發展出適用於特定產業的共同互通性標準（sectoral interoparability）。以醫療衛生領域為例，從2010年開始，歐巴馬總統乃宣布「藍色按鈕倡議」（Blue Button Initiative），病患得透過特定網頁（web-based）簡易下載其健康資訊（health information），並可供重複利用的格式下；同時，患者也可以選擇將該資訊分享給健康照護提供者（health care provider）、保險公司和信任的第三者（trusted third parties）。該倡議更挑戰軟體開發者（developer）在藍色按鈕的基礎上，開發更多的Apps軟體，使當事人更容易去管理掌控自身健康的狀況。在能源科技領域，近似於藍色按鈕倡議，白宮幕僚科技長Aneesh Chopra於2011年9月，也發起了「綠色按鈕倡議」（green button initaitive），挑戰美國境內大小事業單位（utilities）投入參與該倡議，研發一個機器可讀取之開放格式（a machine-readable open format），使消費者得透過連線網路重複近取之。 有鑒於網際網路開放的特性，且近年來來自外國網路攻擊不斷，於2013年2月份，NIST與國際間重要標準組織，如ISO、IEC和IEEE，首度就感應網絡（sensor networks）、機器對機器（M2M）和智慧聯網（IoT），提出一個跨界面之共通標準計畫（ISO/IEC/IEEE P21451-1-4 XMPP），該共通標準計畫內容包含: 封包傳輸（檢測）、全球獨特辨識、政策控制和加密，此共通標準得確保未來巨量資料領域資料近取之安全性 。