美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」
美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括：
1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。
2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。
3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。
4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。
5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。
6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。
7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。
8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。
9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。
10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。
11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。
12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。
為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
許嘉芳
法律研究員 編譯整理
NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY [NIST], NIST-AI-600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, July 26, 2024, https://www.nist.gov/itl/ai-risk-management-framework (last visited Sept. 13, 2024).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
隨著人工智慧快速發，各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題，應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」（Everyday Ethics for Artificial Intelligence）手冊，其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範，該手冊提供了問責制度、價值協同、可理解性等關注點，以促進社會對人工智慧的信任。 一、問責制度（Accountability） 由於人工智慧的決策將作為人們判斷的重要依據，在看似客觀的演算系統中，編寫演算法、定義失敗或成功的程式設計人員，將影響到人工智慧的演算結果。因此，系統的設計和開發團隊，應詳細記錄系統之設計與決策流程，確保設計、開發階段的責任歸屬，以及程序的可檢驗性。 二、價值協同（Value Alignment） 人工智慧在協助人們做出判斷時，應充分考量到事件的背景因素，其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員，應協同應用領域之價值體系與經驗，並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時，設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀，使演算系統與使用者之行為準則相符。 三、可理解性（Explainability） 人工智慧系統的設計，應盡可能地讓人們理解，甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大，其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解，並針對人工智慧結論或建議，進而有所反饋的重要關鍵；並使用戶面對高度敏感決策時，得以據之檢視系統之背景數據、演算邏輯、推理及建議等。 該手冊提醒，倫理考量應在人工智慧設計之初嵌入，以最小化演算的歧視，並使決策過程透明，使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊，應視為影響數百萬人甚至社會生態的核心角色，應負有義務設計以人為本，並與社會價值觀和道德觀一致的智慧系統。
歐美貿易與技術理事會發表第6次聯合聲明，確保雙方於新興技術及數位環境之領導地位歐美貿易與技術理事會（EU－U.S. Trade and Technology Council，TTC） 2024年4月4日至5日在比利時魯汶舉行第6屆部長會議，依據會後聯合聲明，雙方針對數位轉型所帶來的機遇與挑戰，同意在新興技術和數位環境等面向促進雙邊貿易和投資、進行經濟安全合作，並捍衛人權價值。未來雙方將針對AI、半導體、量子技術和6G無線通訊系統等制定互通機制及標準，簡述如下： (1) AI技術：採取「風險基礎方法」（risk-based approach）實施「可信任人工智慧和風險管理聯合路徑圖（Joint Roadmap for Trustworthy AI and Risk Management），提高透明度以降低公民及社會使用AI的風險；更新關鍵AI術語清單（a list of key AI terms），減少雙方於概念認知上的誤差；承諾建立對話機制，以深化雙邊合作。 (2) 半導體：為促進半導體供應鏈韌性（resilience）與協調（coordination），將延長實施「供應鏈早期預警機制」（joint early warning mechanism）及「透明機制」（transparency mechanism）兩項行政安排，共同解決半導體產業市場扭曲、供應鏈過度依賴特定國家等挑戰。 (3) 量子技術：雙方將成立量子工作小組（Quantum Task Force），以制定統一量子技術標準，加速技術研發。 (4) 6G技術：雙方通過「6G願景」（6G vision），並對於未來研究合作簽署行政安排（administration arrangement），建立6G技術開發共同原則。 歐美雙方期望透過上述作法，促進半導體和關鍵技術研發和供應鏈多元化，以確保經濟安全及落實數位轉型，確保歐美於新興技術和數位環境之領導地位。
歐盟執行委員會提議建立網路安全研究與協調單位2019年7月24日歐盟執行委員會公布保障歐洲安全之措施，其中針對網路安全部分，將以2017年宣布之網路安全措施為基礎，建立網路安全相關之研究與協調單位，以投資培植歐盟更強大和更具開拓性的網路安全能力。該研究與協調單位預計於歐盟範圍內，以成員國內660多個網路安全專家中心的專業知識基礎，建立一個相互聯繫的網路安全產業和研究系統。此舉有助歐盟及成員國積極推行網路安全產業政策，並為產業和公共部門面臨的網路安全挑戰提出突破性解決方案。建立的相關研究與協調單位分別為： 一、歐盟網路安全產業科技研究能力中心（The European Cybersecurity Industrial, Technology and Research Competence Centre）：此中心旨在培植網路安全能力社群，推動網路安全技術進程。並藉由分配補助金及執行採購來實踐數位歐洲及歐洲地平線計劃。 二、國家網路協調中心（Network of National Coordination Centres）：每個會員國提名一個國家協調中心，為國家級聯絡點，負責聯絡網路安全能力社群及歐盟網路安全產業科技研究能力中心。國家網路協調中心是受國家支持採取行動的守門人（gatekeeper），同時可以向國家、地方系統提供資金。 三、網路安全能力社群（The Cybersecurity Competence Community）：該社群為涉及網路安全技術的大型、開放及多樣化的組織。參與者有研究機構、供需產業雙方及國營部門。並為歐盟網路安全產業科技研究能力中心提供活動及工作計劃。
線上遊戲「Second Life」大筆玩家資料外洩線上遊戲新奇的聲光效果與眾多同儕參與的凝聚感，吸引全球玩家爭先投入此一新興娛樂領域之際，遊戲本身的安全性卻也格外值得重視。知名的線上遊戲「 Second Life 」驚傳個人資料外洩事件，遊戲營運商「 Linden Lab 」 9 月 10 號發布公開聲明，表示「 Second Life 」遊戲伺服器於同月 6 日遭到駭客入侵，總計約有 65 萬名玩家的個人資料遭竊。 廣受全球玩家青睞的多人線上角色扮演遊戲（ Massive Multiplayer Online Role Playing Game ； MMORPG ）「 Second Life 」採取全然的 3D 介面（ three-dimensional ），遊戲當中所有的虛擬物件，包括角色、道具與各式各樣的配件均由個別玩家設計與創造，玩家可在遊戲中從事虛擬土地及建築物的買賣並賺取遊戲虛擬貨幣（ Linden Dollars ）；玩家亦可將遊戲中獲取的虛擬貨幣於真實社會中進行現金交易。 營運商「 Linden Lab 」表示，此次駭客係利用「 Zero-Day Exploit 」技術滲透遊戲伺服器，外洩的個人資料包括了玩家姓名、住址、帳號密碼及其信用卡卡號等。 Linden Lab 除已要求所有的玩家立即更改密碼，並將在遊戲的部落格（ blog ）中提供新的安全方案。