美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」
美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括：
1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。
2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。
3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。
4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。
5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。
6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。
7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。
8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。
9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。
10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。
11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。
12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。
為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
許嘉芳
法律研究員 編譯整理
NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY [NIST], NIST-AI-600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, July 26, 2024, https://www.nist.gov/itl/ai-risk-management-framework (last visited Sept. 13, 2024).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
大倫敦政府（Greater London Authority, GLA）在今（2016）年3月公布「城市資料策略」（City Data Strategy），以發展「城市資料市集」為核心的「數位倫敦」（Data for London） 計畫，希望與合作夥伴共同推展「城市資料市集」，以節省資金、培育創新、推動經濟成長，並迎接可能之挑戰。 「數位倫敦」將城市資料分為開放資料（Open Data）、民間企業資料（Private Data）、商業資料（Commercial Data）、感知資料（Sensory Data），及公眾來源資料(crowded-sourced data)等5個類型。此外，蒐集之資料類型及如何使用該等資料，亦為計畫的執行重點之一。 「數位倫敦」之實施計畫（Implementation Plan）分短、中、長期，以近期發布之短、中期的路徑圖而言，大倫敦政府計劃在2年內分 5個階段，從編制資料目錄，建立資料庫聯盟，利用雲端系統建置一能預測並開發、利用新資料來源之資料庫，並以「引用資料，而不複製資料」之原則，持續與公開來源社群及夥伴合作。 「城市資料市集」作為發展大倫敦基礎設施建設之一環，從資料蒐集、過濾檢測、資料庫平台管理、整合平台及服務，進而建立新商業模式，期將倫敦打造成世界首屈一指的智慧城市。
德國針對企業聯網資訊安全及資料保護相關法律提出建議文件德國經濟及能源部於2018年3月8日為企業聯網資訊安全保護措施建議及資料保護、資料所有權相關法規提出建議文件，協助中小企業提升對於組織及特別領域中的資安風險之意識，並進一步採取有效防護檢測，包括基本安全防護措施、組織資安維護、及法規，並同時宣導德國資料保護法中對於資安保護的法定要求。 資通訊安全及其法規係為企業進行數位化時，涉及確保法的安定性（Rechtssicherheit）之議題。例如：應如何保護處理後的資料？如何執行刪除個人資料權利？各方如何保護營業秘密？如果資料遺失，誰應承擔責任？唯有釐清上述相關等問題時，方能建立必要的信任。而在德國聯邦資料保護法，歐盟一般個人資料保護法、歐盟網路與資訊安全指令等規範及相關法律原則，係為數位創新企業執行資安基礎工作重要法律框架。但是，由於數位化的發展，新的法律問題不斷出現，目前的法律框架尚未全面解決。 例如，機器是否可以處理第三方資料並刪除或保存？或是誰可擁有機器協作所產生的資料？因此，未來勢必應針對相關問題進行討論及規範。鑑於日益網路化和自動運作的生產設備，工業4.0的IT法律問題變得複雜。一方面，需要解決中、大型企業的營業祕密，資料所有權和責任主題之實際問題，以促進相關數位化創新。另一方面，為了能夠推導出現實的法律規範，需要更多具體實施案例討論，例如，企業家對產品責任問題，人工智慧使用，外包IT解決方案，及雲端計算等核心等問題，政府應協助為所有公司在安全框架下展開數位計畫合作的機會，並充分利用網路的潛力，而中小企業4.0能力中心也將為中小型公司在數位化目標上提供IT法問題方面的支持。
歐洲法院裁定銷售二手電子書侵害著作權Tom Kabinet為荷蘭之公司，其從個人及零售商處購得電子書後，再於網路轉售，遭為保護荷蘭出版商利益而成立之Nederlands Uitgeversverbond（NUV）及Groep Algemene Uitgevers（GAU）二協會提起侵害著作權訴訟。 Tom Kabinet公司主張，當書籍以有形體的形式出售時，該作品之著作權業已耗盡（exhausted），換言之，購買者可自由出售，而不會侵害作者或出版者的智慧財產權，此原則亦應適用於數位重製（digital copies）。NUV及GAU則認為Tom Kabinet公司轉售電子書的行為，構成著作權指令（Directive 2001/29/EC）所指在未經授權的情形下，向大眾傳播受著作權保護的標的。 歐洲法院近日針對雙方的爭議做出了裁決，法院援引世界智慧財產權組織（World Intellectual Property Organization）的著作權條約（Copyright Treaty），認為著作權的耗盡原則僅適用在著作權指令第4條的散布權（Distribution right），且是散布實體物，例如有形的書籍。而著作權指令第3條所指「向大眾公開（作者的）作品權利」（Right of communication to the public of works），係賦予作者有授權向大眾公開其作品的專屬權，此權利無耗盡的問題。本案所爭執向大眾轉售經下載且得永久使用的電子書之行為，並非散布權，而是向大眾傳播的概念，即符合著作權指令第3條所規範之範疇，因此，Tom Kabinet公司在轉售電子書前，須先取得作者的同意。 針對歐盟法院此一裁定，GAU發表聲明表示，法院的決定讓電子書的著作權議題有了結果，且此決定亦會影響音樂和電影產業，讓音樂和電影的下載拷貝版本同樣也無法再轉售。
英國衛生部提出健康照護科技行為準則，以增進資訊安全以及新技術操作品質英國近來透過電子醫療紀錄的應用，以智慧演算法（intelligent algorithms）開發結合數位技術的創新醫療科技，這些成果多是以國民健保署（National Health Service, NHS）的資料做為基礎，因此關於資訊保障等議題也開始受到政府之重視。 2018年9月5日，英國衛生部（Department of Health and Social Care）在NHS健康與護理創新博覽會（NHS Health and Care Innovation Expo Conference 2018）中公布「以資料導向的健康照護科技之行為準則」（Code of Conduct for Data-driven Health and Care Technology）。此準則主要鼓勵研發公司在設計產品時，將患者的資訊安全以及新技術的操作品質列入考量。 此行為準則的目的主要在於改善整體研發環境，內容包含十項原則，分別為：界定使用者、界定價值（value proposition）、對使用的資料保持合理（fair）、透明（transparent）以及當責（accountable）的立場、符合一般資料保護規則（General Data Protection Regulation, GDPR）的資料最小化原則（data minimisation principle）、利用公開之標準、公開被使用的資料以及演算法的極限、在設計中內建合適的安全性設定、界定商業策略、展示技術使用上的有效性、以及公開演算法的類型、開發原因、與操作過程的監控方式。 官方期望接下來能廣納相關人員的建議，以增進此指引在產業運作上的適用性，並預期於2018年12月公布更新的版本。