經濟合作與發展組織發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段：
1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。
2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。
3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。
4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
許嘉芳
法律研究員 編譯整理
Organisation for Economic Co-operation and Development [OECD], Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI (Feb. 23, 2023), https://www.oecd-ilibrary.org/docserver/2448f04b-en.pdf?expires=1683078463&id=id&accname=guest&checksum=030F1E26850085E4A7AC6B1EB60266A1 (last visited May 3, 2023).
Advancing accountability in AI, Organisation for Economic Co-operation and Development, https://oecd.ai/en/accountability (last visited May 3, 2023).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
張瀠心，〈歐盟執委會通過關於《人工智慧責任指令》之立法提案〉，2023年1月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8958（最後瀏覽日：2023/05/03）。
數位金融時代已然來臨。美國金融證券市場在2015年12月發生一些重大轉變，其中之一為美國證券交易委員會(U.S. Securities and Exchange Commission,下稱SEC)允許Overstock.com公司以區塊鏈技術(Blockchain technology)為基礎透過網路發行公司證券。 區塊鏈技術為一種以分散式結構方式，記錄數據、傳輸及驗證的方法。當有資訊產生時，所有相連電腦會共同驗證該資訊之真實性。驗證該資料具真實性後會寫入區塊鏈，並產生不可竄改的紀錄。 區塊鏈技術特點如下： 一、分散式結構之設計：可達到去中心化效果，以此降低資料遭駭客攻擊或竄改之風險，提升資訊安全。 二、驗證機制：可提供所有參與者共同驗證資料真實性，打造安全可靠之共識環境。 三、P2P機制：可節省繁瑣程序並降低交易成本。 綜合上述三點，區塊鏈技術受到市場極大的關注。為提升資訊安全與降低交易成本及因應數位金融時代，金融業者嘗試將區塊鏈技術應用於股票、債券或是有價證券交易市場，期望可完善金融交易環境。 雖然區塊鏈技術潛在市場龐大，但Overstock公司也在向SEC申請允許以區塊鏈技術發行證券之文件中，指出其選擇將公司訊息儲存在任何人皆可查閱之公開區塊鏈，可能導致個人對其隱私安全的疑慮。即便有此風險，仍認為區塊鏈技術應用於發行證券，將有助完善證券市場交易環境，透過區塊鏈技術，將可紀錄所有交易，從中減少中間商控制市場的空間，並減少賣空之套利行為。 但是，將區塊鏈技術應用於數位金融或許將衍生金融法規相關問題。因為金融法規針對不同類型金融商品，有相關規範管制。若應用區塊鏈技術於相關金融商品，勢必產生相應問題。諸如：股票交易需依據證券交易條例實行，然其中並未設有電子移轉及交易相關規範，若應用區塊鏈技術進行證券交易，主管機關須思考如何規範並控管市場。因此，金融法規將勢必隨之調整以符合數位化趨勢。
美國賓州眾議院通過《人工智慧生成內容揭露法》美國賓州（Pennsylvania）眾議院於2024年4月10日通過《人工智慧生成內容的揭露法草案》（House Bill 1598 Disclosure of Artificially Intelligent Generated Content，下稱草案），規範AI生成內容及其利用行為以保護消費者。 草案規定，以AI生成之各種形式內容，在其首次呈現給消費者時應揭露資訊，使消費者知道該內容為AI生成之結果。如果明知或重大過失（Knowingly or recklessly）產出、散布或發布任何未「明確且顯著」（clear and conspicuous）揭露其內容為AI所生成者，即屬「不公平或欺騙性行為或做法」，將被依賓州《不公平貿易行為與消費者保護法》（Unfair Trade Practices And Consumer Protection Law）規定處罰。草案亦說明應如何揭露資訊，方符合條文所謂「明確且顯著」標準，例如針對AI生成之音訊內容，其揭露應以足夠的音量和節奏傳達，以便消費者聽取和理解。 此外，草案也關注兒童保護問題。鑑於AI生成的兒童性剝削圖像通報日益增加，草案最後新增規定，未來不能將「兒童性剝削圖像為AI生成」作為辯護理由，且檢察總長或地區檢察官可起訴製造、持有以及傳播AI生成之兒童色情或性虐待素材等相關行為。 目前草案已在州眾議院通過，由州參議院審議中。草案的提案議員強調，人們有權知道其消費的內容實際上是使用AI產出的成果，因此草案通過後，可望有效遏阻濫用AI的行為，提供賓州民眾更多的保障。
美國財政部外國資產控制辦公室更新發布與勒索軟體支付相關之制裁風險諮詢美國財政部外國資產控制辦公室（The US Department of the Treasury’s Office of Foreign Assets Control, OFAC）於2021年9月21日更新並發布了與勒索軟體支付相關之制裁風險諮詢公告（Updated Advisory on Potential Sanctions Risks for Facilitating Ransomware Payments）。透過強調惡意網絡活動與支付贖金可能遭受相關制裁之風險，期待企業可以採取相關之主動措施以減輕風險，此類相關之主動措施即緩減風險之因素（mitigating factors）。 該諮詢認為對惡意勒索軟體支付贖金等同於變相鼓勵此種惡意行為，故若企業對勒索軟體支付，或代替受害企業支付贖金，未來則有受到制裁之潛在風險，OFAC將依據無過失責任（strict liability），發動民事處罰（Civil Penalty制度），例如處以民事罰款（Civil Money Penalty）。 OFAC鼓勵企業與金融機構包括涉及金錢存放與贖金支付之機構，應實施合規之風險管理計畫以減少被制裁之風險，例如維護資料的離線備份、制定勒索事件因應計畫、進行網路安全培訓、定期更新防毒軟體，以及啟用身分驗證協議等；並且積極鼓勵受勒索病毒攻擊之受害者應積極聯繫相關政府機構，例如美國國土安全部網路安全暨基礎安全局、聯邦調查局當地辦公室。