經濟合作與發展組織發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段：
1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。
2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。
3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。
4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
許嘉芳
法律研究員 編譯整理
Organisation for Economic Co-operation and Development [OECD], Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI (Feb. 23, 2023), https://www.oecd-ilibrary.org/docserver/2448f04b-en.pdf?expires=1683078463&id=id&accname=guest&checksum=030F1E26850085E4A7AC6B1EB60266A1 (last visited May 3, 2023).
Advancing accountability in AI, Organisation for Economic Co-operation and Development, https://oecd.ai/en/accountability (last visited May 3, 2023).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
張瀠心，〈歐盟執委會通過關於《人工智慧責任指令》之立法提案〉，2023年1月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8958（最後瀏覽日：2023/05/03）。
2020年11月3日，加州於其大選中以公投方式批准通過第24號提案（Proposition 24），該提案頒布《加州隱私權法》（California Privacy Rights Act，以下簡稱CPRA）。CPRA對加州消費者隱私保護法（California Consumer Privacy Act 2018，以下簡稱CCPA）所規定之隱私權進行重要修正，改變了加州的隱私權格局。 CPRA賦予加州消費者新的隱私權利，並對企業施加新的義務，例如消費者將有權限制其敏感性個人資料（例如財務資料、生物特徵資料、健康狀況、精確的地理位置、電子郵件或簡訊內容及種族等）之使用與揭露；消費者有權利要求企業更正不正確的個人資料；CPRA同時修改現有的CCPA的「拒絕販售權」，擴張為「拒絕販售或共享權」，消費者有權拒絕企業針對其於網際網路上之商業活動、應用或服務而獲得的個人資料所進行之特定廣告推播。CPRA亦要求企業對各類別之個人資料，按其蒐集、處理、利用之目的範圍及個人資料揭露目的，設定預期的保留期限標準。 CPRA另創設「加州隱私保護局」（California Privacy Protection Agency）為隱私權執行機構，該機構具有CPRA之調查、執行和法規制定權，改變了CCPA 係由加州檢察長（California Attorney General）負責調查與執行起訴的規定，並規定加州隱私保護局應於2021年7月1日之前成立。 CPRA將在2022年7月1日之前通過最終法規，且自2023年1月1日起生效，並適用於2022年1月1日起所蒐集之消費者資料，隨著CPRA的通過，預期可能促使其他州效仿加州制定更嚴格之隱私法，企業應持續關注有關CPRA之資訊，並迅速評估因應措施。
新加坡國會於2020年11月通過個人資料保護法之修正案新加坡通訊暨資訊部（Ministry of Communications and Information, MCI）於2020年11月2日發布新聞稿表示，新加坡國家議會（Parliament of Singapore）通過個人資料保護法（Personal Data Protection Act, PDPA）修正案。主要由新加坡個人資料保護委員會（Personal Data Protection Commission, PDPC）擔任執行與管理機關，而新加坡個人資料保護法僅適用於私人企業、非公務機關。 新加坡通訊暨資訊部特別強調，該個人資料保護法於2013年1月生效，而近年物聯網、人工智慧等新興科技瞬息萬變，隨著資料量急遽增長，企業組織利用個人資料進行創新，成為了社會、經濟和生活的一部分，此次修法意在因應新興科技的進步與新商業模式的發展，使該法可適應、接軌於複雜的數位經濟趨勢，同步維護消費者在數位經濟中的權益，更加符合國際框架，使總部位於新加坡的公司在擴展全球市場時，有助其調整和降低合規成本與風險。主要將加強消費者保護並支持企業業務創新，希望以最大程度提高私部門收益、減少蒐集和利用個人資料的風險，以取得平衡，修訂重點整理如下： 透過組織問責制度，加強消費者之信任； 加強組織使用個人資料開發創新產品，提供個人化服務、提高組織之營運效率； 資料外洩時的強制性通知規定、責任（可參見26A條以下）； 提高企業造成資料外洩時的罰款最高額度，當企業組織年營業額超過1000萬美金者，可處以該組織在新加坡年營業額的10%，或100萬新加坡幣（約62萬歐元），以較高者為準（可參見48J條以下）； 強化個人資料保護委員會的執法權限，提高執法效率； 為了強化消費者的自主權（consumer autonomy）、對其個資的控制權，規範資料可攜義務（data portability obligation），使個人能要求將其個人資料的副本傳輸到另一個組織（可參見26F條以下）； 允許企業在特定合法利益（legitimate interests）、業務改善（business improvement purpose）之目的情況下，對於個資之蒐集、使用、揭露，得例外不經當事人同意，意即不需經當事人事先同意，即可蒐集、利用或揭露消費者個資，例如開發改善產品和進行市場調查研究、在支付系統中進行異常檢測以防止詐欺或洗錢、改善營運效率和服務等目的。（可參見附表一第三、第五部分） 允許關聯企業（related corporations）間，在基於「明確定義相關限制」（clearly defined limits）之相同目的前提下，例如透過具有拘束力的公司規則（binding corporate rules）施以一定限制時，可在彼此內部間蒐集、揭露個人資料。（可參見附表一第四部分） 針對「視為同意」（deemed consent）之相關規定，包含告知後同意（consent by notification）做進一步修訂，將允許企業組織在具契約必要性等特定情形下，在未明確徵得當事人同意之下，向另一個組織或外部承包商（contractors）揭露其個人資料，以利履行契約（fulfil contracts），但該組織與該當事人之間的契約中需有明示條款（express terms）。（可參見15A條以下）
FDA發佈人工智慧/機器學習行動計畫美國食品藥物管理署（U.S. Food & Drug Administration, FDA）在2021年1月12日發布有關人工智慧醫療器材上市管理的「人工智慧/機器學習行動計畫」（Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan）。該行動計畫的制定背景係FDA認為上市後持續不斷更新演算法的機器學習醫療器材軟體（Software as Medical Device, SaMD），具有極高的診療潛力，將可有效改善醫療品質與病患福祉，因此自2019年以來，FDA嘗試提出新的上市後的監管框架構想，以突破現有醫療器材軟體需要「上市前鎖定演算法、上市後不得任意變更」的監管規定。 2019年4月，FDA發表了「使用人工智慧/機器學習演算法之醫療器材軟體變更之管理架構—討論文件」（Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback）。此一諮詢性質的文件當中提出，將來廠商可在上市前審查階段提交「事先訂定之變更控制計畫」（pre-determined change control plan），闡明以下內容：(1)SaMD預先規範（SaMD Pre-Specification, SPS）：包含此產品未來可能的變更類型（如：輸入資料、性能、適應症）、變更範圍；(2)演算法變更程序（Algorithm Change Protocol, ACP）：包含變更對應之處理流程、風險控制措施，以及如何確保軟體變更後之安全及有效性。 根據「人工智慧/機器學習行動計畫」內容所述，「事先訂定之變更控制計畫」構想被多數（包含病患團體在內）的利害關係人肯認，並於相關諮詢會議當中提出完善的細部建言。FDA將根據收到的反饋意見，於2021年以前正式提出有關人工智慧/機器學習上市後監管的指引草案（Draft Guidance），並持續研究提高演算法透明度、避免演算法偏見的方法。
歐洲單一專利與單一專利法院2012年歐盟國家和歐洲議會就「單一專利包裹法案Unified Patent Package，簡稱UPP」達成共識，並為創建歐洲單一專利保護制度奠定基礎。具體內容包括：制定具有統一效力的歐洲專利法規（單一專利Unitary Patent）、建立適用於單一專利的語言制度（歐洲專利局EPO現行官方語言即英文、法文、德文）、於歐盟成員國間建立單一專利管轄權協定（單一專利法院Unified Patent Court）。 其中，單一專利和單一專利法院為歐洲專利授權制度的基石。單一專利使發明者（個人、公司或機構）透過向歐洲專利局EPO提交一份專利申請，保護其在26個歐盟國家的發明，授予專利後不需再於各個國家進行驗證。單一專利將改變現有歐洲專利體系，為發明者提供更好更簡便且成本更低的保護模式，降低複雜的驗證需要與昂貴的翻譯費用。預計將刺激研究、開發和創新投資，促進歐洲經濟成長。 單一專利法院（Unified Patent Court，簡稱UPC），則是由歐盟成員國設立的國際法院。UPC目標是建立有效機制以面對歐洲專利的實施與挑戰、解決不同國家專利訴訟的需要、為歐洲共同市場內專利有效性及侵權與否提供穩定而單一的判斷機制以增強法律明確性、提供更簡單快捷和高效的司法程序、協調有關專利授予的權利範圍與限制，侵權案件的補救措施等。EPO並預計將再2018年期間啟動單一專利與單一法院制度。