經濟合作與發展組織發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段：
1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。
2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。
3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。
4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
許嘉芳
法律研究員 編譯整理
Organisation for Economic Co-operation and Development [OECD], Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI (Feb. 23, 2023), https://www.oecd-ilibrary.org/docserver/2448f04b-en.pdf?expires=1683078463&id=id&accname=guest&checksum=030F1E26850085E4A7AC6B1EB60266A1 (last visited May 3, 2023).
Advancing accountability in AI, Organisation for Economic Co-operation and Development, https://oecd.ai/en/accountability (last visited May 3, 2023).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
張瀠心，〈歐盟執委會通過關於《人工智慧責任指令》之立法提案〉，2023年1月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8958（最後瀏覽日：2023/05/03）。
聯合國於哥本哈根舉行之氣候變遷綱要公約（UNFCCC）第15次締約國會議（COP15）會議後，對於較未有嚴格的管制工廠分布與二氧化碳排放（此情形又稱之為碳洩漏風險，risk of carbon leakage）的國家，由於該些國家的貨品進入，將對歐盟境內工業造成不公平競爭（unfair competition）結果，歐盟因而就如何保護會員國內工業生產者的措施進行討論。 近來像中國等未有過多法律規範以落實減少碳排放的國家，爲抵制此類國家貨品的進口影響歐盟境內工業生產者，歐盟正重新審視討論法國所提出的對進口至歐盟的貨品實施碳關稅（carbon tariff）的政策。 法國總統薩科奇曾表示，對於不尊重京都議定書（Kyoto Protocol）的國家，歐盟應對其進口產品課徵碳關稅，以保護歐盟境內因執行碳排放交易機制（Emission Trading Scheme, ETS）而必須額外負擔成本之工業生產者經濟利益，並消除國外貨品進口所導致的不公平競爭。 碳關稅在歐盟之實行，非只有法國提出，其實早在哥本哈根會議之前，法國與德國即共同向聯合國秘書長潘基文以書面（joint letter）表達於歐盟實施稅捐調整機制（border-adjustment measure）的想法，以抵制其他未落實國際環境保護規範國家。 今年（2010）三月，歐盟機構重新對於法國所提出的碳關稅進行討論，由於此措施將影響WTO對關稅之調降，身為歐盟最大工業國的德國，基於保護國內工業生產者，仍對碳關稅政策表示支持，惟WTO所制定的關稅相關規定，身為WTO會員國的德國也認為應遵循，以避免引起損失更大的貿易爭端。 在強調綠色經濟的時代，各國要作的不只是落實國際環保規範，對於國內業者的利益也應適當關注。現今歐盟刻正討論的碳關稅，因我國非為京都議定書締約國，一旦實施對我國衝擊不小，所以此政策發展值得我們持續觀察。
FDA發佈人工智慧/機器學習行動計畫美國食品藥物管理署（U.S. Food & Drug Administration, FDA）在2021年1月12日發布有關人工智慧醫療器材上市管理的「人工智慧/機器學習行動計畫」（Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan）。該行動計畫的制定背景係FDA認為上市後持續不斷更新演算法的機器學習醫療器材軟體（Software as Medical Device, SaMD），具有極高的診療潛力，將可有效改善醫療品質與病患福祉，因此自2019年以來，FDA嘗試提出新的上市後的監管框架構想，以突破現有醫療器材軟體需要「上市前鎖定演算法、上市後不得任意變更」的監管規定。 2019年4月，FDA發表了「使用人工智慧/機器學習演算法之醫療器材軟體變更之管理架構—討論文件」（Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback）。此一諮詢性質的文件當中提出，將來廠商可在上市前審查階段提交「事先訂定之變更控制計畫」（pre-determined change control plan），闡明以下內容：(1)SaMD預先規範（SaMD Pre-Specification, SPS）：包含此產品未來可能的變更類型（如：輸入資料、性能、適應症）、變更範圍；(2)演算法變更程序（Algorithm Change Protocol, ACP）：包含變更對應之處理流程、風險控制措施，以及如何確保軟體變更後之安全及有效性。 根據「人工智慧/機器學習行動計畫」內容所述，「事先訂定之變更控制計畫」構想被多數（包含病患團體在內）的利害關係人肯認，並於相關諮詢會議當中提出完善的細部建言。FDA將根據收到的反饋意見，於2021年以前正式提出有關人工智慧/機器學習上市後監管的指引草案（Draft Guidance），並持續研究提高演算法透明度、避免演算法偏見的方法。
英國政府擬限制18歲以下孩童於社群軟體按讚功能英國資訊委員辦公室（Information Commissioner’s Office, ICO）於今（2019）年4月15日發布「合適年齡設計：網路服務行為準則」（Age appropriate design: a code of practice for online services）諮詢報告，針對18歲以下孩童使用網路服務所涉及個人資料之相關議題提出遵循標準，要求網路服務提供商應受遵循以保障孩童隱私資訊。 本次諮詢報告主要針對網路服務如何適當確保孩童個人資料，同時符合歐盟《一般資料保護規則》（General Data Protection Regulation, GDPR）以及《隱私及電子通訊規則》（Privacy and Electronic Communications Regulations, PECR），若網路服務提供商未依循該行為準則，將很難證明符合GDPR、PECR規定，ICO亦採取監管措施（regulatory action），包含警告、譴責、執行通知、罰款等。於諮詢報告中，臚列涉及個人資料事項，包括資料共享、地理定位（geolocation）、家長監控（parental controls）、輕推技術（nudge techniques）、默認裝置（default settings）、側寫（profiling）等多達16項遵循標準，其中輕推技術引發抑制網路科技發展、過度監管爭議。 所謂「輕推技術」是指專為引導用戶或鼓勵用戶決策時可以點選之程式以表示用戶想法，簡而言之Facebook、Instagram按「讚」功能、社群軟體Snapchat「Streaks」互動功能，或是新聞網頁常見「是」或「不是」選擇性問題視窗等即是輕推技術應用。由於輕推技術之設計會蒐集用戶瀏覽網頁習慣，甚至透露其個人性格、生活狀態給廣告商或社群媒體等。 諮詢報告指出，依據GDPR前言第38點規定，因孩童對於其個人資料處理之可能風險、結果及相關保護措施及其權利認知較低，同時依GDPR第5條規定個人資料之蒐集處理與利用，對資料主體者應為合法、公正及透明（lawfulness, fairness and transparency）。但輕推技術的運用將會促使資料主體者更容易地提供其個人資料，同時，尤其會誘導兒童去選擇隱私保護較低的選項設定或花費更多時間在這些服務上，而此一技術之運用正是利用資料主體者之心理偏差(psychological bias)，而違反了公平與透明原則。因此諮詢報告書要求網路服務提供商應主動限制孩童使用輕推功能。ICO於諮詢文件更詳細依0-5歲、6-9歲、10-12歲、13-15歲、16-17歲不同年齡層限制輕推技術應用之程度，或在何種情況須有家長陪同，以保障孩童隱私。 此項標準引來正反兩派意見，主張自由市場（free market）人士批評，認為有過度監管之嫌並阻礙科技發展，輕推技術本身不是問題，而是在於蒐集個人資料後要做那些運用，同時要如何執行限制技術之應用亦將是問題所在。而贊成者認為廠商如提供網路服務給所有年齡層時，應有特別措施以保護不同年齡層之人，因此對於孩童與成人間之監管程度應有區別。該諮詢報告於今（2019）年5月31日截止公眾諮詢階段，並預計2020年初施行該行為準則。
美國羅德島州通過《羅德島資料透明度與隱私保護法》，保護個人資料不被濫用，該法案將於2026年1月1日生效隨著網路蓬勃發展，個人資料之蒐集、處理及利用越來越普遍，同時也造成資料洩漏和濫用的問題日益嚴重，進而對隱私和個人資料構成侵害與威脅，為保障人民隱私和增強資料透明度，羅德島州州議會於2024年通過了一項具有里程碑意義的法律—《羅德島資料透明度與隱私保護法》（Rhode Island Data Transparency and Privacy Protection Act）。其核心內容包括以下幾個方面： 一、 適用對象：於羅德島州州內經營商業之營利組織（下簡稱企業），或主要生產製造商品、提供服務予該州居民之企業，且： 1. 在前一年度控制或處理超過三萬五千筆個人資料（personally identifiable information）者，但單純為完成付款交易之資料除外。 2. 控制或處理超過一萬筆個人資料，且總營收超過百分之二十係源自於銷售個人資料者。 二、 資料蒐集企業與資料當事人權利義務： 1. 選擇同意與退出權：前開適用對象應賦予資料當事人即消費者就其個人資料之蒐集、處理，行使選擇同意權（opt in）與退出權（opt out）。 2. 資料蒐集與利用透明度：要求企業蒐集個資前，須明確告知資料當事人蒐集目的、利用範圍以及可能的資料共享對象，並取得其同意。 3. 控制權：資料當事人有權向企業請求查詢、修改及刪除自己的資料，企業在接到請求後，必須即時處理該請求，並於45天之法定期限內准駁其請求；必要時得於通知當事人合理事由後，展延一次。 4. 安全維護措施：企業必須採取適當之安全維護措施來保護個人資料不受未經授權的近用、洩漏、竄改或毀損。前述措施，包括但不限於資料加密、權限管控等技術上管控措施。 5. 資料保護評估：企業須就「對消費者傷害風險較高」活動進行評估並保存文件化紀錄，包括： （1） 為精準行銷之目的（Targeted Advertising）； （2） 銷售個人資料； （3） 為資料剖析之目的處理個人資料，且具合理可預見的風險將可能對消費者之財務、身體或名譽造成不公平或欺騙性的待遇，或非法的衝擊影響。 《羅德島資料透明度與隱私保護法》強化企業對資料隱私保護之責任，並督促其遵守法律要求。預計施行後將能加強對資料主體個人資料知情權、控制權、透明度及資料安全之保障。