經濟合作與發展組織發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段：
1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。
2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。
3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。
4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
許嘉芳
法律研究員 編譯整理
Organisation for Economic Co-operation and Development [OECD], Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI (Feb. 23, 2023), https://www.oecd-ilibrary.org/docserver/2448f04b-en.pdf?expires=1683078463&id=id&accname=guest&checksum=030F1E26850085E4A7AC6B1EB60266A1 (last visited May 3, 2023).
Advancing accountability in AI, Organisation for Economic Co-operation and Development, https://oecd.ai/en/accountability (last visited May 3, 2023).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
張瀠心，〈歐盟執委會通過關於《人工智慧責任指令》之立法提案〉，2023年1月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8958（最後瀏覽日：2023/05/03）。
八位美國眾議員於2007年2月6日連署提出新法案，擬賦予司法部門首長更大的權限要求網路服務提供者（ISP）記錄用戶的網路活動並留存特定的用戶資訊。草案提交眾議院審議後，隱私保護機構紛紛表達反對立場。 此次由德州眾議員Lamar Smith主導的新法案「the Internet Stopping Adults Facilitating the Exploitation of Today's Youth Act of 2007（簡稱SAFETY Act）」中，ISP業者必須保留的用戶資料，最低限度需包括用戶姓名、地址、電話及IP位址；至於用戶資料的留存期間，則將交由美國司法部決定。以現況而言，多數ISP業者所保存的用戶資訊均在半年以下；然而美國司法部部長Alberto Gonzales曾於2006年9月公開倡議ISP業者資料留存期間，應以兩年為宜。 此外，草案亦要求ISP業者發現其所提供的服務存在兒童色情情事時，應主動通報主管機關，否將面臨15至30萬美元的罰金；若其有意地助長兒童色情的流傳，更可能面臨最高10年的徒刑。 批評者如「民主及科技中心」（Center for Democracy and Technology；CDT）表示，此法案不啻為對憲法修正條文第一條的威脅，毫無限制的授權更可能肇致用戶資料的留存期間成為司法首長個人得以專擅決策之事項。
日本經產省公布AI、資料利用契約指引伴隨IoT和AI等技術發展，業者間被期待能合作透過資料創造新的附加價值及解決社會問題，惟在缺乏相關契約實務經驗的狀況下，如何締結契約成為應首要處理的課題。 針對上述狀況，日本經濟產業省於2017年5月公布「資料利用權限契約指引1.0版」（データの利用権限に関する契約ガイドラインVer1.0），隨後又設置AI、資料契約指引檢討會（AI・データ契約ガイドライン検討会），展開後續修正檢討，在追加整理資料利用契約類型、AI開發利用之權利關係及責任關係等內容後，公布「AI、資料利用契約指引草案」（AI・データの利用に関する契約ガイドライン（案）），於2018年4月27日至5月26日間公開募集意見，並於2018年6月15日正式公布「AI、資料利用契約指引」（「AI・データの利用に関する契約ガイドライン）。 「AI、資料利用契約指引」分為資料篇與AI篇。資料篇整理資料契約類型，將資料契約分為「資料提供型」、「資料創造型」和「資料共用型（平台型）」，說明個別契約架構及主要的法律問題，並提示契約條項及訂定各條項時應考慮的要點，希望能達成促進資料有效運用之目的。 AI篇說明AI技術特性和基本概念，將AI開發契約依照開發流程分為（1）評估（assessment）階段；（2）概念驗證（Proof of Concept, PoC）階段；（3）開發階段；（4）進階學習階段，並針對各階段契約方式和締結契約時應考慮的要點進行說明，希望達成促進AI開發利用之目的。
美國通過最新的電子醫療紀錄之隱私與安全標準美國衛生部隸屬之醫療資訊科技標準委員會（Health IT Standards Committee）為了因應「2009年經濟復甦暨再投資法」（America Recovery and Reinvestment Act, “ARRA”）的通過，制定了新的電子醫療紀錄的隱私、安全標準，以擴大保護電子醫療紀錄的使用安全。 這次制定的電子醫療紀錄的隱私、安全標準，將透過具有足夠防護能力的醫療資訊科技系統標準，來保護電子醫療紀錄的交換，並且擴大適用範圍到醫療照護廠商與提供者，要求其必須在2011年前達到幾項資訊的使用控制標準，包括「醫療保險可攜與責任法」（Health Insurance Portability and Accountability Act, “HIPAA”）與「加密促進標準」（Advanced Encryption Standard）之相關規定，以完備個人電子醫療資訊的保護網。 在此次訂立的標準之下，任何人員或是應用程式欲使用與接近電子醫療紀錄，應符合法律所授予的接近與使用之要件。同時，處理個人醫療資訊的系統，也必須具備對個人醫療資訊加密與解密的能力，以保障個人醫療資訊的安全與完整。除了以上的要求，這些標準也要求相關的適用機構，必須在2013年以前完成符合病歷交換格式（HL7）的使用接近控制、安全宣示標記語言（Security Assertion Mark-up Language, “SAML”）、網路服務認證（Web Service Trust, “WS-Trust”）以及促進資訊標準建置組織（Organization for the Advancement of Structured Information Standards, “OASIS”）的機制，以保障醫療資訊的安全。
英國國家醫療服務體系（NHS）公布國家資料退出（Opt-out）操作政策指導文件個人健康資料共享向為英國資料保護爭議。2017年英國資訊專員辦公室（ICO）認定Google旗下人工智慧部門DeepMind與英國國家醫療服務體系（NHS）的資料共享協議違反英國資料保護法後，英國衛生部（Department of Health and Social Care）於今年（2018）5月修正施行新「國家資料退出指令」（National data opt-out Direction 2018），英國健康與社會照護相關機構得參考國家醫療服務體系（NHS）10月公布之國家資料退出操作政策指導文件（National Data Opt-out Operational Policy Guidance Document）規劃病患退出權行使機制。 該指導文件主要在闡釋英國病患退出權行使之整體政策，以及具體落實建議作法，例如： 退出因應措施。未來英國病患表示退出國家資料共享者，相關機構應配合完整移除資料，並不得保留重新識別（de-identify）可能性； 退出權行使。因指令不溯及既往適用，因此修正施行前已合法處理提供共享之資料，不必因此中止或另行進行去識別化等資料二次處理；此外，病患得動態行使其退出權，於退出後重新加入國家資料共享體系；應注意的是，退出權的行使，採整體性行使，亦即，病患不得選擇部分加入（如僅同意特定臨床試驗的資料共享）； 例外得限制退出權情形。病患資料之共享，如係基於當事人同意（consent）、傳染病防治（communicable disease and risks to public health）、重大公共利益（overriding public interest）、法定義務或配合司法調查（information required by law or court order）等4種情形之一者，健康與社會照護相關機構得例外限制病患之退出權行使。 NHS已於今年9月完成國家資料退出服務之資料保護影響評估（DPIA），評估結果認為非屬高風險，因此不會向ICO諮詢資料保護風險。後續英國相關機構應配合於2020年5月前完成病患資料共享退出機制之建置。