OECD發布「促進人工智慧風險管理互通性的通用指引」研究報告
經濟合作發展組織（Organisation for Economic Co-operation and Development，下稱OECD）於2023年11月公布「促進AI風險管理互通性的通用指引」（Common Guideposts To Promote Interoperability In AI Risk Management）研究報告（下稱「報告」），為2023年2月「高階AI風險管理互通框架」（High-Level AI Risk Management Interoperability Framework，下稱「互通框架」）之延伸研究。
報告中主要說明「互通框架」的四個主要步驟，並與國際主要AI風險管理框架和標準的風險管理流程進行比較分析。首先，「互通框架」的四個步驟分別為：
1. 「定義」AI風險管理範圍、環境脈絡與標準；
2. 「評估」風險的可能性與危害程度；
3. 「處理」風險，以停止、減輕或預防傷害；
4.「治理」風險管理流程，包括透過持續的監督、審查、記錄、溝通與諮詢、各參與者的角色和責任分配、建立問責制等作法，打造組織內部的風險管理文化。
其次，本報告指出，目前國際主要AI風險管理框架大致上與OECD「互通框架」的四個主要步驟一致，然因涵蓋範圍有別，框架間難免存在差異，最大差異在於「治理」功能融入框架結構的設計、其細項功能、以及術語等方面，惟此些差異並不影響各框架與OECD「互通框架」的一致性。
未來OECD也將基於上述研究，建立AI風險管理的線上互動工具，用以協助各界比較各種AI風險管理框架，並瀏覽多種風險管理的落實方法、工具和實踐方式。OECD的努力或許能促進全球AI治理的一致性，進而減輕企業的合規負擔，其後續發展值得持續追蹤觀察。
沈娟娟
法律研究員 編譯整理
Organisation for Economic Co-operation and Development (OECD), Common guideposts to promote interoperability in AI risk management, OECD Artificial Intelligence Papers, No. 5, (Nov. 2023), https://doi.org/10.1787/ba602d18-en. (last visited Jan. 4, 2024).
Organisation for Economic Co-operation and Development (OECD), Advancing Accountability In AI: Governing And Managing Risks Throughout The Lifecycle For Trustworthy AI, (Feb., 2023), https://doi.org/10.1787/2448f04b-en. (last visited Jan. 4, 2024).
日本公正取引委員會（下稱公取委，其性質等同於我國公平交易委員會）在2019年12月11日的定期記者會上表示，由於近年出現許多關於「智慧財產及knowhow保護不足」的聲音，因此將針對大型企業在與新創、新興企業進行共同合作或研究時，是否有濫用優勢地位不當掠取智慧財產權及專業知識技能（knowhow）的情形，啟動實況調查。 公取委將以書面方式，針對日本國內約1萬家創業10年以內的IT製造新創產業與大企業間交易之實況進行調查。相關報導整理了以下幾種常見的問題交易型態： 獨占智慧財產：（1）契約約定大型企業無須經新興企業許可，即可逕自申請專利；（2）共同研究成果全歸大型企業所有；（3）要求無限制的無償授權。 限制與他人合作：（1）長時間禁止新興企業與其他業界合作；（2）相關專利遭到大企業所限制，導致事業無法拓展。 強勢締約：（1）大型企業對於契約的意思決定過於緩慢；（2）直接交付簽訂好的紙本契約，並告知不得變更契約內容。 公取委表示，因為新興企業具有開放式創新的價值，在與大型企業進行合作時，對於國家產業發展及競爭力的提升，能發揮很大的貢獻。因此藉由實態調查，確保建構出一個自由、公平的良性競爭環境，並預計在2020年依據調查結果，擬定相關指引或方針。
美國新發布加強軍商二用科技產品管理行動美國政府近年來為預備恐怖活動積極部署國家安全相關措施，包括運用出口管理規則（Export Administration Regulations）監控軍商二用技術及產品（dual-use items）之輸出；然而在維護國家安全的同時，美國仍然希望能持續鞏固其經濟及技術領先地位，以及避免全球高科技及市場遭到稀釋。美國總統因此於今（2008）年初，提出一系列有關軍商二用出口管制之行政新措施，欲藉此強化軍商二用出口管制制度（dual-use export control system）。其主要目標如下： （1）適當管制外國終端用戶（Foreign End-Users）：美國政策作法是，未來軍商二用出口管制制度將要著重在美國高科技產品外國終端用戶之管理，除了保持其拒絕將敏感性科技輸給武器擴散份子、國際恐怖分子和習慣進行違背美國國家安全及外交政策與利益之國家對象之宗旨外，美國一方面將擴大受管制實體清單（Entity List）對象範圍，嚴格審查曾從事違背美國國家安全和外交政策及利益活動之外國夥伴；另方面，美國則將妥善使用所謂正當使用者計畫（Validated End User(VEU) program），免除這些受信賴之使用對象在輸出產品時受制於嚴格的出口申請程序。例如港商Manufacturing International Corporation(SMIC)最近即被納入VEU初始清單。 （2）增進國家競爭能力：美國將以維持經濟競爭力和創新研發為目標，建立一道檢討受管制軍商二用標的之常規程序，藉此重新評估並適時修正商業控制清單（Commerce Control List）所列產品及對象。 （3）透明化：為求達到資訊公開、共同促進國家安全及競爭之目的，美國商業部還會在網站上公開受到高度審查之外國夥伴清單。 最後，美國行政主管機關亦表示，為了有利於行政機關有效執行國家軍商二用出口管制政策，高度支持透過出口管理法（Export Administration Act）修正之再授權，更新違法之刑罰規定，並提升行政機關之執行權限。
從歐洲法院實務看資料保護在智慧聯網時代下發展－以資料保存指令無效案和西班牙Google案為例 醫療與健康資料創新應用法制研析醫療與健康資料創新應用法制研析 資訊工業策進會科技法律研究所 2022年06月25日 壹、事件摘要 配合未來智慧醫療與精準健康之發展，民眾的健康、醫療資料將成為相關創新技術之基礎，且需整合許多異質資料庫（包括：生物資料、病歷、環境資料、基因資料等）作為相關研究與診斷基礎。然而，在創新實驗階段，個人資料保護向來是最核心之議題，如何在「創新技術」與「資料保護」間需取得衡平，於保護民眾個資權利的同時，又能滿足規範緩解或彈性化之明顯需求，便成為亟待解決的問題。 近年來，我國積極透過「法規沙盒」（Regulatory Sandbox）制度，來創造一個兼顧技術創新與有效監理的機制，例如《金融科技發展與創新實驗條例》與《無人載具科技創新實驗條例》皆是設立法規沙盒制度，在確保法律監管的前提下，依個案情形適度地鬆綁法規，為業者打造出恰當的實驗空間，以鼓勵創新發展。然而，我國於金融與交通領域訂立沙盒制度之時，關於個資法是否能被豁免，一度成為討論重點，最後二條例皆明文規定實驗進行以遵守個資法為原則，因此法規沙盒制度宜否用以緩解醫療與健康資料相關法律限制，仍堪研探；此外，醫療法規沙盒所涉及的醫療或健康資料主要落入敏感性資料之範疇，在個資法監管密度更高的情形下，更加限制了智慧醫療與精準健康產品或服務之發展，則如何突破此等醫療領域創新困境，即屬我國未來應密切關注之焦點。 職是之故，本文將研探國際上涉及醫療健康資料之機制，以作為我國法規沙盒等制度措施抑或設計其他方式運作之借鏡，讓創新者能獲有個資法等法規之規範彈性空間以進行創新活動。 貳、重點說明 以下對於英國、日本及新加坡等國制度，觀測分析其如何緩解資料法規而創造出彈性化空間，使創新者有機會藉此活用醫療健康資料，進行醫療領域之創新發展。 一、英國 （一）ICO法規沙盒 英國資訊專員辦公室（Information Commissioner's Office, ICO）於2019年推出法規沙盒計畫，希望可向利用個人資料開發具有明顯公共利益的創新產品和服務的組織，提供必要的試驗空間。在進入沙盒之前，ICO將會要求申請者簽署相關條款，並有專屬ICO沙盒成員與之聯繫，安排會議協助制訂沙盒計畫，同時也會要求申請者進行資料保護自我評估清單，以利沙盒計畫之制定[1]。 此沙盒的特色之一，在於不會完全排除資料保護規範之適用，而是著重於如何協助業者遵法，參與者能透過此計畫借助ICO在資料保護方面的專業知識和建議，從而在測試創新服務時減輕風險，並確保適當的個資保護措施臻於完備[2]。此外，參與者也將會收到一份暫緩執法聲明（statement of comfort from enforcement），亦即在參與沙盒期間，若產品或服務因疏忽而有違反資料保護相關法規之情形，只要違規行為未超出原先進入沙盒所預想的情況，便不會立即導致ICO的監管行動，暫緩程度則取決於創新團隊與ICO保持協作與對話之狀況[3]。 截至2021年2月，其尚有9個測試案例正在進行中，而與健康、醫療資料有關者為CDD服務有限公司（CDD Services）及諾華製藥的語音解決方案（Novartis Voice Enabled Solutions project）[4]。 （二）動態同意機制 「動態同意」（Dynamic Consent）是指一種基於網路與資通訊技術的即時同意程序，透過利用資通訊技術建立的動態同意網路平台，研究者得即時通知資料當事人其研究進度、研究目的變更等事項，資料當事人則得隨時修改同意範圍或撤銷同意[5]。 動態同意機制的優點，對研究者而言，在於節省許多徵詢同意所需之成本，也能清楚瞭解資料庫中的資料附加了哪種類型的同意或是資料當事人要求徵詢同意的密度[6]，並且可以更加容易地整合其他多媒體技術（例如播放影片、照片與錄音）進行研究內容與風險之說明。而對於資料當事人而言，動態同意則可解決同意成本過高而不得不實施過於寬泛的概括同意之情形，從而更加保障資料主體之資料自主權[7]。 在英國，動態同意之原型係於2008年左右ENCoRe計畫提出；國際間較為有名的計畫皆實施於英國，例如曼徹斯特大學inBank團隊開發的蒐集與處理電子健康紀錄系統、牛津大學主導的參與式Rudy研究等[8]。 二、日本 日本於2018年實施「專案型沙盒」制度，建立特定不受現有法規限制之情境，使業者得於限定期間及場域內，以「新興技術」進行實證[9]。所謂「新興技術」，係指在創新事業活動中所使用具有顯著新穎性之技術或方法，且該技術或手法可創造出高附加價值者[10]，而「具顯著新穎性」者，則指相較於該領域的常用技術和方法，更有新穎性且得以衍生實用化和事業化討論的技術與方法，例如AI、IoT、巨量資料、區塊鏈等[11]。 專案型沙盒中，有3件與醫療相關的案例，其中涉及個資法規範的是「以生物辨識技術了解本人意思（Digital Living Will）」一案。本案情境為考量到獨居老人數量增加，其因急救被送往醫療機關時，尚需時間確認其身分，甚至須向家屬說明治療方式且獲同意後，始得開始檢查和治療，而常有遲延急救時間之情事，故醫院及醫療業者共同申請一項專案型沙盒實證計畫，藉由「預立同意」之方式保存個人手術及檢查等意願，待患者發生急救情形時，將依指紋、手指靜脈、人臉等生物辨識技術準確且迅速地確認身分，向醫院提供患者的個人意願資料。本計畫採取的新技術，涉及日本個資法第18條、第19條及第23條規定，申請者表示將依法辦理之，例如告知參加者「獲取生物辨識資料之利用目的」、經參加者同意後始向第三方提供生物辨識資料等，並由厚生勞動省和個人情報保護委員會等主管機關進行監督[12]。 三、新加坡 新加坡於2012年10月通過《個人資料保護法》（Personal Data Protection Act 2012, PDPA）[13]，同時依法設置個資保護委員會（Personal Data Protection Commission, PDPC）。該法旨在規範「非公務機關」之個人或組織對於個人資料的蒐集、利用及揭露（例如與第三方共享）等相關行為。該法第62條設計了豁免權（Exemption），個人或組織可於備妥申請文件後，向個資保護委員會預先申請尋求《個人資料保護法》任何條文之豁免；經審查批准後，個資保護委員會可以透過命令（order），在特定的規則或情況下，豁免任何個人或組織遵守本法的全部或部分規定[14]。 再者，新加坡提出「資料協作計畫」，以促進組織、政府、個人三方間資料無障礙流通，創造更多合作機會進行創新應用。該計畫可分作兩部分，首先建立「可信賴資料共享框架」（Trusted Data Sharing Framework），為企業對企業的資料交換方法步驟提供指南；其次提出「資料共享安排」（Data Sharing Arrangements）的資料法規沙盒計畫[15]，排除企業以創新模式近用個人資料時發生的阻礙，「資料共享安排」係依據上述個人資料保護法第62條所賦予的豁免權，讓個人或組織可在個人資料保護委員會訂定的規則下，依照個案給予組織免除個資法部分規範（例如：不須取得當事人同意、免除跨境傳輸之限制）。故總體而言，「資料協作計畫」下的「可信賴資料共享框架」與「資料共享安排」，將由政府擔任監管角色，申請者只要符合指南建議方向，例如遵循法律、達到一定資料技術應用品質、實施資安與個資保護措施等，便可進行個人與商業資料之共享。 以「中風患者於資料共享安排（資料法規沙盒計畫）之運作」為例，醫院、志願福利組織（Voluntary Welfare Organization, VWO）[16]與行政機關之資料共享計畫，彼此之間分享病患個人資料，毋須再經患者之同意，由資料中介機構進行資料分析，以改善服務並確保有效媒合老年中風患者之援助。經分析後，志願福利組織可主動與醫院患者接觸以利其提供收入援助或社會支持，行政機關則可利用相關資訊改善政策[17]。 參、事件評析 隨著新興科技崛起，資料驅動之技術創新需求於近年大幅顯現，若個資法規範始終缺乏彈性，又無相關機制確保創新空間，我國社會經濟發展將嚴重受影響。對此，面對「創新技術」與「資料保護」間如何取得衡平的難題，各國政府透過不同規範及政策手段，給予個資法規範一定彈性，以促進國內創新與轉型的腳步，可見個資法既定規範並非絕對，重點仍在於如何做好個資保護評估及風險管控，使資料主體於創新實驗下仍可受到隱私保護。 綜觀上開國家的資料法規彈性化措施，主要以兩大方式進行，其一為「針對法規提出整體鬆綁或彈性化機制」（法規面），例如英國ICO法規沙盒、日本專案型沙盒、新加坡資料共享安排機制皆屬之，雖各國立法模式或依據有所不同，但主要仍是利用法規沙盒或性質相近之措施，於運作上賦予個資法規一定彈性。其二則為「利用技術解消資料利用障礙」（技術面），例如動態同意機制，透過科技來擴大個資法規的適法及遵法態樣。 據此，我國在研議「醫療領域宜否應用法規沙盒等制度，緩解個資法等相關法規現行規範」時，或可先肯認個資法確有（有條件地）豁免適用之餘地，且得以法規沙盒作為個資法限制之彈性機制。其次，在立法模式的選擇上，由於我國已著手立法《智慧醫療創新實驗條例》（草案）[18]或考量規劃泛用型法規沙盒，未來或可於「醫療法規沙盒」或「泛用型法規沙盒」立法過程中，研議是否豁免創新實驗有關個資法令之適用。再者，針對個資法豁免條件，有鑑於沙盒實驗期間不能忽視個人利益之隱私保障措施，故應有一套完善機制協助法規沙盒之監管，相關豁免事項及條件設計，也須考量創新、公共利益與資料當事人權利侵害之比例原則。最後，在實作方面，機關亦可協助與輔導業者引進動態同意等措施及其新技術，以利業者遵法。 [1] ICO, What will happen if our application to the Sandbox is successful?, https://ico.org.uk/for-organisations/the-guide-to-the-sandbox/what-will-happen-if-our-application-to-the-sandbox-is-successful/ (last visited Feb. 6, 2021). [2] ICO selects first participants for data protection Sandbox, https://www.computerweekly.com/news/252467504/ICO-selects-first-innovation-Sandbox-participants (last visited Feb. 6, 2021) [3] ICO, What will happen if our application to the Sandbox is successful?, https://ico.org.uk/for-organisations/the-guide-to-the-sandbox/what-will-happen-if-our-application-to-the-sandbox-is-successful/ (last visited Feb. 6, 2021). [4] ICO, Current Projects, https://ico.org.uk/for-organisations/regulatory-sandbox/current-projects (last visited Feb. 6, 2021). [5] Jane Kaye, Edgar A Whitley, David Lund, Michael Morrison, Harriet Teare & Karen Melham, Dynamic consent: a patient interface for twenty-first century research networks, European Journal of Human Genetics, 23, 141–146 (2015) [6] 動態同意平台上的研究者介面，可能顯示資料當事人對於哪種類型的研究給予何種同意（例如對於心臟病研究給予概括同意；對於癌症研究給予特定同意），允許概括同意的時候也可以註記同意期限，或設定其他限制。 [7] Rasmus Bjerregaard Mikkelsen, Mickey Gjerris, Gunhild Waldemar & Peter Sandøe, Broad consent for biobanks is best - provided it is also deep, BMC Med Ethics, 20(1),71 (2019) [8] 義大利、美國、日本與澳洲等國目前皆有實施動態同意之機制，但都是以特定疾病或研究主題為主，尚未有全國通用的動態同意系統。義大利有名為「CHRIS」的慢性病研究動態同意平台；美國有非營利組織架設名為「PEER」的基因研究動態同意平台；日本有名為「Rudy Japan」的動態同意平台；澳洲有名為「CTRL」的動態同意平台。 [9] 生産性向上特別措置法第2條第2項。 [10] 同前註。 [11] 新技術等実証の総合的かつ効果的な推進を図るための基本的な方針，頁1（2018），https://www.kantei.go.jp/jp/singi/keizaisaisei/pdf/underlyinglaw/basicpolicy.pdf（最後瀏覽日：2021/2/10）。 [12] 〈生体認証を用いた本人意思に基づく救急医療の実証〉，首相官邸，https://www.kantei.go.jp/jp/singi/keizaisaisei/project/gaiyou7.pdf （最後瀏覽日：2021/2/19）。 [13] Personal Data Protection Act 2012, No. 26 of 2012. [14] Personal Data Protection Act 2012, Section 62. [15] Data Collaboratives Programme, https://www.imda.gov.sg/programme-listing/data-collaborative-programme (last revised Jun. 8, 2021) [16] 獨立於政府與市場運作之外的團體或組織。 [17] PDPC, Guide to Data Sharing (2018), https://www.pdpc.gov.sg/-/media/Files/PDPC/PDF-Files/Other-Guides/Guide-to-Data-Sharing-revised-26-Feb-2018.pdf (last revised Jun. 8, 2021). [18] 鄭鴻達，〈政院BTC閉幕 吳政忠：推智慧醫療沙盒、生醫條例修法〉，聯合新聞網，2021/09/01，https://udn.com/news/story/7238/5715580（最後瀏覽日：2022/06/13）。