美國白宮公布巨量資料追蹤報告與政策建議
本文為「經濟部產業技術司科技專案成果」
徐彪豪
法律研究員 編譯整理
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段： 1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。 2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。 3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。 4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
新加坡無人車測試之法制配套評析新加坡無人車測試之法制配套評析 資策會科技法律研究所 法律研究員 王凱嵐 106年07月25日 壹、前言 隨著人工智慧的發展其運用日趨多元，與之結合之「無人車」逐漸成為人們熱門關注的科技名詞。所謂無人車（Autonomous Car），其車輛外觀與一般車輛相似，利用感測器及其他科技裝備，搭配電腦運算或機器學習等技術，辨識車輛周遭環境及狀況。同時根據外部資訊如：道路、交通號誌、車輛位置、障礙物等數據做出分析判斷，由電腦控制車輛方向及速度，實現無人車輛依據自身（電腦）意圖做出擬人駕駛的動作[1]。 包括Apple[2]、Google、Uber等非傳統汽車製造產業在內，世界各地串起一場以無人車為首的交通實驗。在無人車發展面向上，美國、新加坡早已有為無人車產業發展，提出修法或補助等政策措施。與我國比鄰的韓國，其政府近來也積極推動自動駕駛技術之發展，不僅核准多家業者上路實測，更計畫打造全球最大無人車車測場地「K-City」[3]。未來我國在台北、高雄[4]等地也即將出現無人車的身影，惟目前我國相關法規仍未針對無人車詳加規範，使得無人車發展上窒礙難行。 我國科學工業園區長久以來扮演著台灣科技工業發展之重要角色，參考國際在相關領域的發展，除硬體、軟體技術上配合，尚提供良好且完善的測試場域或法規配套。本文為建構國內無人車發展環境，打造產業聚落及完備有善法制環境，參考新加坡無人車立法例，提供我國未來科學工業園區區內無人車測試及法規配套之建議參考。 貳、新加坡無人車測試之法規調適 新加坡作為典型的「城市國家」，城市規劃是亞洲甚至全球的典範，良好的交通規劃、道路狀況及相關的基礎建設，都是無人車駕駛試驗所要求的環境。新加坡政府對於無人駕駛的發展，於2014年成立專門委員會管理無人駕駛車，而新加坡陸路交通管理局（LTA[5]）近年來也積極的和多家發展無人駕駛技術的廠商密切合作[6]。針對無人駕駛技術的創新與應用，未來只會有增無減，而為適應科技成就所帶來之便利及法制之衝擊，新加坡政府於2017年2月[7]通過《公路交通法修正案》（Road Traffic (Amendment) Bill）。該修正案新增針對無人車測試有關之條文（6C、6D、6E），透過法規的修正讓科技與法制間增進一些彈性與空間。以下針對此次新加坡新修《公路交通法修正案》的三項關於無人車測試的條文分別說明: 首先在條文6C[8]部分，先做初步適用範圍及相關測試規範說明。考量無人車的測試需保護社會大眾之用路安全，該法案給予主管機關相關的權限，得針對無人車測試予以限制及規範，同時明確規範在何種情況下，主管機關得取消無人車業者之測試申請（如有損公眾利益）。針對測試之限制，新增定之條文規範包含測試時之天氣[9]、測試車輛硬體設備[10]、車輛系統建置的限制（要求能隨時介入車輛之操縱）等皆為評估允許無人車測試之依據。另外，對於車輛測試業者，於測試之前政府得要求保「責任險」（Liability Insurance）或相當金額之保證金[11]。測試業者需公布實驗計畫之內容，如測試地點、時間及所屬負責人，所有的測試資料應跟主管單位陸路交通管理局分享[12]。 條文6D則是規範有關於無人車測試時責任豁免（Exemptions）的規定，在有條件或無條件情形下，根據此條文得以免除特定法規或法律[13]。然該免除責任的範圍，仍以此《公路交通法》及其附屬法規為主。新加坡在一般情形下，駕駛人於道路上發生交通事故，根據《公路交通法》將需負擔相關道路責任。不過在最新通過的《公路交通法修正案》無人車測試免責規定中，考量無人車科技無規範「人員過失」之必要，原則上將免除無人車測試相關人員之法律責任（包含駕駛人、參與測試的人員等）。若是無人車業者（測試申請人）違反或不遵守前條6C的規定及條件，則無本條免責之適用。未來無人車真正上路後，若發生故障或交通事故，本次修法並未有說明，其責任歸屬仍待討論。最後在條文6E針對於無人車測試中，有蓄意破壞或是干擾測試者，對其處與相當金額之罰鍰[14]。 整體而言，新加坡政府對於無人車態度較為積極且開放，除法規上預留彈性用以降低無人車發展測試與現行法規的衝擊，另一方面也與多間無人車公司合作，在整體產業面上提供多方面的便利。去年新加坡成為全球第一個讓無人計程車(nuTonomy)[15]上路的國家，預計在2018年，亞洲第一輛投入商業化的無人巴士也將在新加坡上路。 參、小結 隨著科技的進步，新興科技與生活的結合衝擊著現有的法制規範。調整且負有彈性的法制規範，漸漸在國際上得到重視，諸如英國、澳洲及新加坡皆推出金融業的「監理沙盒」制度或政策，我國金管會也於今年( 2017)初提出《金融科技創新實驗條例》草案，帶動金融領域新的成長與翻轉。無論是金融或非金融，法規侷限新興限科技應用的問題皆存在，從「創新、試驗」的角度，新加坡將未來無人車測試的法律依據植入《公路交通法》，針對單一領域法規進行修法，似已成功將「監理沙盒」機制從目前以金融業為主轉換到非金融領域，此作法值得我國參考。 [1] 數位時代, https://www.bnext.com.tw/search/tag/%E7%84%A1%E4%BA%BA%E8%BB%8A（最後瀏覽日:2017/07/04） [2] TechNews科技新報,＜蘋果自駕車真面目，矽谷街頭試行照曝光＞,2017/04/28,https://technews.tw/2017/04/28/the-lexus-that-apples-using-to-test-self-driving-car-technology/ （最後瀏覽日：2017/06/02） [3] TechNews科技新報,＜加速推動自駕車發展，南韓打造全球最大自駕車測試場地＞,2017/05/10,https://technews.tw/2017/05/10/south-korea-begins-development-of-test-bed-k-city-for-self-driving-cars/ （最後瀏覽日：2017/06/02） [4] TechNews科技新報,＜高雄欲導入的法國EasyMile無人自駕巴士，究竟魅力何在＞,2017/04/05,https://technews.tw/2017/04/05/kaohsiung-city-government-signed-mou-with-easymile-and-7starlake-2017/ （最後瀏覽日：2017/06/02） [5] Land Transport Authority, 簡稱LTA. [6] 數位時代, ＜為什麼新加坡能夠成為無人駕駛「重鎮」？＞,2017/07/04, https://www.bnext.com.tw/article/41716/why-singapore-can-be-automated-pilot-strategic-town（最後瀏覽日：2017/07/04） [7] Parliament of Singapore, https://www.parliament.gov.sg/publications/2017 (最後瀏覽日：2017/07/04) [8] Road Traffic (Amendment)Bill, 6C. [9] 6C(1)(f)Prescribe the weather and any climatic or other circumstances when an approved trial or approved special use may or not be undertaken or carried out, as the case may be; [10] 6C(1)(g)Prescribe the construction, design or use of infrastructure technology, equipment or devices in relation to the autonomous motor vehicle or automated vehicle technology involved in the approved trial or approved special use, including requiring that the vehicle- [11] 6D(1)(b)To have in place liability insurance before the approved trial or approved special use starts, and to ensure that it is in force at all times during the period of the approved trial or approved special use； [12] 6D(1)(i)Require the keeping of records by the specified person, and the giving of information to the Authority or any other person designated by the Authority about the approved trial or approved special use undertaken or carried out, including the automated vehicle technology involved in the trial or special use； [13] 6D(1)(a)Exempt (with or without conditions) from the application of section 5 or other specified provisions of this Act or its subsidiary legislation, or any other written law, any of the following. [14] Road Traffic (Amendment)Bill, 6E [15] Inside，＜第一批無人駕駛計程車新加坡上市，nuTonomy:我們才是第一＞，2016/08/25，https://www.inside.com.tw/2016/08/25/nutonomy （最後瀏覽日：2017/07/18）
歐盟執委會發布指引以因應《人工智慧法》「禁止的人工智慧行為」條文實施歐盟執委會於2025年2月4日發布「關於禁止的人工智慧行為指引」（Commission Guidelines on Prohibited Artificial Intelligence Practices）（下稱「指引」）」，以因應歐盟《人工智慧法》（AI Act，下稱AIA）第5條關於「禁止的人工智慧行為」之規定。該規定自2月2日起正式實施，惟其內容僅臚列禁止行為而未深入闡釋其內涵，執委會特別制定本指引以避免產生歧義及混淆。 第5條明文禁止使用人工智慧系統進行有害行為，包括：利用潛意識技術或利用特定個人或群體之弱點進行有害操縱或欺騙行為、實施社會評分機制、進行個人犯罪風險預測、執行無特定目標之臉部影像蒐集、進行情緒識別分析、實施生物特徵分類、以及為執法目的而部署即時遠端生物特徵識別系統等。是以，指引就各禁止事項分別闡述其立法理由、禁止行為之具體內涵、構成要件、以及得以豁免適用之特定情形，並示例說明，具體詮釋條文規定。 此外，根據AIA規定，前述禁令僅適用於已在歐盟境內「投放市場」、「投入使用」或「使用」之人工智慧系統，惟對於「使用」一詞，並未予以明確定義。指引中特別闡明「使用」之定義，將其廣義解釋為涵蓋「系統投放市場或投入使用後，在其生命週期任何時刻的使用或部署。」 指引中亦指出，高風險AI系統的特定使用情境亦可能符合第5條的禁止要件，因而構成禁止行為，反之亦然。因此，AIA第5條宜與第6條關於高風險AI系統的規定交互參照應用。 AIA自通過後，如何進行條文內容解釋以及法律遵循義務成為各界持續討論之議題，本指引可提升AIA規範之明確性，有助於該法之落實。
醫療器材審核制度仍有爭議 歐洲議會延後表決時程在歐盟發生了諸如法國隆乳植入物醜聞(PIP scandal)以來的諸多事件後，歐盟醫療器材審核制度的革新更顯得刻不容緩。然而，歐盟執委會提案修正過往歐盟對於醫療器材之相關規範，強化市場化前(pre-market)的審核機制，引起了各界不同的意見，因此本年七月初，歐洲議會決定延後新指令修正案的表決至9月，以爭取時間取得各成員國代表間的共識。 為強化對於患者健康的保障，歐盟執委會(European Commission)於2012年提出醫療器材規則修正案(Proposal for a Regulation of the European Parliament and of the Council on medical devices)，並包括對2001/83號指令等(Directive 2001/83/EC, Regulation (EC) No 178/2002 and Regulation (EC) No 1223/2009)的修正，已建立更完善的歐盟醫療器材管理機制。其中包括歐盟統一而集中的審核程序，此舉卻引起不同意見，認為過於科層化(bureaucratic)的市場化前審核制度設計，將阻礙研發且不見得對病患有利。有歐洲議會議員指出，現行制度雖有進化的必要，然集中化(centralisation)的審核工作，對於行政負擔的加重，或許不如先在各國家層級的管理機制進行強化。而歐盟醫療器材產業界也認為，集中統一化的審核機制，將會對於中小型研發企業造成衝擊，間接影響歐盟醫材類技術領域的科技研發，業界認為，新法案對於所謂對患者具有高風險第三類醫療器材(Class III devices)的審核，將使得患者延遲3至5年才能得到可以拯救其性命的產品，相對地卻沒有得到甚麼安全的提升。 七月初，歐洲議會公共健康與食品安全委員會(Public Health and Food Safety Committee, ENVI)決議將推遲法案表決至9月18日，屆時表決的結果，將主導未來歐盟醫療器材管理的主要方向。