英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
資訊工業策進會科技法律研究所
2024年03月11日
人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。
壹、事件摘要
英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。
AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。
貳、重點說明
AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容：
一、AI保證之適用範圍：
（一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。
（二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。
（三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。
（四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。
二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。
（一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。
（二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。
（三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。
三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。
（一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。
（二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。
（三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。
（四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。
（五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。
（六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。
四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項：
（一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。
（二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。
（三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。
（四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。
（五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。
五、建構AI保證的步驟（Steps to build AI assurance）
（一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。
（二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。
（三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。
（四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。
（五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。
參、事件評析
AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。
隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
本文為「經濟部產業技術司科技專案成果」
日前在澳洲GoogleInc（Google）成功的阻擋DmitriRystk（Rystk）以GOOGLEBAY申請註冊於第35類消費者市場情報服務（consumermarketinformationservices）的商標。 根據澳洲商標法規定，提出異議者，即商標權人-Google，必須要能立證其所註冊的服務或商品中與爭議商標申請人Rystk所申請註冊的商標所指定的服務，至少有包含一項跟消費者市場情報服務類似的服務或商品；並且GOOGLE與GOOGLEBAY有足以令人混淆誤認之虞。 Google提出的訴因為： 1) GOOGLEBAY乃是與GOOGLE有“欺矇性的”相似（deceptivelysimilar）商標 2) Rystk提出註冊申請（2006年06月16日）時，GOOGLE已經在澳洲有相當知名度 澳洲商標審查員認為消費者市場情報服務是一個很廣義的範圍，可以想見其中必然包括廣告服務。因此，它所指定的服務即包含類似於Google第1049124號註冊商標所包含的服務，其中包括透過網際網路散佈廣告。 澳洲商標審查員亦同時提到GOOGLE此造字的特殊性，及另一個造字EBAY皆無字典上的解釋，並且這兩個造字都跟網際網路有強烈的關聯。根據這個見解，消費者即有可能將GOOGLEBAY視為GOOGLE跟EBAY的結合造字，加上並沒有其他字義解釋的情況下，想當然爾會認為GOOGLEBAY與Google的事業有關，比如認為GOOGLEBAY是GOOGLE關係家族的商標之一。加上GOOGLE商標在澳洲亦有十足的知名度*，更能讓商標審查員同意如此“欺矇性的”相似商標有足以令人混淆誤認之虞。 在此特別一提的是澳洲的商標法修正後，在對商標註冊提出異議時，對以與著名商標有疑似混淆誤認的訴因中“欺矇性的”相似已不再是前提要素。因此，商標審查員核駁了Rystk的GOOGLEBAY註冊申請。 *註1：根據澳洲聯邦商標法第60條第1項，商標註冊可以因另一商標在註冊的優先權日前即已在澳洲獲得相當知名度而遭到異議
美國衛生及公共服務部「曲速行動」透過公私合作夥伴加速COVID-19疫苗研發美國衛生及公共服務部（Department of Health and Human Services, HHS），於2020年6月16日提出「曲速行動（Operation Warp Speed）」，目標是在2021年1月前，提供3億劑具安全有效性的COVID-19疫苗，給所有美國人民使用。參與行動的政府夥伴，包括國家衛生研究院（National Institutes of Health, NIH）、食品藥品監督管理局（U.S. Food and Drug Administration, FDA）、疾病預防管制中心（Centers for Disease Control and Prevention）；與多家製藥公司包含嬌生、默克、輝瑞、Moderna、AstraZeneca等，簽訂研究製造及保證收購疫苗的競爭型補助協議，直接由政府需求主導疫苗藥劑的研發、生產與銷售，藉此滿足國家防疫的戰略需求。 曲速行動為政府部門及公私夥伴間的合作計畫，依據美國國會通過《新冠病毒援助、救濟和經濟安全法》（Coronavirus Aid, Relief, and Economic Security, CARES Act），計畫補助資金達100億美元，其中超過65億美元用於生物醫學高階研究和發展管理局（Biomedical Advanced Research and Development Authority, BARDA），30億美元用於NIH研究。公私夥伴合作項目包括：「加速研發新冠病毒藥物及疫苗計畫」（Accelerating COVID-19 Therapeutic Interventions and Vaccines, ACTIV）、「快速診斷技術計畫」（Rapid Acceleration of Diagnostics Tech program, RADx）等。 曲速行動從100多種疫苗中先行選出14種候選疫苗，由美國政府補助，進行早期臨床實驗，再分次篩選出最具潛力者，進行大規模檢測。透過公私夥伴合作，不僅成功帶動製藥廠商積極研發，也協助候選廠商間彼此競爭、提升製藥能力，進一步反饋研究經驗給最終產出的疫苗成果。
談日本基因改造實驗管理規範及其執行現況 與時俱進的新興科技法制－美國無人飛行器（UAS）管理法制初探與時俱進的新興科技法制－美國無人飛行器（UAS）管理法制初探 科技法律研究所 法律研究員 陳世傑 2015年07月30日 壹、事件摘要 因電子與無線傳輸科技的進步，俗稱Drone的無人飛行器（Unmanned Aerial Vehicles，UAV），自美國亞瑪遜公司（Amazon）擬採為運送網路購物商品的工具後，無人飛行器的運用，已逐步從單純娛樂用途跨向商業用途的應用。無人飛行器的廣泛運用，是否可能影響安全、隱私、甚至政府監視的警察國家爭議，已經引起美國各級政府的重視，也紛紛立法加以因應。聯邦議會與各州議會亟思如何在法規上妥善調適，以因應越來越多商用無人飛行器的用途需求與其他公益保護之考量，例如飛航安全、隱私安全、甚至國土安全等，美國已經採取相關法制規劃，以完善UAV之管理。 貳、重點說明 一、美國聯邦管理法規 無人飛行器在美國由其聯邦航空總署（Federal Aviation Administration，FAA）主管，2012年2月14日生效的FAA現代化及改革法（The FAA Modernization and Reform Act of 2012，FMRA），為美國聯邦法律主要的管理法源。 FMRA對無人飛行器所採正式名稱為無人飛行機（Unmanned Aircraft），依其第331節定義，UAS指，而小型UAS（Small unmanned aircraft）則指55磅以下之UAS。 FAA指出，無人飛行系統（Unmanned Aircraft Systems，UAS）依其用途區分為公務用（Public Operations）、民用（Civil Operations）、娛樂用（Model Aircraft）三種，並有不同的管理規定。 公務用無人飛行器使用管理相關聯邦法律，有49 U.S.C. § 40102(a)(41)及49 U.S. Code § 40125就「公務用飛行器」（Public Aircraft）使用範疇之相關規定。 法律規定之公務用無人飛行器，FAA得發給飛航許可（Certificate of Waiver or Authorization，COA），而在其許可之特定空間範圍、操作方式或使用目的下操作公務用無人飛行器。FAA發給公務用無人飛行器之COA時多會附加公共安全之要求，例如不得於人口密集區域使用、避免影響其他飛行器路權（right-of-way rules）的使用。 民用無人飛行器之使用，可向FAA申請兩種使用許可，一為FMRA第333節之特許（Section 333 Exemption），其次為FAA第8130.34號行政命令特別適航性許可（Special Airworthiness Certificate，SAC）。 FMRA第333節之特許規定要求，美國聯邦運輸部得經申請，在一定體積、重量、飛行速度、安全性等要求下，特許申請人以無人飛行器進行商業使用（Certificate of Waiver or Authorization，COA），文前所述Amazon所遞交之申請即為此種COA。 SAC特別適航性許可則是要求申請人，於檢具所申請之飛行系統之硬體結構與軟體開發、控制與其管理（configuration management）之設計、規劃、製造上具適航性之說明以進行SAC申請。 娛樂用無人飛行器之使用，依照FMRA第336節規定，毋須經主管機關許可，惟仍須符合以下規定，包括飛行高度須低於400呎且維持飛行區域之淨空，且飛行器應隨時處於使用者目視可及之範圍。 二、美國各州管理法規 在聯邦層級法律以外，除華盛頓特區已為無人機禁用區（No Drone Zone）外，美國各州對於無人飛行器之使用，也各自有不同的立法。至2015年6月為止，美國共有25州對無人飛行器之定義、使用、管理等已有相關法律施行。2015年美國已有45州計151個法案與無人飛行器之使用管理進行規定。阿肯色州等15州完成立法，阿拉斯加等4州通過提案交付審查，喬治亞洲決議交由州議會成立特別委員會進行無人飛行器法案研究、新墨西哥州則由州參眾兩院通過備忘錄就無人飛行器的使用對於野生動物保護之影響進行研究。 參、事件評析 美國自聯邦乃至各州法規對於UAS之管理密度與保護面向各有不同，惟就聯邦FAA受理申請之情形，與各州之立法進度，顯見UAS此一新興科技所帶來的法制調適已經如火如荼的展開。UAS的逐漸普及所帶來的法規相應調整或跟進的需求，已促使美國聯邦與州政府的重視。甚至除了使用的管制外，有關UAS的輸出，美國國務院亦於2015年2月發布有關軍事用途UAS的出口管制政策，其中也同時對商用無人機之出口進行一定程度之管理，可見無人機技術的進步，未來將逐步帶動法制面從使用管理、產品管理甚至朝向技術管理發展。