英國發布《AI保證介紹》指引,藉由落實AI保證以降低AI系統使用風險
資訊工業策進會科技法律研究所
2024年03月11日
人工智慧(AI)被稱作是第四次工業革命的核心,對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目,陸續推動相關發展政策與規範,如歐盟《人工智慧法》(Artificial Intelligence Act, AI Act)、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)、英國「支持創新的人工智慧監管政策白皮書」(A Pro-innovation Approach to AI Regulation)(下稱AI政策白皮書)等,各國期望發展新興技術的同時,亦能確保AI使用的安全性與公平性。
壹、事件摘要
英國科學、創新與技術部(Department for Science, Innovation and Technology,DSIT)於2024年2月12日發布《AI保證介紹》(Introduction to AI assurance)指引(下稱AI保證指引),AI保證係用於評測AI系統風險與可信度的措施,於該指引說明實施AI保證之範圍、原則與步驟,目的係為讓主管機關藉由落實AI保證,以降低AI系統使用之風險,並期望提高公眾對AI的信任。
AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定,五項原則分別為:安全、資安與穩健性(Safety, Security and Robustness)、適當的透明性與可解釋性(Appropriate Transparency and Explainability)、公平性(Fairness)、問責與治理(Accountability and Governance)以及可挑戰性 與補救措施(Contestability and Redress)。
貳、重點說明
AI保證指引內容包含:AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟,以下將重點介紹上開所列之規範內容:
一、AI保證之適用範圍:
(一)、訓練資料(Training data):係指研發階段用於訓練AI的資料。
(二)、AI模型(AI models):係指模型會透過輸入的資料來學習某些指令與功能,以幫助建構模模型分析、解釋、預測或制定決策的能力,例如GPT-4。,如GPT-4。
(三)、AI系統(AI systems):係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統,可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統,其使用的AI模型為GPT-4。
(四)、廣泛的AI使用(Broader operational context):係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。
二、AI保證的三大原則:鑒於AI系統的複雜性,須建立AI保證措施的原則與方法,以使其有效執行。
(一)、衡量(Measure):收集AI系統運行的相關統計資料,包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊;以及存取與AI系統設計、管理的相關文件,以確保AI保證的有效執行。
(二)、評測(Evaluate):根據監管指引或國際標準,評測AI系統的風險與影響,找出AI系統的問題與漏洞。
(三)、溝通(Communicate):建立溝通機制,以確保主管機關間之交流,包含調查報告、AI系統的相關資料,以及與公眾的意見徵集,並將上開資訊作為主管機關監理決策之參考依據。
三、AI保證的六項措施:主管機關可依循以下措施評測、衡量AI系統的性能與安全性,以及其是否符合法律規範。
(一)、風險評估(Risk assessment):評測AI系統於研發與部署時的風險,包含偏見、資料保護和隱私風險、使用AI技術的風險,以及是否影響主管機關聲譽等問題。
(二)、演算法-影響評估(Algorithmic-impact assessment):用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。
(三)、偏差審計(Bias audit):用於評估演算法系統的輸入和輸出,以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。
(四)、合規性審計(Compliance audit):用於審查政策、法律及相關規定之遵循情形。
(五)、合規性評估(Conformity assessment):用於評估AI系統或產品上市前的性能、安全性與風險。
(六)、型式驗證(Formal verification):係指使用數學方法驗證AI系統是否滿足技術標準。
四、評測標準:以國際標準為基礎,建立、制定AI保證的共識與評測標準,評測標準應包含以下事項:
(一)、基本原則與術語(Foundational and terminological):提供共享的詞彙、術語、描述與定義,以建立各界對AI之共識。
(二)、介面與架構(Interface and architecture):定義系統之通用協調標準、格式,如互通性、基礎架構、資料管理之標準等。
(三)、衡量與測試方式(Measurement and test methods):提供評測AI系統的方法與標準,如資安標準、安全性。
(四)、流程、管理與治理(Process, management, and governance):制定明確之流程、規章與管理辦法等。
(五)、產品及性能要求(Product and performance requirements):設定具體的技術標準,確保AI產品與服務係符合規範,並透過設立安全與性能標準,以達到保護消費者與使用者之目標。
五、建構AI保證的步驟(Steps to build AI assurance)
(一)、考量現有的法律規範(Consider existing regulations):英國目前雖尚未針對AI制定的法律,但於AI研發、部署時仍會涉及相關法律,如英國《2018年資料保護法》(Data Protection Act 2018)等,故執行AI保證時應遵循、考量現有之法律規範。
(二)、提升主管機關的知識技能(Upskill within your organisation):主管機關應積極了解AI系統的相關知識,並預測該機關未來業務的需求。
(三)、檢視內部風險管理問題(Review internal governance and risk management):須適時的檢視主管機關內部的管理制度,機關於執行AI保證應以內部管理制度為基礎。
(四)、尋求新的監管指引(Look out for new regulatory guidance):未來主管機關將制定具體的行業指引,並規範各領域實踐AI的原則與監管措施。
(五)、考量並參與AI標準化(Consider involvement in AI standardisation):私人企業或主管機關應一同參與AI標準化的制定與協議,尤其中小企業,可與國際標準機構合作,並參訪AI標準中心(AI Standards Hubs),以取得、實施AI標準化的相關資訊與支援。
參、事件評析
AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定,冀望於主管機關落實AI保證,以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料,並根據國際標準與監管指引所制定之標準,以評測AI系統的安全性與其使用之相關影響風險。
隨著AI的快速進步及應用範疇持續擴大,於各領域皆日益重要,未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引,引導各領域AI的開發、使用與佈署者能安全的使用AI。此外,應持續關注國際間推出的政策、指引或指引等,研析國際組織與各國的標準規範,借鏡國際間之推動作法,逐步建立我國的AI相關制度與規範,帶動我國智慧科技產業的穩定發展外,同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
本文為「經濟部產業技術司科技專案成果」
國家技術標準之制定政策 -由英國BSI觀國家技術標準制定政策 科技法律研究所 法律研究員 徐維佑 2014年12月03日 壹、前言 所謂技術標準(standards),指透過法規、私人企業、或者產業慣例形成的統一技術或特定規格,包括重量、大小、品質、材料或技術特徵(technical specifications),以使商品、服務、製造或製造程序方法能有共通的設計或相容性[1];由特定標準制定組織要求市場上商品或服務應符合一定品質者,亦為技術標準,例如確保農產品符合人體食用的健康安全標準。 制定技術標準不但具有降低生產成本、促進創新、加強消費者選擇性、增進公共健康及安全等優點,更是國際貿易的基礎。以技術日新月異的ICT資訊通信產業而言,標準更是搶佔市場的利器。 貳、英國國家標準制定政策 成立於西元1901年之英國標準協會(British Standards Institution,以下簡稱BSI)為英國標準制定組織,亦是全球第一個國家標準機構,專門提供企業解決方案,將最佳實務模式(best practice)轉換成日常表現標準。BSI非政府機構,但透過與英國政府商業、創新與技術部門(Department for Business, Innovation and Skills, BIS)簽訂備忘錄,BSI成為英國國家標準制定組織,而其特色與任務大致如下: 一、以整體產業為考量之標準制定機構 BSI標準制定業務範圍[2],除國家、區域、國際標準外,亦為私人企業、企業聯盟制定企業內部或企業聯盟間私人標準。標準制定之作法,係由產業界提名各領域之專業人員,及少數之政府部會官員成立標準制定委員會,各委員並非代表公司立場,而係以整體產業最有利立場參與會議;而BIS政府官員功能僅為傳達目前政府部會投入發展方向;標準制定委員會下,則設有技術委員會,委員各為特定技術領域之專家。BSI的原則為取得各界意見的平衡,在技術委員會成員組成上會避免單一勢力獨大,並盡力避免標準中包含特定權利人之智慧財產。 二、協助技術發展之階段式標準制定工作 BSI對於英國國內之技術研究、發展活動,採階段式引導標準化制定工作: 1、基礎研究階段:即早整合各利害關係人共識,建立共同發展對話基礎; 2、驗證技術可行性階段:藉由建立專家小組,發展初期測試方法與安全管理之共同觀點; 3、技術整合階段:即早為市場作準備,統一規格與測試方法,以及日後之技術升級方法; 4、原型製作階段:建立產業間行為準則,同時廣納消費者觀點,提昇該技術於市場之接受度; 5、應用測試、系統驗證階段:連結該技術與市場上產品、或其他服務、亦或其他標準組織制定之標準。 值得強調的是,BSI於研究發展活動各階段制定之標準提案草案皆會公佈於網站上,提供平台予大眾針對草案表示意見。 三、快速形成產業標準之PAS共通規範 BSI設有「可公開獲得的規範(publicly available specification, PAS)[3]」,相較於一般國家標準、國際標準,開發PAS時程較短,其目的為在英國國家標準或國際標準形成前,作為提早提供市場參考、使用之共通規範,國際標準如ISO亦有此制度。當技術共通規範成為PAS後,每3年接受技術委員會確認是否延續,或轉將其提案為國際標準。 私人企業可向BSI付費委託發展PAS共通規範。BSI會派專業人員指導企業如何撰寫PAS共通規範提案相關文件,集合內部專家團隊協助完成PAS共通規範提案。完成後對外召集內外部專家檢視PAS提案,包括標準制定委員會成員、政府官員、相關產業人員與消費者團體,並將檢視結果建議回饋給BSI內部專家團隊決定最終版本,公佈予給各界參考使用,公佈後之成果亦作為日後發展國家標準、國際標準之基礎。 參、結論 英國國家標準制定組織BSI,不遺餘力的協助產業自願性形成共識作為國家標準主軸,由產業推舉之專業人員與政府各領域官員作為技術委員會成員,平衡各界意見以整體產業發展為考量。藉由研究發展各階段性標準化工作,公開標準草案廣納各界意見,並盡力避免標準包含特定人之智慧財產權。並且,BSI協助國內企業發展PAS共通規範,除加速國內產業共識的形成外,更建立發展國際標準之良好基礎,摃動英國產業發展,並保障社會、環境、消費者之權益,值得我國學習。 [1]Mark A. Lemley, Intellectual Property Rights and Standard-Setting Organizations, 90 Calif. L. Rev. 1889, 1910-1911 (2002), available at http://scholarship.law.berkeley.edu/cgi/viewcontent.cgi?article=1392&context=californialawreview (last visited Aug. 28, 2014) [2]筆者親自訪談Daniel Mansfield政策主任,BSI Group總部,英國倫敦(2014/10/15)。 [3]ISO, ISO/PAS Publicly Available Specification (2014), http://www.iso.org/iso/home/standards_development/deliverables-all.htm?type=pas (last visited: 2014/10/01)
何謂「離崗創業」?所謂「離崗創業」係指中國大陸允許國立的研究開發機構、大學院校科技人員於履行職責、完成本職工作的前提下,經徵得單位同意得保留職位至企業或自行創業從事研發成果運用活動之研發人員激勵措施。 中國大陸於2012年時首次提出「創新驅動發展戰略」之國家政策,該政策的主要涵義包括了未來的發展要靠科技創新驅動,而不是傳統的勞動力以及資源能源驅動;以及創新的目的是為了驅動發展,而不是為了發表高水準論文。 在實施該戰略政策之前提下,中國大陸於2016年2月發布了《實施〈中華人民共和國促進科技成果轉化法〉若干規定》,於該文件中,為激勵研發人員創新創業,開放國立研究開發機構、大學院校科技人員於履行職責、完成本職工作的前提下,經徵得單位同意得保留職位至企業或自行創業從事研發成果運用活動。該文件並要求國立研究開發機構及大學院校應建立相關規範,或與研發人員約定留職從事研發成果運用活動期之間和期滿後的權利和義務,以及規定研發人員依該規定留職者,其期間以3年為限。
歐洲議會通過《無線電設備指令》修正法案要求充電規格統一採用USB Type-C接頭為減少電子垃圾污染以及便利消費者使用消費電子產品,歐洲議會(European Parliament)於2022年10月4日表決通過《無線電設備指令》(Radio Equipment Directive, 2014/53/EU)修正法案,未來在歐盟銷售的電子產品,統一採Type-C規格的充電接頭。 這項修正法案,以602票贊成、13票反對、8票棄權的壓倒性多數通過,2024年底前強制除筆記型電腦以外,所有在歐盟境內銷售的消費電子產品一律需配備USB Type-C規格的充電接口。 屆時,所有功率達100瓦支援有線充電的消費電子產品,例如手機、平板、相機、耳機、掌上遊戲機、電子閱讀器、鍵盤、滑鼠、便攜式導航器等,都必須配備USB Type-C規格的充電接頭。而筆記型電腦也必須在2026年統一採用USB Type-C規格的充電接頭。 據此,在新修正法案施行後,同一充電器得用於各種電子設備,消費者無需於購買新設備時再重新購置充電器,除提高消費者便利性外,更能有效遏止電子垃圾的產生。 對此議題,也引發我國法制上的檢討聲浪,立法院交通委員會於2022年10月5日通過臨時提案,希望NCC加強落實手機充電器規格與統一作業,儘速作業規劃。故繼歐盟之後,未來我國行動電子裝置可望也將統一採USB Type-C規格。 由上可見,歐盟《無線電設備指令》修正法案,是全球未來可預期的調整法制動向與趨勢,蓋其賦予消費者能做出可具永續性的選擇,同時兼顧環境保護與經濟發展。我國目前相關法制規範確有所不足,應及早因應現今實務需求引介外國法制加以移植修正,以符實際。
世界智慧財產權組織發佈2015年全球創新指數排名世界智慧財產權組織於2015年9月17日發佈的2015年全球創新指數報告(The Global Innovation Index)顯示,瑞士、英國、瑞典、荷蘭和美國是世界上最具創新力的前5名國家。 全球創新指數自2007年起每年發布,2015 年全球創新指數是該指數的第8版,由康乃爾大學(Cornell University)、歐洲工商管理學院(INSEAD)和聯合國專門機構世界智慧財產權組織(WIPO)共同發布,現已成為重要的評比基準,為全球國家競爭力與政策發展重要項目。世界智慧財產權組織總幹事Francis Gurry在當天的新聞發佈會上說:「每個國家都必須找到最佳的政策組合,以調整其經濟內部創新與創造的潛力」。從整體觀看,今年前25位排名都是高收入經濟體,與以往相較變動不大。值得注意的是,瑞士已連續5年位居第一,英國則從4年前的第8位躍升至第2位。英國的智慧財產權部長說:「產出優秀的科研成果向來是英國的優良傳統,英國人口比率佔不到世界1%,但發表頂尖的研究成果佔16%,卓越的科研是英國躍升國際創新排名第2位的主要原因。英國政府致力於創新研發、為新創提供足夠的智慧財產權保護、支持新創產業。」其後依次為:瑞典、荷蘭、美國、芬蘭、新加坡、愛爾蘭、盧森堡和丹麥。亞洲國家中只有新加坡進入前10名。 該份報告顯示,在創新質量方面,其中美國和英國保持領先,主要是因為其擁有世界級的大學;接著是日本、德國和瑞士。在創新質量上得分較高的中等收入經濟體則有中國、巴西和印度。 為了支持全球創新討論、指引各項政策、強調良好的作法,需要利用相關指標對創新和相關政策表現進行評估。全球創新指數創造出一種環境,即是使這些相關創新因素得到持續評估,其特色列舉如下: 1. 141個國家的現況介紹,包括根據79項指標所得出之數據、排名與優勢情形。 2. 根據30多個國際公私部門指標所得出的79個數據表,其中55個是可靠數據,19個是綜合指標,5個是問卷調查。 3. 公開透明且可複製的計算方法,其中每個指數排名(全球創新指數、產出和投入分項指數)有90%的置信區間,加上對影響每年排名的因素進行分析。 2015年全球創新指數是以兩個分項指數的平均值計算。創新投入分項指數衡量的是顯現出創新活動的國家經濟因素,這些因素共分為五大類:(1)機構,(2)人力資本與研究,(3)基礎設施,(4)市場成熟度,和(5)商業成熟度。「創新產出分項指數」是由創新成果的實際創新產出為證,分為兩大類:(6)知識與技術產出及(7)創意產出。