英國發布《AI保證介紹》指引,藉由落實AI保證以降低AI系統使用風險

英國發布《AI保證介紹》指引,藉由落實AI保證以降低AI系統使用風險

資訊工業策進會科技法律研究所
2024年03月11日

人工智慧(AI)被稱作是第四次工業革命的核心,對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目,陸續推動相關發展政策與規範,如歐盟《人工智慧法》(Artificial Intelligence Act, AI Act)、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)、英國「支持創新的人工智慧監管政策白皮書」(A Pro-innovation Approach to AI Regulation)(下稱AI政策白皮書)等,各國期望發展新興技術的同時,亦能確保AI使用的安全性與公平性。

壹、事件摘要

英國科學、創新與技術部(Department for Science, Innovation and Technology,DSIT)於2024年2月12日發布《AI保證介紹》(Introduction to AI assurance)指引(下稱AI保證指引),AI保證係用於評測AI系統風險與可信度的措施,於該指引說明實施AI保證之範圍、原則與步驟,目的係為讓主管機關藉由落實AI保證,以降低AI系統使用之風險,並期望提高公眾對AI的信任。

AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定,五項原則分別為:安全、資安與穩健性(Safety, Security and Robustness)、適當的透明性與可解釋性(Appropriate Transparency and Explainability)、公平性(Fairness)、問責與治理(Accountability and Governance)以及可挑戰性 與補救措施(Contestability and Redress)。

貳、重點說明

AI保證指引內容包含:AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟,以下將重點介紹上開所列之規範內容:

一、AI保證之適用範圍:

(一)、訓練資料(Training data):係指研發階段用於訓練AI的資料。

(二)、AI模型(AI models):係指模型會透過輸入的資料來學習某些指令與功能,以幫助建構模模型分析、解釋、預測或制定決策的能力,例如GPT-4。,如GPT-4。

(三)、AI系統(AI systems):係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統,可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統,其使用的AI模型為GPT-4。

(四)、廣泛的AI使用(Broader operational context):係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。

二、AI保證的三大原則:鑒於AI系統的複雜性,須建立AI保證措施的原則與方法,以使其有效執行。

(一)、衡量(Measure):收集AI系統運行的相關統計資料,包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊;以及存取與AI系統設計、管理的相關文件,以確保AI保證的有效執行。

(二)、評測(Evaluate):根據監管指引或國際標準,評測AI系統的風險與影響,找出AI系統的問題與漏洞。

(三)、溝通(Communicate):建立溝通機制,以確保主管機關間之交流,包含調查報告、AI系統的相關資料,以及與公眾的意見徵集,並將上開資訊作為主管機關監理決策之參考依據。

三、AI保證的六項措施:主管機關可依循以下措施評測、衡量AI系統的性能與安全性,以及其是否符合法律規範。

(一)、風險評估(Risk assessment):評測AI系統於研發與部署時的風險,包含偏見、資料保護和隱私風險、使用AI技術的風險,以及是否影響主管機關聲譽等問題。

(二)、演算法-影響評估(Algorithmic-impact assessment):用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。

(三)、偏差審計(Bias audit):用於評估演算法系統的輸入和輸出,以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。

(四)、合規性審計(Compliance audit):用於審查政策、法律及相關規定之遵循情形。

(五)、合規性評估(Conformity assessment):用於評估AI系統或產品上市前的性能、安全性與風險。

(六)、型式驗證(Formal verification):係指使用數學方法驗證AI系統是否滿足技術標準。

四、評測標準:以國際標準為基礎,建立、制定AI保證的共識與評測標準,評測標準應包含以下事項:

(一)、基本原則與術語(Foundational and terminological):提供共享的詞彙、術語、描述與定義,以建立各界對AI之共識。

(二)、介面與架構(Interface and architecture):定義系統之通用協調標準、格式,如互通性、基礎架構、資料管理之標準等。

(三)、衡量與測試方式(Measurement and test methods):提供評測AI系統的方法與標準,如資安標準、安全性。

(四)、流程、管理與治理(Process, management, and governance):制定明確之流程、規章與管理辦法等。

(五)、產品及性能要求(Product and performance requirements):設定具體的技術標準,確保AI產品與服務係符合規範,並透過設立安全與性能標準,以達到保護消費者與使用者之目標。

五、建構AI保證的步驟(Steps to build AI assurance)

(一)、考量現有的法律規範(Consider existing regulations):英國目前雖尚未針對AI制定的法律,但於AI研發、部署時仍會涉及相關法律,如英國《2018年資料保護法》(Data Protection Act 2018)等,故執行AI保證時應遵循、考量現有之法律規範。

(二)、提升主管機關的知識技能(Upskill within your organisation):主管機關應積極了解AI系統的相關知識,並預測該機關未來業務的需求。

(三)、檢視內部風險管理問題(Review internal governance and risk management):須適時的檢視主管機關內部的管理制度,機關於執行AI保證應以內部管理制度為基礎。

(四)、尋求新的監管指引(Look out for new regulatory guidance):未來主管機關將制定具體的行業指引,並規範各領域實踐AI的原則與監管措施。

(五)、考量並參與AI標準化(Consider involvement in AI standardisation):私人企業或主管機關應一同參與AI標準化的制定與協議,尤其中小企業,可與國際標準機構合作,並參訪AI標準中心(AI Standards Hubs),以取得、實施AI標準化的相關資訊與支援。

參、事件評析

AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定,冀望於主管機關落實AI保證,以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料,並根據國際標準與監管指引所制定之標準,以評測AI系統的安全性與其使用之相關影響風險。

隨著AI的快速進步及應用範疇持續擴大,於各領域皆日益重要,未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引,引導各領域AI的開發、使用與佈署者能安全的使用AI。此外,應持續關注國際間推出的政策、指引或指引等,研析國際組織與各國的標準規範,借鏡國際間之推動作法,逐步建立我國的AI相關制度與規範,帶動我國智慧科技產業的穩定發展外,同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。

本文為「經濟部產業技術司科技專案成果」

你可能會想參加
※ 英國發布《AI保證介紹》指引,藉由落實AI保證以降低AI系統使用風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9187&no=66&tp=1 (最後瀏覽日:2026/11/20)
引註此篇文章
你可能還會想看
歐盟提出人工智慧法律調和規則草案

  歐盟執委會(European Commission)於2021年4月21日提出「人工智慧法律調和規則草案」(Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts)(簡稱AI規則草案),旨在平衡「AI運用所帶來的優勢」與「AI對個人或社會所帶來的潛在負面衝擊」,促使會員國在發展及運用AI時,能採取協調一致的態度及方法,共同維護歐洲公民基本權利與歐盟價值。   歐盟自2019年起即倡議發展「值得信賴的AI」(Trustworthy AI)。AI規則草案之提出,除了落實執委會2019年至2024年之政策願景外,亦呼應2020年歐洲議會(European Parliament)之建議—針對AI應用之機會與利益採取立法行動,並確保合乎倫理原則。惟鑒於歐盟在環境、健康、公共事務、金融、交通、農業等領域對AI應用之高度需求,以及企業仰賴AI技術提升競爭優勢等因素,執委會係以「風險為基礎」之概念取向(risk-based approach)制定AI規則草案,避免對新技術發展造成不必要的限制或阻礙。   本規則草案將AI系統,依其「對歐盟基本權利或價值所創造的風險程度」,分為下列三種類型,並施以不同程度的監理方式: 一、不可接受之風險:原則上禁止使用此類型AI系統或使其進入歐盟市場。例如:利用潛意識技術操控個人、在公共場合利用「即時遠端生物辨識系統」進行執法、公務機關普遍對個人進行社會評分等。 二、高風險:於附錄中列出所謂高風險AI系統,要求高風險AI系統之提供者遵循風險管理、資料治理、文件紀錄保存、透明性與資訊揭露、人為監督、健全性、準確性與資安等要求;且AI系統進入歐盟市場前,需進行符合性評估(conformity assessment),進入市場後,則需持續監控。 三、非不可接受之風險亦非高風險:鼓勵AI系統提供者或使用者,自願建立行為準則(codes of conduct)。   AI規則草案亦鼓勵會員國建立AI監理沙盒(regulatory sandbox)機制,且以中小企業、新創公司為優先對象,使創新AI系統進入市場之前,能於可控環境中依明確計畫進行開發、測試與驗證。

美國聯邦上訴法院重新審理YOUTUBE的著作權侵害訴訟

  先前Viacom公司控告Youtube明知盜版剪輯影片而獲利一案,美國聯邦上訴巡迴法院決定重新審理。   2007年使用者將Viacom電視頻道的影片,像是MTV或是喜劇上傳到Youtube,這樣的影片剪輯超過上千片,Viacom主張由於Youtube縱容盜版的影片剪輯放在網站上來提高網站的聲望,所以Youtube是有意成為大量著作權侵害的幫兇,Viacom向Youtube求償超過一億元的損害。   依據1998年通過的數位千禧年法案,網路服務提供者在獲知有著作權侵害的內容後,只要迅速移除內容,則無需負擔使用者著作權侵害的責任。由於youtube在獲知有侵權內容時,已經及時將侵權內容移除,所以在2010年地方法院否決了Viacom的控告。   2012年4月5日聯邦巡迴上訴法院法官推翻地方法院的判決,並且說明合理陪審員(reasonable jury)可以發現Youtube實質上知道或是明確的意識到網站上有侵權的活動。   Google(Youtube的擁有者)發言人表示,侵權影片占youtube網站上的影片僅微小的比例,並且Youtube早已移除該侵權影片。但在Vaicom訴訟結束後,此項爭議卻開始攻擊Youtube。發言人繼續表示,此項決定並不影響Youtube的經營方式,Youtube將繼續作為全世界可以盡情自由表達的平台。

日本智慧財產推進計畫2015分析(下)

日本智慧財產推進計畫2015分析(下) 資策會科技法律研究所 法律研究員 蘇彥彰 104年10月28日   日本智慧財產戰略本部於今年6月19日所公布的「智慧財產推進計畫2015」[1],係以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨,並以少子高齡化與地方經濟衰退、智財糾紛處理機制的使用狀況和便利性、以及內容產業海外拓展的潛力及對智財戰略之重要性為背景,提出三項核心議題並分別剖析其現狀課題及主管部會應努力之方向,本文以下針對第三項議題「推動內容產業及週邊產業整體性的海外拓展」介紹如下: 三、推動內容產業及週邊產業整體性的海外拓展 (一)現狀與課題   動畫、漫畫、電影、音樂、遊戲、電視節目等內容產業的海外發展,不僅可以增加內容產業本身的海外銷售數字,同時可以藉由吸引更多日本內容產業迷群(ファン),活用內容產業所形塑之整體風格及日本國家形象,透過拓展其他各類業種的海外市場並提升訪日觀光客的數量等,期待內容產業帶動經濟及文化間的相乘效果。然而今年度推進計畫中亦指出,目前日本的內容產品海外銷售市場規模並未十分穩固,即使是與日本文化、經濟關係較深厚的亞洲諸國,除了動漫畫等部分領域外,市場調查的結果都落於歐美、韓國之後。   遊戲產業方面,雖然和其他日本內容產業相比有較大的海外市場規模,但以全球高達數兆日幣的遊戲市場而言,仍然持續面臨中國、美國等之激烈競爭,市場地位尚未見穩固;從另一個角度觀察,日本國內內容產業規模雖然近年來未見成長,仍具備每年12兆日幣的水準[2],相比之下目前日本內容產業的海外收入及輸出額均屬微小,應可認為尚有充分的成長空間。 (二)今後施政方向   日本智財戰略本部為求能使內容產業(特別是影視產業)更進一步打入海外市場,提高影響力並帶動周邊產業及觀光人數之提升,提出以下施策方向供主管部會遵循; 1、「配合海外當地市場喜好進行內容產品的製作」:與當地的文化、需求結合,製作使海外市場容易接受的數位內容,例如與熟知當地需求的在地電視台等進行合作,從製作階段就先行瞭解海外市場的視聽型態與動向,而對於目前已既存的電視、電影、音樂、動畫、遊戲等內容產品,則持續透過翻譯、配音、字幕製作等方式進行在地化,針對電視節目於海外其他國家播送所牽涉到的相關法律上權利處理,也需要提出更加迅速而有效率的對應作法; 2、「內容產業海外市場的持續拓展」:由於各地海外市場與日本間的物價差別,內容產品若透過單純的銷售方式不易取得滿意的銷售成績,有必要持續與熟知當地宣傳模式的業者建立合作關係,透過廣電頻道和現場活動的辦理,持續進行市場的拓展並增加曝光度; 3、「內容產業與相關產業間的合作」:目前透過J-LOP(「ジャパン・コンテンツ ローカライズ&プロモーション支援助成金」)[3]支援辦理的海外市場宣傳活動多為單次性而缺乏整體規劃,必須透過各同類、異類產業間的合作,提出能吸引更高注目度的宣傳手法並促成彼此間的相乘效果。 (三)小結   近年來文化創意產業的成長力受到各界廣泛的矚目,而為開拓文創市場商機,政府除陸續舉辦國際級文創產業博覽會外,並且協助業者參與各種國際型會展活動以進行國際拓展,包括「文化創意產業國際拓展計畫」及「國際及兩岸文化創意產業組織搭橋計畫」等,均有效深化與國際通路間合作關係,後續採購金額均達數億元[4]。   然而若從內外銷角度來看,我國文化創意產業營業額主要仍來自於內銷收入,以2013年為例,內銷收入占總營業額的90.8%,較2012年增加1.16%,近六年之內銷收入更持續呈現擴大趨勢,2013年之成長率達4.14%[5],顯見我國文創產業仍高度偏重內銷,外銷市場不僅嚴重偏低且呈下滑走勢。   我國文創產業政府及民間業者多年努力下雖已逐漸成熟茁壯,但眼前仍需主管機關在產業發展上提出相關獎勵措施和補助辦法,掃除不利文創出口外銷的障礙,並協助業者大力開拓海外市場以改變目前高度仰賴內銷市場之情況。就此,前揭日本智財推進計畫中所提出現況檢討和施政方針作法,應可作為我國之借鏡和參考。 四、結語   日本自2003年7月由「智慧財產戰略本部」[6]發布第一份「關於智慧財產創造、保護、活用推進計畫」[7]後,每年均依智慧財產基本法第23條[8]之規定就計畫內容進行檢討與更新,而今年度的「智慧財產推進計畫2015」除仍以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨外,日本內閣總理大臣安倍晉三並於今年4月14日主持智慧財產戰略本部會議時明確指出[9],包括各先進國及新興國家在內,就智財領域的競爭正日漸增強,日本為強化國際競爭力,有必要持續進行智財戰略構策,將日本高度的技術實力和豐富的文化資產進行結合以開創新的商業契機。   我國行政院於2012年核定通過「智財戰略綱領」[10],期望透過經濟部、文化部、農委會及科技部規劃與推動六項行動計畫,積極引領產學研各界提升智財創造的品質,其中「戰略重點2:強化文化內容利用」項下「強化流通運用及防止非法利用」、「戰略重點4:活化流通學界智財」項下「提高學界成果產業化環境」及「戰略重點5:落實智財流通及保護體制」項下「強化智財訴訟支援與因應能力」、「佈建具多元彈性及戰略性的智財營運組織」等宗旨及內容,均與前述日本之「推動地方智財的活用」、「活化智財紛爭處理機制」、「推動內容產業及週邊產業整體性的海外拓展」三項核心議題相仿,其規劃方向和政策內容可供主管機關分析研究之。 [1] 〈知的財産推進計画2015〉,知的財産戦略本部,http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku20150619.pdf(最後瀏覽日:2015/08/14) [2] 経済産業省,〈コンテンツ産業の現状と今後の発展の方向性〉,頁2(2015)http://www.meti.go.jp/policy/mono_info_service/contents/downloadfiles/1507shokanjiko.pdf(最後瀏覽日:2015/10/16) [3] 全名為「日本內容產業在地化和行銷協力輔導金」,總額約155億日幣,申請期間自2013年3月19日起自2015年2月28日止,是日本為求內容產業的海外拓展,針對「在地化」和「行銷」進行協助,透過對海外傳播日本內容產品提供輔導,以創造「哈日風潮」、促進觀光並擴大相關產業的海外市場為目的的輔導金,詳情可參http://j-lop.jp/about/(最後瀏覽日:2015/08/13) [4] 文化部,〈2014臺灣文化創意產業發展年報〉,頁30(2014)。 [5] 同前註,頁17。 [6] 日本「知的財産戦略本部」網站,http://www.kantei.go.jp/jp/singi/titeki2/(最後瀏覽日:2015/08/14)。 [7] 《知的財産の創造、保護及び活用に関する推進計画》,知的財産戦略本部,http://www.kantei.go.jp/jp/singi/titeki2/kettei/030708f.html(最後瀏覽日:2015/08/14)。 [8] 知的財産基本法(平成十四年十二月四日法律第百二十二号)第二十三条:「知的財産戦略本部は、この章の定めるところにより、知的財産の創造、保護及び活用に関する推進計画(以下「推進計画」という。)を作成しなければならない。……」 [9] 〈安倍総理の御発言(知的財産戦略本部)【平成27年4月1 4日】〉,知的財産戦略本部,http://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2015/dai11/sankou1.pdf(最後瀏覽日:2015/10/28) [10] 〈智財戰略綱領〉,經濟部技術處,https://www.moea.gov.tw/MNS/doit/content/Content.aspx?menu_id=13453(最後瀏覽日:2015/10/29)

美國對於智慧聯網 IoT 環境隱私保障展開立法工作

  有鑒於智慧聯網IoT環境下,許多智慧型手持裝置及行動通訊裝置,大量蒐集消費者資訊之隱私權暨資訊安全考量,美國國會於2013年5月10日提出「應用軟體隱私暨資訊安全保護法草案」(Application Privacy, Protection, and Security Act of 2013, APPS Act of 2013, H.R. 1913)進行審議。「應用軟體隱私暨資訊安全保護法草案」草案針對應用軟體(Application)在蒐集消費者資訊前,如何落實「同意」機制,乃強制行動通訊裝置應用軟體開發商(developer)應:(1)提供使用者個人資料蒐集、使用、儲存及公開之通知(notice),而該通知含括所蒐集個人資料之種類、使用目的、有償公開第三者之類別及資料儲存等;(2)取得使用者之同意(consent);消費者依據該草案亦有權撤銷其「同意」(withdrawal of consent)。此外,草案乃強制要求該行動通訊裝置應用軟體開發商,就非法近取之個人資料及經去識別化應用軟體蒐集之個人資料,應採取合理及適當之防衛措施(security measures on personal data and de-identified data)。   並且,針對網路環境下隱私權保護議題,更早之前,美國國會於2013年2月28日提出「線上禁止追蹤法草案」(Do-Not-Track Online Act of 2013) 進行審議。「線上禁止追蹤法草案」草案乃要求聯邦貿易委員會(FTC),就透過個人線上活動追蹤,以蒐集、使用個人資料之行為態樣,進行管制。該管制模式謹據以要求如下:(1)被搜集資料個人應收到簡單、明確、並載明資料使用目的之通知(clear, conspicuous and accurate notice and use of such information),而個人就該通知應予明白之同意(affirmative consent);(2)FTC未來在訂定標準規範時,應(shall)考量所被搜集之資料,是否在匿(隱)名基礎上處理之,遂該資料無法有效被聯結(指認)到特定個人或裝置上;此外,消費者當享有資料不被蒐集的權利(expressed preference by individual not to have personal information collected)。該草案並就違反之個人,設定最高15,000,000美元損害賠償規定。

TOP