英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
資訊工業策進會科技法律研究所
2024年03月11日
人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。
壹、事件摘要
英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。
AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。
貳、重點說明
AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容：
一、AI保證之適用範圍：
（一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。
（二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。
（三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。
（四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。
二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。
（一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。
（二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。
（三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。
三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。
（一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。
（二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。
（三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。
（四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。
（五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。
（六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。
四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項：
（一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。
（二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。
（三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。
（四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。
（五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。
五、建構AI保證的步驟（Steps to build AI assurance）
（一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。
（二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。
（三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。
（四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。
（五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。
參、事件評析
AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。
隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
本文為「經濟部產業技術司科技專案成果」
因應歐盟「通用資料保護規則」（The General Data Protection Regulation，或譯為一般資料保護規則，下簡稱GDPR）執法之需，針對個人資料合法處理要件之一當事人「同意」，歐盟資料保護工作小組（Article 29 Data Protection Working Party, WP29）特於本（2018）年4月10日修正通過「當事人同意指引」（Guidelines on consent under Regulation 2016/679），其中就有效同意之要件、具體明確性、告知、獲得明確同意，獲有效同意之附加條件、同意與GDPR第6條所定其他法定要件之競合、兒少等其他GDPR特別關切領域，以及依據指令（95/46/EC）所取得之當事人同意等，均設有詳盡說明與事例。 GDPR第4條第11項規定個人資料當事人之同意須自由為之、明確、被告知，及透過聲明或明確贊成之行為，就與其個人資料蒐集、處理或利用有關之事項清楚地表明其意願（unambiguous indication）並表示同意。殊值注意的是，如果控制者選擇依據當事人同意為任何部分處理之合法要件，須充分慎重為之，並在當事人撤回其同意時，即停止該部分之處理。如表明將依據當事人同意進行資料之處理，但實質上卻附麗於其他法律依據，對當事人而言即顯係重大不公平。 換言之，控制者一旦選擇當事人同意為合法處理要件，即不能捨同意而就其他合法處理的基礎。例如，在當事人同意之有效性產生瑕疵時，亦不允許溯及援引「利用合法利益」（utilise the legitimate interest）為處理之正當化基礎。蓋控制者在蒐集個人資料之時，即應揭露其所依據之法定要件，故必須在蒐集前即決定其據以蒐集之合法要件為何。
臺商拓展海外市場之法規遵循－以印尼食品登記程序與清真認證為核心臺商拓展海外市場之法規遵循－以印尼食品登記程序與清真認證為核心 資訊工業策進會科技法律研究所 法律研究員 詹喨嵎 2018年5月10日 壹、概說：臺商投資印尼食品業利基與困難 據統計，印尼包裝食品總銷售額在2012年為223兆印尼盾(約合新台幣4億7千萬元)，直至2017年成長到390兆印尼盾(約合新台幣8億3千萬元) [1]。食品作為印尼民眾最主要的消費類別，約占一般家庭收入的53%，而快速即食的加工食品更占家庭收入的11% [2]，顯見印尼食品市場所具有之龐大商機。此外，華裔印尼人雖僅占印尼總人口數之3%至4%，約700萬人上下，但仍是華人數量最多之非華語國家，且華人控制大部分印尼經濟，屬具有高消費能力之族群 [3]。近年來伴隨現代化通路如量販店、超級市場及購物中心逐漸普及，部分我國餐飲連鎖品牌如鼎泰豐、日出茶太，亦成功將具我國特色之餐點或飲品拓展至印尼市場，增加印尼當地對於我國食品的認識與接受度 [4]。故印尼食品業對於我國廠商而言，可說是極具利基之投資產業。 然而，我國廠商投資印尼食品業所會面臨的第一個困難，即是印尼食品進口、食品安全及相關認證的法規遵循問題。由於印尼對於本土產業的保護主義，包裝食品若未依法取得相關註冊號碼或進口准證，將無法進入印尼市場；另外基於宗教族群分布的特殊性，印尼具有龐大的穆斯林人口，故為了符合伊斯蘭教義的生活需求，亦有相關認證制度。本文以下將從印尼相關主管機關出發，分別介紹印尼食品進口販售最重要的食品登記程序（BPOM認證），以及拓展穆斯林國家市場所必須的清真認證制度。 貳、印尼食品登記程序 一、印尼食品藥物管理局(BPOM)簡介 印尼食品藥物管理局(Badan Pengawas Obat dan Makanan, BPOM，下稱印尼食藥局)，其地位如同我國衛生福利部食品藥物管理署。依照印尼政府於2017年第80號總統令第2條之規定，作為職掌監督食藥之中央主管機關，印尼食藥局主要負責制定食品藥物之管理政策，亦對於食品藥物及相關有害物質的測試技術進行研究與指導[5]。 其管理食品藥物之客體包含：藥物、原料藥、成癮物質、傳統草藥、化妝品以及包裝加工食品[6]。若為家畜肉品、家禽、乳製品等未經加工、包裝之原料，則以農業部(Ministry of Agriculture)作為主管機關，並經不同之規範程序進口[7]。 二、食品登記程序簡介 (一) 法源與效力 印尼政府於2012年公布法律第18號之《食品法》，作為食品之一般性規範，食品法主要提供下述各食品管理面向之法律正當性：食品營養與消費、食品安全、食品標示與廣告、食品資訊系統等，並包含食品進口之基礎規定 [8]。惟如食品添加物、農藥殘留量、食品包裝與標示及食品登記註冊等具體事項要求，尚須遵守印尼衛生部、國家標準署及食藥局等有關機關所制定之法律、法規命令及國家標準[9]。 此外，為確保包裝食品符合印尼《食品法》的食品安全、品質、營養與標示規範，印尼食藥局基於《食品法》公布2016年第12號條例規範食品登記程序 [10]。未經食品登記之包裝食品，不得在印尼國內零售通路合法販售，故取得印尼食藥局之食品登記註冊號碼，可說是拓展印尼食品市場最基本的前提要件 [11]。又為了強化包裝產品之管控，2016年第12號條例進一步規定，即便是相同的食品，但零售包裝大小、標示設計、生產地址甚或進口商及經銷商若有不同，皆須重新申請登記[12]。 (二) 風險分級與基本程序 依照印尼食藥局規範，食品登記依其目的可分為三種類型：針對全新產品之「新登記」、涉及產品相關資料改變之「變更登記」及到期前為延長效期之「再登記」程序；另依食品風險等級高低，分成一般申請及快速申請程序[13]。 一般申請程序適用被認為具有較高風險、含有添加物或特殊營養成分之食品，例如孕婦專用食品、減肥食品等 [14]。申請人應備文件包含委任書(letter of appointment, LoA)、自由銷售證明(free sale certificate, FSC)、實驗室檢驗結果、印尼文之食品成分表及規格標示等文件。經過書面審核通過後，即可經線上申請系統取得效期五年之註冊號碼(ML number)[15]。 快速申請程序則限於少數被評估為具有一般或低風險之食品方得申請（例如罐頭食品），相較於一般申請程序，約可節省二個月左右之時間。無論採取何種程序或類型，有資格申請食品登記者，僅限印尼本土之進口商或經銷商，故如何選擇合格可信賴之當地業者合作，為我國廠商的重要課題。 (三) 其他要求：印尼國家標準(SNI)與食品進口准證(SKI) 透過前述食品登記程序取得註冊號碼之法律效果有二，一為使包裝食品取得零售端合法販賣之資格，二為進口包裝食品之必要標示。但特定食品如瓶裝水、即溶咖啡、麵粉等，尚須符合國家標準署制定之印尼國家標準(SNI)，方能取得食品登記註冊號碼[16]。 此外，印尼食藥局為了確實掌握進口食品流向，於2017年第4號及第5號條例規定，包含加工食品、食品原料、食品添加物、相關食品配方等食品及相關產品。我國廠商若透過進口方式將食品輸入印尼市場，則必須在每一船運航次取得印尼食藥局之食品進口准證(SKI)[17] ，作為海關進口之前階段程序。食品進口准證係獨立於食品登記之外的另一程序，申請人必須提交包含進口人姓名、地址及產品名稱種類等內容之申請函、產品規格及完稅證明等相關聲明書，經過書面審核通過方可取得食品進口准證(SKI)[18]。 參、印尼清真認證 一、 清真認證簡介與印尼穆斯林商機 印尼全國總人口數為2億5千萬，其中超過2億人為穆斯林，約佔總人口數的85%以上，符合伊斯蘭國家合作組織(Organization of Islamic Cooperation, OIC)對穆斯林國家之定義。為了顧及國內廣大穆斯林教徒之需要，印尼屬於國際間較早推行清真認證制度者，原本由民間之印尼伊斯蘭宗教理事會(MUI)建立並實施清真認證制度，印尼政府於2014年通過公布第33號法律之《清真產品保證法》，已在2017年成立相關主管機關，將清真認證制度正式納入國家行政的一環 [19]。 所謂「清真(Halal)」，原意為合法的，代表符合伊斯蘭教法之事物，具體而言則指穆斯林於日常生活中不得接觸不潔之物，例如豬狗等雜食性動物、酒精及動物血液等[20]。特別是與身體直接接觸者如衣物、飲食、美妝，皆為穆斯林於生活中會特別注意是否符合伊斯蘭教法之產品 [21]。由於穆斯林生活方式所帶來的特別需要，加之現代加工食品種類及其他產品製程複雜，為了避免違反伊斯蘭教法，因此穆斯林多會選購經清真認證之產品，形成以穆斯林為目標客群的特殊商機，於穆斯林占絕大多數的印尼市場更是如此 [22]。 二、 清真認證程序簡介 目前東協國家如馬來西亞、印尼及新加坡，與中東海灣國家如阿拉伯聯合大公國等國有不同的清真認證制度，惟其基本精神皆在保障規範產品符合清真，僅於執行程序略有差異 [23]。 印尼之清真認證制度原以印尼伊斯蘭宗教理事會進行審查與證書核發。在2014年公布第33號法律《清真產品保證法》後，印尼政府並於2017年10月設立「清真產品認證局(BPJPH)」，並計劃相關法規命令修訂完成後，將由清真產品認證局進行認證 [24]。惟目前印尼清真認證程序仍依照印尼伊斯蘭宗教理事會(MUI)之制度，故以下介紹將以印尼伊斯蘭宗教理事會(MUI)之程序為主。 清真認證之產品範疇，主要是以穆斯林食用或接觸之產品為主，如肉品、加工食品、化妝品等，且認證範圍不僅限於製造過程，包含原物料、工廠設備、倉儲、物流甚至零售端賣場都必須符合清真要求，故清真認證係一套溯源驗證之制度 [25]。 在申請流程部分，無論是印尼國內外食品製造商，皆可於線上網站登記公司相關資料，上傳相關文件提供審查，並於繳交費用後，始可進入驗證最為重要的工廠實地檢查階段 [26]。在實地檢查階段，印尼伊斯蘭宗教理事會將會派遣教法與技術領域共兩名稽核員進行檢查，若是海外廠商，則須負擔相關交通及食宿費用，稽核員將檢查結果回覆給評議委員會，經審議通過後即可取得清真認證，每次認證效期為2年，到期仍須重新申請驗證 [27]。 肆、結語 拓展印尼食品市場，取得食品登記程序之註冊號碼為必不可少之前置作業，又若採取食品進口至印尼販售之商業途徑，另須依相關條例規範取得食品進口准證(SKI)並遵守後續海關進口程序。申請食品註冊號碼時必須注意，有資格申請者為印尼本土進口商或經銷商，故尋求合格可信賴之當地代理業者，並簽訂權利義務明確之商業合作契約，對於能否順利進入印尼市場實屬關鍵。若與不肖代理業者合作，又未簽訂可保障權益之契約，不僅可能無法進入印尼市場，甚或有商標等智慧財產權遭到搶註及商品被仿冒的隱患存在。 此外，印尼行政機關在執行上亦存有行政流程不夠透明及行政怠惰之問題。根據印尼當地台商之訪問調查，印尼行政流程緩慢，且不會主動通知受審文件是否缺漏，廠商往往必須就單一產品重複申請數次方能取得註冊號碼，且耗時達半年至一年以上 [28]。造成相當時間與金錢成本的損失，故廠商應在申請前明確瞭解須備妥之相關文件，節省行政流程之往返。 關於清真認證制度方面，目前無強制規定食品必須進行清真認證，始可在市場銷售，惟若取得清真認證，將可提升穆斯林消費者的購買意願。印尼政府於2014年公布第33號法律《清真產品保證法》，除了透過設立主管機關「清真產品認證局(BPJPH)」，將清真認證制度正式納入行政機關管轄外，影響更重大的即為「強制清真認證」規定。根據《清真產品保證法》相關規範，2019年後在印尼境內販賣、流通與交易之產品，包含食品飲料、化學產品及醫藥品等皆有進行清真認證之義務，若非屬清真亦應標示「非清真」，縱然是進口產品亦適用前述規範 [29]。然而強制清真認證的相關法規命令尚未修訂完成，且印尼國內亦有不同意見，有主張強制清真認證將對印尼相關產業造成嚴重打擊者，亦有認為影響不大 [30]，目前並未有明確之發展方向 [31] ，惟對有意進入印尼市場的廠商而言，強制清真認證屬關鍵之法規遵循問題，其未來動向值得關注。 [1] 胡婉玲，〈食品進軍印尼 八個準備不能少〉，經濟日報，2018/03/18， https://money.udn.com/money/story/5612/3037116 (最後瀏覽日：2018/03/22)。 [2] 經濟部投資業務處編，《印尼投資環境簡介》，頁48，經濟部，2017年。 [3] 同前註，頁2。 [4] 同前註，頁56。 [5] 〈BPOM主要職掌〉，BADAN POM官方網站， http://www.pom.go.id/new/view/direct/job(最後瀏覽日：2018/4/20)。 [6] USDA Foreign Agricultural Service, Indonesia Food and Agricultural Import Regulations and Standards – Narrative (2017). [7] Id. [8] Id. , at 3. [9] 印尼食品進口法規簡介，行政院經貿談判辦公室， https://www.moea.gov.tw/Mns/otn/content/ContentDesc.aspx?menu_id=25481(最後瀏覽日：2018/4/20)。 [10] 同前註。 [11] European Union, The Food and Beverage Market Entry Hand book: Indonesia 28-31 (2016). [12] Supra note 6. [13] 同註9。 [14] Supra note 6. [15] Id. [16] 同註9。 [17] Supra note 6. [18] Id. [19] 同前註，頁5。 [20] 經濟部投資業務處，《印尼投資環境簡介》，頁56-60，2017年8月。 [21] 同前註。 [22] 同前註。 [23] 同註20，頁7。 [24] 同註22。 [25] 同註20，頁6。 [26] 同註22，頁61。 [27] 同註20，頁8。 [28] 〈印尼食品與藥物管理局(BPOM)簡介〉，優質平價新興市場資訊網， https://mvp-plan.cdri.org.tw/regulations;jsessionid=51E00524C4F5E47D6EE98246B3B9460A?panel=0(最後瀏覽日：2018/4/20)。 [29] LAW OF THE REPUBLIC OF INDONESIA NUMBER 33 2014 ABOUT HALAL PRODUCT CERTIFICATION §§4, 67. [30] 印尼伊斯蘭宗教理事會認為強制清真認證縱然會影響到部分中小企業，但對於規模較大之國際企業，進行清真認證並不會因成本而受到影響。 [31] 同註20，頁18-19。
我國電子公文法制的最新發展 大阪框架（Osaka Track）2019年6月28日於日本大阪舉行的G20高峰會上，大阪框架（大阪トラック、Osaka Track）再次躍上國際檯面，日本首相安倍晉三在G20高峰會的數位經濟議程當中，倡議建立大阪框架作為資料跨境流通之標準。安倍強調數位化對促進各國經濟發展與創新意義重大，而在數位時代下資料作為重要的成長動力來源，為了能最大化資料運用的可能性與發展潛力，建立一套國際通用的資料流通機制顯然已勢在必行。 「大阪框架」概念的首次提出，源自2019年1月23日安倍首相於瑞士達沃斯所舉辦的世界經濟論壇（World Economic Forum）中所發表的演講，強調資料將是21世紀經濟發展的關鍵資源，透過建立一套國際通用的資料自由流通機制，將有助於確保在數位時代下各種新興科技的創新與發展，不會受到各國管制措施及資料在地化（data localization）政策所阻礙。 「大阪框架」的核心為建立「可資信任的資料自由流通機制」（Data Free Flow with Trust，簡稱DFFT），透過建構國際所共同信任的資料跨境流通機制，將有助於推動包含電子商務在內等各式資料之流通與利用，進而促進數位創新；安倍宣示2019年大阪G20高峰會為大阪框架的起始點，並強調基於此前提出之WTO電子商務共同聲明，期許能透過WTO各會員國的合作，實現建立國際通用的資料跨境流通機制之目標。