歐盟「人工智慧法」達成政治協議,
逐步建立AI準則
資訊工業策進會科技法律研究所
2023年12月25日
隨著AI(人工智慧)快速發展,在各領域之應用日益廣泛,已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act,以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構,並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1],尚待正式批准。
壹、發佈背景
歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議,尚待正式批准。在法案普遍實施前之過渡期,歐盟執委會將公布人工智慧協定(AI Pact),其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。
歐盟人工智慧法係歐盟執委會於2021年4月提出,係全球首項關於人工智慧的全面法律架構,該項新法係歐盟打造可信賴AI之方式,將基於AI未來可證定義(future proof definition),以等同作法直接適用於所有會員國[2]。
貳、內容摘要
AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的,並尊重人類基本權利及歐盟價值觀,在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害,遵循以風險為基礎模式(risk-based approach),即風險越高,規則越嚴格,現階段將風險分為:最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比,此次臨時協定主要新增內容歸納如下:
臨時協議確立廣泛域外適用之範圍,包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣,該協定規定不適用於研究和創新目的之人工智慧系統,也不適用於非專業原因之個人AI使用。
臨時協議針對通用AI(General purpose AI)[5]模型,訂定相關規定以確保價值鏈之透明度;針對可能造成系統性風險之強大模型,訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。
考量到人工智慧系統可用於不同目的之情況,臨時協議針對通用AI系統整合至高風險系統,並就基礎模型部分商定具體規則,其於投放市場之前須遵守特定之透明度義務,另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。
臨時協議針對違反禁止之AI應用,罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%,提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。
參、評估分析
在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素,如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議,係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果,對其他國家未來立法及規範有一定之指引效果。
此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義,確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務,間接擴大歐盟在人工智慧領域之管轄範圍,並對於人工智慧系統的定義縮小,確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管,並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣,仍需業界、科學社群、民間及其他利害關係人討論準則之制定。
面對AI人工智慧之快速發展,各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論,財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境,將持續觀測各國法令動態,提出我國人工智慧規範之訂定方向及建議。
本文同步刊登於TIPS網站(https://www.tips.org.tw)
[1] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023).
[2] European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023).
[3] Artificial intelligence act,P5-7, https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023).
[4] GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
[5] General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
紐西蘭人工智慧論壇(AI Forum)協會成立於2017年,為非營利組織,是紐西蘭政府的重要智庫單位。該協會的AI法律、社會和倫理工作組於2020年3月4日發表了紐西蘭第一份《紐西蘭可信賴的AI指導原則》, 此指導原則目的在提供簡潔有力的人工智慧參考點,以幫助大眾建立對紐西蘭人工智慧的開發和使用的信任。此份AI指導原則對政府具有重要的參考價值。 《紐西蘭可信賴的AI指導原則》,內容摘要如下: 一、公平和正義 (一)適用紐西蘭及其他相關管轄地包含科克群島、紐埃、托克勞、南極羅斯屬地法律; (二)須保護紐西蘭國內法及國際法所規範的人權; (三)須保障《懷唐伊條約》中毛利人的權利; (四)民主價值觀包含選舉的過程和在知情的情況下進行公眾辯論; (五)平等和公正的原則,要求人工智慧系統不會對個人或特定群體造成不公正地損害、排斥、削弱權力或歧視。 二、可靠性、安全性和私密性 AI利益相關者須確保人工智慧系統及資料的可靠、準確及安全性,並在人工智慧系統的整個生命週期中,保護個人隱私以及持續的識別和管控潛在風險。 三、透明度 人工智慧系統的運作應是透明的、可追溯的、並在一定的程度上具可解釋性,在面對責問時能夠被解釋且經得起質疑。 四、人類的監督和責任 AI利益相關者,應該對人工智慧系統及其產出進行適當的監督。 在利益相關者確定適當的問責制度和責任之前,不應使用會對個人或群體造成傷害的技術。 五、福利 AI利益相關者應在適當的情況下設計、開發和使用人工智慧系統,盡可能促進紐西蘭人民和環境的福祉,像是健康、教育、就業、可持續性、多樣性、包容性以及對《懷唐伊條約》獨特價值的認可。 此份AI指引較大的特色有兩點,第一,紐西蘭人工智慧論壇協會的成員組成,其中女性成員比例超過半數。第二,在其指導原則中第一點的「公平和正義」及第五點「福利」中,都特別提到須遵守《懷唐伊條約》以確保毛利人的權益。在這樣的基礎下,能更期待紐西蘭在發展AI技術的過程,能夠更切實的做到公平正義、無歧視。
德國提出「新冠肺炎及新型冠狀病毒預防接種法」草案,以利疫苗分配之政策規劃及法制基礎德國聯邦健康部(Bundesministerium für Gesundheit, BMG)於2020年12月15日提出「新冠肺炎及新型冠狀病毒預防接種法」(Gesetzes zur Priorisierung bei der Schutzimpfung gegen das Corona-virus SARS-CoV-2, Coronavirus-Impfgesetz)草案,現進入聯邦參議院審議階段。該草案之立法目的在於,確認新冠肺炎及新型冠狀病毒(Coronavirus SARS-CoV-2)疫苗分配的公平性,並藉此降低嚴重疾病與死亡人數。 原則上凡屬於法定健康保險的被保險人,或於德意志聯邦共和國內有住所或長期居留者,得依據新冠肺炎及新型冠狀病毒預防接種法規定,具有接種新冠肺炎及新型冠狀病毒疫苗之權利。然而,由於疫苗的分配涉及基本法第2條第2項第1句生命及身體安全的基本權利(Grundrecht auf Leben und körperliche Unversehrtheit),以及衡酌疫苗資源的有限性問題,該法第3條依據風險群體(Risikogruppen)及適應症群體(Indikationsgruppen)共區分六級的接種優先順序,如違反接種優先順序者,將可能面臨最高三萬元的罰鍰,意圖營利者則將可能面臨一年至五年的有期徒刑。
美國政府於2014年初提出幾點重要聲明,加強改善國家專利品質美國總統歐巴馬於2014年初對於美國專利改革及產業創新的規範做進一步的聲明。美國近年來針對專利法改革有許多大規模的法案實施,目的希望能提升整體美國產業,包括2011年通過的美國發明法案(Leahy-Smith America invents Act, AIA),目的希望能讓美國專利系統更加完善,保護專利權人及促進產業創新等目的。然許多專利仍被NPE或是專利蟑螂控訴侵權,反而讓專利權被用來當做專利訴訟的一個工具,花費更多的經費在訴訟及和解上,有違當初白宮要進行專利改革的初衷。 因此歐巴馬在年初為了能鼓勵創新及增加專利系統的品質而發布幾點執行聲明(executive actions): 1、著重prior art的檢索:USPTO開始著重prior art的搜尋,幫助專利審查能更詳盡。 2、增進專利審查人的技術訓練:提供教育專業訓練,讓專利審查人能隨時更新最新的技術,能在審查過程中對於技術上的認知能更專業。 3、Pro brono幫助:USPTO提供pro brono的幫助。許多發明人對於如何申請專利及如何使其專利被妥善保護等規範較缺乏相關資訊、或沒有資金聘請顧問協助此方面保護,因此USPTO會提供教育及實務訓練,讓這些較小的公司或資源較缺乏之發明人的專利得以獲得保護。
臺商拓展海外市場之法規遵循-以印尼食品登記程序與清真認證為核心臺商拓展海外市場之法規遵循-以印尼食品登記程序與清真認證為核心 資訊工業策進會科技法律研究所 法律研究員 詹喨嵎 2018年5月10日 壹、概說:臺商投資印尼食品業利基與困難 據統計,印尼包裝食品總銷售額在2012年為223兆印尼盾(約合新台幣4億7千萬元),直至2017年成長到390兆印尼盾(約合新台幣8億3千萬元) [1]。食品作為印尼民眾最主要的消費類別,約占一般家庭收入的53%,而快速即食的加工食品更占家庭收入的11% [2],顯見印尼食品市場所具有之龐大商機。此外,華裔印尼人雖僅占印尼總人口數之3%至4%,約700萬人上下,但仍是華人數量最多之非華語國家,且華人控制大部分印尼經濟,屬具有高消費能力之族群 [3]。近年來伴隨現代化通路如量販店、超級市場及購物中心逐漸普及,部分我國餐飲連鎖品牌如鼎泰豐、日出茶太,亦成功將具我國特色之餐點或飲品拓展至印尼市場,增加印尼當地對於我國食品的認識與接受度 [4]。故印尼食品業對於我國廠商而言,可說是極具利基之投資產業。 然而,我國廠商投資印尼食品業所會面臨的第一個困難,即是印尼食品進口、食品安全及相關認證的法規遵循問題。由於印尼對於本土產業的保護主義,包裝食品若未依法取得相關註冊號碼或進口准證,將無法進入印尼市場;另外基於宗教族群分布的特殊性,印尼具有龐大的穆斯林人口,故為了符合伊斯蘭教義的生活需求,亦有相關認證制度。本文以下將從印尼相關主管機關出發,分別介紹印尼食品進口販售最重要的食品登記程序(BPOM認證),以及拓展穆斯林國家市場所必須的清真認證制度。 貳、印尼食品登記程序 一、印尼食品藥物管理局(BPOM)簡介 印尼食品藥物管理局(Badan Pengawas Obat dan Makanan, BPOM,下稱印尼食藥局),其地位如同我國衛生福利部食品藥物管理署。依照印尼政府於2017年第80號總統令第2條之規定,作為職掌監督食藥之中央主管機關,印尼食藥局主要負責制定食品藥物之管理政策,亦對於食品藥物及相關有害物質的測試技術進行研究與指導[5]。 其管理食品藥物之客體包含:藥物、原料藥、成癮物質、傳統草藥、化妝品以及包裝加工食品[6]。若為家畜肉品、家禽、乳製品等未經加工、包裝之原料,則以農業部(Ministry of Agriculture)作為主管機關,並經不同之規範程序進口[7]。 二、食品登記程序簡介 (一) 法源與效力 印尼政府於2012年公布法律第18號之《食品法》,作為食品之一般性規範,食品法主要提供下述各食品管理面向之法律正當性:食品營養與消費、食品安全、食品標示與廣告、食品資訊系統等,並包含食品進口之基礎規定 [8]。惟如食品添加物、農藥殘留量、食品包裝與標示及食品登記註冊等具體事項要求,尚須遵守印尼衛生部、國家標準署及食藥局等有關機關所制定之法律、法規命令及國家標準[9]。 此外,為確保包裝食品符合印尼《食品法》的食品安全、品質、營養與標示規範,印尼食藥局基於《食品法》公布2016年第12號條例規範食品登記程序 [10]。未經食品登記之包裝食品,不得在印尼國內零售通路合法販售,故取得印尼食藥局之食品登記註冊號碼,可說是拓展印尼食品市場最基本的前提要件 [11]。又為了強化包裝產品之管控,2016年第12號條例進一步規定,即便是相同的食品,但零售包裝大小、標示設計、生產地址甚或進口商及經銷商若有不同,皆須重新申請登記[12]。 (二) 風險分級與基本程序 依照印尼食藥局規範,食品登記依其目的可分為三種類型:針對全新產品之「新登記」、涉及產品相關資料改變之「變更登記」及到期前為延長效期之「再登記」程序;另依食品風險等級高低,分成一般申請及快速申請程序[13]。 一般申請程序適用被認為具有較高風險、含有添加物或特殊營養成分之食品,例如孕婦專用食品、減肥食品等 [14]。申請人應備文件包含委任書(letter of appointment, LoA)、自由銷售證明(free sale certificate, FSC)、實驗室檢驗結果、印尼文之食品成分表及規格標示等文件。經過書面審核通過後,即可經線上申請系統取得效期五年之註冊號碼(ML number)[15]。 快速申請程序則限於少數被評估為具有一般或低風險之食品方得申請(例如罐頭食品),相較於一般申請程序,約可節省二個月左右之時間。無論採取何種程序或類型,有資格申請食品登記者,僅限印尼本土之進口商或經銷商,故如何選擇合格可信賴之當地業者合作,為我國廠商的重要課題。 (三) 其他要求:印尼國家標準(SNI)與食品進口准證(SKI) 透過前述食品登記程序取得註冊號碼之法律效果有二,一為使包裝食品取得零售端合法販賣之資格,二為進口包裝食品之必要標示。但特定食品如瓶裝水、即溶咖啡、麵粉等,尚須符合國家標準署制定之印尼國家標準(SNI),方能取得食品登記註冊號碼[16]。 此外,印尼食藥局為了確實掌握進口食品流向,於2017年第4號及第5號條例規定,包含加工食品、食品原料、食品添加物、相關食品配方等食品及相關產品。我國廠商若透過進口方式將食品輸入印尼市場,則必須在每一船運航次取得印尼食藥局之食品進口准證(SKI)[17] ,作為海關進口之前階段程序。食品進口准證係獨立於食品登記之外的另一程序,申請人必須提交包含進口人姓名、地址及產品名稱種類等內容之申請函、產品規格及完稅證明等相關聲明書,經過書面審核通過方可取得食品進口准證(SKI)[18]。 參、印尼清真認證 一、 清真認證簡介與印尼穆斯林商機 印尼全國總人口數為2億5千萬,其中超過2億人為穆斯林,約佔總人口數的85%以上,符合伊斯蘭國家合作組織(Organization of Islamic Cooperation, OIC)對穆斯林國家之定義。為了顧及國內廣大穆斯林教徒之需要,印尼屬於國際間較早推行清真認證制度者,原本由民間之印尼伊斯蘭宗教理事會(MUI)建立並實施清真認證制度,印尼政府於2014年通過公布第33號法律之《清真產品保證法》,已在2017年成立相關主管機關,將清真認證制度正式納入國家行政的一環 [19]。 所謂「清真(Halal)」,原意為合法的,代表符合伊斯蘭教法之事物,具體而言則指穆斯林於日常生活中不得接觸不潔之物,例如豬狗等雜食性動物、酒精及動物血液等[20]。特別是與身體直接接觸者如衣物、飲食、美妝,皆為穆斯林於生活中會特別注意是否符合伊斯蘭教法之產品 [21]。由於穆斯林生活方式所帶來的特別需要,加之現代加工食品種類及其他產品製程複雜,為了避免違反伊斯蘭教法,因此穆斯林多會選購經清真認證之產品,形成以穆斯林為目標客群的特殊商機,於穆斯林占絕大多數的印尼市場更是如此 [22]。 二、 清真認證程序簡介 目前東協國家如馬來西亞、印尼及新加坡,與中東海灣國家如阿拉伯聯合大公國等國有不同的清真認證制度,惟其基本精神皆在保障規範產品符合清真,僅於執行程序略有差異 [23]。 印尼之清真認證制度原以印尼伊斯蘭宗教理事會進行審查與證書核發。在2014年公布第33號法律《清真產品保證法》後,印尼政府並於2017年10月設立「清真產品認證局(BPJPH)」,並計劃相關法規命令修訂完成後,將由清真產品認證局進行認證 [24]。惟目前印尼清真認證程序仍依照印尼伊斯蘭宗教理事會(MUI)之制度,故以下介紹將以印尼伊斯蘭宗教理事會(MUI)之程序為主。 清真認證之產品範疇,主要是以穆斯林食用或接觸之產品為主,如肉品、加工食品、化妝品等,且認證範圍不僅限於製造過程,包含原物料、工廠設備、倉儲、物流甚至零售端賣場都必須符合清真要求,故清真認證係一套溯源驗證之制度 [25]。 在申請流程部分,無論是印尼國內外食品製造商,皆可於線上網站登記公司相關資料,上傳相關文件提供審查,並於繳交費用後,始可進入驗證最為重要的工廠實地檢查階段 [26]。在實地檢查階段,印尼伊斯蘭宗教理事會將會派遣教法與技術領域共兩名稽核員進行檢查,若是海外廠商,則須負擔相關交通及食宿費用,稽核員將檢查結果回覆給評議委員會,經審議通過後即可取得清真認證,每次認證效期為2年,到期仍須重新申請驗證 [27]。 肆、結語 拓展印尼食品市場,取得食品登記程序之註冊號碼為必不可少之前置作業,又若採取食品進口至印尼販售之商業途徑,另須依相關條例規範取得食品進口准證(SKI)並遵守後續海關進口程序。申請食品註冊號碼時必須注意,有資格申請者為印尼本土進口商或經銷商,故尋求合格可信賴之當地代理業者,並簽訂權利義務明確之商業合作契約,對於能否順利進入印尼市場實屬關鍵。若與不肖代理業者合作,又未簽訂可保障權益之契約,不僅可能無法進入印尼市場,甚或有商標等智慧財產權遭到搶註及商品被仿冒的隱患存在。 此外,印尼行政機關在執行上亦存有行政流程不夠透明及行政怠惰之問題。根據印尼當地台商之訪問調查,印尼行政流程緩慢,且不會主動通知受審文件是否缺漏,廠商往往必須就單一產品重複申請數次方能取得註冊號碼,且耗時達半年至一年以上 [28]。造成相當時間與金錢成本的損失,故廠商應在申請前明確瞭解須備妥之相關文件,節省行政流程之往返。 關於清真認證制度方面,目前無強制規定食品必須進行清真認證,始可在市場銷售,惟若取得清真認證,將可提升穆斯林消費者的購買意願。印尼政府於2014年公布第33號法律《清真產品保證法》,除了透過設立主管機關「清真產品認證局(BPJPH)」,將清真認證制度正式納入行政機關管轄外,影響更重大的即為「強制清真認證」規定。根據《清真產品保證法》相關規範,2019年後在印尼境內販賣、流通與交易之產品,包含食品飲料、化學產品及醫藥品等皆有進行清真認證之義務,若非屬清真亦應標示「非清真」,縱然是進口產品亦適用前述規範 [29]。然而強制清真認證的相關法規命令尚未修訂完成,且印尼國內亦有不同意見,有主張強制清真認證將對印尼相關產業造成嚴重打擊者,亦有認為影響不大 [30],目前並未有明確之發展方向 [31] ,惟對有意進入印尼市場的廠商而言,強制清真認證屬關鍵之法規遵循問題,其未來動向值得關注。 [1] 胡婉玲,〈食品進軍印尼 八個準備不能少〉,經濟日報,2018/03/18, https://money.udn.com/money/story/5612/3037116 (最後瀏覽日:2018/03/22)。 [2] 經濟部投資業務處編,《印尼投資環境簡介》,頁48,經濟部,2017年。 [3] 同前註,頁2。 [4] 同前註,頁56。 [5] 〈BPOM主要職掌〉,BADAN POM官方網站, http://www.pom.go.id/new/view/direct/job(最後瀏覽日:2018/4/20)。 [6] USDA Foreign Agricultural Service, Indonesia Food and Agricultural Import Regulations and Standards – Narrative (2017). [7] Id. [8] Id. , at 3. [9] 印尼食品進口法規簡介,行政院經貿談判辦公室, https://www.moea.gov.tw/Mns/otn/content/ContentDesc.aspx?menu_id=25481(最後瀏覽日:2018/4/20)。 [10] 同前註。 [11] European Union, The Food and Beverage Market Entry Hand book: Indonesia 28-31 (2016). [12] Supra note 6. [13] 同註9。 [14] Supra note 6. [15] Id. [16] 同註9。 [17] Supra note 6. [18] Id. [19] 同前註,頁5。 [20] 經濟部投資業務處,《印尼投資環境簡介》,頁56-60,2017年8月。 [21] 同前註。 [22] 同前註。 [23] 同註20,頁7。 [24] 同註22。 [25] 同註20,頁6。 [26] 同註22,頁61。 [27] 同註20,頁8。 [28] 〈印尼食品與藥物管理局(BPOM)簡介〉,優質平價新興市場資訊網, https://mvp-plan.cdri.org.tw/regulations;jsessionid=51E00524C4F5E47D6EE98246B3B9460A?panel=0(最後瀏覽日:2018/4/20)。 [29] LAW OF THE REPUBLIC OF INDONESIA NUMBER 33 2014 ABOUT HALAL PRODUCT CERTIFICATION §§4, 67. [30] 印尼伊斯蘭宗教理事會認為強制清真認證縱然會影響到部分中小企業,但對於規模較大之國際企業,進行清真認證並不會因成本而受到影響。 [31] 同註20,頁18-19。