歐盟「人工智慧法」達成政治協議，逐步建立AI準則
歐盟「人工智慧法」達成政治協議，
逐步建立AI準則
資訊工業策進會科技法律研究所
2023年12月25日
隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。
壹、發佈背景
歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。
歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。
貳、內容摘要
AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下：
臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。
臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。
考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。
臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。
參、評估分析
在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。
此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。
面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023).
[2] European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023).
[3] Artificial intelligence act,P5-7, https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023).
[4] GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
[5] General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act, https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023).
自從2010年07月Blizzad曾經宣布針對旗下網站論壇欲推動實名制引起廣大爭議後，於沈寂一年後宣布採用Battle Tag取代原本想推動的實名方式，Battle Tag 類似連網帳號綁定的方式，由玩家自行選擇一個名稱，而該名稱最終將整合成為玩家在Blizzard旗下所有遊戲的官方網站或社群論壇的身分。 Battle Tag讓玩家用新的方式管理他們的帳戶資料，同時可以讓曾經在遊戲中並肩作戰的玩家，在不同遊戲間找到彼此，而能保持聯繫。原本Blizzard推實名制的目的之一在於確保玩家是否年滿18歲，但因引發爭議而作罷。現在他們使用Battle Tag作為替代方法，而Battle Tag 其實是由玩家自行選擇一個帳號名稱，另外再由系統隨機分配4位數的代碼方式（例如：名稱#1234），藉此創設出玩家自己獨特的名稱。 另一方面，為了保護這些整合的帳戶，且提昇玩家的帳戶安全，Blizzard並採用驗證器（Keychain Authenticator、 Mobile Authenticator），實際上驗證器就是一種憑證，玩家將驗證器與帳號連結後，即可讓自己的帳戶增加一層防護，Blizzard藉此希望降低玩家帳戶被盜的風險，因為越多玩家參與的遊戲，其帳戶實體價值可能越高，且2012年5月15日發售的暗黑破壞神3（Diablo Ⅲ），更開放了亞洲區以外的遊戲虛擬物品的現金拍賣場，如此玩家的帳戶更需要重重保護，不過才發售不到一週的時間，就有許多玩家回報帳戶遭盜用，其中亦有使用驗證器保護帳戶的玩家聲稱仍然遭盜用。
FCC通過許可有線電視系統對基本電視服務進行加密，以對抗盜接訊號美國聯邦通信委員會（FCC）批准，有線電視業者可對其基本電視服務進行完全加密，有線電視用戶將需要向有線電視業者租用機上盒或使用CableCARD的技術，以繼續收看有線電視。在本項新規則發布之前，有線電視業者被禁止在基本服務加密，有線電視用戶不需租用額外設備便能收看基本電視服務內容。業界人士表示，據估計目前約有近5％非法盜接的服務，造成每年約5億美元的收入損失，此一新規則有助於對抗訊號盜接的問題。 同時隨著數位有線電視普及程度的提高，大多數有線電視用戶已經透過機上盒或CableCARD技術收看有線電視，僅少部份用戶可透過特殊裝置接收數位電視基本服務，但因為此種接收方式無須加密，因此存在有盜接的問題，因此有線電視業者希望FCC能夠放寬規定，使業者可將整個有線電視系統均加密傳輸，避免訊號盜接的問題。 然而相對的，一些第三方公司所生產的設備將因為有線電視系統業者的加密，而無法提供低成本的替代裝置，有線電視用戶將必須向有線電視公司租用機上盒，部份第三方公司生產的機上盒具有DVR功能，如果系統業者完全加密他們的內容，這些第三方設備的生產將必須花費額外的成本與時間與系統業者協商。有線電視業者如Comcast自然是抱持樂觀其成的看法，全系統加密使業者可在遠端管理電視訊號之播送，而無須至消費者家戶進行，可節省人力與成本。
美國聯邦通訊委員會發布公告重申自動簡訊發送適用電話消費者保護法聯邦通訊委員會(Federal Communication Commission, FCC)於2016年11月18日發布一項標題為Robotext Consumer Protection的執法諮詢文件。該文件就自動發送簡訊(Autodialed text messages，又稱robotexts)於電話消費者保護法(Telephone Consumer Protection Act of 1991, TCPA )內的適用予以釐清。 在該執法諮詢文件內，解釋TCPA法條中對於自動撥號系統定義為任何可以儲存或是產出號碼並自動撥打的設備。該法對於自動撥號系統之限制，包含通話(call)、預錄語音(prerecorded calls)及簡訊(texts)，除非已取得接收方的明示同意(prior express consent)，或符合下列狀況之一，方得以自動撥號系統為之： (1) 基於緊急狀況， (2) 在依循消費者隱私保護的情況下，對終端使用者為免費且獲得FCC的豁免， (3) 單純為回收對聯邦所負擔的債務、或其所保證的債務。 值得注意的是，聯邦通訊委員會針對當下網路科技發展出的訊息傳送模式做出解釋，簡訊apps、以及任何符合TCPA自動撥號定義的「網路至電話之簡訊傳送」(Internet-to-phone text messaging)等兩種情況亦納入TCPA的適用。因此，發送方主張對方已為事前同意者，應負擔舉證責任，並使消費者透過合理方式隨時取消其同意；於其主張不想再收到任何自動發送簡訊後，該發送方應立即發送一封簡訊以確認接收者的「選擇退出」要求(opt-out request)。 再者，對於已移轉的門號進行自動簡訊之發送，不論發送方是否有認知該門號換人持有，在未經該門號持有人同意的情況下，發送方至多只能對該號碼自動發送一封簡訊；如之後再度自動發送簡訊，即判定違反TCPA規範。 FCC此份文件雖從保護消費者的立場出發，但所設條件明顯苛刻，因此引發諸多爭議。此外引人注意的是，此文件發布前的一個月，ACA International v. FCC一案才於10月19日結束言詞答辯，該案爭點主要為FCC是否不當擴張適用TCPA，此案後續可用以追蹤該案聯邦法院是否肯認FCC對於TCPA的適用觀點。
日本先進設備導入計畫獎勵中小企業設備升級日本經濟產業省為協助中小企業更新老舊機器設備，並鼓勵中小企業導入新穎先進設備改善企業生產率，公布「先進設備導入計畫指引」（導入促進指針），於2019年至2021年間授權地方政府訂定先進設備導入計畫（先端設備等導入計画），提出區域內申請計畫的資格、設備定義、計畫目的與財產稅減免額度，以促成地方中小企業對地方特色的貢獻與參與，並改善在地產業環境與結構。 符合資格的中小企業若能在核准計畫年度內，每年勞動生產率提高達3%，可適用財產稅稅率減半或0%之優惠稅率（非免稅）。「先進設備導入計畫指引」亦明確指出，審核通過之計畫仍可進一步適用經濟產業省「中小型製造服務經營支援補助」（ものづくり・商業・サービス経営力向上支援補助金）、「服務業IT應用生產力提升補助」（サービス等生産性向上IT導入支援事業），享有更多的補助金補助。 所稱設備係指任何機械、裝置、備品、建築物附屬設備、軟體，以及電子檢驗或測量儀器。各地方政府訂定計畫時，可依其產業政策進一步限縮範圍。而先進之定義，係指欲購置設備之良率或生產效率，應較所淘汰設備高1%以上。有關新、舊設備之汰換應以同產業、同生產流程者為限，兩者比較之期間為淘汰設備原銷售日期起後10年內。由此可知，先進設備導入計畫的特殊性在於加速中小企業汰舊換新，提高勞動生產率以因應人口高齡化，而與鼓勵企業購買最新、最尖端設備之補助措施有所不同。 此外，為健全地方財政自主，「先進設備導入計畫指引」亦要求各地方政府應說明地方產業、環境或人文特色及先進設備的投資條件，以促進經濟發展與地方產業結構的融合。該指引具體建議包括： 應考量到中小企業導入先進設備提高勞動生產率後，影響當地就業人口需求，以及如何避免企業裁員的機制。 導入之先進設備因運作所產生之噪音、光害、排放污染等環境問題；以及導入之設備是否影響到當地居民生活作息而有侵害公共秩序之虞。 考量到財產稅為地方稅之稅源，應避免過度減免而導致地方財政虧損。