歐盟提出人工智慧法律調和規則草案
歐盟執委會（European Commission）於2021年4月21日提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（簡稱AI規則草案），旨在平衡「AI運用所帶來的優勢」與「AI對個人或社會所帶來的潛在負面衝擊」，促使會員國在發展及運用AI時，能採取協調一致的態度及方法，共同維護歐洲公民基本權利與歐盟價值。
歐盟自2019年起即倡議發展「值得信賴的AI」（Trustworthy AI）。AI規則草案之提出，除了落實執委會2019年至2024年之政策願景外，亦呼應2020年歐洲議會（European Parliament）之建議—針對AI應用之機會與利益採取立法行動，並確保合乎倫理原則。惟鑒於歐盟在環境、健康、公共事務、金融、交通、農業等領域對AI應用之高度需求，以及企業仰賴AI技術提升競爭優勢等因素，執委會係以「風險為基礎」之概念取向（risk-based approach）制定AI規則草案，避免對新技術發展造成不必要的限制或阻礙。
本規則草案將AI系統，依其「對歐盟基本權利或價值所創造的風險程度」，分為下列三種類型，並施以不同程度的監理方式：
一、不可接受之風險：原則上禁止使用此類型AI系統或使其進入歐盟市場。例如：利用潛意識技術操控個人、在公共場合利用「即時遠端生物辨識系統」進行執法、公務機關普遍對個人進行社會評分等。
二、高風險：於附錄中列出所謂高風險AI系統，要求高風險AI系統之提供者遵循風險管理、資料治理、文件紀錄保存、透明性與資訊揭露、人為監督、健全性、準確性與資安等要求；且AI系統進入歐盟市場前，需進行符合性評估（conformity assessment），進入市場後，則需持續監控。
三、非不可接受之風險亦非高風險：鼓勵AI系統提供者或使用者，自願建立行為準則（codes of conduct）。
AI規則草案亦鼓勵會員國建立AI監理沙盒（regulatory sandbox）機制，且以中小企業、新創公司為優先對象，使創新AI系統進入市場之前，能於可控環境中依明確計畫進行開發、測試與驗證。
張腕純
組長 編譯整理
EUROPEAN COMMISSION, Proposal for a Regulation Laying down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts (2021), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75788 (last visited Apr. 30, 2021).
Shaping Europe’s Digital Future: A European Approach to Artificial Intelligence, European Commission, https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence (last visited Apr. 30, 2021).
Ursula von der Leyen, My Agenda for Europe: Political Guidelines for the Next European Commission 2019-2024 (2019), https://ec.europa.eu/info/sites/default/files/political-guidelines-next-commission_en_0.pdf (last visited Apr. 30, 2021).
馬來西亞於2010年訂定個人資料保護法（Personal Data Protection Act, PDPA），惟當時並未立即施行，至2013年11月15日，才連同相關規則、命令正式施行。 任何因商業往來而取得個人資料之人，在馬來西亞境內以自動化工具處理（或授權、控制個人資料之處理）時，都必須遵循該法及其相關法令的規定。否則，將有可能面臨50萬元令吉（相當於新台幣450萬元）罰鍰或三年以下有期徒刑。 除此之外，2013年個人資料保護命令（Personal Data Protection Order 2013）更規定，通訊業、金融業、保險業、健康、遊樂業、運輸業、教育、直銷業、服務業、不動產業、公益事業等11種行業別的資料利用者，必須在2014年02月15日前向個資保護委員會註冊並取得執照。 針對施行前蒐集的個人資料，該法賦予三個月的寬限期，然而施行後所蒐集者立即適用，其中包括以下規定： 1.告知當事人蒐集目的、有權請求存取及更正，並提供聯絡窗口、電話、傳真號碼或e-mail等相關資訊，於21日內回覆當事人請求； 2.除履行契約所必要等情形外，處理個人資料前應取得當事人同意，且該同意若係透過既有表單取得，外觀上應與其他事項有所區別； 3.在蒐集目的內利用個人資料，將個人資料提供予第三人時，應定期維護該名單； 4.實施並確保從業人員遵循安全政策，該政策須符合個資保護委員會所定安全標準； 5.確保個人資料之完整性、正確性及最新性； 6.制訂保存期間政策； 7.除接受國事先經過核准、取得當事人同意或已盡相當能事確保個人資料不會以違反個資法規定之方式處理外，原則上禁止國際傳輸等。 馬來西亞由於該法的施行，早先於新加坡成為東協十國當中，第一個全面實施相關法規的國家，通訊暨多媒體部部長Ahmad Shabery Cheek表示，此舉將有助於馬來西亞躋身已開發國家之林。
歐盟「人工智慧法」達成政治協議，逐步建立AI準則歐盟「人工智慧法」達成政治協議， 逐步建立AI準則 資訊工業策進會科技法律研究所 2023年12月25日 隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。 壹、發佈背景 歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。 歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。 貳、內容摘要 AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下： 臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。 臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。 考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。 臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。 參、評估分析 在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。 此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。 面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023). [2]European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023). [3]Artificial intelligence act,P5-7,https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023). [4]GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023). [5]General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2(last visited December 25, 2023).
逐漸式微的「不可避免揭露原則（Inevitable Disclosure Doctrine）」在2023年，多個美國法院判決拒絕採納「不可避免揭露原則（Inevitable Disclosure Doctrine）」，顯示出該原則將不再是原告於營業秘密訴訟中的一大利器，原告亦無法僅透過證明前員工持有營業秘密資訊且處於競爭狀態，便要求法院禁止該名前員工為其競爭對手工作。 在2023年2月，美國伊利諾伊州北區法院於PetroChoice v. Amherdt一案中指出，法院在適用「不可避免揭露原則」時會遏制競爭對手之間的員工流動，故將評估個案事實並嚴格限制其適用。在2023年6月，美國伊利諾伊州北區法院於Aon PLC v. Alliant Ins. Services一案中指出，根據2016年美國國會所通過的「保護營業秘密法案（Defend Trade Secrets Act, DTSA）」，該法案拒絕了「不可避免揭露原則」的適用，並禁止法院僅憑他人所知悉的資訊，阻礙其尋求新的工作，因此駁回了原告的損害賠償主張。在2023年9月，美國密蘇里州東區法院於MiTek Inc. v. McIntosh一案中同樣拒絕了「不可避免揭露原則」的適用，儘管該州的州法並未明確表達採納或拒絕該原則。 除此之外，美國聯邦法院在去年度的每一份報告意見中（Reported Opinion），皆未顯示出根據「不可避免揭露原則」申請禁令或取得救濟是合理的。換言之，大多數的美國法院都拒絕採納「不可避免揭露原則」或嚴格限制其適用。 綜上所述，儘管「不可避免揭露原則」能有效防止來自前員工不當使用其營業秘密的威脅，但其不再是未來營業秘密訴訟中的勝訴關鍵。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
EU要求OFCOM落實固網批發價格管制在2009年6月26日，英國電信業者Opal Telecom針對英國電信（BT） 的固網批發價格的問題（Fixed Termination rate），向OFCOM提起爭議仲裁。不過在OFCOM做出裁決之前，歐盟執委會（The European Commission）已要求OFCOM應該就固定網路的批發價為適當之價格管制，並提供所有通訊業一致性的固定費率。 執委會做出這樣要求的原因，是著眼於今日英國在終端服務（termination services），業者仍然處於壟斷狀態，且有調高終端服務費用之可能，恐不利於促進競爭。 基於改善這樣的現象，並為促進市場競爭和歐盟規範的一致性，執委會提出要求： 應無差別（non-discrimination）使所有業者均得利用原有之固定網路來提供服務，並確保在相同環境、相同條件下進行公平競爭；同時，建議採取對於固定網路費率之管制，以促進市場競爭，其結果對固定通訊服務的競爭者與消費者而言，最為有利。 OFCOM已在2009年10月23日公布裁決結果，基於通訊市場公平競爭和歐洲市場一致的發展的原則下，BT提供Opal固定網路通路（network access）和服務互通（service interoperability）尚屬適當，至於費率部份，則以適用BT在電信業者價格表（Carrier Price List）的批發價為宜。