美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
歐盟執委會（European Commission）於2022年9月28日通過《人工智慧責任指令》（AI Liability Directive）之立法提案，以補充2021年4月通過之《人工智慧法》草案（Artificial Intelligence Act）。鑑於人工智慧產品之不透明性、複雜性且具自主行為等多項特徵，受損害者往往難以舉證並獲得因人工智慧所造成之損害賠償，《人工智慧責任指令》立法提案即為促使因人工智慧而受有損害者，得以更容易獲得賠償，並減輕受損害者請求損害賠償之舉證責任。 《人工智慧責任指令》透過引入兩個主要方式：（一）可推翻之推定（rebuttable presumptions）：人工智慧責任指令透過「因果關係推定（presumption of causality）」來減輕受損害者之舉證責任（burden of proof）。受損害者（不論是個人、企業或組織）若能證明人工智慧系統因過失或不遵守法規要求之義務，致其受有損害（包括基本權利在內之生命、健康、財產或隱私等），並且該損害與人工智慧系統之表現具有因果關係，法院即可推定該過失或不遵守義務之行為造成受損害者之損害。相對的，人工智慧之供應商或開發商等也可提供相關證據證明其過失不可能造成損害，或該損害係由其他原因所致，以推翻該損害之推定。（二）證據揭露機制（disclosure of evidence mechanism）：若受害者之損害涉及高風險人工智慧時，得要求自該供應商或開發商等處獲取證據之權利。受害者透過證據揭露機制能夠較容易地尋求法律賠償，並得以找出究責的對象。 歐盟執委會認為以安全為導向的《人工智慧法》，為人工智慧訂定橫向規則，旨在降低風險和防止損害，但仍需要《人工智慧責任指令》之責任規定，以確保損害風險出現時，相關賠償得以被實現。但歐盟執委會仍選擇了較小的干預手段，《人工智慧責任指令》針對過失之責任制度進行改革，並未採取舉證責任倒置（a reversal of the burden of proof）之作法，而是透過「可推翻之推定」，一方面減輕受損害者之舉證責任，使受損害者得對影響人工智慧系統並產生過失或侵害行為之人提出損害賠償；另一方面賦予人工智慧之供應商或開發商等有機會推翻前揭造成損害之推定，以避免人工智慧系統之供應商或開發商面臨更高的責任風險，可能阻礙人工智慧產品和服務創新。
美國《國際緊急經濟權力法》（IEEPA）美國《國際緊急經濟權力法》（International Emergency Economic Powers Act, 50 U.S.C. §1701-1708，下稱IEEPA）是美國總統針對國際經濟局勢，進行多種經濟交易相關限制之法源依據─只要外來任何威脅造成美國家安全、外交政策或者經濟出現隱憂，美國總統即可按IEEPA依職權調查、管制或限制「任何與特定國家的外國匯兌交易、透過金融機構進行任何涉及該國利益的信貸移轉或支付、輸入或輸出外幣或證券；亦可凍結與特定國家或該國人民有關的財產權」。1979年，卡特總統（Jimmy Carter）援引IEEPA因應伊朗人質危機（Iran Hostage Crisis），係迄今最長時間的經濟制裁（sanction）；2001年的911空襲事件之後，美國國會大幅擴張IEEPA，同時制裁阿富汗（Blocking Property and Prohibiting Transactions with the Taliban）。近期的中美貿易戰中，IEEPA亦扮演重要角色。舉例而言，2019年5月15日，美國總統川普（Donald Trump）即以IEEPA發布〈行政命令：保護資通訊技術及服務之供應鏈〉（Executive Order on Securing the Information and Communications Technology and Services Supply Chain），並於翌日將華為及其遍布26國的68間子公司列入《出口管制規則》（Export Administration Regulations, EAR）之管制名單。 美國憲法起草時，並無談及緊急權力（emergency powers）之概念，所以在過去的兩個世紀，美國總統僅能個案處理（ad hoc）緊急狀況，國會再後續追認。20世紀以降，美國開始出現緊急權力模式─透過國會立法，將原應由國會代表人民行使的權力(delegated powers）授予總統在緊急狀況下直接行使。復有1976年的《國家緊急法》（National Emergencies Act，下稱NEA），而1977年通過的IEEPA即是依NEA為法源所設。當美國總統行使IEEPA，必須遵守NEA：立即向國會發送緊急命令公告，並且將之發布於聯邦公報（Federal Register），總統亦須闡明其發布該緊急命令所援引之法源依據。《國際緊急經濟權力法》中，公權力對於私經濟的介入，則可溯及第一次世界大戰末期的《1917年對敵貿易法》（Trading with the Enemy Act of 1917），當時出現始料未及的經濟動員（economic mobilization）與制裁。
印度隱私權制度下兒童資料安全的保護現狀印度電子資訊產業技術部（MeitY）2022年11月在網站上公布了個人資料資訊保護法草案（Digital Personal Data Protection Bill,以下簡稱該法案），並於2023年7月提交議會審查。目前印度民法不承認未成年人(未滿18歲者)具有自主簽訂契約的能力。因此，取得的兒童同意不具有法律效力，必須徵得父母或是監護人的同意才能合法蒐集兒童個人資料。 根據印度2022年個人資料資訊保護法案草案，任何未滿18歲的人都被歸類為「兒童」。該法案中同時限制專門向兒童發送的廣告，並且監管任何追蹤兒童行為的情況。目前國際隱私法(例如：歐盟通用資料保護條例 (GDPR)、加州消費者隱私法(CCPA)等)的兒童定義多在13至17歲之間。但考慮到兒童個人資訊的敏感性和潛在危害，印度政府採取了較保守嚴謹的路線。政府也已被授權制定有關處理兒童個人資訊的細則，特别是確保資料使用人不可使用可能對兒童造成傷害的個人資料。 根據社會發展狀況，兒童若每次在網路平台上進行活動時都需經過父母或是監護人同意不甚妥適，且根據前述說明，兒童界定年齡為18歲以下，若依照統一年齡範圍進行控管，實際執行上面臨窒礙難行之處。故修法者在對於該法案修改意見中，引用了其他國家隱私法中的不同年齡分類限制，以求降低年齡門檻限制，或是根據用戶的年齡制定差異化的授權要求。 另一個產生的爭議為，該如何驗證父母或是監護人的同意表示。法條中目前無明確規範何為「有效之同意表示」，現行各平台使用不同的方法獲得父母或是監護人的同意，目前有兩種方式，包括點選「同意」按鈕，或是在用戶條款中表示若使用服務等同於監護人同意。 關於兒童年齡之界定，是否將參考其他國家規範進行差異化設定，目前暫無明確定論(包括如何調整、年齡級距設定)，根據資訊使用的普及，兒童年齡的界定可以預期的將會進行調整；關於如何有效驗證父母或是監護人的同意表示，目前在技術上大多服務商都偏好透過會員註冊時的同意按鈕或是用戶條款中列明若使用服務即代表同意這兩種方式認定，在這兩種方式之後，系統是否有設定驗證機制，以及需要何種驗證方式才可以認定父母或是監護人的同意表示是符合法律效力的，都需後續再進行研擬。
歐盟正式通過資料治理法（DGA），歐盟資料共享發展跨出一大步歐盟理事會（Council of the European Union）於2022年5月16日正式通過了資料治理法（Data Governance Act, 簡稱DGA），本法是歐盟執委會（European Commission）於2020年11月提案，經過一年多的意見徵詢與協商，歐盟議會（European Parliament）於今（2022）年4月6日以501票贊成通過，隨後由歐盟理事會通過公布，本法預計將於2023年8月正式生效。 DGA包含幾大面向，除了針對資料中介服務（data intermediation）、資料利他主義（data altruism）、歐盟資料創新委員會（European Data Innovation Board）等機制建立的規定外，在第二章特別針對公部門所持有之特定類別資料的再利用（reuse）進行規定。當公部門持有的資料涉及第三方受特定法律保護的權利時（如涉及第三方之商業機密、智慧財產、個資等），本法規定公部門只要符合特定條件下可將此類資料提供外界申請利用；若為提供符合歐盟整體利益的服務且具有正當理由和必要性的例外情況下，得授予申請對象專有權（exclusive rights），但授權期間不得超過12個月；歐盟應以相關技術確保所提供資料之隱私和機密性。 再者，各會員國應指定現有機構或創建一個新機構擔任提供上述資料類型的單一資訊點（Single Information Point, SIP），以電子方式公開透明地提供資料清單，包含可申請利用之資料的來源及相關描述（至少包含資料格式、檔案大小、再利用的條件等），以提供中小企業、新創企業便利、可信的資料查詢管道。此外，歐盟執委會應建立一個單一近用點（Single Access Point, SAP），提供一個可搜尋公部門資料的電子登記機制（a searchable electronic register of public-sector data），讓使用者得直接搜尋各會員國單一資訊點（SIP）中所提供的資料及相關資訊。 DGA是歐盟2020年2月發布歐盟資料戰略（European Data Strategy）後的第一個立法，歐盟希望透過本法建立一套能提升資料可利用性和促進公私部門間資料共享的機制，以創造歐盟數位經濟的更高價值。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」