美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
美國平等就業機會委員會（Equal Employment Opportunity Commission, EEOC）於2023年5月18日發布「根據 1964 年《民權法》第七章評估就業篩選程序中使用軟體、演算法和AI之不利影響」（Assessing Adverse Impact in Software, Algorithms, and Artificial Intelligence Used in Employment Selection Procedures Under Title VII of the Civil Rights Act of 1964）之技術輔助文件（下簡稱「技術輔助文件」），以防止雇主使用自動化系統（automated systems）對求職者及員工做出歧視決定。 該技術輔助文件為EEOC於2021年推動「AI與演算法公平倡議」（Artificial Intelligence and Algorithmic Fairness Initiative）計畫的成果之一，旨在確保招募或其他就業決策軟體符合民權法要求，並根據EEOC 1978年公布之「受僱人篩選程序統一指引」（Uniform Guidelines on Employee Selection Procedures, UGESP），說明雇主將自動化系統納入就業決策所應注意事項。 當雇主對求職者與員工做出是否僱用、晉升、終止僱傭，或採取類似行動之決定，是透過演算法決策工具（algorithmic decision-making tool），對特定種族、膚色、宗教、性別、國籍或特定特徵組合（如亞洲女性），做出篩選並產生不利影響時，除非雇主能證明該決策與職位工作內容有關並符合業務需求，且無其他替代方案，否則此決策將違反《民權法》第七章規定。 針對如何評估不利影響，雇主得依UGESP「五分之四法則」（four-fifths rule），初步判斷演算法決策工具是否對某些族群產生顯著較低的篩選率。惟EEOC提醒五分之四法則推導出之篩選率差異較高時，仍有可能導致不利影響，雇主應依個案考量，使用實務常見的「統計顯著性」（statistical significance）等方法進一步判斷。 其次，當演算法決策工具係由外部供應商所開發，或由雇主授權管理人管理時，雇主不得以信賴供應商或管理人陳述為由規避《民權法》第七章，其仍應為供應商開發與管理人管理演算法決策工具所產生之歧視結果負責。 最後，EEOC鼓勵雇主應對演算法決策工具進行持續性自我評估，若發現該工具將產生不利影響，雇主得採取措施以減少不利影響或選擇不同工具，以避免違反《民權法》第七章。
歐盟MiCA擬於2024年生效並適用於規範NFT歐洲理事會在2022年10月5日公告歐盟加密資產市場監管法（The Markets in Crypto Assets regulation bill, MiCA）草案最終條文內容，此份草案已經歐洲議會眾議員通過並提交歐洲議會經濟貨幣事務委員會（European Parliament Committee on Economic and Monetary Affairs），MiCA將於2023年年初公告於歐盟官方公報，並於2024年生效施行。MiCA屬於歐盟數位金融政策（Europe’s Digital Finance Strategy）之一環，立法目的為統一多種加密代幣（crypto token） 發行和交易的法規架構，以保護加密代幣使用者和投資人權益，為歐盟金融法規未涵蓋的加密資產（如：穩定幣）提供法律確定性，及建立歐盟層級的統一規定。值得注意的是，相關規定歐盟目前並未排除適用於非同質的加密貨幣（non-fungible tokens, NFT）。 草案前言第6c點明文，不應考慮「獨特且非同質的加密資產」（unique and non-fungible crypto-asset）的小部分獨特性和非同質性，因為大量以一系列NFT形式發行加密資產應認定是具備同質性（fungibility）之指標。從而，未來在歐盟發行NFT將適用MiCA規定，包含： 一、適用傳統金融機構資金轉帳規則（travel rules），如：確保加密資產交易可被追蹤、得封鎖可疑交易等以達到防制洗錢與打擊恐怖主義融資之目的。 二、NFT作為一種加密資產，該服務供應商必須確認加密資產來源，確保加密資產並未涉及洗錢或恐怖主義融資之風險。 三、應透過NFT服務供應商協助，才能進行用戶間交易和轉帳。
歐洲單一專利與單一專利法院2012年歐盟國家和歐洲議會就「單一專利包裹法案Unified Patent Package，簡稱UPP」達成共識，並為創建歐洲單一專利保護制度奠定基礎。具體內容包括：制定具有統一效力的歐洲專利法規（單一專利Unitary Patent）、建立適用於單一專利的語言制度（歐洲專利局EPO現行官方語言即英文、法文、德文）、於歐盟成員國間建立單一專利管轄權協定（單一專利法院Unified Patent Court）。 其中，單一專利和單一專利法院為歐洲專利授權制度的基石。單一專利使發明者（個人、公司或機構）透過向歐洲專利局EPO提交一份專利申請，保護其在26個歐盟國家的發明，授予專利後不需再於各個國家進行驗證。單一專利將改變現有歐洲專利體系，為發明者提供更好更簡便且成本更低的保護模式，降低複雜的驗證需要與昂貴的翻譯費用。預計將刺激研究、開發和創新投資，促進歐洲經濟成長。 單一專利法院（Unified Patent Court，簡稱UPC），則是由歐盟成員國設立的國際法院。UPC目標是建立有效機制以面對歐洲專利的實施與挑戰、解決不同國家專利訴訟的需要、為歐洲共同市場內專利有效性及侵權與否提供穩定而單一的判斷機制以增強法律明確性、提供更簡單快捷和高效的司法程序、協調有關專利授予的權利範圍與限制，侵權案件的補救措施等。EPO並預計將再2018年期間啟動單一專利與單一法院制度。
什麼是「日本Connected Industries」？Connected Industries為日本產業的未來願景，透過人、機器與科技的跨界連接，創造出全新附加價值的產業社會，以達到Society5.0理想目標。例如，物與物的連接形成物聯網(IoT)、人與機器合作拓展智慧與創新、跨國企業合作解決全球議題、跨世代的人與人連繫傳承智慧與技術、生產者與消費者接觸解決商業與社會問題等。 隨著第四次產業革命到來，IoT、大數據及 AI人工製會等技術革新，日本藉由高科技、技術人才及應變能力等優勢與數據技術相結合，目標是邁向以人類為中心、解決問題的新產業社會。Connected Industries的三大支柱分別為： 一、新數據社會（New Digital Society） 消除人與機械系統的對立，實現全新的數位化社會。解決新興科學技術如AI及機器人運用上的困難，並積極活用該技術幫助並強化人類解決問題的能力。 二、多層次合作（Multilevel Cooperation） 區域、世界及全球未來面臨複雜的挑戰，必須透過企業間、產業間及國與國間的連繫合作解決課題。 三、人力資源發展（Human Resource Development） 以人類為中心做思考，積極推展數據技術的人才養成，邁向智慧與技術的數據化時代。