美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
創意產業之發展在中國，具有相當之重要性。在出版物、音樂、電影、電視和遊戲軟件開發等創意相關產業，已占中國GDP 5%以上。2016年4月中國最大的搜尋引擎公司「百度」與國際出版商版權保護聯盟(IPCC)簽署版權保護合作備忘錄。IPCC為多間國際出版公司參與的非營利性組織，由於侵權盜版行為再中國日益嚴重，IPCC積極的向中國國內的網路平台公司洽談合作意願。 中國百度為了減少網路侵權作品的擴散，透過技術在作品原創性、正版與維權上，開發防盜版系統及線上投訴管道。百度公司與IPCC透過定期的資訊交流，除了在版權保護上合作，雙方也將繼續針對搜尋內容之正版化合作，此舉提升百度搜尋引擎在內容上的豐富性，同時也意味著中國在知識產權上更向前了一步。 IPCC除了與百度簽署版權保護協議外，也針對網路上具有侵權之網站應列表與仿冒品之跨境執法問題上提出意見交流。另外在政策面上，針對涉及中國正在進行的著作權修法議題，包括著作權集中授權、藝術家之轉售權、著作權的例外與限制及音樂視聽著作權進行討論。 「本文同步刊登於TIPS網站（https://www.tips.org.tw)」
國際推動綠色科技發展重要法制政策研析 美國紐約州通過《政府自動化決策監督法》規範州政府使用自動化決策系統紐約州州長於2024年12月21日簽署《政府自動化決策監督法》（Legislative Oversight of Automated Decision-making in Government Act, LOADinG Act），用以規範紐約州政府使用人工智慧自動決策系統的方式以及相關義務，成為美國第一個通過這類法律的州。 該法所定義之「自動化決策系統」係指任何使用演算法、計算模型或人工智慧技術，或其組合的軟體，用於自動化、支援或取代人類決策；這類系統亦包括應用預定義規則或機器學習演算法進行資料分析，並在自動產生結論、建議、結果、假設、預測。 針對政府使用自動化決策系統之情形，《政府自動化決策監督法》有三大重點：人類監督、影響評估以及資訊揭露。 一、人類監督 州政府在提供社會福利資源或其他可能實質影響人民權益與法定權利的業務時，除非是在「有意義的人工審查」下進行操作，否則不得使用自動化決策系統。同時，此法也強調，州政府亦應確保其員工現有權利不會受到自動化決策系統的影響，例如不得因此受到解雇、調職或減薪等。 前述有意義的人工審查，係指對自動化決策流程進行審查、監督及控制的工作人員，必須是受過訓練、對該系統有一定之了解且擁有權力干預、變更系統最終決策的人。 二、影響評估 州政府如欲使用自動化決策系統，應進行影響評估且每兩年應至少重新評估一次；系統在進行重大更新前，也應重新進行影響評估。若評估發現系統產生歧視性或有偏見的結果，機關必須停止使用該系統及其生成的資訊。 影響評估的項目除了性能、演算法及訓練資料外，亦應進行準確性、公平性、偏差歧視、以及個人資料安全等相關測試。 三、資訊揭露 影響評估需在系統實施前至少30天提交給州長與州議會，並在相關機關的網站上公布；僅機關在特殊情況下（例如涉及公共安全考量），州政府可針對報告揭露之資訊進行必要的刪改，但必須說明做出此決定的原因。此外，州政府亦需於本法通過後向州議會提交報告，說明包括系統描述、供應商資訊、使用開始日期、用途、人類決策的支持或取代情況、已進行的影響評估摘要等。 本法強調對人工智慧技術的審慎應用，特別關注其對勞工權益的影響。該法明確規定，禁止在無人類監督的情況下，使用自動化系統進行失業救濟或育兒補助等福利的審核決策，並保障州政府員工不因人工智慧的實施而減少工作時間或職責。此類規定在現行立法中較為罕見，顯示出立法者對勞工權益的高度重視。該法的實施效果及影響，值得未來持續保持關注。
何謂「美國專利審理暨訴願委員會（PTAB）」?專利審理暨訴願委員會（Patent Trial and Appeal Board, PTAB）成立於2012年9月16號。其成立之法源為《美國發明法案》（Leahy-Smith America Invents Act, AIA），承接「專利訴願暨衝突委員會」（Board of Patent Appeals and Interferences, BPAI）事務，成為美國專利商標局（United States Patent and Trademark Office，USPTO）下轄職司專利審理與訴願等相關程序的組織。PTAB主要可以分成「專利審理部門」（Trials）和「專利訴願部門」（Appeals）。 「專利審理部門」處理有爭議的案件，囊括四種處理方式： 專利授予後複審（Post-Grant Review, PGR） 除了專利所有權人的任何人，可以在專利公告或發證後9個月內提出，惟之前不得就專利無效提出訴訟。無效理由只要一項請求不具專利性即可，不需要是實質新問題（Substantial New Questions, SNQ）。但不可匿名，需揭露實質利益關係人。 多方複審程序（Inter Partes Review, IPR） 在發證後9個月後才可提出，且必須是PGR終結後、提出確認之訴（Declaratory Judgment）之前、或被控侵權的1年內提出申請。且僅能以核准專利及公開文獻作為證據。 含商業方法專利的過渡性方案（Transitional Program for Covered Business Method Patents, CBM） 這是對所授予的商業方法專利的過渡型條款，將商業先使用抗辯（Prior Commercial Use Defense）擴大適用到所有專利的商業使用行為，不再侷限在方法專利。IPR、CBM類似於我國的舉發制度，只是 CBM 僅能就商業方法專利提出。 申請人/發明人調查程序（Derivation Proceedings） 以往發明人身分爭議多仍以訴訟解決，原因之一為，過去程序係釐清誰先想到該構想或實踐該構想而非釐清原創者為誰。申請人調查程序將俾利身分的釐清。 「專利訴願部門」則是由超過一百位專利行政法官（Administrative Patent Judges）所組成，處理與被駁回專利申請相關的訴願。按 35 U.S.C. § 141(a)，訴願人可以就PTAB的訴願結果，向美國聯邦上訴法院（United States Court of Appeals for the Federal Circuit, CAFC）提起訴訟；後續，可就聯邦上訴法院之判決，再上訴至最高法院（Supreme Court）。