美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度

2024年3月27日,美國商務部國家電信和資訊管理局(National Telecommunications and Information Administration, NTIA)發布「人工智慧問責政策報告」(AI Accountability Policy Report),該報告呼籲對人工智慧系統進行獨立評估(Independent Evaluations)或是第三方評測,期待藉此提高人工智慧系統的透明度。

人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法,分別如下:

1.人工智慧稽核指引:聯邦政府應為稽核人員制定適合的人工智慧稽核指引,該指引須包含評估標準與合適的稽核員證書。

2.改善資訊揭露:人工智慧系統雖然已經應用在許多領域,但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤(Nutrition Label)的方式,使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。

3.責任標準(Liability Standards):聯邦政府應盡快訂定相關責任歸屬標準,以解決現行制度下,人工智慧系統造成損害的法律責任問題。

4.增加第三方評測所需資源:聯邦政府應投入必要的資源,以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如:

(1)資助美國人工智慧安全研究所(U.S. Artificial Intelligence Safety Institute);

(2)嚴格評估所需的運算資源與雲端基礎設施(Cloud Infrastructure);

(3)提供獎金和研究資源,以鼓勵參與紅隊測試的個人或團隊;

(4)培養第三方評測機構的專家人才。

5.開發及使用驗證工具:NTIA呼籲聯邦機關開發及使用可靠的評測工具,以評估人工智慧系統之使用情況,例如透明度工具(Transparency Tools)、認驗證工具(Verification and Validation Tools)等。

6.獨立評估:NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管,特別是可能侵害權利或安全的模型,應在其發布或應用前進行評測。

7.提升聯邦機關風險管控能力:NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊,並根據需求提供評測、認證與文件紀錄。

8.契約:透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。

NTIA將持續與利害關係各方合作,以建立人工智慧風險的問責機制,並確保該問責報告之建議得以落實。

相關連結
※ 美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9201&no=64&tp=1 (最後瀏覽日:2025/12/03)
引註此篇文章
你可能還會想看
何謂「美國專利審理暨訴願委員會(PTAB)」?

  專利審理暨訴願委員會(Patent Trial and Appeal Board, PTAB)成立於2012年9月16號。其成立之法源為《美國發明法案》(Leahy-Smith America Invents Act, AIA),承接「專利訴願暨衝突委員會」(Board of Patent Appeals and Interferences, BPAI)事務,成為美國專利商標局(United States Patent and Trademark Office,USPTO)下轄職司專利審理與訴願等相關程序的組織。PTAB主要可以分成「專利審理部門」(Trials)和「專利訴願部門」(Appeals)。   「專利審理部門」處理有爭議的案件,囊括四種處理方式: 專利授予後複審(Post-Grant Review, PGR)   除了專利所有權人的任何人,可以在專利公告或發證後9個月內提出,惟之前不得就專利無效提出訴訟。無效理由只要一項請求不具專利性即可,不需要是實質新問題(Substantial New Questions, SNQ)。但不可匿名,需揭露實質利益關係人。 多方複審程序(Inter Partes Review, IPR)   在發證後9個月後才可提出,且必須是PGR終結後、提出確認之訴(Declaratory Judgment)之前、或被控侵權的1年內提出申請。且僅能以核准專利及公開文獻作為證據。 含商業方法專利的過渡性方案(Transitional Program for Covered Business Method Patents, CBM)   這是對所授予的商業方法專利的過渡型條款,將商業先使用抗辯(Prior Commercial Use Defense)擴大適用到所有專利的商業使用行為,不再侷限在方法專利。IPR、CBM類似於我國的舉發制度,只是 CBM 僅能就商業方法專利提出。 申請人/發明人調查程序(Derivation Proceedings)   以往發明人身分爭議多仍以訴訟解決,原因之一為,過去程序係釐清誰先想到該構想或實踐該構想而非釐清原創者為誰。申請人調查程序將俾利身分的釐清。   「專利訴願部門」則是由超過一百位專利行政法官(Administrative Patent Judges)所組成,處理與被駁回專利申請相關的訴願。按 35 U.S.C. § 141(a),訴願人可以就PTAB的訴願結果,向美國聯邦上訴法院(United States Court of Appeals for the Federal Circuit, CAFC)提起訴訟;後續,可就聯邦上訴法院之判決,再上訴至最高法院(Supreme Court)。

從Advantek 與Walk-Long寵物屋之爭了解美國聯邦巡迴上訴法院之設計專利禁反言判斷原則

  一般實務上較熟悉發明或新型專利在申請過程中,調修權利範圍與其後訴訟禁反言之關聯性,然而在設計專利申請過程中,圖式的調修或圖式組合的選取對往後訴訟在權利範圍主張所造成的影響,在實務上則相對不明確。而美國聯邦巡迴上訴法院(the United States Court of Appeals for the Federal Circuit, 簡稱CAFC)在2018年8月1日對「Advantek Mktg., Inc. v. Shanghai Walk-Long Tools Co., Ltd.」一案作出判決,依循了設計專利禁反言之判斷原則,這也是CAFC根據此判斷原則所作出的第二個判決。   Advantek Mktg., Inc.(後稱Advantek)擁有「寵物屋(Gazebo)」美國設計專利(D715,006,後稱系爭專利),其認為Walk-Long Tool Co., Ltd.(後稱Walk-Long)之「有蓋寵物屋」產品(後稱系爭產品)侵權,因此在2016年提出專利侵權訴訟。一審中,Walk-Long指出Advantek在專利審查過程中選擇放棄「附蓋寵物屋」之圖式,是故意放棄專利範圍(intentionally surrendered patent claim scope)以取得專利,而根據禁反言原則認為Advantek申請階段已放棄附蓋之設計態樣因此無法主張權利,地方法院認同Walk-Long。   Advantek提起上訴,CAFC根據其於2014年判決中所提出之設計專利禁反言判斷原則:(1)是否有放棄專利範圍;(2) 該放棄是否以專利性為由而提出;(3)被控侵權產品是否落入該放棄之範圍中,認為系爭產品並不符合第三點,即未落入所放棄之圖式範圍,亦即系爭專利之範圍為寵物屋骨架結構(skeletal structure),不論系爭產品是否有其他特徵(是否附有蓋)皆落入系爭專利之權利範圍;此外,根據2016年最高法院在「Samsung v. Apple」案中針對複數構件之產品認定專利侵權範圍時,是以部分構件而非完整產品進行檢視,亦即系爭產品僅須一部分與系爭專利一致便落入專利範圍,而非以產品整體視之,並據此兩觀點駁回地院判決。   本案重點在於,專利申請過程中審查委員發現一案多實施例的情況提出選取要求(restriction requirement),當申請人選取部分圖式為產品之核心設計形成較大的專利範圍(如本案選擇的寵物屋骨架結構),並不會造成禁反言,當禁反言在調修或選取時限縮專利範圍才會成立。此外,建議設計專利之申請範圍係以核心設計或主要設計特徵而非納入產品之整體設計,如此未來主張權利範圍將相對寬廣。 「本文同步刊登於TIPS網站(https://www.tips.org.tw)」

日本人工智慧(AI)發展與著作權法制互動課題之探討

  日本著作權法第2條第1項第1款規定對著作物定義中,創作性之表現必須為具有個人個性之表現,日本對於無人類行為參與之人工智慧創作物,多數意見認定此種產品無個性之表現,非現行著作權法所保護之產物。人工智慧之侵權行為在現行法的解釋上,難以將人工智慧解釋其本身具有「法人格」,有關人工智慧「締結契約」之效力為「人工智慧利用人」與「契約相對人」間發生契約之法律效果。日本政府及學者對人工智慧之探討,一般會以人工智慧學習用資料、建立資料庫人工智慧程式、人工智慧訓練/學習完成模型、人工智慧產品四個區塊加以探討。日本政策上放寬著作權之限制,使得著作物利用者可以更加靈活運用。為促進著作之流通,在未知著作權人之情況下,可利用仲裁系統。在現今資訊技術快速成長的時代,面對人工智慧的浪潮,日本亦陸續推出相關人工智慧研發等方針及規範,對於爾後之發展值得參酌借鏡。

數位基礎建設的挑戰與未來-以歐盟「如何掌握歐洲的數位基礎建設需求?」白皮書為中心

數位建設在數位化浪潮以及AI來臨的年代,顯得非常重要,也是世界各國重視的議題之一,歐盟於2024年2月提出了「如何掌握歐洲的數位基礎建設需求?」(WHITE PAPER How to master Europe's digital infrastructure needs?)白皮書來匯集專家意見至6月30日止。 數位基礎建設所涵範圍甚廣,包含資訊科技所有的技術系統以及網際網路等等。如果沒有這些建設,將無法順利完成數位轉型及提升競爭力,況且人工智慧以及物聯網時代的到來,正在改變全球消費者的習慣,因此落實數位基礎建設佈建具有相當之必要性。白皮書開門見山地提到數位基礎建設的諸多優點,但要完成目標,需克服許多難題。 數位基礎建設的佈建需投入大量資金,更需仰賴公私協力才可順利達標,因此難題主要圍繞在企業實力以及是否能夠有相當之吸引力,促使企業投資者以龐大的金流支援,而企業投資者之目標以獲利為原則,因此如果要吸引大量投資人進場,必須提出成功施行並獲利的案例來拋磚引玉。白皮書內也提到,歐洲境內固網行動匯流尤其光纖及5G網路覆蓋率較世界各國來的低,且歐盟因為成員國眾多,缺乏單一的市場,難統籌規範,更何況歐盟對於複雜的數位基礎建設生態中,針對參與者沒有明確規範,諸如投入電子通訊網路建置之雲端供應商其權利義務關係,使得參與者無所適從,如何去克服這些絆腳石將會是歐盟的重大挑戰。 為克服數位基礎建設的難題,白皮書建議以三個支柱作為框架,其一為打造共同連結的運算網路系統(Connected Collaborative Computing)作為歐盟經濟體的中樞神經;其二為建立單一的數位市場,整合各國市場機制並建立完善法規制度;最後為所有數位基礎建設須安全且富有韌性,否則遭到攻擊,將會威脅歐盟各國。 數位化的時代,不僅可提提升運作效能,更能促進永續發展,然而工欲善其事,必先利其器,數位基礎建設為不可少之一環,鑒於我國推動數位建設佈建也可能面臨投資誘因的難題,歐盟白皮書所提到的建議以及後續的發展,或許值得我國持續關注。

TOP