美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度

2024年3月27日,美國商務部國家電信和資訊管理局(National Telecommunications and Information Administration, NTIA)發布「人工智慧問責政策報告」(AI Accountability Policy Report),該報告呼籲對人工智慧系統進行獨立評估(Independent Evaluations)或是第三方評測,期待藉此提高人工智慧系統的透明度。

人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法,分別如下:

1.人工智慧稽核指引:聯邦政府應為稽核人員制定適合的人工智慧稽核指引,該指引須包含評估標準與合適的稽核員證書。

2.改善資訊揭露:人工智慧系統雖然已經應用在許多領域,但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤(Nutrition Label)的方式,使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。

3.責任標準(Liability Standards):聯邦政府應盡快訂定相關責任歸屬標準,以解決現行制度下,人工智慧系統造成損害的法律責任問題。

4.增加第三方評測所需資源:聯邦政府應投入必要的資源,以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如:

(1)資助美國人工智慧安全研究所(U.S. Artificial Intelligence Safety Institute);

(2)嚴格評估所需的運算資源與雲端基礎設施(Cloud Infrastructure);

(3)提供獎金和研究資源,以鼓勵參與紅隊測試的個人或團隊;

(4)培養第三方評測機構的專家人才。

5.開發及使用驗證工具:NTIA呼籲聯邦機關開發及使用可靠的評測工具,以評估人工智慧系統之使用情況,例如透明度工具(Transparency Tools)、認驗證工具(Verification and Validation Tools)等。

6.獨立評估:NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管,特別是可能侵害權利或安全的模型,應在其發布或應用前進行評測。

7.提升聯邦機關風險管控能力:NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊,並根據需求提供評測、認證與文件紀錄。

8.契約:透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。

NTIA將持續與利害關係各方合作,以建立人工智慧風險的問責機制,並確保該問責報告之建議得以落實。

相關連結
※ 美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9201&no=57&tp=1 (最後瀏覽日:2026/02/19)
引註此篇文章
你可能還會想看
MPAA 藉由 BT 網站伺服器記錄對 P2P(BT) 軟體用戶提起訴訟

  追蹤、定位、起訴,所有 P2P(BT) 軟體使用者的噩夢再次上演。全美製片業團體「美國電影協會」 ( Motion Picture Association of America ; MPAA ) 在 8 月 25 日對美國境內 286 位居民提起訴訟,成為首宗利用 P2P(BT) 網站伺服器記錄 ( server logs ) 追蹤 ( track down ) 盜版電影下載者的案例。   今年 2 月,著名 BT 網站 LokiTorrent 與 MPAA 的大戰告一段落。德州法院下令 LokiTorrent 關閉網站外,並命令 LokiTorrent 將伺服器記錄轉交給 MPAA 的調查員 ( investigator ) 。 MPAA 的發言人聲稱本月 25 日的訴訟與此事件無關,但所有人都明白 MPAA 正是憑此線索,最終找到了 P2P(BT) 用戶的行蹤。好萊塢希望藉此行動阻嚇免費下載電影的行?, MPAA 資深副總裁 John Malcom 聲稱「下載盜版電影的人要當心了,當你為著作權侵害行為時,網路上並不會有朋友站出來替你撐腰。」   儘管 P2P(BT) 軟體背負著助長盜版的惡名,但 P2P(BT) 的合法用途也在逐漸增加,例如使用 P2P(BT) 技術分發 ( distribute ) 開放原始碼軟體 ( open-source software ) ,網路瀏覽器軟體公司 Opera 即在新版的程式中內建了此種技術。 BT 技術的發明人 Bram Cohen 曾警告用戶,使用 P2P(BT) 軟體下載盜版是個蠢主意,因?軟體在設計時並未刻意隱藏用戶的識別資訊,這也是為何 MPAA 此次能憑藉著伺服器記錄對用戶提起訴訟的主要原因。

聯合國推動「全球綠色新政」並倡導各國促進綠色投資及研發活動

  聯合國環境規劃署(UNEP)正式發表「全球綠色新政」(Global Green New Deal)報告,建議各國投入GDP1%(約7,500億美元)資助綠色環境建設及發展,除期使更落實綠色經濟倡議(Green Economy Initiative)內容外,並希望以此帶動綠領就業(Green Collar Job)及促進綠色研發活動蓬勃。     聯合國UNEP於2009年2月對外發表全球綠色新政報告,並倡導五大重要投資領域,包括以下: (1) 提昇各新舊建築物能源使用效率領域之投資。 (2) 再生能源(包括太陽能、風力、地熱能、生質能等)領域之投資。 (3) 永續交通運輸環境(包括氫能汽車、高速鐵路、快速捷運系統等)領域之投資。 (4) 全球性生態構成(包括潔淨水、森林、土壤等)基礎環境領域之投資。 (5) 永續農業(包括有機農產品)領域之投資。     聯合國UNEP並於研究報告中強調:綠色經濟轉向之根本驅動力在於導入相關綠色科技之解決方案,包括各種清潔生產製程、污染防治技術,以及管末和監控技術,涵蓋know-how、流程、商品、服務、設備、組織和管理等,均為綠色經濟蓬勃發展之關鍵環節。     而世界各國關於推動綠色新政投資之規劃行動,如歐盟於2008年11月29日通過經濟振興方案,總預算為2000億歐元(1.5%EU的GDP),方案內容涵蓋4大優先領域,亦即為民眾(people)、商業(business)、基礎建設及能源(infrastructure and energy)、研究與創新(research and innovation),歐盟也呼籲各國應多投入綠色科技研發活動。     而美國2009年2月通過之復甦與再投資法案(American Recovery and Reinvestment Act),亦將綠色新政涵蓋其中,其中編列61.3 billion美元投入「清潔、效率能源方案」,主要係投資於提升能源效率、發展潔淨能源及交通效率及科技研發等。     以外,日本政府於2009年2月亦指示著手研擬「綠色新政」規劃,,預計於6月後向首相提出建議書,以因應氣候變遷及經濟危機威脅等危機。而南韓則是於2009年1月宣布未來4年將投入50兆韓元推動「綠色新政」,並以此投資行動,刺激創造更多的綠色就業機會。

2013年全球智慧財產權申請量顯見成長,中國大陸佔居首要

  世界智慧財產權組織(WIPO)於2014年12月所公布的世界智慧財產權指標(World Intellectual Property Indicators)基準報告指出,商標、工業設計及實用新型的申請量較前一年度成長,並以中國,美國和日本居前三位;另就申請類別而言,總成長比率分別為專利占9%、商標占6.4%、工業設計占2.5%、和植物品種占6.3%。   報告統計結果顯示,2013年全球專利申請案件約260萬件,比起前一年成長了9%,其中,中國大陸占總申請量的三分之一,其次為美國占總申請量的22%,日本申請量達32萬筆,排名為全球第三位。   報告另指出,專利申請領域依序為,電腦技術佔7.6%、電子機械佔7.2%、測量佔4.7%、數位通訊佔4.5%及醫療技術佔4.3%。   除專利外,其他的智慧財產申請情況,商標申請量上升近500萬件,亦以中國大陸排名首要。另工業設計申請案約達124萬筆,較前一年度成長約2.5%,中國大陸占總申請量的53%。   WIPO總幹事Francis Gurry表示,綜觀全球智慧財產申請全貌,中國大陸及美國於智慧財產權申請量仍明顯成長,而相對於歐洲及日本整體申請量則有明顯衰退之趨勢。

歐盟執委會宣布「軟體開源授權及複用」決定

  歐盟執委會於2021年12月8日宣布「軟體開源授權及複用」決定(COMMISSION DECISION on the open source licensing and reuse of Commission software)。本決定規範執委會軟體之開源授權條件與複用方式,其軟體開源授權流程如下: 一、執委會依本決定(下同)第5條授予其軟體的開源授權證應為歐盟公共授權(the European Union Public Licence, EUPL),除因(1)適用第三方軟體的互惠條款,而強制使用其他開源授權證,或替代開源授權證比EUPL更便於人民使用該軟體;(2)適用第三方軟體之授權條款,存在多個開源授權標準(不含EUPL),則應優先選擇授予最廣泛權利的開源授權。 二、透過第8條對智慧財產權進行核實,包括:(1)軟體識別(2)對軟體的智慧財產權進行驗證;及(3)安全驗證。 三、依第6條規定將所有開源軟體置於資料庫,供公民、公司或其他公共服務有潛在利益者取得。   另外,依第四條規定,本規則不適用於以下情形:(1)因第三方智慧財產權問題,無法允許複用的軟體;(2)該原始碼之發布或共享,對執委會、其他歐洲機構或團體的資訊系統或資料庫安全構成實質或潛在風險;(3)因法律規定、契約義務或性質,其內容須被視為機密之軟體;(4)依(EC)1049/2001第4條所列之情形,包含但不限於:因公共利益、國家安全、隱私保護、商業利益、訴訟或審計之利益等,該軟體須被排除,或只能由特定之一方取得或管理;(5)委託由執委會進行研究產生之軟體,若公開將干擾臨時研究結果之驗證或構成拒絕註冊有利於執委會之智慧財產權的理由。

TOP