美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度

2024年3月27日,美國商務部國家電信和資訊管理局(National Telecommunications and Information Administration, NTIA)發布「人工智慧問責政策報告」(AI Accountability Policy Report),該報告呼籲對人工智慧系統進行獨立評估(Independent Evaluations)或是第三方評測,期待藉此提高人工智慧系統的透明度。

人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法,分別如下:

1.人工智慧稽核指引:聯邦政府應為稽核人員制定適合的人工智慧稽核指引,該指引須包含評估標準與合適的稽核員證書。

2.改善資訊揭露:人工智慧系統雖然已經應用在許多領域,但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤(Nutrition Label)的方式,使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。

3.責任標準(Liability Standards):聯邦政府應盡快訂定相關責任歸屬標準,以解決現行制度下,人工智慧系統造成損害的法律責任問題。

4.增加第三方評測所需資源:聯邦政府應投入必要的資源,以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如:

(1)資助美國人工智慧安全研究所(U.S. Artificial Intelligence Safety Institute);

(2)嚴格評估所需的運算資源與雲端基礎設施(Cloud Infrastructure);

(3)提供獎金和研究資源,以鼓勵參與紅隊測試的個人或團隊;

(4)培養第三方評測機構的專家人才。

5.開發及使用驗證工具:NTIA呼籲聯邦機關開發及使用可靠的評測工具,以評估人工智慧系統之使用情況,例如透明度工具(Transparency Tools)、認驗證工具(Verification and Validation Tools)等。

6.獨立評估:NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管,特別是可能侵害權利或安全的模型,應在其發布或應用前進行評測。

7.提升聯邦機關風險管控能力:NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊,並根據需求提供評測、認證與文件紀錄。

8.契約:透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。

NTIA將持續與利害關係各方合作,以建立人工智慧風險的問責機制,並確保該問責報告之建議得以落實。

相關連結
你可能會想參加
※ 美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9201&no=57&tp=1 (最後瀏覽日:2026/11/17)
引註此篇文章
你可能還會想看
美國猶他州針對未成年人使用社群媒體之新禁令

美國猶他州州長柯克斯(Spencer Cox)於2023年3月23日簽署參議院152號法案(社群媒體規則修正案,Social Media Regulation Amendments)與眾議院311號法案(社群媒體使用修正案,Social Media Usage Amendments)等兩項法案,此舉是為了因應美國青少年日益沉迷社群媒體的問題,降低網路霸凌、剝削與未成年人個資外洩之風險。新法預計於2024年3月1日生效,兩項法案所提列之重點如下: 一、參議院152號法案針對社群媒體業者,要求其對於社群媒體應用程式之用戶,應採取以下措施: 1. 對於想要創設或持有社群媒體帳號之猶他州居民,須驗證其年齡。 2. 未滿18歲的用戶,須獲得父母或監護人的同意。 3. 允許家長有查看未滿18歲子女帳號內容之權限。 4. 訂定宵禁機制,於夜間(晚上10:30至早上6:30)禁止未成年登入使用帳號,但家長可視情形調整。 5. 禁止未成年用戶,向未曾關注或加好友的陌生人直接發送訊息。 6. 須於搜尋引擎中隱藏未成年人帳號。 7. 若違反上述內容,每項違反處以業者2,500美元之民事罰款。 二、眾議院311號法案針對「有使用導致未成年人成癮(Addiction)於社群媒體之設計或功能」之業者,訂定以下相關裁罰: 1. 經證明會導致未成年人對社群媒體成癮之行為、設計或功能,針對每項行為、設計或功能,處以業者25萬美元之民事罰款。 2. 若使未成年人接觸而致其成癮者,依未成年人數計算,每位最高可罰款2,500美元。 3. 允許父母得以其未成年子女因成癮致其身體、情感與財產上之損害為由,起訴社群媒體業者。 4. 若為未滿16歲之用戶依本法請求損害賠償者,媒體業者將推定過失責任,亦即由業者負舉證責任。 兩項法案皆是為保護美國18歲以下的未成年人,要求IG、TikTok、Twitter、Facebook等社群媒體一定作為與不作為之義務,若有違反情形,猶他州商務部消費者保護司(DCP)有權限對其違規行為處以民事罰款。上述美國法案針對未成年之保護,以透過規定使平臺業者設計出更優質、更完善的程式介面之觀點,可作為我國未來針對社群媒體監管措施之借鏡與觀察。

美國聯邦通訊委員會與國家科學基金會以及國家電信暨資訊管理局簽署合作協議,以展現對頻譜革新倡儀的支持

  美國聯邦通訊委員會(Federal Communication Commission, FCC)於2021年2月1日與美國國家科學基金會(National Science Foundation, NSF)以及美國國家電信暨資訊管理局(National Telecommunications and Information Administration, NTIA)共同簽署合作協議,展現對NSF於2020年所發起的頻譜革新倡儀(NSF Spectrum Innovation Initiative)的支持,其目的在於美國面臨對頻譜使用的需求量增加之際,能在頻譜的研究與發展尋求創新的進步。   頻譜革新倡儀將致力於頻譜的研究與創新,具體行動如下: 建置國家無線電動態區域(National Radio Dynamic Zones, NRDZ):藉由建立新的前導測試的測試範圍,使研究人員得對頻譜的使用者進行動態頻譜(dynamic spectrum)的研究和開發; 國家頻譜創新和勞動力發展計畫:建立頻譜相關研究人員聯繫管道,並增加頻譜相關勞動力,以支持未來頻譜之相關產業發展; 頻譜研究活動:藉此發展出更多涉及頻譜的應用,特別是跨領域性質的研究活動; 教育和勞動力發展計畫:透過教育和培訓計畫培養兼具專業且多元性的頻譜相關勞動力。   此份合作協議,目的在確保FCC和NTIA的專業人員可以提供其關於頻譜的專業知識,以幫助確保頻譜革新倡議在頻譜的研究、基礎設施和勞動力方面的投資與開發,能符合美國聯邦政府對頻譜的監管、政策目標、原則和策略。

加拿大上訴法院判決”iPod tax”違法

加拿大上訴法院判決MP3播放器不在空白錄印媒體複製著作權物課稅的範疇,本案仍有上訴最高法院之可能。   根據本案審判法官Mr. Justice Marc Noel之見解,其認為雖然加拿大著作權法允許加拿大著作權委員會(Copyright Board of Canada)對空白可複製媒體(Blank Media)課稅,然法條中並未允許其可課徵MP3播放器製造商類似的費用。   Noel法官坦承其亦認知到,著作權委員會是本著希望補償著作權人因為點對點網路下載而致生損害的立場,惟重點在於「主管機關仍應依法行政。」就此而論,對 MP3播放器交易加以課稅仍非合法。   2003年12月加拿大開始針對可複製媒體課稅,而著作權委員會進而主張,MP3播放器製造業者每賣一部少於1GB容量的播放器應被課以2美元、1至10GB容量者課以15美元,以及超過10GB容量之播放器課以25美元,以補償著作權人因為點對點網路複製音樂所生的損失。   根據加拿大著作權法,著作權委員會可針對空白重製媒體進行課稅以補償著作權人因為個人目的重製(Private Copying)所生之損失,2000年開始針對可複製CD媒體課稅,包括空白影音帶。   播放器業者想當然並不接受這項義務的課予,因此起訴,而 本案判決的結果可預見將造成MP3播放器業者的降價行為。同時,一些將課稅所得分配與著作權人(包括演奏家或唱片公司)的機構,如加拿大個人重製組織(Canadian Private Copying Collective),已在評估是否將上訴至最高法院。不過至少,他們有可能將遊說加拿大政府以修正著作權法之方式,將MP3播放器的情形納入,以及若有可能,將未來類似性質之商品一併納入考量。

美國專利商標局「中國大陸商標與專利」報告

  美國專利商標局(USPTO)於2021年1月13日發布「中國大陸商標與專利:非市場因素對申請趨勢與智財體系之影響」(Trademarks and Patents in China: The Impact of Non-Market Factors on Filing Trends and IP Systems)研究報告,指出中國大陸近年來急遽增加的專利與商標申請案件數,從申請海外專利保護比率低、專利發明商業化比率低以及惡意(bad-faith)或詐欺性(fraudulent)商標申請案件比率高等現象觀察,申請案件數的爆量很有可能源自政府補貼或其他非市場因素的影響。   USPTO指出,中國大陸在2019年的專利與商標申請案件數均達到歷史新高,包含商標案件數達780萬件、發明專利申請案件數達150萬件,已經接近全球申請案件數的一半,也引起國際的關注。有別於其他國家因創新活動熱絡所帶動的專利及商標申請案件量增長,中國大陸在2020年世界智財組織(WIPO)所統計的智財授權比率僅排名第44,顯示中國大陸在智財商業化比率極低,其專利與商標申請案件數的暴增可能源於其他非市場因素。   USPTO指出,政府補貼可能是刺激商標與專利申請案件數增長的最大原因,由於中國大陸中央與地方政府持續推動商標補貼措施,補貼金額通常高於商標註冊費用,進而引導人民大量註冊非為商業使用之商標,在專利申請上也有類似的情況,中國大陸政府推動超過195個專利補貼措施,創造了以申請專利賺取補貼的誘因。這些非市場因素的商標及專利申請案件,除了可能誤導對於中國大陸創新能力的評估外,也正在破壞保護真正創新活動的能量。

TOP