美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度

2024年3月27日,美國商務部國家電信和資訊管理局(National Telecommunications and Information Administration, NTIA)發布「人工智慧問責政策報告」(AI Accountability Policy Report),該報告呼籲對人工智慧系統進行獨立評估(Independent Evaluations)或是第三方評測,期待藉此提高人工智慧系統的透明度。

人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法,分別如下:

1.人工智慧稽核指引:聯邦政府應為稽核人員制定適合的人工智慧稽核指引,該指引須包含評估標準與合適的稽核員證書。

2.改善資訊揭露:人工智慧系統雖然已經應用在許多領域,但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤(Nutrition Label)的方式,使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。

3.責任標準(Liability Standards):聯邦政府應盡快訂定相關責任歸屬標準,以解決現行制度下,人工智慧系統造成損害的法律責任問題。

4.增加第三方評測所需資源:聯邦政府應投入必要的資源,以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如:

(1)資助美國人工智慧安全研究所(U.S. Artificial Intelligence Safety Institute);

(2)嚴格評估所需的運算資源與雲端基礎設施(Cloud Infrastructure);

(3)提供獎金和研究資源,以鼓勵參與紅隊測試的個人或團隊;

(4)培養第三方評測機構的專家人才。

5.開發及使用驗證工具:NTIA呼籲聯邦機關開發及使用可靠的評測工具,以評估人工智慧系統之使用情況,例如透明度工具(Transparency Tools)、認驗證工具(Verification and Validation Tools)等。

6.獨立評估:NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管,特別是可能侵害權利或安全的模型,應在其發布或應用前進行評測。

7.提升聯邦機關風險管控能力:NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊,並根據需求提供評測、認證與文件紀錄。

8.契約:透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。

NTIA將持續與利害關係各方合作,以建立人工智慧風險的問責機制,並確保該問責報告之建議得以落實。

相關連結
※ 美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9201&no=57&tp=1 (最後瀏覽日:2026/01/31)
引註此篇文章
你可能還會想看
美國2016年製造創新策略方案

  依2014年復甦美國製造與創新法(RAMI Act of 2014),美國國家製造創新網絡計畫於2016年2月公布策略方案(Strategic Plan)。國家製造創新網絡有四大目標:以「提升製造競爭力」為終極目標,其他三個目標分別為「促進技術轉型」、「加速製造業人力發展」、以及「確保穩定與永續之基礎建設」。在「促進技術轉型」方面,旨在促進創新技術朝向具備可適性、擁有成本效益、以及高效能之國內製造業量能的方向轉型。由於不同的製造整備度(manufacturing readiness levels)對應不同的技術整備度(technology readiness levels),且國家製造創新網絡有其設定之目標範圍,因而研發機構被預期能夠促進技術轉型的亦有差異。   行政院於民國105年7月核定通過「智慧機械產業推動方案」,透過「智機產業化」與「產業智機化」來建構智慧機械產業生態體系。智慧機械將結合半導體先進製程、精密醫療機械加工與智慧服務型機器人、以及航太與造船軍民通用技術應用,分別對應帶動亞洲矽谷、生技醫藥、以及國防等創新產業政策。透過智慧機械帶動整體產業發展,從精密走向智慧、從單機走向系統,以提高整體產業之產值

什麼是「瑞典創新夥伴計畫」?

  瑞典創新夥伴計劃(Innovation partnership programmes),起源於瑞典企業與創新部下屬的國家創新委員會所強調的三個社會挑戰:數字化,環境氣候變遷和人口老齡化。創新夥伴計畫最重要的任務,在於公部門、企業界和學術界間的交流,為社會挑戰尋求創新解決方案,同時加強瑞典的全球創新和競爭力。創新夥伴計畫具體可分為五項重點發展領域。 一、下一代交通:目標是成為運輸效率更高的社會,以智能方式運輸,使用更多的節能型車輛。 二、智慧城市:智慧城市係利用訊息和通訊技術提高政策服務的質量,提升效能和互動性,降低成本和資源消耗,改善公民與政府的聯繫。 三、循環經濟:開創世界資源的新途徑,目標是可持續和無毒的原料生產。包括糧食供應管理、能源問題、及循環生物經濟轉型。 四、生命科學:透過醫療、商業和學術界合作,研發創新藥物,使健保和醫療技術惠及社會,並運用數位技術為強化。 五、新材料:為刺激瑞典工業的廣泛數位化運用,必須在各種成熟行業、新創公司和研究環境中加強夥伴關係,提升瑞典的產業競爭力。

歐盟普通法院駁回可口可樂曲線瓶商標註冊

  可口可樂公司於2011年向內部市場協調局(Office for Harmonisation in the Internal Market, OHIM)申請註冊流線型立體瓶身商標。經OHIM審議後,於2014年3月以本項商標缺乏顯著特徵不具商品區隔性為由,予以駁回申請。為此,可口可樂向歐盟普通法院(EU General Court)提出上訴。   惟法院於日前(2016年2月)做出說明,其判決結果認為立體瓶身並不具備與市場上其他可樂瓶區隔的具體特徵,根據共同體商標條例第7(1)(b)條「若商標缺乏顯著特徵則不允許註冊」。並質疑其所做的市場調查研究,無法證明該瓶身於市場上具有明顯的商品獨特性,不能讓消費者得以一眼看出是可口可樂產品,不符合同條例第7(3)條(足以使商品或服務之相關消費者認識為指示商品或服務來源,得與他人之商品或服務相區別者)排除7(1)(b)之適用條件,基於上述理由判決可口可樂公司敗訴。   透過此案件,一定程度呈現OHIM與歐盟法院在立體商標認定上相對審慎的態度。   在歐盟有關外觀設計與商標的聲請,係依照歐盟「共同體商標條例」(Council Regulation (EC) No. 207/2009)所規範。經申請通過之歐洲共體商標(CTM)註冊,得使產品或服務於全歐盟境內28個會員國享有排他性權利。而過往以販售之商品外觀或形狀申請註冊商標是具有難度的,必須係該外觀及形狀為增加其商品本身的價值或生產技術上所必要的結果,始得有商標註冊的可能。   「本文同步刊登於TIPS網站(https://www.tips.org.tw)」

歐盟公布智慧運輸系統指令授權規則

  歐盟執委會於2019年3月13日針對清潔,聯網和自動化移動戰略,公布智慧運輸系統指令授權規則(Commission Delegated Regulation of 13.3.2019 supplementing Directive 2010/40/EU of the European Parliament and of the Council with regard to the deployment and operational use of cooperative intelligent transport systems),該授權規則(Delegated Regulation)係歐盟執委會為執行智慧運輸系統指令(ITS Directive)所制訂之相關細則,其目的使執委會與會員國合作提出指導分針,進一步讓各國能夠對自動及聯網化駕駛車輛進行型式認可,以加速相關創新運輸技術於歐洲協同式智慧運輸系統(C-ITS)之發展。其創新技術包含使車輛間可相互「交談」,或與道路基礎設施以及其他道路使用者「交談」,可應用在例如危險情況,道路施工和掌控交通號誌時間,將使公路運輸更安全,更清潔,更高效率。授權規則將符合容克委員會(Juncker Commission),即現任歐盟執委會主席容克領導的執政團隊,其所提出的清潔移動提案( Proposals on clean mobility),是歐盟移動現代化的另一步驟,也為本世紀下半葉的氣候中和(climate neutral)目標,即達到溫室氣體排放總量為零之目標作準備,並持續達到歐盟2050年交通事故近零死亡或零嚴重傷害的目標。   歐盟移動及運輸專員Violeta Bulc表示:「此決定將為車輛製造商,道路營運者和其他人提供一個法源依據,以便於歐洲開始大規模發展C-ITS服務,同時對新技術和市場發展持開放態度。此將極力促進我們實現我們對道路安全的願景,並作為實現聯網化和自動化移動性的重要基礎。」   車輛,交通號誌和高速公路在裝配合規之聯網技術裝置後,可向周圍的所有交通使用者發送標準化之訊息,此將是實現車間通訊的重要里程碑。該授權規則將確保不同系統間擁有協同工作能力,使所有配備該技術的站點能在開放網路中安全地與任何其他站點交換資訊,並讓系統可順利運行,透過車輛間以及車輛和交通基礎設施之間的連接,也能幫助駕駛員做出正確的決策並視交通狀況來改善道路安全性、交通效率及舒適性。

TOP