美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度

2024年3月27日,美國商務部國家電信和資訊管理局(National Telecommunications and Information Administration, NTIA)發布「人工智慧問責政策報告」(AI Accountability Policy Report),該報告呼籲對人工智慧系統進行獨立評估(Independent Evaluations)或是第三方評測,期待藉此提高人工智慧系統的透明度。

人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法,分別如下:

1.人工智慧稽核指引:聯邦政府應為稽核人員制定適合的人工智慧稽核指引,該指引須包含評估標準與合適的稽核員證書。

2.改善資訊揭露:人工智慧系統雖然已經應用在許多領域,但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤(Nutrition Label)的方式,使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。

3.責任標準(Liability Standards):聯邦政府應盡快訂定相關責任歸屬標準,以解決現行制度下,人工智慧系統造成損害的法律責任問題。

4.增加第三方評測所需資源:聯邦政府應投入必要的資源,以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如:

(1)資助美國人工智慧安全研究所(U.S. Artificial Intelligence Safety Institute);

(2)嚴格評估所需的運算資源與雲端基礎設施(Cloud Infrastructure);

(3)提供獎金和研究資源,以鼓勵參與紅隊測試的個人或團隊;

(4)培養第三方評測機構的專家人才。

5.開發及使用驗證工具:NTIA呼籲聯邦機關開發及使用可靠的評測工具,以評估人工智慧系統之使用情況,例如透明度工具(Transparency Tools)、認驗證工具(Verification and Validation Tools)等。

6.獨立評估:NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管,特別是可能侵害權利或安全的模型,應在其發布或應用前進行評測。

7.提升聯邦機關風險管控能力:NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊,並根據需求提供評測、認證與文件紀錄。

8.契約:透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。

NTIA將持續與利害關係各方合作,以建立人工智慧風險的問責機制,並確保該問責報告之建議得以落實。

相關連結
你可能會想參加
※ 美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9201&no=55&tp=1 (最後瀏覽日:2026/11/18)
引註此篇文章
你可能還會想看
英國發布「人工智慧:機會與未來決策影響」政策報告,並聚焦人工智慧運用及管理

  英國科學辦公室於2016年11月9日,發布一份政策報告:「人工智慧:機會與未來決策影響(Artificial intelligence: opportunities and implications for the future of decision making)」,介紹人工智慧對於社會及政府的機會和影響,此份政策報告並提出以下各項重要建議: (一)關於人工智慧及應用界定與發展   人工智慧是指由人工製造系統所表現出來的智慧。不僅是將現有的流程自動化,還包含制定目標,並利用電腦程式實現這些目標,常見案例包括線上翻譯、語音辨識、搜尋引擎篩選排序、垃圾郵件過濾、透過用戶回饋改善線上服務、預測交通流量、環境或社會經濟趨勢發展觀察等。 (二)未來對社會及政府利益及衝擊   人工智慧針對提高生產力有巨大的潛力,最明顯的就是幫助企業或個人更有效地運用資源,並簡化大量資料的處理,例如Ocado 及 Amazon這樣的公司正充份利用人工智慧改善倉儲及銷售網路系統,使得客戶可便利快速購得網購商品。   目前,政府也日益增加相關技術的運用,以提高公共服務效率,使資源達到最佳化分配;減少決策者被誤導的可能;使政府決策透明化;確保各部門更了解人民的意見。然政府在利用人工智慧及巨量資料時,應遵守倫理使用指南,並遵守英國資料保護法及歐盟一般資料保護規則等相關法規。   在巨量資料、機器人、自動系統對於勞動市場的衝擊一直都是關注的議題,對於面臨未來工作結構的轉型及相關技術人員的進修及培養,應及早規劃,以適應未來的轉變。 (三)關於相關道德及法律風險管理課題   人工智慧可能潛在相關道德倫理問題。許多專家認為政府應積極管理並降低風險發生可能性,可從以下兩個面向思考: (1)研究機器學習與個人資料運用結合時,對個人自由、隱私和同意等概念的影響。 (2)調適由人工智慧作決策行為時的歸責概念和機制。   有關實際案例之研究,則包括,執法單位在應用預測技術時,應避免以種族、國籍、地址作為標準,並嚴守無罪推定原則,以防止民眾受到歧視或不公平的指控;透過人工智慧可從公開資料推測出某些私人訊息或其親朋好友的消息,此訊息即可能超出原先個人同意披露的內容;原先匿名化及去識別化的訊息,因人工智慧功能加強,導至可能被重新識別,故須定期檢視該保護措施是否足夠。另外,人工智慧的演算偏差可能導致偏見的風險,為了降低這種風險,技術人員應採取對應措施。   針對責任及疏失的判斷,目前尚無太多的實務案例,但為保持對使用人工智慧的信任,仍需有明確的歸責制,可能有必要讓首席執行長或高級主管對人工智慧做出的決策負最終責任。許多專家也建議,部分技術內容須保持透明度,以確定技術使用時是否有盡到相關注意義務。   人工智慧已成為未來發展趨勢之一,對於社會整體層面影響將越來越深,新的技術除了可提升生產力,帶來便利的生活,同樣也會帶來衝擊。為促進相關產業發展及推展新技術的使用,應打造技術發展友善環境,並對於公眾安全進行相關風險評估,如果風險屬於現有監管制度範圍,應評估是否可充分解決風險,或是須要做相對應的調適。另外,在人工智慧融入現實世界同時,相關業者應注意相關產品安全性、隱私權保護和從業人員的倫理教育,以提高大眾對新技術的接受及信賴,並確保對於未來挑戰及轉變已做好萬全準備。

不爽貓著作權與商標侵權及違約訴訟贏得71萬美元賠償

  不爽貓(Grumpy Cat)於2012年於社群網站曝光後爆紅後,不爽貓主人辭去工作成立「不爽貓公司(Grumpy Cat Limited)」,專心經營不爽貓事業並推出馬克杯、服飾等週邊產品,以及參與各類跨界合作等。   2013年「手榴彈飲料公司(Grenade Beverage)」以15萬美元合約取得不爽貓圖像之授權,得以販售以「Grumpy Cat Grumppuccino」為名且印有不爽貓圖像之冰咖啡品項。然而在2015年「不爽貓公司」發現該圖像進而印製在烘焙咖啡與T恤上,已超出原本約定之使用範圍,而對「手榴彈飲料公司」提出著作權及商標之侵權及違約訴訟。   「手榴彈飲料公司」負責人桑福德父子(Nick and Paul Sandford)反訴主張「不爽貓公司」未如當初規畫盡公司營運之協助,造成「手榴彈飲料公司」潛在之營收損失而求償1,200萬美元,包括:未讓不爽貓與喜劇演員威爾法洛(Will Ferrell)及傑克布萊克(Jack Black)參與電影演出、「不爽貓公司」僅在社群網站張貼17則冰咖啡之行銷貼文、「不爽貓公司」不重視冰咖啡事業因而在脫口秀節目中脫稿演出等。   然而,加州南區聯邦地方法院陪審團並未因以上指控而猶疑,認定「手榴彈飲料公司」負責人侵害「不爽貓公司」之著作權與商標,應支付71萬美元作為賠償,至於違反授權約定部分則以1元作為象徵性賠償。 「本文同步刊登於TIPS網站(https://www.tips.org.tw)」

韓國最高法院宣告撤銷製藥公司含有「LEGO」名稱的註冊商標

韓國最高法院2023年12月8日宣告著名積木玩具樂高公司(LEGO Juris A/S)提起撤銷註冊商標「LEGOCHEMPHARMA」的上訴審判結果,確認韓國製藥商樂高生技有限公司(下稱LegoChem Bio)的註冊商標無效,因該註冊商標包含LEGO字樣,存有減損樂高公司「LEGO」商標識別性之虞,構成侵害商標權。 科斯達克上市公司LegoChem Bio於2015年11月申請「LEGOCHEMPHARMA」商標註冊,用以提供藥物開發服務,隨後樂高公司提出異議,聲稱該商標與其「LEGO」商標近似,該商標因此被駁回。據此,LegoChem Bio向智慧財產權審判及上訴委員會(IPTAB)提出上訴,並於2018年9月取得商標註冊。其後,樂高公司於2020年3月向智財法院提起訴訟,主張商標權受到侵害,請求撤銷「LEGOCHEMPHARMA」商標註冊,法院判決該註冊無效,LegoChem Bio因此向最高法院提起上訴。 首先,最高法院認為「LEGOCHEMPHARMA」(下稱系爭商標)的關鍵識別部分為「LEGO」,而「CHEM」和「PHARMA」僅是化學和製藥領域的名稱,沒有特殊的識別性。其次,依韓國《商標法》規定,第34條第1項第11款規定「可能與消費者高度認識的他人商品或服務造成混淆誤認,或損害其識別性或聲譽之虞的商標」不得註冊商標。最高法院認為系爭商標與樂高公司的高知名度和高識別性商標「LEGO」非常近似,被告LegoChem Bio申請註冊系爭商標之目的可能是為引起與先使用商標「LEGO」之聯想。因此判決系爭商標註冊無效,且應視為有損害著名商標識別性之虞。 本案攻防戰可看出商標取得、保護對於品牌之生存發展具有重要影響,有關品牌發展各階段應留意的風險與建議作法,企業可參考資策會科法所創意智財中心出版的商標專書「TOP品牌商標管理術!新創業到老字號都適用」,可藉由該書收錄的經典國內外品牌商標管理方式與時事案例,跟上品牌商標管理趨勢,其中的品牌商標管理工具,亦得直接應用於實務工作,輔助建置品牌商標管理機制,保護品牌獨特性、穩固品牌競爭力,為品牌經營帶來加乘效益。 本文同步刊登於TIPS網(https://www.tips.org.tw)

美國最高法院對間接侵權及專利說明之定義作出最新判決見解

  為了減少美國專利訴訟泛濫,及防止專利蟑螂輕易向他人提起專利訴訟,美國最高法院在2014年6月 對兩件專利訴訴訟案進行判決,此決定也對專利權人及專利蟑螂不利。   首先,最高法院針對Limelight Networks v. Akamai Technologies否決聯邦上訴法院的判決。聯邦法院認為Limelight雖然沒有使用Akamai商業方法中每一個過程步驟之專利,但其使用其方法專利之其中方法就算造成間接侵權(induced infringement)。然最高法院認為,聯邦法院的判決對於間接構成侵權有誤解,Limelight所使用的商業方法並沒有引導間接構成侵權。此決定對於現今網路科技盛行之時代有很重要的影響,更防止不實施專利體及專利蟑螂隨意對潛在對象提起專利訴訟。   另一個案件為Nautilus, Inc. v. Biosig Instruments, Inc,最高法院亦駁回聯邦上訴法院之判決,對於專利說明(patent claim)的內容清楚性作出新的說明。聯邦上訴法院在此案中對於專利法第112條中專利說明的要求作出解釋,認為凡是專利說明不會難以解釋且模糊(insolubly ambiguous),專利說明皆可符合專利法規定。但最高法院採不同見解,認為聯邦法院的見解不符合專利法之規定,規定專利說明的內容必須要合理且明確,使可符合專利法的要求。此決定對於專利蟑螂尤其是一大打擊,過往專利蟑螂多以模糊的專利說明來進行專利訴訟,但今後要求明確的專利說明,讓雙方有更清楚的專利說明依據進行專利訴訟。

TOP