美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/06/20)
引註此篇文章
你可能還會想看
英國Ofcom公佈光纖網路備援電池之管制指引

  因預期超高速網路在英國將被廣泛佈建,Ofcom於2011年6月啟動諮詢程序,徵詢各界光纖網路備援電池的管制指引,以確保消費者的緊急電話服務;並於同年12月公佈諮詢結果與更新管制指引。   英國境內光纖到終端(FTTP)服務的覆蓋率已達到58%,雖得以提供消費者更高速的上網與影音內容,但卻有停電時無法運作的先天缺陷。由於傳統電話運作所需的電力係經由業者機房透過銅絞線供應,故即便消費者終端停電,仍能緊急電話。因此Ofcom曾於2009年要求公眾電話業者(PATS)確保消費者終端有維持供電4小時以上的備援電池,以保障民眾的身家安全。而此項管制則是納入ECN/ECS業者之第3項一般條件的管制中,業者有因而有遵守的義務。   此次徵詢結果,Ofcom確立了以下兩點管制指引: 1. PATS必須確保提供備援電池:PATS若由消費者選擇是否安裝備援電池,將被認為不符義務。若PATS選擇由消費者負擔更換電池之責任,應提供適切指引並確保易於取得電池;若責任由PATS承擔,則應建立適切處理程序。 2. 備援電池最低供電時數降為1小時:主要理由為英國大部分的斷電事件都不超過1小時;且行動電話相當普及,增加了安全保障。而備援電力降為1小時後,將使其電池更輕便和更易分離,因而更易於產製購買、取得與安裝。不過對於歷史上曾發生斷電超過1小時的家戶,PATS仍有義務確保較長時間的備援電力。

歐盟推出《網路韌性法案》補充歐盟網路安全框架

  歐盟為提升網路數位化產品之安全性,解決現有網路安全監管框架差距,歐盟執委會於2022年9月提出《網路韌性法案》(EU Cyber Resilience Act)草案,對網路供應鏈提供強制性網路安全標準,並課予數位化產品製造商在網絡安全方面之義務。該法案亦提出以下四個具體目標:   1.確保製造商對於提升產品之網路安全涵蓋整個生產週期;   2.為歐盟網路安全之合法性創建單一且明確之監管架構;   3.提高網路安全實踐之透明度,以及製造商與其產品之屬性;   4.為消費者和企業提供隨時可用之安全產品。   《網路韌性法案》要求製造商設計、開發和生產各種硬體、有形及軟體、無形之數位化產品時,須滿足法規要求之網路安全標準,始得於市場上銷售,並應提供清晰易懂之使用說明予消費者,使其充分知悉網路安全相關資訊,且至少應於五年內提供安全維護與軟體更新。   《網路韌性法案》將所涵蓋之數位化產品分為三種類別(產品示例可參考法案附件三):I類別、II類別,以及預設類別。I類別產品之網路安全風險級別低於II類別產品、高於預設類別,須遵守法規要求之安全標準或經由第三方評估;II類別為與網路安全漏洞具密切關連之高風險產品,須完成第三方合格評估始符合網路安全標準;預設類別則為無嚴重網路安全漏洞之產品,公司得透過自我評估進行之。法案另豁免已受其他法律明文規範之數位化產品,惟並未豁免歐洲數位身份錢包、電子健康記錄系統或具有高風險人工智慧系統產品。   若製造商未能遵守《網路韌性法案》之基本要求和義務,將面臨高達1500萬歐元或前一年度全球總營業額2.5%之行政罰鍰。各歐盟成員國亦得自行制定有效且合於比例之處罰規則。

新加坡智慧財產局研究顯示,智慧財產對於企業經營獲利的重要性

新加坡智慧財產局(Intellectual Property Office of Singapore, IPOS)2023年5月發布了一份名為《品牌、專利與企業績效表現的研究報告》(Brands, patents and company performance study),分別針對全球前100大上市公司及新加坡前100大上市公司進行分析,說明智慧財產等無形資產對於企業發展的重要性。 首先,IPOS在報告中對全球前100大上市公司進行分析,若該上市公司同時名列「全球500大最有價值品牌」(英國知名品牌諮詢機構Brand Finance每年發布)及/或「全球專利前250強」(美國知名專利研究公司IFI CLAIMS Patent Services每年發布),報告中將這類上市公司定義為持有最有價值品牌或最強專利組合的企業。這類企業與全球前100大上市公司中的其他企業相比,平均收入(revenue)是其他企業的2.2倍、淨利(net profit)是其他企業的1.9倍、市值(market capitalisation)是其他企業的2.3倍。 其次,本報告以新加坡前100大上市公司為分析對象,其中持有最有價值品牌(同時名列「新加坡100大最有價值品牌」)及/或最強專利組合(根據PatSnap專利資料庫的檢索資料定義)的上市公司,與新加坡前100大上市公司中的其他企業相比,平均收入是其他企業的2.4倍、淨利是其他企業的1.8倍、市值是其他企業的2.7倍。 由新加坡發布的報告可知,品牌或專利等無形資產對於企業維持競爭優勢的重要性,企業應將智慧財產布局與管理列為公司治理的重點,持續確保企業無形資產的價值(譬如企業若未持續落實商標布局與管理,將會削弱品牌價值),以強化企業的競爭力。 本文同步刊登於TIPS網站(https://www.tips.org.tw)

ZapMedia控告蘋果iTunes和iPod專利侵權

  總部位於亞特蘭大的ZapMedia媒體服務公司於2008年3月12日向美國德州東區地方法院控告Apple的iTunes線上音樂店與iPod音播放器侵害ZapMedia專利技術,其申請的兩項專利,先後於2006年3月(專利號7,020,704)與ZapMedia提申訴訟前一日2008年3月11日(專利號7,343,414)獲取美國專利權。   就ZapMedia提出爭議技術,主要透過伺服器向多媒體播放器傳送音樂和其他數位電子內容,其專利主要包含一媒體程式庫資料庫伺服器,使用者可經由一或多個通訊網路存取伺服器中主要程式庫內多媒體資料。其伺服器中包含複數個多媒體播放器,以供存取多媒體資料之用。每個多媒體播放器包含一處理器以執行客戶端應用程式,使用者可經授權許可運用其多媒體資料。ZapMedia技術開發後陸續向全球多家科技和媒體公司推銷,其中亦包括Apple。ZapMedia指出,Apple沒有徵求ZapMedia同意,分別於2001年10月推出iPod MP3和iTunes連結的播放器,以及2003年4月推出iTunes線上音樂店。就市場研究單位「NPD集團」分析指出,iTunes的成功,促使Apple在美國僅次沃爾瑪百貨(Wal-Mart)成為第二音樂零售業者。故ZapMedia要求Apple應依去年iTunes和iPod銷售額約110億美元補付ZapMedia權利金。   ZapMedia指出從2006年6月至2007年秋天已試圖多次與Apple協商,並請Apple購買許可證,以授權方式有效使用ZapMedia的專利技術。然而Apple對此無表達任何意見,使得Zap採取提申訴訟動作。

TOP