美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=57&tp=1 (最後瀏覽日:2025/11/01)
引註此篇文章
你可能還會想看
美國國家標準技術局公布聯邦各部會技術研發成果轉化計畫

  美國國家標準技術局(the National Institute of Standards and Technology,NIST) 建立網路專頁,提出聯邦各部會所研發技術的移轉計畫報告,揭示各部會具體執行白宮在去(2011)年10月28日所發布的總統備忘錄(Presidential Memorandum),要求各聯邦實驗室進行技術研發並提高移轉給私部門之比例,以使政府投資之研發成果可以供大眾市場所用,以進一步加速經濟成長與提昇美國產業競爭力。   觀察白宮所發布的政策文件指出,聯邦政府將創新技術研發,視為刺激經濟的一個重要工具,而有效的技術移轉又是成功的技術研發的重要驅動力,故歐巴馬政府啟動美國計畫(Startup America Initiative)將政府研發技術的移轉作為重要支柱之一,並預計於5年內達成具體成績。   於NIST網頁公布之13個聯邦部會所提出之執行計畫,包括各機關自訂目標與評量標準,以評估刺激技術移轉計畫之成效。而作為美國產業技術研發與標準制訂之主要推動機構,NIST的技術移轉計畫將調整技術移轉的定義與內涵,俾更為精確地反應和評估廣泛的技術研發活動。未來NIST將擴張各項衡量指標,如標準參考物質和數據(Standard Reference Materials and Data)、專利授權、共同研究等的追蹤範圍,此外包括軟體下載、研究人員、新創公司等亦納入新的衡量指標範圍之內。同時在完善技術移轉活動追蹤機制方面,NIST將建立內部人員參與私部門統一標準制訂委員會之資料庫。   包括NIST在內以及美國商業部與其他各主要進行產業技術研發的聯邦部會之技術移轉計畫,揭示了技術移轉在美國技術研發活動週期中的重要性,具體執行、評估之方式,可自NIST專頁進行下載、分析並作為政策規劃之參考。

歐盟議會擬將電子香菸納入規範落實菸害防制

  歐盟議會今年(2013)10月8日,針對「菸草產品指令」修正草案(Revision of the Tobacco Products Directive)進行投票,擬將電子香菸納入藥用規範落實菸害防制。此次修正草案目的在於規範歐盟菸草產品內部市場運作,保障公眾健康,該修正草案要點歸納如下 (一)包裝與標示   嚴格規範菸草產品需標示有礙健康的訊息和警語,並以圖示與文字呈現。除涵蓋外包裝正面與背面的65%外,側邊應標記妨害健康之警示。 (二)成分與添加物   為預防青少年對菸品產生興趣,規定菸草產品的外部包裝與內容物部份,需讓消費者清楚瞭解,購買的菸草產品有危害健康之疑慮,尤其是禁止香甜或水果風味的菸品要求在包裝上印刷更多警示規範,例如:不得將菸草產品以糖果、化妝品等樣式包裝之;禁止添加巧克力、香草等添加物抑制菸草刺激氣味。 (三)菸草產品規範範圍   對未含菸草成份之菸草產品,研擬具體規範辦法,例如:電子香菸、草藥香菸,擴大菸草產品規範範圍。   菸草產品指令之修正案預計於明年(2014)通過,藉由該項修正案統一歐盟各會員國對菸害防制標準與共識基礎,以提高會員國對菸草使用的危機意識,增加對禁菸、戒菸政策落實之動力。

英國Ofcom對媒體多元性標準徵求公眾意見

  2011年3月,英國文化、奧運、媒體與體育大臣(Secretary of State for Culture, Olympics, Media and Sport)Jeremy Hunt原已同意跨國媒體集團News Corporation併購英國天空廣播公司British Sky Broadcasting Group(BSkyB)並進行後續之審議流程。但在同年7月爆出News Corporation旗下的英國世界新聞報竊聽醜聞後,News Corporation立即取消該項併購申請。   在此一事件影響下,Jeremy Hunt要求英國電信主管機關Ofcom(Office of communications)對於跨媒體多元性管制架構進行檢討。現行媒體多元性管制主要在於同媒體之間合併必須通過公眾利益測試(public interest test),並有國家跨媒體所有權限制。Ofcom徵求意見如下: 1.跨平台媒體多元性如何測量,推荐最好方法為何? 2.在新聞市場中可否設定一絕對的市場佔有率限制? 3.在沒有合併案件的情形下,是否有其他事件可引發媒體多元性的持續追蹤、誰以及如何進行追蹤? 4.媒體多元性測量是否包含網站? 5.測量是否包含BBC?   Ofcom將於2011年11月18日截止收件,並於2012年初提出修改之方向。

美國國會通過700MHz D區段頻譜之規範

  為實施公共安全網路計畫,美國國會在2012年二月通過「2012年中產階級稅收減免及創造就業法案」(Middle Class Tax Relief and Job Creation Act of 2012),將700MHz頻段中既有存在之公共安全寬帶頻譜(763-769 MHz/793-799 MHz)與相鄰的D block的頻段(758-763MHz與788-793MHz)規劃成 「互通公共安全寬頻網路」(interopertable public safety broadband network),進行頻譜拍賣。   雖FCC經本法案授權執行D Block頻段的拍賣,但也限縮其職權規定FCC不得限制任何特定業者參與競標。針對FCC職權受到限制,業者認為可避免FCC在拍賣期間逕自訂定特別規則之情形。但法案仍保留FCC執行「普遍適用性的規定」(rules of general applicability)之權利,以頻譜聚合(spectrum aggregation)的規定促進市場競爭。對此,主導業者擔心FCC可能藉採取「頻譜上限」 (spectrum cap)的管制手段來限制其獲得大量頻譜的機會。   另外,面對全國性公共安全寬頻網路部署之需要,國會將授權行政部門建立「緊急救難管理局」(First Network Authority, FirstNet)來進行整體網路之開發規劃。在FirstNet尚未成立之前,FCC將暫時承擔此一過渡期間管理全國公共安全寬頻網路之責任。但FirstNet在未來是否能依照國會所期待順利掌管整體公共安全寬頻網路之運作,並達成建構一跨機關、部會以及區域的無縫互通寬頻網路平台(a nationwide interoperable public safety broadband network)之期望,FCC認為該局所任命之委員會委員所具備之專業度,以及各聯邦機構是否充分的支持將是成功之關鍵。

TOP