美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/09/20)
引註此篇文章
你可能還會想看
iPhone5 推出後產生之法律爭議

  當蘋果的員工應該是在慶祝iPhone5的發表時,其實該公司的法務團隊為另一個商標侵權的爭議而緊張。   SBB(Swiss Federal Railways)是瑞士的國家鐵路公司,可能控告蘋果在iOS6中,一個新的以時鐘作為特色的使用。該公司聲稱蘋果侵害這個於1944年所創造出的設計。   SBB先前曾經同意鐘錶製造廠在簽署授權同意書後使用該設計,也期待與蘋果進行商討,以盡快解決此一爭議問題。SBB發言人表示:「金錢並非是最優先考量的利益,對於蘋果使用我們的設計我們是感到驕傲的,若是於兩個優質品牌之間可以有合作關係,將會是雙贏的局面。」   而蘋果的發言人回應:「此一有爭議的設計僅出現在iPad没有在iPhone」,並無其他評論。   這似乎是第一個商標爭議,蘋果可以快速且溫和地解決;因為蘋果與Samsung及其他科技大廠在全世界的爭議似乎是永無止境,在中國就得面對不少的法律問題。   的確,再幾周後SBB與蘋果已達成協議,SBB車站時鐘的設計可使用於蘋果的某些產品設備,如:iPad、iPhone,雙方已經過討論並在授權同意書中達成協議,該協議已同意一定金額的授權金,而進一步的授權細節則是維持機密。

加拿大上訴法院判決”iPod tax”違法

加拿大上訴法院判決MP3播放器不在空白錄印媒體複製著作權物課稅的範疇,本案仍有上訴最高法院之可能。   根據本案審判法官Mr. Justice Marc Noel之見解,其認為雖然加拿大著作權法允許加拿大著作權委員會(Copyright Board of Canada)對空白可複製媒體(Blank Media)課稅,然法條中並未允許其可課徵MP3播放器製造商類似的費用。   Noel法官坦承其亦認知到,著作權委員會是本著希望補償著作權人因為點對點網路下載而致生損害的立場,惟重點在於「主管機關仍應依法行政。」就此而論,對 MP3播放器交易加以課稅仍非合法。   2003年12月加拿大開始針對可複製媒體課稅,而著作權委員會進而主張,MP3播放器製造業者每賣一部少於1GB容量的播放器應被課以2美元、1至10GB容量者課以15美元,以及超過10GB容量之播放器課以25美元,以補償著作權人因為點對點網路複製音樂所生的損失。   根據加拿大著作權法,著作權委員會可針對空白重製媒體進行課稅以補償著作權人因為個人目的重製(Private Copying)所生之損失,2000年開始針對可複製CD媒體課稅,包括空白影音帶。   播放器業者想當然並不接受這項義務的課予,因此起訴,而 本案判決的結果可預見將造成MP3播放器業者的降價行為。同時,一些將課稅所得分配與著作權人(包括演奏家或唱片公司)的機構,如加拿大個人重製組織(Canadian Private Copying Collective),已在評估是否將上訴至最高法院。不過至少,他們有可能將遊說加拿大政府以修正著作權法之方式,將MP3播放器的情形納入,以及若有可能,將未來類似性質之商品一併納入考量。

美國總統簽署行政命令,為數位資產帶來全面的管制框架

  美國總統喬‧拜登(Joe Biden)於美國時間2022年3月9日簽署「確保數位資產負責任發展」行政命令(Executive Order on Ensuring Responsible Development of Digital Assets)。該行政命令為數位資產(Digital Assets)提供全面性的管制框架。所謂數位資產,係指透過分散式帳本技術以數位形式發行,表彰一定價值,或用於支付、投資、傳輸或交易資金或其等價物之憑證或資產。以下將簡述該行政命令所揭示的政策目標: 對於美國消費者、投資者與企業之權利保護,包含機敏資料的隱私保護等; 為降低金融市場的系統性風險,應建構相關數位資產帶來風險之監管措施; 避免因濫用數位資產所衍生之非法金融與國家安全風險; 透過發展支付創新(payment innovations)與數位資產,以加強美國於全球金融體系與經濟競爭力之領導地位; 強調金融服務提供之公平性,並降低金融創新下產生的負面影響,以促進金融普惠; 關注以負責任的方式促進數位資產的技術發展,包括於技術架構中確保隱私與安全,並減少因加密貨幣挖礦所導致的氣候衝擊(negative climate impacts)與環境污染(environmental pollution)。   為達成上述目標,該行政命令要求政府機關應跨部門合作,並於指定期間提出針對數位資產相關議題之評估報告及政策框架等;於國際方面,該行政命令則宣示將透過G7、G20、FATF、FSB等管道擴大與國際的合作,包括洗錢防制、建構中央銀行數位貨幣(Central Bank Digital Currency,CBDC)開發標準、穩定幣(stablecoin)與跨境資金轉帳與支付系統等議題。   其中值得注意的是,有鑑於已有國家嘗試開發CBDC,此次行政命令也顯示美國正視CBDC於金融市場之趨勢,並要求有關政府部門評估政策之可行性與實施條件等。   雖然本次行政命令並未公布新的法律規範,亦未能從行政命令觀察美國政府目前對數位資產監管所採取的立場,但可顯見美國政府藉由此次行政命令宣示將對數位資產進行全面且縝密的政策規劃。

英國衛生部發布基因檢測與保險自律行為準則

  英國衛生部(Department of Health and Social Care)於2018年10月23日發布基因檢測與保險自律行為準則(Code on genetic testing and insurance-A voluntary code of practice agreed between HM Government and the Association of British Insurers on the role of genetic testing in insurance),該準則係由英國政府及英國保險業者協會(Association of British Insurers, ABI)共同制定,旨在取代先前的「基因與保險之協定與延期實施」(Concordat and Moratorium on Genetics and Insurance)文件,並以更易於理解的方式呈現原「基因與保險之協定與延期實施」之內容。   準則中列出八項承諾,此八項承諾為ABI代表其成員議定: 承諾一:保險業者(Insurers)會公平對待要保人(applicants)。保險業者不會要求或迫使任何要保人進行預測性或診斷性基因檢測;若要保人已進行預測性基因檢測,保險業者亦不會對其作出差別待遇,除非有如下之情況。 承諾二:列入附錄一之疾病類型並超過以下金額之保單,保險業者始得要求要保人提供預測性基因檢測之結果: 人壽保險-500,000英鎊 /人。 重大疾病險-300,000英鎊 /人。 收入保障險-30,000英鎊 /年。 目前列入附錄一之類型僅有亨丁頓氏舞蹈症(Huntington’s disease)之人壽保險總額超過500,000英鎊之情形。 承諾三:保險業者不會要求要保人提供:  要保人或被保險人於承保期間所進行之預測性基因檢測結果。 非為要保人或被保險人本人(如要保人或被保險人血親)之預測性基因檢測結果。 於科學研究背景下獲得之要保人或被保險人預測性基因檢測結果。 承諾四:若保險業者基於承諾二之規定要求要保人提供預測性基因檢測結果,亦不會針對該結果制定過於苛刻(disproportionate)的條款或條件。 承諾五:保險業者須於要保人簽約前提供明確之訊息,以說明:      根據本準則,要保人在何種情況下必須或無須提供相關預測性基因檢測結果。 若要保人自願提供對其有利的預測性基因檢測結果,保險決策將如何被影響。 承諾六:若要保人基於意外或自願向保險業者提供預測性基因檢測結果,保險業者可考量要保人之利益調整保單內容;若檢測結果對要保人不利,除非符合承諾二之情形,否則保險業者將忽略該檢測結果。 承諾七:販售人壽保險、重大疾病或收入保障保險之保險業者將:      每年向ABI報告其遵守本準則之情況。 根據本準則問答部分之詳細資訊,建立投訴程序(complaints procedure)。 每年向ABI報告與本準則運作上相關之投訴情形。 承諾八:販售人壽保險、重大疾病或收入保障保險之保險業者將指定至少一名經培訓之基因核保人(Nominate Genetics Underwriter, NGU),負責與遺傳資訊(genetic information)及遵守本準則相關之事項,且NGU之人數應與業務規模成比例。

TOP