美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=64&tp=1 (最後瀏覽日:2025/12/01)
引註此篇文章
你可能還會想看
協助產業因應歐盟EuP指令之推動情形

  繼歐盟實施 WEEE 和 RoHS 指令掀起一股綠色風潮之後,歐盟又將啟動能源使用產品生態化設計指令 (Directive of Eco-design Requirements of Energy-using Products ,簡稱 EuP 指令),該指令協調歐盟產品環保設計的通則與標準,要求耗能產品(運輸工具除外)採取以內部設計管制或管理系統評估的方式,進行評鑑以證明其符合這項指令之規定,並取得 CE Marking 的符合性宣告,產品方能在歐盟境內上市。歐盟要求各會員國應於 2007 年 8 月前完成國內立法。   EuP 指令要求產品製造商須採用生命週期( Life Cycle )的思考方式,將生態化設計的要求 (Rrequirement of Eco-Design) 融入產品設計開發之中,藉此提高產品效能,增加能源供應的安全性,並達到高度環保要求。雖然目前歐盟尚未公告各項產品之生態化設計要求,但初期已列出包括:加熱與鍋爐設備、辦公事務設備、消費電子、照明、通風與空調、電動馬達、家用電器等 14 項優先管制產品,該等產品實施方法仍在研擬中,未來將逐步擴大管制項目。   依海關統計資料, 2005 年我國輸歐盟 14 類產品之總金額達 2,127 億元台幣。預期 EuP 指令的實施,將對我國產業帶來新的挑戰和機會。為協助我國廠商預先準備因應 EuP 指令,經濟部工業局已逐步協助並輔導業界建立 EuP 符合性評估之基礎,期帶領廠商面對 EuP 指令的挑戰,進而於綠色採購與綠色消費的潮流中持有競爭力。

愛沙尼亞首創「數位遊牧簽證」吸引高收入高專業的數位遊牧民族

  2020年6月3日,愛沙尼亞議會通過了「外國人法(Aliens Act)」修正案,批准了全球首創專為「數位遊牧民族(Digital Nomads, DN)」設計的「數位遊牧簽證(Digital Nomad Visa, DNV)」,並於同年8月1日正式開辦。   「數位遊牧民族(DN)」為近年來興起的一種工作與生活型態,意指無需固定的工作時間與地點,只要有網路就能工作,通常是邊工作邊旅遊、經常在各國移動的生活型態,一般傳統的工作簽證或旅遊簽證較難直接適用。   今年因COVID-19疫情影響,許多人轉為遠距工作,也使更多人成為DN。而以數位治國聞名全球的愛沙尼亞,於2014年推出e-Residency(數位公民計畫)向全球招收數位公民後,進一步推出「數位遊牧簽證(DNV)」。DNV申請人可以是受雇者、企業經營者或是自由工作者,必須為外國企業工作、經營外國企業或是客戶位於國外(但不禁止在當地兼職);其次,申請人必須證明近6個月每月3,504歐元(約新臺幣12萬元)的收入,取得DNV者即可到當地居住一年。該政策看重其高收入、高消費能力,以及高專業性,能在IT、金融、行銷或相關領域獨立工作,為當地科技業提供創意與技術,帶動產業、增加產值;其在境內期間的收益亦可成為充實國家稅捐的標的,在經濟上具有正面效益,在社會上亦可增加多元性、開拓國際事業,並提升國際知名度。

澳洲提出《2023年法定聲明修正法案》,將正式認可數位化法定聲明的效力

澳洲眾議院在2023年9月提出了《2023年法定聲明修正法案》(Statutory Declarations Amendment Bill 2023),法定聲明(statutory declaration)是大英國協法體系中的一種法律行為,效力相當於宣誓,以確認聲明人聲明內容為真。如受雇者可以法定聲明的方式聲明自己的工作經歷屬實,以做為受雇資料不全時的補充。該修正案將使數位方式(digital execution)進行的法定聲明和傳統書面形式具有相同效力。 澳洲政府在Covid-19期間,為了因應疫情對於整個社會的衝擊,在實體接觸困難的社會環境下導入大量臨時措施,但是這些臨時措施將會於2023年12月31日時效到期後失去效力。 本次的修正案除了將允許電子簽名(electronic signature)和視訊見證(video-link witnessing)等數位形式作為進行法定聲明的方式外,亦進一步規定只有在經過核可並且授權的數位平臺(如myGov)才可以進行有效的數位法定聲明。除此之外,使用者也需通過這些線上平臺的身分驗證(如myGovID)後才能使用這一服務,以確認法定聲明發表人的身份並確保該聲明之效力。 為了確保透明和釐清平臺的責任歸屬,該法案除了對數位平臺進行隱私、資安和防詐騙的規範外,亦禁止數位平臺儲存或保留使用者法定聲明的副本,因為這些法定聲明可能都含有高度敏感的個人資訊。 該法案的目的並非要完全取代傳統書面紙張在法定聲明中的地位,而是為了澳洲人民在做成法定聲明時提供另一個不受到地理、實體限制的選擇,這種改變讓個人和企業藉由數位化平臺快速且不受實體距離影響完備所需的法律文件,使他們能夠便捷的享有那些需要法定聲明的政府服務。 澳洲政府為了因應社會變遷及數位時代的來臨,在法律體系中賦予數位形式明確效力,並且嘗試建立起可信賴的數位平臺與路徑,其制度設計及後續影響,可以作為我國推動國家數位轉型時的參考。

德國新聯邦個人資料保護法將於2018年5月施行

  德國聯邦議院在今年4月27日通過「個人資料保護調整和施行法」(Datenschutzanpassungs- und Umsetzungsgesetz, DSAnpUG),其中包含新的德國聯邦個人資料保護法(Bundesdatenschutzgesetz, BDSG)。在這部新的法案中,已施行40年的 BDSG進行大幅調整以符合歐盟個人資料保護規則(Datenschutzgrundverordnung , DSGVO)的標準。   所有歐盟成員國將於2018年5月25日開始適用DSGVO的規定。DSGVO希望能在歐盟成員國內,形成一套具有法律統一性、標準性與高水準的個人資料保護制度。這也意味著侵害個人資料保護的違法行為,如:未使用適當的加密技術以確保個人資料安全,可能受到更嚴重的處罰,最高可達2,000萬歐元或企業全年營業額的4%。   DSGVO的目的在確保歐盟成員國間個人資料保護的共同法制標準,但考量到各成員國間的區域差異,DSGVO也提供國家立法者約60條的開放性條款(Öffnungsklauseln)─允許許多地區的成員國在特定條件下可不依循DSVGO標準。德國聯邦政府在新的BDSG,也運用了這些開放性條款。但有批評者認為,部分新的BDSG規範內容已超越DSGVO的條文規範,如:個資保護專員(Datenschutzbeauftragten)的就業保障。因此,新的BDSG與歐盟法律不符的部分,很可能被宣布違反歐盟法律。另一方面,舊的BDSG僅有48條規定,而新的BDSG則超過85條規定,且更為複雜,這都提高了法律適用上的難度。   雖然新的BDSG其適法性仍有爭議,且是否能通過司法審查亦屬未知。但盡管如此,隨著DSAnpUG 及新的BDSG法律條文制定,未來德國個人資料處理的基本法律框架已確定。由於企業個人資料處理的基本原則已明訂於DSGVO中,且新的BDSG仍是依照DSGVO的規範而制定,因此企業應盡速審查和調整他們的契約和流程,以符合DSGVO的規範要求。

TOP