美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。
依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。
依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。
此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。
最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。
本文為「經濟部產業技術司科技專案成果」
英國藥物及保健產品管理局(Medicines and Healthcare Products Regulatory Agency, MHRA)在2024年1月9日針對醫療器材(下稱醫材)提出「未來法規施行」(Implementation of the Future Regulations)規劃,旨在提升病人安全,並且確保英國市場對醫療技術創新者來說仍具有吸引力。本次內容主要包含2024年度規劃公告的重大法案,以及2025年後預計實施的核心政策,以下節錄相關說明: 1.預計於2024年實施的法規及政策 MHRA擬定了幾個重要法規及政策的公告時程表,主要包含名為「AI-Airlock」的監理沙盒 (AI-Airlock regulatory sandbox)及數則醫材軟體監管指引,主題有「醫材開發地圖的優良機器學習實踐」(Good machine learning practice for medical device development mapping)、「人工智慧醫材開發和部署的最佳實踐」(AI as a Medical Device(AIaMD) development and deployment best practice)及「資料驅動醫材軟體的研究、發展及治理」Data-driven SaMD research, development and governance);另外,因應世界貿易組織(World Trade Organization, WTO)於2023月7月26日發佈的 《上市後監督要求之行政立法性文件草案》(draft Post-market Surveillance Requirements Statutory Instrument, PMS SI),英國政府也打算在 2024 年引入相關立法,以加強醫材上市後的監管要求。 2. 未來核心政策規劃 MHRA已選定數個醫材管理核心主題,並預計從2024年上半年開始與利害關係人啟動相關討論會議,以利於2025年後制定更詳細的施政草案。管理議題明確包含對植入式醫材的風險分類進行升級、增加醫材軟體的分類、加強對醫材之品質管理系統與加強技術文件、推行專屬識別碼(Unique Device Identifiers, UDI)、更新臨床試驗施行措施、引入國際承認框架,使已獲得類似監管機構批准的醫材更快進入市場,以及促使英國對於醫材軟體網路安全等基本管理要求持續與歐盟接軌。 以上施政規劃,反映出英國政府為確保民眾安全,欲持續加強醫材品質的風險管理力道,以及隨著搭載AI技術的智慧醫材在各國快速發展,英國政府有意將此類的醫材朝向細緻化管理的布局。此外,英國於2020年脫歐後,歐盟的醫療器材法規在英國已不再適用,故MHRA近年積極發布更適合英國體質的醫材監管政策,以確保國內醫材市場保持國際競爭力,也避免醫材供應鏈發生短缺之情形。
美國總統簽署《安全可信通訊網路法》美國總統於2020年3月12日簽署《安全可信通訊網路法》(Secure and Trusted Communications Networks Act),以保護國內的通訊網路以及5G技術之安全。本次立法之目的,主要圍繞三個面向,包括:安全及可靠的網路(Reliable and safe networks)、保護重要利益(Protecting vital interests)以及確保美國未來的安全(Securing America’s future)。 由於國家安全取決於高速與可靠的通訊網路,若使用由無法信賴之供應商建置的電信設施,將威脅到國內網路安全。因此,本法要求聯邦通訊委員會(Federal Communications Commission)應於本法施行一年內於其網站內公布造成國家安全威脅之法人名單,並禁止由名單上之法人建置美國國內關鍵之電信設施。另外,本法亦禁止使用聯邦經費向造成國家安全威脅之法人購買或租借電信設備,並以安全可信之通訊網路補償計畫(Secure and Trusted Communications Networks Reimbursement Program)作為因拆除與更換既有造成國家安全威脅之電信設備之補償機制,聯邦通訊委員會亦將與先進通訊服務供應者(provider of Advanced Communication service)合作,協助該補償計畫之進行。
歐洲網路暨資訊安全局發布「重要資訊基礎設施下智慧聯網之安全基準建議」歐洲網路暨資訊安全局(European Union Agency for Network and Information Security, ENISA)於2017年11月20號發布了「重要資訊基礎設施下智慧聯網之安全基準建議」。該建議之主要目的乃為歐洲奠定物聯網安全基礎,並作為後續發展相關方案與措施之基準點。 由於廣泛應用於各個領域,智慧聯網設備所可能造成之威脅非常的廣泛且複雜。因此,了解該採取與落實何種措施以防範IOT系統所面臨之網路風險非常重要。ENISA運用其於各領域之研究成果,以橫向之方式確立不同垂直智慧聯網運用領域之特點與共通背景,並提出以下可以廣泛運用之智慧聯網安全措施與實作: (一) 資訊系統安全治理與風險管理 包含了與資訊系統風險分析、相關政策、認證、指標與稽核以及人力資源相關之安全措施。 (二) 生態系管理 包含生態系繪製以及各生態系的關聯。 (三) IT安全建築 包含系統配置、資產管理、系統隔離、流量過濾與密碼學等資安措施。 (四) IT安全管理 帳戶管理與資訊系統管理之相關安全措施。 (五) 身分與存取管理 有關身分確認、授權以及存取權限之安全措施。 (六) IT安全維護 有關IT安全維護程序以及遠端存取之安全措施。 (七) 偵測 包含探測、紀錄日誌以及其間之關聯與分析之安全措施。 (八) 電腦安全事件管理 資訊系統安全事件分析與回應、報告之資安措施。
美國聯邦航空總署對外公布「無人機運行執法方針」近年來隨著科技進步,市面上無人飛行載具(Unmanned Aerial Vehicles, UAS,簡稱無人機)產品與相關應用蓬勃興起,為規範相關運行秩序,美國聯邦航空總署(the Federal Aviation Administration, FAA)於2015年1月8日公布了「無人機運行執法方針」(Law Enforcement Guidance for suspected unauthorized UAS Operations),並呼應美國眾議院所曾表達關切,建議應儘速公布美國無人機立法監管架構,以避免許多相關研發技術公司出走海外的不利發展。 FAA該執法方針,先指出實務上,目前以FAA為實際執法單位所面臨的困難,並徵募各州地方警力協助,以進行實際執法行動。由於FAA經常無法立即趕到並處理無人機事件發生地點,然而透過各州地方警力,對於攔阻未經授權或不安全的無人機活動,具有較佳的嚇阻、偵測、立即調查,以及採取適當執法行動的優勢。 因此,FAA執法方針指示州地方警力,應於未經授權的無人機活動事件發生處,採取以下措施:1. 認明並面詢目擊者;2. 鑑別操作可疑無人機活動者;3. 錄下其活動影像並繪製無人機使用之位置與情況;4. 辨識該區域限制航空範圍;5. 立即通知FAA;6. 蒐集證據。 目前美國有關無人機相關規範,僅有現代化及改革法(Modernization and Reform Act)第333條下,批准無人機具有豁免權之14項適用領域,如閉集錄影(closed-set filming)、空中調查工作、監控建築物地點、調查有關離岸鑽油平台、具農業目的等作業項目,並涵蓋相關具體應遵循之規範;所以美國後續亟待制訂更多相關遵守規範,以利產業界遵循,FAA預計於2015年底公布55磅以下無人機的規章制度,並受國會要求將於9月將無人機監管規章整合至美國領空管理系統(National Airspace System),相關規範內容待持續追蹤觀察。