日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國參議院於2021年8月12日提出全新《產業融資公司法案》（Industrial Finance Corporation Act），擬授權成立美國產業金融公司（Industrial Finance of the U.S., IFCUS）投資半導體、量子運算、人工智慧、網路安全、生物科技等高科技領域，旨在促進國內製造業創新和打造良好就業機會。 本法案首先點出國內在關鍵技術供應鏈上所面臨的困境，包括「國內製造商缺乏足夠的資金管道致技術工作外包，影響到美國在關鍵技術（如半導體和5G通訊硬體）生產的主導地位」、「目前美國的創新模式較依賴私人資本協助政府將研究成果產品化，然因私人資本通常會傾向尋求短期投資回報，與新興技術領域較需採長期投資發展策略有別」，以及「官方捐款計劃跟不上創新步伐使得納稅人須承擔技術創新的高風險，但卻無法獲得相應的高回報」。接著，法案提到為解決前述困境，擬藉由法案授權成立美國國有企業產業金融公司（IFCUS），以投資方式協助與經濟國家安全相關重要產業之發展，並幫助相關產業利用額外私人資金，使納稅人在承擔高風險之際，亦有機會獲取相應的高回報。 依據《產業融資公司法案》所成立之國有企業產業金融公司（IFCUS），則將支持關鍵產業彈性供應鏈、美國製造業經濟發展及就業機會、先進技術商業化、中小企業廠商與資金門檻較低廠商、易受系統性投資不足與不公平產業政策等。在具體運作模式上，IFCUS將先與私人企業合作，利用法案所授權的500億美元資本進行融資，並由IFCUS發行及提供擔保貸款、購買股權、發行債券、收購資產、創建投資設施和企業基金及投資證券化等，藉以創造更多資本額。並鑒於IFCUS為一國營單位，相對較有能力保持優良的社會環境和勞動標準，創造全國就業機會、減少環境危害及對公眾與國會負責，同時確保企業決策係為納稅人服務。最後，透過IFCUS與政府研究機構協調，建立保障措施，以及提供私人資本和政府計畫補助，鼓勵天使投資以降低市場競爭影響。簡而言之，即希望憑藉IFCUS國有企業之設立，為美國高科技製造業提供策略性投資、產經政策等具體援助，藉以強化供應鏈韌性。
英國政府公布「英國醫療器材監管的未來」公眾諮詢結果並確立未來監管方向英國藥物及保健產品管理局（Medicines and Healthcare Products Regulatory Agency, MHRA）於2022年6月22日公布「英國醫療器材監管的未來之公眾諮詢政府回應」（Government response to consultation on the future regulation of medical devices in the United Kingdom），確立未來醫材監管方向。本次諮詢收到將盡900件回應（民眾與業者大約各半），結果顯示民眾業者對於強化醫療器材安全監管的支持。 MHRA將強化MHRA的執法權力，以確保病患安全，並且關注健康不平等議題並減少AI偏見問題；其監管設計上會考量歐盟和全球標準，並致力於建立英國符合性評鑑（UK Conformity Assessed, UKCA）。MHRA於安全方面，將增加製造商、進口商與經銷商的責任，並要求有英國地址的負責人對瑕疵商品負擔法律責任（構成法律責任的要件與製造商同）。其亦將要求製造商賠償被不良事件影響的人、禁止行銷上使用引人錯誤之表示、導入醫材之單一識別碼（Unique Device Identifiers, UDI）與增加註冊所需提供之資料，且製造商須建置上市後不良反應監測系統並回報統計上顯著的不良事件趨勢。創新方面，MHRA欲增設「創新醫療器材上市管道」和「軟體醫材上市管道」，以顧及創新與軟體醫材特殊需求。針對一般軟體醫材（software as a medical device, SaMD）與人工智慧軟體醫材（AI as a medical device, AIaMD）的監管，MHRA僅欲於法規中增加「軟體」的定義，其他規範將由指引的形式公布。此外，其將AIaMD視為SaMD的一種，並不會額外訂定AIaMD相關規範。
美國FDA計畫舉辦3D列印技術於醫療運用下之法制探討會議隨著3D印表機的價格日趨親民、3D列印設計檔案於網際網路交流越趨頻繁，以及預期3D列印技術在未來的應用會更加精進與複雜化，3D列印技術於醫療器材製造面所帶來的影響，已經逐漸引起美國食品藥物管理局(FDA)的關注。 在近期FDA Voice Blog posting中，FDA注意到使用3D列印所製造出的醫療器材已經使用於FDA所批准的臨床干預行為(FDA-cleared clinical interventions)，並預料未來將會有更多3D列印醫療器材投入；同時，FDA科學及工程實驗辦公室(FDA’s Office of Science and Engineering Laboratories)也對於3D列印技術就醫療器材製造所帶來的影響進行調查，且CDRH功能表現與器材使用實驗室(CDRH’s Functional Performance and Device Use Laboratory)也正開發與採用電腦模組化方法來評估小規模設計變更於醫療器材使用安全性所帶來的影響。此外，固體力學實驗室(Laboratory of Solid Mechanics)也正著手研究3D列印素材於列印過程中對於醫療器材耐久性與堅固性所帶來的影響。 對於3D列印就醫療器材製造所帶來的法制面挑戰，在Focus noted in August 2013中，其論及的問題包含：藉由3D列印所製造的醫療器材，由於其未經由品質檢證是否不應將其視為是醫療器材？3D列印醫療器材是否需於FDA註冊登記？於網路分享的3D列印設計檔案，由於未事先做出醫療器材風險與效益分析，FDA是否應將其視為是未授權推廣等問題。 針對3D列印於醫療器材製造所帶來的影響，CDRH預計近期推出相關的管理指引，然FDA認為在該管理指引推出前，必須先行召開公聽會來援引公眾意見作為該管理指引的建議參考。而就該公聽會所討論的議題，主要依列印前、列印中與列印後區分三階段不同議題。列印前議題討論包含但不限於材料化學、物理特性、可回收性、部分重製性與過程有效性等；列印中議題討論包含但不限於列印過程特性、軟體使用、後製程序與額外加工等；列印後議題討論則包含但不限於清潔/多餘材料去除、消毒與生物相容性複雜度影響、最終裝置力學測定與檢證等議題。
電子病歷之法源與病人隱私保護