日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐洲理事會修訂「保護個人有關個人資料處理及自由流通規則（一般資料保護規則）」（Proposal for a Regulation of the European Parliament and of the Council on the protection of individuals with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation), GDPR），該草案內容包括行政罰鍰三審制（three-tiered system）。凡故意或過失違反歐洲資料保護基本權之企業，情節重大者，可能招致鉅額行政罰鍰，草案之裁罰性措施將讓從業者更加重視資料保護法益。 是否對違反GDPR之侵權行為裁處罰鍰，會員國政府有裁量權限；已受刑事制裁者，政府亦得免除罰鍰以避免重複處罰。資料保護主管機關（data protection authorities, DPAs）依三審制判斷，確保所裁處罰鍰具有效性、比例性及嚇阻性。三審制包括：第一審，是否對資料當事人之資料要求延遲、變更回應；第二審，是否對資料當事人、DPAs盡資訊透明義務；第三審，各種具體侵權行為，包括對於資料取得缺乏法律依據、未能即時告知資料違反情事，或未採取適當安全防衛措施於歐盟以外區域傳遞資料等。 依草案，DPAs審酌罰鍰額度時，應依下列計算罰鍰： (1) 企業故意或過失未能於一定期間內，回應資料當事人之資料查閱請求者，裁處上一會計年度全球總年營業額0.5%罰鍰。 (2) 企業故意或過失未能提供任何或所有符合資料當事人要求之必要資訊；或未能對消費者充分揭露個人資料蒐集、處理的目的者，裁處上一會計年度全球總年營業額1%罰鍰。 (3) 企業故意或過失未能維護消費者權益，更正或刪除消費者資料，違反GDPR所保障之消費者「被遺忘權」者，裁處上一會計年度全球總年營業額1%罰鍰。 (4) 企業故意或過失處理個人資料，行為不具適法性、違反法規、沒有對當事人通知資料違反或將個人資料傳遞自歐盟以外區域，該區域沒有適當安全資料保護者，就企業上一會計年度全球總年營業額裁處2%罰鍰。 六月中旬，歐盟各部長將就歐洲議會、歐盟理事會的提案，就罰鍰額度進行最後協商，未來將持續關注草案協商後續發展。
英國政府公布物聯網設備安全設計報告及製造商應遵循之設計準則草案英國數位文化媒體與體育部於2018年3月8日公布「安全設計：促進IoT用戶網路安全（Secure by Design: Improving the cyber security of consumer Internet of Things）」報告，目的在於讓物聯網設備製造商於製程中即採取具有安全性之設計，以確保用戶之資訊安全。此報告經英國國家網路安全中心(National Cyber Security Centre, NCSC)、製造商及零售商共同討論，並提出了一份可供製造商遵循之行為準則（Code of Practice）草案。 此行為準則中指出，除設備製造商之外，其他包含IoT服務提供者、行動電話軟體開發者與零售商等也是重要的利益相關人。 其中提出了13項行為準則： 不應設定預設密碼（default password）； 應實施漏洞揭露政策； 應持續更新軟體； 應確保機密與具有安全敏感性的資訊受到保護； 應確保通訊之安全； 應最小化設備可能受到網路攻擊的區域； 應確保軟體的可信性； 應確保設備上之個資受到妥善保障； 應確保系統對於停電事故具有可回復性； 應監督設備自動傳輸之數據； 應使用戶可以簡易的方式刪除個人資訊； 應使設備可被容易的安裝與維護； 應驗證輸入設備之數據。 此草案將接受公眾意見至2018年4月25日，並規劃於2018年期間進一步檢視是否應立相關法律與規範，以促進英國成為領導國際之數位國家，並減輕消費者之負擔並保障其隱私與安全權益。
美國國家標準及技術研究院公布晶片法補助申請細節及限制美國商務部（Department of Commerce, DOC）旗下國家標準及技術研究院（National Institute of Standards and Technology, NIST）於2023年2月28日發布《晶片與科學法》（CHIPS and Science Act）補助具體內容，重點如下： 一、申請時間：補助採滾動式錄取模式（rolling basis），先進製程製造補助將於2023年3月31日起開放預先申請（pre-application）與正式申請（full application）；成熟製程與其他相關生產設施的製造補助，將分別於2023年5月1日及6月26日開放預先申請及正式申請。 二、補助方式與金額：補助分為直接補助（direct funding）、聯邦政府貸款（federal loans）或第三人提供貸款並由聯邦政府提供擔保（federal guarantees of third-party loans）。直接補助的金額上限預計為預估資本支出的15％。每個計畫可透過一種以上之方式獲得補助，然整體補助金額不得超出預估資本支出的35％。 三、申請流程 1.意向聲明（statement of interest）：申請人須提供半導體製造工廠投資計畫的簡要說明，俾利NIST旗下晶片計畫辦公室（CHIPS Program Office）為未來審查進行準備。 2.預先申請：申請人提供更詳盡的計畫內容。晶片計畫辦公室將給予調整意見。 3.正式申請：依照晶片計畫辦公室給予的意見修改後，申請人應遞交完整的計畫申請書，內容必須包含投資計畫的技術與經濟可行性之分析。晶片辦公室審核完畢後，會與申請人簽訂不具約束力的初步備忘錄（non-binding Preliminary Memorandum of Terms），記載補助方式與金額。 4.盡職調查（due diligence）：在經過上述程序後，晶片計畫辦公室如認為申請人合理且可能（reasonably likely）取得補助，將對申請人進行盡職調查。 5.補助發放：通過盡職調查後，DOC將開始準備發放補助。 四、補助規範與限制 1.禁止買回庫藏股（stock buybacks）：受補助者不得將補助款用於買回庫藏股。 2.人力資源計畫：申請人要求的補助金額若超過1億5千萬美元，須額外說明將如何提供員工可負擔且高品質的子女托育服務。 3.建造期限：受補助者必須於DOC所決定的特定日期（target dates）前開始或完成廠房建造，否則DOC會視情況決定是否收回補助。 4.分潤：補助金額超過1億5千萬美元時，受補助者須與美國政府分享超過申請計畫中所預估之收益，但最高不超過直接補助金額的75％。 5.不得於特定國家擴產與進行研究：受補助者於10年內或與DOC合意的期間內，除特定情況下（15 U.S.C. § 4652(a)(6)(C)），不得於特定國家，如中國，進行大規模半導體製造的擴產（material expansion）、聯合研究（joint research）或技術授權（technology licensing），違反者將會被DOC收回全額補助。
Ofcom對市內用戶迴路接取批發市場發布管制措施並徵求各界意見固定通信網路（以下稱固網）寬頻、電話服務通常倚賴市內電話交換機（local telephony exchange）與住宅或商辦間的固網連接才得以運作，而在多數區域，這樣的連接服務僅由一或兩個實體網路業者所提供。有鑑於此，英國通訊管理局（The Office of Communications，Ofcom）遂對市內用戶迴路接取批發（wholesale local access, WLA）市場的規範發布三份諮詢文件，其目的除希望能促進光纖網路的投資外，也要保障消費者免於支付高額的使用費。 為了達成這樣的願景，Ofcom要求英國電信（British Telecom, BT）旗下提供WLA服務之子公司Openreach需允許寬頻競爭業者得以使用其網路銷售寬頻服務予人民或企業。Openreach提供數種傳輸速率的服務方案，並依不同方案對服務提供者收取不同的批發價格。根據Ofcom的分析結果，Openreach在高速寬頻服務（superfast broadband service）各項方案中，最具影響力的即為提供下載速率40Mbps/上傳速率10Mbps之服務方案。截至目前為止，受限於人民可選擇較便宜的寬頻服務當作替代方案，故BT對於服務方案價格的調漲有限。然而，這樣的限制隨著人們對網速的需求與連線品質的日益增加而日趨式微，Openreach顯然有足夠的誘因對服務方案的價格進行操作。因此，Ofcom責成Openreach需就其40/10Mbps之服務方案逐年調降向服務提供者收取之費用，由2017年的每年88.80英鎊至2020/21年降為每年52.77英鎊。藉由對服務提供者營運成本的逐年遞減，達到消費者服務使用費也隨之降低的目的；對40/10Mbps方案設下價格上限（price cap）的做法，長遠來看，也提供BT的競爭對手有投資建設其自有超高速網路（ultrafast network）的誘因。 此外，Ofcom對於WLA連線過程中，屬於Openreach維護範圍之故障排除或線路建置時間等服務品質（quality of service）的要求也更趨嚴格，包括： 於收到通知後1至2個工作天內完成93%的報修（現為80%）； 6至7個工作天內完成97%的報修； 於收到新線路建置通知後10個工作天內安排90%的新線路建置預約（現為12個工作天內安排80%的新線路建置預約）； 於Openreach與電信供應商協議之日期前完成95%的連線建置（現為90%）。以上要求皆需於2020/21年完全實現。 Ofcom這些管制措施是WLA market諮詢文件的一部份，確切施行期間為2018年4月至2021年3月，意見諮詢預計於2017年6月9日結束。Ofcom預計於2018年初發表其最終決定，而定調後的規範將於2018年4月生效。