日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國聯邦巡迴上訴法院（CAFC）於2008年8月13日，在Jacobsen v. Katzer一案中，對於未遵守自由軟體授權條款而使用他人著作，作成構成著作權侵害之判決，扭轉地方法院之判決結果。由上訴人Jacobsen經營的JMRI（Java Model Railroad Interface），透過多數參與者集體協作的程式DecoderPro，為開放資源的自由軟體，採取Artistic License模式，供模型火車迷編輯解碼器晶片(decoder chip)的程式以操控模型火車；被告Katzer從 DecoderPro下載了數個定義檔來製作一套市售軟體稱Decoder Commander，卻未遵守該自由授權條款，包括未標示JMRI為原始版本之著作權人、可從何處取得標準版本、及修改後版本與原始版本差異部份之註記等。 Jacobsen認為Katzer的侵害著作行為已造成不可回復之損害，請求法院暫發禁止命令（preliminary injunction）以停止Katzer的違法行為，地方法院認為被告乃違反非專屬授權契約，應依違反契約責任負責，不另構成著作侵權行為，駁回暫發禁止命令的請求。 聯邦巡迴上訴法院認為本案爭點在於「自由軟體授權條款的性質究屬契約內容（covenant）或授權條件(conditions of the copyright license)？」，由於Artistic License之用語為「在符合下列條款之條件下」(provided that the conditions are met )方能重製、修改及散布，以遵守授權條款為取得授權之條件，本案中Katzer未能遵守條款，因而根本未取得授權，其行為屬無權使用而構成侵害著作權，是以命地方法院就暫發禁止命令一事重新審理。在善意換取善意（Creative Common，創用CC）及分享著作的潮流下，支持者譽此結果為自由軟體的一大勝仗。
美國參議院通過「2008年基因資訊平等法」（Genetic Information Nondiscrimination Act of 2008）美國參議院以95對0票通過了「2008年基因資訊平等法」（Genetic Information Nondiscrimination Act of 2008），該法案主要是為了增補「2007年基因資訊平等法」（The Genetic Information Nondiscrimination Act of 2007）所制定。 「2008年基因資訊平等法」的內容主要為：1.保險業者不得基於被保險人的基因資訊，拒保或是提高保費，也不得要求被保險人提供其基因資訊以供保險用途，除非符合該法的例外規定。2.雇主不得以員工的基因資訊來限制、隔離、分級員工的工作，更不可據此來剝奪員工的工作機會。但是，本法所稱的基因資訊不包含個人的性別與年齡。 在本法通過之前，美國已有41個州立法保護個人的基因資訊被保險公司使用，並且進行不平等的對待；另有32個州立法保護員工因為基因資訊，兒在工作場合受到歧視。美國並於2000年發佈行政命令（Executive Order 13145），禁止利用基因資訊歧視聯邦單位的員工；另外，「1996年醫療保險可攜與責任法」（Health Insurance Portability and Accountability Act of 1996, HIPAA）也針對歧視做了若干的保護，但是仍有許多漏洞，諸如沒有限制保險公司收集被保險人的基因資訊，或是沒有禁止保險公司要求被保險人進行基因檢測等，所以觀察家認為本法的通過對於個人權利保護是一項進步，但是遺傳病醫藥業者與研究者卻憂慮本法阻礙了醫療研究的發展。
美國國防授權法案擴大告發者保護範圍透過外部監督有效遏止不法行為自2013年7月1日起，2013年國防授權法（2013 National Defense Authorization Act，NDAA）新規定生效，使得聯邦政府採購案件對告發不法行為者（whistleblower）的保護，由承包商的雇員擴及於分包商的雇員，在此之前，如果分包商的員工向政府直接告發不法行為時，絲毫沒有法律可以用於對抗雇主可能採取的報復措施。 2013 NDAA業於1月份經美國總統簽署，期中除新增對於分包商雇員保護外，該法案也擴張了主包商員工的保護範圍。新法之下，主包商員工如向其公司內部之主管告發不法行為，一樣可以受到法律對告發者的保護，強化了現行法下只有直接對政府申訴者始能得到法律保護。 根據2013 NDAA第828節之規定，承包商、分包商之雇員，都不能被解雇、降級或其他歧視行為以作為揭發行為之報復。當這些雇員合理認為有關於聯邦契約的管理不善、聯邦經費的浪費、或濫用聯邦契約授與之權力等行為，而可能造成潛在的或特定的對公共健康或安全之危害時，或違反聯邦契約行為有關法律或法規時，而向國會議員、稽查總長、政府課責辦公室（The Government Accountability Office）、聯邦契約管理人員、司法部人員、法院或陪審團、承包商或次包商負責調查不法之人員等提供資訊時。法規也明訂，條文中所謂報復，包括該等人員即使是受到行政機關人員在法定權限內的的正式要求而提供資訊時亦然。
美國「人工智慧應用管制指引」美國白宮科學與技術政策辦公室（The White House’s Office of Science and Technology Policy , OSTP）於2020年1月9日發布「人工智慧應用管制指引」（Guidance for Regulation of Artificial Intelligence Application），為美國政府機關起草人工智慧規範並進行管制時提供指引，該指引內要求各機關之規範應遵循以下10項人工智慧原則： 一.公眾對AI之信任：政府對AI之管制或其他措施應促進AI之可靠性、健全性，且於應用上應具備可信性。 二.公共參與：政府應提供機會讓利害關係人參與AI管制規範立法程序。 三.科學實證與資訊品質：科學實證與資訊品質：政府機關發展AI之相關技術資訊，應透過公開且可驗證之方式提供給大眾參考，以提高大眾對AI之信任與協助政策制定。 四.風險分析與管理：應採取以風險為基礎之分析評估方法，確認哪些風險係可接受之風險，或那些風險代表無法接受之損害或所失利易大於預期利益。 五.利益與成本：政府於擬定相關規範時，應小心評估AI對於整體社會之利益，與預期外之效果。 六.彈性：法規應持續滾動檢視與調修以因應AI之創新應用。 七.公平且無歧視：政府應針對AI之應用與決策，考量公平與無歧視相關議題。 八.揭露與透明：透明度與揭露程序之建立可提升公眾對AI應用之信任。 九.安全：政府應特別注意AI系統內所儲存或傳輸資訊之安全與相關安全維護控制措施。 十.跨機關合作：政府各部會或機構間應相互合作與分享經驗，以確保AI相關政策之一致性與可預測性。