日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國歐巴馬總統在美國聯邦貿易委員會（Federal Trade Commission，FTC）2015年1月12日所舉辦的會議上，呼籲聯邦政府應制定「個人資料通知與保護法」（The Personal Data Notification and Protection Act），該法要求美國企業建立通報機制，其必須在資料遭盜取之日起三十天內通報客戶，以保護美國大眾之隱私。此一要求主要係因為發生多起網路駭客與資安事件，但目前聯邦政府卻欠缺相關法制，故聯邦政府嘗試藉此改善各州法律各行其事無法完善資安保護之問題，亦減輕跨州營運之美國企業適用各州法律之負擔，將有助於產業法制環境之改善。 同時，歐巴馬總統亦提出制定「學生數位隱私法」（The Student Digital Privacy Act）之呼籲，該法將禁止企業為獲取利益經由學校取得學生資料。此外，歐巴馬總統亦提及美國企業將需要簽署一自願性協議（Voluntary Code of Conduct for Smart Grid Customer Data Privacy，VCC），使消費者能夠查詢各企業之信用評分，帶動企業自主保護數位資料之安全，並以此作為身分盜取之預警，避免造成個資外洩後損失更多權益。而本次呼籲制定的法規尚針對先前由美國眾議院提出之「網路情報分享及保護法」（Cyber Intelligence Sharing and Protection Act，CISPA），特別強化其網路使用者保護之部份規定；其中包括加強公私部門合作以及深化網路防護安全，藉此妥善處理網路犯罪、保護國土安全等相關問題。是故，本次制定法規之目的將更著眼於擴大授權，使政府目的事業主管機關以及企業之間能夠共享相關資訊之權限，以預防更多潛在性的網路攻擊與資料盜取事件。
精神衛生法強制住院侵害身心障礙者自由權－身心障礙者權利公約初次國家報告國際審查本文從我國身心障礙者權利公約（以下簡稱身權公約）初次國家報告國際審查結論性意見中，精神衛生法強制住院違反公約規定的評價出發，盤點身權公約對身心障礙者人身自由保護之規範內容，並將其與我國精神衛生法相關規定比較，認為現行規定及研擬中的修法方向皆確有違反身權公約之嫌。本文最後建議，在國際人權公約逐步完成內國法化程序的背景下，我國科學與科技相關法制例修法時，應注重相關人權公約的規範。
韓國科技部成立元宇宙/NFT安全委員會隨著NFT持續延燒，韓國不少藝術家選擇透過NFT之模式進行數位交易。然2021年11月，韓國金融監督委員會認為NFT不屬於數位資產，也不承認NFT相關之數位交易。根據韓國聯合新聞通訊社(YNA)2022年7月14日報導，韓國科學技術情報通信部( MSIT)與韓國網路振興院(KISA)宣布成立元宇宙/NFT安全委員會，以檢查元宇宙和NFT等虛擬融合經濟的傳播所產生的新安全問題，並強化產業合作。 該委員會由該國元宇宙和NFT相關的平台公司、安全產業、合作社組成，旨在振興安全可靠的虛擬融合經濟產業，分析和共享網絡威脅、安全技術及損失案例，並針對各種安全問題尋求主動響應和解決方案。 虛擬數位資產本身存有爭議，加上公鏈Terra的崩盤造成韓國28萬名投資人遭受巨大損失，使作為主管機關的韓國金融委員會（FSC）和金融監督院（FSS）壓力倍增，宣布制定《數位資產基本法》大綱框架，目前此法將加密資產定義為非法幣資產、非金融商品資產之「第三類資產」，並強調未來將有加密資產委員會進行專門管理。韓國擬積極加強監管虛擬數位資產，擬徹底管理加密投資風險，並加強監管杜絕非法吸金與場外交易。《數位資產基本法》預計於2023年上路。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國情報體系發布「情報體系運用人工智慧倫理架構」美國國家情報體系（United States Intelligence Community）係於1981年依據行政命令第12333號（Executive Order 12333）所建立，其任務為蒐集、分析與提供外國情報與反情報資訊美國國家領導人，服務對象包含美國總統、執法單位以及軍事單位。其於2020年6月提出「情報體系人工智慧倫理架構」（Artificial Intelligence Ethics Framework for the Intelligence Community），為人工智慧系統與訓練資料、測試資料之採購、設計、研發、使用、保護、消費與管理提出指引，並指出人工智慧之利用須遵從以下事項： 一、於經過潛在風險評估後，以適當且符合目的之方法利用； 二、人工智慧之使用應尊重個人權利與自由，且資料取得應合法且符合相關政策與法規之要求； 三、應於利用程序內結合人類判斷與建立問責機制，以因應AI產品之風險並確保其決策之適當性。 四、於不破壞其功能與實用性之前提下，盡可能確認、統計以及降低潛在之歧視問題。 五、AI進行測試時應同時考量其未來利用上可預見之風險。 六、持續維持AI模型之迭代（Iteration）、版本與改動之審查。 七、AI之建立目的、限制與設計之輸出項目，應文件化。 八、盡可能使用可解釋與可理解之方式，讓使用者、審查者與公眾理解為何AI會產出相關決策。 九、持續不定期檢測AI，以確保其符合當初建置之目的。 十、確認AI於產品循環中各階段之負責人，包含其維護相關紀錄之責任。