新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國白宮與中國大陸國務院，於2020年1月15日簽訂第一階段經貿協議，關注智財及技轉議題並提出解決方案。協議包括前言、智慧財產權、技術轉讓、糧食與農產品貿易、金融服務、經濟政策與匯率和透明度、擴大貿易、雙邊評估和爭端解決、最終條款等九個章節。協議強調應遵守國際條約，為世界貿易發展作出貢獻並促進國際合作以符合美中雙方利益；其中，雙方針對中國大陸現有及未來關於智慧財產權及貿易投資技術轉讓問題，提出解決方案如下： 一、提升智慧財產權保障 中國大陸作為全球主要技術供應方，必須建立並實施全面的智財權保護與執法體系，發展新創企業以促進高質量的經濟成長；並將營業秘密保護視為優化商業環境的核心要素，有效防止資訊遭竊取。藥品專利部分，為促進製藥領域的創新合作並滿足患者需求，美中雙方應提供藥品專利及非公開試驗或上市許可申請提交之相關資料；擬定專利有效期限延長方案。另外，為促進電子商務發展，美中應加強合作共同打擊電商市場中的侵權及偽造行為，阻止盜版產品的製造與銷售。確保產品地理標示保護，符合公正透明程序；加強商標權保障，防止惡意註冊商標；強化智財權的司法與行政程序等。美中雙方應根據本協議，提供立法機關法律修正建議，確保能充分履行本協議之要求。 二、改善強制技術轉讓 為確保美中雙方進行科技合作研發與企業市場准入，避免企業間因併購、合資及投資交易導致技術外流，中國大陸應改善強制技術轉讓問題；特別應加強美中雙方在關鍵技術問題上的相互信任與合作，保護智慧財產權、促進貿易投資，以解決中國大陸長期存在的結構性問題，包括提升行政程序公正透明度、避免政府過度介入民間企業、加強外資敏感資訊保障等。
落實資訊傳遞之流程透明與提昇效率，英國成立照護資訊標準化委員會資訊的保密機制和數據的標準化是當代的醫護過程中，相當關鍵重要的一部分，使得資訊得以安全地蒐集、記錄和交換，同時也是衛生照護系統在品質和服務管理上得以維繫的關鍵。過去英國負責處理醫療資訊交換標準的單位為「衛生和社會照護資訊標準委員會（Information Standards Board for Health and Social Care, ISB）」，負責就國家性的資料標準進行評核、統一資料標準格式，進而符合國際規範。為了因應國家治理在資訊標準、資料收集和資料提取上新的規劃，自今（2014）年4月1日起，ISB轉型為照護資訊標準化委員會（Standardisation Committee for Care Information, SCII）。 新的照護資訊標準化委員會－SCCI主要負責發展、批准並保障資訊標準、資料蒐集與資料提取。該委員會的成員組成廣泛地來自國家單位和相關衛生、照護服務組織。現階段的主要目標為標準化醫院和家庭醫生之間的醫療資訊交換，將醫療資訊標準提升至國家層級，透過該委員會的運作來監督、改善照護服務、照護系統和資訊的處理方式，進而達到流程公開和運作透明。以下為ISB轉型為SCCI之主要原因： 1、2012衛生和社會照護法（Health and Social Care Act 2012）之規定，該法§250賦予衛生部長和NHS England（英國國家健康服務）發布資訊標準的權力； 2、NHS成立新的國家資訊委員會（National Information Board, NIB），該委員會前身為資訊服務調查小組（Information Services Commissioning Group, ISCG），主要針對衛生和社會照護提供國家層級的資訊服務整合規劃，以確保資訊標準統一，使得不同IT系統間得以相互傳輸、驅動更多整合服務給人民。SCCI即隸屬於NIB，負責識別、調查和完整執行資訊標準、資料蒐集和提取。 3、衛生部於2012年發布衛生和照護系統的10 年資訊策略（ten year information strategy for the health and care system）。
英國發布人工智慧網路資安實務守則英國政府於2025年1月31日發布「人工智慧網路資安實務守則」（Code of Practice for the Cyber Security of AI，以下簡稱「實務守則」），目的是提供人工智慧（AI）系統的網路資安指引。該實務守則為英國參考國際上主要標準、規範後所訂定之自願性指引，以期降低人工智慧所面臨的網路資安風險，並促使人工智慧系統開發者與供應商落實基本的資安措施，以確保人工智慧系統的安性和可靠性。 由於人工智慧系統在功能與運作模式上與傳統網路架構及軟體有明顯的不同，因此產生新的資安風險，主要包含以下： 1. 資料投毒（Data Poisoning）：在AI系統的訓練資料中蓄意加入有害或錯誤的資料，影響模型訓練結果，導致人工智慧系統產出錯誤推論或決策。 2. 模型混淆（Model Obfuscation）：攻擊者有意識地隱藏或掩飾AI模型的內部運作特徵與行為，以增加系統漏洞、引發混亂或防礙資安管理，可能導致AI系統的安全性與穩定性受損。 3. 輸入間接指令（Indirect Prompt Injection）：藉由輸入經精心設計的指令，使人工智慧系統的產出未預期、錯誤或是有害的結果。 為了提升實務守則可操作性，實務守則涵蓋了人工智慧生命週期的各階段，並針對相關角色提出指導。角色界定如下： 1. 人工智慧系統開發者（Developers）：負責設計和建立人工智慧系統的個人或組織。 2. 人工智慧系統供應鏈（Supply chain）：涵蓋人工智慧系統開發、部署、營運過程中的的所有相關個人和組織。 實務守則希望上述角色能夠參考以下資安原則，以確保人工智慧系統的安全性與可靠性： 1. 風險評估（Risk Assessment）：識別、分析和減輕人工智慧系統安全性或功能的潛在威脅的過程。 2. 資料管理（Data management）：確保AI系統整個資料生命週期中的資料安全及有效利用，並採取完善管理措施。 3. 模型安全（Model Security）：在模型訓練、部署和使用階段，均應符合當時的技術安全標準。 4. 供應鏈安全（Supply chain security）：確保AI系統供應鏈中所有利益相關方落實適當的安全措施。 「人工智慧網路資安實務守則」藉由清晰且全面的指導方針，期望各角色能有效落實AI系統安全管控，促進人工智慧技術在網路環境中的安全性與穩健發展。
歐洲網路暨資訊安全局發布「重要資訊基礎設施下智慧聯網之安全基準建議」歐洲網路暨資訊安全局(European Union Agency for Network and Information Security, ENISA)於2017年11月20號發布了「重要資訊基礎設施下智慧聯網之安全基準建議」。該建議之主要目的乃為歐洲奠定物聯網安全基礎，並作為後續發展相關方案與措施之基準點。 由於廣泛應用於各個領域，智慧聯網設備所可能造成之威脅非常的廣泛且複雜。因此，了解該採取與落實何種措施以防範IOT系統所面臨之網路風險非常重要。ENISA運用其於各領域之研究成果，以橫向之方式確立不同垂直智慧聯網運用領域之特點與共通背景，並提出以下可以廣泛運用之智慧聯網安全措施與實作: (一) 資訊系統安全治理與風險管理 包含了與資訊系統風險分析、相關政策、認證、指標與稽核以及人力資源相關之安全措施。 (二) 生態系管理 包含生態系繪製以及各生態系的關聯。 (三) IT安全建築 包含系統配置、資產管理、系統隔離、流量過濾與密碼學等資安措施。 (四) IT安全管理 帳戶管理與資訊系統管理之相關安全措施。 (五) 身分與存取管理 有關身分確認、授權以及存取權限之安全措施。 (六) IT安全維護 有關IT安全維護程序以及遠端存取之安全措施。 (七) 偵測 包含探測、紀錄日誌以及其間之關聯與分析之安全措施。 (八) 電腦安全事件管理 資訊系統安全事件分析與回應、報告之資安措施。