新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本著作權法第2條第1項第1款規定對著作物定義中，創作性之表現必須為具有個人個性之表現，日本對於無人類行為參與之人工智慧創作物，多數意見認定此種產品無個性之表現，非現行著作權法所保護之產物。人工智慧之侵權行為在現行法的解釋上，難以將人工智慧解釋其本身具有「法人格」，有關人工智慧「締結契約」之效力為「人工智慧利用人」與「契約相對人」間發生契約之法律效果。日本政府及學者對人工智慧之探討，一般會以人工智慧學習用資料、建立資料庫人工智慧程式、人工智慧訓練/學習完成模型、人工智慧產品四個區塊加以探討。日本政策上放寬著作權之限制，使得著作物利用者可以更加靈活運用。為促進著作之流通，在未知著作權人之情況下，可利用仲裁系統。在現今資訊技術快速成長的時代，面對人工智慧的浪潮，日本亦陸續推出相關人工智慧研發等方針及規範，對於爾後之發展值得參酌借鏡。
歐盟「未來工廠」發展計畫歐盟執行委員會依展望2020 (Horizon 2020)於2016年4月14日至15日召開未來工廠公私夥伴合作 (FoF cPPP)研討會，並展示目前資助的研究與創新成果，透過本計畫將協助歐盟內製造業，特別是中小企業，將資通訊及關鍵技術與整個工廠生產鏈結合，達到整體製造業升級。 計劃具體目標如下：(1)以資通訊技術為基礎的解決方案導入製造業生產過程，增加產品獨特性、多樣化、可大規模生產，及保有高度靈活性，以迅速反應瞬息萬變的市場。(2)縮短進入市場的研發製程，提升產品質量，並透過數位化設計、成型、模擬實作及預測分析，提升工作效率。(3)改善整合生產環境的人為因素。(4)透過現代資通訊基礎的生產技術使得資源、材料、能源更有持續性。(5)促進並強化製造領域的共同平台及其生態系統。(6)從獨特的地理位置創建虛擬價值鏈，從而善用優秀人才的潛力。 我國為整合新創能量，以創造製造業下一波成長動能，今年亦陸續公布「智慧機械產業推動方案」與「數位國家‧創新經濟發展方案」，以具高效率、高品質、高彈性等特徵之智慧生產線，透過雲端及網路與消費者快速連結，打造下世代工廠與聯網製造服務體系。
歐盟執委會提出「歐洲資料戰略」建立單一資料市場歐盟執委會（European Commission）於2020年2月19日提出「歐洲資料戰略」（the European data strategy），其將建立單一資料市場（single data market）。針對少數大型科技公司（big tech）往往透過定位、社群網路等服務，掌控全球大量資料，且嚴重阻礙由資料驅動之商業型態（data-driven business）的發展與創新，透過建立單一資料市場，開放未使用的資料，使資料可於歐盟內部及跨部門自由流動，以對抗美國大型科技公司，例如：Facebook、Google或Amazon等資料壟斷之情況，確保市場開放和公平。 依據文件內容，歐洲資料戰略主要目標在於，善用歐盟巨量產業資料和創新科技，建立一個公平的歐盟資料空間，鼓勵資料共享，並建議制定資料監管規則。歐盟相關措施包含公布更多地理空間、環境、氣象學等公共資料（public data）；免費提供企業街區資料；針對阻礙資料分享之規範訂定競爭法；提供新跨境資料使用和整合規範；針對製造、氣候變遷、自動產業、健康照護、金融服務、農業、能源等提供相關標準；廢除阻礙資料共享的相關規則，避免線上平臺對資料限制利用或獲利顯失公平之情況。歐盟執委會預計於2020年底提出數位服務法（Digital Services Act），提供企業於單一市場營運更清楚規則，強化數位平臺責任和保護基本權利。
歐盟資通安全局（ENISA）提出資通安全驗證標準化建議歐盟資通安全局（European Union Agency for Cybersecurity, ENISA）（舊稱歐盟網路與資訊安全局European Union Agency for Network and Information Security）於2020年2月4日發布資通安全驗證標準化建議（Standardisation in support of the Cybersecurity Certification: Recommendations for European Standardisation in relation to the Cybersecurity Act），以因應2019/881歐盟資通安全局與資通安全驗證規則（簡稱資通安全法）（Regulation 2019/881 on ENISA and on Information and Communications Technology Cybersecurity Certification, Cybersecurity Act）所建立之資通安全驗證框架（Cybersecurity Certification Framework）。 受到全球化之影響，數位產品和服務供應鏈關係複雜，前端元件製造商難以預見其技術對終端產品的衝擊；而原廠委託製造代工（OEM）亦難知悉所有零件的製造來源。資通安全要求與驗證方案（certification scheme）的標準化，能增進供應鏈中利害關係人間之信賴，降低貿易障礙，促進單一市場下產品和服務之流通。需經標準化的範圍包括：資訊安全管理程序、產品、解決方案與服務設計、資通安全與驗證、檢測實驗室之評估、資通安全維護與運作、安全採購與轉分包程序等。 ENISA認為標準化發展組織或業界標準化機構，在歐盟資通安全之協調整合上扮演重要角色，彼此間應加強合作以避免重複訂定標準。目前有三組主要國際標準可構成資通安全評估之基礎： ISO/IEC 15408/18045–共通準則與評估方法：由ISO/IEC第1共同技術委員會（JTC1）及第27小組委員會（SC27）進行重要修訂。 IEC 62443-4-2–工業自動化與控制系統之安全第4-2部分：作為工業自動化與控制系統元件的技術安全要求。 EN 303-645–消費性物聯網之資通安全：由歐洲電信標準協會（ETSI）所建立，並與歐洲標準委員會（CEN）、歐洲電工標準化委員會（CENELEC）協議共同管理。 然而，資通訊產品、流程與服務種類繁多，實際需通過哪些標準檢驗才足以證明符合一定程度的安全性，則有賴驗證方案的規劃。為此，ENISA亦提出資通安全驗證方案之核心構成要件（core components）及建構方法論，以幫助創建歐盟境內有效的驗證方案。