新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
數位建設在數位化浪潮以及AI來臨的年代，顯得非常重要，也是世界各國重視的議題之一，歐盟於2024年2月提出了「如何掌握歐洲的數位基礎建設需求？」（WHITE PAPER How to master Europe's digital infrastructure needs?）白皮書來匯集專家意見至6月30日止。 數位基礎建設所涵範圍甚廣，包含資訊科技所有的技術系統以及網際網路等等。如果沒有這些建設，將無法順利完成數位轉型及提升競爭力，況且人工智慧以及物聯網時代的到來，正在改變全球消費者的習慣，因此落實數位基礎建設佈建具有相當之必要性。白皮書開門見山地提到數位基礎建設的諸多優點，但要完成目標，需克服許多難題。 數位基礎建設的佈建需投入大量資金，更需仰賴公私協力才可順利達標，因此難題主要圍繞在企業實力以及是否能夠有相當之吸引力，促使企業投資者以龐大的金流支援，而企業投資者之目標以獲利為原則，因此如果要吸引大量投資人進場，必須提出成功施行並獲利的案例來拋磚引玉。白皮書內也提到，歐洲境內固網行動匯流尤其光纖及5G網路覆蓋率較世界各國來的低，且歐盟因為成員國眾多，缺乏單一的市場，難統籌規範，更何況歐盟對於複雜的數位基礎建設生態中，針對參與者沒有明確規範，諸如投入電子通訊網路建置之雲端供應商其權利義務關係，使得參與者無所適從，如何去克服這些絆腳石將會是歐盟的重大挑戰。 為克服數位基礎建設的難題，白皮書建議以三個支柱作為框架，其一為打造共同連結的運算網路系統（Connected Collaborative Computing）作為歐盟經濟體的中樞神經；其二為建立單一的數位市場，整合各國市場機制並建立完善法規制度；最後為所有數位基礎建設須安全且富有韌性，否則遭到攻擊，將會威脅歐盟各國。 數位化的時代，不僅可提提升運作效能，更能促進永續發展，然而工欲善其事，必先利其器，數位基礎建設為不可少之一環，鑒於我國推動數位建設佈建也可能面臨投資誘因的難題，歐盟白皮書所提到的建議以及後續的發展，或許值得我國持續關注。
美國政府於2015年10月公告美國創新戰略最新版本美國創新戰略(A Strategy for American Innovation)於2009年9月首次提出，後於2011年2月配合時事及產業發展增補內容。隨著政策的逐步推行，美國國家經濟委員會及白宮科技政策辦公室於2015年10月公布最新版本之美國創新戰略，在原有的框架增補更多內容成為六大重要施政要項，在策略佈局上又大致可分為創新資源整合的三大創新基礎以及三大策略發展方向，前者包括：(1)投資創新基石；(2)刺激私部門進行創新活動；(3)營造一個創新者國度。後者的三大策略發展方向則包括國家產業重要優先發展領域的技術突破，其影響意味著確定重點投資領域能夠取得變革性結果，以滿足國家和世界所即將面臨的社會議題挑戰。其中諸如精準醫療(precise medicine)、加速發展新型神經技術、推動衛生保健的突破性創新、採用先進車輛減少死亡事故、建設智慧城市、推動再生能源技術提高能源效率、開發先進教育技術、發展太空科技等。 其次，係藉由投資未來產業，建設包容性創新經濟，加強美國先進制造的領先地位，創造工作機會和經濟的持續成長。最後，借助於人才、創新思維及技術工具的適當組合，建設創新型政府，為民眾提供更好的行政服務。
歐盟執委會通過數位歐洲計畫2023~2024年工作計畫為促進歐洲的數位轉型，歐盟執委會（European Commission）在2023年3月24日於通過數位歐洲計畫（Digital Europe programme, DEP）下的2023~2024年工作計畫，預計投入12.84億歐元於「主要數位歐洲計畫工作計畫」（Main DEP programme）（下稱「主要工作計畫」）及「網路安全工作計畫」（Cybersecurity Work Programme），以延續之前投入之成果，並加強歐盟對抗網路威脅的集體韌性。 實際上歐盟於2018年即提出第一個數位歐洲計畫，並透過數位單一市場策略（Digital Single Market strategy）嘗試建立符合數位特性的監管框架，藉以提高歐盟的國際競爭力，發展及加強歐洲的數位能力。數位歐洲計畫包括五個重點領域：超級電腦（Supercomputers）、人工智慧（Artificial intelligence, AI）、網路安全及信任（Cybersecurity and trust）、數位技能（Digital skills），以及確保數位技術在經濟及社會中被廣泛使用。 前述所說的主要工作計畫，其投入資金為9.095億歐元，重要工作有三。首先，藉由關注氣候和環境保護技術、數據資料、人工智慧、雲端、網路安全、先進數位技能及部署此些技術之最佳方法，並加強歐盟的關鍵數位能力。第二，關注數位公共服務，強調具跨境互操作性（cross-border interoperability）的公部門解決方案（例如歐洲數位身份）。此外，也將透過歐洲數位媒體觀測站（European Digital Media Observatory, EDMO）打擊假訊息，並以InvestEU計畫下的策略數位技術投資平台，重點支持中小及新創企業關注網路安全。 其次，網路安全工作計畫的投入資金為3.75億歐元，由歐洲網路安全能力中心（European Cybersecurity Competence Centre）負責執行，將支援建立國家和跨境安全操作中心的能力，以打造最先進的威脅檢測及網路事件分析生態系統。網路安全工作計畫還將資助產業（特別是中小及新創企業）遵守網路安全法規要求的項目，特別是網路及資訊系統安全指令（Directive on Security of Network and Information Systems, NIS2）或網路韌性法案（Cyber Resilience Act）所要求的內容。 歐盟已在加強數位公共服務、數位技能及網路安全等方面投入許多資源，其中網路安全、資安威脅和打擊假消息等議題因其不受地區限制而更受到注目，未來仍待持續關注此些議題之發展。