新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本內閣府2015年12月10日於「綜合科學技術創新會議」上公布最新「科學技術基本計畫」草案，預計將投入26兆日圓，約占GDP1%的資金。該計畫之法源基礎係1995年公布之《科學技術基本法》第9條第1項，要求政府自1996年開始制定以五年為期，整體、宏觀且跨部會之科技發展計畫，目前最新之「第五期科學技術基本計畫」將於2016年開始施行。 「第五期科學技術基本計畫」共計七章，作為本期計畫核心之第二至第五章，揭櫫四大原則及相應規畫： 一、 以未來產業創新及社會變革為方向創造新價值(第二章) 旨在發展對未來產業創新及社經變遷具有前瞻性之技術及服務，如智慧聯網、巨量資料、人工智慧等，並以此為基礎實現領先世界之「超智能社會」。 二、 因應經濟社會新課題(第三章) 1. 確保能源、資源及糧食供應穩定。 2. 因應超高齡化、人口減少等問題，打造永續發展的社會。 3. 提高產業競爭力及地區活力。 4. 確保國家安全及國民安全。 5. 因應全球範圍內發生的社經問題，並對世界發展做出具體貢獻。 三、 強化科技創新基礎能力(第四章) 企圖打破產官學界間障壁，加速人才流動及人才多樣化，對造成障礙之制度進行改革，此外，將增加青年及女性研究者比例，及提升學術論文品質。 四、 構築人才、知識、資金三要素的良性循環制度以朝向創新發展(第五章) 將透過產官學界合作，打造創新人才培育及適其發展之環境，強化國際知識產權及標準化之運用，並依國內各區域特性推動相關創新措施。 在這當中，「實現超智能社會」為本期計畫最重要之發展目標，由於資通訊技術高度發展帶動生產、交通、醫療、金融、公共服務等各方面之巨大變革，創造出新產品、新服務，卻也相應帶來新挑戰及社會問題，日本政府計畫打造「智慧聯網服務平台」(IoTサービスプラットフォーム)，將內閣府2015年6月19發布之「科學技術創新綜合戰略2015」中所列舉的11個系統分階段完成串連整合，以推動跨系統間之數據應用，達成各科學領域巨量資料之流通使用，同時兼顧資訊安全保障的「超智能社會」。
德國車輛及其系統新技術研發計畫德國經濟與能源部於2017年11月公布車輛及其系統新技術補助計畫期中報告，補助的研究計畫聚焦於自動駕駛技術及創新車輛技術兩大主軸。 在自動駕駛研究中，著重於創新的感測器和執行系統、高精準度定位、車聯網間資訊快速，安全和可靠的傳輸、設備之間的協作、資料融合和處理的新方法、人機協作、合適的測試程序和驗證方法、電動汽車之自動駕駛功能的具體解決方案。其中以2016年1月啟動的PEGASUS研究項目最受關注，該計畫係為開發高度自動化駕駛的測試方法奠定基礎，特別是在時速達130公里/小時的高速公路上。 在汽車創新技術的研究發展上，著重於公路和鐵路運輸如何降低能源消耗和溫室氣體排放，包括透過交通工具輕量化以提高能源效率、改善空氣動力學之特性、減少整體傳動系統的摩擦阻力、創新的驅動技術。另外，也特別注重蒐集和利用在車輛操作期間產生的資料，例如在於操作和駕駛策略的設計，維護和修理，或車輛於交通中相互影響作用。 本報告簡介相關高度實用性技術研究計畫，同時展望未來研究領域，以面對現今產業數位化的潮流和能源效率及氣候保護的發展的新挑戰，因此，資通訊技術、自動控制技術以及乾淨動力來源技術，將會是未來交通領域研究的重點。
美國廣告網路平台服務提供業者針對抑制網路侵權發佈作業準則Google、Microsoft、Yahoo、AOL、24/7 Media、Adtegrity、Condé Nast、SpotXchange數個以美國為主要營運基地的廣告網路平台服務提供者於7月中針對抑制網路侵權聯合發佈一套最佳作業準則，規劃透過減少涉嫌侵權、盜版網站的廣告收益分配，達到抑制網路侵權的效果。 在這個自發性參與的準則中，廣告網路平台服務業者將維持並公告其遏阻與避免販售盜版物品、侵害著作權網站的政策，根據該作業準則，廣告網路平台業者將接受並處理來自權利人有關有疑慮的網站通知、提供合適的通知內容參考指引、指定負責收受侵權通知的窗口，並針對相關控訴採取適當的調查，相關業者將確保其內部處理程序能落實此一作業準則要求。 針對此一發展，著作權產業團體如美國唱片業協會、美國電影協會對此一準則皆大表贊成與歡迎，而公益團體Public Knowledge亦讚許此一準則相當明智，同時也呼籲內容產業團體可以發展其保護網路使用者與媒介的相關作業準則。
歐盟網路暨資訊安全局發布「重要基礎設施資訊安全培訓需求盤點報告」加強重要部門資訊安全作業歐盟網路暨資訊安全局於2017年12月7日發布「重要基礎設施資訊安全培訓需求盤點報告」(Stocktaking of information security training needs in critical sectors)之文件，點出各重要基礎設施之「電腦安全事件反應小組」(Computer Security Incident Response Teams, CISRT)所必須接受之資安訓練種類。 歐盟之網路與資訊系統安全指令(The Directive on security of network and information systems, NIS Directive)規範各成員國之重要服務營運者(operator of essential service)必須確認出哪些服務於維繫社會與經濟活動上具備重要性。被認定具備重要性之部門如下:能源、運輸、銀行業、金融市場基礎設施、健康照護部門、飲用水供應與分配、數位基礎設施。 此份報告指出，該重要性部門之資安等級需求並不盡相同，因此導致各部門面對資安事件之準備無法相提並論。例如，能源產業會用到SCADA系統，而金融市場基礎設施則普遍沒有相關需求。而由於NIS指令將上述七種部門列為資訊安全維護最高層級，故此份報告目的係確認該部門當前的處境，並與現階段可取得之網路安全訓練對照，進一步具體檢視各重要部門是否有其他額外的網路安全訓練需求。 我國行政院於民國106年4月公布之資通安全管理法草案要求關鍵基礎設施提供者應訂定、修正、實施資通安全維護計畫，並向中央目的事業主管機關或直轄市、縣（市）政府提出該計畫之實施情形，在未來實際落實各重要性設施之資安維護以及資安小組訓練時，須意識到各重要性設施之資訊安全需求差異性，及相關人員必須針對不同單位而受不同之訓練。