新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
醫療物聯網（The Internet of Medical Things, IoMT）之意義為可通過網路，與其它使用者或其它裝置收集與交換資料之裝置，其可被用來讓醫師更即時地瞭解病患之狀況。 就運用的實例而言，於診斷方面，可利用裝置來連續性地收集關鍵之醫學參數，諸如血液生化檢驗數值、血壓、大腦活動和疼痛程度等等，而可幫助檢測疾病發作或活動的早期跡象，從而改善反應。於療養方面，由於患者的手術後恢復時間是整個成本花費之重要部分，故縮短療養時間是減少成本之重要要素。可利用穿戴式感測器來幫助運動、遠端監控，追蹤各種關鍵指標，警示護理人員及時作出回應，並可與遠距醫療相結合，使加速恢復更加容易。於長期護理方面，可藉由裝置之測量與監控來避免不良結果與延長之恢復期。 由於機器學習和人工智慧之共生性增長，醫療物聯網之價值正在增強。於處理來自於感測器醫療裝置之大量連續資訊流時，資料分析和機器學習可更快地提供可據以執行之結論以幫助治療過程。惟醫療物聯網亦可能面臨安全與標準化之挑戰。由於醫療保健的資料是駭客的主要目標，任何與網路連接之設備都存在安全性風險。此外，隨著相關裝置被廣泛地運用，即需要標準化以便利裝置之間的通訊，製造商和監管機構皆需尋找方法來確保裝置可在各種平台上安全地通訊。
IMDRF於2025年3月提出《醫療器材監管依賴計畫操作手冊》草案，促進國際監管的一致性與產品流通性一、緣起與目標 「依賴制度（reliance）」指一國有效利用他國的審查結果，而減少重複作業、提升效率，並促進病人更快取得安全、有效產品的政策。為此，國際醫療器材法規管理論壇（International Medical Device Regulators Forum, IMDRF）於2025年3月提出《醫療器材監管依賴計畫操作手冊》（Playbook for Medical Device Regulatory Reliance Programs）草案，協助各國建立與管理依賴制度。惟此制度並非「無條件接受他國決策」或「國際換證」，而須由各國自行決定如何利用依賴制度，並承擔最終監管責任。 二、應用範圍 該手冊適用於所有醫療器材（含體外診斷器材）或輔具，並涵蓋產品生命週期各階段（如技術文件審查或品質管理系統驗證等）。 三、依賴機制的類型 手冊歸納三類依賴機制並舉例說明： 1.工作共享（Work-sharing）：指多國協作進行監管任務，可為聯合評估、聯合檢查，或共同推出監管標準等。如IMDRF推出的「醫療器材單一稽查計畫」，訂定多國之驗證機構對製造商的統一稽核標準，使廠商受稽後所作成的稽查報告可一次性符合數國法規。 2.簡化審查（Abridged Review）：以他國完整的審查成果作為基礎，僅針對當地「特有」及「新增」的風險進行審查。如新加坡健康科學局已實施簡審制度。 3.承認（Recognition）：正式接受他國監管決策結果作為判斷依據，可分為單、雙、多邊的承認。如CE標誌的醫材可在歐盟27個成員國內通行。 四、結語 IMDRF並非藉由該手冊推行「最佳模式」，而是協助各國依需求發展適合的監管依賴策略，加強協作與資源共享，進而促進全球監管上的一致性與產品流通性。近年世界衛生組織及區域組織（如歐盟、東協、非洲聯盟發展署）越加重視各國監管法規的一致性，並將審查資源移向人工智慧或高風險醫材的監管探索中，此監管趨勢值得我國持續關注。
德國內閣公布「數位行政機關2020」 與「八大工業國(G8)開放資料宣言」行動計畫為執行「數位議程2014-2017」(行動領域3「創意政府」)，德國內閣於9月17日分別公布出「數位行政機關 2020」與「八大工業國(G8)開放資料宣言」行動計畫。德國聯邦內政部部長de Maizère指出，此計畫的執行是為了讓公民享有行政機關更佳簡便、人性化、不受時間地點限制的服務，並且顧及到個人資安保障。 「數位行政機關 2020」旨於將德國數位政府(e-Government)法律在聯邦機關體制裏統一執行。在執行的做為中其中特別值得注意的是，以後聯邦形政體系使用的紙本檔案將全面轉換為數位版本。行政業務處理過程也將數位化、聯網化及電子化。此外、政府採購案流程也將數位化。這可幫助行政機關及企業節省行政資源。 為讓此計畫順利的執行，政府資料透明化的提升也變的格外重要。也因此，內政部長de Maizère公布針對「八大工業國(G8)簽署開放資料宣言」推出行動計畫。該計畫將政府機關的行政資料提供出來讓公民參考。依照該計畫，再明2015年4月底前，各聯邦政府機關將需提供兩個數據集(Datensatz)，透過德國政府公開資料網路平台Govdata (https://govdata.de/) 公布出來。可公布出來之數據含括警察局統計之犯罪紀錄、政府建設合作案件、社會福利預算到德國國家數位圖書館資料及所有德國聯邦教育與研究部(Bundesministerium für Bildung und Forschung)的公開資料。
智慧電網重要法制議題研析探討及因應