新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
英國內閣辦公室（Cabinet Office）於2013年10月29日提出「緊急應變與復原準則：依循2004年國民緊急應變法之不成文準則」（Emergency Response and Recovery: Non statutory guidance accompanying the Civil Contingencies Act 2004），針對「應變與復原」作相關規定，以補充內閣辦公室於2006年1月1日提出「緊急準備規則」（Emergency Preparedness）對複合式緊急管理（Integrated emergency management, IEM）規定的不足之處。 英國「2004年國民緊急應變法」（The Civil Contingency Act 2004），為英國處理緊急事件之主要依據，「緊急應變與復原準則」即根據「2004年國民緊急應變法」制訂。此規則於「緊急應變章節」規定地方政府之緊急事件依嚴重程度區分為三級：銅（Bronze），僅需要操作指揮（Operational）、銀（Silver），需要策略指揮 （Tactical）、金（Gold），需要戰略指揮（Strategic），用以判斷是否區需要跨機關合作來因應緊急事故。如事故屬於重大緊急災難時，則屬於需要跨機關協調合作，藉由層級指揮及指令下達掌控應變程序與資訊傳遞，以因應長期及廣泛區域之災難。中央政府的權責在於全國性重大緊急事件，並且災難發生時之首相為最高行政首長，最高緊急機構為「內閣緊急應變會議」（Cabinet Office Brifing Rooms, COBR，又稱為眼鏡蛇），同時國民緊急秘書處（Civil Contingencies Secretariat, CCS）也需要協調跨部門及跨機構事務。 為提升災難應變與復原效率，2013年10月的「緊急應變與復原準則」，說明藉由地方的地方抗災議會（Local Resilience Forum）到中央等全國性之系統與網路串聯以傳遞緊急訊息，並建立三種層級之共同認知資訊圖像（Common Recognized Information Picture, CRIP），包括地方層級、區域以及國家級。此項系統必須足以傳遞並收集來自各方的大量資訊、能評估所收集各資料之性質，如緊急性、關聯性、說明性及可使用性等，並且能夠使大眾週知。 然，處理資料的過程仍有可能面臨數種問題，包括各機關之資料不同、判斷不同、理解錯誤及通訊超載等。2013年10月緊急應變與復原準則亦說明建立資訊管理系統（information management system）並安裝至多機構緊急管理中；而民間機構也應作為多機構之一環，並擔任資訊管理機構。同時，在共享資料之同時，必須注意資料保護，因此必須遵守「資料保護與共享－緊急計畫人與應變人準則」（Data Protection and Sharing－Guidance for Emergency Planner and Responders）。英國地域性與台灣近似，皆屬易於發生水患的國家，英國在緊急災難之應變於各方面的法制皆以趨於完善，殊值得持續觀察未來發展方向。
FCC將關閉北卡地區之類比無線電視完成700MHz頻段之頻譜拍賣後，美國通訊傳播委員會(Federal Communications Commission, FCC)亦開始積極著手準備頻譜回收工作，以期能夠順利在2009年2月17日全面關閉類比無線電視訊號，完成無線電視數位化及頻譜回收。 為能提早發現關閉類比無線電視訊號可能帶來之問題或影響，FCC於2008年5月8日宣布將在2008年9月8日中午12時正式關閉北卡威明頓(Wilmington)地區之類比無線電視訊號。在此次關閉類比無線電視訊號過程中，FCC將和無線電視、有線電視等相關業者及協會密切合作，以解決過程中發生的任何問題。FCC之所以選擇威明頓地區率先關閉無線類比電視訊號，主要原因之一在於威明頓地區的四大電視網均已完成數位化工作，並自願提前關閉類比無線電視訊號。 針對於FCC此一測試計畫，美國國家廣播電視協會(National Association of Broadcasters, NAB)亦發表聲明表示支持與配合。除此之外，NAB同時表示此次試驗的結果必須被審慎檢驗，並用於決定如何關閉全國的類比無線電視訊號。NAB希望有關單位透過此次試驗之結果，決定明年全面關閉類比無線電視訊號時，聯邦、州及地方政府應如何合作、數位機上盒供應、有線電視及衛星電視業者之配合等相關問題。
德國卡爾斯魯爾行政法院(VG Karlsruhe)公布第一個有關DSGVO的判決卡爾斯魯爾行政法院在今年6月7日公布第一個關於歐盟個人資料保護規則（Datenschutzgrundverordnung，DSGVO）的判決。在本案中，原告是一間負責處個人信用資料的民間公司，其依據現行BDSG（Bundesdatenschutzgesetz，聯邦個人資料保護法）的規定來蒐集、保存與傳輸個人資料給第三人。巴登符騰堡邦的主管機關在預見原告將來會違反DSGVO規定的情況下，向原告發出一份行政處分（Verfügung），要求原告必須依照DSGVO的相關規定調整作業流程以符合DSGVO的規範。但原告認為，其只需要在2018年5月24號之後，就相關作業流程符合DSGVO的規範即可。 本案的關鍵在於，主管機關是否已經可以用DSGVO的規定來規範民間企業？因為依據DSGVO第99條的規定，DSGVO現雖已生效，但必須到2018年5月25日才開始適用。 根據BDSG第38條第5項規定，監督機構可以採取必要措施，確保民間企業在收集、傳播和使用個人資料時遵守相關保護規定；且本案中，原告在2018年5月24號後可能會出現的違法情形也已顯而易見，但法院並不同意行政機關可以預先發布行政處分的看法。因為DSGVO雖已生效，但民間企業必須適用的期限仍未屆至。行政機關不得在未有法律授權的情況下，預先規範限制未來的可能違法行為。現行法律對於行政機關的授權範圍必須被嚴格遵守，在DSGVO未開始適用的情況下，目前行政機關仍只能依據BDSG及DSAnpUG（Datenschutzanpassungs- und Umsetzungsgesetz，個人資料保護調整和施行法）的規定，來處理相關的行政措施。
英國資訊委員辦公室（ICO）發布企業自行檢視是否符合歐盟一般資料保護規則之12步驟英國作為歐洲金融重鎮，不論各行業均有蒐集、處理、利用歐盟會員國公民個人資料之可能，歐盟一般資料保護規則（General Data Protection Regulation，簡稱GDPR）作為歐盟資料保護之重要規則，英國企業初步應如何自我檢視組織內是否符合歐盟資料保護標準，英國資訊委員辦公室（Information Commissioner's Office, ICO）即扮演重要推手與協助角色。 英國ICO於2017年4月發布企業自行檢視是否符合GDPR之12步驟（Preparing for the General Data Protection Regulation（GDPR）-12 steps to take now），可供了解GDPR的輪廓與思考未來應如何因應： 認知（Awareness）：認知GDPR帶來的改變，與未來將發生的問題與風險。 盤點資料種類（Information you hold）：盤點目前持有個人資料，了解資料來源與傳輸流向，保留處理資料的紀錄。 檢視外部隱私政策（Communicating privacy information）：重新檢視當前公告外部隱私政策，並及時對GDPR的施行擬定因應計畫。 當事人權利（Individuals'rights）：檢視資料處理流程，確保已涵蓋GDPR賦予當事人如：告知權、接近權、更正權、刪除權、製給複本權、停止處理權、不受自動決策影響等相關權利。 處理客戶取得資料請求（Subject access requests）：GDPR規定不能因為客戶提出取得資料請求而向其收費；限期於1個月內回覆客戶的請求；可對明顯無理或過度的請求加以拒絕或收費；如拒絕客戶請求則限期於1個月內須向其說明理由與救濟途徑等。 處理個人資料須立於合法理由（Lawful basis for processing personal data）：可利用文書記錄與更新隱私聲明說明處理個人資料之合法理由。 當事人同意（Consent）：重新檢視初時如何查找、紀錄與管理取得個人資料的同意，思考流程是否需要做出任何改變，如無法符合GDPR規定之標準，則須重新取得當事人同意。 未成年人（Children）保護：思考是否需要制定年齡驗證措施；對於未成年人保護，考慮資料處理活動是否需取得其父母或監護人的同意。 資料外洩（Data breaches）：有關資料外洩的偵測、報告與調查，確保已制定適當處理流程。 資料保護設計與影響評估（Data Protection by Design and Data Protection Impact Assessments）：GDPR使資料保護設計與影響評估明文化。 資料保護專責人員（Data Protection Officers）：須指定資料保護專責人員，並思考該專責人員於組織中的角色與定位。 跨境傳輸（International）：如執行業務需跨越數個歐盟會員國境域，企業則須衡量資料監管機關為何。