新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國國家公路交通安全管理局（National Highway Traffic Safety Administration, NHTSA）於2022年9月9日公布2022年最新版本之當代車輛網路安全最佳實踐（Cybersecurity Best Practices for the Safety of Modern Vehicles），強化政府對先進聯網車輛網路安全之把關。 文件將網路安全實踐項目區分為「一般網路安全最佳實踐」及「車輛技術網路安全最佳實踐」兩塊，前者主要為公司整體組織網路安全文化與監管機制之建立；後者則偏重於技術性的建議內涵。 「一般網路安全最佳實踐」共有45項要點，核心概念為：公司應訂定明確的網路安全評估程序，由領導階層負責相關監督責任，定期執行網路安全之風險評估及第三方公正稽核，並對其所發現之風險弱點採取保護措施並持續監控，同時應妥善保存所有網路安全相關之紀錄文件，並鼓勵與車輛同業聯盟彼此分享學習經驗。對於組織成員應適當提供網路安全教育訓練。於產品設計時，應將產品使用者、售後服務維修商，以及可能的外接式電子設備所帶來之風險一併納入安全設計考量。 「車輛技術網路安全最佳實踐」共有25項，核心理念為：對於產品開發人員，應建立存取權限管理，避免有心人士濫用權限。產品所使用的加密技術應隨時更新，若車輛具備診斷功能，應慎防遭到不當利用，且應防止車輛所搭載之感測器遭到惡意干擾或改動，感測器所收集到之資料則應能免於網路攻擊或竊取。應特別注意無線網路設備、空中軟體更新（Over-the-air, OTA）以及公司作業軟體所產生之風險漏洞。 本文件屬於自願性質，無法律強制力。但NHTSA期望在現有的車輛產業網路安全標準上，例如國際標準組織與國際汽車工程師協會（International Standards Organization, ISO/SAE International, SAE）先前所訂定的車輛網路安全標準ISO/SAE 21434的基礎前提下，進一步提出政府對車輛網路安全要求的努力。
歐盟MiCA擬於2024年生效並適用於規範NFT歐洲理事會在2022年10月5日公告歐盟加密資產市場監管法（The Markets in Crypto Assets regulation bill, MiCA）草案最終條文內容，此份草案已經歐洲議會眾議員通過並提交歐洲議會經濟貨幣事務委員會（European Parliament Committee on Economic and Monetary Affairs），MiCA將於2023年年初公告於歐盟官方公報，並於2024年生效施行。MiCA屬於歐盟數位金融政策（Europe’s Digital Finance Strategy）之一環，立法目的為統一多種加密代幣（crypto token） 發行和交易的法規架構，以保護加密代幣使用者和投資人權益，為歐盟金融法規未涵蓋的加密資產（如：穩定幣）提供法律確定性，及建立歐盟層級的統一規定。值得注意的是，相關規定歐盟目前並未排除適用於非同質的加密貨幣（non-fungible tokens, NFT）。 草案前言第6c點明文，不應考慮「獨特且非同質的加密資產」（unique and non-fungible crypto-asset）的小部分獨特性和非同質性，因為大量以一系列NFT形式發行加密資產應認定是具備同質性（fungibility）之指標。從而，未來在歐盟發行NFT將適用MiCA規定，包含： 一、適用傳統金融機構資金轉帳規則（travel rules），如：確保加密資產交易可被追蹤、得封鎖可疑交易等以達到防制洗錢與打擊恐怖主義融資之目的。 二、NFT作為一種加密資產，該服務供應商必須確認加密資產來源，確保加密資產並未涉及洗錢或恐怖主義融資之風險。 三、應透過NFT服務供應商協助，才能進行用戶間交易和轉帳。
當網路梗圖爆紅 潛藏的著作權侵權疑慮今（2021）年一月中旬在美國總統就職典禮中，由法新社（Agence France-Presse, AFP）攝影記者Brendan Smialowski捕捉到參議員桑德斯（Senator Bernie Sanders）戴著連指手套、雙手環胸在場邊靜候的攝影作品，意外受到網友關注並製作成各式梗圖迷因（meme） 而爆紅。然而，在這些成千上萬的梗圖創作中，除非獲得原創作者的允許或落在著作權法的合理使用範圍，否則皆潛在隱藏了著作權侵權之可能性。 檢視本事件，將該攝影著作去背以取得「寧靜而坐的桑德斯圖像」，而將該去背圖像合成於各式情境場景，甚至架設梗圖產生器網站供其他網友上傳照片以製作更多衍生梗圖。多數在網路上分享之創意梗圖為博取網友一笑為目的，尚屬於著作權合理使用之範圍，然而當藉由該去背圖像或衍生梗圖進行廣告或促銷之用途，如將該去背圖像或衍生梗圖成為商品行銷元素、多次使用於廠商的社群媒體貼文中，將可能落入商業使用之爭議。桑德斯本人便將該去背圖像製作成運動衫進行慈善募款，儘管所得為慈善用途，但仍屬於商業使用；此外，該去背圖像未將原創進行任何轉化而直接轉印在衣服上，亦無法主張合理使用。儘管存有侵權疑慮，現階段攝影師似乎樂見其攝影作品成為各式梗圖而瘋傳，不過當開始有人藉由其攝影著作賺取金錢，情境可能就有所不同，攝影師將可能進行追究。 回顧過去類似將網路梗圖迷因進行商業使用，而產生著作權侵權爭議之案件。早如2009年美聯社（Associated Press）記者所拍攝前美國總統歐巴馬競選活動之肖像特寫，遭到前衛街頭塗鴉藝術家費爾雷（Shepard Fairey）在未經授權使用之前提下，將該攝影著作改作名為《希望（Hope）》之海報與各式商品並進行販售，美聯社因而對費爾雷提出侵權訴訟，儘管最後雙方和解，但兩者在過程中皆投入不少訴訟資源。其他案例如2019年體育流行文化媒體Barstool Sports與社群媒體Jerry Media等，皆因藉由擷取網路梗圖吸引網路社群觸及以進行消費等商業行為，遭到原創者檢舉而被迫刪除歷年貼文。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」
新加坡公布「於安全性應用程式負責任地利用生物特徵識別資料指引」協助組織合理利用生物特徵識別資料新加坡個人資料保護委員會（Singapore Personal Data Protection Commission, PDPC）於2022年5月17日，公布「於安全性應用程式負責任地利用生物特徵識別資料指引」（Guide on the Responsible Use of Biometric Data in Security Applications），協助物業管理公司（Management Corporation Strata Title, MCST）、建築物及場所所有者或安全服務公司等管理機構，使各管理機構更負責任地利用安全攝影機和生物特徵識別系統，以保護蒐集、利用或揭露的個人生物特徵識別資料。 隨著安全攝影機等科技應用普及化，管理機構以錯誤方法處理個人生物特徵識別資料之情形逐漸增多，因此PDPC發布該指引供管理機構審查其措施。其中包括以下重點： （1）定義生物特徵識別資料包含生理、生物或行為特徵，及以此資料所建立之生物特徵識別模版； （2）說明維安攝影機及生物特徵識別系統運用所應關鍵考量因素，如避免惡意合成生物特徵之身分詐欺、設定過於廣泛而使系統識別錯誤等情形，並舉例資料保護產業最佳範例，如資料加密以避免系統風險、設計管理流程以控管資料等； （3）說明生物特徵識別資料在個資法之義務及例外； （4）列出實例說明如何安全監控之維安攝影機，並提供佈署建築物門禁或應用程式存取控制指引，例如以手機內建生物識別系統管理門禁，以取代直接識別生物特徵，並有提供相關建議步驟及評估表。 該指引雖無法律約束力，仍反映出PDPC對於安全環境中處理生物特徵識別資料之立場。而該指引目前僅針對使用個人資料的安全應用程式之管理機構應用情境，並未涵蓋其他商業用途，也未涵蓋基於私人目的使用安全或生物特徵識別系統之個人，如以個人或家庭身分使用居家高齡長者監控設備、住宅生物特徵識別鎖等應用情境。