新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本智慧財產戰略本部之「次世代智財系統檢討委員會」於2016年4月18日公布的報告書針對「AI創作物」有諸多討論，截取部份內容如述。 以現行著作權法來看，自然人創作產生的創作物，受到著作權保護並無疑問。倘若係自然人利用AI做為道具產出的創作物，若具備(1)創作意圖；(2)創作貢獻，兩種要件，亦得取得權利。然而，若該創作物僅透過人類指示，過程係由AI自主生成，此時該創作物即屬於AI創作物，目前非屬著作權法保護之範圍。惟上述三種情況在外觀辨識上極為困難。換言之，人類創作物與AI創作物之界線已愈趨模糊。 AI創作物可能具備多種態樣，包括：音樂、小說等，甚至包括新技術及服務的生成。以音樂、小說為例，由於日本著作權法係以「創作保護主義」為前提，只要該創作物完成時具有原創性，即受著作權保護，AI的特性可能會造成該當著作權保護之著作物數量遽增；若AI產生的成果屬於技術或服務，以專利審查需具備新穎性、進步性等要件而言，得獲取專利權難度相對比較高。 而日本政府在討論AI創作物是否具有「保護必要性」，主要係以智財權「激勵理論」出發，該理論核心在於保護人類的投資行為應獲得合理報酬，才有續行創作的動機。
FCC決定將限縮頻率拍賣規範美國政府為因應數位匯流趨勢，自 2004 年起開始逐漸釋放新的頻率執照，以供網路多媒體服務或新興通訊業者申請。不過因為先前的拍賣方式是採匿名制，並將頻率切割成小頻段拍賣，而導致競標者間共謀串連，造成拍賣價格過低的情形屢見不鮮。另一方面，由於頻率交易制度（ trading ）盛行，使無線網路業者為了湊足足夠頻段，必須花費更多的成本去租用或購買頻段來經營業務。以上二個因素使頻率的拍賣出現缺乏競爭的現象。 為使頻率的拍賣能夠達到競標的目的， FCC 決定更弦易轍改變拍賣的方式。 2006 年 4 月 11 日 美國聯邦通訊委員會（ FCC ）投票通過在 6 月 29 日 將舉辦的拍賣，除了取消以往的匿名性競標，將例外以較大的頻段進行公開拍賣，讓更多的有意願經營業務的競標者參加。 目前有部分消費者團體贊同這項決定，認為為可以終結盲目拍賣（ blind bidding ）的亂象，以及杜絕大企業壟斷頻段的情形。
歐盟執委會發表數位政府有助於因應COVID-19疫情之說明歐盟執委會（European Commission, EC）於2020年3月24日發表新聞稿，說明在COVID-19疫情期間，各國政府要求人民保持社交距離甚或自我隔離；人民無法會面互動下，數位政府政策成為維持正常生活的解套方式。歐盟於新聞稿中重申先前建構「歐盟內部市場電子交易之電子身分認證與信賴服務規則」（REGULATION EU No 910/2014 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 23 July 2014 on electronic identification and trust services for electronic transactions in the internal market and repealing Directive 1999/93/EC，以下簡稱 eIDAS）、電子識別（electronic identification, eID）以及發展信任服務（trust services）的必要性，例如電子戳記（eTimestamps）、電子圖章（eSeals）、電子簽章（eSignatures）、網站認證（Website authentication）等均屬之。歐盟公民無須離開住宅，即可和公部門互動。 除了公部門，信任服務可以支援歐盟企業（特別是疫情嚴重地區的中小型企業）遠端執行業務，維持業務連續性。例如金融服務對交易、認證、安全性及防洗錢等領域發展數位化：eID識別客戶身分、整合同一客戶的海外金融帳戶服務、遠端驗證防洗錢要求；電子簽章可與客戶遠端簽署金融服務契約；電子註冊交付服務（electronic registered delivery service）則作為安全交換重要文件或契約之機制。 在零售業而言，安全的電子交易對於線上業務尤為重要。例如eID可對購買酒類等管制商品或藝術品等高價商品之消費者進行更嚴格的身分檢查；電子簽章和電子戳記則強化文件及流程追蹤機制，降低追蹤成本。 在運輸部門，以汽車共享服務為例，eID可用於證明客戶的身份，提供安全登錄，並允許客戶進行遠端車輛解鎖。而貨運及物流產業，若在不同營運商運送之間遇有延遲，則電子戳記可使責任歸屬更加明確。另外，對重要文件使用電子圖章，可證明文件完整性、有效性並減少對紙本文件的依賴，並降低疫情期間會面之風險。
開放非銀行事業從事預付式行動付款服務法制議題之研究