新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險

新加坡網路安全局(Cyber Security Agency of Singapore, CSA)於2024年10月15日發布人工智慧系統安全指南(Guidelines on Securing AI Systems),旨在強化AI系統安全,協助組織以安全之方式運用AI,降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段,分別針對各階段的安全風險,提出相關防範措施:

(1)規劃與設計:提高AI安全風險認知能力,進行安全風險評估。

(2)開發:提升訓練資料、模型、應用程式介面與軟體庫之供應安全,確保供應商遵守安全政策與國際標準或進行風險管理;並辨識、追蹤及保護AI相關資產(例如模型、資料、輸入指令),以確保AI開發環境安全。

(3)部署:適用標準安全措施(例如存取控制、日誌記錄),並建立事件管理程序。

(4)運作與維護:持續監控AI系統的輸入和輸出,偵測異常與潛在攻擊,並建立漏洞揭露流程。

(5)壽命終期:應根據相關行業標準或法規,對資料與模型進行適當之處理、銷毀,防止未經授權之存取。

CSA期待該指南發布後,將有助於預防供應鏈攻擊(supply chain attacks)、對抗式機器學習攻擊(Adversarial Machine Learning attacks)等安全風險,確保AI系統的整體安全與穩定運行。

相關連結
※ 新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9270&no=64&tp=1 (最後瀏覽日:2025/11/08)
引註此篇文章
你可能還會想看
德國專利商標局加入全球專利審查高速公路(GPPH)

  德國專利商標局(DPMA)於2015年7月6日加入全球專利審查高速公路(Global Patent Prosecution Highway,簡稱GPPH),基於此,德國在現有的PPH合作基礎上拓展12個其他的合作專利局。   PPH的目的是經由雙方交流和跨國界專利檢索與審查結果的使用以加速專利登記的處理,一方面維持專利審查的品質,同時形成有效率的專利審查程序。   從2015年7月6日起,一個加速審查的申請不只在德國專利商標局之前合作的9大PPH專利局,即:中國國家知識產權局、日本專利局、英國知識產權局、美國專利商標局、韓國知識產權局、加拿大知識產權局、芬蘭國家專利注冊委員會、新加坡知識產權局、奧地利專利局,還可以在下述12個國家或地區試行,即:澳大利亞知識產權局、丹麥專利商標局、俄羅斯聯邦知識產權局、匈牙利知識產權局、西班牙專利商標局、瑞典專利注冊局、葡萄牙工業產權局、愛沙尼亞專利局、以色列專利局、挪威知識產權局、冰島專利局、北歐專利局(包括丹麥專利商標局、挪威知識產權局、冰島專利局)。   對申請人來說這個制度的優點是,未來若申請人的專利申請案的請求項在參與GPPH的任一國家或地區的專利機構已經被認為具有可專利性,那麼申請人可以要求作為後續申請受理局的德國專利商標局進入簡易程序,以獲得加速審查。

新加坡智慧財產局研究顯示,智慧財產對於企業經營獲利的重要性

新加坡智慧財產局(Intellectual Property Office of Singapore, IPOS)2023年5月發布了一份名為《品牌、專利與企業績效表現的研究報告》(Brands, patents and company performance study),分別針對全球前100大上市公司及新加坡前100大上市公司進行分析,說明智慧財產等無形資產對於企業發展的重要性。 首先,IPOS在報告中對全球前100大上市公司進行分析,若該上市公司同時名列「全球500大最有價值品牌」(英國知名品牌諮詢機構Brand Finance每年發布)及/或「全球專利前250強」(美國知名專利研究公司IFI CLAIMS Patent Services每年發布),報告中將這類上市公司定義為持有最有價值品牌或最強專利組合的企業。這類企業與全球前100大上市公司中的其他企業相比,平均收入(revenue)是其他企業的2.2倍、淨利(net profit)是其他企業的1.9倍、市值(market capitalisation)是其他企業的2.3倍。 其次,本報告以新加坡前100大上市公司為分析對象,其中持有最有價值品牌(同時名列「新加坡100大最有價值品牌」)及/或最強專利組合(根據PatSnap專利資料庫的檢索資料定義)的上市公司,與新加坡前100大上市公司中的其他企業相比,平均收入是其他企業的2.4倍、淨利是其他企業的1.8倍、市值是其他企業的2.7倍。 由新加坡發布的報告可知,品牌或專利等無形資產對於企業維持競爭優勢的重要性,企業應將智慧財產布局與管理列為公司治理的重點,持續確保企業無形資產的價值(譬如企業若未持續落實商標布局與管理,將會削弱品牌價值),以強化企業的競爭力。 本文同步刊登於TIPS網站(https://www.tips.org.tw)

黑莓機服務中斷數日,RIM面臨用戶集體求償

  全球商務人士最喜愛使用的智慧型手機「黑莓機」,在今年(2011)10月中旬出現全球大當機,手機用戶無法上網及收發簡訊,影響範圍從歐洲擴及北美與世界各地。手機製造商Research In Motion (RIM)的首席執行長Mike Lazaridis在官網上以視訊公開向全球用戶道歉,並提出可免費下載100美元的應用軟體作為補償。然而此舉無法平息用戶的怒火,許多使用者正打算對RIM提出訴訟求償,因為中斷服務害他們錯失許多訊息與會議時間。   加拿大魁北克的高等法院就收到使用者對RIM要求經濟補償的集體訴訟,因為RIM所提出的補償措施根本無法彌補中斷服務數天的損失。若法院認同訴訟主張,RIM遭求償的總額或許很高,不過使用者提出的訴求是中斷服務的1.5天,他們無法使用月付25元加幣的無線網路服務,因此按比例分攤每件可能僅1.25元。而在美國的消費訴訟律師,則考慮對RIM提出違約訴訟或是消費詐欺,前者是以RIM未依約盡到其提供服務的責任為主張;而後者消費詐欺的重點則是著眼於,RIM導致消費者誤信黑莓機的可靠性。然而使用者所面臨的困難是,要如何證明他們所受到的損害,高於原本應獲得的服務,而且因為是全區域的服務中斷,在跨州的集體訴訟中還有各州法律適用的問題。有法律專家言明,要證明因為不能使用智慧型手機的功能而造成的實際損害非常困難,畢竟在緊急時刻,溝通(communicate)還有其他選擇方式。

美國最高法院就蘋果與三星間關於設計專利侵權一案進行審理

  美國加州聯邦法院於2015年12月裁定三星侵犯iPhone設計專利,需向蘋果賠償5.48億美元。三星不服因此上訴至美國最高法院,美國最高法院於今年(2016)10月11日開庭審理韓國三星電子公司的專利侵權糾紛案,針對加州聯邦法院授予蘋果的賠償金是否過多一事進行審議。   智慧手機是包含多個部件、技術之複雜產品,設計專利持有者不能因為某項專利侵權而要求獲得整個產品之全部利潤。本件上訴案中,三星聲稱「被認定侵權的功能僅占三星電子手機價值的1%,蘋果卻得到了三星電子100%的利潤」,認為加州聯邦法院針對侵犯蘋果的設計專利涉及手機的外觀(如圓角長方形機身、用戶介面),判定需用侵權產品的全部銷售利潤來支付蘋果3.99億美元之設計侵權賠償金並不公平。蘋果則表示,蘋果手機的成功與其獨特的外觀有直接關係,三星故意抄襲蘋果的創新設計並因此大幅提升產品銷量,因此有權要求侵權產品之全部利潤。   三星和蘋果間的專利糾紛訴訟已持續多年,自2011年起,已發生多起關於智慧型手機、平板在技術、用戶介面及風格上之抄襲糾紛。目前兩家公司在本案庭審中仍各執己見,而美國最高法院預計將於明年(2017)6月作出判決。

TOP