新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險

新加坡網路安全局(Cyber Security Agency of Singapore, CSA)於2024年10月15日發布人工智慧系統安全指南(Guidelines on Securing AI Systems),旨在強化AI系統安全,協助組織以安全之方式運用AI,降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段,分別針對各階段的安全風險,提出相關防範措施:

(1)規劃與設計:提高AI安全風險認知能力,進行安全風險評估。

(2)開發:提升訓練資料、模型、應用程式介面與軟體庫之供應安全,確保供應商遵守安全政策與國際標準或進行風險管理;並辨識、追蹤及保護AI相關資產(例如模型、資料、輸入指令),以確保AI開發環境安全。

(3)部署:適用標準安全措施(例如存取控制、日誌記錄),並建立事件管理程序。

(4)運作與維護:持續監控AI系統的輸入和輸出,偵測異常與潛在攻擊,並建立漏洞揭露流程。

(5)壽命終期:應根據相關行業標準或法規,對資料與模型進行適當之處理、銷毀,防止未經授權之存取。

CSA期待該指南發布後,將有助於預防供應鏈攻擊(supply chain attacks)、對抗式機器學習攻擊(Adversarial Machine Learning attacks)等安全風險,確保AI系統的整體安全與穩定運行。

相關連結
※ 新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw//article-detail.aspx?d=9270&no=57&tp=1 (最後瀏覽日:2026/01/19)
引註此篇文章
你可能還會想看
新加坡擴大適用中小企業數位化政策以因應COVID-19疫情

  新加坡為實現「智慧國家」(Smart Nation)願景,長期致力於數位發展政策之推動。當中,在「協助產業加速數位化」方面,針對中小企業建置「中小企業數位化計畫」(SMEs Go Digital),並將其下「預先批准解決方案」(Pre-Approved Solutions)與「生產力解決方案補助金」(Productivity Solutions Grant, PSG)列為重要措施之一;甚而,於此波COVID-19疫情下,新加坡再度強化該等制度之運用,藉此加速中小企業數位發展進程。   所謂「預先批准解決方案」與「生產力解決方案補助金」,係指中小企業得透過企業科技庫(Tech Depot)網頁,了解中小企業數位化計畫下有哪些經過資通訊媒體發展管理局(Infocomm Media Development Authority, IMDA)預先批准的數位解決方案,並在取得供應商報價後,向新加坡企業發展局(Enterprise Singapore, ESG)申請「生產力解決方案補助金」之支援。於COVID-19疫情發生前,預先批准的數位解決方案包含「銷售與庫存管理」、「會計與文件管理」、「顧客關係管理」、「人力資源管理」、「網路安全」、「行動裝置門禁控制」及「車隊管理」等等13項系統,中小企業最高得享有報價70%的補助。   於COVID-19疫情發生後,除原有數位解決方案外,IMDA再預先批准下列內容,ESG亦於2020年4月1日到2020年12月31日間將所有方案的最高補助水平提升至80%,協助中小企業因應疫情並維持業務連續性: 遠距上班─線上協作工具(Online collaboration tools) 遠距上班─虛擬會議和電話工具(Virtual meeting and telephony tools) 訪客管理─佇列管理系統(Queue management system) 訪客管理─溫度檢測方案(Temperature screening solutions)   新加坡為因應COVID-19疫情,加強適用原有中小企業數位化計畫下的預先批准解決方案與生產力解決方案補助金,在既有制度上迅速地進行調整,以減緩疫情造成的產業衝擊,甚至加速中小企業數位發展之進程;另一方面,藉由COVID-19的特性,協助中小企業導入遠距上班與訪客管理等數位技術,改善過往因資金有限而未能優化營運基礎設備之難題,為中小企業開啟新的可能。

韓國「2021年經濟政策」

  韓國財政經濟部(Ministry of Economy and Finance)於2020年12月17日發布「2021年經濟政策」(2021 Economic Policies)。2021年經濟政策中包含兩大重點,分別為因應新型冠狀病毒影響下的不確定性,盡快恢復經濟成長動能,以及推動產業創新與結構轉型,以培植未來的經濟成長動力。政策文件中指出,儘管2020年經濟成長率因疫情影響而表現低迷,但仍期許2021年經濟能夠盡快好轉,改善投資、出口與國內就業。   針對如何盡快恢復經濟成長動能議題,政策文件指出首先應處理因疫情帶來的不確定性,除了維持擴張性財政政策,以增加政府支出刺激總體需求外,在經濟成長與疫情防治間應取得平衡並加強風險管理;其次為透過租稅減免促進消費、擴大投資額度與提供出口融資,以及提供資金以扶植中小企業、提供優惠貸款協助大型企業度過疫情難關、鬆綁法規以發展地方經濟等一連串措施,來達到恢復經濟成長動能的目標。   而在推動產業創新與結構轉型上,將持續投資於5G應用與6G技術的發展上,推動數位經濟與數位政府系統建構,具體措施包含減免投資5G應用貸款稅率2%、籌集投資數位新政基金、完善智慧醫療應用等。此外在扶植新創政策上,則包含建立新興科技實驗場域(K-test bed),以政府採購扶植新興科技、提供商機以及協助銜接海外市場,修正創投法規開放附認股權憑證之低利貸款以引進矽谷創投資金,以及排除可轉換可贖回之債務認定以降低政府研發補助申請門檻等,以有效扶植創新能量成為未來的經濟成長動力。

勢在必行的全球企業最低稅負制

  經濟暨合作發展組織(Organization for Economic Cooperation and Development,下稱OECD)為因應數位化時代下,跨國企業集團透過數位科技所帶來有別於傳統交易的新交易模式等避稅安排使其獲益與稅負顯不相當,亦即稅基侵蝕問題,於2019年提出兩大支柱:支柱一為連結關係與利潤分配;而支柱二為全球反稅基侵蝕規定(Global Anti-Base Erosion rules,下稱GloBE),即本文討論之全球企業最低稅負制。然而全球企業最低稅負制提出之初,因歐盟各國意見不同無法形成共識,直至今(2021)年4月5日因美國財政部長葉倫(Janet Louise Yellen)公開表示正與G20成員國研議推動全球企業最低稅負制,加上近期歐盟各國態度已轉趨支持並附和,此議題終於再度引發國際與我國關注。   事實上,最低稅負制在我國並非新議題,我國早已制定「所得基本稅額條例」並施行多年,其中包括個人與營利事業基本稅額,然而GloBE所規範之全球企業最低稅負制將無可避免地於一定程度上影響我國營利事業所得稅及基本稅額的稅(法)制的調整與變動。加上我國自2019年3月脫離歐盟避稅觀察名單(俗稱灰名單)後,為避免再次被認列避稅天堂,稅制持續與國際接軌,故由OECD提出且美國贊同之全球企業最低稅負制,如各國拍板,我國將勢在必行。

Mcdonald’s 品牌資產保衛策略

  麥當勞公司已申請McDonald’s 與Logo- M用於咖啡,更於九月份將其所販售的研磨咖啡與咖啡豆,以 “Mc Café” 申請商標註冊,意味著未來這間全球最大的漢堡連鎖店,將於店內甚或超市販售『麥當勞咖啡』。『如同大部份的企業,我們註冊許多商標用以保護我們的品牌資產!』麥當勞發言人 Danya Proud表示這並非奇聞。      近幾年,麥當勞成功的因素在於擴展它們的飲料事業,引進優質咖啡與水果冰沙,而選擇在全球速食連鎖店成長緩慢的時候,進入袋裝咖啡市場,亦是個創新手法。 星巴克的商標申請亦侵略性的跳脫普遍存在的咖啡廳而進入零售市場,一九九八年即開始自行經營袋裝咖啡事業,今年七月販售於超市、藥妝店、量販店的咖啡市占率更由25.6 %提升至28.2 %。     其實,麥當勞早在五年前即以 “Mc Café”,擴張咖啡與特色飲料事業,而此些利潤遠高於原本的速食餐點,且間接促使許多顧客駐足停留店內,也許是眼看Dunkin` Donuts於超市與自家甜甜圈店強力販售袋裝咖啡,讓麥當勞思考複製此模式。然而此舉也可能僅止為預防手段,如果麥當勞無意進入袋裝咖啡市場,“Mc Café ”商標也可以防止競爭者以『麥當勞品牌』販售咖啡。

TOP