新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險

新加坡網路安全局(Cyber Security Agency of Singapore, CSA)於2024年10月15日發布人工智慧系統安全指南(Guidelines on Securing AI Systems),旨在強化AI系統安全,協助組織以安全之方式運用AI,降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段,分別針對各階段的安全風險,提出相關防範措施:

(1)規劃與設計:提高AI安全風險認知能力,進行安全風險評估。

(2)開發:提升訓練資料、模型、應用程式介面與軟體庫之供應安全,確保供應商遵守安全政策與國際標準或進行風險管理;並辨識、追蹤及保護AI相關資產(例如模型、資料、輸入指令),以確保AI開發環境安全。

(3)部署:適用標準安全措施(例如存取控制、日誌記錄),並建立事件管理程序。

(4)運作與維護:持續監控AI系統的輸入和輸出,偵測異常與潛在攻擊,並建立漏洞揭露流程。

(5)壽命終期:應根據相關行業標準或法規,對資料與模型進行適當之處理、銷毀,防止未經授權之存取。

CSA期待該指南發布後,將有助於預防供應鏈攻擊(supply chain attacks)、對抗式機器學習攻擊(Adversarial Machine Learning attacks)等安全風險,確保AI系統的整體安全與穩定運行。

相關連結
你可能會想參加
※ 新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9270&no=57&tp=1 (最後瀏覽日:2026/08/01)
引註此篇文章
你可能還會想看
台幹入股台資企業亦屬在大陸大區從事投資,必須事前向投審會提出申請

  近幾年來,為了增加台籍員工向心力,不少台商都辦過「增資認股」,多數的情況是,企業辦理增資時,讓出一部分股權,開放員工入股。不論,員工入股是否自行買單,企業辦理「增資入股」時,都會先由台灣母公司辦理增資海外控股公司,再將計畫入股的員工載入控股公司名冊。   隨著台資企業開放員工入股漸成風潮,士林電機董事會日前通過,將以士電蘇州恆通增資為首例,讓台籍幹部入股百分之二十,未來海外子公司,都將循相同模式,這是首次有上市櫃台商清楚表明,增資用途是讓員工入股,引起外界關注。   經濟部投資審議委員指出,依「在大陸地區從事投資或技術合作許可辦法」第4條第1項第3款規定,台灣地區人民在大陸地區取得當地現有公司股權,視為「在大陸地區從事投資」,必須在行為發生前,依同法第7條第1 項備具申請書件向投審會申請許可,縱投資金額在公告限額以下,亦應填具申報書並檢附相關文件向投審會申報。   根據上開規定,台幹入股台資企業,視為「投資」行為,必須事前提出申請,否則恐將挨罰。另員工入股之後,按在大陸地區從事投資或技術合作審查原則第3點規定,也必須遵守台灣地區個人對大陸投資累計金額不得超過八千萬元的上限。

瑞士新修正專利法進一步釐清研究、試驗免責範圍

  近幾年,製藥領域專利權效力的範圍及例外空間何在,引起廣泛討論,為發展製藥產業,諸多先進國家紛紛修改其專利法,擴大專利權例外範圍,使研發工作更易進行,以爭取跨國藥廠研發委外之機會。例如歐盟2004年修正通過的第2004/27指令,即對學名藥的試驗免責予以明文規定,而歐盟各會員國在將該指令內容落實為內國法的過程中,則有不少國家進一步擴大該指令例外規定的適用範圍。   瑞士雖非歐盟會員國,不過其在化學及製藥領域擁有世界一流的領先技術,因此瑞士也特別注意法規範面對於技術研發與產業發展之影響,並在近幾年積極展開類似的修法工作,瑞士新修正的專利法所規定的研究或試驗免責範圍,更進一步釐清農業領域使用受保護之生物物質之疑義,值得參考。   瑞士新修正專利法第9條規定,專利權效力不及於:(1)於私領域基於非商業目的之行為;(2)基於實驗與研究目的,為針對發明客體及其可能之應用獲取新知識所進行之行為,特別是與該發明客體有關之所有科學研究,均為容許空間;(3)為就某一藥品於瑞士取得上市許可,或於其他有類似藥品上市管制的國家取得上市許可所進行之必要行為;(4)為於教學機構中教學之目的而使用發明;(5)為進行植物品種之選育、發現或開發,而使用生物物質之行為;(6)在農業領域,出於偶然或因技術上不可避免而獲得生物物質。   上述新規定自2008年7月1日生效,隨著專利法對研究例外範圍的進一步釐清,瑞士的法規環境更具有發展生技研發服務的吸引力與國際競爭力。

談傳統民俗文化藝術之保護-兼論原住民族傳統智慧創作保護法草案

Viacom 對YouTube提出之著作權侵權訴訟已被駁回

  美國法官駁回Viacom公司對Google之影片分享網站YouTube所求償美金10億元之訴訟,這個重要的勝利潛在地強化眾多網路服務提供者所獲得之法律保護。。   此一判決結果並非表示這場爭執3年的法律大戲已結束,因為紐約媒體大亨Viacom立刻承諾對於這判決提起上訴。如最後此一判決是被確認,將可能使得影片創作在現今這數位時代中更難受到保護。   Viacom是在2007年3月對Google提起此一侵權訴訟,內容指出其電影、電視節目及其他內容被廣泛的置於YouTube網站,涉及故意侵權。Google是在2006年10月以16億5千萬買下YouTube,於本訴訟中Google以其符合數位千禧年著作權法(Digital Millennium Copyright Act)之要求,即時取下經權利人所通知後之侵權內容作為抗辯。此案因涉及數位千禧年著作權法中之安全港條款,因而被受關注。   美國紐約南區地方法院法官Stanton於判決中,表示數位內容之著作權保護,非取決於網路服務提供者是否監控其所提供的服務,而在於其於接獲著作權權利人通知後之反應。更進一步表示YouTube已盡其責任,2007年初在接獲Viacom通知其網站約有10萬件受著作權保護影片後,幾乎於接到通知之下一個工作天內便將這些影片取下。並且表示Viacom於本案所提出之法律論點太薄弱。不意外地,Viacom對此不悅的表示:此一判決基本上是有缺點的,並試圖訴諸於美國第二巡迴上訴法院。   然而,Google的法務長Kent Walker表示這是一場重要的勝利,不僅只是對Google也是對全球幾十億利用網路溝通與經驗分享的使用者,並期待將焦點集中在鼓勵毎天於全世界YouTube網站張貼並瀏覽這數量龐大且驚人的想法與創作表達。

TOP