新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險

新加坡網路安全局(Cyber Security Agency of Singapore, CSA)於2024年10月15日發布人工智慧系統安全指南(Guidelines on Securing AI Systems),旨在強化AI系統安全,協助組織以安全之方式運用AI,降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段,分別針對各階段的安全風險,提出相關防範措施:

(1)規劃與設計:提高AI安全風險認知能力,進行安全風險評估。

(2)開發:提升訓練資料、模型、應用程式介面與軟體庫之供應安全,確保供應商遵守安全政策與國際標準或進行風險管理;並辨識、追蹤及保護AI相關資產(例如模型、資料、輸入指令),以確保AI開發環境安全。

(3)部署:適用標準安全措施(例如存取控制、日誌記錄),並建立事件管理程序。

(4)運作與維護:持續監控AI系統的輸入和輸出,偵測異常與潛在攻擊,並建立漏洞揭露流程。

(5)壽命終期:應根據相關行業標準或法規,對資料與模型進行適當之處理、銷毀,防止未經授權之存取。

CSA期待該指南發布後,將有助於預防供應鏈攻擊(supply chain attacks)、對抗式機器學習攻擊(Adversarial Machine Learning attacks)等安全風險,確保AI系統的整體安全與穩定運行。

相關連結
你可能會想參加
※ 新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9270 (最後瀏覽日:2025/03/29)
引註此篇文章
你可能還會想看
代理孕母將合法化

  經過 10 多年的爭議,國內第一部「代孕人工生殖法」草案終將出爐。未來代理孕母將採無償精神,代孕者須年滿 20 歲且須有生產經驗,但是沒有國籍的限制。   根據草案內容,未來代孕制度將採無償精神,雖不得有商業仲介行為,但委託夫妻得提供代理孕母醫療、交通和營養費等費用, 甚至包括分娩後的醫療檢查、工作損失、交通費用等 。 草案中對於委託夫婦的條件放寬,不只限於沒有子宮之婦女,在精、卵自備的前提下,只要夫婦懷孕可能危及生命,就適用此法案, 得尋求人工生殖手術之婦女 , 包括沒有子宮、有懷孕障礙或分娩有危險等婦女。在親子關係認定方面,目前備有出生後收養制以及直接認定為委託夫妻婚生子女等二種方案。此外,代理孕母在生產後 2 年內,得保有探望代孕子女之權利。至於代理孕母之資格,僅要求須年滿 20 歲且有懷孕經驗,而無國籍限制。   未來代理孕母將有法可循,造福不孕婦女,但是在親子關係認定問題上,似仍需要更嚴謹的討論,避免衍生更多糾紛。

電子投票機制及法律議題之研究

台美貿易談判 藥廠權益是焦點

  據報載, 5 月 25 日 起在我國舉行兩天之台灣與美國貿易投資架構協定( TIFA )會談,藥廠權益乃雙方談判焦點,美方這次來台所提出之談判項目中,對台灣藥廠衝擊較大的是資料專屬權( Data Exclusivity ),及專利連結( Pattern Linkage )兩項,本土製藥業擔心,政府若妥協將可能造成台灣藥廠及研究單位新台幣上百億元的損失。   儘管去年初立法院已經三讀通過藥事法 40 條之 2 的「資料專屬權保護」條文,但預料美方這次將要求政府重新修法,以保障外商藥廠的權益。此外,專利連結( patent linkage )也是衛生署嚴陣以待的項目,外商訴求此一機制之目的,係希望透過專利資訊之揭露,使任何申請上市許可之學名藥品,均係在專利到期後或未侵害專利之前提下,使得上市。   專利連結制度首見於美國,美國食品藥物管理局 (FDA) 對藥品有所謂之「橘皮書」,要求公布各藥品的專利內容及安全性與療效資訊,並以此作為日後學名藥賞上市或與原開發藥廠發生專利侵權爭訟時之參考。業界認為,如果台灣也比照美國 FDA 專利連結的規定,可能導致外商藥廠得以輕易對台灣藥廠展開侵權訴訟官司,衝擊我國製藥產業。

「數位藥丸(digital pill)」新運用

  英國航空公司(British Airways)近來對數位藥丸申請了專利,並且調查乘客是否願意吞食數位藥丸,使空服員得對其提供更好的服務。   該數位藥丸以主要是一個可食用的偵測系統,藉此航空公司得以知悉乘客的身理狀況,包含偵測乘客的心跳、體溫、或是否處於睡眠等生理反應,航空公司便可據此調整基上的的燈光、用餐時間以及機上娛樂設施等等。這一整套「為了提升乘客旅遊品質」的系統現在被寫成專利申請書,並於2016年提出英國航空公司表示利用不同的資料可以幫助機員了解乘客是醒或睡、是否緊張、冷熱或感到不舒適,並通知機員。依據其專利申請書,英國航空希望創造一個App,協助乘客改善整體旅遊品質,不僅是在機上,而是乘客從踏出家門開始到旅程結束,均能享受此科技之便利。

TOP