新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險

新加坡網路安全局(Cyber Security Agency of Singapore, CSA)於2024年10月15日發布人工智慧系統安全指南(Guidelines on Securing AI Systems),旨在強化AI系統安全,協助組織以安全之方式運用AI,降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段,分別針對各階段的安全風險,提出相關防範措施:

(1)規劃與設計:提高AI安全風險認知能力,進行安全風險評估。

(2)開發:提升訓練資料、模型、應用程式介面與軟體庫之供應安全,確保供應商遵守安全政策與國際標準或進行風險管理;並辨識、追蹤及保護AI相關資產(例如模型、資料、輸入指令),以確保AI開發環境安全。

(3)部署:適用標準安全措施(例如存取控制、日誌記錄),並建立事件管理程序。

(4)運作與維護:持續監控AI系統的輸入和輸出,偵測異常與潛在攻擊,並建立漏洞揭露流程。

(5)壽命終期:應根據相關行業標準或法規,對資料與模型進行適當之處理、銷毀,防止未經授權之存取。

CSA期待該指南發布後,將有助於預防供應鏈攻擊(supply chain attacks)、對抗式機器學習攻擊(Adversarial Machine Learning attacks)等安全風險,確保AI系統的整體安全與穩定運行。

相關連結
※ 新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9270&no=57&tp=1 (最後瀏覽日:2026/01/29)
引註此篇文章
你可能還會想看
英國推動農場資料認證計畫,首重資料生成、保護與維護管理

英國Farm Data Principles組織(下稱FDP,前身為英國農場資料委員會(The British Farm Data Council)),在2024年2月26日英國農業科學技術跨黨派小組(All Party Parliamentary Group for Science & Technology in Agriculture)於西敏寺辦理的會議,正式宣告農場資料認證計畫,FDP強調因目前欠缺資料治理原則,導致缺乏信任等資料使用障礙,並指出若未事先約定資料如何使用等,將致無法明確保護資料。截至目前為止,已經有7個組織取得完全(Full)或臨時(Provisional)認證。 農場資料認證計畫包含四大核心要求,分別為: 1.「您的資料是您的資料(YOUR DATA IS YOUR DATA)」:如強調應由資料生成者擁有及管控資料,且未經其許可,不得接觸、儲存、共享或銷售資料,以及應明確說明參與資料處理的對象等。 2.「通過認證的組織清楚資料共享的價值和好處(CERTIFIED ORGANISATIONS ARE CLEAR ABOUT THE VALUE AND BENEFIT OF DATA SHARING)」:如應針對資料使用範圍及方式,提供明確說明,以及必須解釋如何整合資料及其衍生的價值等。 3.「通過認證的組織須確保資料安全(CERTIFIED ORGANISATIONS KEEP YOUR DATA SAFE)」:如為維護資料安全,應採取適當的資料安全標準及規劃資料外洩處理流程等。 4.「通過認證的組織須努力使資料變得簡單(CERTIFIED ORGANISATIONS STRIVE TO MAKE DATA EASY)」:如提供資料相關教育訓練,以及確保組織能夠回應請求或投訴等。 為因應農業資料於研發過程中的資料應用風險,資策會科法所創意智財中心協助農業部研擬「智慧農業科技研發資料源頭查檢說明手冊」,並於2024年3月14日正式發布,相關手冊所附之資料管理查檢表,可協助智農科技研發者針對資料取得、使用及管理,事先進行整體性規劃,並與不同的資料提供者及合作對象就資料權利義務約定清楚。其中針對資料管理,更依照資料生成、保護及維護的標準化作業流程,設計各階段相應的管控要項,確保農業資料持續處於有效管理的狀態,以降低資料潛在風險,促進資料流通應用。 本文同步刊登於TIPS網站(https://www.tips.org.tw)

歐洲法院裁決比特幣兌換免徵增值稅

  歐洲法院(Court of Justice of the European Union)日前(2015年10月22日)裁決,根據歐盟增值稅指令(Council Directive 2006/112/EC of 28 November 2006 on the common system of value added tax (OJ 11.12.2006 L 347, p. 1-118, ‘the VAT Directive’)),虛擬通貨比特幣(bitcoin)與其他傳統通貨的兌換交易免徵增值稅。   本案肇因於歐盟會員國瑞典之國民David Hedqvist欲申請線上比特幣交易平臺營利,預先向瑞典稅法委員會(Swedish Revenue Law Commission)申請先裁決定(preliminary decision),以確認比特幣與其他傳統通貨,諸如瑞典克朗,之間的兌換交易免徵增值稅。委員會表示,比特幣作為一種支付方式,其使用與合法的支付方式相似,因此比特幣與傳統通貨之間的兌換免徵增值稅。然而瑞典稅務機關(Skatteverket; the Swedish Tax Authority)對該決定不符因而上訴至瑞典最高行政法院(Högsta förvaltningsdomstolen; Supreme Administrative Court, Sweden)。法院認為本案涉及歐盟增值稅指令之解釋,因此以之為先決問題暫停訴訟而提交至歐洲法院,請求先行裁決(the reference for a preliminary ruling)。先行裁決是歐盟法院進行的程序之一,由各會員國法院請求其對歐盟法內容或效力作出解釋並拘束所有會員國,藉此保證歐盟法的法確定性及適用上的一致性。   瑞典最高行政法院認為,固然可以從歐洲法院先前判決推導出:從傳統通貨與虛擬通貨的兌換交易中,取得買賣虛擬通貨之差額作為對價,構成「提供服務以獲取對價」。有疑者,該等交易是否被歐盟增值稅指令第135條第1項各款規定所涵蓋,而屬於得免除增值稅之金融服務提供。其提交歐盟法院請求解釋之問題有二:第一,系爭交易是否屬於歐盟增值稅指令第2條第1項所定之「提供服務以獲取對價」之交易;第二,如是,該等交易是否屬於同法第135條第1項所規定得免除增值稅之交易?   歐洲法院認為,比特幣具有雙向通貨流的性質,而其除了作為支付工具之外別無意義。該虛擬通貨與傳統通貨的兌換,性質上屬於不同支付方式的交換;此外,比特幣販售者所獲得報酬等同於其買賣比特幣的價差,與交易有直接連結,屬於歐盟增值稅指令第2條第1項c款「提供服務以獲取對價」之交易。   關於第二個爭點,歐洲法院認為,歐盟增值稅指令第135條第1項e款之目的即在於避免金融交易中,決定應稅額及增值稅抵扣額的困難。更重要者,傳統通貨與虛擬通貨比特幣之相互兌換,在交易雙方都可接受比特幣作為支付方式之情況下,僅是不同支付方式之交換而屬於金融交易。若將系爭交易排除於該款適用範圍之外,將會剝奪規範目的的部份效果,因此應認定其免徵增值稅。   至於此裁決是否代表歐盟全面肯認,諸如比特幣等具有雙向通貨流性質之虛擬通貨,其作為通貨的性質?裁決中提到,就歐盟指令而言,虛擬通貨與電子錢不同,且前者並非以諸如歐元之傳統記帳單位(traditional accounting units)表示,僅是虛擬記帳單位。因此,比特幣乃至虛擬通貨於歐盟法上之定位,仍有待觀察。

暴雪公司告《刀塔傳奇》遭駁回,修正訴狀後再提告

  2015年3月,暴雪公司(BLizzard Entertainment)在官網上公開宣稱,手機遊戲《刀塔傳奇》並未經過其授權,而其角色場景均涉嫌抄襲「魔獸爭霸」與「魔獸世界」多項重要角色,其後在美國、大陸台灣等地對《刀塔傳奇》開發商莉莉斯公司提出告訴。而 Courthouse News Service近來指出,美國地方法院於2015年12月17日駁回暴風公司對莉莉斯公司的訴訟。   美國的著作權法不保護虛擬角色,但仍有例外。依據上訴法院在1978年的Halicki Films訴Sanderson Sales and Marketing一案標準,若該虛擬角色具有特別特色(especially distinctive)則可例外予以保護,而特別特色需要有相當證據證明設計者為原告且具有獨特的特徵,方得予以主張。美國地院目前認為而暴雪公司目前提出角色姓名、服裝、武器、背景設定等證據資料,尚無法說明暴雪公司所創角色具有獨特性,故予以駁回。而暴雪公司則於12月22日發出正式聲明,認為現階段並非侵權主張不成立,而是訴訟資料不齊全,並著手提交更詳盡的證據清單,暴雪公司會於修正訴狀後,再提起訴訟。   雖然暴雪公司在美國對莉莉斯訴訟遭受駁回,但其在中國大陸對《刀塔傳奇》代理商與莉莉斯公司所提告訴,已讓蘋果公司(Apple, Inc.)讓《刀塔傳奇》從App store下架;而美國法院判決是否使蘋果公司在中國大陸重新上架《刀塔傳奇》,則有待觀察。

德國內閣公布「數位行政機關2020」 與「八大工業國(G8)開放資料宣言」行動計畫

  為執行「數位議程2014-2017」(行動領域3「創意政府」),德國內閣於9月17日分別公布出「數位行政機關 2020」與「八大工業國(G8)開放資料宣言」行動計畫。德國聯邦內政部部長de Maizère指出,此計畫的執行是為了讓公民享有行政機關更佳簡便、人性化、不受時間地點限制的服務,並且顧及到個人資安保障。   「數位行政機關 2020」旨於將德國數位政府(e-Government)法律在聯邦機關體制裏統一執行。在執行的做為中其中特別值得注意的是,以後聯邦形政體系使用的紙本檔案將全面轉換為數位版本。行政業務處理過程也將數位化、聯網化及電子化。此外、政府採購案流程也將數位化。這可幫助行政機關及企業節省行政資源。   為讓此計畫順利的執行,政府資料透明化的提升也變的格外重要。也因此,內政部長de Maizère公布針對「八大工業國(G8)簽署開放資料宣言」推出行動計畫。該計畫將政府機關的行政資料提供出來讓公民參考。依照該計畫,再明2015年4月底前,各聯邦政府機關將需提供兩個數據集(Datensatz),透過德國政府公開資料網路平台Govdata (https://govdata.de/) 公布出來。可公布出來之數據含括警察局統計之犯罪紀錄、政府建設合作案件、社會福利預算到德國國家數位圖書館資料及所有德國聯邦教育與研究部(Bundesministerium für Bildung und Forschung)的公開資料。

TOP