新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
英國智慧財產局（UK Intellectual Property Office）於2021年9月28日發布「2020-21創新與成長報告」（Innovation and growth report 2020-21）。本報告為英國智慧財產局對其2020至2021年間施政工作的總結報告，以創新為帶動國家與企業成長的核心，並期許能透過串接創新者與市場來帶動價值創造，從而建設英國成為全世界最具創新力與創造力的國家。 本報告指出，英國在全球創新指標當中均名列前茅，關鍵在於以系統化、組織化的方式推動創新，從而使創新成為帶動國家發展的動力，並得以對抗冠狀病毒的侵襲與實現淨零（Net Zero）排放的目標。呼應英國在2020年發表研發路徑圖（R&D Roadmap）以及2021年7月發布的創新戰略（Innovation Strategy），英國目標在2035年成為全球創新中心。 面對2020年英國脫離歐盟的巨大轉變，英國智慧財產局同步推動「單一智慧財產局轉型計畫」（One IPO Transformation Programme），以組織重塑、流程再造及數位轉型等方式，完成包含透過政府數位服務系統（Government Digital Service, GDS）推動智慧財產權管理數位化、開發基於人工智慧的商標搜索工具以協助商標申請人降低檢索成本，以及優化包含會計系統在內等工作流程以支持電腦設備更新並提升作業效率等措施。 為了打造世界一流的智慧財產權環境，英國透過一系列政策與法規來鼓勵創新活動，除了面對脫歐過渡期確保對英國商標跟設計等智慧財產權能在脫歐後繼續受歐盟法規的保護，還有藉由與歐洲經濟區以及其他國家的雙邊或多邊貿易協定，納入智慧財產權條款（包含智財保護與執法）、對創新活動的支持、排除與智財相關之市場准入障礙（IP-related market access barrier）、保障消費者選擇，以及獎勵創作人跟補助產業創新等措施，支持英國企業在國內外的創新與成長。
英國最高法院Unwired Planet v Huawei案認定英國法院有權決定FRAND全球專利組合授權條款英國最高法院於2020年8月26日，駁回華為與中興通訊在Unwired Planet v Huawei和Conversant v Huawei and ZTE案的上訴決定。美國公司Unwired Planet和Conversant控訴華為及其他智慧手機製造商，侵害其所擁有的英國專利技術，其中包含由國際標準制定組織（Standard Setting Organization, SSO）與歐洲電信標準協會（European Telecommunications Standards Institute, ETSI）所制定的2G、3G及4G無線通訊標準必要專利（Standards Essential Patents, SEP）。依據ETSI智慧財產權政策（Intellectual Property Policy, IPR），SEP權利人必須以公平、合理和無歧視條款（Fair, Reasonable and Non-discriminatory, FRAND）向實施者進行授權。英國最高法院根據ETSI政策所制定的契約內容，應賦予英國法院管轄權，更能決定多國專利組合的全球授權條款。若華為拒絕支付法院認定的FRAND全球授權金，法院將會頒布禁制令，禁止華為在英國銷售侵權產品。 首先，關於本案管轄權爭議，最高法院認為，在沒有雙方協議管轄的情況下，英國法院具有本案管轄權，得發給禁制令並確定專利授權費率等授權條件。原則上，專利有效性與侵權爭議，應由授予專利的該國法院決定，然而本案依據ETSI智慧財產權政策所訂定的契約，已約定由英國法院管轄，並得決定包括外國專利在內的專利組合授權條款。 另外，本案關於FRAND無歧視爭議，係源於華為主張Unwired Planet先前給予Samsung較低的授權費率，對華為構成歧視性授權。最高法院認為，Unwired Planet未違反FRAND無歧視承諾，蓋依據ETSI智慧財產權政策，FRAND無歧視並非硬性（hard-edged）要求前後授權費率完全一致，而是指所有市場參與者，基於專利組合的市場價值，都能取得專利授權使用的合理權利金價格表，絕非強制SEP所有人對類似條件的被授權人提供相同的授權條件。本案法院也認同，基於經濟或商業實務上的習慣，調整個別授權金，並未違反ETSI智慧財產權政策的無歧視要求。
間隙網路社會之推動－以歐盟資通訊法制政策之發展為例 簡析日本電子帳簿等保存制度與電子資料真實性之確保簡析日本電子帳簿等保存制度與電子資料真實性之確保 資訊工業策進會科技法律研究所 2024年03月29日 日本一般社團法人數位信任協議會於2024年3月15日以數位資料真實性確保的重要性及證明其真實性的時戳技術為題，舉行JDTF電子帳簿保存法解說研討會。研討會中由國稅廳課稅總括課解說電子帳簿保存法上與資料真實性相關的利用者需留意的要點，以及時戳技術的利用意義，並舉出具體的利用者事例作為介紹。 壹、事件摘要 日本電子帳簿等保存制度係指，稅法上等有保存必要的「帳簿」或是「收據、請求書等與國稅相關的文件」，非以紙本方式，而是以電子資料的形式保存的制度，此制度被區分為電子帳簿等保存、掃描保存及電子商業交易資料保存等3種制度[1]。 貳、重點說明 日本電子帳簿保存法於2022年的修法中，廢除電子帳簿等保存制度以及掃描保存制度的承認制度等[2]，其中尤其值得關注的是電子商業交易的電子保存義務化。意即，自2022年起個人事業者或法人需要以符合特定要件的方式保存該電子商業交易資料。惟由於日本過往對於所接收的電子商業交易資料均以書面原本的形式進行保存，因此2022年的電子帳簿保存法修正案，雖將所接收的電子商業交易資料以電子資料的形式進行保存作為原則，但是由於許多公司尚無法應對電子資料的保存要求，故日本將2022年1月1日至2023年12月31日的2年間，作為電子商業交易資料保存的宥恕期間，在宥恕期間內無法滿足電子商業交易資料且有正當理由的公司，仍然可以將電子商業交易資料以書面的形式保存，並在稅務調查時將所保存的資料以書面形式提交給稅務機關[3]。日本電子帳簿保存法中所指之宥恕期間，係指自2022年起至2023年12月31日間，無法將電子商業交易資料以電子資料形式進行保存的企業，在符合特定之條件下，使其得繼續維持書面資料保存的期間。須留意宥恕期間僅有2年，公司或法人須於宥恕期間的2年內建立可以符合電子資料保存要件的環境整備。以下就2024年實施的日本電子帳簿3種制度進行說明。 一、電子帳簿等保存制度 對於自身最初透過電腦等製作的帳簿如會計軟體製作的入出帳等，或是與國稅相關的資料如透過電腦製作的請求書、決算書等，在符合具備系統相關資料如系統概要書或操作說明書、在保存場所具備電腦、程式、螢幕、印表機及其操作指南，並將記錄事項以畫面或書面的形式呈現，使其可以快速輸出，以及可以應對稅務職員基於質問檢查權的電子資料下載要求等的要件下，可以不以書面列印紙本的方式，而係以數位資料的形式保存的制度[4][5]。 二、掃描保存制度 決算相關資料以外的國稅相關資料，在符合輸入期間的限制、時戳的付與、版本管理、具備可讀取的裝置、可以快速輸出、具備系統概要書等，以及確保檢索機能等的要件下，能以手機或掃描機器掃描的電子資料形式取代該資料書面原本進行保存[6][7]。 三、電子商業交易資料保存制度 被課與所得稅申告或法人稅等帳簿、資料保存義務者，在處理訂單、契約書、收據、報價單、請求書等或與其相當的電子資料時，在確保真實性及可視性的要件下，需要保存該電子商業交易資料[8]。 電子商業交易資料保存制度中的確保真實性要件包含接收已付與時戳的資料、對所保存的資料付與時戳、不論是資料的接收還是保存，皆已可留存訂正刪除履歷或無法進行訂正刪除的系統進行，以及制定關於防止不正當訂正刪除的事務處理規則並依循。可視性要件則包含具備監控、操作說明書等資料以及具備充足的資料檢索要件[9]。 日本電子帳簿等保存制度雖區分為3種不同的制度，惟其中對個人事業者及法人具有強制效力的僅有電子商業交易資料保存制度，電子帳簿等保存制度及掃瞄保存制度則係設置誘因機制促使業者遵循，如電子帳簿等保存制度中創設其所保存的帳簿如符合訂正刪除履歷留存等「優良電子帳簿」的要件，則可減輕過少申告加算稅的稅金[10]；掃描保存制度則讓企業可以透過手機或掃描機器將資料原本掃描成電子資料並以之取代書面紙本進行保存，減少企業保存書面資料的空間成本，同時亦可減低資料檢索時所需花費的時間與人力成本。 參、事件評析 日本電子帳簿保存法中對個人事業者與法人在保存電子商業交易資料時，課以確保電子資料真實性以及可視性的義務，並透過時戳技術的利用，確保個人事業者與法人可以達成電子資料真實性以及可視性的要求。 對於電子資料真實性的管理，我國資訊工業策進會科技法律研究所創意智財中心於2021年發布重要數位資料治理暨管理制度規範（下稱EDGS），協助企業管理內部重要數位資料。EDGS中亦肯認應保存電子資料的訂正刪除歷程，並以時戳技術及存證技術確保資料未經變更、刪除及竄改之真實性。我國企業如欲對自身的數位資料進行管理及存證等，可參考資訊工業策進會科技法律研究所創意智財中心所發布之EDGS建立資料管理流程，以降低數位資料管理相關風險。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]国税庁，〈電子帳簿保存法の内容が改正されました〜 令和5年度税制改正による電子帳簿等保存制度の見直しの概要 〜〉，頁1（2023年），https://www.nta.go.jp/law/joho-zeikaishaku/sonota/jirei/pdf/0023003-082.pdf（最後閱覽日：2024/03/26）。 [2]〈税務手続の電子化に関する資料〉，財務省，https://www.mof.go.jp/tax_policy/summary/tins/i04.htm（最後閱覽日：2024/03/26）。 [3]国税庁，〈電子帳簿保存法一問一答【電子取引関係】〉，頁35（2022），https://www.nta.go.jp/law/joho-zeikaishaku/sonota/jirei/pdf/0021006-031_03.pdf（最後閱覽日：2024/03/26）。 [4]同註1。 [5]国税庁，〈はじめませんか、帳簿･書類のデータ保存（電子帳簿等保存）〉，頁1-2（2023），https://www.nta.go.jp/law/joho-zeikaishaku/sonota/jirei/tokusetsu/pdf/0023006-085_02.pdf（最後閱覽日：2024/03/26）。 [6]同註1。 [7]国税庁，〈はじめませんか、書類のスキャナ保存〉，頁1-2（2023），https://www.nta.go.jp/law/joho-zeikaishaku/sonota/jirei/tokusetsu/pdf/0023006-085_03.pdf（最後閱覽日：2024/03/26）。 [8]同註1。 [9]同註3，頁8。 [10]同註5，頁2。