新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
設於英國倫敦的遠距賭博協會(Remote Gambling Association, RGA)於2007年12月向歐盟執委會提出申訴，指美國政府對外國網路賭博業者選擇性執法行為已違反服務貿易總協定(General Agreement on Trade in Services, GATS)規定。歐盟執委Peter Mandelson因此表示，歐盟將會針對美國政府此一差別管制行為進行調查，以瞭解美國政府是否已違反貿易障礙規定。 美國在世界貿易組織(World Trade Organization, WTO)談判中曾承諾開放網路賭博，嗣後卻在2006年通過「違法網路賭博執行法」(Unlawful Internet Gambling Enforcement Act, UIEGA)，禁止銀行和信用卡業者對美國境外之網路賭博業者提供支付服務，導致所有歐洲之網路賭博業者選擇退出美國市場。 對於美國UIEGA立法，世界貿易組織曾表示，美國政府固然有權透過法規禁止離岸賭博(offshore betting)以保護公共道德，但該規範僅針對外國業者，未一視同仁適用於美國境內業者，已違反貿易法規。對此，美國政府和歐盟、日本、加拿大等國曾達成協議，承諾在其他方面予以補償，以換取各國同意美國退出世界貿易組織在賭博部分之規範。但由於美國司法部仍持續調查歐洲網路賭博業者在前述法規生效前的營業行為，並宣稱渠等已違反美國法規，此一調查行為因此導致此次遠距賭博協會向歐盟提出申訴；待調查結果出爐後，美國與歐盟間的貿易關係預料將受到不小的影響。
歐盟執委會提出欲修正歐盟「地理標示」制度之提案，新增對於工藝品和工業產品之保護歐盟執委會（European Commission, EC）於2022年4月13日提出欲修正歐盟「地理標示」（Geographical Indication, GI）制度之提案（Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on geographical indication protection for craft and industrial products and amending Regulations (EU) 2017/1001 and (EU) 2019/1753 of the European Parliament and of the Council and Council Decision (EU) 2019/1754，下稱本提案），擬在歐盟GI制度原僅保護農產品、食品及葡萄酒、蒸餾酒產品外，新增對於工藝品和工業產品之保護。 所謂工藝品和工業產品如義大利的穆拉諾玻璃（Murano glass）、愛爾蘭的多尼戈爾花呢（Donegal tweed）和波蘭陶（Boleslawiec pottery）等，皆係源於特定地區，產品品質和相關特色皆係依於原產地技藝之原創性及傳統作法。儘管此等產品在歐洲或全世界享有不錯聲譽，其製作者一直以來卻未能享有歐盟層級GI的保護，以更可將其原產地名與聲譽、品質相連結。 本提案將使消費者更易於辨識該等產品之品質，以可在更得知產品資訊的狀況下，作出消費選擇；亦可宣傳各原產地的技術工藝，使當地技藝被保存，並創造工作機會，達到經濟成長。 本提案主要包含： （1）將工藝品和工業產品納入歐盟GI保護： 將為工藝品和工業產品建立一個橫跨全歐盟的GI保護，而非僅目前部分區域或國家所有者，以更保障製作者之智慧財產權。本提案亦將促進打擊仿冒品的行為，包含在網路上所銷售者。 （2）為工藝品和工業產品的GI制度建立經濟的註冊程序： 將建立「兩階段申請程序」，製作者先向其所屬歐盟會員國當局提出申請，再由該當局轉交符合第一階段資格者之資料至歐盟智慧財產局（European Union Intellectual Property Office, EUIPO），以進行評核。 本提案將可使製作者提出「其產品有符合原產地製作特點」的聲明，以使整體註冊程序較簡易且節省成本。 （3）與國際上其它GI保護制度相容： 本提案將使成功取得歐盟GI註冊之工藝品和工業產品製作者可在「關於保護原產地名及GI的日內瓦協定」（Geneva Act on Appellations of Origin and Geographical Indications under the World Intellectual Property Organisation (WIPO)）之簽署國實施和保護其產品的權益；蓋此協定亦有包括工藝品和工業產品。而由於歐盟於2019年簽署該協定，故在歐盟境內亦將保護他簽署國工藝品和工業產品之GI。 （4）保存原產地技藝，並造就歐洲鄉村和其他地區的發展： 藉由提供製作者（尤其是中小企業）誘因，以投資於新的原創產品及創造其他利基市場（niche markets）。本提案並將使歐洲若干地區（尤其是鄉村及較低度開發區域）將失傳的技藝得以被保存，因此將可重振其知名度以吸引遊客或創造其他工作機會，達到經濟復甦。
建立G2B2C電子公文交換法制 英國通訊傳播管理局發表「開放通訊：使人們能夠透過創新服務共享資料」，提供通訊業者建立開放通訊（Open Communications）之原則建議英國通訊傳播管理局（The Office of Communications, Ofcom）於2020年8月發布「開放通訊：使人們能夠透過創新服務共享資料」（Open Communications: Enabling people to share data with innovative services），針對開放通訊的設計原理提出七點建議： 應盡可能讓符合條件的第三方能夠近用（access）資料，同時確保用戶受到保護。 應提供客戶一些目前無法取得的資料，例如有關網路服務品質的體驗報告，以提供使用者做為未來交易時之參考。 資料的提供商和第三方必須確保資料儲存和傳輸的安全性。 第三方將如何使用有關客戶的資料及是否含有潛在風險等，皆應清楚透明地告知使用者，並且讓共享資料之使用者仍保有控制權限。 開放通訊服務之設計應符合包容性設計（inclusive design），提高使用者使用意願。 開放通訊仍應維持市場競爭。 提供資料所需的成本應與資料開放的潛在收益成比例。原則上，參與開放通訊的通訊提供者越多，對個人和小型企業的整體價值就越高。惟，若是強制要求用戶數少或是無法承擔該技術的小型提供商加入，可能導致成本與收益不成比例。 除此之外，對於應開放何種資料則須循序漸進。除了增加對第三方客戶資料近用權限之外，首先，應針對開放對資料提供者風險低，但對潛在用戶有較高利益的資料，例如：不包含個人訊息的資料，從而降低匿名化過程中所產生之風險；第二，開放低風險的地理空間資料（geospatial data），目的在於改善該地區的整體地理空間資料基礎架構。最後才是開放有關各種通訊產品中的其他資料，以促進消費者的選擇和保護。 綜上所述，考慮到開放通訊之可行性，需進一步與其他資料可攜性計劃的主要代表進行會談（如銀行業者），尋求各行業主要服務提供商的支持。再者，考慮是否訂定相關法律以及如何進行監管。第三，應標準化客戶資料，以及確保資料移動之安全性及用戶控制權限，最後則是降低資料開放之成本，以達成開放通訊所帶來之效益。