新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
從新加坡IPCF計畫看智財產業人才培育 科技法律研究所 2014年08月29日 壹、前言 在全球化競爭的趨勢下，各國若僅憑國家資本與生產力作為基礎，已難在國際上殺出重圍、嶄露頭角。由此可知，「創意」與「創新」是激化國家競爭力之泉源，而「智慧財產權」則是此泉源之力量匯集，更是提升國家競爭力之強效手段 。 新加坡政府於2013年3月份提出IP (Intellectual Property) Hub Master Plan 10年期計畫[1]，目標是成為亞洲智慧產權中心。計畫設有六大策略，本文以下針對【策略五：培育具全球競爭力的IP人力資源，培養其具備IP專業及跨市場的能力，並支援IP專業人員持續增進專業技能】進行觀察。目的在於了解新加坡如何透過IP Competence Framework(以下簡稱IPCF計畫)[2]描述IP產業生態及價值鍊、IP產業的從業角色以及所需能力、最後如何透過訓練增加專業人才數量以及能力，以因應逐漸擴大的IP產業之需求。 貳、重點說明 IPCF計畫內容涵蓋智慧財產領域各個層面，透過IP保護、IP開發、IP實現等規劃，勾勒出IP產業輪廓，使「IP產業」躍身成為獨立產業，突顯其無形資產價值，其工作目標包括[3]： 1. 定義智慧財產權專業人員所需具備之能力，有效發揮其專業能力。 2. 提升智慧財產權訓練課程和認證程序品質。 3. 提供企業規劃員工智慧財產權教育訓練參考依據。 4. 提供智慧財產權人員職業發展和進修準則。 目前，IPCF計畫已完成「IP產業整體輪廓」以及「IP能力標準」建構，並積極將這些工具與概念推廣至產業界，以下詳細說明。 一、IP產業整體輪廓 (IP Industry Map)[4] IPCF定義IP產業包含五個業務領域，分別為智財法律諮詢領域(IP Legal Advisory Pathway)、智財擬定與申請領域(IP Drafting & Prosecution Pathway)、智財技術諮詢領域(IP Technology Advisory Pathway)、IP智能與策略領域(IP Intelligence & Strategies Pathway)、以及IP鑑價和財務規劃領域(IP Valuation & Financial Advisory Pathway)。 每個領域皆涵蓋數個職業角色，並針對每個角色詳細說明其工作定義以及工作內容。例如：智財法律諮詢領域則涵蓋資深智財顧問(Senior IP Counsel) 、首席法務官(Chief Legal Officer)、智財訴訟律師(IP Litigator)、智財調解員(IP Mediator) 等11個工作角色。 相較過去缺乏明確「IP產業定義與範圍」，IPCF以國家角度出發，明確定義IP產業，賦予產業前景構想，再輔以IPWSQ專業證照制度，讓智財專業人力擁有執業正當性，這對於形塑新興產業是重要的政策工具。 二、IP能力標準(Standards) IPCF建構IP產業需要的智權能力標準，分為六大類，分別為IP研究、IP保護、IP財務、技術育成、IP利用以及IP執法。在大類之下，再細分能力標準，目前共列出78項智權能力鑑定項目(會隨著IP產業進步與成熟，繼續增加新項目)。 以上能力標準除了提供智財從業者以及產業界使用之外，並與新加坡勞動發展局合作，使其成為IP職能認證項目（IP Workforce Skills Qualifications，以下簡稱IP─WSQ)[5]。再透過IP Academy這個已取得認證的輔導單位開授相關課程，完成授課並通過測試，可取得IP─WSQ的職能認證證書。 承上，新加坡政府希望透過IPCF計畫達成智財產業人才培育，正向影響智財產業，因此，新加坡智財局亦與律師、專利代理人、專業管理師、以及工程師相關協會簽屬合作聲明書[6]，這些產業協會承諾將IP產業輪廓以及IP－WSQ置入協會規範中，成為這些專業人士將來領證、換證、教育訓練、能力鑑定的參考依據。 參、事件評析 總結而言，IPCF透過IP─WSQ方式，提高IP人員對於專業知識的認知，使其有明確學習目標，更可提供IP人員專業認證證明，提升其專業形象與競爭力。而對於企業而言，企業亦可透過智權能力標準檢視內部智財能力以及缺口，也可善用IPCF認證單位的培訓課程，彌補員工的能力缺口。 在作法上，IPCF透過與新加坡勞動局合作，善用WSQ原有的職能開發流程[7]，建構IPWSQ，首先界定IP產業，然後再界定IP能力標準項目，然後組合不同能力標準，制定課程，通過課程以及審查的學員，最後獲頒職能認證。由此可知，新加坡政府跨部門合作開發新制度，可以運用過去原有的標準工作模式，以服務新政策或新產業需求，這是值得借鏡之處。 IPCF在短短一年多時間就完成IP產業輪廓以及IP能力指標，並使指標成為IPWSQ的智能認證標準，並與律師、專利代理人、工程師、專案管理師協會合作，共同推展此架構，從中可發現新加坡政府的魄力以及行政效率。 [1] IP HUB MASTER PLAN：Developing Singapore as a Global IP Hub in Asia http://www.ipos.gov.sg/Portals/0/Press%20Release/IP%20HUB%20MASTER%20PLAN%20REPORT%202%20APR%202013.pdf [2] IPCF官方網站http://www.ipos.gov.sg/IPforYou/IPforProfessionals/MatchingyourIPCompetencytoyourIPcareer/IPCompetencyFrameworkIPCF.aspx(最後瀏覽日2014/08/28) [3] IPCF目標http://www.ipos.gov.sg/IPforYou/IPforProfessionals/MatchingyourIPCompetencytoyourIPcareer/IPCompetencyFrameworkIPCF/AboutTheIPCF.aspx (最後瀏覽日：2014/08/28) [4] IP產業整體輪廓 http://www.ipos.gov.sg/ipcf/TheIPCF.aspx (最後瀏覽日：2014/08/28) [5] IPWSQ內容說明 http://www.wda.gov.sg/content/wdawebsite/L207-AboutWSQ/L301-WSQIndustryFramework-BusinessManagement/L401-013BusinessManagement.html?QualName=Modules%20for%20Intellectual%20Properties%20%28IP%29%20Management (最後流覽日2014/08/29) [6] 新加坡智財局目前與四家產業協會簽定合作聲明書(MOU)，包括代表律師的The Law Society of Singapore(Law Soc)、代表專利代理人的Association of Singapore Patent Agents(ASPA)、代表工程師的Institution of Engineering Singapore (IES)、以及代表專案管理師的The Singapore Business Advisors & Consultants Council (SBACC)。http://www.ipos.gov.sg/MediaEvents/Readnews/tabid/873/articleid/271/category/Press%20Releases/parentId/80/year/2014/Default.aspx(最後瀏覽日2014/08/28) [7] WSQ流程需先界定產業，然後再界定能力標準，然後組合不同能力標準，制定課程，通過審查之後，就可以頒授職能認證。WSQ流程圖請參考WSQ官網 http://www.wda.gov.sg/content/wdawebsite/L207-AboutWSQ.html(最後瀏覽日2014/08/28)
歐盟理事會將嚴格執行資料保護基本權歐洲理事會修訂「保護個人有關個人資料處理及自由流通規則（一般資料保護規則）」（Proposal for a Regulation of the European Parliament and of the Council on the protection of individuals with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation), GDPR），該草案內容包括行政罰鍰三審制（three-tiered system）。凡故意或過失違反歐洲資料保護基本權之企業，情節重大者，可能招致鉅額行政罰鍰，草案之裁罰性措施將讓從業者更加重視資料保護法益。 是否對違反GDPR之侵權行為裁處罰鍰，會員國政府有裁量權限；已受刑事制裁者，政府亦得免除罰鍰以避免重複處罰。資料保護主管機關（data protection authorities, DPAs）依三審制判斷，確保所裁處罰鍰具有效性、比例性及嚇阻性。三審制包括：第一審，是否對資料當事人之資料要求延遲、變更回應；第二審，是否對資料當事人、DPAs盡資訊透明義務；第三審，各種具體侵權行為，包括對於資料取得缺乏法律依據、未能即時告知資料違反情事，或未採取適當安全防衛措施於歐盟以外區域傳遞資料等。 依草案，DPAs審酌罰鍰額度時，應依下列計算罰鍰： (1) 企業故意或過失未能於一定期間內，回應資料當事人之資料查閱請求者，裁處上一會計年度全球總年營業額0.5%罰鍰。 (2) 企業故意或過失未能提供任何或所有符合資料當事人要求之必要資訊；或未能對消費者充分揭露個人資料蒐集、處理的目的者，裁處上一會計年度全球總年營業額1%罰鍰。 (3) 企業故意或過失未能維護消費者權益，更正或刪除消費者資料，違反GDPR所保障之消費者「被遺忘權」者，裁處上一會計年度全球總年營業額1%罰鍰。 (4) 企業故意或過失處理個人資料，行為不具適法性、違反法規、沒有對當事人通知資料違反或將個人資料傳遞自歐盟以外區域，該區域沒有適當安全資料保護者，就企業上一會計年度全球總年營業額裁處2%罰鍰。 六月中旬，歐盟各部長將就歐洲議會、歐盟理事會的提案，就罰鍰額度進行最後協商，未來將持續關注草案協商後續發展。
簡介美國FTC垃圾電郵法制施行成效報告 歐盟執委會將修正ePrivacy指令ePrivacy指令修正背景 原資料保護指令將於2018年由一般資料保護規則所取代，在此一背景下，電子隱私指令除補充資料保護指令外，亦訂定關於在電子通訊部門的個人資料處理的具體規則。具體作法，如在利用流量和位置資訊於商業目的之前，應徵得用戶的同意。在ePrivacy指令未特別規定的適用對象，將由資料保護指令（以及未來的GDPR）所涵蓋。如，個人的權利：獲得其個人資料的使用，修改或刪除的權利。 歐盟執委會為進行ePrivacy指令（Richtlinie über den Datenschutz in der elektronischen Kommunikation）改革，於2016年8月4日提出意見徵詢摘要報告，檢討修正ePrivacy指令時著重的的幾個標的： (1)確保ePrivacy規則與未來的一般資料保護規則之間的一致性。亦即評估現有規定是否存在任何重複、冗餘、不一致或不必要的複雜情況。（如個人資料洩漏時的通知） (2)指令僅適用於傳統的電信供應商，而在必要時應該以新市場和技術的現實的眼光，重行評估更新ePrivacy規則。對於已成為電子通信行業新興創新的市場參與者，如：提供即時通訊和語音通話（也稱為“OTT供應商”），由於目前不需要遵守ePrivacy指令主要規定，而應納入修正對象。 (3)加強整個歐盟通訊的安全性和保密性。ePrivacy指令在規範上，確保用戶的設備免受侵入、確保通信的安全性和保密性。本指令第5條第3項，儲存資訊、或近用已存儲在用戶設備之資訊，需得其的同意。該條款的有效性已有爭論，因為新的追踪技術，如：指紋識別設備可能無法被現有的規則所涵攝。最後，有認需得同意的例外規定列表，有必要延伸到對資訊之其他非侵入性的儲存/近用：如網路分析等。這些都是應予以仔細評價和檢視之對象。 公眾諮詢摘要報告內容 經過4月13日到7月5日的公眾諮詢，歐盟執委會於8月4日提出報告。 諮詢意見主要來自德（25.9%）、英(14.3%)、比(10%)、法(7.1%)的回覆。 一、是否有必要在電子通訊部門訂定隱私特別規定？ 市民與公民團體咸認有必要在電子通訊部門，甚至流量資料和位址資訊也應該訂定新規（83%）、企業則認為無甚需要，只有在秘密性規則（31%）與流量資料（26%）有需要訂定；主管機關則咸認需要特別規定。 二、現行指令是否已足達成其立法目的？76%市民和公民團體認為未達立法目的，理由如下： ePrivacy指令的範圍太狹小，不包括即時訊息、語音通話（VoIP）和電子郵件應用服務。 規範太模糊，導致會員國之間適用結果和保護程度的差異、不一致。 法律遵循的程度展法程度太差。 三、是否應為新通訊服務訂定新規？ 76%市民和公民團體認為適用範圍應該涵蓋到OTT上。