新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
瑞典創新夥伴計劃（Innovation partnership programmes），起源於瑞典企業與創新部下屬的國家創新委員會所強調的三個社會挑戰：數字化，環境氣候變遷和人口老齡化。創新夥伴計畫最重要的任務，在於公部門、企業界和學術界間的交流，為社會挑戰尋求創新解決方案，同時加強瑞典的全球創新和競爭力。創新夥伴計畫具體可分為五項重點發展領域。 一、下一代交通：目標是成為運輸效率更高的社會，以智能方式運輸，使用更多的節能型車輛。 二、智慧城市：智慧城市係利用訊息和通訊技術提高政策服務的質量，提升效能和互動性，降低成本和資源消耗，改善公民與政府的聯繫。 三、循環經濟：開創世界資源的新途徑，目標是可持續和無毒的原料生產。包括糧食供應管理、能源問題、及循環生物經濟轉型。 四、生命科學：透過醫療、商業和學術界合作，研發創新藥物，使健保和醫療技術惠及社會，並運用數位技術為強化。 五、新材料：為刺激瑞典工業的廣泛數位化運用，必須在各種成熟行業、新創公司和研究環境中加強夥伴關係，提升瑞典的產業競爭力。
全球Open Data成功及挑戰之關鍵報告根據全球資訊網基金會（World Wide Web Foundation）及英國開放資料協會（Open Data Institute）指出，全球77個國家正進行Open Data政府開放資料政策，但實際運作上，各國政府提供公眾近用之資料集佔不到全世界政府資料的10%，呈現各國Open Data政策實行還有很大進步空間。 全球資訊網基金會與英國開放資料協會所合作的網絡平台－政府開放資料研究網絡（Open Data Research Network），針對各國政府開放資料執行狀況進行評比並提出Open Data Barometer研究報告。此報告指出，英國政府開放資料執行及成效排名第一，其次排名陸續為美國、瑞典、紐西蘭、丹麥、挪威。除此之外，專以倡導開放知識、資料、內容的國際非政府組織，開放知識基金會（Open Knowledge Foundation），則提出基於Open Data可用性及近用性進行70個國家的排名，英國仍是第一名，其次為美國、丹麥、挪威、荷蘭。從上述兩項研究報告中，英國在Open Data政策落實的成效受到高度肯定，而歐美地區仍在Open Data政策實行上領先世界其他地區的國家。 Open Data Barometer研究報告指出，目前各國政府傾向不提供具潛在爭議性的政府資料，但此類資料往往具再利用價值，例如政府財政預算及交易資料、公司登記、土地登記等相關資料。全球資訊網創始人Berners Lee表示，政府及企業不應考量提供資料集而無法收取費用，或有意掩蓋政治敏感之資料來保護政治利益，而對於公布會造就人民生活的重大進步但具爭議性之資料集，感到卻步。 目前多數國家開放資料之機器可讀性資料與資料集之免費授權（Open License）皆少於7%，報告中說明全球資料集實際可用性仍偏低，亦發現各國提供資料之收費不僅沒有效率，資料再利用授權關係也不明確，使得企業及使用者處在法律不確定之風險中。 全球面對開放資料的進展雖已有初步成效，但成功經驗仍集中在歐美國家，世界上其他國家在開放資料的可用性及近用性，仍與歐美國家有顯著差距，為能促進全球人民生活福祉及活絡商機，各國政府應更積極地執行開放資料政策，並持續改進。
智慧財產法院成立及運作的政策 正式啟動司法院於94年年終記者會時，正式發佈我國智慧財產法院即將成立及運作的政策。有鑒於國內外企業在台的專利、商標、著作權等紛爭越來越多，為了節省司法資源、快速釐清企業糾紛、不耗損社會資源等目的，智慧財產法院乃為司法現代化相當重要的一環。 我國的智財官司時，多是以刑事訴訟為主附帶民事官司，有別於歐美各國的智慧財產案件多以民事訴訟為主。未來智慧財產法院所管轄案件除了民事訴訟事件、刑事訴訟案件外，還包括有行政訴訟事件與強制執行事件，集中事權，專責審理智財權相關案件。此外，為了因應科技界日新月異的技術發展，在智慧財產法院扮演關鍵角色的「技術審理官」，主要負責輔助法官從事專業技術問題之判斷，因此除了由全職公務員－專利審查官或是商標審查官擔任外，亦可任用公私立大專院校之老師或專業研究機構之研究員。 另一方面，為避免大型企業利用資金優渥之優勢，打壓小型科技公司的發展，智慧財產訴訟中的「假處分」聲請規定，相較於現行民事訴訟法規定嚴格許多，假處分聲請人除提供擔保金外，還必須「強制釋明」理由，若是釋明不足者，法院可駁回其聲請。 目前司法院已研擬完成「智慧財產法院組織法草案」及「智慧財產案件審理法草案」的全部條文，並公布在司法院網站上，預定在立法院下會期提交立法。