新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
專利蟑螂（Paten Troll）與非專利實施實體（Non-Practicing Entity, NPE）乃係本身不進行任何生產製造或產品銷售，藉由購買專利權（少數亦自行研發），以專利授權或專利訴訟為主要手段，對其他公司啟動專利攻擊，進而收取授權金或賠償金為營利目標之公司總稱。NPE約自2001年開始出現迅速成長，2011年因NPE專利訴訟與授權所造成的花費高達290億美金，較2005年的70億美金成長400%，而其中僅有不到25%是用於研發創新，超過25%用於訴訟。 美國國會智庫機構，國會研究處（Congressional Research Service, CRS）於今年（2012）8月20日發表「專利蟑螂爭議概要」（An Overview of the "Patent Trolls" Debate）研究報告，分析專利蟑螂的行為及其影響，並提出改善方法及建議： 一、建議限制資訊科技的專利保護，然而此舉可能違反WTO下TRIPS之規定（Agreement on Trade-Related Aspects of Intellectual Property Rights）。 二、許多專利蟑螂與NPE利用專利申請得提出延續案（Continuation），延長專利審查的保密期間。使得他公司可能在不知情下使用該專利而造成侵權。因此建議取消申請中專利提出延續案，並適度公開申請中專利案資訊。 三、限制專利蟑螂與NPE申請美國ITC（International Trade Commission）的禁制令，取消專利推定效力，或改變專利授權金計算方式等。 四、縮短專利權期間或增加專利之維持費。 五、仿效商標法上放棄（abandonment）／怠於行使（laches）商標權之抗辯，對於長期未實施之專利，原告需負舉證責任，證明其有進行該專利之研發、商品化或授權。 六、建議專利轉讓或授權皆應強制公開，以促進市場效率。
何謂拜杜法案「Bayh-Dole Act」？美國國會於1980年通過了拜杜法案(Bayh-Dole Act)，正式名稱為1980年大學與小型企業專利程序法(University and Small Business Patent Procedures Act of 1980, 35 U.S.C. 200 et seq.)。經濟學人(The Economis)曾對美國拜杜法評價為「可能是過去半世紀在美國所成立之最具創見之法律」，其目的是讓大學、中小企業等與聯邦機構締約，執行聯邦政府資助的研發計畫後仍能保有其研究成果之專利，亦即將此研究成果的專利申請權歸屬於受資助之大學或中小企業，而非聯邦政府。 拜杜法案(Bayh-Dole Act) 35 U.S.C. § 201(c)對立約人(contractors)定義為，任何簽署資助協議的自然人、小型企業、或非營利機構。而權利歸屬部分，規定於35 U.S.C. § 202，非營利機構、中小企業等與聯邦機構簽訂資助契約之承攬人可以選擇是否擁有受資助發明(elect to retain title to any subject invention)之權利。再者，立約人負責專利管理事務之人員，應於知悉受資助發明的合理期間內，向聯邦機構揭露該發明，若未於合理期間內揭露，則該發明歸屬於聯邦機構。並且，立約人應於揭露發明後2年內，以書面行使其選擇權，逾期則該發明權利歸屬於聯邦機構。另 35 USC § 203有介入權規定，聯邦機構認為有必要時，得要求立約人、其受讓人或其專屬被授權人將發明專屬、部分專屬(partially exclusive)或非專屬授權予申請人，聯邦機構得自行為之。
歐盟檢視「2005-2009年歐洲奈米科學與技術行動計畫」之執行成效歐盟執委會(European Commission)於今年9月初公佈了「『2005-2009年歐洲奈米科學與技術行動計畫』(Nanosciences and Nanotechnologies: An action plan for Europe 2005-2009)之期中執行報告」，文中總結了於2005至2007年有關該計劃重點領域執行之相關的活動及進程。 在該報告中，歐盟執委會也在報告中指出歐洲在奈米科學與技術發展上的一些弱點，包括：主要跨領域基礎設施的缺乏、私資金在奈米科技產業研發創新上的短缺（儘管「歐洲技術平台」積極鼓勵私人參與奈米科學與技術的投資，但目前私資金仍只佔全部資金之55%）、以及隨著歐盟會員國投資的增加，重複研究及分裂研究的風險也隨之增加。此外，奈米科技跨領域及創新的本質對於既有之研究、教育、專利授予及規範等方法也形成不少的挑戰。 另一方面，報告也指出歐洲在一些重點區域研究的整合相當成功；例如，在中小企業參與第六期研發綱領計畫(FP6) 中之奈米科學與技術計畫的部份，即由2003-2004年的18%成長至2006年的37%。此外，歐盟執委會也有計劃地來支持技術商業化的發展，像是競爭及創新計畫(Competitiveness and Innovation Programme)、財務風險分攤機制（Risk Sharing Financial Facility）、以及接收利用奈米技術為基礎之控制管路(pilot lines)；未來，歐盟執委會計畫對負責任奈米科學與技術之研究採取自願性的行為規範。 下一份奈米科學與技術行動計畫之執行報告預計在2009年底公佈。