新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
911 恐怖攻擊以來，美國持續加強國土安全保護，而為保障國家安全及科技競爭力，美國商務部（ US Department of Commerce ）原本打算制定安全管制規定， 對來自敏感國家之外國科學家， 限制其 使用部分的實驗研究設備。所謂敏感國家（ countries of concern ），包括巴基斯坦、印度、俄羅斯及中國，來自於這些國家的科學研究人員若要在美國境內的從事特定實驗研究，因而需要使用特定設施設備者（主要是可用於軍事用途者），不論研究設施設備是屬於聯邦或民間所有，在開始操作、進行安裝、維護與修繕等之前，必須先向美國政府提出申請始可近用。 現行美國有關技術管制規定主要係針對敏感科技的出口，商務部自 2004 年起，即打算推動修正此等規定，進一步將部分可用於軍事用途之研究設施設備予以立法管制，從美國政府所公布的管制清單來看，其涵蓋範圍甚廣，從化學、雷射到細菌培養等各領域之研究設施設備，均涵蓋在內，故商務部此項修法計畫一經公開，立即震撼外界，除學術界及產業界強烈外抨擊，就連聯邦實驗室也大表反對。反對意見多認為，預計的修正規定將會破壞大學校園中之開放精神，影響科學自由的研究環境；而研究設施設備近用之事前許可制，亦將造成學界與業界的負擔；甚至可能阻礙未來大學或業界延攬外國科技人才參與研究計畫之進行，長期而言，實將會戕害美國的國際競爭力。 面對各界反對聲浪，為避免降低研究型企業之生產力，美國商務部在今年 5 月底宣布取消原來的立法管制計畫，不過，商務部將會召集產學研各界專家，組成一個十二人的委員會，持續就實驗室安全管制的問題交換意見，期能獲致更有效之解決之道。
汽車經銷公司營業秘密案顯示，僅資安手段不足以構成營業秘密的保密措施本文參照2025年3月21日紐約東區地方法院的Superb Motors Inc. v. Deo一案，提醒企業：在數位化與資料外洩風險日增的時代，即使資訊具有高度價值，若僅採取防火牆（Firewall）、帳號密碼之技術手段，而未採取具體之書面規範或契約之營業秘密保密措施者，法院仍可能認定不足以符合營業秘密之合理保密措施要件。 本案源於2023年8月16日，Superb汽車經銷公司控訴前股東Deo離開公司後，擅自使用其客戶名單與核心系統Dealer Management System（下稱DMS），協助競爭對手拓展業務、挖角員工，並導致前公司客戶流失。Superb公司主張，公司投入逾12萬美元整合DMS系統，且以150萬美元的廣告與行銷策略蒐集並以多年經驗建構完整的客戶資料庫，屬於具競爭優勢的關鍵資產。 法院認為，Superb公司僅以防火牆、帳號密碼限制資訊存取，期待員工自發性保密，而未提供任何形式的保密協議或明確政策文件，此舉不足以構成合理保密之手段。法院認為，營業秘密保護法所要求的保密措施，需具備可執行的契約條款，例如：保密協議或公司內部保密政策規範。 為助於訴訟舉證、減少因人力流動可能發生的資料外洩風險，企業不能僅依賴科技工具，而應積極主動地搭配企業政策與契約等法律文件。參考美國實務，建議企業採取下列營業秘密管理作法： 1.與有權接觸敏感資訊之員工、顧問簽訂保密協議，且企業應定期檢視與修訂保密條款，以確保條款符合最新的勞動法相關要求並具備可執行性。 2.建立公司內部保密制度與定期教育訓練，以確保員工理解公司要求之保密義務。 本案顯示出法院對「營業秘密合理保密措施」認定的標準，不僅留意保密技術複雜性，更著重於企業採取的保密措施（如保密契約）是否具有法律上的拘束力。 資策會科法所創意智財中心於2023年發布之「營業秘密保護管理規範」已涵蓋前述美國實務建議之管理作法，我國企業如欲精進系統化的營業秘密管理作法，可以參考此規範。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
德國將放寬非基因改造標示法規德國聯邦食品農也消保部（BMELV）發言人宣布，針對非基因改造食品標示制度之修正，今（2008）年初已達成政治協商，未來德國的非基因改造食品標示，將會容許那些在無可得替代產品的情形下而使用了基因改造維他命、添加物或加工輔助用料等基因改造產品之終端食品，標示為非基因改造食品。如此一來，那些使用目前只能以基因改造加工製成之維他命（如維他命B21、lyside等）所飼養之動物，日後動物來源食品以其作為原料時，這些食品將來也可以標示為非基因改造。此修法預計可在明年初完成實施。 德國此次修法目的，實係為了促進食品產業使用非基因改造標示。自從1990年建立非基因改造食品專有之標示制度起，動物來源食品如要作非基因改造標示，必須連在飼養時都使用非基因改造飼料，但食品產業卻表示此規定審為嚴苛且維持基因改造聲明所需的文件繁多，此機制實際上根本難以運用。BMELV為了促進食品產業使用非基因改造標示，遂決定修法放寬標準。 然而，這樣的修法仍然引起部分反對意見，例如德國食品產業聯盟（German food industry federation）即表示，非基因改造標示應當只能給予完全未使用基因改造之產品，其他產品則應使用諸如未含基因改造植物之類的聲明，否則就是誤導民眾之行為。此外，假如標有非基因改造標示的食品以此種方式使用過基因改造材料的話，更可能會折損非基因改造食品標示可性度。
英國資訊委員辦公室（Information Commissioner’s Office，ICO）認定英國電子零售業者Carphone Warehouse違反《Data Protection Act 1998》資料保護法英國電子零售業者Carphone Warehouse在2015年遭到網路攻擊，造成逾300萬客戶及1000名員工的資料外洩，外洩的資料包括客戶的姓名、地址、電話號碼、出生日期、婚姻狀況及1.8萬名客戶的金融卡資訊。 英國資訊委員辦公室（Information Commissioner’s Office，ICO）認為涉及之個人資料嚴重影響個人隱私，使得個人資料有被誤用的風險。ICO進一步調查後並發現，駭客僅是透過有效的登入憑證，就能藉由WordPress軟體存取系統，此事件亦暴露該組織技術安全措施之不足，因受影響系統中使用的軟件的重要元素已過時，且公司未能執行例行的安全測試。ICO認為，像Carphone Warehouse此類規模龐大的公司，應積極評估其資料安全系統，確保系統穩健而避免類似的攻擊。 據此，ICO判定該公司缺乏妥善的安全措施保障使用者資訊，已嚴重違反《Data Protection Act 1998》資料保護法，判罰40萬英鎊。 從今年5月25日起，隨著GDPR的生效，法律將更加嚴格。對此，ICO亦發布了有用的指導，包括GDPR指南，現在採取的12個步驟和工具包。國家網絡安全中心（NCSC）也為組織為保護自己所採取的步驟提供了有用的指導。