新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
繼歐盟於 2006 年通過資料保存指令（ Directive on the retention of data ）後，美國司法部亦開始關注資料保存的議題，但不同於英歐盟資料保存之目的乃著眼於對抗恐怖主義及打擊嚴重犯罪，美國資料保存的目地則偏重於根除兒童色情相關的問題。 為因應科技時代的犯罪， 檢察官常需要透過 ISP 業者提供客戶通聯紀錄等資訊以協助犯罪偵察 ， 因此美國在 United States Code, Section 2703(f) 便早已規定 ， 有線或電子通信服務業者必須配合政府要求提供調查犯罪所須的資訊。但由於該法並未明白要求業者應主動收集哪些項資訊，因此美國 ISP 業者僅保存與商業利益有關之網路使用記錄，美國司法部長 Alberto Gonzales 4 月 20 日於國家兒童權益保護中心（ National Center for Missing and Exploited Children ， NCMEC ） 表示，目前 ISP 業者能提供的資料相當有限，這相當程度地阻礙犯罪調查工作的進行，因此他認為應研擬更利於法庭證據取得之資料保存法令。 為避免人權團體以資料保存侵害個人的隱私權為由，而妨礙立法的進度，因此美國目前資料保存法令的推動方向可能有兩種不同的發展方向，其一是僅由 ISP 業者記錄特定期間內民眾的活動紀錄，另一種方向則是與歐盟相似，保存電話通聯、網頁瀏覽以及 mail 、即時通訊等內容。
歐盟行動電視管制架構及發展策略－以市場進入管制為中心 柏克萊市開啟奈米科技管理規範的先河美國柏克萊﹙Berkley﹚市議會日前無異議通過既有有害物質法令修正之決議，企圖涵蓋奈米物質之情形，此其為奈米科技地方性立法之首例。此項行動迫使研究人員及製造人必須於研究或生產過程中，申報所使用的奈米材料，以及提出有效管理奈米物質的證明。 在商業世界當中，奈米科技的目標是在原子或分子層次，藉由改變或創造新的成份，以發展出新的產品及材料。不過，這些材料是否會產生環境及健康方面的問題，目前尚不得而知。 此項修正已蘊釀兩年。市府官員表示，此項法規修正主要在於監管奈米新創事業﹙startups﹚或小型企業﹙small business﹚，而非國家型實驗室﹙the national lab﹚所造成的影響，因為後者目前係由美國能源部﹙Department of Energy﹚所管理，地方法規對其並無管理權限。一開始，國家實驗室相當反對柏克萊市的這項計畫；不過，經過溝通其表示未來將繼續支持該市市府的行動。 負責柏克萊市有害物質管理事務的Nabil Al-Hadithy表示，他期許這項新法成為其他城市有效管理奈米物質的榜樣，並希望其他城市能夠將這樣類型的規範，有效運用在全加州的健康及安全法規上。
Deloitte 智財調查報告指出企業多重視營業秘密但缺乏管理意識與具體管理措施據2024年1月5日IAM報導（下稱IAM報導）依據Deloitte 2023年的研究報告（Deloitte IP 360 Survey）指出大部分的企業雖然有認知到營業秘密對於企業而言承載重大的價值，但仍通常缺乏管理的意識和具體措施，然而對於企業來說營業秘密管理卻是具有重要性的。 IAM報導綜整了一篇Deloitte 2023年的研究報告（Deloitte IP 360 Survey，下稱系爭報告），其針對橫跨15個國家、5大產業共57間公司的智慧財產管理成熟度進行調查分析，系爭報告指出大部分的企業針對專利、商標等註冊取得之智慧財產權多擁有成熟且全面的管理措施，但針對其他難以發現的無形資產（“hard-to-find” intangibles），如營業秘密、資料、know-how等，通常缺乏管理的意識和措施，例如：大約有29%的受訪者表示企業「未積極地捕獲」（原文為actively capture，大意指識別、管理和保護）營業秘密；約14%的受訪者表示企業未建立標準化流程或方針以識別營業秘密。並且，針對營業秘密的具體管理作法，IAM報導特別著重以下三點： 1.主動監測：僅僅只有25%的受訪者表示，企業有主動監測營業秘密之產出，並具有相關管制措施。 2.教育訓練：有42%的受訪者表示未受過營業秘密意識的訓練（trade secret awareness training）。IAM報導特別指出，若員工對於營業秘密的範圍以及重要性沒有概念，則營業秘密管理機制的建立也會失去其意義。 3.離職面談：即使有相當大比例的營業秘密訴訟源於離職員工，但在既有離職面談中是否有納入營業秘密意識訓練的調查上，僅有不到一半（47%）的受訪企業表示有做，24%的企業表示沒有做，還有29%的企業不確定是否有做。 綜上所述，系爭報告提出，許多企業在營業秘密的管理上仍有很大的進步空間，並提醒，在訴訟上只有營業秘密擁有者採取「合理保密措施」（包括建立標準化機制）來保護營業秘密時，在法律上才能獲得更大的保護以及獲得損害賠償的機會。 針對營業秘密管理制度建置，企業可參考資策會科法所發布之「營業秘密保護管理規範」，該規範從識別營業秘密開始，到營業秘密使用管理、員工管理（包含人員進用離職時應採取措施、教育訓練）等均有相關要求，可協助企業透過PDCA循環建置系統性營業秘密規範，補足缺乏的營業秘密管理意識和具體保密措施。 本文同步刊登於TIPS網（https://www.tips.org.tw）