新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
繼歐盟於 2006 年通過資料保存指令（ Directive on the retention of data ）後，美國司法部亦開始關注資料保存的議題，但不同於英歐盟資料保存之目的乃著眼於對抗恐怖主義及打擊嚴重犯罪，美國資料保存的目地則偏重於根除兒童色情相關的問題。 為因應科技時代的犯罪， 檢察官常需要透過 ISP 業者提供客戶通聯紀錄等資訊以協助犯罪偵察 ， 因此美國在 United States Code, Section 2703(f) 便早已規定 ， 有線或電子通信服務業者必須配合政府要求提供調查犯罪所須的資訊。但由於該法並未明白要求業者應主動收集哪些項資訊，因此美國 ISP 業者僅保存與商業利益有關之網路使用記錄，美國司法部長 Alberto Gonzales 4 月 20 日於國家兒童權益保護中心（ National Center for Missing and Exploited Children ， NCMEC ） 表示，目前 ISP 業者能提供的資料相當有限，這相當程度地阻礙犯罪調查工作的進行，因此他認為應研擬更利於法庭證據取得之資料保存法令。 為避免人權團體以資料保存侵害個人的隱私權為由，而妨礙立法的進度，因此美國目前資料保存法令的推動方向可能有兩種不同的發展方向，其一是僅由 ISP 業者記錄特定期間內民眾的活動紀錄，另一種方向則是與歐盟相似，保存電話通聯、網頁瀏覽以及 mail 、即時通訊等內容。
歐盟科技倫理委員會公布和成生物學ELSI意見歐盟科學與新科技倫理委員會（European Group on Ethics in Science and New Technologies, EGE）在今（2009）年11月18日公布合成生物學（Synthetic Biology）公布相關之倫理、法制與社會議題之意見，其中指出合成生物學具有可大幅降低生技藥品生產成本的極大潛力，但也可能帶來的風險，故應予注意。 對很多人來說，合成生物學是一個相當新穎的概念，經濟合作發展組織（Organisation for Economic Co-operation and Development , OECD）在其所公布的2030生物經濟發展議程中，將其列為最具有發展潛力的新興生物技術之一，近來更被歐美先進國家視為生物技術產業的未來重點發展方向。 根據OECD的定義，所謂合成生物學，是以工程方法為基礎，以改進微生物的新興領域，此技術使設計與建構新生物元件（part）、裝置（device）及系統（system），及對於既存的自然生物系統，使其更具有使用性。合成生物學的目的，在於藉由設計細胞系統，使其具備特定功能，從而消除浪費細胞能量之非期待的產物，以增進生物效率。目前合成生物學與市場較為接近的案例，乃一種將青蒿（sweet wormwood herb）、細菌與酵素等基因、分子路徑（molecular pathway）作結合，製造出可以生產治療瘧疾（malaria）的青蒿酸之細菌，此項開發成功突破過去僅能透過植物青蒿獲得，並產量有限的瓶頸。 正由於看好和成生物學的發展潛力，美國、英國與歐盟都開始對此項技術可能帶來的倫理、法制與社會爭議進行評估，歐盟EGE更公布意見以作為未來訂定法規範時的參考。EGE在意見中表示合成生物學使用於能源技術、生物製藥、化學工業或材料科學等都深具前景，故建議歐盟執委會應對此技術發展給予支持，並在歐盟架構計畫下，以產業利用為前提，給予經費的支持；然也必須重視其ELSI問題，包括使用合成生物產品的安全性、對環境的長期影響、惡意使用之防免、專利與公共財的爭議等，為了解決此等問題，其也要求各會員國必須針對合成生物學的各種議題，加強與民眾、利害關係人及社會的對話。由於我國一直將生技產業視為發展重點，合成生物學關係著生技產業未來發展，其未來發展實不容為我國所忽略。