新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
世界四大電腦晶片業者決定與紐約州合作，在今後五年內出資 5.8億美元，研究發展下一代電腦微晶片製造技術。紐約州預定出資1.8億美元，美國IBM、超微半導體(AMD)、美光科技(Micron)與德國英飛凌預定各出五千萬美元的現金與設備，另2億美元由多家提供物料與設備的廠商提供。惟世界最大晶片廠商英特爾(Intel)並未參與此計畫，英特爾目前在x86微處理器市場中，占有銷售量的80%、銷售額的90%。 此國際奈米蝕刻事業（ International Venture for Nanolithography, INVENT）計畫的基地，預定設在奧伯尼紐約州立大學奈米科學與工程學院，預期共有500多位研究人員、工程師與其他人員，投入此計畫。 奈米科技是研究分子與原子級的科學，此一計畫研究重心是利用光線，蝕刻大約頭髮直徑十萬分之一大小的電路，讓參與公司及早取得與學習應用研究出來的蝕刻工具。由於近年半導體速度與複雜性快速提高，晶片業者製造更小、更快晶片的難度增加，研究發展成本飛躍上升，業界體認到必須合作，才能負擔。一具蝕刻工具成本可能高達 2500萬美元，蝕刻工具進步攸關晶片廠商繼續縮小晶片規模，使每個晶片具有更多運算與儲存能力。目前生產的最先進晶片運用90奈米科技，晶片廠商希望從2006或2007年起，生產65奈米晶片。
國際產業創新合作策略實例 – 歐盟之歐洲科技與創新機構(EIT) 德國社群媒體管理草案交付立法程序德國總理梅克爾（Angela Merkel）所領導的內閣於2017年4月5日通過社群媒體管理草案(Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken)，該法案要求社群媒體必須積極管理使用者散布的仇恨言論及假消息，未善盡義務的社群媒體最高可裁罰5千萬歐元。 德國早於2015年12月已與Facebook、Google及Twitter等知名社群網站達成協議，必須在24小時內刪除網站上的不實或違法言論。但根據jugendschutz.net組織公布的數據，Facebook刪除了39％違法內容、Twitter只刪除了1％違法訊息，而Google的Youtube則需要以其他工具進行實測。由於社群媒體自我管理的效果不彰，促使德國政府認為在業者自律之外，必須要制定法律與罰則讓社群媒體負起責任，積極管理網站上使用者的不實與違法言論。 本草案重點包括： 適用範圍：本草案適用於電信媒體服務提供商，且該提供商之網路平台係以營利為目的，允許使用者與其他使用者共享訊息或對大眾分享任何資訊。 社群媒體必須設立24小時受理案件之投訴管道。 接到投訴後，社群媒體必須在24小時內刪除「明顯違法」之內容，其他有爭議的內容必須在7天內確認並刪除違法內容。 社群媒體必須定期提供主管機關其投訴之處置報告。 本草案已送交德國立法機關進行立法程序，但反對者認為一旦通過立法，可能會對言論自由產生不良影響，並抑制網路言論的發表。德國對於社群媒體之管理，值得持續關注。
建立基因資料庫 台灣可行賽雷拉（ Cel-era）公司創始人溫特克萊首度來台，他是四年前完成人類基因體解碼的靈魂人物，他建議可運用基因解碼技術，建立基因資料庫，解決台灣醫療資源浪費。 事實上，早在2004年2月行政院科技顧問組為追蹤研究國人常見疾病與基因之間的關係，宣布推動「台灣疾病與基因資料庫」建置計畫。希望透過該基因資料庫的建立，確實掌握國人致病基因，奠定基因治療基礎，除了有效節省醫療資源浪費，更可鎖定特有亞洲疾病為研發重心，作為生技產業發展的優勢利基。台灣人口數約有二仟多萬，且具有完整健全的全民健保及戶籍資料，再加上台灣生物科技產業技術的蓬勃發展，想要建立大型的基因資料庫技術性應相當可行。國外有冰島和英國等多國發展之經驗可參考。 由於涉及人權自主、個人隱私、安全保密、社會倫理、研究成果的利益分享、以及由誰來擔任執行單位等方面的爭議，加上目前國內法令規範不足，既有相關法令多為位階較低的指導性公告，確實有必要建置相關配套制度及法律，以協助該計劃落實執行與發展。