新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
十年前的 7 月 5 日 ，全世界第一隻複製的哺乳類動物桃莉羊在英國誕生。 複製羊成功的案例，吸引了如潮水般的錢潮，流入探索利用這項新技術的領域，諸如有關治療癌症、心臟病、阿茲海默症和其他嚴重疾病的研究。科學家應用在姚莉身上的技術是屬於「細胞核轉置技術」（ SCNT ），簡言之，是把卵子的細胞核取出，然後把身體細胞的細胞核放入這個卵子中。在這個新建構的卵子中，只有來自身體細胞的染色體，而沒有原卵子的染色體，新卵子中僅含有提供身體細胞者的基因組，所以稱之為「複製」。科學複製有很大的潛在風險，代價又高，但它對醫學研究仍有很大的貢獻，其中最引人注意的，就是可取得胚胎幹細胞。 幹細胞是一群尚未完全分化的細胞，同時具有分裂增殖成另一個與本身完全相同的細胞，以及分化成為多種特定功能的體細胞兩種特性，在生命體由胚胎發育到成熟個體的過程中，扮演最關鍵性的角色。研究人員相信未來可以利用幹細胞，修復或是更換受傷或是病變的器官中的細胞或組織，特別是利用有患者自己基因的幹細胞組織移植，可以避免免疫系統的排斥現象。 當年科學家複製桃莉羊時所抱持之野心不小，然而這十年來，科學家們並沒有能夠達成以幹細胞治療人類疾病的目標，雖然因複製 技術本身具有高度爭議性，許多國家已立法予以規制，然卻依舊無法避免如 前首爾大學教授黃禹錫偽造幹細胞研究成果的醜聞發生，這項醜聞使原本即因幹細胞研究和倫理會產生衝突而不易獲得公私部門經費支持的研究工作，更為雪上加霜。 英國胚胎學者指出，回顧過去醫學研究史上的新發現，不論是試管嬰兒或是其他的技術，從第一次到最後技術完全成熟階段，都需要花很長的時間一步步完成，未來可能還需要五十年的時間，複製技術對醫學的貢獻才可能到達豐收階段。
美國國防部5G戰略因應5G通訊技術快速發展與關鍵應用逐漸普及之趨勢，美國國防部於2020年5月2日由部長批准「國防部5G戰略」（Department of Defense 5G Strategy，以下簡稱5G戰略）；同月發布之公開版（unclassified）5G戰略，為美國軍方第一份公開發布的5G戰略性指導文件，主要內容包含指出國防部面對5G帶來的挑戰、設定5G技術發展目標、擬定5G發展行動計畫（lines of effort）等，以確保美國在軍事與經濟上的優勢地位。 5G戰略指出，5G技術對於維持美國軍事與經濟優勢至關重要，為關鍵戰略性科技（critical strategic technology）。5G技術為產業與軍事帶來重大變革的契機，同時也帶來對資通安全的挑戰，特別是由於美國潛在的競爭對手國家，正試圖在美國的關鍵合作夥伴國家的5G市場占據主導地位，使得5G基礎建設供應鏈成為競爭對手利用有害元件、惡意軟體或非法存取等方式入侵美國與其合作夥伴的破口，最終將損害美國的國家安全與利益。 因此美國國防部將鼎力協助美國與其合作夥伴提升5G技術力、提高對5G的風險意識至國安層級、開發保護5G基礎設施與技術之措施。具體行動計畫包含：一、藉由大量的實驗場域驗證5G應用，推動技術發展；二、掌握5G資安威脅情報與威脅，評估、識別資安風險採取必要措施，並採取零信任（Zero Trust）反覆驗證之資安模式；三、積極加入5G技術相關標準訂定與規劃5G國防政策；四、吸引國際組織、國家與相關產業的合作夥伴，積極溝通協調以維持美國與合作夥伴間的共同利益，協助美國的盟友與合作夥伴識別5G風險。
美國司法部對標準制訂組織所採取之新政策出競爭法上之意見美國聯邦貿易委員會（Federal Trade Commission, FTC）於今（2006）年8月做出一項重要處分，認定Rambus Inc對其他標準制訂組織成員隱瞞其研發之多項電腦技術的專利，並打算在標準制訂組織採用特定標準後實施其專利的行為，乃以不法方式獨占市場之行為，違反反托拉斯法。 在FTC作成Rambus 的決定後，標準制訂組織也開始嘗試一些防止Rambus案情形發生的事前因應之道，例如已推動電腦系統互連標準的電腦協會VITA，就採行了一項新的標準制訂政策，該協會要求其參與成員必須承諾，階段性釋出其專利及專利申請的資訊，包括其所設定的最高權利金費率與可能採取的最嚴格的限制性授權條件；另其標準制訂政策也禁止成員間就此等專利的權利金費率或授權條件私下協商。由於有認為這種作法可能會被認為是破壞市場競爭秩序的杯葛行為，故VITA乃向美國司法部反托拉斯局徵詢其意見。 2006年10月30日，美國司法部反托拉斯局（Antitrust Division of the Department of Justice）提出一份商業檢視信函（business review letter, BRL），正式對此問題提出看法。司法部反托拉斯局在BRL中指出，基於以下幾點考量，VITA的標準制訂政策尚無限制競爭的疑慮：（1）共同制訂標準可能可帶來諸多有助於競爭的優點；（2）協會此項政策可使成員在推動制訂標準時，有更為充分的資訊作成決定；（3）專利授權條款的事前揭露可避免標準制訂可能因為事後過高的授權金，導致其導入或取代既有技術之時程被拖延。
從推動體系及法制架構思考我國文化創意產業發展之整合以南韓推動組織與法制架構為例