新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
所謂「阿西洛馬人工智慧原則」(Asilomar AI Principles)，是指在2017年1月5日至8日，於美國加州阿西洛馬（Asilomar）市所舉行的「Beneficial AI」會議中，由與會的2000餘位業界人士，包括844名學者專家所共同簽署的人工智慧發展原則，以幫助人類運用人工智慧為人類服務時，能確保人類的利益。 該原則之內容共分為「研究議題」( Research Issues)、「倫理與價值觀」( Ethics and Values)，及「更長期問題」( Longer-term Issues)等三大類。 其條文共有23條，內容包括人工智慧的研究目標是創造有益的智慧、保證研究經費有益地用於研究人工智慧、在人工智慧研究者和政策制定者間應有具建設性並健康的交流、人工智慧系統在其整個運轉周期內應為安全可靠、進階人工智慧系統的設計者及建造者在道德層面上是其使用、誤用以及動作的利害關係人，並應有責任及機會去影響其結果、人工智慧系統應被設計和操作為和人類尊嚴、權利、自由和文化多樣性的理想具一致性、由控制高度進階人工智慧系統所取得的權力應尊重及增進健康社會所需有的社會及公民秩序，而非顛覆之，以及超級智慧應僅能被發展於服務廣泛認同的倫理理想，以及全人類，而非單一國家或組織的利益等等。
日本發布成為可信賴夥伴的資料治理手冊，呼籲企業應建立並實施貫穿資料生命週期的資料治理機制日本獨立行政法人情報處理推進機構於2025年1月28日發布《成為可信賴夥伴的資料治理手冊（下稱《手冊》）》，旨在呼籲企業建立與實施「貫穿資料生命週期的資料治理機制」，藉此將資料價值最大化，並將資料風險最小化。 《手冊》指出，資料驅動著社會發展，資料治理的重要性亦隨之提升。資料治理係指企業或組織透過機制、規則與制度等多種層面的策略性手段管理其重要資料資產，並透過制定相應的政策與規則，確保資料的品質與安全性。同時，考量資料具備易於複製、竄改且流通難以控制的特性，建立完善的資料治理機制亦有助於在共享資料的過程中維持其品質及安全性。推動資料治理的基礎，則仰賴適當且有效的資料管理機制，亦即確保在蒐集、處理、儲存與使用等資料生命週期各階段皆能落實資料管理機制。然而，資料管理本身要能發揮效益，仍須依賴組織具備足夠的資料成熟度，即具備正確處理與應用資料的整體能力，方能系統性的落實管理與治理工作。 根據《手冊》內容，透過資料治理，企業或組織將能確保資料品質、透明度及安全性，並基於可信任的資料進行決策，進而有效提升決策精準度，實現風險管理與法規遵循，進一步強化自身在資料經濟中的「價值」、「信任」與「公正性」。 我國企業如欲逐步建立並落實貫穿資料生命週期的資料治理機制，可參考資訊工業策進會科技法律研究所創意智財中心所發布之《重要數位資料治理暨管理制度規範》，作為制度設計與實務推動之參考，以強化資料治理能力。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
英國將修法廢除非營利團體合理使用錄音著作相關規定英國的1988年智慧財產權法（The Copyright, Designs and Patents Act of 1988）長久以來，對於慈善及非營利團體在公開場合或活動中播放音樂，一直給予合理使用的空間。然當相關團體受惠於此一規定時，創作人跟表演人卻不樂見此情形。因此，英國主管機關針對此一合理使用規範，在2008年對相關團體進行了意見徵詢。 在2008年10底截止的意見徵詢中，對於改變錄音著作與表演人權利的公開演播合理使用空間，提供了下列三個選項： 一、 完全廢除此一合理使用空間 二、 縮小適用的團體範疇 三、 廢除合理使用空間，但權利人只能以對雙方都公平的費率收取權利金 近日，英國政府宣布根據前述的意見徵詢結果，將廢除慈善與非營利團體的合理使用規定，從2010年4月開始這些團體將必須負擔一個固定的年費，才能在活動或公開場合中使用音樂，但截至目前為止，使用的費率為何尚未確定，但主管機關表示，希望一年不超過100英鎊。 主管機關接下來將對費率部分開始徵詢意見，對於1988年智慧財產權法也預期會進行修正，並於2010年4月開始落實相關規範。這樣的改變對於慈善團體而言固然感到失望，相關團體也以未來在活動場合中，不播放音樂或不付權利金來做為要脅，但整體發展仍有待後續觀察。
中國大陸商務部頒布《阻斷外國法律與措施不當域外適用辦法》維護國際經貿發展權益中國大陸商務部於2021年1月9日公布《阻斷外國法律與措施不當域外適用辦法》（商務部令2021年第1號，簡稱《辦法》），以保護中國大陸公民、法人或其他組織的合法權益，不受他國法律與措施的不當侵害。過去，美國等國家透過出口管制推行單邊主義，限制中國大陸企業的國際經貿活動空間，顯示外國法律與措施的不當域外適用，對中國大陸經濟發展造成不利影響。《辦法》因此借鑒歐盟於1996年制定《抵制第三國立法域外適用效果及行動條例》（Council Regulation (EC) No 2271/96）的立法經驗，拒絕承認外國法律和措施的域外效力，以維護國際經貿發展權益。《辦法》由國務院商務部負責評估和確認外國法律與措施是否存在不當域外適用情形，發布「不得承認、不得執行、不得遵守有關外國法律與措施禁令」；中國公民、法人或者其他組織若因外國法律與措施的域外適用遭受重大損害，得向中國法院提起訴訟，要求獲益當事人賠償損失，以此作為中國大陸對外貿易之必要反制措施。《辦法》所建立的阻斷工作機制架構說明如下： 及時報告：依據第5條，中國大陸公民、法人或其他組織遇到外國法律與措施不當域外適用，即禁止或限制其與第三國（地區）開展正常經貿及相關活動者，應在30日內報告。 評估確認：依據第6條，關於外國法律與措施是否存在不當域外適用情形，商務部應結合各種因素進行評估確認。 發布禁令：依據第7條，經評估確認外國法律與措施存在不當域外適用情形，商務部得發布「不得承認、不得執行、不得遵守有關外國法律與措施的禁令」。第8條，亦由商務部負責「豁免遵守禁令」申請案之否准。 司法救濟：依據第9條，因外國法律與措施的不當域外適用遭受損失，中國大陸公民、法人或其他組織可在中國大陸國內法院起訴並請求損害賠償。 處罰制度：依據第13條，對違反如實報告義務和不遵守禁令之行為，給予相應警告、責令限期改正，並根據情節輕重處以罰款。