新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國聯那通訊委員會 (Federal Communications Commission, FCC)在本月十四日公佈了一份有關「商業頻譜加強法案(Commercial Spectrum Enhancement Act, CSEA)」的執行命令與法規預訂修正通知(Declaratory Ruling and Notice of Proposed Rule Making)。希冀能制訂一定的行政規則而確切地遵照CSEA的規範；同時，FCC也在文件報告中也提出了一些對於目前競價拍賣規則的相關修正意見。 最初在 CSEA法案中設計了頻譜的拍賣收益機制，主要係補償聯邦機構在一些特定頻率(216-220 MHz, 1432-1435 MHz, 1710-1755 MHz, and 2385-2390 MHz)中，以及一些從聯邦專屬使用區重新定頻到非專用區的頻率，因移頻所支應出的必要成本。而在FCC的公佈報告中，委員會認為惟有定義清楚，方能有效地落實該法的執行。因此FCC詳細解釋說明了CSEA中對於「總體現金收益(total cash proceeds)」的意義，FCC認為所謂的總體現金收益應該是原始獲標的價格扣除掉任何有可能的折扣或扣損；同時，FCC也在預定修正公告中，認為應改變委員會的拍賣價格規定以配合CSEA的規定。另外，也修正了部落地的拍賣信用補償制度(Tribal Land Bidding Credit Rule)等規定。
歐盟第29條工作小組發布「自動化個人決策和分析指引」處理個人資料自動化決策與資料剖析風險問題歐盟第29條工作小組於2017年10月3日為因應歐盟一般資料保護規則（GDPR）第22條規定發布「自動化個人決策和分析指引」（Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679，2018年2月6日進一步修正，下稱指引），處理對個人資料自動化決策（automated decision-making）和個人檔案剖析（Profiling）的建立。 指引分為五個部分與最佳實踐建議，旨在幫助資料控制者（controller）合乎GDPR對個人資料自動化決策和分析的要求，內容包括下幾點：1.定義自動化決策和分析，以及GDPR對這些概念的處理方法；2.對GDPR第22條中關於自動化決策的具體規定；3.對自動決策和分析的一般規定；4.兒童和個人檔案剖析（Profiling）的建立；5.資料保護影響評估。 指引的主要內容包括： 個人檔案剖析（Profiling），意謂收集關於個人（或一群個人）的資料，並分析他們的特徵或行為模式，加以分類或分群，放入特定的類別或組中，和/或進行預測或評估（例如，他們執行任務的能力，興趣或可能的行為）。 禁止對個人資料完全自動化決策，包括有法律上法或相類重大影響的檔案剖析，但規則也有例外。應有措施保障資料主體的權利，自由和合法利益。 GDPR第22條第二項a之例外規定，（履行契約所必需的），自動化個人決策時，應該作狹義解釋。資料控制者必須能夠提出分析、自動化個人決策的必要性，同時考慮是否可以採取侵害隱私較少之方法。 工作小組澄清，關於在要求提供有關自動化決策所涉及的邏輯上有意義的資料時，控制者應以簡單的方法，告訴資料主體其背後的理由或依據的標準，而不得總是以自動化決策所使用算法進行複雜的解釋或者公開完整的算法為之。所提供的資料應該對資料當事人有意義。 對資料主體提供關於處理自動化決策上有關重要性和預期後果的資料，其意義在於必須提供關於該資料之用途或資料未來處理以及自動化決策如何影響資料主體的重要訊息。例如，在信用評等的情況下，應有權知道其資料處理的基礎，資料主體並能對其作出正確與否的決定，而不僅僅是關於決策本身的資料。 「法律效果」是指對某人的法律權利有影響，或者影響到個人法律關係或者其契約上權利。 工作組並未將GDPR前言71段視為絕對禁止純粹與兒童有關的自動決定，指出僅在某些情況下才有其適用（例如，保護兒童的福利）。 在基於自動化處理（包括分析）以及基於哪些決策產生法律效應或類似顯著效果的基礎上對個人方面進行系統和廣泛評估的情況下，進行資料保護影響評估並不局限於「單獨」自動化處理/決定。
中國發布《國家中長期生物技術人才發展規劃（2010-2020年）》中國科學技術部與中國科學院等六個部門，於2011年12月8日聯合發布《國家中長期生物技術人才發展規劃（2010-2020年）》(以下簡稱「生技人才規劃」)，期藉由具體政策措施之推動，充實國內生技人才資源，以促進生物技術及其產業蓬勃發展。 從中國國務院於2006年所提出的《國家中長期科學和技術發展規劃綱要（2006-2020年）》到科技部最近發布的《國家十二五科學和技術發展規劃》，均揭示「生物技術」為中國科技發展的重點領域。然而，現階段中國生技發展卻面臨了人才瓶頸，包括缺乏高層次創新人才、缺乏優秀創業型人才、人才資源開發投入不足，以及人才發展體制障礙待破除等問題，本規劃便在這樣的背景下誕生。 針對前述生技人才缺乏問題，生技人才規劃以「2020年時將中國打造成生物產業大國」為總體目標，分兩階段達成充實、培育生技人才的目的。第一階段為2011年至2015年，主要目標係在國內培育、造就一定規模的科技人才與創新團隊；第二階段為2016年至2020年，主要目標則為提高中國整體生技人才的素質，並建置5到10個具國際水準的國家生技實驗室。為達成前述目標，生技人才規劃宣示未來將分別實施以下各項政策措施，包括：持續給予優秀人才科研經費支援、鼓勵支持生物技術人才創業、加速生物技術人才在產學研各領域間的流動、制定優先支持生物產業技術人才發展的財政金融政策，以及吸引海外高層次生物技術人才回國創業或參與重大科研計畫等。 自2006年以來，中國於各個重大科技與產業政策規劃中，均將生物技術列為國家重點發展領域，顯見中國對於生技產業的重視，而根據往例，中國在發布重大國家政策規劃綱要以後，國務院各部門隨即會頒布相關法令及配套措施，以達成規劃綱要中所揭示的各項發展目標。因此，「生技人才規劃」頒布後，其後續相關的人才引進法制架構將如何呼應、達成綱要所訂的總體發展目標，值得持續觀察。
德國聯邦資訊技術，電信和新媒體協會針對AI及自動決策技術利用提出建議指南德國聯邦資訊技術，電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南，旨在提升企業數位化與社會責任，並提升消費者權益保護。 德國司法及消費者保護部次長Gerd Billen於會議中指出，無論技術細節和具體應用如何發展，法律和消費者保護政策應確保人工智慧安全性，且不因此受歧視，以及盡可能確保技術利用透明度。而隨著人工智慧的發展，應設法解決使用人工智慧產生的法律問題。 例如，如何在製造商，供應商和消費者之間公平分配責任歸屬問題？在家庭，物流和手術室等領域已有越來越多具備自我學習的機器人被應用，相關權利是否會有所不同？如果機器出現不明原因故障，會發生什麼情況及如何處置？當機器透過在製造時尚未完全預定的環境感官認知做出具體決定時，該自動行為所生效力為何？ 本份指南則提出六項建議： 促進企業內部及外部訂定相關準則 提升產品及服務透明度 使用相關技術應為全體利益著想 決策系統的可靠性仍取決資料的準確性。 重視並解決解決機器偏差問題 在特別需要負責的決策過程，應設計成由責任主體保留最終的決策權力，直到AI的控制品質已達到或高於所有參與者水平。