新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國聯邦航空總署（Federal Aviation Administraiton, FAA）於2020年12月28日公布「無人機遠端識別最終規則（Final Rule on Remote Identification of Unmanned Aircraft）」，針對250克以上無人機的遠端身分識別操作規則進行規範： (1)標準配備有遠端識別的無人機： 無人機需透過wifi或藍芽等技術廣播（broadcast）其遠端識別資訊，包含無人機ID，即無人機序號（serial number）或交談識別碼（session ID）；無人機的速度、經緯度和海拔高度；控制站的經緯度和海拔高度；緊急狀況的狀態和時間戳記（time mark）。該規則要求無人機廣播範圍內大多數的個人無線裝置（wireless device）都可取得無人機的遠端識別訊息，但序號、交談識別碼以及註冊資料庫僅限FAA和被授權人員可於特定情況下取得。 (2)額外加裝遠端識別廣播模組的無人機： 廣播模組可能為與無人機連線的獨立裝置，或以加裝於無人機內部的形式存在，此類無人機必須於視距內操作，並透過wifi或藍芽等技術廣播其遠端識別資訊，包含模組的序號；無人機的速度、經緯度和海拔高度；起飛地點的經緯度、海拔高度和時間戳記。 (3)於FAA認可之識別區域（FAA-Recognized Identification Areas, FRIA）中飛行： 在FRIA區域中，無人機可不具備遠端識別飛行，但無人機操作需處於視距內與FRIA區域界線內。 該最終規則已送至美國聯邦公報辦公室（Office of the Federal Register），且會在公告後60天生效，預計於2021年1月公告。
美國OMB發布M-26-04備忘錄，確立聯邦採購之「無偏見原則」與透明度義務美國白宮管理與預算辦公室（Office of Management and Budget，以下簡稱OMB）在2025年12月11日發布M-26-04備忘錄（以下簡稱本指引），目標是落實第14319號行政命令「防止聯邦政府中的覺醒AI」（Preventing Woke AI in the Federal Government）。本指引闡述「追求真相」（Truth-seeking）、「意識型態中立」（Ideological Neutrality）兩大「無偏見AI原則」（Unbiased AI Principles），並強制要求聯邦機構在採購大型語言模型（LLM）時，必須將此二原則納入合約條款。 為確保符合規定，本指引要求聯邦機構在進行採購時，應避免強制供應商揭露過於敏感的技術資料（如模型權重），而是採取以下兩層級的資訊揭露架構： 1. 基本透明度要求（Minimum Threshold for LLM Transparency） 各機構於招標階段，應要求供應商提供以下資訊： (1) 可接受的使用政策：界定產品適當與不適當用途的文件。 (2) 模型、系統和/或資料的摘要卡（Model, System, and/or Data Cards）：包含訓練摘要、風險緩解措施及基準測試評分。 (3) 終端用戶資源與意見回饋機制：包含用戶教程及針對違反無偏見原則產出的回報管道。 2. 強化透明度門檻（Threshold for Enhanced LLM Transparency） 若機構擬將模型整合至其他軟體或服務中，則需獲取更深入的開發與運作資訊，例如： 1. 預訓練和後訓練（Pre-Training and Post-Training）：如影響產出事實性（factuality）的活動、系統提示詞（System Prompts）、以及內容審查過濾器的具體運作。 2. 模型評估：針對政治議題的偏見測試結果與方法論。 3. 模型中嵌入的企業控制（Enterprise-Level Controls）: 如可客製化的系統指令或來源引用功能。 4. 第三方對模型的修改：非原廠開發者所施加的額外控制層。 本指引對聯邦行政機構具有行政拘束力。機構必須於2026年3月11日前更新採購政策，並將上述要求納入新舊合約中。值得注意的是，本指引引入了「實質性要求」（Materiality Requirement），即若供應商拒絕針對違反無偏見原則的產出採取糾正措施，將構成合約違約之重要事由，機構得據此終止合約。 觀察美國OMB此次發布的內容，係透過將「意識形態中立」轉化為具體的採購合規要件，OMB利用聯邦政府龐大的購買力，在採購合約中確立供應商的「透明度義務」，OMB指引不僅建立了明確的法遵標竿，更可能發揮示範效應，將政府端的無偏見規範逐步推廣至私營部門，轉化為產業的最佳實踐標準。
《2022年保護美國智慧財產法》公布至今，所造成的影響仍有待觀察繼2023年1月5日美國總統拜登（Joe Biden）簽署《2022年保護美國智慧財產法》（Protecting American Intellectual Property Act of 2022）並生效後，至今尚未見任何根據該法規展開行動的報告，不過各界仍相當關注該法案的動向，因為其與過往的經濟制裁措施有著顯著的差異。 《2022年保護美國智慧財產法》與其他經濟制裁措施之差異包括： 1.僅針對營業秘密之重大竊盜，不包括其他智慧財產權如專利、著作權等； 2.未要求行為人主觀是為他國政府之利益而竊取營業秘密； 3.法規中使用到關鍵術語的標準及定義較少； 4.某些制裁措施具有強制性； 5.制裁的對象不僅包括竊取美國營業秘密者，也包括從他人竊取美國營業秘密中獲利者； 6.營業秘密盜竊行為須有合理可能性或已經對美國國家安全、外交、經濟、金融穩定構成重大威脅。 雖然《2022年保護美國智慧財產法》即將成為重要的政府工具，以解決營業秘密損失及其對國家安全之影響，且允許當事人面臨營業秘密訴訟或威脅時，將制裁措施武器化，但仍有部分問題有待解決，包括： 1.營業秘密受各州法律管轄，各州之管理機構是否會制定自己的營業秘密定義標準？ 2.若在訴訟進行期間實施制裁措施，將產生甚麼影響？ 3.是否產生《經濟間諜法》（Economic Espionage Act）之待審案件？美國司法部（US Department of Justice）是否必須參與？ 4.判斷是否制裁的標準與美國司法部所採用的《經濟間諜法》之標準是否相同？若不同，則差異為何？ 5.當事人或法院是否知道判定營業秘密盜竊行為時該適用什麼證據標準？（法規僅規定由總統決定） 6.法院能否將此類制裁措施作為其決策的一部分？ 儘管《2022年保護美國智慧財產法》所衍生的問題及將產生的影響尚有待觀察，但建議企業採取下列合規措施，以避免成為美國新制裁措施的目標，包括： 1.制定並實施合規的營業秘密保護政策與程序； 2.對員工進行教育訓練，使其瞭解有關《2022年保護美國智慧財產法》的基礎知識以及對營業秘密之管理要求； 3.對有可能被盜竊營業秘密的流程進行稽核審查。 本文同步刊登於TIPS網站（https://www.tips.org.tw）。
澳洲競爭及消費者委員會（ACCC）就大型數位平臺對於消費者權益和市場競爭的問題提出建言澳洲競爭及消費者委員會（Australian Competition and Consumer Commission, ACCC）於2022年11月發佈了數位平臺第五份調查報告。該報告係ACCC受澳洲政府委託，於2020年起對數位平臺相關的消費者權益和市場競爭問題的調查，本次報告將重點放在監管如何改革。主要提供的建議和警示可分為五個方向： 1.反競爭行為 大型數位平臺擁有巨大的市場力量和重要的財政資源，佔據主導地位的數位平臺公司有能力和動機透過排他性行為和收購潛在競爭對手，以維持其在市場中的優勢地位。 2.消費者和中小企業保護不足 ACCC於2022年所發佈的最新報告與其自2017年開始進行數位平臺研究起所發布的其他報告一致，皆指出數位平臺的服務有以下潛在危害： ● 利用消費者偏見或引導消費者的方式向消費者提供服務。 ● 數位平臺上的詐騙明顯且持續增加。 ● 來自應用程式商店提供的不當和欺詐性應用程式的危害。 ● 創建、購買和銷售虛假評論以及以其他方式操縱評論的做法。 ● 欠缺救濟和爭議解決的途徑。 3.保護消費者的新措施 澳洲現有的競爭和消費者法律已難以因應數位平臺市場所面臨的消費者權益侵害和競爭危害等問題。該報告建議進行立法改革，具體如下： ● 商業市場中的消費者保護措施，包括禁止不公平交易行為和不公平契約條款。 ● 針對數位平臺的消費者爭議措施，包括強制規定內部和外部的爭議解決流程，以及平臺對詐騙、有害程式和虛假評論的預防和刪除義務。 ● 建立新的競爭框架，使受指定的數位平臺提供服務時受到適用於此一領域的強制性法規拘束。 ● 受指定數位平臺將應遵循之新框架和守則，以遵守競爭義務，避免其在市場中的反競爭行為，如競爭行為中的自我偏好（self-preference）等。 4.管轄 該調查報告亦指出適當且明確的管轄權限劃分對於新的監管框架來說非常重要，應在考慮到其專業知識和權責範圍的前提下，將監管責任分配給正確的管理機構，並且這些監管在流程中的各個環節都應受到適當的監督。 對於新的競爭框架及監管措施，ACCC建議可以參考英國當前的制度設計；英國政府成立了數位市場部門（Digital Markets Unit, DMU），該部門隸屬於競爭與市場管理局（Competition and Markets Authority），DMU負責監督受指定數位平臺，並在符合公平貿易、選擇開放、透明及信任等前提之下，DMU得視各個公司不同的情況對其進行特定的要求，如建立面對非法內容、對成人或未成年人有害內容時的應對措施等。 5.與國際方針的一致性 過去，澳洲在數位平臺監管策略採取了領先國際的創新行動，透過實施《新聞媒體議價法》（News Media Bargaining Code），要求數位平臺為新聞內容付費。但未來澳洲政府最終採用的策略將可能仿效他國經驗或是依循國際間共通模式，如英國推行中的《網路安全法》（Online Safety Bill）或歐盟的《數位市場法》（Digital Market Act）和《數位服務法》（Digital Services Act），而非獨樹一幟。 澳洲數位平臺監管策略之後續變化與進展值得持續追蹤，以做為我國數位平臺治理政策之借鏡。