新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國司法部曾在2006年1月要求Google公司交出100萬張網頁資料，並提供一週內用戶搜尋關鍵字的紀錄，以協助布希政府舉證說明現行網頁過濾技術的漏洞，為捍衛兒童線上保護法（1998 Child Online Protection Act）提供辯護。但Google公司於2月17日，以大型企業商業機密外洩和用戶隱私權遭到侵犯為由，向加州法院提出措辭強硬的法律摘要報告，並拒絕美國司法部的要求。 針對Google所提出的摘要報告，美國司法部於2月24日提出回應。美國司法部公開表示，Google公司所宣稱：「提供用戶搜尋資訊將侵犯用戶的隱私權」，只不過是一個藉口。司法部進一步指出，美國線上、雅虎以及微軟等其他搜尋引擎業者都已按照要求提供了搜尋資訊。最後，司法部表示，政府為案件所需，擁有向一切機構徵求資訊的正當權利，因此Google公司仍必須將要求的資料提出。
Google就隱私權議題與美國FTC達成初步和解，消費者團體呼籲FTC採取更嚴厲的手段今年三月底，Google與美國聯邦貿易委員會(Federal Trade Commission, FTC)就Buzz案達成和解。2010年時FTC控告Google Buzz未確實保護消費者的個人資料，侵犯了消費者的隱私權，違反「聯邦貿易委員會法」(FTC Act)以及美國與歐盟所訂定之「安全港架構協議」(U.S.-EU Safe Harbor Framework)。FTC表示，Google搭配在其Gmail中的網路社交服務Buzz，讓Gmail使用者誤以為其可以自主決定是否加入該社群，但事實上縱使Gmail使用者選擇不加入，也無法完全移除此項服務。甚者，選擇加入Buzz的消費者，亦無法找到明確的方式，控制其分享的個人資料。FTC控告Google未取得消費者的同意，將Gmail的資料(通訊錄名單)供社交網路使用，構成目的範圍外的使用。 依據Google與FTC和解內容，Google必須執行一套更為嚴謹的隱私權制度，不得再有誤導消費者其個人資料開放程度的行為，並且在爾後二十年都需接受獨立機構的隱私審查。初步和解內容開放30天(至2011年5月2日 )供社會大眾提供意見，之後FTC將提出最終和解內容。迄今為止，消費者團體提出的意見，包括要求FTC限制Google持有個人資料的時間，將隱私權保護制度適用到其所有的產品，對其儲存於雲端系統的個人資料進行加密動作，以及在進行個人資料蒐集前，應彈跳出視窗取得消費者同意等 值得注意的是，FTC在和解案中關於隱私權政策的客體所使用的語彙為「涵蓋資料」(covered information )而非「個人資料」(personal information)，「涵蓋資料」所包含的範圍除了傳統的「個人資料」，尚包含IP位址、個人實體位址，以及通訊名單等等。 本案是FTC首度依職權要求業者採取更為嚴謹的隱私權保護制度以保障消費者權益，亦是FTC初次依「安全港架構協議」所採取的行動。本案對於線上服務的隱私權保護無疑是一大進展，但亦有論者擔心嚴苛的隱私權保護制度，反將造成小公司或新業者市場參進的障礙，愈發壯大Google的市場地位。 除此之外，Google的Buzz服務亦被消費者以集團訴訟提起告訴，最終和解金為850萬美元。 隨著Google成為搜尋引擎界的龍頭，其近年的一舉一動皆備受美國以及歐洲管理當局嚴密注意，今年二月份時，Google即時街景服務亦因不當蒐集個人資料而被法國裁罰14萬美元。
美國國家標準技術局公布聯邦各部會技術研發成果轉化計畫美國國家標準技術局（the National Institute of Standards and Technology，NIST) 建立網路專頁，提出聯邦各部會所研發技術的移轉計畫報告，揭示各部會具體執行白宮在去（2011）年10月28日所發布的總統備忘錄（Presidential Memorandum），要求各聯邦實驗室進行技術研發並提高移轉給私部門之比例，以使政府投資之研發成果可以供大眾市場所用，以進一步加速經濟成長與提昇美國產業競爭力。 觀察白宮所發布的政策文件指出，聯邦政府將創新技術研發，視為刺激經濟的一個重要工具，而有效的技術移轉又是成功的技術研發的重要驅動力，故歐巴馬政府啟動美國計畫（Startup America Initiative）將政府研發技術的移轉作為重要支柱之一，並預計於5年內達成具體成績。 於NIST網頁公布之13個聯邦部會所提出之執行計畫，包括各機關自訂目標與評量標準，以評估刺激技術移轉計畫之成效。而作為美國產業技術研發與標準制訂之主要推動機構，NIST的技術移轉計畫將調整技術移轉的定義與內涵，俾更為精確地反應和評估廣泛的技術研發活動。未來NIST將擴張各項衡量指標，如標準參考物質和數據（Standard Reference Materials and Data）、專利授權、共同研究等的追蹤範圍，此外包括軟體下載、研究人員、新創公司等亦納入新的衡量指標範圍之內。同時在完善技術移轉活動追蹤機制方面，NIST將建立內部人員參與私部門統一標準制訂委員會之資料庫。 包括NIST在內以及美國商業部與其他各主要進行產業技術研發的聯邦部會之技術移轉計畫，揭示了技術移轉在美國技術研發活動週期中的重要性，具體執行、評估之方式，可自NIST專頁進行下載、分析並作為政策規劃之參考。
中國大陸國家互聯網信息辦公室、國家市場監督管理總局聯合發布《個人信息出境認證辦法》中國大陸國家互聯網信息辦公室、國家市場監督管理總局於2025年10月17日聯合發布《個人信息出境認證辦法（下稱認證辦法）》，並將於2026年1月1日施行。中國大陸所稱之認證即為臺灣所稱之驗證，屬兩岸詞語使用之差異，容易產生混淆誤認先予敘明，下將以臺灣慣用之驗證一詞說明。 依照《中華人民共和國個人信息保護法》第38條須向境外提供個人資料方法有四種：分別為1.透過國家網信部門組織的安全評估、2.經專業機構進行個人資料保護驗證、3.依照國家網信部門制定的標準化契約與境外接受者訂定契約，以約定雙方之權利義務、4.法律、行政法規、國家網信部門所規定之其他條件。而認證辦法係依據第二種方法所訂，主要規範：1.處理者資格限制、2.傳輸資料數量、3.影響評估內容、4.驗證機構申請資料與報告義務、5.對驗證機構之監督。 處理者資格限制與傳輸資料數量方面，認證辦法規定向境外提供個人資料：1.不可為關鍵信息基礎設施營運者、2.向境外提供的個人資料須為10萬人以上未滿100萬人之個人資料或未滿1萬人之敏感個人資料（須注意，中國大陸之敏感個人資料包含：生物識別、宗教信仰、特定身分、醫療健康、金融帳戶、行蹤軌跡等資料，以及不滿14週歲未成年人的個人資料，故與臺灣個資法第6條之特種個資並不一致）。且認證辦法規定不得對個人資料的數量為拆分，意即如將資料數量拆成數筆10萬人以下，藉以規避認證辦法資料數量10萬人以上的境外傳輸申請限制並不合法。 除依法應履行的告知外，向境外傳輸前應取得當事人的單獨同意，並採取個資影響評估，影響評估之內容須包含：1.處理者與境外接收者處理個資的特定目的、範圍、方式、2.個資出境的風險、3.境外接收者的個資保護能力與義務、4. 提供事故通報管道、5.境外國家或地區的政策、法規影響。 最後，認證辦法應較注意的是驗證機構的報告義務與受檢義務的明確立法，使得除藉由驗證機構對個人資料處理者的審查確保個人資料國際傳輸的安全外，再透過政府機關對於驗證機構的檢查，以確保監管個人資料跨境傳輸，亦屬於我國政府機關可以參考之個人資料國際傳輸監管面向。