新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國聯邦通訊委員會（Federal Communications Commission，FCC）於2008年11月公布法規命令，開放閒置無線頻譜之使用。閒置頻譜緣起於美國無線電視訊號，對於鄉村或偏遠人口較少之地區並無覆蓋，這些地區之無線電視頻譜處於閒置未用狀態。FCC因應無線通訊對頻譜之需求，在以拍賣釋出新頻譜的同時，也由增進既有頻譜的效率著手。 FCC於此法規命令中公布初步的技術規範，包含使用地理資料庫以及感知無線電技術作為利用閒置頻譜之要件。之後，FCC於2009年11月公告接受業者遞交計畫書，審查是否能成為資料庫管理者之資格。 2010年9月FCC再度公布新的法規命令，取消感知無線電技術作為必要條件之要求，並調整技術規範，也預告將選擇民間業者來進行地理資料庫之管理與建置。 2011年01月26日，FCC正式公告九家業者，包括Comsearch、 Frequency Finder、Google、KB Enterprises LLC and LS Telcom、 Key Bridge Global LLC、 Neustar、Spectrum Bridge、 Telcordia Technologies、 WSdb LLC.。這九家業者將必須針對2010年所發佈之新規則提出補充資料，並與FCC工程技術辦公室（Office of Engineering and Technology ，OET）配合，舉行一系列的研討與測試實驗，確立最後的技術標準與測試資料庫運作的穩定度。 FCC亦表示，資料庫管理者必須同意，他們將不會從事任何歧視性及反競爭行為，亦不可有危及用戶隱私之行為。 在FCC指定地理資料庫的管理者後，美國開放閒置頻譜使用的前置準備也可說是完成，未來等業者完成測試，相關利用頻譜的設備上市之後，可望為無線通訊市場帶來更多低成本的選擇。
18F與加州政府共同打造採購新流程美國的數位服務推動小組18F（Digital service delivery，18F），因辦公室位於華盛頓特區F街18號而得名。2014年3月由總務署（General Service Administration，GSA）成立，透過業界與政府合作模式，幫助政府機關改善流程及增進效率，其所輔導的專案計畫將實際轉變政府機關提供數位服務及科技產品之運作模式，以達跨部會、機關之整合，並使對公眾的數位服務更便於使用。 18F為幫助美國各機關建造、購買及分享現代數位服務以提升政府的使用者經驗，提供了五項服務：（一）就已存的數位規格（digital component）打造訂製化產品（custom products）；（二）以創新方式購買科技，使各政府能夠獲得更快、更好及產生更好結果的IT服務。詳細服務內容有代寫委外服務建議書（Request For Proposal，RFP）、開發市場利用現代技術購買IT服務、購買開放源代碼（open source code）以提升專案計畫；（三）替政府建造一安全、可擴展的工具與平台，其能更加符合需求並能夠持續為改善以達需求；（四）協助成為數位化組織，不只是增加組織內部數位化能力，更要形成數位習慣並最終促使組織文化改變；（五）透過討論會、設計工作室、指南及文件工作平台，提供及分享18F實際運用的相關現代數位化服務技術，使政府機關能自行複製及使用。 近期知名成果案例發生於加州。在加州，每一年的孩童福利服務案件管理系統超過2萬名社工利用為追蹤管理超過50萬件虐待及忽視兒童案件，若使用過時系統產生風險將無法估計，故加州政府、美國衛生與人群服務部（Department of Health and Human Services，DHHS）即利用了前述相關服務，與18F共同重新設計該系統的採購流程。從2015年11月至2016年10月，合作建立新系統不到1年的時間，導入了契約文件之簡化、模組化（modular）契約之合併、敏捷性開發（agile development）、使用者中心之設計及開放源（open source）之實踐。 首先，代寫委外服務建議書，18F於其中展示如何將專案計畫為模組化，亦即別於過往採購的傳統模式，非尋找單一開發商去建置整個已預設需求的系統，透過分離的方式，找尋不同開發商以更符合實際需求，亦能避免時間金錢的浪費，降低遲約或違約之風險。再者，聚集可能符合資格的供應商，邀請眾供應商建造以開放源代碼（open source code）方式的原型（prototype）。透過此一過程的激盪，18F從中協助評估所提出的原型、技術等，以了解供應商如何提出及是否符合使用者中心的設計。同時也能減少政府與供應商雙方的招標時間及行政成本。最後，為使加州政府機關能自行複製及使用相關現代數位化服務技術，18F示範敏捷軟體開發（agile software development）專案計畫。從中加州政府不僅瞭解如何為風險評估，且思考相關技術部門於專案計畫中的角色定位。 面臨現代化數位服務，在美國，聯邦與州政府都面臨極大挑戰。18F介入發展新模式，更能達實際需求，亦為內化之協助，利於政府自行發展其他數位服務。18F與加州政府合作之案例，或許能為國家發展數位服務運作之借鏡。
紐約市實施《生物辨識隱私法》強化生物特徵保護伴隨人工智慧、大數據及雲端運算浪潮，生物辨識技術逐漸成為日常生活的一部分。所謂生物辨識技術，是指利用個人獨特之生物特徵辨識個人的技術。生物特徵包含任何人類生理或行為特徵，只要能夠滿足普遍性、獨特性、不變性及可蒐集性 ，即可作為生物辨識之資訊。由於生物辨識技術能利用生物特徵達到識別與驗證個人身分，因而引發公眾對隱私、資安等議題的關注。 對此，紐約市於2021年7月21日也開始正式施行《生物辨識隱私法》（biometric privacy act） ，期能藉由限制業者利用生物辨識技術以及賦予消費者訴訟權利作法，促成隱私權的週全保障。 該法主要有三大部分： 一、規範生物辨識資訊範圍，包含但不限於（1）視網膜或虹膜掃描（2）指紋或聲紋（3）手或臉部立體掃描或是其他可用於識別之特徵。就前開生物特徵，要求業者應在所有消費者入口處放置清晰顯眼的標誌，搭配簡單易懂方式揭露其蒐集、保留、儲存消費者生物辨識資訊行為。同時，也明文禁止業者將消費者生物辨識資訊以販賣、租賃、交易或是分享方式交換任何相關價值或利益。 二、提供受侵害之消費者訴訟權與法定賠償請求權。但是，就單純未符合揭露要求之業者，該法給予30天的補救期間，要求消費者應於起訴前30天通知業者改善，一經改善即不得再起訴。 三、闡明政府相關部門不適用本法。金融機構、業者與執法部門共享生物辨識資訊，以及單純以影像、圖像蒐集而未分析識別情形則豁免揭露規範。 綜上，紐約市於該法創設訴訟權、法定賠償數額及豁免事由，預料將會是紐約市企業隱私保護政策重要指標，而值得我們繼續關注其發展與影響。
歐盟理事會通過爭議不斷的歐盟數位單一市場著作權指令為了使歐洲的著作權法規更符合數位時代及單一市場所需，歐盟執委會（European Commission）於2016年9月所提出的「數位單一市場著作權指令」（The Directive on Copyright in the Digital Single Market）提案，於今年2月13日由歐洲議會（European Parliament）與歐盟理事會（Council of the EU）、歐盟執委會達成最終協議，歐洲議會與歐盟理事會並分別於3月26日及4月15日通過提案，歐盟理事會於4月17日簽署正式指令。新指令的重點內容包含： 文字與資料探勘（Text and data mining）：第3條規定，研究組織為了科學研究而需對文字與資料探勘時，得例外對著作進行重製、擷取（extraction）。 強化著作人和表演者在數位環境中的地位：第14條規定，當著作人和表演者將著作權讓與或授權給出版商後，出版商必須定期向著作人和表演者告知這些著作的利用情形。另外，第15條規定，如果著作人和表演者覺得先前約定的報酬太低時，可以要求與出版商重新磋商更公平且適當的報酬。 賦予新聞內容重製權及向公眾傳播權：規定於第11條，使用新聞的內容（尤其網路新聞）時，須向新聞出版者取得重製權及向公眾傳播權的授權。另外，本次通過的正式指令，已無之前提案中具有爭議的「須得到新聞出版者同意才能使用新聞頁面超連結」條文內容，而無先前的超連結稅（Link Tax）爭議。 網路服務提供者義務：第13條規定，網路服務提供者如Instagram、YouTube等，有義務透過有效的機制，迅速刪除未經著作權人授權許可的內容，並防止這些未經授權的內容重新上架，以保護著作權人的利益。 不過，從歐盟執委會提案之後，第13條就引起了德國民眾的強烈反彈，從今年2月最後一個禮拜開始，德國各大城市展開了一連串名為「反對歐盟著作權改革法案」（gegen EU-Urheberrechtsreform）的抗議活動，包含線上連署及上街遊行，並已擴散至其他歐盟會員國。抗議訴求認為，使用所謂的「上傳過濾器」（Upload-Filter）會對網路的言論自由和多樣性產生巨大影響，由於在實際操作上，網路服務提供者只會依據著作權人所提供的著作授權清單，利用上傳過濾器自動過濾未得到授權的內容，因此經合法使用其他著作後所創作的新著作（例如文章內含有合法引用的內容），可能會成為被過濾、刪除的對象，因為上傳過濾器可能無法判別法定例外的合法使用。所以上傳過濾器被認為是有爭議的審查手段。 雖屢有爭議，但本次通過數位單一市場著作權指令，使歐盟的著作權法規更能適應當今數位世界，在音樂串流服務、影音點播平台、新聞彙整平台、以及各種社群平台已成為人們接觸著作和新聞的主要門戶時，加強網路使用者享有的自由和權利，創作者也將獲得更好的保護和報酬，以創造更繁榮的網路經濟。