新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
中國大陸政府在《國民經濟和社會發展第十二個五年規劃綱要》，以及《國家中長期科學技術發展規劃綱要》中揭示繼續增強自主創新能力，進而推動中國大陸科技進步以及經濟發展。上述指導性的綱要落實到中國大陸立法層面，可從《科學技術進步法》第25條規定「政府必須優先採購自主創新產品」等類似的條文中發現這樣的精神。 2011年11月30日由廣東省第11屆人民代表大會所通過的《廣東省自主創新條例》，即是在這樣的立法背景下所訂定。該條例具體規定「自主創新」之定義、自主創新產業的人才培育措施、自主創新產業的財政性資金補助措施，以及鼓勵研究成果轉化與產業化之措施等，並分別設立專章予以規定。其中特別值得注意者，乃是該條例第18條明文鼓勵自主創新產業與澳門、香港，以及臺灣的企業、大學、研發單位合作科技研發，並建立科學技術創新平臺。 過去中國科研相關政策綱要中雖不乏有鼓勵兩岸產學研合作的宣示，但於法律條文位階中明文鼓勵「台灣參與中國大陸自主創新科技研發」卻還是首見，大幅提高了未來台灣產學研界主動參與大陸地區科技研發的可能性。由於中國大陸在立法特色上，通常係由地方法規率先就特定事務進行規範，爾後政府若認為有以中央法律位階作統一規範時，始進一步訂定法律或中央機關部門規章，因此本條例之制定是否會對於其他中國科研創新法制帶來拋磚引玉之效，頗值得觀察
歐盟透過生態創新（Eco-innovation）減少小客車之二氧化碳排放量小客車（passenger car）排放之二氧化碳（CO2）約佔全歐洲排放總量之12%。為落實歐盟第443/2009號規則（Regulation （EC）No 443/2009）關於減少輕型交通工具CO2排放所設定之新小客車排放表現標準，歐盟執委會於今年（2011）7月25日通過執委員會第725/2011號規則（Commission Regulation（EU）No 725/2011，以下簡稱執委會規則），就汽車製造商對CO2減排所為之生態創新（eco-innovation）科技之評鑑、核准及驗證給予更明確之規範，亦提供更多誘因。 於執委會規則下所認定之生態創新，係指就車輛本質之運輸功能及整體能源消耗有重大改善，且該創新技術（特別是在動力技術方面）於市場上屬未廣泛應用者。此外之附帶目的或旨在提升駕駛或乘客乘坐舒適度之技術，則不在其認定之範圍內（如胎壓監測系統、輪胎轉動阻力、排檔指示、使用生質燃料等，皆不得認定為生態創新）。 汽車製造商及供應商皆得提交申請書，該申請書應有足以證明其符合各項標準之必要證據，包括測定該項創新科技對CO2減排之方法。在證明其CO2減排之成效方面，應就相同車輛使用該技術與否進行比較且其測試方法應屬可供驗證、可得重覆且可資比較者。執委會規則要求CO2減排成效最低應達1gCO2/km。關於驗證，執委會規則要求由獨立驗證機構為之。驗證單位被要求於驗證報告中提供相關證據以證明其與申請者間之獨立關係，以確保其獨立性。歐盟執委會本身亦得於有證據顯示實際驗證之減排量與經認可之生態創新技術之減排量不符之情況下，再次驗證個別車輛之總減排量，但其應提供製造商一定期間以證明認可之價值屬正確者。 早在2007年歐盟所提議之立法中，即對於小客車設定了排放效能之標準，該項立法亦於2009被歐洲議會及歐盟理事會所採納，可謂歐盟試圖改善汽車燃料之經濟性及確保歐盟小客車之平均CO2排放不超過130 gCO2/km之基石。實則於今年（2011）初，歐盟執委會亦設下於2050年前，減少導致地球暖化之交通排放氣體達1990年之60%之計畫。至於上述執委會規則中所取得之碳權，皆將納入歐盟碳排放交易計畫中，新綠色科技最高可抵7gCO2/km之排放，預計將就新車平均排放量於2015年前達到130gCO2/km之目標，執委會規則也預計於同年進行檢視，其實際運作情形及後續發展皆值得予以觀察。
日本空中工業革命新進展：無人機變身空中郵差日本政府曾於2017年6月9日閣議公布之《未來投資戰略2017》（未来投資戦略2017），以及5月19日「小型無人飛行載具相關部會連絡會議」（小型無人機に関する関係府省庁連絡会議）公布之《空中工業革命時程表》（空の産業革命に向けたロートマッフ）中，提出「2018年運用於山間地區運送貨物、2020年可正式在都市內安全運送貨物」之目標。故國土交通省與經濟產業省於同年10月4日共同設立「無人飛行載具於目視範圍外及第三者上空等飛行檢討會」（無人航空機の目視外及び第三者上空等での飛行に関する検討会），並於2018年9月18日公布《無人飛行載具運送貨物自主指引》（無人航空機による荷物配送を行う際の自主ガイドライン，以下稱「本指引」）。本指引目的係制定安全運輸貨物所應遵守事項、提高社會對無人機運送貨物之信賴，以求提升運輸效率、節省人力成本。適用對象為非屬航空法第132條規定須申請許可之空域，但於目視範圍外飛行並運送貨物之無人機。 本指引公布後，國土交通省與環境省於相關提案中選出5個人口非密集區，以進行之無人機運輸貨物（ドローン物流）實驗。首先，在2018年10月22日長野縣白馬村，無人機自海拔1500公尺處運送最重達8公斤的食品至海拔1850公尺處的山莊，單程耗時6分鐘，共往返3次，皆無發生明顯失誤。日本郵政之提案則在同年11月7日，從福島縣小高郵局成功運抵位於南方約9公里處的浪江郵局，耗時16分鐘。本次實驗係首次成功於目視範圍外運輸物品，實驗途中均未設置監看人員，僅以電腦掌握兩地衛星定位資訊，並監看無人機上搭載相機傳回的畫面。日本郵政計畫未來1年內，每個月將有6天以無人機運送2公斤內的傳單等物品。國土交通省與環境省計畫於年底前完成另外3個地區的實驗，並統整結果驗證是否能解決山間等人口非密集區，因貨物乘載率低而運輸效率低落，以及降低排碳量等課題。
美國FirstNet與AT&T協議共建全美公共安全寬頻網美國自911事件後，事後檢討之建議之一為統合全美單一公共安全網路，可供跨部門之第一線救災人員使用。俟後美國於2008年拍賣700MHz頻段 (Auction 73)時，原本將Block D (788-793MHz/ 758-763MHz)共10MHz規劃為全國單一執照(Nationwide License)，並與公共安全(public safety)頻段相連，得標者須與美國政府簽訂網路分享協議(Network Sharing Agreement, NSA)，在必要時供緊急服務優先使用，惟該頻段歷經兩次拍賣均低於底價流標。2012年，商務部成立獨立機構First Responder Network Authority (下稱FirstNet)，規劃如何統合所有與公共安全相關之通訊網路，FCC在2016年將前述流標之700MHz頻段撥交FirstNet使用。 FirstNet 2017年3月宣布與AT&T達成25年之合作協議，由AT&T協助該機構建置緊急服務人員專用之全國性LTE無線寬頻網路，該網路之主要用途為當緊急事故發生時，第一線之人員可利用該關鍵基礎設施進行通訊聯繫之用。FirstNet與AT&T的合作協議主要包括以下三個部分： FirstNet將提供上下行合計共20MHz 之頻譜 (788-798MHz / 758-768MHz)，該頻段係美國主要之LTE頻段，商業價值極高，且設備之生態圈極為成熟。此外，FirstNet也將在未來5年提供65億美金的建設經費，該經費來源為FCC過去頻譜拍賣之標金收入。 AT&T承諾於25年內投入400億美金用於網路基礎設施的建設與維運，並確保網路的覆蓋率。 FirstNet同意在該網路未用於緊急服務時，得做為AT&T商業網路之一部分進行營運，但是當有緊急服務需求時，應立即提供緊急救難使用。 近年來，公共安全災防 (Public Protection and Disaster Relief)寬頻網路已成為許多先進國家的首要推動政策，包含英國與境內第一大電信商Everything Everywhere (EE)合作，芬蘭政府近來亦與電信商Telia共同合作測試LTE技術之公共安全網路。