新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
歐盟執委會（European Commission）於2022年3月30日提出了一項「目標地球倡議（the Destination Earth initiative）」，希望建立「目標地球系統」（Destination Earth system，以下簡稱DestinE系統），作為實踐歐洲「綠色協議」（European Green Deal）、「數位化戰略」（EU’s Digital Strategy）此兩項計畫的一部分。 DestinE系統係旨在全球範圍內開發一個高度精確的地球數位模型，透過整合、存取具價值性的資料與人工智慧進行資料分析等技術，以監測、建模和預測環境變化、自然災害和人類社會經濟之影響，以及後續可能的因應和緩解策略。未來希望將高品質的資訊、數位服務、模型預測提供予公部門運用，接著逐步開放給科學界、私部門、公眾等用戶，將有助於應對氣候變遷、實現綠色數位轉型，並支持塑造歐洲的數位未來。 為實現此一項目，歐盟執委會預計在2024年中前由數位歐洲計畫（Digital Europe Programme）投入1.5億歐元，並與科學、工業領域單位合作，包含歐洲航太總署（European Space Agency, ESA）、中期天氣預報中心（European Centre for Medium-Range Weather Forecasts , ECMWF）、氣象衛星開發組織（European Organisation for the Exploitation of Meteorological Satellites , EUMETSAT）等，透過建立核心平台逐步發展為DestinE系統，稱之為數位分身（Digital Twins）。 是以，DestinE系統將允許用戶存取地圖資訊（thematic information）、服務、模型、場景、模擬、預測、視覺化，其系統主要組成分為以下三者： 從而，DestinE系統用戶將能夠存取大量地球系統和社會經濟資料並與之互動，該系統可有助於： 核心服務平台（Core Service Platform）--該平台將基於開放、靈活和安全的雲端運算系統，提供決策工具、應用程式和服務，兼具大規模資料分析與地球系統監測、模擬和預測能力的數位建模和開放模擬平台。同時，也將為DestinE用戶提供專屬資源、整合數據、開發各自的應用程式。該平台服務的採購、相關維運將由歐洲航太總署負責。 DestinE資料湖泊（ DestinE Data Lake）--資料湖泊將提供核心服務平台、數位分身所需的獨立專用資料存取空間，並提供多元的資料來源和有效管理與DestinE系統用戶共享的資料，同時提高、擴大資料處理和服務。其將由歐洲氣象衛星開發組織負責營運。 數位分身（Digital Twins）-- DestinE 數位分身將依據不同的地球科學領域主題進行即時觀測、分類，例如極端自然災害事件、因應氣候變遷、海洋或生物多樣性，最終目標是整合這些數位複製內容（digital replicas），形成、建立全面性的地球數位分身綜合系統。因此，DestinE 數位分身將為用戶提供量身打造的高品質資料，用於用戶特定的場景模擬開發、決策。而該DestinE 數位分身將由歐洲中期天氣預報中心進行開發。 從而，DestinE系統用戶將能夠存取大量地球系統和社會經濟資料並與之互動，該系統可有助於： 根據豐富的觀測資料集，對地球系統進行準確、和動態的模擬，例如：關注與社會相關的領域、氣候變化的區域影響、自然災害、海洋生態系統或城市空間。 提高、加強預測能力並發揮最大化影響，例如：保護生物多樣性、管理水資源、可再生能源和糧食資源，以及減輕災害風險。 支持歐盟相關政策的制定和實施，例如：監測和模擬地球發展（陸地、海洋、大氣、生物圈）與人為干預，藉以評估現有環境政策和立法措施的影響，作為制定未來政策的依據。或預測環境災難、衍生的的社會經濟危機，以挽救生命並避免大規模經濟衰退。抑或透過開發和測試場景，實現永續發展。
Google關鍵字廣告服務，遭澳洲政府起訴澳洲「競爭和消費者委員會」（Australian Competition and Consumer Commission；以下簡稱ACCC）在今年7月對Google及其廣告主Trading Post Australia提起訴訟，指控Google及Trading Post使所用的關鍵字廣告系統不實誤導網路使用者，構成了欺詐性的商業行為。 Trading Post為澳洲當地知名的汽車經銷商，在2005年時，Trading Post向Google購買了名為Kloster Ford和Charlestown Toyota的關鍵字廣告；然而，Kloster Ford和Charlestown Toyota正是Trading Post的競爭對手，當網路使用者在Google的搜尋引擎中鍵入Kloster Ford或Charlestown Toyota文字時，搜尋結果頁面即自動導向Trading Post的網站。 ACCC認定Trading Post此種利用競爭對手名稱設定為自身廣告關鍵字之行為，已違反澳洲在1974年頒布的「商業行為法」（Trade Practices Act 1974）第52條及第53條d款規定；ACCC同時認為，Google並未善盡努力在消費者鍵入關鍵字進行搜尋時，將付費廣告鏈結（sponsored links）從基本的搜尋結果頁面中將加區隔，亦有違該法第52條之規定。 在ACCC對Google提出控訴之前，Google事實上在各國早已面臨多起類似的訴訟；其中，去年由法國知名品牌Louis Vuitton提起的訴訟中，Google即遭到敗訴。
歐盟執委會提議檢討WEEE法令規範，並修正回收目標歐盟執委會於所公告之電子電機廢棄物回收法令檢視報告（Review of an EU Directive on Recycling Waste Electrical and Electronic Equipment）中建議，對於產品製造商之回收目標規範標準，應從現行概括固定值：每年人均4kg（4kg/capita per year）回收目標，改為變動式比例值：以現行市場商品平均量之65%，作為規範目標並且，由於法令規範課予產品製造商強制回收責任，市場實務上，也出現了產品製造商為了達到WEEE要求規範目標值，轉而向民間回收業者收購「回收憑證（Recycling Certificates）」，並且，因為供需失衡問題，造成回收業者隨意喊價的情形，也多所見聞。 而歐盟執委會為進一步落實環境保護政策，還是打算維持原案，提議對於WEEE規範內容進行檢討修改，並建議各會員國於國內法令增加誘因及鼓勵措施，導引協助產品製造商擴大回收體系、檢視改善回收管理系統，而更具能力對於提高目標規範，能夠落實遵循之。歐盟執委會此項法令修改提議，是否得以真正落實未來立法中，值得再加以觀察。
拜登政府宣布採取促進負責任AI創新之新行動，以保護美國人民權利與安全拜登政府於2023年5月4日宣布將採取促進負責任AI創新之新行動，表示公司於部署或公開其產品前，應致力於降低AI風險，並強調風險管理與保障措施的重要性，以防止AI對個人與社會造成潛在危害。此外，拜登總統於2月簽署「透過聯邦政府進一步推動種族平等和支持弱勢群體」行政命令（Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government），指示聯邦政府機關在設計和使用AI等新技術時，應避免偏見，並保護公眾免受演算法歧視。促進負責任AI創新之新行動包括： 一、投資負責任AI的研發 美國國家科學基金會（National Science Foundation）宣布撥款1.4億美元以啟動7個新的國家AI研究所，未來全美將有25個國家級AI研究所。除有助於促進公私部門之間合作外，將強化AI研發基礎設施、支持多元化AI勞動力發展，及推動氣候、農業、能源、公共衛生、教育與資安等關鍵領域之突破。 二、公開評估現有的生成式AI系統（generative AI systems） Anthropic、Google、Hugging Face、微軟、NVIDIA、OpenAI和Stability AI等領先AI開發商將參與AI系統獨立公開評估，以評估其模型是否符合AI權利法案藍圖（Blueprint for an AI Bill of Rights），及AI風險管理框架（AI Risk Management Framework）所提出之原則與實踐，並使企業及開發人員能就所發現問題，進一步採取解決措施。 三、提出政策引導聯邦政府減輕AI風險及提升AI利用機會 美國行政管理預算局（Office of Management and Budget）宣布，將於2023年夏季發布有關聯邦政府機關各部門使用AI系統之政策指引草案，並徵詢公眾意見。