新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
全球最大搜索引擎 Google公司於去年12月中宣布，已與美國紐約公共圖書館以及哈佛大學、史丹福大學、密西根大學、牛津大學合作，將數百萬冊藏書數位化讓網友免費瀏覽。此一計畫預計花十年時間建構，在2015年啟動，經費約估1億5000萬到2億美元之間 (The Google Print Program)。雖然此一構想極具創意，但是由於將館藏圖書數位化牽涉著作權爭議，因此由125家非營利學術出版機構組成的美國大學出版協會(AAUP)已針對若干疑點去函，希望Google能釐清著作權法上之疑慮，以利整體計劃之推動。 AAUP所持最重要依據係美國著作權法第107條有關合理使用之規定。AAUP質疑，以Google如此大規模，就圖書內容性質不加以區分，全面性的圖書數位化工程，恐怕無法符合著作權法所訂出的合理使用標準。蓋著作權法有關是否符合合理使用之界定標準，是以事實情況及個案之判別方式為主，故無法想像Google如何在未進行個別之判斷前，便能夠概括性的依此而主張其享有合法權利。事實上，Google之主張與法院實務界之認知存在極大落差。 此外， Google的數位圖書館計畫在許多細部執行事項上，仍存有許多疑點，導致原先欲加入的AAUP會員，無法確保圖書內容完成數位化後，對於以銷售書籍及授權為主要營收來源之出版社，恐會產生造成市場排擠效果之憂慮。 藉由數位技術雖然可以挑戰人類夢想的極限，但過程中涉及的法律層面問題，卻相當程度羈絆了夢想前進的速度。 Google的數位圖書館計劃再次印證了新興技術與現行法規不協調的窘況。就現有事實資料以觀，Google若未能與學術出版商妥善安排著作權引發之爭議，此一計畫未來是否能順利執行，恐怕存有極大疑問。
世界經濟論壇發布《人工智慧公平性和包容性藍圖》白皮書世界經濟論壇（World Economic Forum, WEF）於2022年6月29日發布《人工智慧公平性和包容性藍圖》白皮書（A Blueprint for Equity and Inclusion in Artificial Intelligence），說明在AI開發生命週期和治理生態系統中，應該如何改善公平性和強化包容性。根據全球未來人類AI理事會（Global Future Council on Artificial Intelligence for Humanity）指出，目前AI生命週期應分為兩個部分，一是管理AI使用，二是設計、開發、部署AI以滿足利益相關者需求。 包容性AI不僅是考量技術發展中之公平性與包容性，而是需整體考量並建立包容的AI生態系統，包括（1）包容性AI基礎設施（例如運算能力、資料儲存、網路），鼓勵更多技術或非技術的人員有能力參與到AI相關工作中；（2）建立AI素養、教育及意識，例如從小開始開啟AI相關課程，讓孩子從小即可以從父母的工作、家庭、學校，甚至玩具中學習AI系統對資料和隱私的影響並進行思考，盡可能讓使其互動的人都了解AI之基礎知識，並能夠認識其可能帶來的風險與機會；（3）公平的工作環境，未來各行各業需要越來越多多元化人才，企業需拓寬與AI相關之職位，例如讓非傳統背景人員接受交叉培訓、公私協力建立夥伴關係、提高員工職場歸屬感。 在設計包容性方面，必須考慮不同利益相關者之需求，並從設計者、開發者、監督機關等不同角度觀察。本報告將包容性AI開發及治理整個生命週期分為6個不同階段，期望在生命週期中的每個階段皆考量公平性與包容性： 1.了解問題並確定AI解決方案：釐清為何需要部署AI，並設定希望改善的目標變量（target variable），並透過制定包容性社會參與框架或行為準則，盡可能實現包容性社會參與（特別是代表性不足或受保護的族群）。 2.包容性模型設計：設計時需考慮社會和受影響的利益相關者，並多方考量各種設計決策及運用在不同情況時之公平性、健全性、全面性、可解釋性、準確性及透明度等。 3.包容性資料蒐集：透過設計健全的治理及隱私，確定更具包容性的資料蒐集路徑，以確保所建立之模型能適用到整體社會。 4.公平和包容的模型開發及測試：除多元化開發團隊及資料代表性，組織也應引進不同利益相關者進行迭代開發與測試，並招募測試組進行測試與部署，以確保測試人群能夠代表整體人類。且模型可能隨著時間發展而有變化，需以多元化指標評估與調整。 5.公平地部署受信任的AI系統，並監控社會影響：部署AI系統後仍應持續監控，並持續評估可能出現新的利益相關者或使用者，以降低因環境變化而可能產生的危害。 6.不斷循環發展的生命週期：不應以傳統重複循環過程看待AI生命週期，而是以流動、展開及演變的態度，隨時評估及調整，以因應新的挑戰及需求，透過定期紀錄及審查，隨時重塑包容性AI生態系統。 綜上，本報告以包容性AI生態系統及生命週期概念，期望透過基礎設施、教育與培訓、公平的工作環境等，以因應未來無所不在的AI社會與生活，建立公司、政府、教育機構可以遵循的方向。
中華人民共和國《出版管理條例》之介紹 歐盟設立歐洲研究院（European Research Council）對前瞻性研究提供經費補助歐盟最近宣布其新設立的歐洲研究院（European Research Council, ERC)，自2月底開始運作。ERC是依據歐盟第七期研發綱要計畫（Seventh Framework Programme for Research and Technological Development, FP7）下之子計畫－”理念”計畫（"Ideas" programme）所設立。2006年底通過的歐盟第七期研發綱要計畫，揭示歐盟在2007至2013年間的科技研發政策、研發投入的重點領域與經費挹注情形。與PF6相較，PF7經費大幅成長，每年平均成長至少達40％，單是2013年一年，經費成長更高達75％。 ERC是第一個泛歐的經費補助機構，設立目的是為了贊助前瞻科學領域的研究活動。在設立第一年，歐盟挹注於ERC的經費即高達3億歐元，在FP7計畫的七年期間，ERC總計取得7.5 billion的經費。隨著ERC的設立，歐盟首度有了專為前瞻性研究量身訂作的經費補助運作機制，亦即交由歐洲科學界菁英，也就是由22位聲譽卓著的科學界菁英所組成的科學諮詢會（Scientific Council）自主管理，官僚系統不得對之表示意見。 歐盟希望藉由ERC的設立，促使科學界得以對最具有原創性的科學想法深入研究，以突破當前之知識界線，進而協助解決歐盟在社會、環境、經濟面所面臨之挑戰。