新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
歐盟法院於2018年6月5日對德國行政法院依歐盟運作條約第267條（267 AEUV），就歐盟個人資料保護指令（95/46/EC）第2、4條之解釋適用，提起的先訴裁判申請做出先訴判決。判決提及利用臉書（Face Book）平台經營粉絲專頁，並獲取臉書相關服務的管理者，同樣負有保護用戶資料隱私的責任。此將影響眾多的粉絲專頁，判決指出不僅臉書，連粉絲專頁的管理員都有保護訪客資料安全的責任。 由於臉書粉絲專業的經營者，並未保存其粉絲的相關資料，既不經手資料處理，更無力影響資料如何呈現，因此主張資料處理的責任應該在於臉書身上，處罰對象也應該是臉書。判決理由指出，臉書作為粉絲專頁相關個人資料的控制者（data controller）應負相關責任並無疑問，但歐盟地區粉絲專業的管理者，應該和臉書一樣，作為資料處理的共同責任者。蓋管理者係運用臉書提供的設定參數，將粉絲專頁的近用者資料蒐集處理，應該負共同責任。因此歐盟法院判決，利用臉書平台經營粉絲專頁，並獲取臉書相關服務的管理者（administrator），並不能免於個資保護法律的法遵義務。 另外依據德國聯邦資料保護與資訊安全委員會（BFDI）意見，認為雖然判決是基於一般資料保護規則（GDPR）生效之前就已經存在的法律，但法院所確定的共同責任原則也適用於新的法律。BFDI特別建議公共機構以歐盟判決為契機，審查公共機構粉絲頁面的合法性與是否遵守法律規定，並在必要時說服Facebook調整資料保護。
德國公布商業無人機新規範，加強操作安全及隱私保護隨著資通訊技術與網路科技整合，無人機熱潮在全球各地崛起，相關創新應用蓬勃發展，產業規模也因此快速擴張，然而國內外不斷傳出多起無人機意外事件，相關操作規範及隱私等法律議題也備受矚目。 德國聯邦交通部於2017年1月18日公布無人機新規範，以提升無人機操作安全，防止碰撞等意外事件，並加強隱私保護。所謂無人機即搖控飛行器，德國航空法上之定義包括模型飛機及無人航空系統設備，前者係用於私人娛樂或體育競賽，其餘飛行器，尤其是商業用途，則歸屬於後者，本次規範重點如下： 1.特定模型飛機場域內的操作規定，不受本次規範修訂影響，惟必須於操作之飛行器上標示所有人之姓名及地址供辨識。 2.超過0.25公斤之無人機或模型飛機，有標示所有人之姓名及地址供辨識之義務。 3.超過2公斤之無人機或模型飛機操作者，必須通過聯邦航管局技能測試或取得飛行運動協會核發之技能證書。 4.超過5公斤之無人機或模型飛機，必須額外取得各邦民航局之許可。 5.除特定模型飛機場域內，或例外經由各邦民航局申請核可者外，飛行高度不得超過100公尺。一般而言，應於視線範圍內飛行，但未來將可能適度放寬，以利商業無人機之運用發展。 6.無人機或模型飛機應避免與其他無人機碰撞。 7.禁止造成各種障礙或危險之飛行行為。 8.禁止商業無人機或模型飛機在敏感區域飛行，例如憲法機構、聯邦或各邦機關、警消救災範圍、人群聚集區、主要交通幹道、機場起降區。 9.超過0.25公斤之無人機或模型飛機，或配備光學、聲音、無線電信號發送或記錄設備之飛行器不得在住宅區飛行。 近來幾起無人機入侵機場事件造成嚴重飛安威脅，相關碰撞意外新聞也不斷頻傳。為兼顧生命財產安全及促進新興技術發展，有必要進行適度合理監管及預防措施，並加強操作安全及隱私教育，以降低危害風險，並於意外或違規事件發生後，得以追究肇事者相關法律責任。
美國規劃推動「供應鏈之星」計畫，國會提出「節能暨產業競爭力法」並審議美國國會於2013年4月提出「節能暨產業競爭力法」(Energy Savings and Industrial Competitiveness Act of 2013)草案，並進行審議。該草案由參議員Shaheen女士及Portman先生共同提出，於二讀後交付予參議院「能源暨自然資源委員會」(the Committee on Energy and Natural Resources)進行討論表決。委員會於2013年5月13日以多數決批准該草案並修正若干條款，全案排入美國國會第113會期等待表決。 本草案屬於包裹式立法，旨在提昇住宅及商用建築並產業等多面向之能源節約，共分成四個章節: 首先對於提昇產業生產競爭力領域(Industrial Efficiency and Competitiveness)，加強產業轉型，草案中修正「能源獨立及安全法」(Energy Independence and Security Act of 2007)、「能源政策及管理法」(Energy Policy and Conservation Act，並刪修「2005年能源政策法」及「1992年能源政策法」若干條款。計劃在能源部下，成立「供應鏈之星」(Supply Star Program) 計畫，推動整體產業供應鏈之能源效率，達節能、節水或其他自然資源目的。 其次，在建築(Buildings)領域，草案乃修正「能源管理及生產法」(Energy Conservation and Production Act)，更新「模範建築能源規範」(model building energy codes)；就住宅建築及商用建築，分別以「2009國際能源管理規範」 (International Energy Conservation Code, IECC)及「ASHRAE標準90.1-2010」作為基準，並將經濟成本效益納入考量。 以及在私用商業建築效率提升融資機制(Private Commercial Building Efficiency Financing)上，能源部將啟動「商業建築能源融資倡議」(Commercial Building Energy Financing Initiative)，在州的層級，擴大私部門及商業建築進行能源效率翻新工程之補助範疇。 第四，關於聯邦公部門機關之能源效率(Federal Agency Energy Efficiency)，草案乃修正「國家能源管理政策法」(National Energy Conservation Act)，討論將在聯邦公部門建築導入資通訊科技(ICT)，推動能源效率及節約。 本草案就公部門及私部門能源效率之提升皆有著墨，觀察該草案目前已獲得美國商會等數百位企業團體支持。若本會期能順利通過，勢必對於既有能源法制產生一定之變革，相關趨勢當值留意之。
歐盟將開發一套適用於全歐盟的權利登記系統，促使數位館藏的授權可以在一個透明且價格合理的機制下進行德國總理Angela Merkel在日前舉辦的法蘭克福書展中強調，反對在google在未釐清相關權利與建置對應的配套機制下，擅自將圖書典藏掃描數位化的作法。而不只德國反對Google的數位圖書計畫，歐盟執委會也在10月19日通過提案，要求歐盟正視圖書館藏數位化的智慧財產權議題，提案委員也督促歐盟應儘快採取行動，配合歐盟著作權法體系，發展更具競爭力的歐盟館藏數位化方案。 然在館藏書籍數位化的過程中，有必要先解決孤兒著作（verwaiste Werke）因著作人不明而無法進行數位化及授權的困境。據估計，英國圖書館館藏就有40%屬於孤兒著作。為找出一套簡易的授權機制，並建立歐盟各國針對孤兒著作共通的認定標準，歐盟在eContent Plus計畫架構下，於2008年11月便開始所謂「ARROW行動方案（Accessible Registries of Rights Information and Orphan Works）」，希望透過各國圖書館、著作權集體管理團體、出版商間的參與，整合歐盟境內不同的權利登記機制，共同開發出一套適用於全歐盟的權利登記系統，清楚顯示歐盟境內各種著作的權利狀態，促使數位館藏的授權可以在一個透明且價格合理的機制下進行，同時確保著作人可以得到適當的報酬。 有關歐盟針對圖書數位化的政策與討論，以及google數位圖書協議後續協商的結果，仍有待持續追蹤觀察。