新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
2016年3月法國個人資料保護主管機關「國家資訊自由委員會」（Commission Nationale de l'Informatique et des Libertés, CNIL）要求Google等搜尋引擎公司，刪除網路搜尋所出現之歐洲公民姓名。此舉參考2014年歐洲法院（European Court of Justice）對於Mario Costeja González一案（C 131/12）所作裁決，Google公司和Google西班牙公司須遵守西班牙資料保護局（Agencia Española de Protección de Datos, AEPD）要求，移除出現原告姓名之搜尋結果。Google表示不服，並上訴法國最高行政法院（Conseil d'État）。 於本案中Google提出兩點主張：第一，CNIL對於被遺忘權（right to be forgotten）適用範圍過大，聲稱所搜尋到之姓名等資訊，屬於事實或來自新聞報導和政府網站之合法公開網站資訊，認為CNIL將隔絕原本在法國可為其他人所知之合法資訊；第二，Google主張向來遵守各國個人資料保護政策，將遵照CNIL要求，但僅限刪除在法國網域內之歐洲公民姓名，無法及於全球網域，除非法國政策已為全歐盟或全球所適用，不然法國個人資料保護審查制度不能延伸至其他國家。 對於網路公民權利推廣不遺餘力之「電子前線基金會」（Electronic Frontier Foundation, EFF）認為CNIL對法國公民資料保護之特別要求，將對Google造成損害。
經濟部預告試辦自願性綠色電價計畫（草案） 日本經濟產業省公布獲選2021年數位轉型品牌之企業名單日本經濟產業省（下稱經產省）與東京證券交易所共同選出「數位轉型品牌（下稱DX品牌）」，並於2021年6月7日公布獲選「DX品牌2021」、「DX關注企業2021」的企業名單。獲選的企業不僅導入優良的資訊系統、活用數據，並以數位技術為基礎的創新商業模式及管理方法勇於挑戰變革，預期能將數位技術發揮到最大的作用。 DX品牌評價的項目包含企業的願景、商業模式、經營策略、數位技術策略實施成果與重要成果指標的公開共享、公司治理。為了加強鼓勵企業推動數位轉型，經產省與東京證券交易所從獲選「DX品牌2021」的企業名單中，再選出「DX大賞企業」，作為數位時代的領導企業。另外，今年度針對因應新冠肺炎採取優良數位技術對策的企業，又特別選出「數位×新冠肺炎對策企業」。 DX品牌即為舊有的「進攻IT管理品牌」。「進攻IT管理品牌」是經產省於2015年至2019年，為了促進日本企業在IT上的運用，與東京證券交易所共同選出積極運用IT的企業為「進攻IT管理品牌」。直到2020年後，因應數位技術產生新興的商業模式，經產省推動企業從IT運用轉向數位轉型技術，並將「進攻IT管理品牌」改為「數位轉型品牌（DX品牌）」。