新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本學術會議於2020年9月15日提出「邁向感染症對策與社會改革之ICT基礎建設強化和數位轉型推動」（感染症対策と社会変革に向けたICT基盤強化とデジタル変革の推進）法制建議。新冠肺炎疫情突顯出日本ICT基礎建設不足和急需數位轉型之問題，日本學術會議從「醫療系統之數位轉型」、「社會生活之數位轉型」和「資安與隱私保護」等觀點提出建議，希望能在確保資安及隱私的前提下，達到防止感染擴大與避免醫療崩壞，以及減少疫情對社會經濟影響等目標。針對「醫療系統之數位轉型」，未來應建立預防和控制感染症之綜合平台，統一地方政府感染資訊之公開內容、項目，檢討遠距醫療和數位治療法規，進行相關法制環境和基礎設施之整備；針對「社會生活之數位轉型」，日後應積極推動遠距醫療、遠距工作和遠距教育，並進行所需基礎建設、設備和人才培育之整備；針對「資安與隱私保護」，除檢討建立利用感染者個人資料，以及可知悉個人資料利用狀況之制度，亦應擴大及強化信用服務（trust service）和感染資訊共享系統等措施。
瑞士ESG新法規正式生效全球多個國家目前正在促進企業推動「環境、社會和公司治理」（Environment, Social Responsibility, Corporate Governance, ESG）事務，以瑞士為例，有關ESG的新法規於2022年1月1日正式生效。 在2022年1月1日生效的提案中，主要是對《瑞士債法典》（The Swiss Code of Obligations, CO）提出修正，包含「涉及公共利益（public interest）的企業應提出ESG事項報告」與「企業應就有無使用童工及衝突地區的礦物金屬進行盡職調查（Due Diligence）」，分別說明如下： 一、公共利益企業應提出ESG事項報告 依《瑞士債法典》第32章新增的第6節「非財務事項之透明度」（Transparency on Non-Financial Matters）規定，符合條件的上市公司或受監管實體等公共利益企業，每年應提出一份單獨的非財務事項報告，內容須涵蓋環境事項、社會問題、員工相關問題、尊重人權和打擊腐敗等議題，以及公司對該等議題所提出的政策措施、風險評估和實施績效等資訊。此報告經企業內部最高管理層與治理機構批准後，須立即於網路上公開，並確保至少十年內可供公眾存取。 二、企業應就有無使用童工及衝突地區的礦物金屬進行盡職調查 依《瑞士債法典》第32章新增的第8節「與來自受衝突影響地區的礦物金屬以及童工相關的盡職調查和透明度」（Due Diligence and Transparency in relation to Minerals and Metals from Conflict-Affected Areas and Child Labour）規定，所在地、總部或主要營業地點位於瑞士的企業，如在瑞士自由流通或加工來自受衝突影響和高風險地區（conflict-affected and high-risk areas）的特定礦物或金屬，抑或產品或服務被合理懷疑是使用童工製造或提供而成，原則上即須遵守供應鏈中的盡職調查義務，每年亦應將其遵守情況編制成報告。此報告應在會計年度結束後的六個月內於網路上發布，並確保至少十年內可供公眾存取。
歐盟食品管理局擬建立風險評估外部專家資料庫近年來，由於(European Food Safety Authority, 簡稱EFSA)對GM產品之管理並未能進行足夠之科學分析，同時，亦過份仰賴業者所提供之數據資料等原因，而造成歐盟某些會員國家對EFSA所作出之評估報告於公正及客觀性方面產生質疑；甚至，歐洲食品業者亦對目前EFSA是否將會因為專家人力不足而導致整體風險評估能力下降之問題表示關切。一位EFSA官員指出：我們需要更多科學專家來協助處理與風險評估有關之事務。 其次，隨著各界因對GMO產品不當之批判與歐洲整體食品安全評估工作量增加等因素，EFSA於日前決定，欲透過建立一外部專家資料庫(External Expert Database)，來協助其風險評估工作之執行並促進評估專家招募過程之透明化，以達成免除外界對於歐洲食品安全評估過程疑慮之目的。不過，這些將提供協助之專家，並不會因此而真正成為EFSA科學評估小組成員(其將被視為是由人民主動對該小組執行評估工作提供協助)。除EFSA擬徵求歐盟境內專家學者外，未來其亦將邀請歐盟以外其他國家並在該領域為重要研究先驅之專家提供協助，以增加風險評估之品質與客觀性。 再者，綠色和平組織歐洲發言人Mark對於EFSA現階段執行之工作狀況也表示意見並指出：目前EFSA是在一種配備不良(ill-equipped)之狀態下，來勉強執行其所執掌之事務；不過，更讓人感到憂心者，則是由EFSA科學評估小組所做出科學性之意見，於不同會員國家間或於歐盟以外其他國家其是否仍將會被完全採納之問題。有鑒於此，相關人士認為：應再次強化EFSA於風險評估方面之能力！ 最後，一位非政府機組織專家也提醒：僅單純地透過專家庫之建立，其實，並不能圓滿地解決當前EFSA於決策機制中所遭遇之困難；而只有當EFSA在未來欲邀請外部專家提供協助與支援時，一併將資金及相關政策配套措施納入考量後，才是此問題真正解決之道。
美國加州公共事業委員會提出自動駕駛車輛試點計畫加州公共事業委員會（California Public Utilities Commission, CPUC）提出自駕車試點計畫，允許在未有配置人類駕駛之情況下測試自駕車，此次計畫包含兩個試點項目，將於5月被五人委員會審核，並決定是否批准。 第一個試點項目允許參與廠商之自駕車上路測試，並須配置經培訓的人類駕駛於自駕車內，以應付隨時的突發狀況；第二個試點項目則允許無人駕駛之自駕車上路測試，惟在無人類駕駛隨車之情況，必須符合加州機動車輛管理局（Department of Motor Vehicles, DMV）之規定，如遠端監控車輛狀態及操作，以保障乘客安全。 參與廠商必須定期向CPUC及DMV繳交營運報告，包含測試期間車輛碰撞（collision）及解除自動駕駛（disengagement）次數。 此次試點計畫已開放廠商申請，科技大廠及叫車服務公司如Google、Tesla、Uber以及Lyft等目前亦已正進行自駕車之設計與測試。若此提案通過，CPUC將進一步規劃自駕車載客服務之相關辦法，使自駕車測試之法制更臻完善。