新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本經濟產業省為協助中小企業更新老舊機器設備，並鼓勵中小企業導入新穎先進設備改善企業生產率，公布「先進設備導入計畫指引」（導入促進指針），於2019年至2021年間授權地方政府訂定先進設備導入計畫（先端設備等導入計画），提出區域內申請計畫的資格、設備定義、計畫目的與財產稅減免額度，以促成地方中小企業對地方特色的貢獻與參與，並改善在地產業環境與結構。 符合資格的中小企業若能在核准計畫年度內，每年勞動生產率提高達3%，可適用財產稅稅率減半或0%之優惠稅率（非免稅）。「先進設備導入計畫指引」亦明確指出，審核通過之計畫仍可進一步適用經濟產業省「中小型製造服務經營支援補助」（ものづくり・商業・サービス経営力向上支援補助金）、「服務業IT應用生產力提升補助」（サービス等生産性向上IT導入支援事業），享有更多的補助金補助。 所稱設備係指任何機械、裝置、備品、建築物附屬設備、軟體，以及電子檢驗或測量儀器。各地方政府訂定計畫時，可依其產業政策進一步限縮範圍。而先進之定義，係指欲購置設備之良率或生產效率，應較所淘汰設備高1%以上。有關新、舊設備之汰換應以同產業、同生產流程者為限，兩者比較之期間為淘汰設備原銷售日期起後10年內。由此可知，先進設備導入計畫的特殊性在於加速中小企業汰舊換新，提高勞動生產率以因應人口高齡化，而與鼓勵企業購買最新、最尖端設備之補助措施有所不同。 此外，為健全地方財政自主，「先進設備導入計畫指引」亦要求各地方政府應說明地方產業、環境或人文特色及先進設備的投資條件，以促進經濟發展與地方產業結構的融合。該指引具體建議包括： 應考量到中小企業導入先進設備提高勞動生產率後，影響當地就業人口需求，以及如何避免企業裁員的機制。 導入之先進設備因運作所產生之噪音、光害、排放污染等環境問題；以及導入之設備是否影響到當地居民生活作息而有侵害公共秩序之虞。 考量到財產稅為地方稅之稅源，應避免過度減免而導致地方財政虧損。
多層次營銷公司即使向數千名人員發布屬於其營業秘密之培訓教材，仍能主張已採取合理保密措施2022年3月7日華盛頓西區地方法院針對原告多層次營銷（直銷）美容公司Tori Belle Cosmetics LLC（下稱原告）向數千名人員發布屬於營業秘密之培訓教材，能主張有採取合理保密措施做出結論。原告行銷Belle Cosmetics產品之方式是以銷售人員的個人 Facebook 帳號來販售化妝品和假睫毛產品，並將公司培訓教材上傳到由數千名成員組成的 Facebook 群組“Team Lash Out”中，且設定帳號公開權限維護其所提供之培訓教材、銷售人員及客戶之聯繫清單，故華盛頓西區地方法院仍認定其主張有理由。 被告（Belle Cosmetics的五名前網路銷售人員）雖主張銷售人員因持有Facebook個人帳號之所有權，認為與個人帳號有關之銷售人員及客戶的聯繫清單皆屬被告所有。並且，由於每個被告的 Facebook 朋友都可以看到他們的朋友清單，而主張聯繫清單不具秘密性。法院不採納被告之主張，認為原告已有設定權限限制Facebook 群組中的朋友僅可以看到其他朋友的姓名和頭像，涉及電話及地址等聯繫資訊則設定不公開，故銷售人員及客戶之聯繫清單仍具秘密性。 此外，被告亦主張原告將培訓教材上傳至「世界最大社交媒體網站Facebook」，並向數千名銷售人員公開，應判定該培訓教材已不具秘密性。法院則駁回指出Facebook之用戶可以設定權限，指定特定人加入群組中讀取培訓教材，故認為仍培訓教材具有秘密性。 本案最值得關注的是後續法院會以何種方式評估上傳至Facebook群組之培訓教材有採取合理保密措施，例如法院如何評估原告與銷售人員間的合約有約定針對教材內容具有保密義務、群組管理員如何驗證請求加入群組之用戶是該公司之網路銷售人員，或法院如何判定在營業秘密解密前Facebook 群組中有多少用戶不具備網絡銷售人員身分。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
英國資訊委員辦公室（Information Commissioner’s Office，ICO）認定Uber違反《Data Protection Act 1998》資料保護法英國資訊委員辦公室（Information Commissioner’s Office，ICO）認定知名共享公司Uber未能在網路攻擊期間保護客戶的個人資料，故處以罰款385,000英鎊。 ICO調查發現Uber的諸多過失，包含系統存有一系列原可避免的數據安全漏洞，使得攻擊者可透過Uber美國母公司旗下所營運的雲端儲存系統，下載大約270萬筆英國客戶個人資料，例如全名、電子郵件及電話號碼等。該事件亦影響了Uber在英國8萬多名司機的相關營運紀錄，如旅程詳情及支付金額。然而，受影響的客戶和司機竟達一年多未被告知此個資外洩事故。相反的，Uber反而向攻擊者妥協並支付了10萬美元，以銷毀被盜取的數據。 ICO認為，這不僅為Uber資料安全之問題，且當時未採取任何措施通知可能受影響的人，或對其提供任何協助，已完全忽視受害客戶和司機之權益。而對攻擊者支付贖金後即保持沉默，亦非對於網路攻擊之適當反應，Uber未完善的數據保護措施，以及隨後的決策與行為，反將可能會加劇受害者權益的受損。 因此，ICO認為該事件已嚴重違反了英國1988年資料保護法（Data Protection Act 1998, DPA）第7條的原則，有可能使受影響的客戶和司機面臨更高的詐欺風險，故從嚴判處Uber高達385,000英鎊罰款。
德國資料倫理委員會針對未來數位化政策之資料運用發布建議報告德國資料倫理委員會（Datenethikkommission, DEK）於2019年10月針對未來數位化政策中的重點議題發布最終建議報告；包括演算法產生預測與決策的過程、人工智慧和資料運用等。德國資料倫理委員會是聯邦政府於2018年7月設置，由多位學者專家組成。委員會被設定的任務係在一年之內，制定一套資料倫理標準和指導方針，作為保護個人、維持社會共存（social coexistence）與捍衛資訊時代繁榮的建議。 最終建議報告內提出了幾項資料運用的指導原則，包含： 以人為本、以價值為導向的技術設計 在數位世界中加強數位技能和批判性思考 強化對個人人身自由、自決權和完整性的保護 促進負責與善意的資料使用 實施依風險調整的監管措施，並有效控制演算法系統 維護並促進民主與社會凝聚力 使數位化戰略與永續發展目標保持一致 加強德國和歐洲的數位主權