新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
於2018年02月26日，美國肯塔基州（下略）參議院通過「通訊醫療照護（Telehealth）法案」《第112號修正法案》，修法精神聚焦在增進人民受到照護的機會，同時節省花費，但明文禁止通訊醫療照護適用於人工流產，此部法案將於2019年07月01日生效。 根據前開法案，州政府應： 發展、完善相關政策及程序以確保通訊醫療照護得被適當地使用，同時亦應保障個人資料、隱私、落實知情同意、適當補助等。 增加通訊醫療照護作為醫療照護的機會。 維護通訊醫療照護政策、綱領，同時避免醫療補助保險資源遭浪費、詐害與濫用，並提供得施行通訊醫療照護的醫師名單予具醫療補助保險（Medicare）適格的公民，藉此保障前揭公民均可受到安全、妥適、有效率的醫療照護。 保障醫療補助保險的適用者得以使用通訊醫療照護。 參議員Ralph Alvarado（提修正法案之議員）表示通訊醫療照護通過後有以下優點： 監控慢性疾病的能力提升。 增加特殊照護、心理健康（衛生）的機會。 減少急診室的使用。 降低病患因交通而不便就醫的情況。 節省花費。 申言之，前開修正內容明確要求政府相關人員必須建立更詳細的通訊醫療照護管控機制，並且將通訊醫療照護納入醫療補助保險的範疇，並具有前開諸多優點。另外，因為通訊技術（即時視訊及通訊）的特性使然，使用通訊醫療照護技術的醫生（下稱醫生）可能在世界上的任何一個地方進行，然而前開法案要求醫生須在肯塔基境內取得執照，以利獲得醫療補助保險的補助。 此外，參議員Wil Schroder在本次修法中提出禁止通訊醫療照護適用於人工流產（為防免懷孕初期以服用藥物之方式進行人工流產）的提案，確切的條文規定為「醫師為人工流產醫療行為時，必須患者待在同一空間並親自為之。」（A physician performing or inducing an abortion shall be present in person and in the same room with the patient.），甚者，若違反前開通訊醫療照護禁用於人工流產的禁令時，則將背負D級的刑事罪責，最後以32：3之高票通過；然而，其中投下反對票的參議員McGarvey認為通訊醫療照護對於肯塔基州的醫療照護是重要的實踐與擴張，因此應開放通訊醫療照護適用於人工流產。 （註：telehealth常見翻譯為遠距醫療照護／遠距醫護，然考量我國醫師法第11條授權訂定「通訊診療辦法」之名稱，故本文從之。）
日本著作權法修正促進人工智慧開發2018年5月18日，於第196次參議院會議中通過「著作權法」修正案，並於5月25日公布，預計於2019年1月1日施行。本次修正是為因應數位網路技術的發展，對需要著作權人同意的行為範圍進行檢視。其中第47條之7修正、及新增之第30條之4與第47條之5與人工智慧發展有重大相關。 日本著作權法於2009年的修正中，增加第47條之7規定，原本可能構成著作權侵害之資料分析、機器學習行為(未經原作者同意複製、改作)，只要在必要限度內，不分是否有營利，皆無須權利人同意。然而本條在使用上因為未涵蓋成果物的讓與行為，也就是如果公開販售學習完成的資料集或是人工智慧模型，甚至於同一平台共享資料集都可以構成侵害。有鑑於此，才在本次修法中修正相關條文。 本次修正中，增加第30條之4規範於必要限度內可利用他人著作物的行為，其中在同條第二款中認可第47條之5第1項第2款之行為，也就是「利用電子計算機的情報解析及提供其結果」，亦可被認為不違反著作權法，因而補上原本第47條之7的漏洞。 惟須注意的是，所謂的必要限度還是有嚴格的比例限制，不能無限制使用。由於目前本次修正還尚未生效，未來對人工智慧發展的應用會產生什麼樣的實際影響，值得繼續觀察。
政府資訊業務委外涉及個人資料保護法律責任分析及因應建議 西班牙隱私保護專責機構對Google發動刑事制裁程序西班牙隱私保護專責機構「資料保護專員」（Data Protection Commissioner；一般多以其西班牙文縮寫AEPD簡稱之 ），針對Google街景服務（Street View）攝影過程中不當蒐集網路用戶資訊一事，於2010年10月18日對Google發動刑事制裁程序（criminal sanction procedure）。AEPD於其網站上發表聲明，其已經掌握Google涉及五項犯罪活動的證據，其中包括蒐集Wi-Fi用戶資訊並將相關資料傳送回美國等，AEPD已將相關證據資料提交馬德里法院。 Google街景服務提供全球諸多地區的地理圖片，但此一服務也引發人們對於侵犯個人隱私之擔憂。儘管Google先前已多次針對街景攝影車攫取Wi-Fi用戶未經加密訊息之行為進行道歉，但仍有諸多國家對於Google是否違反內國隱私保護法規展開調查。 此次AEPD採取法律行動前，事實上西班牙網路用戶權利協會已就相同問題Google提起訴訟，而西班牙法院亦於今年8月展開調查。AEPD對外表示，一旦法院認定Google犯罪情事屬實，各個犯罪行為將可處以6萬至60萬歐元之罰金。無獨有偶，加拿大政府亦於10月19日認定Google收集Wi-Fi用戶資料之舉動，屬於違法行為。