新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
新加坡將從八月起發行擁有生物認證辨識晶片和更多防偽功能的電子護照。為確保新加坡人使用新護照在國外不會遇到困難，有必要進行周全的測試，從使用者的實際經驗中查知不易察覺的問題，確保新護照不會對出國者在各國出入境時造成不便。因此，新加坡移民與關卡局將從 四月二十九日 開始，讓新加坡官員和新加坡航空公司空服員率先試用。第一階段測試完成後，移民與關卡局將全面推廣電子護照，所有在今年八月以後發出的護照，都將是電子護照，取代現有的傳統護照。 移民與關卡局也將與夥伴國對新加坡電子護照進行測試，以便在新加坡推出電子護照時，外國的入境處判讀儀器能判讀電子護照內的資料。事實上早在今年一月，新加坡即與美國、澳洲和紐西蘭三國聯合展開三個月的電子護照測試，測試將在 五月十五日 結束。如果測試進展順利，相關國家的機場都將安裝可以判讀電子護照的儀器，蓋唯有各國都安裝相關系統配合運作，電子護照才能發揮功效。目前，美國已經確認新加坡電子護照符合美國免簽證入境第二級認證，這意味著美國國土安全部測試證實新加坡電子護照與美國的護照判讀儀器相容。此外，新加坡移民與關卡局也將持續積極參與國際民航組織會議，確保新加坡了解國際電子護照的最新發展與概況，以取得同步進展。
歐洲人權法院認定義大利稅務機關對銀行用戶資料存取享過大且欠缺有效司法或獨立監督之裁量權，違反ECHR歐洲人權法院（European Court of Human Rights，簡稱ECtHR）於2026年1月8日就Ferrieri and Bonassisa v. Italy一案作成判決，認定義大利稅務機關儘管為稅務稽查目的享有查閱當事人銀行資料，但相關授權規定賦予了政府查閱措施之範圍與條件的絕對裁量權，缺乏避免恣意裁量之程序保障，違反歐洲人權公約（European Convention on Human Rights, ECHR）對隱私權之保障。 本案起源於申訴人接獲其銀行通知，表示接獲稅務機關要求，須提供特定時間段內與申訴人相關或可追溯至申訴人之銀行帳戶、交易紀錄及其他金融活動之資料。銀行並表示將配合稅務機關之要求。 申訴人不服，主張法律及相關規定未就請求銀行提供資料的情形或條件進行足夠細緻的規定，亦未就稅務機關行使調閱權設計有效的事前及事後控制程序，從而賦予稅務機關不受約束的裁量空間。 義大利稅務機關則回應，為履行其「核查納稅人提交的申報資料及繳納款項，偵測任何遺漏事項，並據此進行應繳稅款的核定與徵收」職權，法律賦予其要求銀行提供納稅人的相關資料之權限。 法院強調，凡涉及人權的政府措施，均必須保障個人免受任意干預，並接受在獨立機構進行前進行的某種對抗性程序審查，以適時審核決策依據及相關證據，始符合法治之要求。在本案中，法院認為，若義大利稅務機關發布行政規則，能補充並進一步界定了銀行資料之調閱事由及權限，且對執行單位具有拘束力，相關規定應能符合法治之要求。 但法院發現，在事前的內部授權流程中，執行單位可以不附理由地提出調閱申請，不須就前述行政規則例示之調閱事由，如「稅務申報存在異常」等情形提供證據。 法院也發現，申訴人也無法在事後針對調閱決定透過法院獲得有效救濟。一方面，若申訴人依附於稅務評定書（tax assessment notice）向稅務法庭就調閱行為進行爭執，由於根據義大利判決先例，調閱缺乏授權或授權理由不足，不足以構成撤銷稅務評定書的正當理由，調閱行為之合法性本身可能因此被視為訴訟上不相關的爭議，在訴訟過程中並不受到審查。另一方面，即便直接針對向民事法院請求救濟，在調閱決定可不附理由之情形下，也難以想像法院如何進行審查。 因此，法院判決最後認為，義大利法律框架賦予了稅務機關不受約束的調閱裁量權，違反ECHR第8條對隱私權之保障。
西班牙AEPD增加關於健康和個人資料保護關注領域西班牙個資監管機關（Agencia Española de Protección de Datos, AEPD）於2022年5月3日增加健康和個人資料保護有關的關注領域。觀2021年，計有680件與健康資料相關之爭議案件，與2020年相比增長了75%，又因健康資料為特殊類型之個人資料，故更應嚴加保障。 該領域的內容適用於公民、資料控制者、資料保護專業人員、健康中心或製藥行業等，共分六小節： 一、第一小節概述了與健康資料有關的權利，解釋了歐盟一般個人資料保護規則（General Data Protection Regulation, GDPR）第9條及西班牙當地規範有關處理健康資料定義、如何行使醫療記錄近用權（Right to access），以及與醫學研究相關的問題，其中規定了患者在使用資料和臨床文件方面權利和義務、在近用權被拒絕情況下如何向AEPD申訴、臨床病史保留及刪除權利之限制等。 二、第二小節重點介紹AEPD公布的相關報告和指南，包括勞資關係中之個人資料保護指南，及有關臨床病史、臨床試驗等相關主題之報告。 三、第三小節則著重在AEPD於新型冠狀病毒肺炎（COVID-19）爆發後，製作大量與COVID-19相關之聲明文件及法律報告，故在此彙整相關資料，以協助落實個人資料之保障。 四、第四小節健康研究和臨床試驗，其中彙編了相關指南，以及規範臨床試驗和其他臨床研究以及藥物安全監視所涉個人資料保護行為準則。 五、第五小節講述與健康狀況有關之申訴、賠償紀錄部分，其中包括AEPD收到多項涉及已故患者直系親屬近用醫療記錄之權利或醫療專業人員非法獲取臨床病史和醫療記錄之投訴。 六、第六小節側重於醫療組織洩露個人資料議題，概述了資料控制者之義務以及為確保遵循GDPR而應採取之措施，另強調以特殊方式處理健康資料之活動，如電子健康紀錄、物聯網醫療所使用之行動裝置或雲端等存取設備，皆存在外洩之風險因子。