新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本電信事業個人資料保護指針(電気通信事業における個人情報保護に関するガイドライン)自2011年修訂後至今即未有任何改變。然而，隨著現代行動通信軟硬設備技術的進步，智慧型手機中已有許多應用程式可透過GPS衛星定位功能準確獲取使用者之位置資訊，倘若司法機關也能於搜查辦案過程即時取得此定位資訊，將可提高偵查效率並縮短破案時程。 為此，日本總務省擬將原先須事先通知行動設備使用人與獲得法院令狀後，方得利用GPS衛星定位獲取位置資訊之電信事業個人資料保護指針第26條修訂為司法機關取得法院令狀後，即可利用GPS衛星定位獲取行動設備使用人位置訊息。 然此項修訂除將可能造成行動通訊業者營運上的額外負擔之外，亦有侵害設備使用者之個人隱私與個人資料疑慮。因此，為了抑止濫為偵查，法院令狀之發出須有其必要性，搜查機關亦必須向行動通訊業者為必要性之說明。 再者，此項利用GPS衛星定位獲取位置訊息之方式也僅限於使用Android系統設備且將定位功能開啟之使用者，對於使用Apple iOS系統設備之使用者則不但須使用者開啟定位功能，還須經過美商蘋果公司同意方能取得亦是一項難題。 日本總務省已於2015年4月17日發布此項法令修訂訊息並徵詢公眾意見，預計於6月完成修法並公布之。
美國聯邦最高法院禁止警察在未取得令狀前搜索手機內容2014年6月25日，美國聯邦最高法院就Riley v. California一案作出判決，否定了附帶搜索（註）亦適用於行動電話的見解，並要求警察在查看嫌犯手機的內容前必須取得搜索票。 法院見解認為，由於手機裡的資料顯然不會造成執法者人身安全的危險，而在警察取得搜索票的這段期間內，資料也不可能遺失（甚至可以透過切斷手機連線功能，防免資料因遠端移除或加密而遺失），因此手機內容應不在附帶搜索的適用範圍內。判決中另指出，智慧型手機已經成為人們日常生活中無時無刻、無所不在的一部分，其中含有大量的個人資訊，包括通聯紀錄、標記有日期及地點的照片與影片、網路搜尋及瀏覽紀錄、購物清單及GPS定位等，若允許警察在未取得搜索票的情況下查看嫌犯手機，將有可能嚴重侵犯到個人隱私。 首席大法官John Roberts表示：「如果更進一步地細究系爭隱私利益之範圍，用戶在現代手機上所看到的資料，事實上並不儲存在裝置本身。將手機看作一個容器並對其內容實施附帶搜索，這樣的預設是有點勉強的，尤其當手機被用來讀取儲存在他處的資料時，這種說法更是完全無法成立。」 在其協同意見書中，大法官Samuel Alito也認為，相對於非電子資訊，法院為電子資訊提供了更多的隱私保護。同樣是通聯記錄，如果是從嫌犯口袋裡扣押的紙本帳單取得，在法律上毋須取得令狀即得搜索，但如果是儲存在手機裡就不是這麼一回事了。 註：為保護執法者人身安全並防免被告湮滅證據，我國刑事訴訟法第130條規定，檢察官、檢察事務官、司法警察官或司法警察逮捕嫌犯或執行拘提、羈押時，雖無搜索票，得逕行搜索其身體、隨身攜帶之物件、所使用之交通工具及其立即可觸及之處所，學說上稱作「附帶搜索」，為令狀搜索原則之例外。
日本《小型無人機等飛行禁止法》修正案內閣官房副長官於2019年12月18日召集國土交通省、警察廳、經濟產業省、防衛省等相關主管機關，召開第9次「小型無人機相關府省廳聯絡會議」（小型無人機に関する関係府省庁連絡会議），並決議由內閣於2020年向國會提交《小型無人機於重要設施周邊地區上空飛行禁止法》（重要施設の周辺地域の上空における小型無人機等の飛行の禁止に関する法律，以下簡稱「小型無人機等飛行禁止法」）修正案，將重要國際機場及其周邊地區列為小型無人機的永久禁航區。 《小型無人機等飛行禁止法》之目的係禁止小型無人機於國家重要設施上空飛行，以防患於未然，並維護國政中樞機能和良好國際關係，以及確保公共安全。依該法第2條、第9條第1項之規定，小型無人機之禁航區域包含國會議事堂、內閣總理大臣官邸、其他國家重要設施等、外國領事館等、國防相關設施和核能電廠，以及設施周邊經指定之地區。 而在機場部分，為預防危險並確保大會能順利準備及營運，日本已透過《世界盃橄欖球賽特別措施法》（ラグビーＷ杯特措法）及《東京奧運暨帕運特別措施法》（東京五輪・パラリンピック特措法），將國土交通大臣指定之機場及其周圍300米地區增列為小型無人機禁航區，但僅為大會期間的暫時性措施。內閣考量小型無人機之飛行可能會影響機場功能運行，甚至對經濟帶來重大不良影響，欲透過《小型無人機等飛行禁止法》修正案，將該暫時性措施改為永久措施。
日本 – 能否移除個人資料登載 各地法院見解有所不同為促進政府效能、提高服務品質、協助身份確認、減輕居民負擔，以期邁向先進資訊社會，日本政府近年致力推動「居民基本資料」（「住民基本台帳」；包括姓名、住址、性別、出生年月日及居民編號等）網路化，作為電子化政府基礎架構之一環。惟資料之蒐集範圍為何、傳輸網路安全與否、是否會遭政府濫用、有無可能遭相關人員洩漏於外移作他用等問題始終受到質疑，目前不僅計有福島?矢祭町、東京都杉並?、?立市三處地方政府暫緩推行，民間團體更分別在日本全國各地 13 個地方法院提起民事訴訟，主張「居民基本資料網路」（「住民基本台帳 ?????? 」；「住基 ??? 」）侵犯個人之隱私權及人格權，除請求移除已登錄之個人資料外，並要求中央政府、地方政府及掌理該網路的財團法人地方自治資訊中心（財?法人地方自治情報 ???? ； Local Authorities Systems Development Center, LASDEC ）應負擔合計每人 22 萬日圓的損害賠償。 對此，金?地方法院首先作成判決（ 2005 年 5 月 30 日），雖駁回原告方面的損害賠償請求，不過移除已登錄資料部分則判命原告勝訴。該院認為，「隱私」及「便利」之間究竟何者優先，應本諸居民個人意思自行決定，而非被告方面得以促進行政效率為由逕為取捨。然時隔一日（ 2005 年 5 月 31 日），名古屋地方法院卻作出見解完全相反的判決，認為「居民基本資料網路」已採行必要之資料保護措施，個人隱私不至於輕易遭受侵害，原告方面的兩項請求均應予以駁回。 個人基本資料應予保護，當屬不爭之論，但究竟該如何保護、保護又該到何種程度，各方立場不同、偏重各異，看法常有差距；日本「居民基本資料網路」事件之原被告間、甚至不同地方法院間的見解差異，即為適例。目前正值我國研議修正個人資料保護法之際，前開事件今後如何發展，或有吾人持續觀察並深入思索之餘地。