新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
原德國電信媒體法第八條條文中所指的「網路服務提供者」為擁有獨自或其他電信媒體及提供接取網路服務的自然人或法人，與我國著作權法中所提及「網路服務提供者」(Internet Service Provider)之適用對象範圍略有不同，而德國民法中有個特殊連坐法－「妨害人責任」（Störerhaftung），所有人對於妨害所有權之人，有排除及不作為請求權，因此，在原德國電信媒體法未規定之特定情形下，「網路服務提供者」應對他人透過其網路所從事的任何侵權違法行為負責。 這項法律使得德國許多咖啡館、公共空間、飯店大廳不願提供免費無線網絡，同時又讓大型咖啡連鎖店如星巴克，以提供免費網絡服務吸引顧客，因為他們就算被捲入網絡侵權責任的訴訟，也不怕支付高額律師費用，小型咖啡館就無法承擔這個風險，只能無奈面對客人轉向大型咖啡連鎖店消費的困境。根據原德國電信媒體法規定，咖啡館業主和其他網路熱點設立者所提供網路服務的方式將可能收到律師的警告函，告知他們不得再為非法下載者提供網路接取服務。 德國聯邦議院(Deutscher Bundestag)於2016年6月初經過激烈的辯論後，通過電信媒體法(Telemediengesetz; TMG)修正草案，將在最新的電信媒體法中免除「網路服務提供者」之「妨害人責任」(Störerhaftung)，使德國的免費無線網絡連接點可以增加並走向開放。
微軟對歐盟要求其分享開放原始碼的指令提起上訴微軟對歐盟指令提起第二次上訴，該指令是命令微軟分享其原始碼給開放原始碼軟體公司。 在歐盟第二最高法院判決前，微軟公司發言人 Tom Brookes 說新上訴，是基於 6 月份（ 2005 年）與歐盟總部的協議，要透過法庭決定原始碼的爭議問題。 他說「微軟提起申請要求法院撤銷原訴訟決定，特別是關於將通訊協定的原始碼廣泛的授權，因為這都是微軟的智慧財產權」。 「我們採取這步驟，讓法庭能可以檢視現下的爭議，並就全世界智慧產權的保護提供一個長遠的意義」。 歐盟發言人 Jonathan Todd 說微軟公司軟體的互用性（ interoperability ）協議，無法用智慧財產加以保護，並且應該能在開放原始碼公司中，根據以往的營業執照加以流通使用。 不過，歐盟的執行者－歐洲委員會認為，相信此事件將獲得解決，如果盧森堡的原審法院維持 2004 年 3 月對微軟公司的規範。在 2005 年 8 月微軟公司最近的訴訟中，顯示出第二種情況。 Todd 說歐盟意識到微軟公司並沒有在與開放原始碼公司的分享協議中，分享微軟的觀點。 另外微軟第一次上訴判決的日期益尚未決定，微軟起訴乃針對歐盟命微軟必須支付 4 億 9 千 7 百萬歐元（ 6 億 2 千萬多萬美元）的反拖拉斯罰金，這也是歐洲有史以來最大的反拖拉斯罰金。 歐盟聲稱軟體巨人已過度行使其 Windows 軟體統治，而把競爭者封鎖在市場外。它命令微軟公司出售不含媒體播放器的軟體，並強迫它與其他伺服器軟體競爭者分享技術，使那些競爭者的產品可以與 Windows 為作業軟體的電腦進行更好的訊息交流。
日本個人資料保護法啟動修法--放寬AI開發的本人同意要件日本個人資料保護法啟動修法--放寬AI開發的本人同意要件 資訊工業策進會科技法律研究所 2026年06月18日 日本政府於2026年4月7日經閣議決定，提出由個人資料保護委員會（個人情報保護委員会，下稱PPC）研擬之《個人資料之保護等相關法律部分修正法律案》（個人情報の保護に関する法律等の一部を改正する法律案，下稱修正草案），並送請第221回特別國會審議；眾議院本會議已於同年5月26日表決通過，目前由參議院續審，預計於本會期內完成立法[1]。 壹、背景摘要 日本個資法於2020年修正時，於附則第10條明定政府應於施行後每三年檢視國際動向、資通訊技術進展及個人資料新型應用之發展，必要時採取必要措施[2]。PPC據此自令和5年（2023年）起展開檢討，歷經團體意見聽取、中間整理意見徵集，並於今年1月9日公布「三年一度檢討之制度改正方針」，4月7日內閣會議決定提出「個人資料保護法等之一部修正法律案」[3]。 此修正案之提出，主要源自於日本人工智慧基本計畫~以「可信賴AI」實現「日本再起」（令和7年12/23閣議決定）所提出的政策--就可整理為統計編製等之AI開發等所涉之本人同意方式、規範遵循之實效性確保等加以檢討，力求及早將「個人資料保護法」修正案提交國會[4]。 貳、重點說明 本次修正案之主要修正分為「適正(即正當)資料利用之推進」、「因應風險之妥適規範」、「不適正利用等之防止」及「法遵實效性確保之規範」四大面向。依據PPC前述「關於《個人資料之保護等相關法律部分修正法律案》(個人情報保護法等の一部を改正する法律案について)」之說明，有關放寬AI個資取得部分之重點如下： 一、就統計編製鬆綁第三人提供與要配慮個人資料取得之同意 依日本現行個資法規定，要配慮個人資料（信仰、病歷、犯罪歷等可能導致歧視之資訊）之取得（§20Ⅱ）、個人資料之第三人提供（§27Ⅰ）等，除符合例外規定外，原則需本人同意。為因應「多事業者共享資料、橫向解析以編製統計」之需求升高，且產出是統計、無法回頭對應到某個特定個人，對當事人權益的侵害風險較低，因此修正草案（§30之2、§31之3）於統計資訊等編製（含可整理為統計編製之AI開發等）的條件下，允許將個人資料提供第三人、取得已公開要配慮個人資料，得免本人同意；行政機關等保有之個資亦同。但為擔保資料僅用於統計編製，必須公告取得者、提供者與接收者之姓名名稱、擬進行之統計編製內容等一定事項；提供者與接收者須以書面約定僅以統計編製為目的；取得者及接收者禁止此目的外利用及再提供予第三人[5]。 二、不違反本人意思、明顯不害本人權利利益者免除同意 現行日本個資法就個人資料提供第三人（§27Ⅰ），原則需取得同意。此次修正草案規定：個人資料提供第三人（含§18Ⅲ目的外利用、§20Ⅱ要配慮個資取得；上開免同意例外分別定於修正草案第18條第3項第7款、第20條第2項第7款、第27條第1項第8款），於依取得狀況觀之，可認不違反本人意思因而明顯不害本人權利利益之情形，免本人同意。例如：訂房網站A依訂房利用契約，將訂房者姓名等提供予飯店B，或匯款來源金融機構C受託對D付款，將匯款人資訊提供予匯款目的金融機構D[6]。此外，就為保護生命、身體、財產，或為增進公眾衛生、推進兒童健全成長而處理個人資料之情形，於現行「難以取得本人同意時」之外，增列「有相當理由而未取得本人同意時」亦得免同意（第18條第2項第2款、第3款，第20條第2項第2款、第3款，第27條第1項第2款、第3款）。另草案並將「學術研究機關等」之學術研究例外，擴及以提供醫療為目的之機關或團體（如醫院，第16條第9項），俾醫學與生命科學研究得據以進行[7]。 參、事件評析 日本此次修正草案最具產業意義者，係將「可整理為統計編製等」之AI開發所需情況，明文納入免同意之第三人提供與要配慮個人資料取得範圍，直接回應AI開發對大量訓練資料之需求。有關已公開或既有個人資料得否用於AI訓練的合法依據，觀察近年國際動向明顯有朝向提供同意以外之合法路徑，並搭配保障措施例如當事人退出權的趨勢。 韓國個人資料保護委員會（PIPC）於2024年7月發布之指引，明確確認公開之個人資料得據以用於AI訓練，惟須符合正當利益存在、處理必要性、且該利益「明顯優越於」當事人權利之要件，並落實查證資料來源、產出過濾等技術措施，以及保障當事人權利行使之機制[8]。歐盟資料保護委員會（EDPB）於2024年12月17日通過第28/2024號意見，確認一般資料保護規則（GDPR）第6條第1項第f款之「正當利益」得作為AI模型開發與部署階段之合法依據，惟須逐案通過「正當利益之認定—處理必要性—與當事人基本權利之權衡」之保障措施[9]。 我國個資法並未如GDPR、韓國PIPA設有概括之「正當利益」合法事由，係規定一般個人資料之蒐集或處理個人資料可取自一般可得來源之依據，除非當事人對該資料之禁止處理或利用顯有更值得保護之重大利益[10]。但已取得的個人資料已無從識別特定當事人，可基於公共利益為統計或學術研究目的利用的，亦限於公務機關或學術研究機構[11]。而且取自一般可得來源的事由亦不適用於特種個資為學術研究目的所為蒐集處理，限於醫療、衛生或犯罪預防，範圍亦較一般個資為窄[12]。 相較韓、歐、日相繼就AI訓練的個人資料取得，提供明文之合法路徑並配套退出等保障機制，我國現行路徑要件若能進一步參考納入概括的正當利益或明文目的做有限豁免，並配套日本規範透明化、當事人退出與權利行使之配套，應有助於填補現行規範不足之缺口。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]〈悪質業者に「課徴金」 個人情報保護法改正案、衆院通過〉，時事通信，2026年5月26日，https://www.jiji.com/jc/article?k=2026052600074&g=pol（最後瀏覽日：2026年6月11日）。 [2]個人情報保護委員会事務局，《個人情報保護法等の一部を改正する法律案について》（令和8年4月），頁1，https://www.ppc.go.jp/files/pdf/260407_kisyahaifusiryou.pdf（最後瀏覽日：2026年6月11日）。 [3]個人情報保護委員会事務局，前揭註2，頁1（「これまでの検討経緯」）。 [4]個人情報保護委員会事務局，前揭註2，頁2-4。（最後瀏覽日：2026年6月11日）。 [5]同前註，頁6。 [6]同前註，頁7。 [7]修正後第16條第9項明定「學術研究機關等」含以提供醫療為目的之機關或團體（如醫院）；其學術研究目的之目的外利用（修正後第18條第3項）、受保護個人資料取得（修正後第20條第2項）及第三人提供（修正後第27條第1項）之學術研究例外亦隨之適用；個人情報保護委員会事務局，前揭註2，頁9。 [8]대한민국 개인정보보호위원회（韓國個人資料保護委員會，PIPC），《인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서》（人工智慧〔AI〕開發・服務之公開個人資訊處理指引），2024年7月17日公開，明示個人資料保護法第15條第1項第6號「正當利益（정당한 이익）」為AI學習、服務蒐集利用公開個資之實質適法依據，https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttId=10362（最後瀏覽日：2026年6月11日）。 [9]European Data Protection Board, Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models，https://www.edpb.europa.eu/system/files/2024-12/edpb_opinion_202428_ai-models_en.pdf（最後瀏覽日：2026年6月11日）。 [10]個人資料保護法第19條第1項第7款；個人資料保護法施行細則第19條規定，：「本法第19條第1項第7款所稱一般可得之來源，指透過大眾傳播、網際網路、新聞、雜誌、政府公報及其他一般人可得知悉或接觸而取得個人資料之管道」。 [11] 我國人資料保護法第 20 條第 1 項第 5 款。 [12] 我國人資料保護法第 6 條第 1 項第 4 款。
美國影片業者將開放網路電影的下載燒錄目前網路上雖然有CINEMANOW、MOVIELINK等業者提供電影下載服務，不過，業者提供下載的電影卻只能限制在電腦主機上觀賞，無法將電影燒錄到光碟後在電視螢幕播放。因此合法下載電影的網路服務，一直無法獲得社會大眾的熱烈回響。 雖然好萊塢影片業者對於防範未經授權的影片在網路上散播一事，不遺餘力，但盜版問題仍存在，因此美國的DVD Copy Control Association（DVD複製管制協會）決定改寫其加密科技，以配合好萊塢業者改變對抗盜版的整體策略--藉由提供消費者合法、便宜和方便的數位電影下載管道，壓縮盜版的生存空間。該協會發言人 Greg Larson表示：「我們要以民眾想要的方式，提供他們想要的娛樂。」。 線上視頻服務商GUBA的創辦人兼執行長MCINERNEY 已和SONY PICTURES與WARNER BROS對提供合法的電影下載達成協議。McInerney說：「這只是這個產業第一季的第一分鐘，現在你可以用DVD燒錄電影，不久之後，寬頻的進展將帶來更快速的網路影片傳輸，一切便水到渠成。」