美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署
美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。
美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下：
（1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。
（2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。
（3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
本文為「經濟部產業技術司科技專案成果」
劉心妍
副法律研究員 編譯整理
U.S. Department of Homeland Security, 2024 Artificial Intelligence Roadmap, Mar. 17, 2024, https://www.dhs.gov/sites/default/files/2024-03/24_0315_ocio_roadmap_artificialintelligence-ciov3-signed-508.pdf (last visited May 7, 2024).
陳政陽，〈日本公布設立AI安全研究所與著手訂定AI安全性評鑑標準〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9157〈最後瀏覽日：2024/5/7〉。
周晨蕙，〈日本經產省和總務省共同發布AI業者指引草案，公開徵集意見〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9146〈最後瀏覽日：2024/5/7〉。
吳彬詣，〈歐盟執委會發布人工智慧創新政策套案〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9143〈最後瀏覽日：2024/5/7〉。
科法觀點
蘇格蘭於2024年9月24日向刑事司法委員會提交刑事司法革新與家庭暴力審查法案（Criminal Justice Modernisation and Abusive Domestic Behaviour Reviews (Scotland) Bill），期望透過數位程序，提升司法部門的有效性與效率。 在刑事司法數位化部分，主要為將2020年及2022年因疫情而制定的臨時措施正式化，臨時措施包含： 1、在訴訟文件上使用電子簽名。 2、以電子方式寄送訴訟文件。 3、以虛擬方式參加刑事法庭。 4、提高定額罰款限額。 5、羈押的全國管轄權。 此外，在刑事司法數位化部分，亦新增兩項數位創新條款，例如透過數位證據共享功能（Digital Evidence Sharing Capability, 下稱DESC）平臺來進行： 1、在刑事程序中使用證據照片而非實體證據。 2、使證據之複製品效力等同於實體證據。 對於刑事司法革新與家庭暴力審查法案而言，DESC在其中扮演了十分重要的角色。DESC改變了數位證據的儲存、編輯、傳輸以及在法庭上展示的方式。且DESC可透過多種身分驗證，並透過系統自動生成之具唯一性的資料識別碼並記錄上傳者及上傳時間，資料上傳系統後亦會自動留存所有資料編輯、修改、刪除行為等審核措施，確保數位證據的正確性、完整性與可驗證性，防止數位證據在上傳DESC後遭到竄改或損毀，亦可透過資料識別碼的比對確保數位資料的正確性與完整性。 蘇格蘭提交的刑事司法數位化與家庭暴力審查法案顯示，數位技術的應用範圍已擴大到司法領域，並透過身分驗證、記錄上傳者、上傳時間及資料識別碼等資料存證技術，確保數位證據資料的正確性、完整性與可驗證性。我國由司法院、法務部、臺灣高等檢察署、內政部警政署及法務部調查局等機關合作，透過區塊鏈技術建置「司法聯盟鏈共同驗證平台」，提升辨識數位證據同一性之效率，並確保數位證據難以被竄改，以達到加速訴訟進行之效果。惟如要透過法院採納數位資料為證據之方式，來達到加速訴訟進行之效果，重點在於要強化針對數位證據資料之管理，有訴訟證明需求的組織須通過b-JADE證明標章，以確保上鏈前之資料管理與上鏈後之資料品質。我國企業如欲強化數位資料的正確性、完整性與可驗證性，可參考資訊工業策進會科技法律研究所創意智財中心所發布之重要數位資料治理暨管理制度規範（EDGS），建立資料存證制度，確保數位資料作為證據之效力，以提升法院採納數位資料作為證據之可能性，亦有利於加速訴訟程序之進行。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
世界61個個資保護主管機關發布聯合聲明，避免AI生成私密影像危害兒少安全61個來自世界各國及歐盟之個資保護主管機關於2026年2月23日發布「AI生成影像及隱私保護聯合聲明」（Joint Statement on AI-Generated Imagery and the Protection of Privacy），旨在警示AI生成影像工具之開發者與使用者，未經當事人同意生成逼真私密影像及有害內容，不僅可能侵害個人隱私或名譽，亦可能嚴重威脅兒少安全。 本聯合聲明是在全球隱私大會（Global Privacy Assembly）國際執法合作工作小組（Internal Enforcement Cooperation Working Group）協調下所發起。其內容強調AI生成影像因廣泛融入社群媒體平臺，更易對兒少造成網路霸凌或剝削等潛在危害，呼籲開發及使用AI生成內容系統時，應遵循隱私與個資保護規則，並注意未經同意創建私密影像在某些國家可能構成刑事犯罪。 針對AI生成內容系統之開發者與使用者，聯合聲明提出下列基本指導原則： （1）實施健全的防護措施，避免濫用個人資料及未經同意生成私密影像或其他描述兒少之有害內容。 （2）確保透明度，有意義地揭露AI系統之功能、安全措施、可接受之用途及濫用後果。 （3）提供有效且易於使用之機制，以接收並快速回應移除有害內容之請求。 （4）向兒童、家長、監護人及教育工作者提供清晰、適齡之資訊，以應對特定兒少風險。 簽署聯合聲明之個資保護主管機關，將持續交流分享相關執法、政策推行與教育宣導經驗，共同努力應對全球隱私及兒少風險。
為了確保網絡安全，歐盟頒佈新的網路安全計畫網絡活動無遠弗屆，其所帶來的影響也逐漸引起世界各國的關注。依據歐盟針對網絡安全現況所做的調查發現，首先，現行估計存有150,000隻電腦病毒在網路間流竄，並已造成148,000部電腦受到威脅；第二，世界經濟論壇（World Economic Forum）指出，在未來的十年內，主要重大資訊基礎設施估計將有10%遭到破壞，其將導致2500億美金的損失；第三，著名資安公司（Symantec與McAfee）估計，全世界因網路犯罪而受害者，每年將會損失2900億歐元。相反地，因網路犯罪而受益者，其獲利將可高達每年7500億歐元；第四，依據 Eurobarometer在2012年針對網絡安全的民調指出，38%歐盟網路使用者因網絡安全因素已改變他們的網路行為方式；74%使用者同意，成為網絡安全受害者的風險已經逐漸增加；12%使用者已經遭受線上詐欺且89%使用者已避免在網上揭露個人資料；第五，據網絡暨資訊安全（NIS）的公眾諮詢發現，56.8%受訪者指出，在過去一年已經歷NIS事件對其網絡活動所帶來的嚴重影響；第六，Eurostat figures指出，直到2012年一月，在歐盟境內的企業僅有26%已經制定出完整的ICT安全政策。 有鑑於網路安全風險所帶來的效應已漸受重視，歐盟執委會（European Commission）會同歐盟外交暨安全政策高級代表（High Representative of the Union for Foreign Affairs and Security Policy共同發佈網絡安全策略，並計畫延引出歐盟執委會在NIS面向上的新指令（directive）。新的歐盟網絡安全策略，名為「開放、安全與可靠網絡空間」，代表著歐盟在預防和反應網絡攻擊和侵擾問題上的全面性預見。在該策略中，包含五個重大優先處理事項： 一、達到網絡韌性（Achieving cyber resilience） 二、徹底減少網路犯罪（Drastically reducing cybercrime） 三、針對一般安全暨防禦政策，發展網絡防禦政策和能力（Developing cyber defence policy and capabilities relatedto the Common Security and Defence Policy (CSDP)） 四、對網絡安全發展出企業性和技術性資源（Developing the industrial and technological resources for cyber-security） 五、為歐盟建立一個完整的國際網絡空間政策與促進歐盟核心價值（Establishing a coherent international cyberspace policy for the European Union and promoting core EU values） 為了達成歐盟網絡安全策略所形塑的優先事項，歐盟執委會亦計畫針對NIS來頒佈新的指令以落實策略項目，其中包含，首先，要求歐盟會員國必須採納NIS策略且指定國家級機關（需具有足夠人力和財務資源）來預防、處理和回應NIS風險與事件；第二，透過安全基礎設施和組成一般性的同儕審議，在歐盟會員國與執委會間建立合作機制來分享NIS風險和事件的早期預警；第三，某些領域重大基礎設施的運作者（金融服務、交通、能源或健康）、資訊社會服務的推動者（app商店電子商務平台、線上支付、雲端運算、搜尋引擎、社群網絡）和公家行政部門必須在其核心服務上，採納風險管理作法和報告主要網絡安全事件。 從歐盟網絡安全策略和執委會計畫頒佈的NIS指令可以發現，歐盟對於新世代的網絡安全風險已經有完整的預見與具體的因應措施。針對新型態的網絡安全威脅，我國如何能及早適時預警並作出相應的防範機制，以確保產業經濟、公共交通、資訊工業和國防安全等不會受到外部威脅，將是我國政府必須先行正視的問題。
日本與歐盟達成GDPR適足性認定之合意，預定於今年秋天完成相關程序日本個人情報保護委員會於5月31日與歐盟執行委員會，對於取得之個人資料跨境傳輸相互承認達成實質合意。歐盟今年5月施行之歐盟個人資料保護規則（European Union General Data Protection Regulation,GDPR）對於個人資料之跨境傳輸係採「原則禁止、例外允許」模式，因此只有在符合例外之情形下，個人資料才能進行跨境傳輸，而例外獲得許可的情形包括由企業自主採行符合規範的適當保護措施，或取得個資當事人明確同意等方式。此外，GDPR也規定對第三國或地區個人資料保護水平是否達到GDPR標準，為適足性認定制度，取得此一認定資格者，即可自由與歐盟間進行個人資料跨境傳輸。目前有瑞士等11個國家及地區取得認定，日本則尚未取得。 日本為了減輕企業的負擔，2016年7月個人情報委員會決定處理方針，以取得相互認定承認為目標；於2017年1月歐盟執行委員會政策文書發表，將日本列為適足性認定之優先國家，將持續進行雙方後續對話。自2016年4月自2018年5月為止累計對話協商53次。於2017年5月施行修正之個人資料保護法，新導入域外適用規定，並對於國外執行當局為必要資訊提供為相關規定。依據上述對話意見，今年2月14日審議擬定「個人資料保護法指引－歐盟適足性認定之個人資料傳輸處理編(個人情報の保護に関する法律についてのガイドラインーEU域内から十分性認定により移転を受けた個人データの取扱い編)」草案，於今年4月25日至5月25日完成草案預告及意見徵集程序，預定於今年7月上旬訂定發布。其後，將於今年秋天完成歐盟與日本間相互指定與認定程序。亦即，個人情報保護委員會基於個人資料保護法第24條規定，指定歐洲經濟區（EEA）為與日本有同等水準之個人資料保護制度之外國，而歐盟執行委員會依據GDPR第45條規定，認定日本為具備適足保護水準。相互認定後，日本與歐盟間得相互為個人資料傳輸，如有相互協力必要性發生時，個人情報保護委員會及歐洲執行委員會應相互協議以為解決。