歐盟執委會發布第二份「數位十年狀況報告」，說明「2030年數位十年政策計畫」當前進展
歐盟執委會（European Commission）於2024年7月2日發布第二份「數位十年狀況報告」（State of the Digital Decade Report）（下稱該報告），全面檢視「2030年數位十年政策計畫」（Digital Decade Policy Programme 2030, DDPP）之施行現況。特別的是，該報告今年首次新增歐盟成員國提出之「數位十年國家戰略路線圖」（National Digital Decade Strategic Roadmaps），說明預計投入數位轉型之措施、行動及資金。
為了呼籲歐盟成員國加強行動，進而促進經濟繁榮並提升社會凝聚力，歐盟執委會於該報告提出兩大面向之建議。首先，於數位基礎設施及企業之部分，該報告指出，目前高品質之5G網路覆蓋率僅有歐盟領土之50%。對此，各成員國與執委會應共同努力創建真正之數位單一市場（Digital Single Market）。此外，歐洲公司對於人工智慧、雲端、巨量資料之採用率遠低於DDPP欲達成之75%目標。若欲實踐商業部門數位化，應鼓勵中小企業採用創新之數位工具，且應積極投資具有高度發展可能性之新創企業。
其次，於數位技能與公共服務之層面，該報告提及，社會經濟相關之數位轉型過程中，以人為本係一貫之核心理念。然而，目前僅55.6%之歐盟人口具備基本數位技能，各成員國應採取多元方法於各級學校推動培養教育。又，為提升公共服務數位化，各成員國應致力於線上提供重要公共服務、電子健康紀錄，以利民間及企業方便運用。
最後，歐盟成員國須於2024年12月2日前審視、調整「數位十年國家戰略路線圖」，以符合DDPP闡述之目標。此外，歐盟執委會將監督、評估報告中建議之實施情形，並於2025年發布之「數位十年狀況報告」追蹤改善進度。
本文為「經濟部產業技術司科技專案成果」
鄒雅蓓
副法律研究員 編譯整理
EUROPEAN COMMISSION, Second report on the State of the Digital Decade calls for strengthened collective action to propel the EU's digital transformation, Jul. 2, 2024, https://ec.europa.eu/commission/presscorner/detail/en/IP_24_3602 (last visited Aug. 5, 2024).
潘科諺，〈歐盟發布「如何掌握歐洲的數位基礎建設需求？」白皮書暨公開意見諮，尋求成員國間更一致的頻率與海纜監理架構〉，資訊工業策進會科技法律研究所，2024年5月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9175&no=64（最後瀏覽日：2024/08/02）。
謝明均，〈歐洲區塊鏈數位基礎設施聯盟預計於2024年正式開始運作，將進一步擴大推動區塊鏈的公共應用服務〉，資訊工業策進會科技法律研究所，2023年8月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9027&no=64（最後瀏覽日：2024/08/02）。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局（Infocomm Media Development Authority，下稱IMDA）於2026年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI，下稱示範框架）第1.5版，以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向，同時提供真實部署案例，將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧，代理AI能自主規劃、跨多步驟採取行動，並與其他代理及外部系統互動，代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境，例如更新客戶資料庫或執行付款，風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過，以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心，仍落在AI應用與輸出風險，對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展，更新其代理AI治理框架，新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式，為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件，但每一元件之設計皆可能顯著影響代理能力，故思考代理能做什麼時，應區分兩個概念：一為行動空間（action-space），指代理可採取之行動範圍，取決於其獲准使用之工具及該等工具上之權限；二為自主性（autonomy），指代理朝目標行動時可自行決定如何行動之程度，取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素，不同的權限與自主程度，將會使性質同為代理AI，歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新，真正變化在於這些風險因代理AI會在真實世界採取行動，速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止，而要求人類持續監督又可能導致自動化偏誤與警示疲勞，致某一步驟之錯誤可能於後續步驟間傳播並放大。因此，當系統由多個代理構成，敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能，會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向，提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環，透過監測發現異常時，即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險：組織可於規劃階段設計適當邊界，以限縮代理之影響範圍，例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施，確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責：「人在迴路」（human-in-the-loop）須加以調整，以因應自動化偏誤，一旦代理AI之部署獲得放行，組織即應採取措施確保人為當責，並應迅速掌握新發展，隨技術演進更新其作法。 (三)落實技術控制與流程：組織應於代理生命週期全程實施技術措施，且由於代理與其環境動態互動、且非所有風險均能事前預見，爰建議逐步推出代理，並於部署後持續監測。 (四)促成終端使用者盡責：應告知使用者代理之行動範圍、資料存取情形，以及使用者自身之責任。組織並應考量另行提供教育訓練，使員工具備管理人機互動、行使有效監督所需之知識，同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率，嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍（讀取相對於寫入）及可回復性；發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度，並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境，推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上，示範框架主張系統層確定性控制優於提示層防護，亦即與其提示代理AI不得存取特定工具，不如施加存取控制使該工具根本無法被呼叫。除靜態防護外，框架另強調在設計之初就要納入控制措施，在執行過程中監測並介入，例如如限制防止工具使用過度，或以輸入驗證的方式，在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法，示範框架建議可於協定層就善用模型上下文協定（Model Context Protocol，MCP）過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時，該框架以事例建議組織可採取這些控制的技術手段，如：於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證；於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制；於連結時，將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式，該示範框架建議應先界定須經人為核准之查核點或行動界線，尤其在高風險、不可回復或離群行為之前。其次，設計核准之形式，使請求切合脈絡且易於理解、清楚呈現風險，並依情形選擇所需之人為輸入。但最關鍵的是，須將監督的有效性本身納入稽核，包括追蹤人為否定率偏低，或審查回應時間有過短情況時，即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞，並辨識決策明顯偏離常態之「離群」人員，同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險，示範框架建議的因應是將身分管理延伸至代理，但其亦指出現行授權系統多為預先定義之靜態範圍，難以因應代理依情境動態變化之細粒度權限；於過渡期間，建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作，故應測試整體任務執行、政策遵循度與工具使用正確性，非僅測最終輸出；且應個別測試與合併測試，以掌握多代理協作時之湧現風險。就部署後，框架主張逐步推行，可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面，應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡，並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布，此次更新納入多個組織導入代理AI的實例回饋，擴充多代理系統之系統性風險，補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」，而代理式治理之對象，則係能呼叫工具、寫入系統、執行交易之能行動系統，風險延伸至「行動」及其真實後果。因此，其建議應由單一之模型輸出品質，轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理；由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則，適對應示範框架的人為當責、系統層控制與監督指標化建議。同時，依基本法第16條規定數位發展部應參考國際標準或規範，推動與國際介接之人工智慧風險分類框架，並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範，並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上，跨入多任務自主執行的功能層次，風險的質與量已因代理功能出現系統性擴大效應的情況下，單純以生成式AI為標的治理規範或指引，顯然其可產生的規範管理或指引提醒的效果，已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架，雖然亦表明代理AI的風險並非其所獨有，亦是來自於生成式AI的既有影響，但該框架進一步提醒代理AI將使風險控制更加困難，「人在迴路」（human-in-the-loop）須加以調整，一旦代理AI之部署獲得放行，組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」，並應迅速掌握新發展，運用技術手段強化風險監測。其中喻意深遠的是，該框架就終端使用者所提基礎技藝維持之警示，即代理AI接手任務恐致技能退化與業務永續風險，或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有，如需引用或轉載，請註明出處。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA），《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第一‧五版，二〇二六年五月二十日發布、同年六月五日更新，https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf（最後瀏覽日：二〇二六年七月六日）。 [2]《人工智慧基本法》，民國一百十四年十二月二十三日經立法院三讀通過，全文二十條，二〇二六年一月公布施行，中央主管機關為國家科學及技術委員會。 [3] 前揭註1，頁8、15（分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」）。 [4] 同前註，頁11。 [5] 詳前註1，頁3~4。 [6] 同前註，頁15至18。 [7] 同前註，頁33至34。 [8] 同前註，頁30。 [9] 同前註，頁29至32。 [10] 同前註，頁23至24。 [11] 同前註，頁42至45。
因應ChatGPT人工智慧趨勢，為企業提出營業秘密管理建議2022年11月美國OpenAI公司推出人工智慧大型語言模型ChatGPT，提供全球使用者透過輸入文本方式向ChatGPT提出問題，雖營業秘密不需絕對保密，惟是否會「因向ChatGPT揭露營業秘密而使營業秘密喪失了秘密性」？ 依OpenAI公司「非API訪問數據政策」規定，ChatGPT透過OpenAI公司的AI訓練人員審核「使用者上傳至ChatGPT的資訊」，提供ChatGPT反饋，強化ChatGPT進行有效的學習，讓ChatGPT模仿人類語言回覆使用者所提出的問題。在AI訓練人員未將「使用者上傳至ChatGPT的資訊」交由ChatGPT訓練、學習前（上次訓練是在2021年9月），此聊天內容不會成為ChatGPT給其他使用者的回答，此時資訊對於公眾仍具秘密性。依據ChatGPT的使用條款第5（a）條之單方保密義務規定：「OpenAI公司、其子公司及其他第三方公司可能賦予使用者『機密資訊的接觸權限』，但使用者僅限於使用條款所允許的服務中使用該些機密資訊，不得向第三方揭露該機密資訊，且使用者至少應採取合理的注意保護該機密資訊。所謂機密資訊係指OpenAI公司、其子公司及其他第三方公司（1）指定的非公開資訊，或（2）合理情況下，被認定為機密資訊者，比如軟體、規格及其他非公開商業資訊。」。即ChatGPT對於使用者輸入的聊天內容不負保密義務。 公司將程式碼、會議紀錄等敏感資訊與ChatGPT共享，不必然屬於「因揭露營業秘密而使營業秘密喪失秘密性」，考量訓練數據量大，秘密性取決於周遭環境與揭露性質，例如： 1.揭露的資訊類型，比如飲料配方可能會比客戶名單更容易取得。 2.揭露的環境，比如競爭對手、大眾是否能提出具體問題，以致能取得他人聊天內容的營業秘密。 為在ChatGPT的趨勢下確保營業秘密的秘密性，建議企業採取的管理策略如下： 1.透過「資訊分類」以識別可共享的資訊。 2.審核涉及敏感資訊的協議、公司政策及供應商契約。 3.採取實體、數位的資訊保密措施，並留意尊重員工隱私，比如限制接觸某些網站或應用程式，應留意員工的手機是否能繞過此限制。 4.建立公司保密文化，如透過公司培訓、新人入職教育訓練，定期提醒其應負擔的保密義務。 本文同步刊登於TIPS網站（https://www.tips.org.tw）。
歐盟智慧聯網研發推動平台報告，物聯網共創價值的六大支柱成功的物聯網（IOT）平台生態系統取決於多種因素，2017年4月3日歐盟智慧聯網研發推動平台（ European Research Cluster on the Internet of Things）在物聯網活動平台分析（Analysis on IoT Platforms Adoption Activities）中提出六個成功的重要因素： 策略與利害關係人的參與（Strategy & Stakeholder Engagement）：成功物聯網平台除了要製定良好的願景外，並讓主要利害關係人適當的參與系統策略，與整體政策格局保持一致性。 社群的支持（Community Support）：社群支持程度決定了物聯網系統的吸引力，透過適當的的機制和工具，以有效地減少參與的障礙。 開放性（Ecosystem Openness）：非常封閉的物聯網系統，吸引較少參與者。透過適當的開放以鼓勵利害關係人之參與，並減少進入之障礙。 技術的進步程度（Technology Advancement）：越是被廣泛使用的技術及技術特徵，越可以顯著增加物聯網系統的吸引力，除了提高績效以外，並增加系統存續之可能性。 市場機制（Marketplace Mechanisms）：透過市場機制可以取得用戶間的信任感，以增加參與的可能性，透過參與者價值交流進一步鼓勵參與。 包容性（Technology Inclusivity）：物聯網系統很少是孤立的，必須考慮許多外部因素，如架構技術、物聯網設備、服務等。物聯網生態系統越包容其他流行技術，越有可能被使用者接受。
歐盟執委會呼籲採取更嚴厲的手段解決垃圾郵件問題歐盟執委會（European Commission）日前再次呼籲歐盟各國加強處理公眾線上隱私威脅的問題。歐盟執委會所公佈的一項報告指出，雖然近年來歐盟各國皆有相關措施，例如課予垃圾郵件發布者罰款、有期徒刑等，但各國法令仍有相當大的差異。這項報告也認為，各國相關法律在歐盟電信法的改革之下，應更為明確且一致，並加強跨國合作。 歐盟執委會電信委員Viviane Reding表示，雖然歐洲的反垃圾郵件相關立法已有七年，但大部分的歐盟民眾仍受垃圾郵件影響。根據該報告，歐盟從2002年即已立法禁止發佈垃圾郵件及使用偵察軟體，但目前仍有約65%的民眾飽受垃圾郵件騷擾。 歐盟執委會的報告指出 ： 目前幾乎所有會員國皆已設有相關網站，方便民眾取得垃圾郵件及偵查軟體的資訊或申訴。 在分析來自22國的140個案例後，發現各國所課予的罰款落差懸殊。罰款最高的依序為荷蘭（100萬歐元）、義大利（57萬歐元）及西班牙（3萬歐元 ）；但在羅馬尼亞、愛爾蘭及拉脫維亞等國，罰款的範圍則多在數百至數千歐元之間。 各級政府機關（電信主管機關、資料及消費者保護機關與執法機關等）責任劃分應更為明確，並有相互合作的機制。 垃圾郵件為全球問題，除了在歐洲境內的各國合作外，與世界各國的合作亦為重要。根據調查數據，平均每六封垃圾郵件中，就有一封是由美國境內所發出，因此目前歐盟執委會正與美國協商，討論雙方執行相關保護法規的跨境合作問題。 歐盟各國應分配足夠的資源予國內機關，以利蒐集證據、進行調查及起訴。 由歐盟執委會提出的歐盟電信法改革中，新增一條規定，要求違反各國國內線上隱私法的罰責必須為有效、實際且符合比例。