政府科研計畫執行與貪污犯罪
本文為「經濟部產業技術司科技專案成果」
日本獨立行政法人情報處理推進機構（Information-technology Promotion Agency，下稱IPA）於2026年4月2日發布AI利用者的安全性報告（下稱安全性報告），並呼籲企業強化AI利用過程中的營業秘密保護管理措施。 近年來，以生成式AI為首的人工智慧技術及其應用急速發展，但另一方面，針對AI開發與運用所衍生之安全性風險亦層出不窮。IPA針對其於今(2026)年1月發布之10大資訊安全威脅中的第三位風險，即AI應用所帶來的網路風險，發布安全性報告，期協助企業降低AI利用過程中的營業秘密外洩風險。 安全性報告指出，有高達67%的企業職員會透過個人帳號使用生成式AI，且有高達77%會直接將公司內部資料「複製貼上」到生成式AI對話框。由於雲端AI係藉由網路串接方式提供AI服務，因此人員若將企業之營業秘密輸入AI中，即意味著將企業之營業秘密提供營運AI服務的外部企業。此外，在雲端AI中輸入企業之營業秘密，除了該營業秘密可能會被作為學習資料，用於訓練AI以外，其他企業亦可能透過該雲端AI輸出之內容取得該營業秘密，潛在高度洩密風險。準此，安全性報告提醒企業勿在具備網路串接功能之雲端AI上傳包含企業營業秘密之資料，並呼籲企業透過諸如將AI瀏覽器區分為企業內部使用與外部使用之方式，強化內部營業秘密保護管理措施，以避免洩密風險。 企業如欲於內部導入AI應用以提升業務效率，可參考資訊工業策進會科技法律研究所創意智財中心（資策會科法所創智中心）發布之《營業秘密保護管理規範》、《營業秘密管理指針2.0》，建立營業秘密管理措施或相關機制，避免在使用AI提升業務效率的同時，導致具備機敏性或屬於營業秘密之資訊外洩。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局（Infocomm Media Development Authority，下稱IMDA）於2026年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI，下稱示範框架）第1.5版，以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向，同時提供真實部署案例，將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧，代理AI能自主規劃、跨多步驟採取行動，並與其他代理及外部系統互動，代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境，例如更新客戶資料庫或執行付款，風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過，以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心，仍落在AI應用與輸出風險，對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展，更新其代理AI治理框架，新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式，為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件，但每一元件之設計皆可能顯著影響代理能力，故思考代理能做什麼時，應區分兩個概念：一為行動空間（action-space），指代理可採取之行動範圍，取決於其獲准使用之工具及該等工具上之權限；二為自主性（autonomy），指代理朝目標行動時可自行決定如何行動之程度，取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素，不同的權限與自主程度，將會使性質同為代理AI，歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新，真正變化在於這些風險因代理AI會在真實世界採取行動，速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止，而要求人類持續監督又可能導致自動化偏誤與警示疲勞，致某一步驟之錯誤可能於後續步驟間傳播並放大。因此，當系統由多個代理構成，敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能，會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向，提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環，透過監測發現異常時，即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險：組織可於規劃階段設計適當邊界，以限縮代理之影響範圍，例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施，確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責：「人在迴路」（human-in-the-loop）須加以調整，以因應自動化偏誤，一旦代理AI之部署獲得放行，組織即應採取措施確保人為當責，並應迅速掌握新發展，隨技術演進更新其作法。 (三)落實技術控制與流程：組織應於代理生命週期全程實施技術措施，且由於代理與其環境動態互動、且非所有風險均能事前預見，爰建議逐步推出代理，並於部署後持續監測。 (四)促成終端使用者盡責：應告知使用者代理之行動範圍、資料存取情形，以及使用者自身之責任。組織並應考量另行提供教育訓練，使員工具備管理人機互動、行使有效監督所需之知識，同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率，嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍（讀取相對於寫入）及可回復性；發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度，並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境，推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上，示範框架主張系統層確定性控制優於提示層防護，亦即與其提示代理AI不得存取特定工具，不如施加存取控制使該工具根本無法被呼叫。除靜態防護外，框架另強調在設計之初就要納入控制措施，在執行過程中監測並介入，例如如限制防止工具使用過度，或以輸入驗證的方式，在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法，示範框架建議可於協定層就善用模型上下文協定（Model Context Protocol，MCP）過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時，該框架以事例建議組織可採取這些控制的技術手段，如：於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證；於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制；於連結時，將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式，該示範框架建議應先界定須經人為核准之查核點或行動界線，尤其在高風險、不可回復或離群行為之前。其次，設計核准之形式，使請求切合脈絡且易於理解、清楚呈現風險，並依情形選擇所需之人為輸入。但最關鍵的是，須將監督的有效性本身納入稽核，包括追蹤人為否定率偏低，或審查回應時間有過短情況時，即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞，並辨識決策明顯偏離常態之「離群」人員，同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險，示範框架建議的因應是將身分管理延伸至代理，但其亦指出現行授權系統多為預先定義之靜態範圍，難以因應代理依情境動態變化之細粒度權限；於過渡期間，建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作，故應測試整體任務執行、政策遵循度與工具使用正確性，非僅測最終輸出；且應個別測試與合併測試，以掌握多代理協作時之湧現風險。就部署後，框架主張逐步推行，可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面，應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡，並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布，此次更新納入多個組織導入代理AI的實例回饋，擴充多代理系統之系統性風險，補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」，而代理式治理之對象，則係能呼叫工具、寫入系統、執行交易之能行動系統，風險延伸至「行動」及其真實後果。因此，其建議應由單一之模型輸出品質，轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理；由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則，適對應示範框架的人為當責、系統層控制與監督指標化建議。同時，依基本法第16條規定數位發展部應參考國際標準或規範，推動與國際介接之人工智慧風險分類框架，並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範，並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上，跨入多任務自主執行的功能層次，風險的質與量已因代理功能出現系統性擴大效應的情況下，單純以生成式AI為標的治理規範或指引，顯然其可產生的規範管理或指引提醒的效果，已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架，雖然亦表明代理AI的風險並非其所獨有，亦是來自於生成式AI的既有影響，但該框架進一步提醒代理AI將使風險控制更加困難，「人在迴路」（human-in-the-loop）須加以調整，一旦代理AI之部署獲得放行，組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」，並應迅速掌握新發展，運用技術手段強化風險監測。其中喻意深遠的是，該框架就終端使用者所提基礎技藝維持之警示，即代理AI接手任務恐致技能退化與業務永續風險，或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有，如需引用或轉載，請註明出處。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA），《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第一‧五版，二〇二六年五月二十日發布、同年六月五日更新，https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf（最後瀏覽日：二〇二六年七月六日）。 [2]《人工智慧基本法》，民國一百十四年十二月二十三日經立法院三讀通過，全文二十條，二〇二六年一月公布施行，中央主管機關為國家科學及技術委員會。 [3] 前揭註1，頁8、15（分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」）。 [4] 同前註，頁11。 [5] 詳前註1，頁3~4。 [6] 同前註，頁15至18。 [7] 同前註，頁33至34。 [8] 同前註，頁30。 [9] 同前註，頁29至32。 [10] 同前註，頁23至24。 [11] 同前註，頁42至45。
歐盟科技策略新趨勢－生物經濟策略為引領歐盟各會員國邁向以生物發展為導向之經濟體時代，歐盟指委會（European Commission）乃於2012年2月13日通過歐盟永續生物經濟體策略計畫－Innovation for Sustainable Growth-a Bioeconomy for Europe，期待藉此引導歐盟邁想一個創新且低排放之永續發展經濟體。 隨著全球人口逐年增長，並預計於2050年邁向全球9億總人口數之關卡，但自然資源之相對有限，因此歐盟指委會認為歐盟經濟體需隨著時代變遷趨勢及早轉型，並且強化其發展永續性。為協助歐盟各會員國因應全球局勢變化，歐盟指委員進一步於其永續生物經濟體策略計畫中提出三大重點策略－1.強化創新，並發展新興科技，進而為生物經濟體做準備；2.建置並強化生物經濟體相關市場與競爭力；3.透過相關政策之研擬，加強立法者與產業間之聯結性。而除了透過前述之三大重點策略以做為發展生物經濟體之基礎外，歐盟指委會亦希望能藉由歐盟Horizon 2020計畫下之各相關配套措施，以及各項研發經費之投注，進行各項生物和綠色科技，如能源、奈米科技、和資通訊技術（ICT）等相關領域之創新研發，進而導引歐盟經濟體邁向一個全新永續新境界。 目前歐盟會員國如丹麥、芬蘭、德國、愛爾蘭、和荷蘭皆已提出相關生物經濟體策略，而國際間如加拿大、中國、美國、和南非對此議題，亦位處於發展中或是已發展階段。以生物科技為主之知識經濟發展導向乃為當前全球經濟發展趨勢，如何連結科技研發創新，進而發展永續經濟，實為一值得關注與思考之問題。
英國發布「2017年資料保護法」草案，以符合數位時代之需求數位技術改變人們的生活，為使英國人民、企業及組織接受數位時代的變革，並確保英國做好脫離歐盟（European Union）的準備，英國數位文化媒體及運動部（Department for Digital, Culture Media & Sport）修正1998年的資料保護法（Data Protection Act 1998），於2017年9月14日，提交2017資料保護法草案（Data Protection Bill 2017）（以下簡稱：本草案）予上議院審議，以因應數位時代的來臨。 此次本草案修正的方向為： 一般資料處理（§3-26）： 一般資料處理係依歐盟的一般資料保護規則（General Data Protection Regulation，簡稱GDPR）為標準，將歐盟GDPR一般資料處理的相關規範之標準制定於此次修正之資料保護法中，並確保健康、社會安全與教育資料等個人資料之安全維護。另對於個人資料的近用與刪除予以規範以強化公共政策，並維護國家安全。 執法程序（§27-79）： 拜科技進步所賜，網路世界如遠弗屆，透過網路跨境傳輸、分享、蒐集資料，並非難事，因此，更需要一個強而有力且一致性的個人資料保護規範框架。警方、檢方或司法刑事機關為偵查犯罪行為，而蒐集、處理或利用個人資料，須有明確、正當、合法的執法目的，對於國際間個人資料的交流利用須依明確的程序規範並賦與相當之保護措施，確保英國退出歐盟後，仍可繼續與歐盟各成員國間聯手偵辦重大犯罪案件，以維護國際間之資訊安全。 國家安全（§80-111）： 因國家安全事項不在歐盟法（EU Law）規範範圍之列，故GDPR或指令法律（Law Enforcement Directive，LED）之效力不及於各成員國對於國安全之情資蒐集。故英國本次修法參採個人資料保護公約（Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data，又稱現代化公約108（modernised Convention 108））之精神，將情報單位基於維護國家安全之必要蒐集個人資料之規範，明文納入個人資料保護法之適用，以符合國際間的資訊安全規範標準。 資訊委員與執行（§112-168）： 資訊委員（Information Commissioner）係指保護資訊權之公共利益、促使公務機關公開資訊與維護個人資料隱私權之獨立政府官員，得主動偵查犯罪，並得通知或教育廣泛的資料管理者，以提高資料保護之標準。繼2010年賦與資訊委員針對金融犯罪之執法權限之後，本草案亦增列意圖還原已去識別化之個人資料、禁止不當揭露個人資料兩種犯罪類型，賦與資訊委員更廣的處理權責。違反資料保護法（如不當揭露個人資料），將處以行政罰責（最高可處1,700萬英鎊/2,000萬歐元罰鍰）。 本草案除建制一個一般資料處理、執法程序及國家安全的資料保護體系外，更加強對於學術研究、金融服務及兒童保護等領域的資料保護，以因應數位時代之變革。