國有研發設施開放近用之法制規範研析－以美日韓規定為核心
本文為「經濟部產業技術司科技專案成果」
李祖劭
法律研究員 編譯整理
美國聯邦總務署（General Service Administration）於2024年6月27日發布《新興科技優先審查架構》（Emerging Technologies Prioritization Framework），該架構係為回應拜登總統針對AI安全所提出之第14110號行政命令，而在「聯邦政府風險與授權管理計畫」（Federal Risk and Authorization Management Program，以下簡稱FedRAMP）底下所設置之措施。 一般而言，雲端服務供應商（cloud service providers）若欲將其產品提供予政府單位使用，需依FedRAMP相關規範等候審查。《新興科技優先審查架構》則例外開放，使提供「新興科技」產品之雲端服務供應商得視情況優先審查。 現階段《新興科技優先審查架構》所定義之「新興科技」係為提供下列四種功能的生成式AI技術： 1.聊天介面（chat interface）：提供對話式聊天介面的產品。允許用戶輸入提示詞（prompts），然後利用大型語言模型產出內容。 2.程式碼生成與除錯工具（code generation and debugging tools）：軟體開發人員用來協助他們開發和除錯軟體的工具。 3.圖片生成（prompt-based image generators）：能根據使用者輸入之文字或圖像而產生新圖像或影像的產品。 4.通用應用程式介面（general purpose API）：基於API技術將前述三項功能加以整合的產品。 美國政府為挑選最具影響力的產品，要求雲端服務供應商繳交相關資料以利審查，例如公開的模型卡（model card）。模型卡應詳細說明模型的細節、用途、偏見和風險，以及資料、流程和參數等訓練細節。此外，模型卡應包含評估因素、指標和結果，包括所使用的評估基準。 《新興科技優先審查架構》第一波的申請開放至2024年8月31日，且FedRAMP將於9月30日宣布優先名單。這項措施將使生成式AI技術能夠以更快的速度被導入政府服務之中。
韓國科學及資通訊部公布〈國家戰略技術培育計劃〉並選定12個國家戰略技術韓國科學及資通訊部公布〈國家戰略技術培育計劃〉並選定12個國家戰略技術 資訊工業策進會科技法律研究所 2022年12月10日 韓國科學及資通訊部（Ministry of Science and ICT, MSIT）於2022年10月28日發布了[1]「國家戰略技術培育計劃」（National Strategic Technology Nurture Plan），同時選定12個國家戰略技術（national strategic technology）做為重點投資培育對象，其中包含半導體和顯示器、蓄電池（secondary cells）[2]、尖端移動技術（leading-edge mobility）、下世代核能、尖端生物科技、航太科技與海洋科技、氫能、網路安全、人工智慧、下世代通訊技術、尖端機器人技術與製造以及量子技術。 壹、韓國國家技術 除本文將提及以投資導向為主之國家戰略技術外，韓國尚有以技術保護導向為主之國家核心技術（national core technology）與國家高科技戰略技術（national high-tech strategic technology）。 韓國國家核心技術係規範於《防止產業技術外流及保護產業技術法》（The Act on Prevention of Divulgence and Protection of Industrial Technology）（以下簡稱產業技術保護法）；國家高科技戰略技術則規範於《加強保護國家高科技戰略產業競爭力特別措施法》（The Act on Special Measures for Reinforcement and Protection of Competitiveness of National Advanced Strategic Industries）（以下簡稱戰略產業法）。 韓國國家核心技術為國家高科技戰略技術的上位概念，亦即，國家高科技戰略技術係基於國家核心技術之基礎，再就對國家經濟與安全至關重要之技術進行篩選，故國家高科技戰略技術之保護措施較國家核心技術更為嚴格。此外，《戰略產業法》屬《產業技術保護法》之特別法[3]，因此，於涉及國家高科技戰略技術、產業時，《戰略產業法》之規定原則上優於其他法律，應優先適用《戰略產業法》。同時，因國家核心技術為國家高科技戰略技術之上位概念，且《產業技術保護法》為《戰略產業法》之普通法，除《戰略產業法》另有規定外，國家高科技戰略技術應適用《產業技術保護法》中關於國家核心技術之規定[4]。由上可知，韓國對涉及國家安全之技術給予全面且層級化之保護。以下再就兩項技術之規定簡要說明。 一、國家核心技術 如前所述，韓國國家核心技術係規範於《產業技術保護法》中，其旨在保護指定的產業技術，例如研發或生產所需的高科技資訊，以及防止具有高技術和經濟價值的國家核心技術洩露到國外[5]。並且，韓國將營業秘密與國家核心技術脫鉤，使技術持有人於洩漏國家核心技術時無法利用技術資訊是否符合營業秘密之要件等理由卸責。 國家核心技術依《產業技術保護法》第9條第1項[6]等條項規定，係由韓國產業通商資源部（Ministry of Trade, Industry and Energy）與各技術的主管機關和業界討論後選定。按韓國產業通商資源部2022年7月26日第2022-557號公告[7]，目前韓國預計將國家核心技術新增至75項，包含半導體及顯示器等韓國具有領先地位之產業技術。 《產業技術保護法》要求國家核心技術之持有人於利用受管制的技術進行境外投資時，應先通知韓國產業通商資源部，且該技術如受國家補助，應先取得許可。該法於2019年修訂後，新增第36條第1項[8]之規定，明定任何向其他國家洩露國家核心技術之人得處3年以上的有期徒刑，且得併科15億韓元以下之罰金[9]。 二、國家高科技戰略技術（national high-tech strategic technology） 韓國國家高科技戰略技術係規範於《戰略產業法》[10]，其於2022年2月3日頒布並於同年8月實施[11]。《戰略產業法》專門適用於國家高科技戰略技術，其依該法第2條[12]被定義為對國家經濟安全、出口和就業有重大影響的技術。目前韓國就國家高科技戰略技術之項目仍在研議中，預計至少將包含半導體、蓄電池與顯示器[13]。 此外，相比於《產業技術保護法》，《戰略產業法》加強了國家高科技戰略技術的保護措施。例如在《產業技術保護法》中，如持有人欲出口國家核心技術，僅有獲得政府研發補貼的技術持有人始須取得韓國產業通商資源部之許可。然而在《戰略產業法》中，任何國家高科技戰略技術的出口皆必須獲得許可。尤有甚者，國家高科技戰略技術的持有主體還必須配備專職人員負責保密與競業條款之簽屬，以防止其技術洩漏至他國[14]。 綜上所述，國家核心技術與國家高科技戰略技術皆係為達成技術保護之目的而受選定，與本次以投資導向所討論之國家戰略技術有別。 貳、國家戰略技術（national strategic technology）[15] 一、目的[16] 有鑑於各國皆增列與加強對於戰略技術的補助，韓國為維持其科技領域的領先地位，預計將於2027年將原有的3項領先於90％先進國家之技術（半導體、顯示器與通訊技術）提升至8個，因而訂立此國家戰略技術培育計劃。是故，本次所選定之國家戰略技術係以投資發展並提升國家競爭力為導向的國家政策。 二、國家戰略技術選定過程[17] 國家科學技術諮詢委員會（The National Science Technology Advisory Board）於2022年邀請19名私人企業代表與政府的各組織部門進行討論，在2021年選定之10項關鍵與新興技術（critical and emerging technology）之基礎上選定12個國家戰略技術。 三、策略實施 （一）強調政策與投資支援[18] 韓國預計對通訊技術與量子計算投入2650億韓元以加強研發能量與跨國合作之機會。且為達到投資資源的有效利用，政府將對每個被選定的戰略技術制訂戰略藍圖（strategy roadmap）。 （二）任務導向的研發投資[19] 韓國政府認為目前的預算分配系統（system of budget allocation and arrangement）阻礙了跨部會的合作，因此韓國將規劃一個整合性的泛政府預算分配系統（integrated pan-government budget allocation method）以協助達成任務導向的研發投資。且為了順應科技瞬息萬變的演進，韓國將導入初期研發可行性測試（R&D preliminary feasibility test）與快速追蹤系統（fast-track system）以確保時間與金錢投資在正確的技術上。 （三）加強核心人才保障[20] 為制定系統化的人才培養政策，政府將詳細分析人力資源狀況，如國內外研究人員的數量、研究機構與其能力，並將推動客製化的人才保障措施（customized talent securement measures），如法規改進、課程與系統建立。 （四）加強產學研合作[21] 韓國政府將根據各技術之特性（1）指定並培育產學研合作中心；（2）支持在研究機構或校園內建立企業合作研究實驗室；（3）資助研究機構；（4）加強各研究所間之合作；（5）成立技術創新特區以利研究機構和大學合作。以上措施將特別針對缺乏基礎，但迫切需要長期穩定發展的研究領域。 （五）建立以私人企業為中心的戰略技術治理體系[22] 將擴大戰略技術政策中心（Strategic Technology Policy Centers）和國家技術戰略中心（National Technology Strategy Centers），以支持政策設計，並作為技術分析和戰略建立的智囊團。 （六）立法制定《國家戰略技術特別法》（Special Act on the National Strategic Technology）[23] 該法將為國家戰略技術的指定和管理提供法律基礎。藉由制定該法，韓國將提供更加全面的支援措施，如優先研發投資（priority R&D investment）、具挑戰性的研發推廣（challenging R&D promotion）、優秀人才培養、產學合作和國際合作。 參、結論 韓國透過《產業技術保護法》和《戰略產業法》，分別規範國家核心技術與國家高科技戰略技術，並在上述基礎上，另選定以投資導向為主的國家戰略技術，對於韓國國家高科技技術給予全面性的保護。與韓國作法不同，我國有關國家核心關鍵技術之保護，散見於不同規範，包括《國家安全法》（以下簡稱國安法）、《營業祕密法》、《貿易法》有關戰略性高科技貨品之管制、《臺灣地區與大陸地區人民關係條例》（以下簡稱兩岸條例）及經濟部投審會針對赴陸投資或企業技術合作之管制，以及國家科學及技術委員會「政府資助國家核心科技研究計畫安全管制作業手冊」要求科技研究計畫提報國家核心科技項目等。 我國與韓國在立法模式雖有不同，但保護手段和效果相似。韓國《產業技術保護法》和《戰略產業法》就國家核心技術與國家高科技戰略技術設有處罰規範；我國於今年修正《國安法》時，亦增列經濟間諜罪，加強對於關鍵技術之保護；並修正《兩岸條例》，加強對涉及國家核心關鍵技術人才赴陸之管制。 惟韓國為維持科技領先國家之地位，另選定以投資導向為主的國家戰略技術給予補助，並以「國家戰略技術培育計劃」完整規劃投資方向，以確保有限的資金運用在正確的項目。我國除加強對於國家核心關鍵技術及人才之保護，避免技術和人才外流外，未來亦可參考韓國，擬定整體且全面性之計畫，擴大對於關鍵技術之投資和人才培育，始能全面性地保護關鍵技術。 [1]MINISTRY OF SCIENCE AND ICT [MSIT], Korea to announce national strategy to become a technology hegemon (Oct. 28, 2022), https://www.msit.go.kr/bbs/view.do?sCode=eng&mId=4&mPid=2&bbsSeqNo=42&nttSeqNo=746 (last visited Dec. 10, 2022) [2]〈國家戰略技術培育計劃〉之原文並未提及蓄電池之種類，惟根據韓國產業通商資源部之公告，應係指電動車用之高能量密度電池與高鎳電池，可參見：MINISTRY OF TRADE, INDUSTRY AND ENERGY [MOTIE], 산업통상자원부 공고 제2022-577호 (July 26, 2022), https://www.motie.go.kr/motie/ms/ll/adminiStration/bbs/bbsView.do?bbs_seq_n=202&bbs_cd_n=138¤tPage=1&search_key_n=&cate_n=&dept_v=&search_val_v (last visited Dec. 07, 2022). [3]LEE & KO, LEGAL 500, KOREA IMPLEMENTS NEW ACT ON SPECIAL MEASURES FOR STRENGTHENING AND PROTECTING COMPETITIVENESS OF NATIONAL HIGH-TECH STRATEGIC INDUSTRIES (Oct. 5, 2022), https://www.legal500.com/developments/thought-leadership/korea-implements-new-act-on-special-measures-for-strengthening-and-protecting-competitiveness-of-national-high-tech-strategic-industries/ (last visited Dec. 15, 2022). [4]KIM & CHANG LAW FIRM, Korea Announces Comprehensive "Technology Protection Strategy" for Core Technologies and Infrastructure (Mar. 10, 2022), https://www.ip.kimchang.com/en/insights/detail.kc?sch_section=4&idx=24577 (last visited Dec. 20, 2022). [5]LEE & KO, LEGAL 500, KOREA STRENGTHENS PROTECTION OF NATIONAL CORE TECHNOLOGY AND INDUSTRIAL TECHNOLOGY (AMENDMENT OF THE PREVENTION OF DIVULGENCE AND PROTECTION OF INDUSTRIAL TECHNOLOGY ACT) (Oct. 2, 2019), https://www.legal500.com/developments/thought-leadership/korea-strengthens-protection-of-national-core-technology-and-industrial-technology-amendment-of-the-prevention-of-divulgence-and-protection-of-industrial-technology-act/ (last visited Dec. 07, 2022). [6]The Act on Prevention of Divulgence and Protection of Industrial Technology, Art. 9 (1), (R.O.Korea), “Where the Minister of Trade, Industry and Energy selects a technology to be designated (hereafter in this Article referred to as "technology subject to designation") as national core technology, or he or she has been notified that technology subject to designation has been selected under the jurisdiction of the head of a relevant central governmental administrative agency; he or she may designate it as national core technology after deliberation by the Committee. In such cases, where technology subject to designation which has been selected by the Minister of Trade, Industry and Energy is under the jurisdiction of the head of any other central governmental administrative agency, he or she shall undergo consultation with the head of the relevant central governmental administrative agency prior to deliberation by the Committee.” . [7]MOTIE, supra note 2. [8]The Act on Prevention of Divulgence and Protection of Industrial Technology, Art. 36 (1), (R.O.Korea), “Any person who commits an offense under any of subparagraphs 1 through 3 of Article 14 with intent to use national core technology in a foreign country or to cause national core technology to be used in a foreign country shall be punished by imprisonment with labor for a limited term of not less than three years. In such cases, a fine not exceeding 1.5 billion won shall be concurrently imposed.” . [9]2019年修正前之刑度為15年以下有期徒刑，得併科15億韓元以下之罰金。 [10]MOTIE, Cabinet passes National High-Tech Strategic Industries Special Act (Jan. 25, 2022), https://english.motie.go.kr/en/pc/pressreleases/bbs/bbsView.do?bbs_seq_n=911&bbs_cd_n=2 (last visited Dec. 07, 2022). [11]Kim & Chang Law Firm, LEGAL 500, Korea Enacts Special Act to Protect and Foster National High-Tech Strategic Industry (Apr. 13, 2022), https://www.kimchang.com/en/insights/detail.kc?sch_section=4&idx=24744 (last visited Dec. 07, 2022). [12]LEE & KO, supra note 3. [13]MOTIE, Government holds 1st National High-Tech Strategic Industries Committee Meeting (Nov. 07, 2022), https://english.motie.go.kr/en/pc/pressreleases/bbs/bbsView.do?bbs_cd_n=2&bbs_seq_n=1117 (last visited Dec. 07, 2022). [14]KIM & CHANG LAW FIRM, supra note 4. [15]MSIT, National Strategic Technology Nurture Plan (Oct. 28, 2022), https://doc.msit.go.kr/SynapDocViewServer/viewer/doc.html?key=314287c5ec1740fc9a325c27bbb55b92&convType=img&convLocale=ko_KR&contextPath=/SynapDocViewServer (last visited Dec. 16, 2022). [16]Id. at 1-2. [17]Id. at 2-3. [18]Id. at 3. [19]Id. at 4. [20]Id. [21]Id. [22]Id. at 5. [23]Id. at 5-6.
歐盟網路與資訊安全局暨網路安全認證規則要求進行「網路安全認證機制」歐盟執委會於2019年6月正式通過「歐盟網路與資訊安全局暨網路安全認證規則(EU Regulation on ENISA and Cyber Security Certification)(Regulation (EU) 2019/881)。規則新增歐盟網路與資訊安全局（European Union Agency for Network and Information Security,ENISA）之職責，負責推行「網路安全認證機制(European cybersecurity certification scheme)」。 網路安全認證機制旨在歐盟層面針對特定產品、服務及流程評估其網路安全。運作模式是將產品或服務進行分類，有不同的評估類型（如自行評估或第三方評估）、網路安全規範（如參考標準或技術規範）、預期的保證等級（如低、中、高），並給予相關之認證。為了呈現網路安全風險的程度，證明書上可以使用三個級別：低、中、高（basic，substantial，high）。若資訊安全事件發生時，對產品、服務及流程造成影響時，廠商應依據其產品或服務之級別採行相對應的因應對策。若被認證為高等級的產品，則表示已經通過最高等級的安全性測試。 廠商之產品或服務被認可後會得到一張認證書，使企業進行跨境交易時，能讓使用者更方便理解產品或服務的安全性，供應商間能在歐盟市場內進行良好的競爭，從而產生更好的產品及性價比。藉由該認證機制所產生的認證書，對於市場方將帶來以下之效益： 一、產品或服務的提供商（包括中小型企業和新創企業）和供應商：藉由該機制獲得歐盟證書，可以在成員國中提升競爭力。 二、公民和最終使用者（例如基礎設施的運營商）：針對日常所需的產品和服務，能做出更明智的購買決策。例如消費者欲購買智慧家具，就可藉由ENISA的網路安全認證網站諮詢該產品網路安全資訊。 三、個人、商業買家、政府：在購買某產品或服務時，可以藉此機制讓產品或服務的資訊透明化，以做出更好的抉擇。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局（Infocomm Media Development Authority，下稱IMDA）於2026年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI，下稱示範框架）第1.5版，以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向，同時提供真實部署案例，將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧，代理AI能自主規劃、跨多步驟採取行動，並與其他代理及外部系統互動，代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境，例如更新客戶資料庫或執行付款，風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過，以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心，仍落在AI應用與輸出風險，對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展，更新其代理AI治理框架，新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式，為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件，但每一元件之設計皆可能顯著影響代理能力，故思考代理能做什麼時，應區分兩個概念：一為行動空間（action-space），指代理可採取之行動範圍，取決於其獲准使用之工具及該等工具上之權限；二為自主性（autonomy），指代理朝目標行動時可自行決定如何行動之程度，取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素，不同的權限與自主程度，將會使性質同為代理AI，歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新，真正變化在於這些風險因代理AI會在真實世界採取行動，速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止，而要求人類持續監督又可能導致自動化偏誤與警示疲勞，致某一步驟之錯誤可能於後續步驟間傳播並放大。因此，當系統由多個代理構成，敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能，會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向，提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環，透過監測發現異常時，即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險：組織可於規劃階段設計適當邊界，以限縮代理之影響範圍，例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施，確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責：「人在迴路」（human-in-the-loop）須加以調整，以因應自動化偏誤，一旦代理AI之部署獲得放行，組織即應採取措施確保人為當責，並應迅速掌握新發展，隨技術演進更新其作法。 (三)落實技術控制與流程：組織應於代理生命週期全程實施技術措施，且由於代理與其環境動態互動、且非所有風險均能事前預見，爰建議逐步推出代理，並於部署後持續監測。 (四)促成終端使用者盡責：應告知使用者代理之行動範圍、資料存取情形，以及使用者自身之責任。組織並應考量另行提供教育訓練，使員工具備管理人機互動、行使有效監督所需之知識，同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率，嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍（讀取相對於寫入）及可回復性；發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度，並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境，推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上，示範框架主張系統層確定性控制優於提示層防護，亦即與其提示代理AI不得存取特定工具，不如施加存取控制使該工具根本無法被呼叫。除靜態防護外，框架另強調在設計之初就要納入控制措施，在執行過程中監測並介入，例如如限制防止工具使用過度，或以輸入驗證的方式，在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法，示範框架建議可於協定層就善用模型上下文協定（Model Context Protocol，MCP）過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時，該框架以事例建議組織可採取這些控制的技術手段，如：於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證；於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制；於連結時，將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式，該示範框架建議應先界定須經人為核准之查核點或行動界線，尤其在高風險、不可回復或離群行為之前。其次，設計核准之形式，使請求切合脈絡且易於理解、清楚呈現風險，並依情形選擇所需之人為輸入。但最關鍵的是，須將監督的有效性本身納入稽核，包括追蹤人為否定率偏低，或審查回應時間有過短情況時，即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞，並辨識決策明顯偏離常態之「離群」人員，同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險，示範框架建議的因應是將身分管理延伸至代理，但其亦指出現行授權系統多為預先定義之靜態範圍，難以因應代理依情境動態變化之細粒度權限；於過渡期間，建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作，故應測試整體任務執行、政策遵循度與工具使用正確性，非僅測最終輸出；且應個別測試與合併測試，以掌握多代理協作時之湧現風險。就部署後，框架主張逐步推行，可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面，應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡，並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布，此次更新納入多個組織導入代理AI的實例回饋，擴充多代理系統之系統性風險，補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」，而代理式治理之對象，則係能呼叫工具、寫入系統、執行交易之能行動系統，風險延伸至「行動」及其真實後果。因此，其建議應由單一之模型輸出品質，轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理；由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則，適對應示範框架的人為當責、系統層控制與監督指標化建議。同時，依基本法第16條規定數位發展部應參考國際標準或規範，推動與國際介接之人工智慧風險分類框架，並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範，並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上，跨入多任務自主執行的功能層次，風險的質與量已因代理功能出現系統性擴大效應的情況下，單純以生成式AI為標的治理規範或指引，顯然其可產生的規範管理或指引提醒的效果，已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架，雖然亦表明代理AI的風險並非其所獨有，亦是來自於生成式AI的既有影響，但該框架進一步提醒代理AI將使風險控制更加困難，「人在迴路」（human-in-the-loop）須加以調整，一旦代理AI之部署獲得放行，組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」，並應迅速掌握新發展，運用技術手段強化風險監測。其中喻意深遠的是，該框架就終端使用者所提基礎技藝維持之警示，即代理AI接手任務恐致技能退化與業務永續風險，或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有，如需引用或轉載，請註明出處。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA），《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第一‧五版，二〇二六年五月二十日發布、同年六月五日更新，https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf（最後瀏覽日：二〇二六年七月六日）。 [2]《人工智慧基本法》，民國一百十四年十二月二十三日經立法院三讀通過，全文二十條，二〇二六年一月公布施行，中央主管機關為國家科學及技術委員會。 [3] 前揭註1，頁8、15（分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」）。 [4] 同前註，頁11。 [5] 詳前註1，頁3~4。 [6] 同前註，頁15至18。 [7] 同前註，頁33至34。 [8] 同前註，頁30。 [9] 同前註，頁29至32。 [10] 同前註，頁23至24。 [11] 同前註，頁42至45。