美國NSF研究基金申請之利益衝突管理機制簡介
美國NSF研究基金申請之利益衝突管理機制簡介
財團法人資訊工業策進會科技法律研究所
法律研究員 吳建興
106年07月17日
壹、事件摘要
國家科研計畫投入大量資金研發，旨在產出符合一定品質之研究成果，而無論其研究成功與否，需具備研究成果之客觀中立性[1]。為達成此目的，研究計畫申請時（含產學研究計畫），申請研究單位需已建立財務利益衝突管理機制，確保其研究人員能避免因其自身財務利益，而影響國家科研計畫所資助之研究客觀成果。以美國National Science Foundation Awards(以下簡稱：NSF)研究基金為例，NSF要求申請機關就其執行研究人員需揭露重大財務利益，並具備相關〈利益衝突管理機制〉[2]。以下將根據the NSF Proposal & Award Policies & Procedures Guide[3] (以下簡稱：PAPPG)簡介此機制內容及運作方式。
貳、NSF研究基金下財務利益衝突管理機制之特色
一、機制首重事前(Ex ante)揭露、審查及管理
美國NSF研究基金之機制，首重利益衝突管理，除非有不能管理之利益衝突存在，否則不會影響研究基金之申請。申請單位於NSF研究基金申請前即需管理利益衝突，主要參與研究計畫之人員，需事前揭露重大財務利益，並由申請機關審查有否利益衝突存在，若認定有財務利益衝突時，需提出管理利益衝突方法。
二、執行計畫研究人員需受利益衝突教育訓練義務。
NSF研究基金依據聯邦法規[4]規定，要求申請NSF研究基金之研究機關需在其計畫書中載明單位如何使參與研究人員接受教育訓練，明瞭何謂負責之研究行為(Responsible Conduct of Research:簡稱RCR)，亦即如何避免研究上發生重大財務利益衝突行為。
三、重大財務利益[5]揭露需超越一定門檻
程序上需定義何為需揭露之重大財務利益，包括揭露主體、時機及揭露關係人範圍，以下分述之。
揭露主體：符合聯邦基金計畫下定義之主要研究計畫主持人（All Principal Investigators, Project Directors,Co- Principal Investigators）或其他負責研究計畫之設計、執行及報告之研究人員[6]。皆有填寫一份NSF財務揭露表單之義務。
揭露時機：於提出研究計畫書予NSF研究基金時，相關研究計畫主持人即需提交所需財務揭露表，而於執行計畫期間，研究計畫主持人或其配偶及同居人及未成年子女，仍有揭露新重大財務利益之義務[7]。
揭露關係人範圍：前揭揭露主體之配偶及同居人及未成年子女之所有超過美金一萬元之重大財務利益或持有受研究計畫影響公司之所有權利益超過百分之五皆須申報揭露。
NSF研究基金下所謂之重大財務利益概念係指[8]：
- 研究主持人及其配偶或未成年子女接受任何超過美金一萬元之合理市價股權利益（equity interest）（含股票、證券、其它所有權利益other ownership interests）或持有任何公司超過5%之所有權利益[9]。
- 研究主持人及其配偶或未成年子女，於申請前一年內從公司接受任何總計超過美金一萬元之薪資、智財權收入（含權利金）及其他收入[10]。
四、專人審查利益揭露及利益衝突需具備直接及重大性
NSF研究基金規定申請機關得指派一人或多人審查財務揭露[11]並認定是否存在利益衝突，審查型式可以委員會型式[12]呈現或由研究機關指派大學內院長等專人為之，無硬性規定。
關於如何認定重大財務利益衝突存在，NSF研究基金規定若審查人合理認定重大財務利益（SFI）可直接（Directly）或重大(Significantly)影響由NSF所資助研究計畫之設計、執行及報告時，即可認為存在利益衝突[13]。
五、利益衝突管理措施具多樣性，非只有當事人迴避一途
當審查人認定有利益衝突存在，審查人可決定採取限制措施或條件，以管理、降低及移除利益衝突[14]。其可能採取管理措施計包括但不限於：對公眾揭露重大財務利益、獨立審查人控管研究計畫、更改研究計畫、斷絕產生利益衝突關係、脫離重大財務利益及不參與研究計畫[15]。
參、事件評析
（一）美國NSF研究基金制度於有利益衝突時首重衝突管理，而目前臺灣科研計畫無所謂管理利益衝突概念，而採事前一律迴避義務[16]。
我國在研究計畫申請時就已採當然迴避規定，並要求計畫主持人及共同人主持人填寫利益迴避聲明書[17]，但就研究執行期間發生利益衝突情況之處理方式並無規定[18]。
以今年2017科技基本法修法通過後為例，其立法意旨雖明確指出擬規範技術移轉的利益迴避，〈讓科研過程更加透明，以避免學研機構及人員在技轉時不慎踩線違法〉[19]，然而此利益迴避機制仍是針對研發成果管理後端之技轉過程為利益迴避審查，尚未導入研發階段之利益衝突管理機制。目前子法的修訂仍正在進行中，且公布草案中有要求執行研究發展單位於其研發成果管理機制，建立技術移轉的〈利益迴避管理機制〉，惟對於研發前端的〈利益衝突管理機制〉仍未如NSF基金有一樣之制度建立[20]。
（二）目前臺灣對前端科研計畫之申請並無要求執行機關需對參與研究人員有財務利益衝突認識之教育與訓練
雖就目前科研計畫申請無要求，然在今年2017科技基本法修正後，在其子法預計要求執行研究發展單位需導入針對研發後端之技術移轉時所涉及利益迴避為教育訓練[21]。
（三）臺灣科研研究計畫申請前，仍需在研究前端導入利益衝突管理機制，目前修法僅預計在觸及技轉新創公司時，在研究成果管理機制中新增〈利益迴避管理機制〉，是從研究成果後端導入機制。
近年來，產學合作研究增加研究機關與產業之互動，然而此互動關係也漸趨複雜。為不影響產學研究成果之科學上之客觀性，研究計畫之財務利益衝突管理也需為適時調整。惟有加強此產學合作關係上透明性，確保利益衝突規範之遵行，且加強執行單位之自我監控，做好利益衝突管理及主責機關之監督，方可避免因日漸複雜的產學合作關係，使得其合作成果受到質疑[22]。若申請單位本身能提出財務利益衝突管理方法，落實預防性保護措施，自能保證研究成果之客觀性。
為達前述科研成果之客觀性，此利益衝突管理之導入時機，需在研發前端為之，也就是在研發申請前，執行研究發展單位就需為利益衝突管理。
臺灣似可參考NSF研究基金作法，由於其出自另一種思維，除消極防弊外，更積極將重大財務利益事前發現及揭露，並於揭露後判斷是否會直接及重大影響研究成果，若為肯定，則採行適當管理措施以減輕，消弭或管理利益衝突，達到研究成果客觀性目的。此項利益衝突管理思維，可為如何思考改進現行我國在研發計畫申請時只採當然迴避機制為參考。
[1]指科研計畫不受研究人員利益衝突而影響研究成果之科學上真實性。
[2] 本文用〈利益衝突管理機制〉文字來指稱NSF基金所設立之模式，在認定有重大利益衝突時，需採取一定措施來管理、減輕及移除利益衝突，迴避只是其中一種管理手段，與另一種〈利益迴避管理機制〉模式有所不同，該機制雖有利益揭露，及專人審查，然其審查結果只導向當事人需不需迴避之結果，無採取其他管理措施可言。
[3] Proposal & Award Policies & Procedures Guide, National Scence Foundation, https://www.nsf.gov/pubs/policydocs/pappg17_1/sigchanges.jsp (Last visited, June 14, 2017)
[4]其法源依據為：Section 7009 of the America Creating Opportunities to Meaningfully Promote Excellence in Technology, Education, and Science (COMPETES) Act (42 USC 1862o–1)
[5] Significant Financial Interest:以下簡稱SFI
[6]A. Conflict of Interest Policies, 2., PAPPG, https://www.nsf.gov/pubs/policydocs/pappg17_1/pappg_9.jsp (Last visited, June 14, 2017)
[7] 參NSF之財務揭露表
[8] 原文請參照：‘The term "significant financial interest" means anything of monetary value, including, but not limited to, salary or other payments for services (e.g., consulting fees or honoraria); equity interest (e.g., stocks, stock options or other ownership interests); and intellectual property rights (e.g., patents, copyrights and royalties from such rights).’. 參A. Conflict of Interest Policies, 2., PAPPG, https://www.nsf.gov/pubs/policydocs/pappg17_1/pappg_9.jsp (Last visited, June 14, 2017)
[9]原文請參照：‘A.2.e. an equity interest that, when aggregated for the investigator and the investigator’s spouse and dependent children, meets both of the following tests: does not exceed $10,000 in value as determined through reference to public prices or other reasonable measures of fair market value, and does not represent more than a 5% ownership interest in any single entity;’由此段文字反推而出。 https://www.nsf.gov/pubs/policydocs/pappg17_1/pappg_9.jsp (Last visited, June 14, 2017)
[10]原文請參照：‘A.2.f. salary, royalties or other payments that, when aggregated for the investigator and the investigator’s spouse and dependent children, are not expected to exceed $10,000 during the prior twelve-month period.’由此段文字反推而出。 https://www.nsf.gov/pubs/policydocs/pappg17_1/pappg_9.jsp (Last visited, June 14, 2017)
[11] A. Conflict of Interest Policies, 4. PAPPG, https://www.nsf.gov/pubs/policydocs/pappg17_1/pappg_9.jsp (Last visited, June 14, 2017)
[12] 加州柏克萊大學設有利益衝突委員會而史丹佛大學則由學院長指定專人審查。
[13] 原文為：‘‘A conflict of interest exists when the reviewer(s) reasonably determines that a significant financial interest could directly and significantly affect the design, conduct, or reporting of NSF-funded research or educational activities.’’ A. Conflict of Interest Policies, 4. supra note 6.(黑體字為本文所強調)
[14]原文為：‘‘4.An organizational policy must designate one or more persons to review financial disclosures, determine whether a conflict of interest exists, and determine what conditions or restrictions, if any, should be imposed by the organization to manage, reduce or eliminate such conflict of interest.’’ A. Conflict of Interest Policies, 4. supra note 6. (黑體字為本文所強調)
[15] A. Conflict of Interest Policies, 4. supra note 6.
[16]參科技部補助產學合作研究計畫作業要點第一章通則之六、（迴避規定）以下。
[17]參科技部補助產學合作研究計畫書第三頁, https://www.most.gov.tw/folksonomy/list?menu_id=4dda1fd8-2aa9-412a-889b-9d34b50b6ccd&l=ch（最後瀏覽日：2017/06/14）
[18] 經查科技部補助產學合作研究計畫作業要點無相關規定。
[19] 黃麗芸，〈科技基本法三讀，行政教職可兼新創董事〉，中央社，2017/05/26, https://finance.technews.tw/2017/05/26/administrative-staff-can-be-start-up-company-director/ (最後瀏覽日：2017/07/17)
[20]請參照科技部公告〈政府科學技術研究發展成果歸屬及運用辦法部分條文修正草案對照表〉內修正條文第五條第三項之四、利益迴避、資訊揭露管理：受理資訊申報、審議利益迴避、公告揭露資訊 等程序，並落實人員、文件及資訊等保密措施。及修正條文第五條之一及修正條文第五條之二等相關條文。 https://www.most.gov.tw/most/attachments/61706f66-80b1-4812-9d6a-3fb140ab21f9 (最後瀏覽日：2017/07/17) （粗體字為本文強調所加）。
[21]請參照科技部公告〈從事研究人員兼職與技術作價投資事業管理辦法部分條文修正草案對照表〉內修正條文第七條學研機構應就依本辦法之兼職或技術作價投資設置管理單位，訂定迴避及資訊公開之管理機制，包括設置審議委員會、適用範圍、應公開揭露或申報事項、審議基準及作業程序、違反應遵行事項之處置、通報程序及教育訓練等。 https://www.most.gov.tw/most/attachments/db227464-b0f8-4237-ae7c-d6eb712ff3f7 (最後瀏覽日：2017/07/17)（黑體字為本文強調所加）。
[22] 參美國聯邦衛生部（HHS)於2011年修改旗下PHS之研究基金申請規則之背景說明（42 CFR part 50, subpart F and 45 CFR part 94 (the 1995 regulations), that are designed to promote objectivity in PHSfunded research.）。Responsibility of Applicants for Promoting Objectivity in Research for Which Public Health Service Funding Is Sought and Responsible Prospective Contractors, 76 Fed. Reg.53,256,53,256(Aug. 25, 2011)(to be codified at 42 CFR Part 50 and 45 CFR Part 94).
- Proposal & Award Policies & Procedures Guide, National Scence Foundation
- A. Conflict of Interest Policies, 2., PAPPG
- ‘The term "significant financial interest" means anything of monetary value, including, but not limited to, salary or other payments for services (e.g., consulting fees or honoraria); equity interest (e.g., stocks, stock options or other ownership interests); and intellectual property rights (e.g., patents, copyrights and royalties from such rights).’. 參A. Conflict of Interest Policies, 2., PAPPG
- A.2.e. an equity interest that, when aggregated for the investigator and the investigator’s spouse and dependent children, meets both of the following tests: does not exceed $10,000 in value as determined through reference to public prices or other reasonable measures of fair market value, and does not represent more than a 5% ownership interest in any single entity;’由此段文字反推而出。
- A.2.f. salary, royalties or other payments that, when aggregated for the investigator and the investigator’s spouse and dependent children, are not expected to exceed $10,000 during the prior twelve-month period.’由此段文字反推而出。
- A. Conflict of Interest Policies, 4. PAPPG
- 參科技部補助產學合作研究計畫書第三頁
- 黃麗芸，〈科技基本法三讀，行政教職可兼新創董事〉，中央社，2017/05/26
- 請參照科技部公告〈政府科學技術研究發展成果歸屬及運用辦法部分條文修正草案對照表〉內修正條文第五條第三項之四、利益迴避、資訊揭露管理：受理資訊申報、審議利益迴避、公告揭露資訊 等程序，並落實人員、文件及資訊等保密措施。及修正條文第五條之一及修正條文第五條之二等相關條文。
- 請參照科技部公告〈從事研究人員兼職與技術作價投資事業管理辦法部分條文修正草案對照表〉內修正條文第七條學研機構應就依本辦法之兼職或技術作價投資設置管理單位，訂定迴避及資訊公開之管理機制，包括設置審議委員會、適用範圍、應公開揭露或申報事項、審議基準及作業程序、違反應遵行事項之處置、通報程序及教育訓練等。
吳建興
法律研究員 編譯整理
2024年德國預計制訂或修正多部法規，以達成2023年8月公布的德國資料戰略《透過資料利用取得進展》（Fortschritt durch Datennutzung）文件中所設定的目標。該戰略由內政部、經濟與氣候行動部、數位與交通部聯合訂定，規劃德國資料政策與法規的工作進程，以期打破資料封閉的現狀、拓展資料應用的範圍。 德國資料戰略目標與重點摘要如下： 1.更多的資料： (1)公部門資料：藉由統整跨部門的資料增加資料的可近用性，並透過新訂法規提升資料近用機會，包括《交通資料法》（Mobilitätsdatengesetz）確保交通資料的品質和使用規則、《聯邦透明度法》（Bundestransparenzgesetz）作為取得政府資料的法源依據、《研究資料法》（Forschungsdatengesetz）簡化科研資料的取得，以及為增加健康資料二次利用起草的《健康資料利用法》。 (2)私部門資料：德國政府將訂定並提供資料共享之契約範本，以降低資料的交易、操作成本，並評估增修公平競爭相關法規來協助企業間的資料合作。另將新訂《員工資料保護法》（Beschäftigtendatenschutzgesetz），重整散於歐洲人權法院及德國國內與員工資料相關之規範。 2.更好的資料：德國將積極參與國際資料標準訂定與遵循，確保資料的品質、互操作性，以及標準化的資料描述。相關工作包括草擬關於業者使用cookie等數位追蹤技術如何取得使用者同意的管理規範，並將依歐盟準則評估是否訂定不法重新識別之刑責；另外預計建立文化、農業等主題資料室用以協助政府決策。 3. 資料利用和資料文化：為使資料可持續地利用與發展，政府機關方面將設置資料專責人員，並在以政府資料訓練大型語言模型技術時由新設的資料諮詢中心協助。公民數位能力方面，將於STEM 2.0教育計畫中規劃培育資料概念，促進未來社會發展出更多樣的資料應用機會。 德國資料戰略涉及政府、企業、研究單位和公民各層面，顯示資料的重要性逐漸成為德國重大的課題，亦是我國在建立資料治理時如何確保資料品質、交換義務與使用規則的參考方向。
英國法院命令ISP業者提供用戶資料據統計，英國因為盜版軟體的猖獗，每年損失高達16億英鎊，且有持續上升之趨勢。為遏止網路侵權行為，英國高等法院（the High Court）日前命令該國包含BT、NTL、Telewest等10家ISPs業者，需提供用戶資料以協助權利人進行網路侵權行為案件之調查。 本案源自於反盜版聯盟（ Federation Against Software Theft，簡稱Fast）於2005年1月之要求。FAST經過長達一年之調查，鎖定了150個利用P2P軟體非法進行資料分享之個人，為進一步取得渠等之個人資料，Fast於日前請求英國法院，命令各該業者交出相關侵權者之資料。高等法院根據資料保護法（Data Protection Act）之規定，同意Fast之請求，下令ISPs業者必須在兩個禮拜內提供侵權行為人之姓名、地址與其他個人詳細資料，以利Fast會同警察及檢察官進一步調查侵權情形並提起告訴。 目前軟體業者對於網路盜版軟體之處理方式，大多是透過『通知即取下』（ Notice and Take-down）程序，要求網站業者協助，將侵權軟體刪除或移除連結，但遭取下之連結，隨時有可能在其他網站上再次被公布，並無法真正解決侵權行為之問題。唯有直接將侵權者繩之以法，始可能達到嚇阻之效果。但權利人卻往往礙於難以取得侵權者之真實姓名與聯絡方式，而無法對侵權者有效提起民刑事訴訟以維護其權利。Fast表示，此次行動只是其策略的第一步，最終希望能達到在發現網路侵權行為發生之當下，便能立即要求ISPs業者提供該侵權行為者之資料。 若侵權行為罪名成立，這些透過 P2P 軟體進行網路侵權行為者將可能被處以 2 年以下有期徒刑或無上限之罰金。
美國USPTO於20260311新增本土製造等IRP與PGR立案之裁量因素美國專利商標局（United States Patent and Trademark Office, USPTO）於2026年3月11日發布備忘錄，聲明專利審理暨訴願委員會（Patent Trial and Appeal Board, PTAB）審查多方複審（inter partes review, IPR）與核准後複審（post-grant review, PGR）立案時，除既有程序與實體因素外，將納入美國本土製造、製造投資及小企業被告等裁量因素。USPTO引用35 U.S.C. §§316(b)、326(b)，說明USPTO局長在IPR/PGR立案時須考量經濟、專利制度完整性、行政效率與法定期限等因素；並補充電子、電腦等製造業外移已涉及經濟安全風險。本備忘錄原則將立即適用於現有裁量中的IPR/PGR案件。 內容要點： 過去立案考量包含： 1.實體因素，如先前技術、是否有平行訴訟、無效理由強弱等 2.裁量因素，如涉及公共衛生等利益、PTAB工作負荷量等 本次新增之裁量因素： 1.被控侵權產品是否在美製造或涉及美國製造投資 2.專利權人競爭產品在美製造比例 3.請求人是否為遭控侵權小企業 製造認定： 1.除最終組裝地外，也看零組件來源、境外後續加工 2.方法請求項則檢視實施該方法之裝置 2025年後，USPTO針對PTAB程序立案程序建立裁量與實體二階審查，擴張了USPTO局長的裁量權。本次備忘錄中，裁量因素進一步連結產業、國安與供應鏈政策，其對於立案與否的實質影響力超越過去廠商主要依賴的實體因素。臺灣廠商應關注USPTO後續如何界定「美國製造」與「實質投資」；若產品、零組件或委託製造合作具美國布局，應保存投資、產線、供應鏈與就業證據，作為專利攻防與PTAB程序中的策略資產。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局（Infocomm Media Development Authority，下稱IMDA）於2026年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI，下稱示範框架）第1.5版，以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向，同時提供真實部署案例，將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧，代理AI能自主規劃、跨多步驟採取行動，並與其他代理及外部系統互動，代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境，例如更新客戶資料庫或執行付款，風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過，以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心，仍落在AI應用與輸出風險，對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展，更新其代理AI治理框架，新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式，為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件，但每一元件之設計皆可能顯著影響代理能力，故思考代理能做什麼時，應區分兩個概念：一為行動空間（action-space），指代理可採取之行動範圍，取決於其獲准使用之工具及該等工具上之權限；二為自主性（autonomy），指代理朝目標行動時可自行決定如何行動之程度，取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素，不同的權限與自主程度，將會使性質同為代理AI，歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新，真正變化在於這些風險因代理AI會在真實世界採取行動，速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止，而要求人類持續監督又可能導致自動化偏誤與警示疲勞，致某一步驟之錯誤可能於後續步驟間傳播並放大。因此，當系統由多個代理構成，敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能，會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向，提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環，透過監測發現異常時，即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險：組織可於規劃階段設計適當邊界，以限縮代理之影響範圍，例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施，確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責：「人在迴路」（human-in-the-loop）須加以調整，以因應自動化偏誤，一旦代理AI之部署獲得放行，組織即應採取措施確保人為當責，並應迅速掌握新發展，隨技術演進更新其作法。 (三)落實技術控制與流程：組織應於代理生命週期全程實施技術措施，且由於代理與其環境動態互動、且非所有風險均能事前預見，爰建議逐步推出代理，並於部署後持續監測。 (四)促成終端使用者盡責：應告知使用者代理之行動範圍、資料存取情形，以及使用者自身之責任。組織並應考量另行提供教育訓練，使員工具備管理人機互動、行使有效監督所需之知識，同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率，嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍（讀取相對於寫入）及可回復性；發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度，並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境，推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上，示範框架主張系統層確定性控制優於提示層防護，亦即與其提示代理AI不得存取特定工具，不如施加存取控制使該工具根本無法被呼叫。除靜態防護外，框架另強調在設計之初就要納入控制措施，在執行過程中監測並介入，例如如限制防止工具使用過度，或以輸入驗證的方式，在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法，示範框架建議可於協定層就善用模型上下文協定（Model Context Protocol，MCP）過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時，該框架以事例建議組織可採取這些控制的技術手段，如：於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證；於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制；於連結時，將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式，該示範框架建議應先界定須經人為核准之查核點或行動界線，尤其在高風險、不可回復或離群行為之前。其次，設計核准之形式，使請求切合脈絡且易於理解、清楚呈現風險，並依情形選擇所需之人為輸入。但最關鍵的是，須將監督的有效性本身納入稽核，包括追蹤人為否定率偏低，或審查回應時間有過短情況時，即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞，並辨識決策明顯偏離常態之「離群」人員，同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險，示範框架建議的因應是將身分管理延伸至代理，但其亦指出現行授權系統多為預先定義之靜態範圍，難以因應代理依情境動態變化之細粒度權限；於過渡期間，建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作，故應測試整體任務執行、政策遵循度與工具使用正確性，非僅測最終輸出；且應個別測試與合併測試，以掌握多代理協作時之湧現風險。就部署後，框架主張逐步推行，可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面，應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡，並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布，此次更新納入多個組織導入代理AI的實例回饋，擴充多代理系統之系統性風險，補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」，而代理式治理之對象，則係能呼叫工具、寫入系統、執行交易之能行動系統，風險延伸至「行動」及其真實後果。因此，其建議應由單一之模型輸出品質，轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理；由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則，適對應示範框架的人為當責、系統層控制與監督指標化建議。同時，依基本法第16條規定數位發展部應參考國際標準或規範，推動與國際介接之人工智慧風險分類框架，並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範，並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上，跨入多任務自主執行的功能層次，風險的質與量已因代理功能出現系統性擴大效應的情況下，單純以生成式AI為標的治理規範或指引，顯然其可產生的規範管理或指引提醒的效果，已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架，雖然亦表明代理AI的風險並非其所獨有，亦是來自於生成式AI的既有影響，但該框架進一步提醒代理AI將使風險控制更加困難，「人在迴路」（human-in-the-loop）須加以調整，一旦代理AI之部署獲得放行，組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」，並應迅速掌握新發展，運用技術手段強化風險監測。其中喻意深遠的是，該框架就終端使用者所提基礎技藝維持之警示，即代理AI接手任務恐致技能退化與業務永續風險，或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有，如需引用或轉載，請註明出處。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA），《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第一‧五版，二〇二六年五月二十日發布、同年六月五日更新，https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf（最後瀏覽日：二〇二六年七月六日）。 [2]《人工智慧基本法》，民國一百十四年十二月二十三日經立法院三讀通過，全文二十條，二〇二六年一月公布施行，中央主管機關為國家科學及技術委員會。 [3] 前揭註1，頁8、15（分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」）。 [4] 同前註，頁11。 [5] 詳前註1，頁3~4。 [6] 同前註，頁15至18。 [7] 同前註，頁33至34。 [8] 同前註，頁30。 [9] 同前註，頁29至32。 [10] 同前註，頁23至24。 [11] 同前註，頁42至45。