德國聯邦網路局(BNetzA)於2019年3月7日公布電信網路營運安全發展需求目錄關鍵要點。該要點係德國聯邦網路局電信通訊法第109條第6項規定,與聯邦資訊安全局(BSI)和德國聯邦資料保護與資訊自由委員會(BfDI)達成協議後制定,並由德國聯邦網路局發布之。此尤其適用於在德國發展5G網路,因該技術係為未來核心關鍵基礎設施,為確保技術發展之安全性,電信網路公司必須滿足相關安全要求。鑑於5G對未來競爭力極具重要性,故用於構建5G之技術必須符合最高安全標準,且應盡可能排除安全問題,該標準同樣適用於所使用的硬體和軟體。附加的安全目錄要點基本內容如下:
(1)系統僅允許從嚴格遵守國家安全法規及電信保密和隱私法規,且值得信賴之供應商處獲得。
(2)必須定期且持續監控網路流量異常情況,如有疑問,應採取適當的保護措施。
(3)僅可使用經聯邦資訊安全局對其IT安全性檢查核可且取得認證之安全相關的網路和系統組件(以下簡稱關鍵核心組件)。關鍵核心組件僅能從獲得信賴保證之供應商/製造商中取得。
(4)安全相關的關鍵核心組)應在交付期間進行適當之驗收測試後方能使用,且須定期和持續進行安全檢查。關鍵核心組件之定義將由德國聯邦網路局和聯邦資訊安全局共同協議訂定。
(5)在安全相關領域,只能聘用經過培訓之專業人員。
(6)電信網路營運商須證明所使用的產品中,實際使用經測試合格之安全相關組件硬體和供應鏈末端的原始碼。
(7)在規劃和建立網路時,應使用來自不同製造商的網路和系統組件,以避免類似「單一耕作」(Monokulturen),即避免技術生態圈無法均衡發展,以及易受市場波動影響之不良效應。
(8)外包與安全相關勞務時,僅可考慮有能力,可靠且值得信賴的承包商。
(9)對於關鍵且與安全相關的關鍵核心組件,必須提供足夠的冗餘(Redundanzen)。
鑑於德國於3月中旬已拍賣5G頻譜,聯邦政府將大力推廣附加要求,並讓相關企業可以清楚了解進一步計畫。為確保立法層面之具體要求,聯邦政府計畫將對電信法第109條作重大修訂。明確規定操作人員必須證明符合安全規範,並由法律規範相關認證義務。針對關鍵基礎設施中使用的關鍵核心組件應來自可信賴之供應商/製造商,應適用於整體供應鏈。此外,德國聯邦政府擬針對聯邦資訊安全局法進行修訂,包括關鍵基礎設施、其組件可信賴性之相關規範。依聯邦資訊安全局法第9條規定,將在認證框架內提供可信賴性證明。
本文為「經濟部產業技術司科技專案成果」
中國大陸商業特許經營相關法律法規分析 科技法律研究所 法律研究員 汪奇蕙 2015年03月20日 連鎖加盟(中國大陸稱商業特許經營)在台灣或許已經是一種發展成熟的商業模式,對於中國大陸而言,則是上世紀80年代經濟改革之後才始見,相對於台灣市場或世界其他先進經濟體,中國大陸起步較晚,但是發展快速。眼見連鎖加盟行業在中國大陸的發展時機越趨成熟,台商界也掀起連鎖加盟的熱潮。 但在秩序相對混亂、競爭相對激烈的中國大陸市場,經營面向的風險也許難以預先掌控,但是複雜的相關政策和規定則是要前往該地投資的台商必須正視並且了解的,本文提供商業特許經營(以下簡稱特許經營)相關法規的分析,期待在發展商業之餘,台資特許人可以更敏銳的維護自身權利。 壹、主管法律法規 2007年開始,中國大陸第一部特許經營專門法令《商業特許經營管理條例》(以下簡稱《管理條例》)以及配套的《商業特許經營備案管理辦法》(以下簡稱《備案管理辦法》)、《商業特許經營信息披露管理辦法》(以下簡稱《信息披露管理辦法》)由國務院及其下屬機關陸續頒布施行,讓中國大陸連鎖加盟的法令更加完善。 《管理條例》中介紹有關中國大陸政府對特許經營的定義內容,特許經營權的內容是指特許人擁有或有權授予他人使用註冊商標、企業標誌、專利、專有技術等經營資源[1]。註冊商標、企業標誌或商號是表彰該特許經營事業的品牌,具有讓消費者迅速辨識獨特商品或服務的商業利益;專利、專有技術(包含管理系統及特定商業模式)則是支持商品或服務內容具有獨特性、競爭力的特許經營事業技術。 《管理條例》對於特許人的資格條件、特許經營事業備案、特許合同內容要件、特許人的信息披露義務以及特許人違反該條例的罰則皆有概括的規範。《備案管理辦法》、《信息披露管理辦法》也是在上位的《管理條例》法規授權下逐步生成,成為具體行政施行的準則。 貳、關於特許人資格 依照《管理條例》規定,特許人資格條件有二個方面需要具備。 一、只有企業法人有資格成為特許人。 企業以外的單位和個人都不能成為特許人[2]。 二、特許人必須有成熟的經營模式[3]。 特許人在發展加盟以前應當至少擁有2個直營超過1年的直營店。而且特許人要具備持續提供被特許人經營指導、技術支持和業務培訓等服務能力,上述各種能力,特許人在備案過程將被要求提供證明文件,比如備案時特許人要提交與經營活動相關的商標權、專利權有效的註冊證書;此外,《信息披露管理辦法》中要求特許人要事先披露擁有的經營資源情況和持續提供被特許人服務的情況[4]。 參、關於特許合同要件[5] 以下為《管理條例》所列舉的合同要件及簡要說明: 一、特許人、被特許人的基本資訊 如雙方地址、連絡方式、公司註冊號碼等。 二、特許經營的內容、期限 特許人持有的特許經營系統、經營範圍介紹,特許人授予被特許人的特許經營權性質(單店特許或區域特許[6]),被特許人的特許經營活動和範圍限制(營業地及加盟店介紹、被授予的特許經營權是否具有獨占性或排他性),特許經營合同的期限[7]以及可續期條件等。 三、特許經營費用的種類、金額及其支付方式 加盟費用、保證金、其他約定費用及雙方約定分攤費用的支付比例(如房地產和裝修費用、設備等購置費;管銷費用等),支付方式及收取後的確認方式。 四、經營指導、技術支持以及業務培訓等服務的具體內容和提供方式 約定被特許人是否有義務要接受特許人定期或不定期的經營活動指導、檢查,以利整體特許經營事業的統一性發展。 五、產品或服務的質量、標準要求和保證措施 特許人可依產品或服務的性質自己建立品管的標準要求。 六、產品或者服務的促銷與廣告宣傳 是否允許被特許人自行策劃,以及其可從事推廣或宣傳活動的範圍。 七、特許經營中的消費者權益保護和賠償責任的承擔 約定雙方因故意或過失造成消費者權益受損或整體特許經營事業所受損失(包含商譽損失)的責任承擔。 八、特許經營合同的變更、解除和終止 被特許人是否可以轉讓特許經營內容及合同義務,及可以轉讓的條件(如事前通知期)。建議特許人要保留因被特許人自行對消費者提供瑕疵產品或服務以至於消費者對特許人求償損失的追索權利,以及因被特許人故意或過失造成整體特許經營事業所受損失(包含商譽損失)的求償權利。 九、違約責任 約定雙方違反合同條款約定行為的法律後果。 十、爭議的解決方式 雙方有爭議時的調解管道,以及若欲訴訟,約定訴訟管轄地等。 肆、關於特許經營事業備案[8] 為加強對特許經營行業的管理,協助潛在被特許人了解該特許事業的基本資訊,《管理條例》設立了事後備案的監管制度。 特許人應自首次訂立合同之日15日內向商務主管部門備案。應向特許人所在地的省、自治區、直轄市政府的商務主管部門備案。跨省的特許經營事業應該向國務院商務部備案。 中國大陸目前已啟用網路備案方式以加快備案手續及效率,特許人登錄國務院商務部主管的《中國商業特許經營網》[9]註冊後,將註冊完成的特許人信息表和相關紙本文件[10]帶到當地備案管理部門[11]進行審核,審核通過後備案管理部門會發給特許人備案系統登錄帳號和登錄密碼。特許人登錄在《中國商業特許經營網》的特許經營備案系統後,可以在網路上進行《備案管理辦法》中規定的資料填寫或電子檔案的上傳工作。 伍、關於特許經營信息披露 除了對特許人資格的具體規定以及建立事後審查制度,中國大陸對於特許經營關係中,授權方特許人應該於特許經營關係成立前應揭露給被特許人知悉的相關資訊也有明確的規範,此種規範除了保障被授權人可在資訊透明的條件下做出商業決策,當特許人的特許資料登錄於信息披露網站,也有助於潛在投資人對於該商業規劃的了解,間接促進了整體特許經營行業的能見度和活躍性。 根據《信息披露管理辦法》的規定,特許人在訂立特許經營合同前至少30日應以書面形式向被特許人提供有關資訊和特許經營合同文本。 對於違反特許經營信息披露的特許人,除依《管理條例》第27條規定受行政罰則外,依《管理條例》第23條規定,特許人隱瞞有關訊息或提供虛偽不實訊息的,被特許人享有法定解除權。 法律實務中,法院會綜合考量特許人所隱瞞的程度或者所提供的虛偽不實訊息的重要性、與事實的差異性來區分是惡意詐欺還是商業話術,盡可能維護特許經營合同的穩定性,避免被特許人一旦經營失敗就把全部責任轉嫁給特許人[12]。 陸、特許經營合同知識產權授權特別注意要點 特許經營事業中以知識產權(智慧財產權)的授權為主要內容,應在特許經營合同中一併約定使用條件,特許人應以事前具體約定方式完整保護知識產權及特許經營事業。 一、約定具體的特許經營範圍 特許經營權的授予是屬於單店特許或是區域特許,單店特許者應明定單店資訊,區域特許者應界定區域範圍(如城市、省名)。 特許經營權的授予是否具有獨占性、排他性、非排他性。被特許人可否自行再設立其他分店或以特許人身分再授予第三方。 二、約定知識產權的使用方式 被特許人須依特許人的要求來使用特許經營資源,如商標的使用方式、使用位置,可以用特許人的經營手冊加以細化。 三、約定知識產權授權後被特許人的義務 被特許人以特許人授予的知識產權開展經營後,應當盡的品質保證、品質監督義務。特許經營合同中除概括被特許人監督產出責任外,也可以列舉方式約定被特許人的監督義務,例如被特許人應監督其雇用人員按照特許人約定的方式出產商品或服務、定期向特許人提出產品質量檢查報告。 四、約定特許人監督特許經營事業的權利 除了被動等待被特許人提交經營報告(可包含營業狀況以及財報),特許合同應保留特許人主動對特許經營事業進行檢查、監督、考核的權利,並要求被特許人在合約期間應執行特許人檢查考核後的跟營業相關的決策。 五、約定合同到期後的被特許人使用特許經營資源的狀況 約定特許經營關係結束後,被特許人是否能再以特許人加盟店的形式進行商業活動,包含被特許人是否應向原註冊機關進行註銷登記(如註銷營業執照或變更企業名稱),是否能再使用特許人商標。 另外,因特許經營權授予而獲得的商標以外的相關知識產權(如手冊、培訓教案、軟體等)也應約定是否還能繼續使用。 柒、結論 特許經營事業的成功,除取決於特許人法律法規的掌控,對各項與特許資源相關的知識產權的保護也是維持特許事業穩定成長的重要策略。中國大陸政府因為特許經營事業的特殊性而制定特別的法律及行政規則,期待本文對特許經營法律法規的介紹以及相關知識產權授權應留意的面向建議能對有意前往對岸投資的台資特許人產生實質幫助。 [1]《商業特許經營管理條例》第3條(中國國務院令第485號2007.02.06)。 [2]《商業特許經營管理條例》第3條(中國國務院令第485號2007.02.06)。 [3]《商業特許經營管理條例》第7條(中國國務院令第485號2007.02.06)。 [4]《商業特許經營信息披露管理辦法》 第5條(中華人民共和國商務部令2012年第2號2012.02.23)。 [5]《商業特許經營管理條例》第11條(中國國務院令第485號2007.02.06)。 [6]指特許人授予的特許經營權是僅限於單一加盟店使用或是某一地理區域內可成立數個加盟店。 [7]《商業特許經營管理條例》第13條 規訂合同約定的特許經營期限應該不少於3年,但雙方如有其他約定,可以在合同中註明,即只需雙方合意就可更改特許經營期限。 [8]《商業特許經營管理條例》第8條(中國國務院令第485號2007.02.06)。 [9]主頁,中國商業特許經營網http://txjy.syggs.mofcom.gov.cn/ 。 [10] 各地方主管機關要求的紙本文件可能不一。 [11] 當地的商務委員會。 [12] 王樹章、吳平平,《關於商業特許經營合同審判實踐若干問題的調研報告》,知識產權庭課題組,頁9。
澳洲及紐西蘭公路監理機關聯合會發布輔助與自動車輛駕駛之教育與訓練研究報告澳洲及紐西蘭公路監理機關聯合會(Austroads)於2020年3月18日發布「輔助駕駛及自動駕駛車輛之駕駛人教育及訓練報告(Education and Training for Drivers of Assisted and Automated Vehicles)」,該報告目的在於研究有哪些技巧、知識與行為,為目前與未來人們使用具有輔助或自駕功能車輛所需具備的;並檢視註冊與發照之相關機關應擔任何種角色,以確保駕照申請人具有足夠能力以使用相關科技。報告中所關注之輔助與自駕車輛,為具有SAE自動駕駛層級第0至第3級之輕型或重型自駕車輛;目前澳洲道路規範並未禁止第3級之自駕車使用,但駕駛人仍應保持對車輛之控制且不得同時進行其他行為。 報告認為目前之駕駛執照發照架構尚不需改變,但註冊與發照機構仍可於輔助與自動駕駛車輛的學習與評估中扮演一些角色,包含: 鼓勵經銷商、製造商與相關利益團體進行有關如何安全運用相關系統,同時避免過度依賴之教育與訓練。 支持將自駕車技術相關之特定重要資訊整合進所有層級之教育與訓練中,但不使用強制性之評估程序進行能力評估。 應關注如何於澳洲設計規範(Australian Design Rules, ADRs)或澳洲新車評估計畫(Australasian New Car Assessment Program, ANCAP)中規範特定車輛之安全公眾教育、整合重要資訊於既有的知識與技術訓練,以及建立強制之學習計畫。 未來澳洲及紐西蘭公路監理機關聯合會將繼續發展相關計畫以實施本報告中之相關建議,以使教育訓練系統更加完善。
歐盟RELIEF計畫於今(2016)年11月展開前商業化採購之市場公開徵詢有鑑於許多歐盟國家為日漸高漲的健康照護成本所困,歐盟於Horizon 2020政策下陸續推動會員國合作以更有效益的創新採購方式進行健康照護計畫的推展,以降低健康照護預算的壓力,RELIEF計畫即屬其一。歐盟於2016年2月啟動RELIEF計畫,聯合義大利、西班牙、瑞典三國,目的在發展創新ICT解決方案以協助慢性病患透過自我管理方式舒緩慢性疼痛、能夠持續獨立生活。欲採購的ICT創新服務為目前尚不存在於市場上、仍需經研發之解決方案,實為針對慢性疼痛自我管理解決方案的「研發服務」,該計畫係採「前商業化採購(Pre-Commercial Procurement, PCP)」方式進行跨國公告招標。目前RELIEF計畫正在進行PCP準備階段之公開市場徵詢,除了透過2個月(今年11、12月)的公開線上問卷調查業者意見,另將以workshop形式舉辦三場公開市場徵詢會議。 RELIEF計畫另一重要目標就是透過此計畫以建立完整PCP流程,讓未來參與相關計畫的公部門能夠熟悉並妥善運用PCP流程及工具 。「前商業化採購」為歐盟廣泛創新戰略中所指出能協助公部門採購「研發服務」的特殊採購程序,以滿足尚未存在市場上、仍需經研發的技術性創新需求,此程序不包含對研發成果的商業化採購,亦不受政府採購法之規範,能夠從需求面刺激廠商創新研發,讓研發從一開始即以機關需求為核心。 RELIEF計畫劃分為PCP之準備階段以及執行階段。於準備階段會進行PCP招標文件準備、採購團隊的需求及現有技術分析、公開市場徵詢(Open Market Consultation, OMC);由於採購機關對其需求尚無具體的規格描述,必須經廣泛的市場意見徵詢與溝通以進一步定義,正在進行中的OMC將聚集採購團隊、潛在投標者(例如對健康照護、數位照護、病患賦權與互動性有鑽研之ICT業者)、終端使用者等,以廣蒐相關利害關係團體意見並進行充分互動溝通,作為執行階段的重要參考基礎。 PCP正式公告後的執行階段即區分為階段A「解決方案設計(Solution design)」(計半年)、階段B「原型開發(Prototype development)」(計半年)、階段C「商業化前開發:場域測試(Pre-commercial development: field test)」(計一年)。各階段將設定參與廠商應達成目標,以篩選出較符合需求者始得進入下一階段,以維持廠商間良性競爭,於階段C最後決標予研發成果最符合計畫需求之廠商(可能1家以上)。 歐盟目前的創新推動策略上PCP屬尚未被充分運用的工具,從該計畫的規劃可見準備階段對後續PCP執行階段的重要性,透過其示範可供政策規劃者為借鏡,運用創新採購驅動產業創新發展以更有效益解決社會與政府需求。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局(Infocomm Media Development Authority,下稱IMDA)於2026年5月20日發布《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI,下稱示範框架)第1.5版,以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向,同時提供真實部署案例,將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧,代理AI能自主規劃、跨多步驟採取行動,並與其他代理及外部系統互動,代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境,例如更新客戶資料庫或執行付款,風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過,以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心,仍落在AI應用與輸出風險,對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展,更新其代理AI治理框架,新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式,為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件,但每一元件之設計皆可能顯著影響代理能力,故思考代理能做什麼時,應區分兩個概念:一為行動空間(action-space),指代理可採取之行動範圍,取決於其獲准使用之工具及該等工具上之權限;二為自主性(autonomy),指代理朝目標行動時可自行決定如何行動之程度,取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素,不同的權限與自主程度,將會使性質同為代理AI,歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新,真正變化在於這些風險因代理AI會在真實世界採取行動,速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止,而要求人類持續監督又可能導致自動化偏誤與警示疲勞,致某一步驟之錯誤可能於後續步驟間傳播並放大。因此,當系統由多個代理構成,敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能,會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向,提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環,透過監測發現異常時,即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險:組織可於規劃階段設計適當邊界,以限縮代理之影響範圍,例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施,確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責:「人在迴路」(human-in-the-loop)須加以調整,以因應自動化偏誤,一旦代理AI之部署獲得放行,組織即應採取措施確保人為當責,並應迅速掌握新發展,隨技術演進更新其作法。 (三)落實技術控制與流程:組織應於代理生命週期全程實施技術措施,且由於代理與其環境動態互動、且非所有風險均能事前預見,爰建議逐步推出代理,並於部署後持續監測。 (四)促成終端使用者盡責:應告知使用者代理之行動範圍、資料存取情形,以及使用者自身之責任。組織並應考量另行提供教育訓練,使員工具備管理人機互動、行使有效監督所需之知識,同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率,嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍(讀取相對於寫入)及可回復性;發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度,並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境,推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上,示範框架主張系統層確定性控制優於提示層防護,亦即與其提示代理AI不得存取特定工具,不如施加存取控制使該工具根本無法被呼叫。除靜態防護外,框架另強調在設計之初就要納入控制措施,在執行過程中監測並介入,例如如限制防止工具使用過度,或以輸入驗證的方式,在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法,示範框架建議可於協定層就善用模型上下文協定(Model Context Protocol,MCP)過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時,該框架以事例建議組織可採取這些控制的技術手段,如:於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證;於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制;於連結時,將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式,該示範框架建議應先界定須經人為核准之查核點或行動界線,尤其在高風險、不可回復或離群行為之前。其次,設計核准之形式,使請求切合脈絡且易於理解、清楚呈現風險,並依情形選擇所需之人為輸入。但最關鍵的是,須將監督的有效性本身納入稽核,包括追蹤人為否定率偏低,或審查回應時間有過短情況時,即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞,並辨識決策明顯偏離常態之「離群」人員,同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險,示範框架建議的因應是將身分管理延伸至代理,但其亦指出現行授權系統多為預先定義之靜態範圍,難以因應代理依情境動態變化之細粒度權限;於過渡期間,建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作,故應測試整體任務執行、政策遵循度與工具使用正確性,非僅測最終輸出;且應個別測試與合併測試,以掌握多代理協作時之湧現風險。就部署後,框架主張逐步推行,可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面,應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡,並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布,此次更新納入多個組織導入代理AI的實例回饋,擴充多代理系統之系統性風險,補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」,而代理式治理之對象,則係能呼叫工具、寫入系統、執行交易之能行動系統,風險延伸至「行動」及其真實後果。因此,其建議應由單一之模型輸出品質,轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理;由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則,適對應示範框架的人為當責、系統層控制與監督指標化建議。同時,依基本法第16條規定數位發展部應參考國際標準或規範,推動與國際介接之人工智慧風險分類框架,並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範,並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上,跨入多任務自主執行的功能層次,風險的質與量已因代理功能出現系統性擴大效應的情況下,單純以生成式AI為標的治理規範或指引,顯然其可產生的規範管理或指引提醒的效果,已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架,雖然亦表明代理AI的風險並非其所獨有,亦是來自於生成式AI的既有影響,但該框架進一步提醒代理AI將使風險控制更加困難,「人在迴路」(human-in-the-loop)須加以調整,一旦代理AI之部署獲得放行,組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」,並應迅速掌握新發展,運用技術手段強化風險監測。其中喻意深遠的是,該框架就終端使用者所提基礎技藝維持之警示,即代理AI接手任務恐致技能退化與業務永續風險,或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有,如需引用或轉載,請註明出處。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/) [1]新加坡資訊通信媒體發展局(Infocomm Media Development Authority, IMDA),《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI)第一‧五版,二〇二六年五月二十日發布、同年六月五日更新,https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf(最後瀏覽日:二〇二六年七月六日)。 [2]《人工智慧基本法》,民國一百十四年十二月二十三日經立法院三讀通過,全文二十條,二〇二六年一月公布施行,中央主管機關為國家科學及技術委員會。 [3] 前揭註1,頁8、15(分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」)。 [4] 同前註,頁11。 [5] 詳前註1,頁3~4。 [6] 同前註,頁15至18。 [7] 同前註,頁33至34。 [8] 同前註,頁30。 [9] 同前註,頁29至32。 [10] 同前註,頁23至24。 [11] 同前註,頁42至45。