美國新任總統歐巴馬上台後,終結小布希政府多年來的人類幹細胞研究補助禁令,於今(2009)年3月9日發佈了13505號執行命令(Executive Order)。此執行命令不僅擴大了可接受政府補助之人類幹細胞研究範圍,亦要求美國國家健康研究院(National Institutes of Health, NIH)檢視現存相關指導方針,並於120天內發佈新的規範。因此,NIH隨後於4月23日提出了幹細胞研究指導方針草案。
草案除將持續補助使用成體幹細胞及誘導多能幹細胞之研究外,針對過往無法接受補助之幹細胞類型(即原本為生殖目的之體外受精卵所衍生之幹細胞)也解除了禁令,使得美國科學家可取得更多樣及不受汙染的人類幹細胞。另外,草案也就幹細胞取得之告知後同意條約與流程做詳細的說明。最後,源自於體細胞核移轉(somatic cell nuclear transfer)、單性生殖(parthenogenesis)或為研究目的於體外所製造之胚胎等範疇之幹細胞,將無法接受草案的補助。
雖然草案大幅開放可受補助之範圍,但仍有些使用合乎規定之幹細胞之研究無法接受到補助,故對利害關係人來說,還是要注意草案所規定之限制條件。目前草案仍處於公眾評論之階段,預計不久之後將可正式生效。
本文為「經濟部產業技術司科技專案成果」
中國大陸文化創意產業相關管制規範 科技法律研究所 法律研究員 尤騰毅 101年06月08日 中國大陸針對內、外資企業(含台資企業)的市場開放資格、條件,有不同程度的管制規範。臺灣業者在中國大陸外資管制規範下,亦被定位為外資,故若能透過類似ECFA等貿易協定的談判,爭取較為有利的市場開放措施,將可協助我國相關文創事業進入中國大陸市場。以下就中國大陸針對影視、出版、演出等行業的管制規範,予以整理,以供後續與中國大陸官方協商議題之參酌。 一、中國大陸電影產業相關法令限制 (一)主體經營資格 1.外商僅能透過合作攝製(無法獨資)進行電影拍攝 (1) 電影未開放獨資(境外組織)拍攝,僅能與中國大陸方合作拍攝(電影管理條例第18條) (2) 合作攝製分為三種聯合攝製、協作攝製、委託攝製(中外合作攝製電影片管理規定第5條)。聯合攝製聘用的境外主創人員需要經過廣電總局批准,且外方主要演員比例不得超過主要演員總數的三分之二(中外合作攝製電影片管理規定第13條)。而協作攝製、委託攝製的影片因為不在中國大陸上映,所以無此問題。 2.電影製片單位限於中外合營(合作、合資) (1) 外商無法獨資成立電影製片單位,僅能透過合作、合資的方式進行,並由中方廣電總局提出申請,成立後享有與其國有電影製片單位相同權利與義務。此外,外資投資合作、合資之電影製片單位資本額不得少於500萬元人民幣,且比例不得超過49%。(電影企業經營資格准入暫行規定第6條) 3.電影技術公司,改造電影製片、放映基礎設施和技術設備等相關產業限於中外合營(合作、合資) (1) 電影技術公司,改造電影製片、放映基礎設施和技術設備等相關產業,外商也僅能採取合作、合資的方式投資,且限定資本額不得少於500萬元人民幣,且比例不得超過49%。(電影企業經營資格准入暫行規定第9條) 4.外商不得獨資成立電影院,僅限中外合營(合作、合資) (1) 臺灣業者在大陸投資電影放映業務視同外資。(外商投資電影院暫行規定第10條) (2) 外資不得獨資成立電影院,僅限於合作、合資(外商投資電影院暫行規定第2條)。資本額不得少於600萬元人民幣,且中方投資比例不得低於51%,但針對試點城市中方比例不得低於25%。(外商投資電影院暫行規定第4條) 5.外商無法從事電影發行、放映業務 (1) 關於電影的發行、放映業務僅限其國內企業可以經營,外資無法投資(電影企業經營資格准入暫行規定)。 二、中國大陸電視產業相關法令限制 (一)主體經營資格 1.電視劇無法獨資進行拍攝活動,僅能與中國大陸方合作攝製 (1) 禁止外資設立廣播電視節目製作經營公司(外商投資產業指導目錄),僅能與中方企業合作攝製動畫片。(外商投資產業指導目錄) (2) 與台灣地區的法人與自然人,合作製作電視劇,也是適用中外合拍劇的規定。(中外合作製作電視劇管理規定第21條) (3) 中國大陸對中外合作製作電視劇(含電視動畫)節目實行許可制度,也就是說,未經廣電總局批准同意者,不得與境外方合作製作電視動畫片。(中外合作製作電視劇管理規定第4條) (二)內容製作與題材審查 1.合拍劇的題材規劃,須提出立項審查 (1) 合拍劇的題材規劃,須經審查批准。(中外合作製作電視劇管理規定第3條) (2) 有關中外合作製作的電視動畫片,須提出題材規劃立項申請。(中外合作製作電視劇管理規定第6條) (3) 自2008年2月14日起,與臺灣地區及境外的法人、自然人合作製作電視劇立項的分集梗概,每集不少於1500字;與臺灣地區及境外的法人、自然人合作製作電視劇的其他規定,仍參照「中外合作製作電視劇管理規定」執行。(廣電總局關於調整大陸與臺灣合拍電視劇及有境外演職員參與制作的國產電視劇審查管理辦法的通知) (4) 大陸國產合拍劇(含動畫片)只須申請備案。(電視劇內容管理定第8條) (三)播映時段與比例 1.大陸與臺灣合拍電視劇,可視為國產電視劇播出和發行 (1) 自2008年1月1日起,大陸與臺灣合拍電視劇的完成片經廣電總局審查同意後,可視為國產電視劇播出和發行。(廣電總局關於調整大陸與臺灣合拍電視劇及有境外演職員參與制作的國產電視劇審查管理辦法的通知) (四)進口限制 1.進口電視動畫片播放限制 (1) 目前大陸規定動畫頻道、少兒頻道、青少頻道、兒童頻道和其它以未成年人為主要對象的頻道,要嚴格執行每天國產動畫片與引進動畫片播出比例不得低於7:3的規定。(大陸廣電總局「關於加強電視動畫片播出管理的通知」) (2) 自2008年5月1日起,各動畫頻道在每天的黃金時段(17:00-21:00)必須播出國產動畫片。中外合拍動畫片若希望在黃金時段播出的話,須先報國家廣電總局批准同意。(廣電總局關於加強電視動畫片播出管理的通知) (3) 各少兒頻道、青少頻道、兒童頻道和其他以未成年人為主要對象的頻道,在黃金時段必須播出國產動畫片或自製的少兒節目,不得播出境內外影視劇。(廣電總局關於加強電視動畫片播出管理的通知) (五)限娛令、限廣令 1.管制電視頻道娛樂性節目數量(限娛令) 中國大陸廣電總局針對娛樂性節目(婚戀交友類、才藝競秀類、情感故事類、遊戲競技類、綜藝娛樂類、訪談脫口秀、真人秀)進行管制,每天19:30-22:00的全國播出該類節目總數控制在9檔,每個綜合頻道每周播出上述類型節目總數不超過2檔,播出時間不得超過90分鐘。(廣電總局下發加強電視上星綜合頻道節目管理意見) 2.電視劇廣告限制(限廣令) 目前中國大陸播出電視劇,不得於在每集(以45分鐘計)中間插播任何形式的廣告。(〈廣播電視廣告播出管理辦法〉的補充規定) 三、中國大陸出版產業相關法令限制 (一)出版業之出版行為禁止外商投資 圖書、報紙、期刊的出版業務,以及音像製品和電子出版物的出版、製作業務等,係禁止外商投資之標的。(外商投資產業指導目錄) (二)出版物、包裝裝潢印刷品、其他印刷品之印刷經營活動 出版物印刷經營活動,根據外商投資產業指導目錄(2011年修訂)之規定,屬於投資限制類的產業,必須由中方控股(外商投資產業指導目錄)。而出版物的印刷經營活動,依印刷物的不同,區分不同的市場開放條件:(設立外商投資印刷企業暫行規定) 1.出版物印刷: (1) 所稱出版物,包括報紙、期刊、書籍、地圖、年畫、圖片、掛曆、畫冊及音像製品、電子出版物的裝幀封面等。(印刷業管理條例) (2) 允許設立中外合營(包括合資、合作)印刷企業,且必須由中方投資者擔任控股或主導地位,而董事長須由中方擔任,董事會也必須中方多於外商。(設立外商投資印刷企業暫行規定) (3) 外商投資印刷企業註冊資本不得低於1000萬元人民幣。(設立外商投資印刷企業暫行規定) 2.其他印刷品印刷: (1) 所稱其他印刷品,包括文件、資料、圖表、票證、證件、名片等。(印刷業管理條例) (2) 允許設立中外合營(包括合資、合作)印刷企業,且必須由中方投資者擔任控股或主導地位,而董事長須由中方擔任,董事會也必須中方多於外商 。(設立外商投資印刷企業暫行規定) (3) 外商投資印刷企業註冊資本不得低於500萬元人民幣。(設立外商投資印刷企業暫行規定) 3.包裝裝潢印刷品印刷: (1) 所謂包裝裝潢印刷品係指「商標標識、廣告宣傳品及作為產品包裝裝潢的紙、金屬、塑料等的印刷品」。(印刷業管理條例) (2) 允許設立中外合營(包括合資、合作)印刷企業、外資(獨資)印刷企業。(設立外商投資印刷企業暫行規定) (3) 外商投資印刷企業註冊資本不得低於1000萬元人民幣。(設立外商投資印刷企業暫行規定) (三)圖書、報紙、期刊、電子出版物發行 1.外商得以合資、合作、獨資的方式,於中國大陸從事圖書、報紙、期刊、電子出版物的發行活動 (1) 外商得以中外合資經營企業、中外合作經營企業或外資企業的型態,在中國大陸從事有關圖書、報紙、期刊、電子出版物的發行業務。(出版物市場管理規定) (2) 惟從事圖書、報紙、期刊連鎖經營業務,若連鎖門店超過30家者,禁止外資控股,外國投資者不得以變相參股方式違反上述有關30家連鎖門店的限制。(出版物市場管理規定) (四)音像製品之發行 1.外資得設立中外合作經營企業,從事與音像製品有關的發行業務 (1) 外資得與中方企業以合作經營的方式,從事音像製品的出版、制作、複製、進口、批發、零售、出租之業務。(出版物市場管理規定) (2) 所稱音像製品係指「錄有內容的錄音帶、錄像帶、唱片、激光唱盤和激光視盤等」。(音像製品管理條例) (五)國有書報刊音像製品發行企業股份制改造 1.外資可以合資、合作方式,參與國有書辦刊音像製品發行企業股份制改造 (1) 關於文化領域引進外資的意見規定,外資可以參與國有書辦刊音像製品發行企業股份制改造,但中方仍必須控股51%以上,或是佔有主導地位。(關於文化領域引進外資的若干意見) (2) 此種方式與一般合資、合作之投資模式有些許不同。國有企業係屬於特殊之經濟組織,而透過外資參與的股份制改造,即將國有企業改制成股份有限公司,並上市發行股票。 (六)光碟複製與生產 1.外商可以獨資、合資、合作方式投資可錄類光碟(即空白光碟)生產 (1) 根據關於文化領域引進外資的若干意見,外商可以獨資、合資、合作方式投資可錄類光碟(即空白光碟)生產。(關於文化領域引進外資的若干意見,以及複製管理辦法) 2.禁止設立外商獨資唯讀類光碟和磁帶磁片複製單位;惟允許合資、合作為之 (1) 唯讀類光碟(我國稱唯讀光碟,即不可複寫且具有內容光碟,例如一些影音光碟)和磁帶磁片複製單位,禁止外商獨資,但允許中外合資、合作的方式為之,惟中方必須控股或占主導地位。(關於文化領域引進外資的若干意見,以及複製管理辦法) 四、中國大陸演出產業相關法令限制 (一)演出經紀機構、演出場所經營單位 1.投資比例及經營權受到限制 (1) 台資僅得以合資、合作經營方式設立演出經紀機構或演出場所經營單位。(營業性演出管理條例) (2) 大陸地區合營者須保有經營主導權及51%投資比例。(營業性演出管理條例) 2.設立審查程序較為繁瑣與嚴格 (1) 台資投資設立演出經紀機構、演出場所經營單位時,適用外資設立之規定。(營業性演出管理條例) (2) 設立須透過省級文化主管部門向國務院文化主管部門提出申請,國務院文化主管部門依據省級主管部門出具之審查意見,決定是否頒發營業性演出許可證;申請人取得許可證後,再依照外商投資相關規定辦理。(營業性演出管理條例) 3.舉辦演出或從事經紀業務須由演出經紀人執行 (1) 演出經紀機構從事演出經紀活動時,須由取得資格證的專職演出經紀人負責執行業務。(演出經紀人資格認定實施辦法) (2) 演出經紀機構設立時,須登記專職演出經紀人身份。(營業性演出管理條例實施細則) (二)演出經紀人 (1) 臺灣地區人民在大陸設立合資、合作經營的演出經紀機構而申請從事演出經紀活動的港澳臺地區人員,須依中國演出家協會「演出經紀人資格認定實施辦法」進行培訓、考試,取得演出經紀人資格證。(演出經紀人資格認定實施辦法) (2) 未取得資格證者不得從事經紀活動。(演出經紀人資格認定實施辦法) (三)個體演員、文藝表演團體 1.演出管道仍受限 (1) 台資不得在中國大陸設立文藝表演團體。(營業性演出管理條例實施細則) (2) 台灣個體演員、文藝表演團體僅得透過中國大陸本地演出經紀機構舉辦演出;或參加中國大陸本地文藝表演團體之自辦演出。(營業性演出管理條例) (3) 大陸演出團體要承接台灣個體演員、文藝表演團體,具嚴格條件限制。(營業性演出管理條例) 2.演出之內容審查較為嚴格 (1) 台灣個體演員及文藝表演團體所參加之營業性演出,須經國務院文化主管部門會同國務院有關部門事前審查,審查內容較一般中國大陸人民嚴格。(營業性演出管理條例) (2) 台灣個體演員及文藝表演團體參與之演出,在表演中須受到實地檢查。(營業性演出管理條例)
18F與加州政府共同打造採購新流程美國的數位服務推動小組18F(Digital service delivery,18F),因辦公室位於華盛頓特區F街18號而得名。2014年3月由總務署(General Service Administration,GSA)成立,透過業界與政府合作模式,幫助政府機關改善流程及增進效率,其所輔導的專案計畫將實際轉變政府機關提供數位服務及科技產品之運作模式,以達跨部會、機關之整合,並使對公眾的數位服務更便於使用。 18F為幫助美國各機關建造、購買及分享現代數位服務以提升政府的使用者經驗,提供了五項服務:(一)就已存的數位規格(digital component)打造訂製化產品(custom products);(二)以創新方式購買科技,使各政府能夠獲得更快、更好及產生更好結果的IT服務。詳細服務內容有代寫委外服務建議書(Request For Proposal,RFP)、開發市場利用現代技術購買IT服務、購買開放源代碼(open source code)以提升專案計畫;(三)替政府建造一安全、可擴展的工具與平台,其能更加符合需求並能夠持續為改善以達需求;(四)協助成為數位化組織,不只是增加組織內部數位化能力,更要形成數位習慣並最終促使組織文化改變;(五)透過討論會、設計工作室、指南及文件工作平台,提供及分享18F實際運用的相關現代數位化服務技術,使政府機關能自行複製及使用。 近期知名成果案例發生於加州。在加州,每一年的孩童福利服務案件管理系統超過2萬名社工利用為追蹤管理超過50萬件虐待及忽視兒童案件,若使用過時系統產生風險將無法估計,故加州政府、美國衛生與人群服務部(Department of Health and Human Services,DHHS)即利用了前述相關服務,與18F共同重新設計該系統的採購流程。從2015年11月至2016年10月,合作建立新系統不到1年的時間,導入了契約文件之簡化、模組化(modular)契約之合併、敏捷性開發(agile development)、使用者中心之設計及開放源(open source)之實踐。 首先,代寫委外服務建議書,18F於其中展示如何將專案計畫為模組化,亦即別於過往採購的傳統模式,非尋找單一開發商去建置整個已預設需求的系統,透過分離的方式,找尋不同開發商以更符合實際需求,亦能避免時間金錢的浪費,降低遲約或違約之風險。再者,聚集可能符合資格的供應商,邀請眾供應商建造以開放源代碼(open source code)方式的原型(prototype)。透過此一過程的激盪,18F從中協助評估所提出的原型、技術等,以了解供應商如何提出及是否符合使用者中心的設計。同時也能減少政府與供應商雙方的招標時間及行政成本。最後,為使加州政府機關能自行複製及使用相關現代數位化服務技術,18F示範敏捷軟體開發(agile software development)專案計畫。從中加州政府不僅瞭解如何為風險評估,且思考相關技術部門於專案計畫中的角色定位。 面臨現代化數位服務,在美國,聯邦與州政府都面臨極大挑戰。18F介入發展新模式,更能達實際需求,亦為內化之協助,利於政府自行發展其他數位服務。18F與加州政府合作之案例,或許能為國家發展數位服務運作之借鏡。
德國聯邦卡特爾署針對電動車公共基礎設施產業進行調查,以釐清相關競爭法問題德國聯邦卡特爾署(Bundeskartellamt)於2020年7月9日公布,將針對電動車公共基礎設施產業進行調查,以釐清目前市場相關競爭法問題。 聯邦卡特爾署署長Andreas Mundt表示,建立全國性的充電基礎設施是德國電動車成功的先決條件之一,目前電動車充電基礎設施產業尚處於早期市場發展階段,因此,釐清市場是否有不正競爭問題,方能使電動車充電基礎設施布建能迅速擴張。在公共場所充電的條件和價格,也將影響消費者是否決定改用電動車。然而在目前市場發展階段時,已收到越來越多關於充電站價格和條件的投訴。 根據聯邦政府的計畫,2030年前德國將於全國範圍內布建大規模的充電基礎設施,其中包括公用的充電基礎設施。雖然充電站之布建及營運,不適用例如高壓電網擴建加速法、電網擴張法等與電網相關法規之適用。但可依德國不正當競爭防止法(Gesetz gegen den unlauteren Wettbewerb, UWG)拘束該領域可能存在的競爭法議題。除了應確保非歧視性地近用充電站外,更應研擬充電站相關使用條款,以確保充電站能正常營運。此外,並應研究城市及地方政府是否有提供合適的充電站位置,及其對充電站營運商之間的競爭影響。另外,聯邦高速公路上充電站之市場競爭狀況亦為聯邦卡特爾署關注的議題。 聯邦卡特爾署將於兩個調查階段中,向利害關係人進行產業調查。第一階段,將確定公共收費充電基礎設施的建設狀況,以及城市及地方政府和其他參與者,在規劃和提供充電站合適位置的現行作法。並在此基礎上,進行第二階段深入調查,特別針對有關移動服務提供商和使用者近用充電站的問題。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局(Infocomm Media Development Authority,下稱IMDA)於2026年5月20日發布《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI,下稱示範框架)第1.5版,以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向,同時提供真實部署案例,將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧,代理AI能自主規劃、跨多步驟採取行動,並與其他代理及外部系統互動,代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境,例如更新客戶資料庫或執行付款,風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過,以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心,仍落在AI應用與輸出風險,對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展,更新其代理AI治理框架,新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式,為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件,但每一元件之設計皆可能顯著影響代理能力,故思考代理能做什麼時,應區分兩個概念:一為行動空間(action-space),指代理可採取之行動範圍,取決於其獲准使用之工具及該等工具上之權限;二為自主性(autonomy),指代理朝目標行動時可自行決定如何行動之程度,取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素,不同的權限與自主程度,將會使性質同為代理AI,歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新,真正變化在於這些風險因代理AI會在真實世界採取行動,速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止,而要求人類持續監督又可能導致自動化偏誤與警示疲勞,致某一步驟之錯誤可能於後續步驟間傳播並放大。因此,當系統由多個代理構成,敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能,會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向,提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環,透過監測發現異常時,即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險:組織可於規劃階段設計適當邊界,以限縮代理之影響範圍,例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施,確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責:「人在迴路」(human-in-the-loop)須加以調整,以因應自動化偏誤,一旦代理AI之部署獲得放行,組織即應採取措施確保人為當責,並應迅速掌握新發展,隨技術演進更新其作法。 (三)落實技術控制與流程:組織應於代理生命週期全程實施技術措施,且由於代理與其環境動態互動、且非所有風險均能事前預見,爰建議逐步推出代理,並於部署後持續監測。 (四)促成終端使用者盡責:應告知使用者代理之行動範圍、資料存取情形,以及使用者自身之責任。組織並應考量另行提供教育訓練,使員工具備管理人機互動、行使有效監督所需之知識,同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率,嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍(讀取相對於寫入)及可回復性;發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度,並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境,推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上,示範框架主張系統層確定性控制優於提示層防護,亦即與其提示代理AI不得存取特定工具,不如施加存取控制使該工具根本無法被呼叫。除靜態防護外,框架另強調在設計之初就要納入控制措施,在執行過程中監測並介入,例如如限制防止工具使用過度,或以輸入驗證的方式,在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法,示範框架建議可於協定層就善用模型上下文協定(Model Context Protocol,MCP)過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時,該框架以事例建議組織可採取這些控制的技術手段,如:於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證;於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制;於連結時,將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式,該示範框架建議應先界定須經人為核准之查核點或行動界線,尤其在高風險、不可回復或離群行為之前。其次,設計核准之形式,使請求切合脈絡且易於理解、清楚呈現風險,並依情形選擇所需之人為輸入。但最關鍵的是,須將監督的有效性本身納入稽核,包括追蹤人為否定率偏低,或審查回應時間有過短情況時,即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞,並辨識決策明顯偏離常態之「離群」人員,同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險,示範框架建議的因應是將身分管理延伸至代理,但其亦指出現行授權系統多為預先定義之靜態範圍,難以因應代理依情境動態變化之細粒度權限;於過渡期間,建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作,故應測試整體任務執行、政策遵循度與工具使用正確性,非僅測最終輸出;且應個別測試與合併測試,以掌握多代理協作時之湧現風險。就部署後,框架主張逐步推行,可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面,應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡,並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布,此次更新納入多個組織導入代理AI的實例回饋,擴充多代理系統之系統性風險,補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」,而代理式治理之對象,則係能呼叫工具、寫入系統、執行交易之能行動系統,風險延伸至「行動」及其真實後果。因此,其建議應由單一之模型輸出品質,轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理;由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則,適對應示範框架的人為當責、系統層控制與監督指標化建議。同時,依基本法第16條規定數位發展部應參考國際標準或規範,推動與國際介接之人工智慧風險分類框架,並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範,並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上,跨入多任務自主執行的功能層次,風險的質與量已因代理功能出現系統性擴大效應的情況下,單純以生成式AI為標的治理規範或指引,顯然其可產生的規範管理或指引提醒的效果,已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架,雖然亦表明代理AI的風險並非其所獨有,亦是來自於生成式AI的既有影響,但該框架進一步提醒代理AI將使風險控制更加困難,「人在迴路」(human-in-the-loop)須加以調整,一旦代理AI之部署獲得放行,組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」,並應迅速掌握新發展,運用技術手段強化風險監測。其中喻意深遠的是,該框架就終端使用者所提基礎技藝維持之警示,即代理AI接手任務恐致技能退化與業務永續風險,或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有,如需引用或轉載,請註明出處。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/) [1]新加坡資訊通信媒體發展局(Infocomm Media Development Authority, IMDA),《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI)第一‧五版,二〇二六年五月二十日發布、同年六月五日更新,https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf(最後瀏覽日:二〇二六年七月六日)。 [2]《人工智慧基本法》,民國一百十四年十二月二十三日經立法院三讀通過,全文二十條,二〇二六年一月公布施行,中央主管機關為國家科學及技術委員會。 [3] 前揭註1,頁8、15(分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」)。 [4] 同前註,頁11。 [5] 詳前註1,頁3~4。 [6] 同前註,頁15至18。 [7] 同前註,頁33至34。 [8] 同前註,頁30。 [9] 同前註,頁29至32。 [10] 同前註,頁23至24。 [11] 同前註,頁42至45。