美國國家標準與技術研究院「隱私框架1.0版」
美國國家標準與技術研究院（NIST）於2020年1月16日發布「隱私框架1.0版」（NIST Privacy Framework Version 1.0），為促進資料的有效利用並兼顧對隱私權的保障，以風險管理（risk management）的概念為基礎建構企業組織隱私權管理框架。本隱私框架依循NIST於2018年所提出的「健全關鍵基礎設施資安框架1.1版」（Framework for Improving Critical Infrastructure Cybersecurity Version 1.1）架構，包含框架核心（Core）、狀態評估（Profile）與實施層級（Implementation Tier），以利組織能夠同時導入隱私與資安兩種框架。由隱私框架核心所建構的風險管理機制，透過狀態評估來判斷當前與設定目標的實施層級，進而完成組織在隱私保護上的具體流程與資源配置。
NIST基於透明、共識、兼顧公私利害關係人的程序訂定本隱私框架，用以促進開發者導入隱私設計思維（privacy by design），以及協助組織保護個人隱私，其目標包含透過支持產品或服務設計中的倫理決策（ethical decision-making）及最小化對隱私的侵害來建立客戶的信任；在當前與未來的產品或服務中，因應持續變化的技術與政策環境遵守對隱私的保護義務；以及促進個人、企業夥伴、稽核者（assessor）與監管者（regulator）在隱私權保護實踐上的溝通與合作。
本隱私框架並非法律或法規，亦不具備法律效果，而是做為數位時代下NIST協助企業導入隱私權管理制度的參考工具，企業或組織將能基於本隱私框架靈活應對多樣化的隱私需求，掌握其產品或服務所隱含的隱私權侵害風險，並識別隱私權相關法律規範，包含加州消費者隱私法（California Consumer Privacy Act）與歐盟一般資料保護規則（General Data Protection Regulation, GDPR）等，提出更具創新性與有效性的解決方案，並有效因應AI與物聯網技術的發展趨勢。
本文為「經濟部產業技術司科技專案成果」
- 零售業個資法遵實務與資訊安全說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 【上午場】探索科技法律最前線：資策會科法所「114年成果」分享會暨簡報票選
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 【北部場1】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場2】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場3】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場4】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【南部場】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【中部場】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 美國聯網車監管制度與合規實務說明會
范晏儒
專案經理 編譯整理
英國資訊委員辦公室（ICO）發布企業自行檢視是否符合歐盟一般資料保護規則之12步驟，資訊工業策進會科技法律研究所， https://stli.iii.org.tw/article-detail.aspx?tp=1&i=72&d=8019&no=64 （最後瀏覽日：2020/02/04）。
產學合作的推動 -以株式會社東京大學TLO為例- 資策會科技法律研究所 法律研究員 林思妤 105年07月12日 壹、前言 我國政府日漸重視產學合作，各部會也相繼推出各項產學合作研究計畫及提供各式獎補助金方案，供學研單位及產業界申請，期能使學界的研發成果符合產業界的需求，產業界再將該研發成果的運用發揮至最大效益，成為國家經濟發展的潛能[1]。當中，大學的育成、技轉中心扮演著重要角色，其業務包含協助新創事業的成立以及管理研發成果的授權與移轉。而鄰近於我國的日本，以東京大學為例，其不僅有校內的產學協創推進本部（The Division of University Corporate Relations，DUCR）（以下簡稱DUCR）[2]，支持著東京大學與企業之間的共同研究，也有因應文部科學省（相當於我國教育部）推動國立大學法人化相關政策[3]而設立的株式會社東京大學TLO（Technology Licensing Organization）（以下簡稱東大TLO），促進東京大學研發成果的商品化[4]，在這樣校內、外組織長期合作下，東大TLO及DUCR皆對大學的研發成果有著深入的認識，針對每種研發成果安排合適的運用方式，使東京大學在研發成果商業化上有著亮眼的成績。本文將介紹東大TLO的組織及業務範圍，以供我國相關單位參考。 貳、株式會社東京大學 TLO的發展與運作 日本大學所設立的技術移轉中心TLO是根據1998年10月所制定的「大學技術移轉促進法」（「大学等における技術に関する研究成果の民間事業者への移転の促進に関する法律」）所設立的[5]。該法明定TLO為法人組織[6]，可為股份有限公司型態，對外公開發行股票，TLO主要工作為：研發成果之技術評鑑、接受國有研發成果之專屬授權、向經濟產業省的特許廳（相當於我國智慧財產局）提出專利等智慧財產權申請、提供技術資訊予私人企業、回饋一定比例之技術移轉效益予原研發單位。此外，推動大學、研究單位之創新公司（Start-up Company）或衍生公司（Spin-off Company），促使大學、研究機構設立創業育成中心（Incubator），提供新設公司必要資金，擴展研究機構與私人企業間之合作計畫等，皆屬TLO的重要任務[7]。 一、東京大學百分之百持股的技術控股股份有限公司 1998年8月3日，東京大學根據「大學技術移轉促進法」的宗旨自發性合資，以2000萬日圓的資本額成立「先端科学技術インキュベーションセンター」（Center for Advanced Science and Technology Incubation，CASTI）[8]，而CASTI就是東京大學的TLO，係屬法人組織，負責東京大學技術授權的對外窗口。2004年以前，因為日本國立大學不具法人身份，故校內研發人員的研發成果，歸私人而非校方所有，如何運用該研發成果校方難以干涉。2004年4月，因應「國立大學法人法」[9]的制定，CASTI保留股份有限公司的身份，正式編納入東京大學組織中，更名為株式會社東京大學TLO（TODAI TLO. Ltd.）[10]，是東京大學唯一百分之百持股的技術控股股份有限公司[11]。東大TLO藉由技術移轉扮演著學術界以及產業界間仲介橋樑任務，將大學及研究人員之研發成果進行智慧財產權信託[12]與專利申請等事務，將東大本身擁有的技術移轉至民間企業。透過技術移轉開創新產業目標，並將所得之收入再投入研發資金並回饋予大學，使大學之研發成果成為知識循環以及創新原動力[13]。 二、東大TLO的業務範圍 國立大學法人化後，教授的研發專利權歸屬校方而非教授本人，東大TLO會先與校方簽約，再代表東京大學與產業界洽談專利授權事宜。東大TLO一方面協助東大申請校內研發成果的專利權，依校方立場，判斷其是否具申請價值，並引導研發人員修整其專利申請方向，另一方面主動向企業界推銷校方公佈的專利，並將企業提出的需求意見整理供校內人員參考。 詳言之，東京大學研發產出之專利申請、取得及授權係由校外組織的東大TLO與校內組織DUCR協同運作完成，其處理流程為：（一）東京大學研究人員提出發明揭露給DUCR 作初步審查；（二）初步審查通過後發明揭露由DUCR轉給東大TLO；（三）東大TLO 與研究人員面談研議發明內容之專利性（Patentability）與市場性（Marketability）；（四）與研究人員面談後，東大TLO針對發明內容之專利性與市場性自為調查；（五）東大TLO 根據面談與調查結果提出專利申請建議給DUCR；（六）DUCR 決定是否續行專利申請；（七）東大TLO再聘請外部專利事務所進行專利申請；（八）專利申請提出後，東大TLO 即可著手進行授權作業[14]。東大TLO目前共有25位成員負責其業務。 另外，校內發明人創立新事業的過程中，資金的來源、人員的組成或創立的地點，東大TLO不會介入。但是涉及使用校內研發技術的部分，就必須透過東大TLO協助申請專利之後，再授權給發明人所開創的新事業[15]。 三、東大TLO享有的特別措施 日本的技術移轉中心TLO，因TLO本身「是否歸屬大學」分為承認型TLO以及認定型TLO。承認型TLO為大學所創設的技術移轉中心，係由大學同時向文部科學省及經濟產業省提出申請[16]。承認型TLO具申請獎補助金之資格，得接受政府各類獎助措施，且研發成果所有權移轉至TLO。認定型TLO則不屬大學機構所有，無法提出部分獎補助金之申請，但協助技術移轉之角色不變。再者，承認型TLO又根據其「存在方式」分為校內及校外TLO[17]；東大TLO即是承認、校外型的TLO。 而承認型TLO在「大學技術移轉促進法」、「產業技術力強化法」[18]以及「國立大學法人法」的規定下，有多項特別措施[19]，亦即東大TLO享有的特別措施。例：專利費用的減免[20]、專利處分的自主[21]、可獲國立大學法人出資[22]、信託業務的實施[23]及資金借款債務保證[24]，相信這樣的特別措施是有助於東大TLO將研發成果商業化的。 東大TLO自1998年運作至今，已完成了3,549件的技術移轉契約，達到約61億日圓的收入[25]，特別是2013年時，因為PeptiDream Inc.上市（藥物研發公司），使得該年度授權金收入達到將近7億日圓[26]。 參、評析 由東大TLO的運作發展觀之，可了解到產學合作的推廣，要注重學研單位及產業界之間的訊息流通，研發成果才有商品化的潛力。執行上，東京大學藉由校內DUCR對研發成果做出初步審查，佐以校外東大TLO對於技術移轉市場的專業判斷力，扮演著媒合的角色，使授權案件數量持續增長。更重要的是，政府對於設置TLO的支持與鼓勵，不僅放寬了限制，還給予多項特別措施，讓日本TLO有著穩定的發展，目前日本共有37個享有特別措施的承認型TLO[27]。 反觀我國，縱使根據經濟部於今年4月發佈的函釋[28]，國立大學可以擔任公司發起人，可以設置像東大TLO這樣的智慧財產研發成果管理公司，但卻受「國立大學校務基金設置條例」的規定，校方必須以自籌收入作為設立的資金來源[29]，無法將其從政府獲得的補助用於成立該類型公司。再者，若一國立大學將其因政府補助而取得的技術，固定交由其自身設立的TLO，是否仍適用現行的政府採購法等。總而言之，我國國立大學已有資格設立像東大TLO這樣的技術控股公司，但是相關的配套措施、因應機制及相關規範的調適仍待政府引領規劃。 [1] 經濟部中小企業處在各大專院校以及研究機構成立中小企業創新育成中心；科技部在各校成立技術移轉中心；教育部推出產學合作中心，為的都是促進產學合作。 [2] 日本東京大學産学協創推進本部DUCR，http://www.ducr.u-tokyo.ac.jp/（最後瀏覽日：2016/05/05）。 [3] 日本文部科學省國立大學法人化相關政策簡介，http://www.mext.go.jp/a_menu/koutou/houjin/03052704.htm，(最後瀏覽日：2016/06/27)。 [4] 株式會社東京大學TLO(TODAI TLO Ltd.)，http://www.casti.co.jp/en/#sect01 （最後瀏覽日：2016/05/04）。 [5] 「大學技術移轉促進法」（Act to Facilitate Technology Transfer from Universities to the Private Sector ），1998年，http://www.japaneselawtranslation.go.jp/law/detail/?ft=2&re=02&dn=1&yo=universities&x=0&y=0&ia=03&ky=&page=2 （最後瀏覽日：2016/5/4）。 [6] 日本「大學技術移轉促進法」第二條明定多項技術意轉組織成立方式，包含資金規模與公司人數（條文全文請參考前註連結）。 [7] 李素華，「日本施行大學及研究機構技術移轉促進法」，科技法律透析，1999年5月15日。 [8] Taking new challenges-RCAST historical Facts，http://www.rcast.u-tokyo.ac.jp/about/history/index_en.html（最後瀏覽日：2016/5/4） [9]国立大学法人法，2003年7月16日， http://law.e-gov.go.jp/htmldata/H15/H15HO112.html （最後瀏覽日：2016/06/29）。 [10] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁3（肆、案例分析）。 [11]株式會社東京大學TLO(TODAI TLO Ltd.)，“TLO stands for Technology Licensing Organization, and TODAI TLO, the only wholly-owned subsidiary of the University of Tokyo, acts as a contact point for industry to access technologies developed at the University of Tokyo.” http://www.casti.co.jp/en/，（最後瀏覽日：2016/06/28）。 [12] 根據日本信託業法第52條，承認型TLO(東大TLO)得為信託業者。 [13]有鑒於TLO之特殊性，其不僅在組織型態上不限於股份有限公司，也不要求其必須使用商號，同時對於董事之兼職或主要股東之限制等規定亦均無適用餘地。（李智仁，「從日本經驗談智慧財產權信託與技術移轉問題」，銘傳大學法學論叢，7期，2007年6月，頁98。） [14] 經濟部中小企業處，「行政院所屬機關科長級以上跨領域科技管理研習國外專題報告」，日本東京大學智財管理、技轉與產學合作模式，2013年11月，頁27-28，http://goo.gl/jzEviM（最後瀏覽日：2016/5/5）。 [15] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁10（肆、案例分析）。 [16]「特定大学技術移転事業の実施に関する計画承認実施要綱」（2008年最後修訂）第2條第1項：「法第四条第一項の規定に基づき実施計画の承認を受けようとする事業者は、様式第一による申請書を文部科学大臣及び経済産業大臣に提出するものとする」。 [17] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁35~37。 [18]「産業技術力強化法」Industrial Technology Enhancement Act(Tentative translation)，2000年4月發佈，http://www.japaneselawtranslation.go.jp/law/detail/?ft=2&re=02&dn=1&yo=%E5%BC%B7%E5%8C%96&x=0&y=0&ia=03&ky=&page=3 （最後瀏覽日：2016/06/29）。 [19] 日本特許廳，特許料等の減免制度，http://www.jpo.go.jp/tetuzuki/ryoukin/genmensochi.htm (最後瀏覽日：2016/5/4)。 [20] 大學等技術移轉促進法第8條，承認TLO第1年到第10年的專利費得減免二分之一。 [21] 產業技術力強化法第19條，政府委託研究成果由大學取得之專利權，讓售（讓與）或授權他人實施時，不必經過國家認可。 [22] 國立大學法人法蒂22條，承認TLO可從國立大學法人獲得出資。 [23] 信託業法蒂52條，承認TLO實施信託業務時，不需要取得內閣總理大臣之執照。 [24] 大學技術移轉促進法蒂6條，承認TLO所需要的資金借款，可受到獨立行政法人中小企業基礎整備機構的債務保證。 [25] 株式會社東京大學TLO(TODAI TLO Ltd.)，Licensing Track Record，http://www.casti.co.jp/en/about/results.html (最後瀏覽日：2016/06/29)。 [26] 科技部中部科學園區管理局盧科員素璧日本考察報告，日本筑波科學城、相模原育成中心招商及產學合作研討會，2015年4月7日。 [27] 日本特許廳，承認、認定TLO（技術移轉機關）一覽，https://www.jpo.go.jp/kanren/tlo.htm（最後瀏覽日：2016/06/29）。 [28]經濟部函釋，國立大學可以擔任公司發起人，2016年4月19日，https://gcis.nat.gov.tw/elaw/query/ConSearchRLT.jsp?CONS_CD=8793 （最後瀏覽日：2016/06/29）。 [29]國立大學院校校務基金設置條例第10條第1項：「為確保校務基金永續經營，並提升其對校務發展之效益，國立大學校院於提出年度投資規劃並經管理委員會審議通過後，得投資下列項目：一、存放公民營金融機構。二、購買公債、國庫券或其他短期票券。三、投資於與校務發展或研究相關之公司及企業，除以研究成果或技術作價無償取得股權者外，得以自籌收入作為投資資金來源。四、其他具有收益性及安全性，並有助於增進效益之投資。」
德國慕尼黑地方法院日前認定特斯拉關於「Autopilot」等銷售（廣告）標示將誤導消費者自特斯拉（Tesla）推行Autopilot（此於特斯拉之繁體中文官網譯作自動輔助駕駛）以降，其原先宣稱可免手動（Hands free），但經美國國家公路交通安全管理局（National Highway Traffic Safety Administration，NHTSA）指摘特斯拉前述宣稱可能使駕駛人注意力渙散而發生事故，似乎影響近年來特斯拉對於其自動輔助駕駛系統之論調，而改要求駕駛人即便開啟該系統仍須將手放置於方向盤上。除了前揭特斯拉於車輛銷售（廣告）資訊所生的爭議外，日前2020年7月間德國慕尼黑第一地方法院（Landgericht München I）之合議庭的判決，認定特斯拉於其車輛（Model 3）之銷售（廣告）標示資訊的整體，以及原告競爭中心（Wettbewerbszentrale）所分別主張之內容，均屬不正當競爭防制法（Gesetz gegen den unlauteren Wettbewerb，UWG）第5條第1項第2句第1款之誤導性商業行為（Irreführende geschäftliche Handlungen，或譯作引人錯誤之交易行為）。 本件之爭點核心在於特斯拉現行車輛既有配備之Autopilot系統，以及消費者可自行選購之Volles Potenzial für autonomes Fahren（德文直譯：具備完全自動駕駛潛力，而特斯拉之繁體中文官網譯作全自動輔助駕駛）系統等用詞，因其等涉及車輛功能與設備之決定性概念和資訊，則與現行「車輛駕駛輔助系統」（Fahrassistenzsystem）存有落差，進而導致消費者理解與實際情況不一致之情形。 法院認定理由在於不論特斯拉之Autopilot或Volles Potenzial für autonomes Fahren等系統，均無法達到毋須人為介入行駛的情境，即便其於官網上有另行標註目前該等系統功能有限，仍須駕駛人主動監控所有行駛環境等，但因該等內容說明不夠透明與清晰，而仍無法排除其等資訊具有誤導性，故特斯拉使用Autopilot等詞以及其他暗示車輛技術上能完全自主（vollkommen autonom）等用語，將引起消費者錯誤認知其可在德國的道路上運行完全自主之自動駕駛系統（註：此部分似係指SAE標準等級5之自動駕駛系統，然德國道路交通法目前僅開放運行等級4以下之自駕系統）。不過該判決結果仍可上訴。
英國資訊委員辦公室（ICO）發布當事人近用請求權實務準則英國資訊委員辦公室（Information Commissioner’s Office, ICO）於2013年8月8日發布當事人近用請求權實務準則（subject access code of practice），以協助資料控制者遵循1998年資料保護法（Data Protection Act 1998，DPA）有關當事人行使近用權（access right）之規定。 根據DPA，任何資料主體都有權利接觸、查詢其被資料控制者擁有之個人資料，即當事人向資料控制者請求近用其個人資料之權利。當事人近用請求權實務準則闡明資料主體的查閱請求權、製給複製本請求權等權利，與資料控制者回應當事人近用請求權的責任，該項權利允許當事人查詢其信用卡紀錄、健康紀錄等資料，資料控制者一旦收到當事人請求，必需於40天內回覆。 ICO同時發布10項簡易步驟，以協助資料控制者衡量回應當事人近用請求權。內容包括：1.確認當事人提出之請求是否為當事人近用請求權；2.確保有足夠資訊可識別請求者的身分；3.若需要更多資訊以釐清請求者之需求，立即向請求者提出；4.若需收費，及時向請求者提出；5.確認是否有請求者需求的資訊；6.即使紀錄不正確或令人尷尬，都不要試圖更改該紀錄；7.衡量紀錄中是否含有他人資訊；8.確認是否有提供資訊之義務；9.確認能解釋資訊中的複雜名詞；10.於適當的情形下，永久保存回覆當事人資訊的副本。 這項實務準則將協助資料控制者更即時且有效地處理當事人對其資料近用請求之相關事項，同時證明資料控制者係以公開且透明之方式妥善管理其所蒐集之顧客資料。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局（Infocomm Media Development Authority，下稱IMDA）於2026年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI，下稱示範框架）第1.5版，以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向，同時提供真實部署案例，將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧，代理AI能自主規劃、跨多步驟採取行動，並與其他代理及外部系統互動，代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境，例如更新客戶資料庫或執行付款，風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過，以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心，仍落在AI應用與輸出風險，對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展，更新其代理AI治理框架，新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式，為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件，但每一元件之設計皆可能顯著影響代理能力，故思考代理能做什麼時，應區分兩個概念：一為行動空間（action-space），指代理可採取之行動範圍，取決於其獲准使用之工具及該等工具上之權限；二為自主性（autonomy），指代理朝目標行動時可自行決定如何行動之程度，取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素，不同的權限與自主程度，將會使性質同為代理AI，歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新，真正變化在於這些風險因代理AI會在真實世界採取行動，速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止，而要求人類持續監督又可能導致自動化偏誤與警示疲勞，致某一步驟之錯誤可能於後續步驟間傳播並放大。因此，當系統由多個代理構成，敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能，會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向，提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環，透過監測發現異常時，即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險：組織可於規劃階段設計適當邊界，以限縮代理之影響範圍，例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施，確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責：「人在迴路」（human-in-the-loop）須加以調整，以因應自動化偏誤，一旦代理AI之部署獲得放行，組織即應採取措施確保人為當責，並應迅速掌握新發展，隨技術演進更新其作法。 (三)落實技術控制與流程：組織應於代理生命週期全程實施技術措施，且由於代理與其環境動態互動、且非所有風險均能事前預見，爰建議逐步推出代理，並於部署後持續監測。 (四)促成終端使用者盡責：應告知使用者代理之行動範圍、資料存取情形，以及使用者自身之責任。組織並應考量另行提供教育訓練，使員工具備管理人機互動、行使有效監督所需之知識，同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率，嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍（讀取相對於寫入）及可回復性；發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度，並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境，推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上，示範框架主張系統層確定性控制優於提示層防護，亦即與其提示代理AI不得存取特定工具，不如施加存取控制使該工具根本無法被呼叫。除靜態防護外，框架另強調在設計之初就要納入控制措施，在執行過程中監測並介入，例如如限制防止工具使用過度，或以輸入驗證的方式，在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法，示範框架建議可於協定層就善用模型上下文協定（Model Context Protocol，MCP）過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時，該框架以事例建議組織可採取這些控制的技術手段，如：於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證；於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制；於連結時，將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式，該示範框架建議應先界定須經人為核准之查核點或行動界線，尤其在高風險、不可回復或離群行為之前。其次，設計核准之形式，使請求切合脈絡且易於理解、清楚呈現風險，並依情形選擇所需之人為輸入。但最關鍵的是，須將監督的有效性本身納入稽核，包括追蹤人為否定率偏低，或審查回應時間有過短情況時，即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞，並辨識決策明顯偏離常態之「離群」人員，同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險，示範框架建議的因應是將身分管理延伸至代理，但其亦指出現行授權系統多為預先定義之靜態範圍，難以因應代理依情境動態變化之細粒度權限；於過渡期間，建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作，故應測試整體任務執行、政策遵循度與工具使用正確性，非僅測最終輸出；且應個別測試與合併測試，以掌握多代理協作時之湧現風險。就部署後，框架主張逐步推行，可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面，應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡，並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布，此次更新納入多個組織導入代理AI的實例回饋，擴充多代理系統之系統性風險，補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」，而代理式治理之對象，則係能呼叫工具、寫入系統、執行交易之能行動系統，風險延伸至「行動」及其真實後果。因此，其建議應由單一之模型輸出品質，轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理；由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則，適對應示範框架的人為當責、系統層控制與監督指標化建議。同時，依基本法第16條規定數位發展部應參考國際標準或規範，推動與國際介接之人工智慧風險分類框架，並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範，並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上，跨入多任務自主執行的功能層次，風險的質與量已因代理功能出現系統性擴大效應的情況下，單純以生成式AI為標的治理規範或指引，顯然其可產生的規範管理或指引提醒的效果，已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架，雖然亦表明代理AI的風險並非其所獨有，亦是來自於生成式AI的既有影響，但該框架進一步提醒代理AI將使風險控制更加困難，「人在迴路」（human-in-the-loop）須加以調整，一旦代理AI之部署獲得放行，組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」，並應迅速掌握新發展，運用技術手段強化風險監測。其中喻意深遠的是，該框架就終端使用者所提基礎技藝維持之警示，即代理AI接手任務恐致技能退化與業務永續風險，或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有，如需引用或轉載，請註明出處。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA），《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第一‧五版，二〇二六年五月二十日發布、同年六月五日更新，https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf（最後瀏覽日：二〇二六年七月六日）。 [2]《人工智慧基本法》，民國一百十四年十二月二十三日經立法院三讀通過，全文二十條，二〇二六年一月公布施行，中央主管機關為國家科學及技術委員會。 [3] 前揭註1，頁8、15（分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」）。 [4] 同前註，頁11。 [5] 詳前註1，頁3~4。 [6] 同前註，頁15至18。 [7] 同前註，頁33至34。 [8] 同前註，頁30。 [9] 同前註，頁29至32。 [10] 同前註，頁23至24。 [11] 同前註，頁42至45。