世界經濟論壇發布《贏得數位信任：可信賴的技術決策》
世界經濟論壇（World Economic Forum, WEF）於2022年11月15日發布《贏得數位信任：可信賴的技術決策》（Earning Digital Trust: Decision-Making for Trustworthy Technologies），期望透過建立數位信任框架（digital trust framework）以解決技術開發及使用之間對數位信任之挑戰。
由於人工智慧及物聯網之發展，無論個人資料使用安全性還是演算法預測，都可能削弱人民對科技發展之信賴。本報告提出數位信任路線圖（Digital trust roadmap），說明建立數位信任框架所需的步驟，以鼓勵組織超越合規性，指導領導者尋求符合個人與社會期望之全面措施行動，以實現數位信任。路線圖共分為四步驟：
1.承諾及領導（commit and lead）：數位信任需要最高領導階層之承諾才能成功，故需將數位信任與組織戰略或核心價值結合，並從關鍵業務領域中（例如產品開發、行銷、風險管理及隱私與網路安全）即納入數位信任概念。
2.規劃及設計（plan and design）：透過數位信任差距評估（digital trust gap assessment）以瞭解組織目前之狀態或差距，評估報告應包括目前狀態說明；期望達成目標建議；治理、風險管理與合規性（governance, risk management and compliance, GRC）調查結果；將帶來之益處及可減輕之風險；計畫時程表；團隊人員及可用工具；對組織之影響等。
3.建立及整合（build and integrate）：實現數位信任需關注人員、流程及技術等三大面向。首先需確保人員能力、達成該能力所需之資源，以及人員溝通與管理；第二，定義組織數位信任流程，包括制定計劃所需時程、預算及優先實施領域，調整目前現有管理流程，並識別現有資料資產；最後，針對技術使用，可考慮使用AI監控、雲端管理系統以及區塊鏈等，以監測資料之使用正確性及近用權限管理。
4.監控及滾動調整（monitor and sustain）：建立數位信任框架後，需持續建構相關績效及風險評估程序，以確保框架之穩定，並根據不斷變化的數位信任期望持續改善，以及定期向董事會報告。
許嘉芳
法律研究員 編譯整理
World Economic Forum [WEF], Earning Digital Trust: Decision-Making for Trustworthy Technologies (Nov. 15, 2022), https://www3.weforum.org/docs/WEF_Earning_Digital_Trust_2022.pdf (last visited Jan. 3, 2023).
Earning Digital Trust: Decision-Making for Trustworthy Technologies, World Economic Forum (Nov. 15, 2022), https://www.weforum.org/reports/earning-digital-trust-decision-making-for-trustworthy-technologies/ (last visited Jan. 3, 2023).
蔡毓華、林玉書，〈促進數位資產流通機制建立之法制初探〉，2021年3月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8617&no=64（最後瀏覽日：2023/01/03）。
科法觀點
為加強歐盟及各成員國的研究基礎設施合作，從發展政策方面，於2002年成立「歐洲研究基礎設施策略論壇」(European Strategy Forum on Research Infrastructures, ESFRI)協助各會員國統籌規劃RIs(Research Infrastructures, RIs)的發展藍圖。在法律層面，於2009年通過「第723/2009號歐盟研究基礎設施聯盟法律架構規則」(COUNCIL REGULATION (EU) No 723/2009 of 25 June 2009 on the Community legal framework for European Research Infrastructure Consortium (ERIC)，使各歐盟會員國、夥伴國家、非夥伴國家之第三國家或跨政府國際組織等對於分散的RIs整合起來後，可向歐盟執委會提出申請，依該號規則取得法律人格，成立「歐盟研究基礎設施聯盟」(European Research Infrastructure Consortium, ERIC)，且可為權利得喪變更之主體，更可與他方簽訂契約或成為訴訟當事人，使其具有自我經營管理之能力。 截至目前為止(2015年9月)，歐盟的RIs正式成立11個ERIC，並且透過國際間合作將RIs做更有效率之使用。國際上近年來創新研發競爭激烈，歐盟執委會為了持續推動建置世界級歐洲研究區域(European Research Area, ERA)，無論在資金面、政策面及法律層面均有積極作為，在強化歐盟RIs同時促進國際科技研發合作，俾使歐盟於研發創新的領域保持世界領導之地位，歐盟未來仍會持續推動各個重要研發領域的ERIC，ERIC對於整合歐盟各國重大RIs負有重要使命。
國家技術標準之制定政策-由英國BSI觀國家技術標準制定政策國家技術標準之制定政策 -由英國BSI觀國家技術標準制定政策 科技法律研究所 法律研究員 徐維佑 2014年12月03日 壹、前言 所謂技術標準（standards），指透過法規、私人企業、或者產業慣例形成的統一技術或特定規格，包括重量、大小、品質、材料或技術特徵（technical specifications），以使商品、服務、製造或製造程序方法能有共通的設計或相容性[1]；由特定標準制定組織要求市場上商品或服務應符合一定品質者，亦為技術標準，例如確保農產品符合人體食用的健康安全標準。 制定技術標準不但具有降低生產成本、促進創新、加強消費者選擇性、增進公共健康及安全等優點，更是國際貿易的基礎。以技術日新月異的ICT資訊通信產業而言，標準更是搶佔市場的利器。 貳、英國國家標準制定政策 成立於西元1901年之英國標準協會（British Standards Institution，以下簡稱BSI）為英國標準制定組織，亦是全球第一個國家標準機構，專門提供企業解決方案，將最佳實務模式（best practice）轉換成日常表現標準。BSI非政府機構，但透過與英國政府商業、創新與技術部門（Department for Business, Innovation and Skills, BIS）簽訂備忘錄，BSI成為英國國家標準制定組織，而其特色與任務大致如下： 一、以整體產業為考量之標準制定機構 BSI標準制定業務範圍[2]，除國家、區域、國際標準外，亦為私人企業、企業聯盟制定企業內部或企業聯盟間私人標準。標準制定之作法，係由產業界提名各領域之專業人員，及少數之政府部會官員成立標準制定委員會，各委員並非代表公司立場，而係以整體產業最有利立場參與會議；而BIS政府官員功能僅為傳達目前政府部會投入發展方向；標準制定委員會下，則設有技術委員會，委員各為特定技術領域之專家。BSI的原則為取得各界意見的平衡，在技術委員會成員組成上會避免單一勢力獨大，並盡力避免標準中包含特定權利人之智慧財產。 二、協助技術發展之階段式標準制定工作 BSI對於英國國內之技術研究、發展活動，採階段式引導標準化制定工作： 1、基礎研究階段：即早整合各利害關係人共識，建立共同發展對話基礎； 2、驗證技術可行性階段：藉由建立專家小組，發展初期測試方法與安全管理之共同觀點； 3、技術整合階段：即早為市場作準備，統一規格與測試方法，以及日後之技術升級方法； 4、原型製作階段：建立產業間行為準則，同時廣納消費者觀點，提昇該技術於市場之接受度； 5、應用測試、系統驗證階段：連結該技術與市場上產品、或其他服務、亦或其他標準組織制定之標準。 值得強調的是，BSI於研究發展活動各階段制定之標準提案草案皆會公佈於網站上，提供平台予大眾針對草案表示意見。 三、快速形成產業標準之PAS共通規範 BSI設有「可公開獲得的規範（publicly available specification, PAS）[3]」，相較於一般國家標準、國際標準，開發PAS時程較短，其目的為在英國國家標準或國際標準形成前，作為提早提供市場參考、使用之共通規範，國際標準如ISO亦有此制度。當技術共通規範成為PAS後，每3年接受技術委員會確認是否延續，或轉將其提案為國際標準。 私人企業可向BSI付費委託發展PAS共通規範。BSI會派專業人員指導企業如何撰寫PAS共通規範提案相關文件，集合內部專家團隊協助完成PAS共通規範提案。完成後對外召集內外部專家檢視PAS提案，包括標準制定委員會成員、政府官員、相關產業人員與消費者團體，並將檢視結果建議回饋給BSI內部專家團隊決定最終版本，公佈予給各界參考使用，公佈後之成果亦作為日後發展國家標準、國際標準之基礎。 參、結論 英國國家標準制定組織BSI，不遺餘力的協助產業自願性形成共識作為國家標準主軸，由產業推舉之專業人員與政府各領域官員作為技術委員會成員，平衡各界意見以整體產業發展為考量。藉由研究發展各階段性標準化工作，公開標準草案廣納各界意見，並盡力避免標準包含特定人之智慧財產權。並且，BSI協助國內企業發展PAS共通規範，除加速國內產業共識的形成外，更建立發展國際標準之良好基礎，摃動英國產業發展，並保障社會、環境、消費者之權益，值得我國學習。 [1]Mark A. Lemley, Intellectual Property Rights and Standard-Setting Organizations, 90 Calif. L. Rev. 1889, 1910-1911 (2002), available at http://scholarship.law.berkeley.edu/cgi/viewcontent.cgi?article=1392&context=californialawreview (last visited Aug. 28, 2014) [2]筆者親自訪談Daniel Mansfield政策主任，BSI Group總部，英國倫敦（2014/10/15）。 [3]ISO, ISO/PAS Publicly Available Specification (2014), http://www.iso.org/iso/home/standards_development/deliverables-all.htm?type=pas (last visited: 2014/10/01)
歐洲藥物管理局(EMA)加強與歐洲毒品與毒癮監控中心(EMCDDA)於精神性影響藥物和藥物濫用上的資訊交換合作2010年藥物主動監視法規(pharmacovigilance legislation)要求EMA和EMCDDA必須加強在藥物產品濫用(包含不合法藥品)的資訊交換合作關係，是以，EMA和EMCDDA於今年九月初於葡萄牙里斯本相互簽署了修訂工作協議(amended working arrangement)，約定在新型精神性影響藥物與藥物濫用的面向上，加強相互間的資訊交流合作。 於EMA和EMCDDA所簽訂的修正工作協議中，雙方約定就下列領域深化資訊交換： 1.雙方需各自依照歐盟執委會2005/387/JHA決議和歐盟1235/2010號法規第28c(2)條，對於所擁有之新型精神性影響藥物與藥物濫用(包含不合法藥品)資訊進行交換合作； 2.資訊交換需透過通常基準的報告形式由EMCDDA送至EMA，並含括有關於藥物產品濫用、不合法藥物，以及新型精神性影響物質等相關資訊； 3.EMA必須通知EMCDDA有關於藥物產品濫用的有效導因(validated signals)，同時，EMA必須提供EMCDDA有關於藥物產品濫用和新型精神性影響藥品市場核准狀況的細部資訊； 4.EMA對於選定藥物產品之風險管理計畫的界定，可考量是否需先行與EMCDDA作諮詢意見交換； 5.EMA和EMCDDA在歐盟執委會2005/387/JHA決議和歐盟1235/2010號法規第28c(2)條所設基礎的合作模式下，必須要特別注意確保人類或動物健康照護並無惡化的情事，同時應確保科學建議之潛在衝突於前階段將會被界定與管理； 6.EMA和EMCDDA兩者間諮詢的進行，必須避免非關於新型精神性影響物質風險評估之科學建議的潛在衝突； 7.對於任何額外合作計畫的執行，必須考量EMA和EMCDDA兩者的例行性工作規劃； 8.對於特定計畫需要額外資源時，必須經由EMA和EMCDDA共同同意，並將同意文件附於現階段的工作協議中； 9.EMA和EMCDDA可就其各自舉辦的會議相互邀請對方，並邀請對該會議有興趣的其他團體參與； 10.對於EMA和EMCDDA間實際的合作面向，將在工作協議既定架構下繼續發展。 除了前述的適用範圍外，EMA和EMCDDA的修訂工作協議，亦有就相互諮詢和秘密資訊等領域作出約定，以確保資訊交換係在符合雙方需求與不侵害個人基本權利的情況下進行。有鑑於EMA和EMCDDA希冀藉由資源互補的強化約定，來彌補自身於精神性影響藥物和藥物濫用領域的資訊不足缺陷，是否我國在相關醫療、藥品管制或是藥品商業化資訊需有跨機關的整合機制，以促使我國在醫療、醫藥資訊交換與流通，在不侵害個人基本權利的情況下，能夠發揮互益效用，則是我國有關單位必須審慎思考的問題。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局（Infocomm Media Development Authority，下稱IMDA）於2026年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI，下稱示範框架）第1.5版，以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向，同時提供真實部署案例，將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧，代理AI能自主規劃、跨多步驟採取行動，並與其他代理及外部系統互動，代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境，例如更新客戶資料庫或執行付款，風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過，以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心，仍落在AI應用與輸出風險，對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展，更新其代理AI治理框架，新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式，為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件，但每一元件之設計皆可能顯著影響代理能力，故思考代理能做什麼時，應區分兩個概念：一為行動空間（action-space），指代理可採取之行動範圍，取決於其獲准使用之工具及該等工具上之權限；二為自主性（autonomy），指代理朝目標行動時可自行決定如何行動之程度，取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素，不同的權限與自主程度，將會使性質同為代理AI，歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新，真正變化在於這些風險因代理AI會在真實世界採取行動，速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止，而要求人類持續監督又可能導致自動化偏誤與警示疲勞，致某一步驟之錯誤可能於後續步驟間傳播並放大。因此，當系統由多個代理構成，敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能，會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向，提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環，透過監測發現異常時，即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險：組織可於規劃階段設計適當邊界，以限縮代理之影響範圍，例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施，確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責：「人在迴路」（human-in-the-loop）須加以調整，以因應自動化偏誤，一旦代理AI之部署獲得放行，組織即應採取措施確保人為當責，並應迅速掌握新發展，隨技術演進更新其作法。 (三)落實技術控制與流程：組織應於代理生命週期全程實施技術措施，且由於代理與其環境動態互動、且非所有風險均能事前預見，爰建議逐步推出代理，並於部署後持續監測。 (四)促成終端使用者盡責：應告知使用者代理之行動範圍、資料存取情形，以及使用者自身之責任。組織並應考量另行提供教育訓練，使員工具備管理人機互動、行使有效監督所需之知識，同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率，嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍（讀取相對於寫入）及可回復性；發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度，並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境，推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上，示範框架主張系統層確定性控制優於提示層防護，亦即與其提示代理AI不得存取特定工具，不如施加存取控制使該工具根本無法被呼叫。除靜態防護外，框架另強調在設計之初就要納入控制措施，在執行過程中監測並介入，例如如限制防止工具使用過度，或以輸入驗證的方式，在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法，示範框架建議可於協定層就善用模型上下文協定（Model Context Protocol，MCP）過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時，該框架以事例建議組織可採取這些控制的技術手段，如：於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證；於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制；於連結時，將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式，該示範框架建議應先界定須經人為核准之查核點或行動界線，尤其在高風險、不可回復或離群行為之前。其次，設計核准之形式，使請求切合脈絡且易於理解、清楚呈現風險，並依情形選擇所需之人為輸入。但最關鍵的是，須將監督的有效性本身納入稽核，包括追蹤人為否定率偏低，或審查回應時間有過短情況時，即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞，並辨識決策明顯偏離常態之「離群」人員，同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險，示範框架建議的因應是將身分管理延伸至代理，但其亦指出現行授權系統多為預先定義之靜態範圍，難以因應代理依情境動態變化之細粒度權限；於過渡期間，建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作，故應測試整體任務執行、政策遵循度與工具使用正確性，非僅測最終輸出；且應個別測試與合併測試，以掌握多代理協作時之湧現風險。就部署後，框架主張逐步推行，可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面，應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡，並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布，此次更新納入多個組織導入代理AI的實例回饋，擴充多代理系統之系統性風險，補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」，而代理式治理之對象，則係能呼叫工具、寫入系統、執行交易之能行動系統，風險延伸至「行動」及其真實後果。因此，其建議應由單一之模型輸出品質，轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理；由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則，適對應示範框架的人為當責、系統層控制與監督指標化建議。同時，依基本法第16條規定數位發展部應參考國際標準或規範，推動與國際介接之人工智慧風險分類框架，並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範，並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上，跨入多任務自主執行的功能層次，風險的質與量已因代理功能出現系統性擴大效應的情況下，單純以生成式AI為標的治理規範或指引，顯然其可產生的規範管理或指引提醒的效果，已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架，雖然亦表明代理AI的風險並非其所獨有，亦是來自於生成式AI的既有影響，但該框架進一步提醒代理AI將使風險控制更加困難，「人在迴路」（human-in-the-loop）須加以調整，一旦代理AI之部署獲得放行，組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」，並應迅速掌握新發展，運用技術手段強化風險監測。其中喻意深遠的是，該框架就終端使用者所提基礎技藝維持之警示，即代理AI接手任務恐致技能退化與業務永續風險，或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有，如需引用或轉載，請註明出處。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA），《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第一‧五版，二〇二六年五月二十日發布、同年六月五日更新，https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf（最後瀏覽日：二〇二六年七月六日）。 [2]《人工智慧基本法》，民國一百十四年十二月二十三日經立法院三讀通過，全文二十條，二〇二六年一月公布施行，中央主管機關為國家科學及技術委員會。 [3] 前揭註1，頁8、15（分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」）。 [4] 同前註，頁11。 [5] 詳前註1，頁3~4。 [6] 同前註，頁15至18。 [7] 同前註，頁33至34。 [8] 同前註，頁30。 [9] 同前註，頁29至32。 [10] 同前註，頁23至24。 [11] 同前註，頁42至45。