開放科學（open science）
開放科學的基本理念，泛指在數位時代的背景下，各類型實驗測量機器獲得大量數據，以及網路行為累積的人類活動記錄，使各領域的研究活動趨向側重資料處理，結合分析工具後，以可閱讀的形式呈現並發表。
開放科學概念應用於行政與制度建立上，主要有兩個面向，其一為政府資助產出科學期刊論文等研究成果的開放取用（open access），意圖解決期刊雜誌訂閱費用過高，導致研究成果流通困難的問題，屬於早期開放科學關注的重點；其二則係使用官方研究資金進行研發時，於研究過程中取得的實驗、觀測及調查之研究資料開放運用，為近期政策與制度性倡議所聚焦，目的為使科學界、產業界以及一般社會大眾得以廣為接收並利用該些研究結果，令政府資金運用的一切成果均能充分回饋給國民與社會，期望藉由研究資料的公開，進一步深化該領域的研究進程、推展跨域研究或企業的產品與服務開發、以及創新活動。
舉例而言，日本內閣府於2018年提出的「統合創新戰略（統合イノベーション戦略）」第二章內，建構了國內開放科學下研究資料管理開放政策之基礎框架，關注伺服器空間內的研究資料保存與管理，與外國研究資料連動以建構巨量知識泉源，讓所有人得以廣泛活用該些研究資料，促成與加速跨領域與跨國境的新創。
本文為「經濟部產業技術司科技專案成果」
劉純妤
法律研究員 編譯整理
針對「全國聽障協會」（National Association of Deaf, NAD）於2014年對於加州柏克萊大學提供之免費線上課程、會議、講座、表演和其他影音檔案未內建隱藏式字幕（closed captioning），向美國司法部申訴，該校違反美國身心障礙者法Americans with Disabilities Act, ADA）第二章，即收編至美國統一法典（U.S.C.）第42章第12131至第12134條，關於「提供公共服務的實體（entity）應將其服務平等地提供他人近用」相關規定，包括州行政機構、法院、立法機關、城市、郡、學校、社區大學等實體，須確保身心障礙者獲得平等機會使用州和地方政府的服務或參與其活動。 美國司法部歷經八年調查後，最終與加州柏克萊大學達成行政協議（consent decree），要求加州柏克萊大學應定期回報無障礙網站建置進度、回應公眾無障礙網站需求、內部員工相關教育訓練、定期請第三方稽核單位測試學校各平臺的無障礙網站是否達「全球資訊網協會」（World Wide Web Consortium, W3C）發布的「無障礙網站指南」2.0版（Web Content Accessibility Guidelines, WCAG 2.0）AA等級技術標準。自該協議生效日起，加州柏克萊大學以下相關網路平臺上之影音檔案，均需內建隱藏式字幕： 一、大學官網（http://www.berkeley.edu）及公眾可瀏覽且由加州柏克萊大學管理的任何相關子網域； 二、大規模線上公開課程（MOOC）平臺「UC BerkeleyX」； 三、由第三方平臺（如Apple Podcasts或Spotify）託管，加州柏克萊大學管理的所有podcast頻道或帳戶； 四、由第三方平臺（如YouTube）託管，加州柏克萊大學管理的所有影音頻道或帳戶。 從行政協議之協調方向及結果來看，加州柏克萊大學除實體環境外，和該環境具聯繫關係之網站也需要符合ADA無障礙網站規定，使得多元族群均有平等接觸社會服務和活動的機會。在數位經濟時代，各式網路活動活絡之今日，網路等線上虛擬環境與實體公共設施的無障礙同等重要；線上與線下之人權皆須獲得同等保障，亦係數位人權之真諦。
法國CNIL提醒銀行App通話偵測防詐措施須兼顧合法性與用戶權利法國國家資訊自由委員會（Commission Nationale de l'Informatique et des Libertés, CNIL）於2025年7月15日指出近年來詐騙案件快速增加，詐欺行為人假冒銀行人員，以電話引導受害者自行完成轉帳或新增收款人等操作。為降低受騙風險，部分銀行在行動應用程式中設計機制，能偵測到使用者操作較高風險的交易時若同時處於通話狀態，便可即時跳出警示或暫停交易。此等做法雖有助於阻詐，惟因涉及個人資料存取，故須符合《歐盟一般資料保護規則》（General Data Protection Regulation, GDPR）之規範。 CNIL提醒銀行蒐集通話資訊須取得使用者明確同意，不能僅依賴行動裝置的「電話」權限，亦不得因使用者拒絕同意而限制應用程式之基本使用，僅在如新增收款人、大額轉帳、或轉帳至高風險國家等異常活動操作中才能要求同意，並須提供網站、電話或分行等替代辦理方式。又相關權限請求應在交易操作過程中提出，而非在應用程式安裝時統一要求，安裝前亦應向使用者充分說明。若使用者不同意，仍必須使其能正常查詢帳戶資訊。 此外，在資料處理上須遵循資料最小化原則，僅得蒐集是否進行通話及通話時長之資訊，不得恣意擴大資料蒐集範圍。與此同時，銀行應讓使用者在同意與撤回同意操作上一樣簡便，不得僅引導至手機裝置設定，而應使消費者能在應用程式中直接操作，並清楚告知撤回同意後功能受限範圍及可替代方案。 除利用應用程式進行通話偵測，CNIL建議銀行尚應搭配其他措施，例如在應用程式內定期推送防詐提醒、舉辦宣導活動，或在確認付款時詢問客戶是否正與自稱是「銀行顧問」之人通話。若銀行欲透過應用程式偵測通話狀態來防詐，則須在合法性、必要性、資料最小化以及使用者同意之間取得平衡。
美國網路安全暨基礎設施安全局（CISA）成立聯合網路防禦協作機制（Joint Cyber Defense Collaborative，JCDC），將領導推動國家網路聯防計畫美國網路安全暨基礎設施安全局（Cybersecurity and Infrastructure Security Agency，以下簡稱CISA）於2021年8月宣布成立聯合網路防禦協作機制（Joint Cyber Defense Collaborative，以下簡稱JCDC），依據《國防授權法》（National Defense Authorization Act of 2021, NDAA）所賦予的權限，匯集公私部門協力合作，以共同抵禦關鍵基礎設施的網路威脅，從而引領國家網路防禦計畫的制定。 聯合網路防禦協作辦公室（JCDC's office）將由具代表性的聯邦政府單位所組成，包括國土安全部（Department of Homeland Security, DHS）、司法部（Department of Justice, DOJ）、美國網路司令部（United States Cyber Command, USCYBERCOM）、國家安全局（National Security Agency, NSA）、聯邦調查局（Federal Bureau of Investigation, FBI）和國家情報總監辦公室（Office of the Director of National Intelligence, ODNI）。此外，JCDC將與自願參與的夥伴合作、協商，包括州、地方、部落和地區政府、資訊共享與分析組織和中心（ISAOs/ISACs），以及關鍵資訊系統的擁有者和營運商，以及其他私人企業實體等（例如：Microsoft、Amazon、google等服務提供商）。 目的在藉由這項新的合作機制，協調跨聯邦部門、各州地方政府、民間或組織等合作夥伴，來識別、防禦、檢測和應對涉及國家利益或關鍵基礎設施的惡意網路攻擊，尤其是勒索軟體，同時建立事件應變框架，進而提升國家整體資安防護和應變能力。 是以，JCDC此一新單位有以下特點： 具獨特的公私部門規劃要求和能力。 落實有效協調機制。 建立一套共同風險優先項目，並提供共享資訊。 制定、協調網路防禦計畫。 進行聯合演練和評估，以妥適衡量網路防禦行動的有效性。 而JCDC主要功能，整理如下： 全面、全國性的計畫，以處理穩定操作和事件期間的風險。 對情資進行分析，使公私合作夥伴間能採取應對風險的協調行動。 整合網路防禦能力，以保護國家的關鍵基礎設施。 確保網路防禦行動計畫具有適當性，以抵禦對方針對美國發動的網路攻擊。 計畫和合作的機動性，以滿足公私部門的網路防禦需求。 制度化的演練和評估，以持續衡量網路防禦計畫和能力的有效性。 與特定風險管理部門（Sector Risk Management Agencies, SRMAs）密切合作（例如：國土安全部-通訊部門、關鍵製造部門、資訊技術等），將其獨特專業知識用於量身定制計畫，以應對風險。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局（Infocomm Media Development Authority，下稱IMDA）於2026年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI，下稱示範框架）第1.5版，以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向，同時提供真實部署案例，將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧，代理AI能自主規劃、跨多步驟採取行動，並與其他代理及外部系統互動，代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境，例如更新客戶資料庫或執行付款，風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過，以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心，仍落在AI應用與輸出風險，對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展，更新其代理AI治理框架，新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式，為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件，但每一元件之設計皆可能顯著影響代理能力，故思考代理能做什麼時，應區分兩個概念：一為行動空間（action-space），指代理可採取之行動範圍，取決於其獲准使用之工具及該等工具上之權限；二為自主性（autonomy），指代理朝目標行動時可自行決定如何行動之程度，取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素，不同的權限與自主程度，將會使性質同為代理AI，歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新，真正變化在於這些風險因代理AI會在真實世界採取行動，速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止，而要求人類持續監督又可能導致自動化偏誤與警示疲勞，致某一步驟之錯誤可能於後續步驟間傳播並放大。因此，當系統由多個代理構成，敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能，會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向，提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環，透過監測發現異常時，即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險：組織可於規劃階段設計適當邊界，以限縮代理之影響範圍，例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施，確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責：「人在迴路」（human-in-the-loop）須加以調整，以因應自動化偏誤，一旦代理AI之部署獲得放行，組織即應採取措施確保人為當責，並應迅速掌握新發展，隨技術演進更新其作法。 (三)落實技術控制與流程：組織應於代理生命週期全程實施技術措施，且由於代理與其環境動態互動、且非所有風險均能事前預見，爰建議逐步推出代理，並於部署後持續監測。 (四)促成終端使用者盡責：應告知使用者代理之行動範圍、資料存取情形，以及使用者自身之責任。組織並應考量另行提供教育訓練，使員工具備管理人機互動、行使有效監督所需之知識，同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率，嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍（讀取相對於寫入）及可回復性；發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度，並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境，推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上，示範框架主張系統層確定性控制優於提示層防護，亦即與其提示代理AI不得存取特定工具，不如施加存取控制使該工具根本無法被呼叫。除靜態防護外，框架另強調在設計之初就要納入控制措施，在執行過程中監測並介入，例如如限制防止工具使用過度，或以輸入驗證的方式，在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法，示範框架建議可於協定層就善用模型上下文協定（Model Context Protocol，MCP）過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時，該框架以事例建議組織可採取這些控制的技術手段，如：於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證；於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制；於連結時，將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式，該示範框架建議應先界定須經人為核准之查核點或行動界線，尤其在高風險、不可回復或離群行為之前。其次，設計核准之形式，使請求切合脈絡且易於理解、清楚呈現風險，並依情形選擇所需之人為輸入。但最關鍵的是，須將監督的有效性本身納入稽核，包括追蹤人為否定率偏低，或審查回應時間有過短情況時，即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞，並辨識決策明顯偏離常態之「離群」人員，同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險，示範框架建議的因應是將身分管理延伸至代理，但其亦指出現行授權系統多為預先定義之靜態範圍，難以因應代理依情境動態變化之細粒度權限；於過渡期間，建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作，故應測試整體任務執行、政策遵循度與工具使用正確性，非僅測最終輸出；且應個別測試與合併測試，以掌握多代理協作時之湧現風險。就部署後，框架主張逐步推行，可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面，應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡，並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布，此次更新納入多個組織導入代理AI的實例回饋，擴充多代理系統之系統性風險，補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」，而代理式治理之對象，則係能呼叫工具、寫入系統、執行交易之能行動系統，風險延伸至「行動」及其真實後果。因此，其建議應由單一之模型輸出品質，轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理；由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則，適對應示範框架的人為當責、系統層控制與監督指標化建議。同時，依基本法第16條規定數位發展部應參考國際標準或規範，推動與國際介接之人工智慧風險分類框架，並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範，並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上，跨入多任務自主執行的功能層次，風險的質與量已因代理功能出現系統性擴大效應的情況下，單純以生成式AI為標的治理規範或指引，顯然其可產生的規範管理或指引提醒的效果，已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架，雖然亦表明代理AI的風險並非其所獨有，亦是來自於生成式AI的既有影響，但該框架進一步提醒代理AI將使風險控制更加困難，「人在迴路」（human-in-the-loop）須加以調整，一旦代理AI之部署獲得放行，組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」，並應迅速掌握新發展，運用技術手段強化風險監測。其中喻意深遠的是，該框架就終端使用者所提基礎技藝維持之警示，即代理AI接手任務恐致技能退化與業務永續風險，或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有，如需引用或轉載，請註明出處。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1]新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA），《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第一‧五版，二〇二六年五月二十日發布、同年六月五日更新，https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf（最後瀏覽日：二〇二六年七月六日）。 [2]《人工智慧基本法》，民國一百十四年十二月二十三日經立法院三讀通過，全文二十條，二〇二六年一月公布施行，中央主管機關為國家科學及技術委員會。 [3] 前揭註1，頁8、15（分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」）。 [4] 同前註，頁11。 [5] 詳前註1，頁3~4。 [6] 同前註，頁15至18。 [7] 同前註，頁33至34。 [8] 同前註，頁30。 [9] 同前註，頁29至32。 [10] 同前註，頁23至24。 [11] 同前註，頁42至45。