英國與美國為人工智慧安全共同開發簽署合作備忘錄

英國技術大臣(U.K. Secretary of State for Science)蜜雪兒·多尼蘭(Michelle Donelan)和美國商務部長(U.S. Secretary of Commerce)吉娜·雷蒙多(Gina Raimondo)於2024年4月1日在華盛頓特區簽署一份合作備忘錄(MOU),雙方將共同開發先進人工智慧(frontier AI)模型及測試,成為首批就測試和評估人工智慧模型風險等進行正式合作之國家。

此備忘錄之簽署,是為履行2023年11月在英國的布萊切利公園(Bletchley Park)所舉行的首屆人工智慧安全峰會(AI Safety Summit)上之承諾,諸如先進AI的急速進步及濫用風險、開發者應負責任地測試和評估應採取之適當措施、重視國際合作和資訊共享之必要性等等,以此為基礎羅列出兩國政府將如何在人工智慧安全方面匯集技術知識、資訊和人才,並開展以下幾項聯合活動:

1.制定模型評估的共用框架(model evaluations),包括基礎方法(underpinning methodologies)、基礎設施(infrastructures)和流程(processes)。

2.對可公開近用模型執行至少一次聯合測試演習(joint testing exercise)。

3.在人工智慧安全技術研究方面進行合作,以推進先進人工智慧模型之國際科學知識,並促進人工智慧安全和技術政策的一致性。

4.讓英、美兩國安全研究所(AI Safety Institute)間的人員互相交流利用其團體知識。

5.在其活動範圍內,依據國家法律、法規和契約規定來相互共享資訊。

換言之,兩國的機構將共同制定人工智慧安全測試之國際標準,以及適用於先進人工智慧模型設計、開發、部署、使用之其他標準。確立一套通用人工智慧安全測試方法,並向其他合作夥伴分享該能力,以確保能夠有效應對這些風險。就如英國技術大臣蜜雪兒·多尼蘭強調的,確保人工智慧的安全發展是全球性問題,只有通過共同努力,我們才能面對技術所帶來的風險,並利用這項技術幫助人類過上更好的生活。

相關連結
你可能會想參加
※ 英國與美國為人工智慧安全共同開發簽署合作備忘錄, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9207&no=55&tp=1 (最後瀏覽日:2026/11/22)
引註此篇文章
你可能還會想看
香港通過《2021 年個人資料(私隱)(修訂)條例》,「人肉搜索」成為刑事犯罪

  香港立法會於今(2021)年9月29日通過《2021 年個人資料(私隱)(修訂)條例》(The Personal Data (Privacy) (Amendment) Ordinance, PDPO),並於同年10月8日實施。本次修訂主要將「人肉搜索(Doxxing)」行為訂為刑事犯罪、賦予私隱專員對肉搜進行刑事調查及要求停止批露肉搜訊息之權責。   香港政制及內地事務局今5月提議修訂PDPO ,表示這是對抗肉搜的必要手段,2019年民主抗議活動中此行徑相當普遍,許多警察及反對派人士深受騷擾。修訂訊息公開後,Facebook、Twitter及Google等科技公司即透過亞洲互聯網聯盟(AsiaInternet Coalition)表示,倘香港政府修訂PDPO ,美國企業恐因網路惡意分享個資,造成香港員工面臨刑事調查或訴追風險,因而停止在香港的服務。香港行政長官林鄭月娥為紓緩各方疑慮做出回應,表示該修訂案對阻止網路惡意散布個資而言有其必要性,受香港民眾廣泛支持,其並指出社交媒體欠缺監管,包括散播仇警訊息、違反人性行為,導致香港今年7月發生刺傷警員後再自殺的事情。   依PDPO 之修訂條文,任何人未經資料當事人同意而披露他人的個人資料,並有意圖或罔顧是否會導致當事人或其家人蒙受指明傷害,例如滋擾、騷擾、纏擾、威脅或恐嚇,或對當事人或其家人造成身體、心理傷害或財產受損,最高將處5年有期徒刑及一百萬港元罰款。   對此,亞洲互聯網聯盟表示聯盟成員反對肉搜行為,惟PDPO 修訂條文措辭含糊,位於香港的企業及員工可能因用戶肉搜行為而受到刑事調查或起訴,對企業造成不成比例且不必要之回應成本,並恐限制言論自由,單純網路分享資訊的行為亦可能被視為犯罪。聯盟甚至指出:「科技企業要避免遭受這些懲罰的唯一途徑,就是不要在香港進行投資和提供服務」。

從日本山崎案談營業秘密不法取得之管理

從日本山崎案[1]談營業秘密不法取得之管理 資策會科技法律研究所 法律研究員 駱玉蓉 105年05月25日 壹、前言   為強化營業秘密的保護,日本從2003年開始,於不正競爭防止法(以下稱本法)中導入刑事保護的相關條文,爾後經過多次修法,在2011年調整刑事訴訟程序的同時,於本法導入了即使行為者不使用或揭露所示的營業秘密,但只要以獲取不當利益為目的,且「以複製」等方式「取得營業秘密」,亦為刑事處罰的對象[2]。2014年名古屋地院的日本山崎Mazak案件(ヤマザキマザック事件,以下稱本案)則是在此修法背景中,於少數公開判決中最先單獨引用該法條的案件。   面對層出不窮的營業秘密侵害案件,為遏止及處罰不法取得、使用或洩漏他人營業秘密的行為,我國營業秘密法亦於2013年的修法中增訂侵害營業秘密的刑事責任,將「知悉或持有營業秘密,未經授權或逾越授權範圍而重製、使用或洩漏該營業秘密」的行為[3]納入刑罰範疇,以期可有效遏阻營業秘密侵害案件。   有鑒於營業秘密外洩情形與不法取得手法的多變,本文將先從本案營業秘密侵害行為、存取/接觸權限控管的漏洞出發,接著探討應如何從控管員工的接觸/存取權限以強化營業秘密的保護,最後從落實營業秘密管理的面向,彙整本案受法院判決肯定之營業秘密保護措施及可進一步強化之配套,期給予我國企業營業秘密管理的省思。 貳、事件概要   中國大陸籍的被告Y,於2006年4月進入工具機大廠山崎Mazak(以下簡稱原告公司)任職,於2011年8月轉調連結業務部門與研發部門的業務技術部,於2012年3月因獲得其他公司聘書而提出離職申請,預定離職日為同年4月20日。   檢察官於一審的起訴內容提到,被告Y在無業務需求的狀況下,將三萬件以上的設計圖面等由公司內部伺服器下載至私人硬碟中,更於提出離職的當月,下載約一萬件與轉職企業相關機種的設計圖面等技術資料。雖然被告Y辯稱取得該等資料的目的在於工作上的學習需求,但根據被告Y與其中國大陸友人的往來訊息可知被告Y亟欲脫手所取得的技術資料以換取現金。   原告公司在本案當時,對技術資料的權限控管為將技術資料儲存在公司內部伺服器的資料夾內,僅業務上有需要的員工才能進行存取、下載,此外,原告公司配發給員工的業務用電腦亦設定有員工個人的帳號、密碼來進行認證,並藉由IP位址來辨識存取網路資料的員工所屬部門及該員工的存取權限。有關前述IP位址的分配,為一個部門配發255個IP位址對應255台電腦,當一部門未達255台電腦時,將會有未被電腦對應的IP位址存在,被告Y便是將自己電腦的IP位址切換成未被電腦對應的IP位址,再進行檔案的存取與複製。經由上述一連串的證據與事實證明,一審法院認定被告Y以不當得利為目的而複製(取得)原告公司的營業秘密,處以拘役兩年、併科罰金50萬日幣的判決。 參、判決評析   從本案可知,原告為保護其營業秘密,針對存取/接觸營業秘密者設有相關限制管理。亦即,藉由IP位址辨識存取網路資料的員工所屬部門及存取權限,再透過存取權限的帳號、密碼進行認證管理,該種管理方式立意良好,但在實施時,卻因為有未被電腦對應的IP位址存在,而讓被告Y取巧以切換IP位址的方式逾越權限接觸並取得原告公司的營業秘密。此外,雖然原告公司有留存電腦log紀錄,因而最後能證明被告Y曾進行六千次以上的資料存取,但若能在事前做好防備,強化管理措施,例如禁止濫用IP位址越權存取或限定存取次數等方式,增加意圖竊取營業秘密者的取得困難,相信能更遏阻潛在或食髓知味的不法行為。   以下從本案原告公司對於員工接觸權限的控管為啟發,例示限制員工存取/接觸營業秘密,可採取的強化對策。 一、適當賦予一定範圍之存取/接觸權。   例如在企業的研發單位,可依專案或產品線而拆分成多個範圍,依據範圍設定可存取/接觸的權限,藉此可避免出現如本案中,僅限定存取/接觸權、卻未區分範圍,導致一人手持帳號密碼便可通行無阻存取/接觸全部資料,造成外洩時損害程度的提高。 二、在上述對策一的基礎上,於資訊系統中註冊存取/接觸權者的帳號。   除了落實一帳號一密碼的原則,針對單一帳號的存取/接觸權限來限制其可閱覽、存取的資料範圍或內容外,若是員工有離職、轉調等情況時,亦要配合以刪除ID、更改存取/接觸權限的方式來應對,避免如本案因作業方便而導致有空的IP位址等開後門的情況,而造成營業秘密管理功虧一簣。 三、以區分保管來限制對營業秘密的存取/接觸權限。   區分保管可大分為「空間分離保管」以及「資料區分保管」。以空間分離保管為例,可依進出人員區分為訪客可進入的區域、持有門禁卡員工均可進入的區域、僅限定該部門員工才可進入的區域、針對保管高機密性資訊區域,實施指紋等生物認證的門禁管制。而以資料區分保管為例,常見的做法有高機密性文件與一般文件區分保管。   例如在本案中,隸屬於業務技術部的人員,便不應該擁有自由存取/接觸其他部門—研發部門之研發資料的權限,建議企業可透過前述的空間分離保管、資料區分保管,兩種方式雙管齊下,實施跨部門資料存取權限的控管。 四、禁用私人紀錄媒體、落實紀錄媒體的使用及保管。   嚴禁使用外接式的私人紀錄媒體,企業除了須備足員工所需的紀錄媒體之外,更需制訂與落實紀錄媒體的使用及保管措施。在本案中,即因原告公司當時的業務技術部部長(下稱部長Q)發現到部門內的紀錄媒體使用不受控管,導致私人紀錄媒體濫用的現象,便於其轄下部門制定如:建立可攜式紀錄媒體管理清單及使用規定,落實借出/返還管理、以及明訂禁止攜入或使用私人的外接式紀錄媒體的規範等,法院因而認定原告公司已採取合理保密措施。   然而,除了明定紀錄媒體的禁止使用或限制使用等規定外,還應透過週會、組會、課程宣導等方式周知可攜式紀錄媒體的使用規則,同時透過定期稽核確保該使用規則的確實執行,避免徒有管理規範卻未落實控管。 肆、結論   本案原告公司雖明定營業秘密相關的管理規定,例如權限設定、禁用私人紀錄媒體、公司紀錄媒體使用及保管等各種管理措施,而在本案獲得勝訴判決。但除了管理措施有可強化之處外,主要的原因仍發生於管理機制於實際運作上未嚴格落實,而有部門員工長期持有企業配置的硬碟與USB隨身碟而未歸還,甚或違反禁止使用私人可攜式紀錄媒體的規定,使用私人硬碟等的狀況,造成被告Y有機可乘使用私人硬碟儲存原告公司上萬筆設計圖面等資料。   從此可知,即便企業已建立各種營業秘密相關的管理措施,仍須定期追蹤掌握管理機制的落實,例如定期內部檢視和外部稽核、不定期抽查員工電腦使用紀錄等,確保營業秘密的有效管理。同時間,企業亦應隨時預警任何不符規定的異常警報,透過log異常行為的警示設定,提早發現問題並採取證據保全措施,將營業秘密外洩風險或損害降至最低。   企業歷經營業秘密的盤點、分級、達成管理措施共識,到形成各部門遵循的管理制度等繁複流程,始確認營業秘密保護標的及合法合理的管理措施,若是未落實執行管理,除了增加營業秘密外洩的風險,於後續訴訟階段也難以處於有利舉證的立場。所謂魔鬼藏在細節裡,無論是何種對策,確實落實而不流於形式,更是保護營業秘密的不二法則。 本文同步刊登於TIPS網站(http://www.tips.org.tw) [1] 名古屋地裁平成26年8月20日判決。 [2] 2011年日本《不正競爭防止法》第21條第1項第3款。 [3] 2013年我國《營業秘密法》第13條之1第1項第3款。

新加坡發佈《代理金融運行時安全防護框架》產業白皮書,協助金融AI代理之風險治理

新加坡發佈《代理金融運行時安全防護框架》產業白皮書,協助金融AI代理之風險治理 資訊工業策進會科技法律研究所 2026年08月18日 今(2026)年7月3日,新加坡金融管理局(Monetary Authority of Singapore, 簡稱MAS)聯合多家國際金融機構與金融科技公司共同發布《代理金融運行時安全防護框架》(Safeguards for Agentic Finance at Runtime,簡稱SAFR)產業白皮書[1],針對金融領域AI代理(AI agents)提出前瞻性的治理框架。 壹、事件摘要 MAS於2025年11月發佈BuildFin.ai計畫,其目的是要讓金融機構、科技業者與研究機構一起解決金融業導入AI時的共同問題。簡單來說,BuildFin.ai計畫提供了金融科技業者一個應用共創平台,由業者提出問題,再讓產、官、研各界共同思索對策以促進金融業的AI應用,並同時強化其風險治理[2]。另外,隨著AI代理的新興技術發展,新加坡資訊通信媒體發展局(Infocomm Media Development Authority, IMDA)亦已於今年5月20日發布《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI)第1.5版,透過風險評估機制、人類問責制、技術管控流程、終端使用者注意義務等面向建構AI代理的治理機制[3]。 因而,MAS在前述新加坡的政策趨勢下,也同步意識到金融領域導入AI代理技術的發展,包括金融AI代理可以發起支付、提交交易訂單、核准信用申請、申報監管報告,以及結算保險理賠等自主執行能力,其風險特性與傳統AI不同,因此有及早規劃因應的必要性。於是,MAS透過BuildFin.ai計畫與螞蟻國際、Circle、匯豐銀行、摩根大通、宏利、萬事達卡、華僑銀行和Visa等八大金融業界開會討論,決定共同撰寫SAFR產業白皮書,提供一套可操作性的治理框架,協助金融業者可以應用此方法以有效提升金融業導入AI代理的風險治理。 貳、重點說明 以下就SAFR分為兩部分進行簡要說明,第一部分為金融AI代理的系統風險,第二部分則為金融AI代理的治理架構: 一、金融AI代理的系統風險 (一)執行前保障(pre-execution assurance)的機制欠缺 傳統AI的風險治理主要管控在「部署前」與「使用後」,前者主要透過模型風險管理(model risk management)的方式,於部署前對AI系統進行驗證;後者則以審計(audit)方法去檢視事後發生的情況進行追蹤。然而,這兩種常規風險管理機制,都無法及時在AI代理決策執行前的當下就問題發生進行識別與處理,因此凸顯出對執行前保障的機制欠缺[4]。 (二)人機治理介面流於形式 現行人類審核機制目地主要應付於權宜之計,比如,一則通知、一封電子郵件警示,並未有具體的制度化與管理流程。換言之,沒有處理期限、缺乏標準的決策格式,也沒有審計記錄,SAFR批評這是流於形式、缺乏實質內容的人工監督[5]。 (三)碎片化的系統格式 新加坡的金融業者都各自於AI部署系統建立自身專屬的防護網(guardrails),其結果導致各系統間無法互相操作(non-interoperable),且無法在整個機構內部以一致的格式進行審計。因此,其風險並無法有效整合識別,不僅耗費成本過多,也無法讓金融業者能攜手合作處理[6]。 二、金融AI代理的治理架構 SAFR針對前述三大問題提出了應對方案,透過結構化的升級協議和統一的治理模式以解決AI系統的安全治理與監管挑戰。換言之,SAFR為AI代理定義了資料結構、評估邏輯與升級協議,並提出「治理封裝」(governance envelop)的技術概念,作為AI代理執行動作前的數位申請書,將其執行動作的參數、推理軌跡與身分元資料統合打包,並依SAFR的四階段治理流程進行管理以確保AI代理執行的即時把關[7]。 (一)身分驗證(Agent identity) AI代理的每項行動會綁定至一個已被認可且註冊的AI代理身分帳號,在進行任何其他評估流程之前,檢核系統必須先對照該AI代理的註冊身分進行驗證,並於AI代理帳號的註冊庫中進行查詢比對。另外由於AI代理會執行不同動作,一個AI代理可在不同行為註冊複數個身分帳號,檢核系統就會比對與判定該AI代理帳號的行為與身分是否吻合一致,若身分驗證失敗,檢核系統會拒絕AI代理的執行動作,並記錄於審計日誌中[8]。 (二)控制安全機制(Controls Repository) 控制安全機制是系統用來驗證其規則的場域,由於金融AI代理經過身分驗證後,其執行行為是否符合內部組織政策、金融法規、產品規則與使用者的授權範圍等,需要進一步的控管與檢核。因此,該系統會就允許的行動類型、決策邏輯、行為條件、有效期限與責任歸屬進行編碼操作,來逐一檢視AI代理的行為是否符合控制安全機制的要求[9]。 (三)結果處置引擎(Disposition Engine) 在結果處置引擎階段會根據控制安全機制的檢核結果給予裁示判斷,其判斷有四種結果,拒絕、升級、自動執行與觀察。拒絕為禁止其行動,升級則是要由人工審核,自動執行是通過並允許其行為,觀察則是認為有疑慮但損害不大者,可放行其行為但會被記錄在案供後續追蹤[10]。整體而言,透過不同層級的檢核標準以確認AI代理執行的範圍與權限。 (四)審計日誌(Audit Log) 最後審計日誌將會如實紀錄上面三階段的系統審核流程,並以「只能新增、無法修改」且「具備防篡改特徵(tamper-evident)」的形式,記錄了每一次的治理決策。每一筆記錄都包含了六個要素:提交時的治理封裝、作為行動檢查依據的授權令、結果處置引擎產生的結果、所套用的具體規則、得出該結果的依據,以及在每個階段所耗費的時間。透過此審計日誌具權威效力的記錄,可用於風險治理與生命週期的監督[11]。 參、事件評析 整體而言,SAFR藉由技術操作流程的治理框架來應對AI代理的新興發展,並藉由治理封裝的技術概念來實行四階段的驗證流程,以確保AI代理的有效監督。另外,SAFR又提供務實的解決方案,由於AI代理的運作早已有業者開發或部屬,如要用SAFR的治理機制其技術成本高昂,故提供匝道模式(gateway pattern)建立整體的外掛防護機制,不需要針對每個AI代理系統使用原生內嵌(native instrumentation)方式[12]。亦即,採取「先求有、再求好」的務實策略,雖然沒辦法提供最精準、最深層的檢核流程,但至少匝道模式能提供最基礎的技術防護措施,確保AI代理的風險可以於一定程度內控制,然後再針對新開發的AI代理要求以原生內嵌模式進行系統改良。 回到臺灣,目前金融領域已有大規模的AI導入,未來亦可預見AI代理的應用,其風險治理則必須謹慎對待。目前,金融監督管理委員會(下稱金管會)已於2024年6月20日發布「金融業運用人工智慧(AI)指引」,作為金融機構導入、使用及管理AI的參考[13]。為了因應AI代理趨勢的發展,行政院於今年7月核定頒布的「人工智慧風險分類框架」已針對AI代理的使用納入風險識別的子項目之一[14],並且金管會正研議將前沿AI(Frontier AI)[15]與AI代理[16]的應用作為金融風險治理的一環。 因此,新加坡與業界合作撰寫的產業白皮書對金管會而言是很好的借鏡經驗,透過業界第一手的實務觀察,再與政府和研究機構攜手合作,思考相對應的治理對策,並提出具操作性與前瞻性的技術防護措施,強化AI代理的風險治理。同時,SAFR的具體指導方針讓金融業者可以採用與施行,以降低AI代理的系統性風險,甚至金融專業領域自主形成的產業治理框架,對其他目的事業具有一定程度的示範效果。總的來說,新加坡AI代理的治理模式對於金融領域具有參考價值的重要性。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/) [1] Monetary Authority of Singapore, Safeguards for Agentic Finance at Runtime (SAFR), https://www.mas.gov.sg/publications/monographs-or-information-paper/2026/safeguards-for-agentic-finance-at-runtime (last visited August 18, 2026). [2] Monetary Authority of Singapore, MAS’ Financial AI Builder Programme - Buildfin.ai, https://www.mas.gov.sg/schemes-and-initiatives/buildfinai(last visited August 18, 2026). [3] 陳益智,新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示,https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9511(最後瀏覽日:2026年9月9日)。 [4] Monetary Authority of Singapore, Safeguards for Agentic Finance at Runtime (SAFR) Version 1.0, p. 6. [5] id [6] id [7] id. at 7. [8] id. at 10. [9] id. at 10-11. [10] id. at 11-12. [11] id. at 12-13. [12] id. at 16. [13] 金融監督管理委員會,金管會發布「金融業運用人工智慧(AI)指引」,https://www.fsc.gov.tw/ch/home.jsp?id=96&parentpath=0,2&mcustomize=news_view.jsp&dataserno=202406200001&dtable=News(最後瀏覽日:2026年9月9日)。。 [14] 參考(B6)AI自主代理之授權外行為:AI Agent系統具備自主規劃、呼叫外部工具與持續執行複雜任務之能力,可能因目標設定不完整或環境變化,導致行為逐漸偏離原始指令,乃至自主取得超出授權範圍之系統存取權限。多代理人協作系統更可能因代理人間相互觸發,產生開發者與使用者均未預期的連鎖反應,使人類難以及時介入糾正。 [15] 金融監督管理委員會,金管會提醒金融業強化前沿AI模型攻擊風險整備,https://www.fsc.gov.tw/ch/home.jsp?id=96&parentpath=0,2&mcustomize=news_view.jsp&dataserno=202607140002&dtable=News(最後瀏覽日:2026年9月9日)。 [16] 經濟日報,金管會推動金融科技 規劃三大監理方向 建立「AI管 AI」新架構,https://money.udn.com/money/story/5613/9486677(最後瀏覽日:2026年9月9日)。

何謂「美國創新戰略」?

  美國創新戰略(Strategy for American Innovation)係美國經濟委員會(National Economic Council,NEC)及白宮科技政策辦公室(Office of Science and Technology Policy,OSTP)於2009年9月所提出的重要科研指導政策,為美國近年調整科研發展之依據,曾分別於2011年2月及2015年10月配合時事增補最新內容。該政策主要在說明美國政府、國民與企業應如何共同努力進行全面性的創新,強化長期的經濟成長;在此基礎上發展對於美國產業發展具有優先重要性的技術領域。最初提出時內容包括:1.美國創新基石之投資;2.促進以市場為導向的創新;3.以及針對國家需求的優先順位催化重要的科技突破。   白宮在2011年4月進一步提出一些重要的創新促進新機制,包括改革專利制度、重視數位教育以及基礎科學教育的強化、加速發展再生能源、提振美國創業精神(entrepreneurship)等。隨著政策的逐步推行,2015年10月公布之最新版本,內容包括:1.投資創新基石;2.刺激私部門進行創新活動,並研議租稅優惠永久制度化;3.營造一個創新者國家,改善創業環境,協助更多創新者成功創業。並且在政府機關間強調創新,另著重於從私部門的根本改變其活動和行為模式,提升創新層次才能確實將創新成果在產業間創造出來。

TOP