日本發布以人為本AI社會原則
日本內閣於2018年6月15日決議組成跨部會之統合創新戰略推進會議，並於2019年3月29日發布AI戰略，其中的倫理面向為以人為本之AI社會原則(下稱AI社會原則)，希冀藉有效安全的活用AI，推動「AI-Ready 社會」，以實現兼顧經濟發展與解決社會課題的「Society5.0」為最終目標。
為構築妥善應用人工智慧的社會，AI社會原則主張應尊重之價值理念如下：
(一) 尊重人類尊嚴的社會：AI應作為能激發人類發揮多樣能力和創造力的工具。
(二) 多元性和包容性的社會（Diversity & Inclusion）：開發運用AI以共創多元幸福社會。
(三) 永續性的社會（Sustainability）：透過AI強化科技，以創造能持續解決社會差距與環境問題的社會。
而AI社會原則核心內容為：
(一) 以人為本：AI使用不得違反憲法或國際保障之基本人權。
(二) AI知識（literacy）教育：提供必要的教育機會。
(三) 保護隱私：個人資料的流通及應用應妥適處理。
(四) 安全確保：把握風險與利益間之平衡，從整體提高社會安全性。
(五) 公平競爭確保：防止AI資源過度集中。
(六) 公平性、說明責任及透明性任。
(七) 創新：人才與研究皆須國際多樣化，並且建構產官學研AI合作平台。
蔡宛君
法律研究員 編譯整理
〈統合イノベーション戦略推進会議（第４回）〉，首相官邸ホームページ，https://www.kantei.go.jp/jp/singi/tougou-innovation/dai4/gijisidai.html（最後瀏覽日： 2019/06/01)
〈内閣官房長官記者会見 平成31年3月29日（金）午前〉，首相官邸ホームページ https://www.kantei.go.jp/jp/tyoukanpress/201903/29_a.html （最後瀏覽日： 2019/06/01)
第４回統合イノベーション戦略推進会議議事録，https://www.kantei.go.jp/jp/singi/tougou-innovation/dai4/giji4.pdf（最後瀏覽日： 2019/06/01)
新加坡發佈《代理金融運行時安全防護框架》產業白皮書，協助金融AI代理之風險治理 資訊工業策進會科技法律研究所 2026年08月18日 今（2026）年7月3日，新加坡金融管理局（Monetary Authority of Singapore, 簡稱MAS）聯合多家國際金融機構與金融科技公司共同發布《代理金融運行時安全防護框架》（Safeguards for Agentic Finance at Runtime，簡稱SAFR）產業白皮書[1]，針對金融領域AI代理（AI agents）提出前瞻性的治理框架。 壹、事件摘要 MAS於2025年11月發佈BuildFin.ai計畫，其目的是要讓金融機構、科技業者與研究機構一起解決金融業導入AI時的共同問題。簡單來說，BuildFin.ai計畫提供了金融科技業者一個應用共創平台，由業者提出問題，再讓產、官、研各界共同思索對策以促進金融業的AI應用，並同時強化其風險治理[2]。另外，隨著AI代理的新興技術發展，新加坡資訊通信媒體發展局（Infocomm Media Development Authority, IMDA）亦已於今年5月20日發布《代理式人工智慧治理示範框架》（Model AI Governance Framework for Agentic AI）第1.5版，透過風險評估機制、人類問責制、技術管控流程、終端使用者注意義務等面向建構AI代理的治理機制[3]。 因而，MAS在前述新加坡的政策趨勢下，也同步意識到金融領域導入AI代理技術的發展，包括金融AI代理可以發起支付、提交交易訂單、核准信用申請、申報監管報告，以及結算保險理賠等自主執行能力，其風險特性與傳統AI不同，因此有及早規劃因應的必要性。於是，MAS透過BuildFin.ai計畫與螞蟻國際、Circle、匯豐銀行、摩根大通、宏利、萬事達卡、華僑銀行和Visa等八大金融業界開會討論，決定共同撰寫SAFR產業白皮書，提供一套可操作性的治理框架，協助金融業者可以應用此方法以有效提升金融業導入AI代理的風險治理。 貳、重點說明 以下就SAFR分為兩部分進行簡要說明，第一部分為金融AI代理的系統風險，第二部分則為金融AI代理的治理架構： 一、金融AI代理的系統風險 （一）執行前保障（pre-execution assurance）的機制欠缺 傳統AI的風險治理主要管控在「部署前」與「使用後」，前者主要透過模型風險管理（model risk management）的方式，於部署前對AI系統進行驗證；後者則以審計（audit）方法去檢視事後發生的情況進行追蹤。然而，這兩種常規風險管理機制，都無法及時在AI代理決策執行前的當下就問題發生進行識別與處理，因此凸顯出對執行前保障的機制欠缺[4]。 （二）人機治理介面流於形式 現行人類審核機制目地主要應付於權宜之計，比如，一則通知、一封電子郵件警示，並未有具體的制度化與管理流程。換言之，沒有處理期限、缺乏標準的決策格式，也沒有審計記錄，SAFR批評這是流於形式、缺乏實質內容的人工監督[5]。 （三）碎片化的系統格式 新加坡的金融業者都各自於AI部署系統建立自身專屬的防護網（guardrails），其結果導致各系統間無法互相操作（non-interoperable），且無法在整個機構內部以一致的格式進行審計。因此，其風險並無法有效整合識別，不僅耗費成本過多，也無法讓金融業者能攜手合作處理[6]。 二、金融AI代理的治理架構 SAFR針對前述三大問題提出了應對方案，透過結構化的升級協議和統一的治理模式以解決AI系統的安全治理與監管挑戰。換言之，SAFR為AI代理定義了資料結構、評估邏輯與升級協議，並提出「治理封裝」（governance envelop）的技術概念，作為AI代理執行動作前的數位申請書，將其執行動作的參數、推理軌跡與身分元資料統合打包，並依SAFR的四階段治理流程進行管理以確保AI代理執行的即時把關[7]。 （一）身分驗證（Agent identity） AI代理的每項行動會綁定至一個已被認可且註冊的AI代理身分帳號，在進行任何其他評估流程之前，檢核系統必須先對照該AI代理的註冊身分進行驗證，並於AI代理帳號的註冊庫中進行查詢比對。另外由於AI代理會執行不同動作，一個AI代理可在不同行為註冊複數個身分帳號，檢核系統就會比對與判定該AI代理帳號的行為與身分是否吻合一致，若身分驗證失敗，檢核系統會拒絕AI代理的執行動作，並記錄於審計日誌中[8]。 （二）控制安全機制（Controls Repository） 控制安全機制是系統用來驗證其規則的場域，由於金融AI代理經過身分驗證後，其執行行為是否符合內部組織政策、金融法規、產品規則與使用者的授權範圍等，需要進一步的控管與檢核。因此，該系統會就允許的行動類型、決策邏輯、行為條件、有效期限與責任歸屬進行編碼操作，來逐一檢視AI代理的行為是否符合控制安全機制的要求[9]。 （三）結果處置引擎（Disposition Engine） 在結果處置引擎階段會根據控制安全機制的檢核結果給予裁示判斷，其判斷有四種結果，拒絕、升級、自動執行與觀察。拒絕為禁止其行動，升級則是要由人工審核，自動執行是通過並允許其行為，觀察則是認為有疑慮但損害不大者，可放行其行為但會被記錄在案供後續追蹤[10]。整體而言，透過不同層級的檢核標準以確認AI代理執行的範圍與權限。 （四）審計日誌（Audit Log） 最後審計日誌將會如實紀錄上面三階段的系統審核流程，並以「只能新增、無法修改」且「具備防篡改特徵（tamper-evident）」的形式，記錄了每一次的治理決策。每一筆記錄都包含了六個要素：提交時的治理封裝、作為行動檢查依據的授權令、結果處置引擎產生的結果、所套用的具體規則、得出該結果的依據，以及在每個階段所耗費的時間。透過此審計日誌具權威效力的記錄，可用於風險治理與生命週期的監督[11]。 參、事件評析 整體而言，SAFR藉由技術操作流程的治理框架來應對AI代理的新興發展，並藉由治理封裝的技術概念來實行四階段的驗證流程，以確保AI代理的有效監督。另外，SAFR又提供務實的解決方案，由於AI代理的運作早已有業者開發或部屬，如要用SAFR的治理機制其技術成本高昂，故提供匝道模式（gateway pattern）建立整體的外掛防護機制，不需要針對每個AI代理系統使用原生內嵌（native instrumentation）方式[12]。亦即，採取「先求有、再求好」的務實策略，雖然沒辦法提供最精準、最深層的檢核流程，但至少匝道模式能提供最基礎的技術防護措施，確保AI代理的風險可以於一定程度內控制，然後再針對新開發的AI代理要求以原生內嵌模式進行系統改良。 回到臺灣，目前金融領域已有大規模的AI導入，未來亦可預見AI代理的應用，其風險治理則必須謹慎對待。目前，金融監督管理委員會（下稱金管會）已於2024年6月20日發布「金融業運用人工智慧（AI）指引」，作為金融機構導入、使用及管理AI的參考[13]。為了因應AI代理趨勢的發展，行政院於今年7月核定頒布的「人工智慧風險分類框架」已針對AI代理的使用納入風險識別的子項目之一[14]，並且金管會正研議將前沿AI（Frontier AI）[15]與AI代理[16]的應用作為金融風險治理的一環。 因此，新加坡與業界合作撰寫的產業白皮書對金管會而言是很好的借鏡經驗，透過業界第一手的實務觀察，再與政府和研究機構攜手合作，思考相對應的治理對策，並提出具操作性與前瞻性的技術防護措施，強化AI代理的風險治理。同時，SAFR的具體指導方針讓金融業者可以採用與施行，以降低AI代理的系統性風險，甚至金融專業領域自主形成的產業治理框架，對其他目的事業具有一定程度的示範效果。總的來說，新加坡AI代理的治理模式對於金融領域具有參考價值的重要性。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/） [1] Monetary Authority of Singapore, Safeguards for Agentic Finance at Runtime (SAFR), https://www.mas.gov.sg/publications/monographs-or-information-paper/2026/safeguards-for-agentic-finance-at-runtime (last visited August 18, 2026). [2] Monetary Authority of Singapore, MAS’ Financial AI Builder Programme - Buildfin.ai, https://www.mas.gov.sg/schemes-and-initiatives/buildfinai(last visited August 18, 2026). [3] 陳益智，新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9511（最後瀏覽日：2026年9月9日）。 [4] Monetary Authority of Singapore, Safeguards for Agentic Finance at Runtime (SAFR) Version 1.0, p. 6. [5] id [6] id [7] id. at 7. [8] id. at 10. [9] id. at 10-11. [10] id. at 11-12. [11] id. at 12-13. [12] id. at 16. [13] 金融監督管理委員會，金管會發布「金融業運用人工智慧(AI)指引」，https://www.fsc.gov.tw/ch/home.jsp?id=96&parentpath=0,2&mcustomize=news_view.jsp&dataserno=202406200001&dtable=News（最後瀏覽日：2026年9月9日）。。 [14] 參考（B6）AI自主代理之授權外行為：AI Agent系統具備自主規劃、呼叫外部工具與持續執行複雜任務之能力，可能因目標設定不完整或環境變化，導致行為逐漸偏離原始指令，乃至自主取得超出授權範圍之系統存取權限。多代理人協作系統更可能因代理人間相互觸發，產生開發者與使用者均未預期的連鎖反應，使人類難以及時介入糾正。 [15] 金融監督管理委員會，金管會提醒金融業強化前沿AI模型攻擊風險整備，https://www.fsc.gov.tw/ch/home.jsp?id=96&parentpath=0,2&mcustomize=news_view.jsp&dataserno=202607140002&dtable=News（最後瀏覽日：2026年9月9日）。 [16] 經濟日報，金管會推動金融科技 規劃三大監理方向 建立「AI管 AI」新架構，https://money.udn.com/money/story/5613/9486677（最後瀏覽日：2026年9月9日）。
美國推動L Prize獎勵創新節能照明產品技術研發美國能源部依據「2007年能源獨立與安全法案」（The Energy Independence and Security Act (EISA) of 2007）第655條規定，設立Bright Tomorrow Lighting Prize (L Prize)競賽，這是第一個由美國政府所發起的科技競賽。此一規定係依據「2005年能源政策法」（Energy Policy Act of 2005）第1008條而來，賦予能源部對於與其政策目的相關、有重大貢獻的科技研發或商業應用，得設置競賽活動並提供獎金。因此，為了促進照明產業的發展，而固態照明（solid-state lighting）科技是具有潛力能減少照明能源的使用以達解決氣候變遷的方式之一，因此能源部希望在固態照明技術的研發上扮演催化者的角色，藉由此一競賽來刺激研發超效能固態照明產品以取代傳統照明設備。 此一規定對工業的發展造成挑戰，因為將會取代兩種日常生活所使用的產品：60W白熾燈泡與PAR 38滷素燈泡。於2008年5月首先展開的是60W白熾燈泡領域，因為此種燈泡是消費者最普遍使用的，約佔美國國內白熾燈泡市場的一半。要獲得此獎項的要求，必須該替代產品要能使用低於10W的電力，節省83%的能源。該競賽已於2011年8月結束，由Philips Lighting North America所研發的高效能LED產品獲得，除頒發一千萬美元的獎金外，亦已與聯邦政府簽署採購合約。該產品預計於2012年春於零售商店上架。 L Prize的第二階段競賽於2012年3月展開，希望針對PAR 38滷素燈泡領域，鼓勵企業研發LED替代產品，來取代通常使用於零售商店或戶外安全照明的聚光燈和探照燈等傳統PAR 38滷素燈泡。此一競賽獎勵對於全美的照明產業是相當好的挑戰，不僅能研發出創新、具有高效能的產品，亦能提升美國製造業的競爭力。目前全美國約有九千萬個PAR 38滷素燈泡，若能以高效能燈泡取代，能源部預估每年可以節省約11terawatt-hours的電力，並可減少七百萬噸的碳排放。 要贏得L Prize的產品必須通過嚴格的測試，包括其性能、品質、壽命、價格及是否適合量產等。由於在PAR 38滷素燈泡領域，至少必須製造50%的LED燈泡，且所有的組裝都須在美國完成，因此同時亦提供相當多的工作機會。
合成資料（synthetic data）「合成資料」（synthetic data）的出現，是為了保護原始資料所可能帶有的隱私資料或機敏資料，或是因法規或現實之限制而無法取得或利用研究所需資料的情況下，透過統計學方法、深度學習、或自然語言處理等方式，讓電腦以「模擬」方式生成研究所需之「合成資料」並進行後續研究跟利用，透過這個方法，資料科學家可以在無侵犯隱私的疑慮下，使合成資料所訓練出來的分類模型（classifiers）不會比原始資料所訓練出來的分類模型差。 在合成資料的生成技術當中，最熱門的研究為運用「生成對抗網路」（Generative Adversarial Network, GAN）形成合成資料（亦有其他生成合成資料之方法），生成對抗網路透過兩組類神經網路「生成網路」（generator）與辨識網路（discriminator）對於不同真偽目標值之反覆交錯訓練之結果，使其中一組類神經網路可生成與原始資料極度近似但又不完全一樣之資料，也就是具高度複雜性與擬真性而可供研究運用之「合成資料」。 英國國防科技實驗室（Defense Science and Technology Laboratory, DSTL）於2020年8月12日發布「合成資料」技術報告，此技術報告為DSTL委託英國航太系統公司（BAE Systems）的應用智慧實驗室（Applied Intelligence Labs, AI Labs）執行「後勤科技調查」（Logistics Technology Investigations, LTI）計畫下「資料科學與分析」主題的工作項目之一，探討在隱私考量下（privacy-preserving）「合成資料」當今技術發展情形，並提供評估技術之標準與方法。 技術報告中指出，資料的種類多元且面向廣泛，包含數字、分類資訊、文字與地理空間資訊等，針對不同資料種類所適用之生成技術均有所不同，也因此對於以監督式學習、非監督式學習或是統計學方法生成之「合成資料」需要採取不同的質化或量化方式進行技術評估；報告指出，目前尚未有一種可通用不同種類資料的合成資料生成技術或技術評估方法，建議應配合研究資料種類選取合適的生成技術與評估方法。
跨國企業呼籲印度政府加強營業秘密保護印度納倫德拉．莫迪（Narendra Modi）政府為了吸引外資，鼓勵跨國企業在印度設立研發單位，目前該國商工部產業政策暨推廣司（Department of Industrial Policy & Promotion）正在研擬新的智財權政策。對此，英特爾日前去函相關權責部門，呼籲印度政府加強營業秘密保護，俾以增加投資者信心，吸引更多外資，甚至要求對竊取者科以刑責，藉此嚇阻不法。 印度目前僅透過普通法及契約法相關原則保護營業秘密，並未如同其他智慧財產權制定專法，使得外國公司不願與在地企業分享知識及技術。英特爾表示，當印度的資訊科技及創新持續成長時，有必要捨棄英國僅以契約保護的模式，透過法律科以相當刑責，確立營業秘密作為智慧財產權的地位。並補充道，營業秘密保護對於新設公司而言也很重要，因為它們可能沒有足夠的資源，就其研發及創新申請專利。 美國貿易代表Micheal Froman在雙邊貿易政策論壇中，也向印度商工部部長Nirmala Sitharaman提出相關議題，但印度政府認為現有法制已足敷使用，僅允諾將與美方代表交換法律文件，以便瞭解彼此法律規定。另名政府官員更明白表示，只不過因為美國最近頒行了統一營業秘密法（Uniform Trade Secret Act），並不表示印度也應該跳上同一艘船。