美國總統選舉於11月8日舉行,數州針對大麻合法化與否一併進行公民投票,針對娛樂用大麻(Recreational Maijuana)議題舉辦公投共有五州,分別為加州、內華達州、亞里桑那州、緬因州以及麻州;而針對醫療用大麻(Medical Marijuana)議題舉行公投則有四州,係佛羅里達州、阿肯色州、北達科他州以及蒙大拿州,其中蒙大拿州原已開放醫療用大麻,本次公投案係放寬現行法規之限制。公投結果顯示,除亞里桑那州公投案未通過外,其餘各州公投案皆已通過。
民調公司蓋洛普(Gallup)於十月公布之民調顯示,美國民眾支持大麻合法化比例,已從1969年的12%爬升至目前的60%。本次各州公投案通過後,將對美國聯邦政府近80年的大麻禁令產生極大壓力。就經濟層面觀察,美國研究機構ArcView Market Research研究報告統計,全美目前合法管道銷售大麻金額從2014年的46億美元成長至54億美元,而作為全美最大經濟體的加州,依投資分析公司Cowen and Company分析,該州本次公投案通過將使全美大麻產業成長三倍,甚至於2026年市場規模將成長至500億美元。大麻合法化後,依「加州大麻業者協會」(California Cannabis Industry Association)估計,將為加州州稅增加十億美元的收入。根據統計,此一趨勢中,推動大麻合法化一方投入約兩千兩百萬美元支持加州公投案,而反對方則投入約兩百萬美元。
今年11月17日到19日為期三天的第五屆「智慧城市世界大會展覽(Smart City Expo World Congress)-都會平台(Urban Platforms):串聯資料數據以及城市之間的連結」於西班牙巴塞隆納舉行。該大會凝聚了世界500個城市、450個參展單位,以及400位講者於一堂,主要觸及了城市如何因應大量成長的數據、從新的管理方式中,要如何以及在哪裡得到價值,以及在加速城市中的都會平台過程中,要付出什麼樣的代價等議題。 今年度的大會展覽令人耳目一新的創新作品包括:綠色環保無人駕駛小公車、提醒視力受損者,道路上有障礙物的智慧應用程式、能夠辨識在範圍內的射擊,並且精準地指出事件發生地點的麥克風系統,還有其他諸如無人飛機、物流和都會區內遞送服務等等創意新點子。 「智慧城市」一詞,意味著一個能夠合於未來發展的都會,同時轉變為一個可以在提升資源以及能源效率的同時,還能夠減少對於生態衝擊的環境。而歐洲的智慧城市發展,主要是在「歐洲2020戰略」(Europe 2020)中,由歐盟執行委員會所實施的「歐洲創新夥伴計畫」(The European Innovation Partnership, EIP)帶領歐洲倡議都會平台於以下三個交互運作的活動以及發展:(一)以城市需求為導向的發展,使得能快速地適應都會平台;(二)由備忘錄(Memorandum of Understanding, MoU)所鞏固的供給導向發展;(三)在信任的基礎上所建立的標準化導向發展。 歐盟於2011年6月公布的「智慧城市與社群歐洲創新夥伴計畫」(The European Innovation Partnership on Smart Cities and Communities, EIP-SCC)目的是為了要將城市、企業與市民結合起來,共同藉由永續的解決方案,來改善都會城市現有的問題,並提升城市的整體生活。此計畫期許以資通訊科技(Information and Communication Technology, ICT)、能源與交通管理的結合,共同提出創新的解決方案,為今日歐洲城市面對來自於環境、社會與健康等挑戰進行解套,計畫發展核心包含開放資料(Open Data)、商業模式(Business Models)、政策與法規(Policy and Regulation)、能源效率與低碳解決方案(Energy Efficiency and Low Carbon Solutions)、財政金融與採購(Finance and Procurement)、都會移動(Urban Mobility)、能源整合網絡(Integrated Energy Networks)等。 從歐盟所發展的大戰略計畫,到今年第五年的「智慧城市世界大會展覽」,明顯嶄露出歐盟在積極推動經濟發展的同時,帶著永續環境的思維,這是之所以歐盟能持續引領歐洲,甚至世界未來發展趨勢的關鍵原因。
歐洲創新委員會發布2022年影響力報告,總結近年投資創新領域取得之成效歐洲創新委員會發布2022年影響力報告,總結近年投資創新領域取得之成效 資訊工業策進會科技法律研究所 2023年03月13日 歐洲創新委員會(European Innovation Council, EIC)於2022年12月7日發布「2022年歐洲創新委員會影響力報告」(European Innovation Council Impact report 22)[1],展示歐盟執委會近年投資百億歐元預算於創新領域之成效。 壹、事件摘要 歐洲創新委員會為基於EU「展望歐洲」(Horizon Europe)計畫所成立之機構,而「展望歐洲」計畫則為資助歐盟研究創新之主要計畫,其預算高達955億歐元,而歐洲創新委員會亦擁有101億歐元之預算,其主要任務在於從整個生命週期支持突破性創新技術之商業化,包括早期研發、概念驗證、技術移轉、新創與小型企業之融資與規模化[2],其所發布之「2022年歐洲創新委員會影響力報告」即為總結近年協助創新領域之成效。 一、歐洲創新委員會之資助項目 歐洲創新委員會秉持創新、卓越與發揮影響力之原則,藉由支援創新鏈上之每個階段,支援歐洲研究團隊與新創公司之創造性想法,其主要任務為確認、發展與擴大突破性創新。歐洲創新委員會所提供之資金與協助機會包括下列項目[3]: 1.EIC探路者(EIC Pathfinder):支持深度技術研發,支持研究團隊研究、或開發新興突破性技術,其提供超過15億歐元之資金,其主要關注跨學科及前瞻性技術,其同時開放所有領域亦針對特定挑戰提供資助。 2.EIC轉型者(EIC Transition):以有前景之研究成果為基礎,展示技術以及促進新興技術之成熟,並為特定應用制定商業計畫,將想法從實驗室帶到產業界。 3.EIC加速器(EIC Accelerator):於EIC加速器中設有EIC基金(EIC Fund),其有義務投資透過EIC加速器評估程序(EIC Accelerator evaluation process)所選出之新創企業與小公司,可以純粹股權(equity-only)之方式或贈款與股權(grant and equity)混和之方式提供財務資助,並將重組為另類投資基金(Alternative Investment Fund, AIF),期將成為歐洲最大規模之早期深度科技投資者,並期利用100億歐元之資金吸引私人投資者而創造出300至500億歐元之槓桿效應,投資決策將由外部另類投資基金經理人來進行與管理。 4.業務加速服務(Business Acceleration Services):所有EIC支持之項目與公司皆可獲得指導、合作與其他客製化業務加速服務;其藉由四項主要計畫使公司與研究人員得以與企業、投資者、買家、加速器、創意工作室(venture builders)進行連結,包括:企業夥伴計畫、創新採購夥伴計畫、投資者夥伴計畫、學界與業界之連結。 5.歐洲創新生態系統(European Innovation Ecosystems):支持使生態系統參與者能於整個歐洲開展合作。 6.EIC獎勵(EIC Prizes):鼓勵歐洲領先之創新者接受挑戰相互競爭獎項。 二、歐洲創新委員會之資助成效[4] 於2022年歐洲創新委員會影響力報告中指出,於2014至2021年已資助503個EIC探路者項目,而從2019至2020年已有55個EIC移轉者項目將研究成果成立衍生公司(spinout)與帶來商業化機會。於歐洲創新委員會支持下之公司就業成長達44%,於無形資產投資(包括研發投資、智財權、商譽)成長109%,有形資產投資成長67%,資金流動性提高140%,孕育出12家獨角獸公司(Unicorn)與112家半人馬公司(Centau),受支持之公司估值超過400億美元。通過EIC基金為個別新創企業與小公司提供資金投資支持且發展其規模之結果,於2014至2021年已支持超過1600家新創企業與小公司,其所支持之公司超過4成之成立期間介於6-10年間。 此外,EIC提供多項措施促進與支持女性企業家與研究員,例如提出EU科技女性計畫(Women TechEU)、女性領導者計畫(Women Leadership Programme)、提供女性創新者EU獎項(EU Prize for Women Innovators)等,這些措施施行之結果,於2020與2021年期間,於EIC加速器所資助之公司有20%為女性所領導,EIC探路者中由女性所領導之項目也達到24%,且三分之一的研究人員為女性。 貳、重點說明 由2022年歐洲創新委員會影響力報告中可發現,擁有百億歐元預算之歐洲創新委員會就各項目資助之成效斐然,非但順利推動實驗室之突破性技術商業化,帶動新創公司林立、孕育多家獨角獸與半人馬公司,促進就業成長、有形與無形資產投資踴躍投入、公司估值提升,同時亦兼顧性別平等,促進女性研究人員進入新創事業並成為領導者。 參、事件評析 由2022年歐洲創新委員會影響力報告中可知,過去幾年歐洲創新委員會透過不同項目之資助,已取得相當不錯的成績,而歐洲創新委員會並不以目前取得之成就為限,仍繼續探究以不同方式協助突破性技術商業化之各種可能。例如其於2023年1月25日即與歐洲潔淨科技(Cleantech for Europe)簽署加強合作意向書,其可使雙方更系統化分享潔淨科技交易流(deal flow),且可共同合作於對於歐洲潔淨科技生態系之分析,藉此有助於被投資公司擴大其規模,且更瞭解市場需求所在,同時對於融資優先順序發生影響,並將可使公共與私人投資者增強對於潔淨科技之支持,促進潔淨科技之規模化,而將可使歐盟成為未來數十年氣候與工業之領導者[5];此外其亦於2023年2月21日宣布啟動EIC技術至市場計畫(EIC Tech to Market Programme, T2M),內涵包括EIC「技術至市場創業家精神計畫」(Tech to Market Entrepreneurship),提供培訓與發展課程,藉以幫助創業之研究者獲取開發深度科技之關鍵知識,且提供建立價值與可行商業模式之支持;以及「技術至市場風險創建模式計畫」(Tech to Market Venture Building)以客製化、靈活方式來支持利用研究成果建立新企業,協助新創產業包括從確認有前景之商業概念至風險投資創建與發展等服務,期能協助EIC探路者(EIC Pathfinder)與EIC轉型者(EIC Transition)度過將技術從實驗室轉化至市場之歷程[6]。我國近年來政府亦積極投入新創產業之推動,歐洲創新委員會各種協助新創產業之作法,如區分項目資助、擴大合作範圍、提供客製化課程等方式,或皆可作為我國未來參考之依據。 [1]EIC Impact report 2022, European Innovation Council, Dec. 7, 2022, https://eic.ec.europa.eu/news/eic-impact-report-2022-2022-12-07_en (last visited Mar. 13, 2023). [2]Who we are, European Innovation Council, https://eic.ec.europa.eu/about-european-innovation-council_en (last visited Mar. 13, 2023). [3]EIC Funding opportunities, https://eic.ec.europa.eu/eic-funding-opportunities_en (last visited Mar. 13, 2023). [4]EIC impact report 2022, European Innovation Council, Dec. 6, 2022, https://eic.ec.europa.eu/system/files/2023-02/2022-EIC-Impact-Report-141222.pdf (last visited Mar. 13, 2023). [5]European Innovation Council and Cleantech for Europe sign partnership to accelerate funding for EU clean technologies, European Innovation Council, Jan. 25, 2023, https://eic.ec.europa.eu/news/european-innovation-council-and-cleantech-europe-sign-partnership-accelerate-funding-eu-clean-2023-01-25_en (last visited Mar. 13, 2023). [6]The European Innovation Council launches Tech to Market Entrepreneurship & Venture Building Programme, European Innovation Council, Feb. 21, 2023, https://eic.ec.europa.eu/news/european-innovation-council-launches-tech-market-entrepreneurship-venture-building-programme-2023-02-21_en (last visited Mar. 13, 2023).
德國數位經濟2017監測報告及建議德國經濟與能源部於2017年12月公布數位經濟2017監測報告,就ICT及網路經濟的表現和競爭力統計各產業數位經濟程度,並針對德國數位轉型現況及挑戰進行分析並提出相關建議。 報告資料指出, 在六大創新應用潛力的部分,14%的企業已投入工業4.0改造,集中於機械製造業,數量有逐步上升趨勢;物聯網應用則以服務業居多,特別是知識密集型服務提供者;33%的企業有提供智慧服務,以客戶為導向的企業,例如資通訊業、金融保險業,使用比例更為明顯;19%企業開始利用巨量資料,多集中於大企業或先進產業;11%企業有利用機器人及感測器;人工智慧則尚處於起步階段,而使用者多集中於資通訊產業。就上述資料顯示,推動數位轉型尚待加強。另外,今年監測報告聚焦「數位聯網及合作」議題,結果顯示,約六成的企業與其商業客戶有進行數位聯網,而只有約四成的公司與新創公司有合作,因此尚有許多創新潛力尚未得到充分利用。 國際數位經濟排名第六,落後美國、南韓、英國、日本、芬蘭。在獲得風險資本可能性的表現最佳,整體創新能力也處於相對領先地位,惟電子化政務服務較為落後,有待加強。在關鍵政策需求部分,以寬頻建設促進政策、創建數位化友善法律框架,以及獲取創新基礎的公共知識最受矚目。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局(Infocomm Media Development Authority,下稱IMDA)於2026年5月20日發布《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI,下稱示範框架)第1.5版,以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向,同時提供真實部署案例,將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧,代理AI能自主規劃、跨多步驟採取行動,並與其他代理及外部系統互動,代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境,例如更新客戶資料庫或執行付款,風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過,以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心,仍落在AI應用與輸出風險,對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展,更新其代理AI治理框架,新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式,為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件,但每一元件之設計皆可能顯著影響代理能力,故思考代理能做什麼時,應區分兩個概念:一為行動空間(action-space),指代理可採取之行動範圍,取決於其獲准使用之工具及該等工具上之權限;二為自主性(autonomy),指代理朝目標行動時可自行決定如何行動之程度,取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素,不同的權限與自主程度,將會使性質同為代理AI,歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新,真正變化在於這些風險因代理AI會在真實世界採取行動,速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止,而要求人類持續監督又可能導致自動化偏誤與警示疲勞,致某一步驟之錯誤可能於後續步驟間傳播並放大。因此,當系統由多個代理構成,敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能,會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向,提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環,透過監測發現異常時,即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險:組織可於規劃階段設計適當邊界,以限縮代理之影響範圍,例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施,確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責:「人在迴路」(human-in-the-loop)須加以調整,以因應自動化偏誤,一旦代理AI之部署獲得放行,組織即應採取措施確保人為當責,並應迅速掌握新發展,隨技術演進更新其作法。 (三)落實技術控制與流程:組織應於代理生命週期全程實施技術措施,且由於代理與其環境動態互動、且非所有風險均能事前預見,爰建議逐步推出代理,並於部署後持續監測。 (四)促成終端使用者盡責:應告知使用者代理之行動範圍、資料存取情形,以及使用者自身之責任。組織並應考量另行提供教育訓練,使員工具備管理人機互動、行使有效監督所需之知識,同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率,嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍(讀取相對於寫入)及可回復性;發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度,並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境,推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上,示範框架主張系統層確定性控制優於提示層防護,亦即與其提示代理AI不得存取特定工具,不如施加存取控制使該工具根本無法被呼叫。除靜態防護外,框架另強調在設計之初就要納入控制措施,在執行過程中監測並介入,例如如限制防止工具使用過度,或以輸入驗證的方式,在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法,示範框架建議可於協定層就善用模型上下文協定(Model Context Protocol,MCP)過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時,該框架以事例建議組織可採取這些控制的技術手段,如:於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證;於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制;於連結時,將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式,該示範框架建議應先界定須經人為核准之查核點或行動界線,尤其在高風險、不可回復或離群行為之前。其次,設計核准之形式,使請求切合脈絡且易於理解、清楚呈現風險,並依情形選擇所需之人為輸入。但最關鍵的是,須將監督的有效性本身納入稽核,包括追蹤人為否定率偏低,或審查回應時間有過短情況時,即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞,並辨識決策明顯偏離常態之「離群」人員,同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險,示範框架建議的因應是將身分管理延伸至代理,但其亦指出現行授權系統多為預先定義之靜態範圍,難以因應代理依情境動態變化之細粒度權限;於過渡期間,建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作,故應測試整體任務執行、政策遵循度與工具使用正確性,非僅測最終輸出;且應個別測試與合併測試,以掌握多代理協作時之湧現風險。就部署後,框架主張逐步推行,可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面,應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡,並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布,此次更新納入多個組織導入代理AI的實例回饋,擴充多代理系統之系統性風險,補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」,而代理式治理之對象,則係能呼叫工具、寫入系統、執行交易之能行動系統,風險延伸至「行動」及其真實後果。因此,其建議應由單一之模型輸出品質,轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理;由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則,適對應示範框架的人為當責、系統層控制與監督指標化建議。同時,依基本法第16條規定數位發展部應參考國際標準或規範,推動與國際介接之人工智慧風險分類框架,並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範,並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上,跨入多任務自主執行的功能層次,風險的質與量已因代理功能出現系統性擴大效應的情況下,單純以生成式AI為標的治理規範或指引,顯然其可產生的規範管理或指引提醒的效果,已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架,雖然亦表明代理AI的風險並非其所獨有,亦是來自於生成式AI的既有影響,但該框架進一步提醒代理AI將使風險控制更加困難,「人在迴路」(human-in-the-loop)須加以調整,一旦代理AI之部署獲得放行,組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」,並應迅速掌握新發展,運用技術手段強化風險監測。其中喻意深遠的是,該框架就終端使用者所提基礎技藝維持之警示,即代理AI接手任務恐致技能退化與業務永續風險,或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有,如需引用或轉載,請註明出處。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/) [1]新加坡資訊通信媒體發展局(Infocomm Media Development Authority, IMDA),《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI)第一‧五版,二〇二六年五月二十日發布、同年六月五日更新,https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf(最後瀏覽日:二〇二六年七月六日)。 [2]《人工智慧基本法》,民國一百十四年十二月二十三日經立法院三讀通過,全文二十條,二〇二六年一月公布施行,中央主管機關為國家科學及技術委員會。 [3] 前揭註1,頁8、15(分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」)。 [4] 同前註,頁11。 [5] 詳前註1,頁3~4。 [6] 同前註,頁15至18。 [7] 同前註,頁33至34。 [8] 同前註,頁30。 [9] 同前註,頁29至32。 [10] 同前註,頁23至24。 [11] 同前註,頁42至45。