美國國家標準暨技術研究院發布「全球AI安全機構合作策略願景目標」，期能推動全球AI安全合作
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）於2024年5月21日提出「全球AI安全機構合作策略願景目標」（The United States Artificial Intelligence Safety Institute: Vision, Mission, and Strategic Goals，下稱本策略願景），美國商務部（Department of Commerce）亦於2024年參與AI首爾峰會（AI Seoul Summit）期間對外揭示本策略願景，期能與其他國家攜手打造安全、可靠且可信賴之AI生態系。
由於AI可信賴與否往往取決於安全性，NIST指出當前AI安全所面臨的挑戰包含：一、欠缺對先進AI之標準化衡量指標；二、風險測試、評估、驗證及確效（Test, Evaluation, Validation, and Verification, TEVV）方法不健全；三、欠缺對AI建模後模型架構與模型表現間因果關係的了解；四、產業、公民社會、國內外參與者等在實踐AI安全一事上合作程度極為有限。
為因應上述挑戰並促進AI創新，NIST在本策略願景中擬定以下三大戰略目標：(1)推動AI安全科學發展：為建立安全準則與工具進行技術合作研究，並預先部署TEVV方法，以利評估先進AI模型之潛在風險與應對措施；(2)推展AI安全實務作法：制定並發布不同領域AI風險管理之相關準則與指標，以達到負責任設計、開發、部署與應用AI模型與系統之目的；(3)支持AI安全合作：促進各界採用前述安全準則、工具或指標，並推動全球合作，以發展國際通用的AI安全風險應對機制。
- U.S. Secretary of Commerce Gina Raimondo Releases Strategic Vision on AI Safety, Announces Plan for Global Cooperation Among AI Safety Institutes, U.S. Department of Commerce (May 21, 2024)
- NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY [NIST], The United States Artificial Intelligence Safety Institute: Vision, Mission, and Strategic Goals (2024)
楊承昕
副法律研究員 編譯整理
U.S. Secretary of Commerce Gina Raimondo Releases Strategic Vision on AI Safety, Announces Plan for Global Cooperation Among AI Safety Institutes, U.S. Department of Commerce (May 21, 2024), https://www.commerce.gov/news/press-releases/2024/05/us-secretary-commerce-gina-raimondo-releases-strategic-vision-ai-safety (last visited Aug. 1, 2024).
NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY [NIST], The United States Artificial Intelligence Safety Institute: Vision, Mission, and Strategic Goals (2024), https://www.nist.gov/system/files/documents/2024/05/21/AISI-vision-21May2024.pdf (last visited Aug. 1, 2024).
劉心妍，〈美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署〉，資策會科技法律研究所，2024年6月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9184（最後瀏覽日：2024/08/01）。
歐洲創新理事會發布2026年EIC技術報告，揭示25項深具發展潛力的新興技術訊號 資訊工業策進會科技法律研究所 2026年05月25日 歐洲創新理事會（European Innovation Council, EIC）於2026年3月30日發布「2026年EIC技術報告」（EIC Tech report 2026，下稱EIC報告），提出25項新興技術訊號（signal），亦因相關技術極具發展潛力，將可能塑造歐洲未來的科技創新、產業和市場。 壹、事件摘要 EIC根據歐盟展望歐洲（Horizon Europe）科技研發架構計畫之申請、補助及專案管理資料，並涵蓋旗下近五年探路器計畫（EIC Pathfinder）、轉型器計畫（EIC Transition）及加速器計畫（EIC Accelerator）等超過13,380 件提案與獲補助案件，透過資料探勘及專家評估進行前瞻技術掃描，歸納出25項深科技新興技術訊號，並強調相關技術目前處於低至中度成熟階段，但已顯現未來發展潛力與創新性。 貳、重點說明 一、EIC報告辨識25項新興技術訊號，並分為三大領域 （一）數位與太空技術（Digital and space technologies） 1. 技術重點 此領域共9項技術，主要涉及先進半導體、安全運算架構、AI系統、量子通訊，以及太空基礎設施，顯示歐盟將數位主權、資訊安全及太空能力視為核心布局方向。 2. 技術簡介 9項技術包含：用於先進記憶體與憶阻裝置的二維材料（2D materials for advanced memory and memristive devices），有助於新型記憶體及神經形態運算技術發展；可量產之工業電磁設備的MXene二維奈米材料製造技術（Scalable MXene manufacturing for industrial electromagnetic applications），可應用於通訊、汽車電子、感測與新世代無線基礎設施；用於建立無須信任節點量子網路的量子中繼站（Quantum repeaters for trusted-node-free quantum networks），可突破量子通訊距離限制，使量子訊息於數百甚至數千公里距離下被安全傳輸；用於分散式及聯邦式學習之AI系統中的零信任架構（Embedded Zero Trust Architectures for distributed and federated AI systems），可強化對AI模型與資料運算的控制能力；應用於新興自我組織及資源效率系統之仿生AI技術（Bio-inspired AI for emerging self-organising and resource-efficient systems），借鏡神經科學、認知科學與演化生物學原理來設計AI系統，使其具備更高適應性、穩健性與資源效率；將自適應代理人用於開放動態環境中之具身AI技術（Embodied AI for adaptive agents in open and dynamic environments），將感知、內部認知、模擬行動能力等緊密結合之AI系統，並於開放環境中持續互動學習，主要用於支撐機器人、AI自主代理、數位孿生，以及其他需連續決策、長時程的智慧系統；用於大規模且可通訊中斷之衛星運作的邊緣運算技術（Edge computing for scalable and loss-tolerant satellite operations），將資料處理分析能力直接部署於衛星或軌道平台上，使其即時篩選、分類與判讀資訊，並支援自主決策，可用於深空任務、地球觀測、太空碎片管理；用於特殊太空環境之石墨烯塗層與複合材料（Graphene-based coatings and composites for performance-critical space systems），將石墨烯整合為薄膜、塗層、填充材料，提升太空機械之強度、阻隔能力及輻射防護效果，並廣泛應用於太空領域；用於軌道基礎設施維護與再利用之先進太空維修機器人技術（Advanced in-space servicing robotics for orbital infrastructure maintenance and reuse），使機器人於太空環境下進行機械操作、檢查、維修、對接等複雜性任務。 （二）清潔和資源效率技術（Clean and resource-efficient technologies） 1. 技術重點 此領域共7項技術，此類重點在於資源回收、水汙染處理與資源再利用、提升能源效率及綠色建築技術等，反映歐盟將淨零轉型與關鍵原物料供應安全一併納入政策目標。 2. 技術簡介 7項技術包含：用於再生金屬回收與生物復育之微生物採礦技術（Microbial biomining for secondary metal recovery and bioremediation），運用微生物與金屬間的交互作用，實現金屬回收，並同時修復重金屬污染之生物技術；用於低耗能海水淡化與水處理之電容去離子技術（Capacitive deionization systems for low-energy water desalination and treatment），新穎、低用電之新型水處理技術，用於海水淡化、工業及都市廢水處理、重金屬或養分去除，以及分散式水資源處理與回收；去除污染物之電化學水處理技術（Electrochemical treatment systems for destruction of persistent contaminants in water），利用電化學反應在水中直接化學轉化或礦化分解全氟及多氟烷基物質（PFASs）、微塑膠及奈米塑膠等高度持久性污染物之水處理技術；用於低溫及中溫廢熱回收之先進熱電發電材料技術（Advanced thermoelectric materials for low- and mid-temperature waste heat recovery），將交通建築系統與回收產業中之低溫及中溫廢熱能，轉為電力的材料技術，可提升能源效率，並降低對外部能源與關鍵材料的依賴；用於固態熱電轉換與感測之熱激發自旋電子材料技術（Spin-caloritronic materials for solid-state heat-to-electricity conversion and sensing），利用熱梯度引發之自旋電流與磁性激發產生電能的材料技術；用於預測材料製造之結合數位孿生之反算設計技術（Inverse design with digital twins for predictive materials manufacturing），運用AI驅動之逆向設計方法，以目標性能反推材料配方與結構，並透過數位孿生模擬真實環境表現，建立快速、可預測且貼近實際應用情境的新材料設計與製造流程；被動冷卻與重力儲能之能源建築技術（Passive cooling and gravity-based storage for energy-active buildings），利用建築表面的先進材料於不耗電情況下降溫，並將多餘再生能源以重力位能方式儲存於建築內，藉以降低建築冷卻用電需求、儲存局部多餘再生能源等。 （三）生物科技與健康技術（Biotechnologies and health） 1. 技術重點 此領域共9項技術，橫跨食品、生物製造、精準醫療、智慧醫療設備及分散式醫療應用，顯見歐盟關注的不只是單一生技或醫療技術突破，而是期望建立從生物研發、生產製造、臨床治療到醫療設備部署的完整體系，藉此強化歐盟下一代健康科技與高價值生技產業的競爭力與自主能力。 2. 技術簡介 9項技術包含：用於原形食物製造之菌絲體混合發酵技術（Mycelium-based hybrid fermentation for whole-food production），結合菌絲體生長與精準發酵，生產接近原型食物型態的新型蛋白食品原料；用於再生農業系統之生物技術多年生作物（Biotech-enabled perennial crops for regenerative agricultural systems）以生物技術改良多年生作物，使其兼具較佳產量與土壤保育效益，支撐再生農業與更永續的糧食生產系統；用於預防與個人化治療之新型微生物體療法（Novel microbiome therapeutics for preventive and personalised health），利用人體微生物群的組成、功能及其代謝產物，來預防、管理及治療疾病的新一代醫療技術；加速藥物與酵素探索之AI驅動蛋白質設計技術（Computational protein design for accelerated drug and enzyme discovery），透過AI預測蛋白質結構與功能，加速藥物與酵素探索，縮短新藥研發時程；可量產之嵌合抗原受體免疫細胞療法之自動化製造技術（Automated manufacturing technologies for scalable CAR immune cell therapies），以自動化、標準化製程提升嵌合抗原受體（Chimeric Antigen Receptor, CAR）免疫細胞療法的穩定量產能力，降低細胞治療製造門檻；可於細胞尺度介入治療之生物混合微型機器人（Biohybrid microrobots for cellular-scale therapeutic interventions），結合生物組件和人工材料的微型機器人，形成可於細胞或微小組織尺度中移動與作用的治療工具，可用於精準遞藥、微創介入與局部治療；整合手術流程之自主機器人系統（Autonomous robotic systems for integrated surgical workflows），將AI、計算機視覺、感測技術及機器人技術，整合進手術流程中，並於無人或少人參與下，執行部分自主或高階輔助手術任務，可提升手術精準度、效率與流程整合；用於神經疾病治療之非侵入式微創腦機介面技術（Noninvasive and minimally invasive brain interfaces for adaptive therapeutic modulation），透過非侵入或低侵入方式讀取與調控腦神經訊號，以實現持續、可調適的治療介入，可用於神經疾病治療與復健；提供分散式臨床場域應用之可攜式超低場磁振造影（Portable and ultra-low field magnetic resonance imaging for distributed clinical uses），使磁振造影（Magnetic Resonance Imaging, MRI）設備朝攜帶式、低磁場化發展，降低設施與操作門檻，利於偏鄉、急診與分散式臨床試驗之醫學影像診斷應用。 參、事件評析 EIC報告辨識出25項新興技術訊號，並將其歸納為數位與太空技術、清潔和資源效率技術，以及生物科技與健康技術三大領域。該報告不僅有助於歐盟及早掌握具發展潛力之新興深科技方向，亦可作為研發政策制定、創新支持措施規劃及投資判斷之重要參考依據。 此外，EIC報告以「技術訊號」作為分析單位，顯示歐盟有意於新興技術尚未成熟前，提前進行辨識、評估與布局，除保障創新競爭力外，亦可避免在未來關鍵技術競爭中受制於人。 就政策意涵而言，EIC報告不僅有助提升歐盟對前瞻科技治理的能力，亦有助於串聯創新支持工具、產業政策與戰略技術平台，進而形塑較為完整的科技治理體系。對我國而言，EIC採取資料探勘與專家判讀並行之新興技術訊號偵測機制，對我國科研成果運用、前瞻技術治理及國家科技政策規劃，均具有相當參考價值。
英國教育部《保障兒童在教育領域之安全2026》納入AI深偽影像，強調AI過濾機制及校方審查義務英國教育部（Department for Education，以下簡稱DfE）於2026年7月7日更新《保障兒童在教育領域之安全2026》（Keeping children safe in education 2026，下稱KCSIE 2026），將「生成式AI」納入學校之兒少保護與網路安全體系，供英國幼稚園至大學等學校參考，以保障及促進18歲以下兒童及青少年之福祉。此文件性質為不具強制力之指引，自同年9月1日起生效。以下簡要介紹《KCSIE 2026》重點。 《KCSIE 2026》建議除有正當理由，否則校方應遵循以下： 1.政策面，學校應將網路安全管理方法列入校內既有兒少保護政策中，如當學生使用AI生成具傷害性之內容（AI深偽照片、影片等）時，校方應啟動關於影像濫用的兒少保護程序。 2.系統管理面，建議學校應建立適當的過濾與監控系統（filtering and monitoring systems），每年至少應審查一次過濾系統之功能是否正常運作。 由校內人員組成之高級管理團隊（Senior Leadership Team, SLT）成員主導審查，以及由校方指定的一名或多名安全保護主管（Designated Safeguarding Lead, DSL）與IT人員從旁協助。審查重點除應確保過濾功能正常，亦應確保工作人員理解相關規定並知道向上通報事件之方式，並應留存相關審查紀錄。 建議學校除此份文件外，亦應參考英國DfE發布之《生成式AI產品安全標準》（Generative AI: product safety standards），評估AI工具是否符合教育領域的過濾與監控需求。 3.人員面，建議教職員的入職培訓以及每年至少一次兒少保護新知培訓中，應考量網路安全與學校的兒少保護政策並加以整合。 關於前文提及英國DfE於2026年1月更新之《生成式AI產品安全標準》，此文件性質同為不具強制力之指引，其提出11項安全標準供教育科技開發商、學校及學院供應商規劃與評估其生成式AI產品，包含：智慧財產權、隱私與資料保護、認知發展、心理健康及過濾機制等項目。其中，「智慧財產權」，主要提到除取得著作權人同意，否則AI產品不應儲存「輸入的資料」，亦不應將「輸入的資料」用於任何商業用途，包含但不限於作為訓練資料、產品開發。「隱私與資料保護」包含如：AI生命週期中應進行資料保護影響評估，若未確認合法依據，不得蒐集、儲存、分享或使用個人資料於任何商業目的，包括用於訓練與微調模型。「過濾機制」係指學校應確保採購之AI產品具過濾功能，可有效防止使用者（學生）接觸不當的內容。 由前文可得知，學校導入AI工具，不宜只評估AI功能之便利性，也應確認是否二次利用輸入之資料、資料傳輸至何處、具資料存取權限的人員範圍，以及是否具備過濾機制，並採取因應措施，如教職員培訓等。 臺灣教育領域導入生成式AI時，可參考此思維，於採購及委外開發流程，要求供應商揭露資料流向、限制二次利用（如用於訓練與微調模型）並保留系統操作紀錄，再由校方建立權限設定、過濾機制及事件應變制度，使教育AI的創新應用奠基於可追溯、可管控的資料管理基礎。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/）
歐洲藥物管理局（European Medicines Agency，簡稱EMA）發佈針對準備與審查產品特性摘要（summaries of product characteristics，簡稱SmPCs）的指導方針EMA近日針對醫藥公司，在其欲申請人體藥物上市核准的申請文件中，針對如何準備與審查產品特性摘要之文件，提供醫藥公司相關的指導方針。 產品特性摘要不僅是醫藥公司之新藥物在向歐盟申請上市核准時所必須提供的重要文件，也是健康照護專業人員在獲知如何有效並安全使用藥物時的基本資訊來源。產品特性摘要在藥品生命週期存續時必須定時保持更新，以確保無藥物效用性與安全性疑慮的新問題發生；同時，其也是在藥物包裝上所必須含有的基本資訊，以確保藥物服用者能對其所服用的藥物有更多的了解和進行各類風險評估。 產品特性摘要文件，主要係依據歐盟2001/83/EC號指令第8(3)(j)條與歐盟第726/2004號法規第6(1)條之要求而提供。前述法規要求醫藥公司在提出藥物上市許可之申請時，必須遵循歐盟2001/83/EC號指令第11條之規定，附加產品特性摘要於申請文件，以供主管機關作為申請核駁之依據。在EMA針對產品特性摘要所提供的指導方針中，主要係以簡報與影片的方式，來教導醫藥公司如何在產品特性摘要的各個項目中，提供有關申請藥物更為完整與細部的背景資訊。其中，有關於解釋如何完成治療指示（therapeutic indication）與藥物藥效成分（pharmacodynamic properties of a medicine）之項目，於EMA的指導方針中，亦以明確的影片指導來協助醫藥公司提供高品質的產品特性摘要內容。 有鑑於治療人體疾病之藥物，對於人類生理與心理層面攸關重大，如何要求醫藥公司在提出人體藥物上市許可之申請時，能提供藥物完整的背景資訊，以確保從事健康照護之人員以及藥物服用者，完全了解藥物使用方式、效用與風險，則是主管機關無從推卸的責任。觀察EMA針對人體藥物之產品特性摘要製作出完整的指導方針，或許我國衛生機關也可效仿該種方式，來提供國內醫藥公司在提出藥物上市申請時之參考，以確保各項資訊透明並保護藥物使用者在「知」方面的權益。
歐洲創新計分板（European Innovation Scoreboard）歐洲創新計分板（European Innovation Scoreboard, EIS）為針對歐盟成員國以及其他歐洲國家的研究與創新績效、創新體系等進行的評比報告，由歐盟執委會（European Commission, EC）每年發布，協助了解各國創新力態樣與市場競爭優勢。 EIS以綜合創新指數（Summary Innovation Index）作為整體評估標準，區分為四大類指標、10個創新構面，並細分為27個評估子標。四大類指標及相關架構如下： 創新環境指標：其中包含3種創新構面分別為人力資源、國家研究系統和友善投資環境； 投資指標：包含財務支援與企業投資創新構面； 新創活動指標：其創新構面包含創新者、連結度（linkage）和智財； 影響力指標：囊括就業影響力和銷售市場影響力兩種構面。 2019年6月發布歐洲創新計分板報告，歐盟創新發展連續四年均有進步。報告將歐盟會員國創新表現分為四組，分別為：1.創新領導者：包含丹麥、芬蘭、挪威等國；2. 優秀創新者：包含奧地利、比利時、德國等；3.中等創新者：包含希臘、匈牙利、義大利等；最後一組4.適度創新者（Modest Innovators）：包含羅馬尼亞及保加利亞等。該報告亦個別在特定領域上進行排名，例如在創新研究體系領域，盧森堡和丹麥表現最好，友善創新環境則以丹麥及芬蘭為最優，企業投資由德國和芬蘭領先，智財領域應用上則以中等創新組的馬爾他居冠。