美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）
美國國家標準與技術研究院（National Institute of Standards and Technology, NIST）於2023年1月26日公布「人工智慧風險管理框架1.0」（Artificial Intelligence Risk Management Framework, AI RMF 1.0），該自願性框架提供相關資源，以協助組織與個人管理人工智慧風險，並促進可信賴的人工智慧（Trustworthy AI）之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢，獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時，是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新，期待各產業發展出適合自己的使用方式。
本框架首先說明人工智慧技術的風險與其他科技的差異，定義人工智慧與可信賴的人工智慧，並指出設計該自願性框架的目的。再來，其分析人工智慧風險管理的困難，並用人工智慧的生命週期定義出風險管理相關人員（AI actors）。本框架提供七種評估人工智慧系統之信賴度的特徵，包含有效且可靠（valid and reliable）：有客觀證據證明人工智慧系統的有效性與系統穩定度；安全性（safe）：包含生命、健康、財產、環境安全，且應依照安全風險種類決定管理上的優先次序；資安與韌性（secure and resilient）；可歸責與資訊透明度（accountable and transparent）；可解釋性與可詮譯性（explainable and interpretable）；隱私保護（privacy-enhanced）；公平性—有害偏見管理（fair – with harmful bias managed）。
本框架亦提出人工智慧風險管理框架核心（AI RMF Core）概念，包含四項主要功能：治理、映射（mapping）、量測與管理。其中，治理功能為一切的基礎，負責孕育風險管理文化。各項功能皆有具體項目與子項目，並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」（AI RMF Playbook），提供實際做法之建議，並鼓勵業界分享其具體成果供他人參考。
本文為「經濟部產業技術司科技專案成果」
陳箴
專案經理 編譯整理
National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0) (2023), https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf (last visited Feb. 16, 2023).
NIST AI Risk Management Framework Playbook, National Institute of Standards and Technology, https://pages.nist.gov/AIRMF/ (last visited Feb. 16, 2023).
AI RISK MANAGEMENT FRAMEWORK, National Institute of Standards and Technology, https://www.nist.gov/itl/ai-risk-management-framework (last visited Feb. 16, 2023).
對於該框架之意見，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=66&tp=1&d=8727（最後瀏覽日：2023/02/16）。
美國參議院於2022年4月提出《演算法問責法案》對演算法治理再次進行立法嘗試，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8912&no=64（最後瀏覽日：2023/02/16）。
美國情報體系發布「情報體系運用人工智慧倫理架構」，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8520（最後瀏覽日：2023/02/16）。
加拿大政府提交予國會《人工智慧資料法案》，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8888&no=64（最後瀏覽日：2023/02/16）。
英國政府提交予國會「人工智慧監管規範政策報告」，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8891&no=64（最後瀏覽日：2023/02/16）。
美國專利局日前核准美國Chromatin公司一項指標性專利，該專利係用在動植物細胞上，作為傳遞媒介的小染色體建構物（construction of mini-chromosomes as vectors for plant and animal cells），與使用基因工程小染色體創造轉基因植物的技術（techniques for creating transgenic plants using engineered mini-chromosomes）。這項專利的重要性並非針對特定的植物品種，而是使Chromatin公司在植物使用小染色體的技術上，取得的獨佔權利。 此項專利的技術最初由芝加哥大學的研究人員所開發，該校將技術專屬授權給Chromatin公司，並允許該公司為了商業目的進行轉授權（sublicense）。該公司在這方面的相關權利上，可謂積極進行佈局，並已經擁有超過40項，包括小染色體設計、傳遞與使用等方面的專利權、專利申請與發明。該項專利所描述的技術，可在植物中同時增添幾個基因（gene stacks），不但可節省研發時間，並可衍生具商業價值的新產品。此外，確認用作植物絲點（plant centromeres）的核酸序列，可使該公司在多種植物品種中，產生穩定的DNA構成物（stably inherited DNA）與小染色體。 Chromatin公司主要業務，為開發與銷售促使整個染色體經設計或經混合，而進入植物細胞之新穎技術。這些經過處理的染色體，在維持對基因表現作精確控制的狀況下，可同時將多功能的基因注入植物細胞中。Chromatin公司利用這些新基因工具來設計與銷售產品，這些產品可賦予植物更多的商業價值，包括改進養分與健康特性，在用途上則包括工業、農業與醫藥產品的開發。
因應使用「生成式AI（Generative AI）」工具的營業秘密管理強化建議2024年7月1日，美國實務界律師撰文針對使用生成式AI（Generative AI）工具可能導致的營業秘密外洩風險提出營業秘密保護管理的強化建議，其表示有研究指出約56%的工作者已經嘗試將生成式AI工具用於工作中，而員工輸入該工具的資訊中約有11%可能包含公司具有競爭力的敏感性資訊或客戶的敏感資訊，以Chat GPT為例，原始碼（Source Code）可能是第二多被提供給Chat GPT的機密資訊類型。系爭機密資訊可能被生成式AI工具提供者（AI Provider）用於訓練生成式AI模型等，進而導致洩漏；或生成式AI工具提供者可能會監控和存取公司輸入之資訊以檢查是否有不當使用，此時營業秘密可能在人工審查階段洩漏。 該篇文章提到，以法律要件而論，生成式AI有產生營業秘密之可能，因為營業秘密與著作權和專利不同之處在於「發明者不必是人類」；因此，由生成式 AI 工具協助產出的內容可能被視為營業秘密，其範圍可能包括：公司的內部 AI 平台、基礎的訓練算法和模型、輸入參數和輸出結果等。惟基於目前實務上尚未有相關案例，故生成式AI輸出結果在法律上受保護的範圍與條件仍需待後續的判例來加以明確。 實務專家提出，即使訴訟上尚未明確，企業仍可透過事前的管理措施來保護或避免營業秘密洩露，以下綜整成「人員」與「技術」兩個面向分述之： 一、人員面： 1.員工（教育訓練、合約） 在員工管理上，建議透過教育訓練使員工了解到營業秘密之定義及保護措施，並告知向生成式AI工具提供敏感資訊的風險與潛在後果；培訓後，亦可進一步限制能夠使用AI工具的員工範圍，如只有經過培訓及授權之員工才能夠存取這些AI工具。 在合約方面，建議公司可與員工簽訂或更新保密契約，納入使用生成式AI的指導方針，例如：明確規定禁止向生成式AI工具輸入公司營業秘密、客戶數據、財務信息、未公開的產品計劃等機密資訊；亦可增加相關限制或聲明條款，如「在生成式AI工具中揭露之資訊只屬於公司」、「限制公司資訊僅能存儲於公司的私有雲上」等條款。 2.生成式AI工具提供者（合約） 針對外部管理時，公司亦可透過「終端使用者授權合約（End User License Agreement，簡稱EULA）」來限制生成式AI工具提供者對於公司在該工具上「輸入內容」之使用，如輸入內容不可以被用於訓練基礎模型，或者該訓練之模型只能用在資訊提供的公司。 二、技術方面： 建議公司購買或開發自有的生成式AI工具，並將一切使用行為限縮在公司的私有雲或私有伺服器中；或透過加密、防火牆或多種編碼指令（Programmed）來避免揭露特定類型的資訊或限制上傳文件的大小或類型，防止機密資訊被誤輸入，其舉出三星公司（Samsung）公司為例，三星已限制使用Chat GPT的用戶的上傳容量為1024位元組（Bytes），以防止輸入大型文件。 綜上所述，實務界對於使用生成式AI工具可能的營業秘密風險，相對於尚未可知的訴訟攻防，律師更推薦企業透過訴訟前積極的管理來避免風險。本文建議企業可將前述建議之作法融入資策會科法所創意智財中心於2023年發布「營業秘密保護管理規範」中，換言之，企業可透過「營業秘密保護管理規範」十個單元（包括從最高管理階層角色開始的整體規劃建議、營業秘密範圍確定、營業秘密使用行為管理、員工管理、網路與環境設備管理、外部活動管理，甚至是後端的爭議處理機制，如何監督與改善等）的PDCA管理循環建立基礎的營業秘密管理，更可以透過上述建議的做法（對單元5.使用管理、單元6.1保密約定、單元6.4教育訓練、單元7.網路與環境設備管理等單元）加強針對生成式AI工具之管理。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
解析中國江蘇省「企業知識產權管理規範」之內容與對台商的影響 美國勞動部就業培訓署發布《人工智慧素養框架》美國勞動部就業培訓署（The U.S. Department of Labor’s Employment and Training Administration，簡稱ETA）於2026年2月13日發布《人工智慧素養框架》（Artificial Intelligence Literacy Framework，以下簡稱本框架），旨在鼓勵公共勞動力系統與教育系統擴大推動AI素養（AI literacy）相關教育與培訓，為美國勞工因應AI時代之經濟與工作變遷提供方向指引，協助其培備所需核心能力。 本框架目標在支援勞動部執行《美國AI行動計畫》（Winning the Race: America’s AI Action Plan）及《美國人才戰略：為黃金時代打造勞動力》（America’s Talent Strategy: Building the Workforce for the Golden Age）兩部政策文件所揭示之任務，二者均將AI素養列為應於勞動力與教育體系全面推展之基礎性優先事項。本框架可分為三部分，第一部分提出AI素養的工作定義，並就勞工、雇主、教育與培訓提供者及州與地方機構四類受眾，分別說明框架的應用方式；第二部分界定所有勞工應具備的AI素養能力及其具體範疇與實作要求；第三部分則就培訓方案的設計與執行，提供課程規劃與推動策略的具體指引。 一、概念定義 本框架將AI素養定義為一套使個人得以負責任地使用與評估AI技術的基礎能力，並以對現代職場日益重要的生成式AI為核心。美國勞動部指出，「素養」應理解為隨著AI普及各行各業，所有勞工與學生與AI工具互動之知識與技能基準。 本框架分別針對四類受眾分別說明其應用方式。就勞工而言，現有勞工、求職者及即將進入職場之學生，可以此了解AI素養對職涯發展的意義與技能培養方向，在提升工作效能之餘開創新的職涯機會。就雇主而言，可據此建立企業內部AI素養培訓，確保員工有效且負責任地使用AI工具。就教育培訓提供者而言，可將AI素養融入現有課程，為學習者建立職場所需的核心能力。就州與地方機構而言，則可推動勞動與教育體系之AI素養培育，協助學生與求職者因應市場變遷，並回應雇主對AI人才之需求。 二、AI素養五大基本內容領域 本框架界定五大AI素養基礎內容領域，構成所有勞工應具備的能力基線。 1.了解AI原則（Understand AI Principles）：理解AI的核心概念、能力與限制，為有效應用奠定基礎。 2.探索AI用途（Explore AI Uses）：探索不同AI工具與應用情境，及其如何與人類專業知識相輔相成。 3.有效導引AI（Direct AI Effectively）：掌握如何提供適當情境脈絡與撰寫清晰提示詞，以產生有效輸出。 4.評估AI輸出（Evaluate AI Outputs）：評估AI生成結果之準確性與相關性，並了解如何對其輸出進行迭代優化。 5.負責任地使用AI（Use AI Responsibly）：以合乎倫理且安全的方式使用AI，保護重要資訊並對結果負責。 三、AI素養七大推行原則 本框架提出七大推行原則，作為培訓方案設計與執行的具體指引。 1.啟動體驗式學習（Enable Experiential Learning）：透過實際操作培養AI素養，使學習者得於真實情境中練習AI技能。 2.將學習融入情境（Embed Learning in Context）：將學習融入既有流程並結合產業特性，使學習成果更具實踐價值。 3.建立互補性人類技能（Build Complementary Human Skills）：借助AI強化人類之判斷力、創造力與問題解決能力。 4.消除學習前置障礙（Address Prerequisites to AI Literacy）：消弭AI素養學習之障礙，包括數位素養不足與寬頻網路取得的問題。 5.建立持續學習路徑（Create Pathways for Continued Learning）：提供系統性進修路徑，協助學習者提升進階AI技能並拓展職涯發展。 6.培育賦能角色（Prepare Enabling Roles）：培育管理者、輔導人員及其他於學習歷程中扮演支持角色之人員。 7.以敏捷性為設計原則（Design for Agility）：建立主動的內建機制，以隨AI能力演進迅速更新素養內容與推動方式。 面對AI時代工作型態之快速變遷，美國《人工智慧素養框架》在政策制定、勞動力轉型與AI人才系統化培育等面向所揭示之架構與策略，具有參考價值，可以供我國政府機關研擬相關政策時參考。