美國發布《新興科技優先審查架構》 加速政府機構導入AI技術
美國聯邦總務署（General Service Administration）於2024年6月27日發布《新興科技優先審查架構》（Emerging Technologies Prioritization Framework），該架構係為回應拜登總統針對AI安全所提出之第14110號行政命令，而在「聯邦政府風險與授權管理計畫」（Federal Risk and Authorization Management Program，以下簡稱FedRAMP）底下所設置之措施。
一般而言，雲端服務供應商（cloud service providers）若欲將其產品提供予政府單位使用，需依FedRAMP相關規範等候審查。《新興科技優先審查架構》則例外開放，使提供「新興科技」產品之雲端服務供應商得視情況優先審查。
現階段《新興科技優先審查架構》所定義之「新興科技」係為提供下列四種功能的生成式AI技術：
1.聊天介面（chat interface）：提供對話式聊天介面的產品。允許用戶輸入提示詞（prompts），然後利用大型語言模型產出內容。
2.程式碼生成與除錯工具（code generation and debugging tools）：軟體開發人員用來協助他們開發和除錯軟體的工具。
3.圖片生成（prompt-based image generators）：能根據使用者輸入之文字或圖像而產生新圖像或影像的產品。
4.通用應用程式介面（general purpose API）：基於API技術將前述三項功能加以整合的產品。
美國政府為挑選最具影響力的產品，要求雲端服務供應商繳交相關資料以利審查，例如公開的模型卡（model card）。模型卡應詳細說明模型的細節、用途、偏見和風險，以及資料、流程和參數等訓練細節。此外，模型卡應包含評估因素、指標和結果，包括所使用的評估基準。
《新興科技優先審查架構》第一波的申請開放至2024年8月31日，且FedRAMP將於9月30日宣布優先名單。這項措施將使生成式AI技術能夠以更快的速度被導入政府服務之中。
- Federal Risk and Authorization Management Program [FedRAMP], Emerging Technologies Prioritization Criteria and Guidance(2024)
- Federal Risk and Authorization Management Program (FedRAMP) - Artificial Intelligence, GitHub
- Emerging Technology Prioritization Framework, FedRAMP
- Release of Emerging Technology Prioritization Framework, FedRAMP
- Making access to AI a priority, U.S. General Services Administration
周景賀
副法律研究員 編譯整理
Federal Risk and Authorization Management Program [FedRAMP], Emerging Technologies Prioritization Criteria and Guidance(2024), https://www.fedramp.gov/assets/resources/documents/Emerging-Technologies-Prioritization-Criteria-and-Guidance-V3.pdf (last visited Aug. 2, 2024).
Federal Risk and Authorization Management Program (FedRAMP) - Artificial Intelligence, GitHub, https://github.com/GSA/fedramp-ai (last visited Aug. 2, 2024).
Emerging Technology Prioritization Framework, FedRAMP, https://www.fedramp.gov/et-framework/#:~:text=This%20page%20describes%20the%20operational%20framework%20to%20prioritize%20certain%20cloud (last visited Aug. 2, 2024).
Release of Emerging Technology Prioritization Framework, FedRAMP, https://www.fedramp.gov/2024-06-27-release-of-et-framework/ (last visited Aug. 2, 2024).
Making access to AI a priority, U.S. General Services Administration, https://www.gsa.gov/blog/2024/06/27/making-access-to-ai-a-priority (last visited Aug. 2, 2024).
Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, The White House, https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/#:~:text=(a)%20Artificial%20Intelligence%20must%20be%20safe%20and%20secure.%20Meeting%20this (last visited Aug. 2, 2024).
郭俊仁，〈美國正式推行「聯邦政府風險與授權管理計畫」〉，科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=5795&no=64（最後瀏覽日：2024/08/02）。
2017年12月14日美國聯邦通信委員會(Federal Communications Commission, FCC)以3票對2票表決通過，廢止自2015年來所採取網路寬頻服務的高壓監管規定，並恢復了原來所採取低管制監管框架。支持者與反對者分別來自兩個不同的黨派。 經過詳細的分析以及對消費者和利益相關者的評論廣泛審查後，委員會認為自2015年來對網路寬頻服務採取的高壓規定，對整個網路生態系統施加了巨大的成本。為了取代這個嚴格的框架，FCC重新採用2015年之前的傳統低管制監管框架。 FCC 特別要求行動寬頻服務業者應公開揭露其網路管理政策例如:如何處理網路安全與壅塞問題、服務內容與商業條款等，以利於消費者與業者進行有效選擇，並促進政府對寬頻業者的行為進行有效的監督。此外 ，FCC恢復了聯邦貿易委員會（Federal Trade Commission, FTC）的管轄權，以便在寬頻業者從事反競爭、不公平或欺騙行為時採取行動。 在對消費者的影響方面，自由市場的支持者認為，付費優先的作法，意味在寬頻基礎建設上會有更多投資，使得上網和整體資料傳輸速度大為增加。 為達上述目標，委員會所採取之具體措施如下： 將寬頻接取服務（包括固定與行動寬頻服務）重新歸類為資訊服務。 將行動寬頻接取服務恢復歸類為私人行動服務。 將網路服務提供者有關隱私保護、不公平、詐欺和反競爭行為之管轄權回歸由聯邦貿易委員會負責。 要求網路服務提供者向消費者、企業和委員會揭露有關其做法的訊息，包括阻止，限制，支付優先次序或附屬優先次序。 此外FCC又禁止各州限制擴建寬頻網路服務的法律。據FCC統計，大約20個州有限制社區寬頻網路服務活動的法律，這些州的法律不公平地限制政府部門與有線電視和電信寬頻服務提供商的競爭。 FCC通過該案後引發不少如Google、Facebook及Netflix等科技公司，與消費者保護環體齊力撻伐，認為ISP業者在FCC力挺下，將可隨意限制民眾上網瀏覽的內容，大企業因此具優先權，不利新創網路公司生存發展，且投下反對票的政黨表示，將率領各州對聯邦傳播委員會這項決定提出法律挑戰，透過訴訟尋求翻盤機會。
韓國2012年度國家智財施行計畫檢討評估結果出爐韓國2012年度國家智財施行計畫檢討評估結果出爐 科技法律研究所 2014年03月26日 壹、事件背景 韓國國家智慧財產委員會(以下簡稱智財委員會)於2013年11月13日公布「2012年度國家智財施行計畫之檢討評估結果」。韓國智財委員會係依智慧財產基本法第10條，檢討、評估施行計畫之推動情形。檢討評估對象係針對2012年度國家智財施行計畫(以下簡稱施行計畫)之5大政策面向：創造、保護、運用、基礎環境、新智慧財產，挑選出重點推動共21個課題。另為確保評估之專業性及客觀性，由民間專家組成「政策評估團」，並召開會議就不同的推動課題討論，然後以等級決定優劣。 針對21個課題進行檢討評估之結果顯示，被評為優秀等級之課題有4個，分別為「透過改善研究發展體系，創造高品質智慧財產」、「加強智慧財產侵權物品國境管制措施」、「塑造尊重智慧財產文化」、「建構、運用新植物品種育種之基礎環境」；而需要改善之課題則有3個，即「支援海外當地侵權之因應」、「強化地方中小企業之智財能力」、「發掘及確保海洋生物資源與智財創造之支援」。以下就評估方法及結果扼要說明之。 貳、評估方法及結果概述 韓國考量到智財施行計畫之特殊性，且加上是首次推動、評估國家層級智財政策之成效，所以不僅是評估政策成果，同時也要對政策形成、執行等政策基礎環境之確保等相關要素進行評估，對此，韓國設定3項評估指標：「政策形成」、「政策執行」、「政策成果」，詳細指標內容如下表所示： 區分 評估項目 評估基準 政策形成(30%) 1.計畫確立之適切性(15%) 1-1.事前分析、意見蒐集之充實性(5%) 1-2.成果指標及目標值之適當性(10%) 2.政策基礎環境之確保水準(15%) 2-1.推動體系之充實性(5%) 2-2.資源分配之適當性(10%) 政策執行(35%) 3.推動過程之效率性(25%) 3-1.推動日程之充實性(10%) 3-2.相關機關與政策連結性(10%) 3-3.監督及情況變化之對應性(5%) 4.政策擴散之努力水準(10%) 4-1.政策溝通、宣傳、教育之充實性(10%) 政策成果(35%) 5.政策成果及效果(35%) 5-1.成果目標達成度(20%) 5-2.政策效果(15%) 資料來源：韓國國家智財委員會 表1智財施行計畫之政策評估指標 為確保評估之專業性及客觀性，由韓國智財委員會之民間委員、及下設之創造、保護、運用、基礎環境、新智慧財產等專門委員會之專門委員，以及地方自治團體代表等30位成員組成政策評估團。每位評估委員就各機關提出之實績報告書內容為判斷依據，再依照不同指標之特性，進行定量和定性評估。政策評估團第1次評估完畢後，就會召開調整會議，決定各推動課題之評估等級(分成優秀、普通、需要改善3個等級)為何。 整體而言，韓國的智慧財產創造能力已提高不少，且韓國國內對智財保護水準亦逐漸提升，另外，對於智慧財產創造、保護、運用之正向循環體系所需之配套措施如新智慧財產相關法制，初步已整備完成。韓國之後擬要持續提高智財成果之品質，加強韓國在海外的智財保護，並且增進民間對智財運用政策之有感度，以及推動與新智財相關之各部會間對智財業務範圍調整與政策方面之合作推動。
英國宣布禁止16歲以下兒少使用社群媒體，並擴大兒少網路保護措施為保護兒少網路安全並為下一代建立全新的網路規範，英國科學、創新與技術部（DSIT）於2026年6月15日發布政策新聞稿，除將全面禁止社群媒體平台對16歲以下兒少提供服務外，更將管制範疇延伸至更廣泛的網路服務。相關法案預計於2026年底前提交國會審議，最快於2027年春季生效。 核心規範與管制措施包括： 一、禁用社群媒體平台：參考澳洲現行兒少社群媒體禁用制度，將全面禁止以促進社交互動、允許使用者發布內容並結合演算法為宗旨之「使用者對使用者平台」（user-to-user platforms），包含Snapchat、TikTok、YouTube、Instagram、Facebook及X等平台，對16歲以下兒少提供服務。至於「即時通訊服務」（messaging services），如WhatsApp和Signal等則未納入此一社群媒體禁用範圍。 此外，為確保教育服務、電子商務平台及音樂串流服務不受影響，後續將制定定義嚴格且保持滾動式檢討之豁免清單。 二、網路有害功能封鎖措施：包括禁止16歲以下兒少於所有平台上進行「自主直播」（livestreaming themselves）；以及阻斷「未知使用者」（unknown users）主動單獨接觸、傳訊予16歲以下兒少之功能。 又為避免兒少年滿16歲時防護網瞬間解除而形成「法規懸崖」（cliff edge），上述限制防護措施對於16歲與17歲之兒少帳號，於系統中均將強制採取「預設開啟」（On by default）之防護狀態。 三、強化AI聊天機器人管制：旨在模擬性愛關係或與使用者進行角色扮演之AI戀愛伴侶聊天機器人，未來將強制執行18歲之法定最低年齡限制；其他一般聊天機器人若同樣具備親密互動功能，亦將對未滿18歲之使用者實施更嚴格之限制。 四、推動高效年齡驗證制度：將引進「高效年齡驗證」（Highly Effective Age Assurance, HEAA），以降低兒少規避年齡限制安全防護之可能性。英國通訊管理局（Ofcom）將盡速展開研究，評估何種年齡驗證技術最能有效確認使用者是否已滿16歲。政府亦將挹注充裕資金以支持英國通訊管理局履行相關執法措施。 五、研議深夜網路宵禁及防成癮機制：將進一步評估針對未滿18歲兒少實施「深夜網路宵禁」（Overnight curfews）及「無限滾動中斷機制」（breaks in infinite scrolling）等政策，具體細節預計於同年7月份對外公布。 為迅速回應社會期待，英國政府後續將依據現行《兒童福祉與學校法案》（Children’s Wellbeing and Schools Act）之授權，直接採用「次級立法」（Secondary legislation）方式推動。此舉可大幅簡化繁瑣之立法程序，確保首波防護措施得以在2027年春季迅速上路實施。 隨著社群媒體及人工智慧技術快速發展，如何兼顧數位發展與兒少保護已成為各國重要課題。英國此次並未僅採取傳統「一刀式全面禁用」（blanket ban）社群媒體之作法，而係同步推動網路有害功能封鎖、強化AI管制及引進高效年齡驗證等配套措施，以建構更完整之兒少網路保護機制，其相關作法值得我國持續關注。
歐盟執委會發布《受禁止人工智慧行為指引》歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]： 1. 不可接受風險（Unacceptable risk） 2. 高風險（High risk） 3. 有限風險，具有特定透明度義務（Limited risk） 4. 最低風險或無風險（Minimal to no risk） AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 （二）禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。 2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。 3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。 二、AI Act本文第5條1（c）－社會評分行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為 （一）概念說明 本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。 4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。 四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為 （一）概念說明 本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。 五、AI Act本文第5條1（f）－情緒辨識行為 （一）概念說明 本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該系統係用於推斷情緒。 3.因果關係：該行為發生於職場或教育訓練機構。 4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。 六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為 （一）概念說明 本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。 4.因果關係：前述分類依據為其生物辨識資訊。 5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。 七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為 （一）概念說明 本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 （二）禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的：使用目的須為執法需要。 3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。 4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).