美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」

  美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括:

1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。

2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。

3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。

4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。

5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。

6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。

7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。

8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。

9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。

10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。

11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。

12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。

  為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。

相關連結
你可能會想參加
※ 美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9263&no=55&tp=1 (最後瀏覽日:2026/10/30)
引註此篇文章
你可能還會想看
Thomson Reuters v. ROSS案──美國聯邦第三巡迴上訴法院認定以商業替代目的訓練非生成式AI不構成合理使用

Thomson Reuters v. ROSS案──美國聯邦第三巡迴上訴法院認定以商業替代目的訓練非生成式AI不構成合理使用 資訊工業策進會科技法律研究所 2026年10月16日 人工智慧(AI)訓練利用他人著作是否、如何構成合理使用,是各國著作權法持續討論中的爭議。美國聯邦第三巡迴上訴法院(United States Court of Appeals for the Third Circuit,下稱第三巡迴法院)於今(2026)年9月就Thomson Reuters v. ROSS案作成判決,認定以商業替代目的訓練非生成式AI,不構成合理使用[1]。 壹、事件摘要 美國聯邦第三巡迴法院就Thomson Reuters Enterprise Centre GmbH (下稱Thomson Reuters)及West Publishing Corp. (下稱West)控告ROSS Intelligence Inc. (下稱 ROSS)案(案號 No. 25-2153)作成判決,認定Thomson Reuters之法律裁判要點(headnote)具原創性而受著作權保護,且 ROSS為訓練AI而使用該等裁判要點,不構成合理使用(fair use)[2]。判決指出Thomson Reuters的素材具有「創作火花」(creative spark),受著作權保護,且ROSS意圖以高度相似的目的使用這些素材,成為直接競爭者,認定不構成合理使用[3]。 Thomson Reuters為蒐集、整理、註解並出版司法判決等法律內容之公司,並推出線上法律研究平台Westlaw。Westlaw以主題與關鍵編號系統整理司法判決,撰擬提供裁判要點,清楚簡明的呈現判決所表明之關鍵法律論點,並讓使用者點選即可前往該要點所依據之判決段落[4]。ROSS係AI法律搜尋引擎開發者,其以數千則 Westlaw裁判要點作為訓練AI的素材,使其能辨識哪些判決段落足以妥適回應法律問題[5]。Thomson Reuters得知後對ROSS提起訴訟,主張著作權侵害。 貳、重點說明 判決指出Thomson Reuters之裁判要點編輯,須決定哪些法律論點重要到足以納入裁判要點,以及如何依Westlaw之撰寫準則表達這些論點,內容必須納入足夠之事實背景與理由,且無須參照判決或任何其他裁判要點即可被理解,首先肯定裁判要點具有原創性[6]。反駁ROSS主張,法院認為裁判要點內容並未等同判決內容,著作權主張並不會實際上壟斷司法判決[7],而且「表達司法判決中的法律論點有許多方式」,並不適用概念與表達合一原則(merger doctrine)[8]。同時,逐項衡量美國著作權法四項合理使用因素,提出如下看法: 一、使用之目的與性質不利於合理使用 法院首先考量使用屬商業性或非營利性,因為商業性使用不利於認定合理使用;其次考量複製者之使用有多大之轉化性(transformative),亦即新著作是否僅取代原創作之標的,抑或增添新內容、具有進一步之目的或不同之性質,其指標在於複製者之使用是否維持「獨特的目的」[9]。法院認為ROSS 意在建立一個收費與 Westlaw 相當之法律研究平台,與 Westlaw 爭取客戶,因此 ROSS 之使用具商業性[10]。而且,就轉化性而言,Thomson Reuters使用其裁判要點,協助法律研究者尋找並理解載有與其搜尋相關法律論點之司法判決;ROSS使用Thomson Reuters之裁判要點,建立一個法律研究平台,協助使用者找出回應其搜尋之判決段落。雙方方法雖略有差異,但都是使用裁判要點來建立並改進一個協助使用者尋找相關法律資料之法律研究平台,終極目的相同[11]。法院認定ROSS使用具高度商業性且僅具輕微轉化性,第一項因素不利於合理使用[12]。 判決指出,本案不同於Authors Guild v. Google案,該案Google 掃描整本書籍,供使用者搜尋並閱讀與其搜尋詞相符之書籍小段摘錄;原書之目的是供人閱讀,而搜尋功能之目的,是使使用者得以找到含有搜尋者所感興趣詞語之書籍[13]。但本案不存在這種轉化性目的,相反的,ROSS之平台使用Thomson Reuters之裁判要點,是協助使用者找到與其法律研究詢問相關之司法判決,而這正是Thomson Reuters已經以其裁判要點在做的事。而且Google之搜尋功能可能將使用者導向其後會向原作者購買之書籍,但本案ROSS不會把使用者導向Westlaw,相反地正如 ROSS 所承認,其目的是取代 Westlaw[14]。法院亦未支持ROSS的「中間複製」(intermediate copying)[15]主張,判決指出ROSS無須複製Thomson Reuters之裁判要點,即可取得原始的司法判決,並可自由複製這些判決,ROSS 選擇不這麼做,不是因為複製裁判要點是提供製作訓練備忘錄的「必要」方式,而是因為它是較「簡便」的方式[16]。 二、著作性質雖略為有利於合理使用但影響輕微 著作在被使用時是已發行或未發行,以及該著作雖具足以受著作權保護之創意,是否同時含有事實性或功能性要素;越具創意、越少事實性之著作,越「接近著作權保護的核心」,即越不利於合理使用。法院認為Thomson Reuters在 ROSS 使用前已發行這些裁判要點,且裁判要點較偏事實性而非虛構性,因其必須準確傳達法律,並描述不受著作權保護之司法判決,因此此項因素有利於合理使用[17]。惟法院亦指出,著作性質因素在合理使用判斷中鮮少扮演重要角色[18]。 三、所使用部分之量與重要性不利於合理使用 就量與重要性而言,法院認為ROSS 將 25,000 則 Westlaw 撰寫之裁判要點(本案經認定侵權而受審查者為其中2,243則)[19]全文複製到其備忘錄中,並以之訓練其 AI 程式,且意在利用 Westlaw 之成果,製作 Westlaw 之商業替代品,因此 ROSS 欠缺足以使大量複製成為合理之轉化性目的與性質[20]。雖然ROSS 主張其所取用的僅是Thomson Reuters 2,800 萬則裁判要點之0.08%[21],但法院認為關鍵在於達成複製者之目的[22]「所取用者是否未超出必要程度」,在ROSS缺乏足以正當化之轉化性目的的情況下,其複製取用這些裁判要點即屬超出必要程度;而且每則被取用之裁判要點,ROSS所複製的都是全部,如此廣泛之複製因缺乏足夠之轉化性目的支持而不合理,故第三項因素不利於合理使用[23]。 四、利用結果產生價值影響與市場取代的效果 第四項因素關乎該使用對受著作權保護著作之潛在市場或價值所生之影響;「潛在市場」包括原著作之市場,以及原著作衍生使用之任何市場[24]。ROSS 主張相關原市場是裁判要點作為獨立產品之市場,Thomson Reuters則主張法律研究平台市場才是相關原市場。 法院認為ROSS 複製裁判要點,是為了在與 Westlaw 相同之競爭性法律研究平台市場中競爭,損害 Westlaw 在該原市場中之地位[25]。而且,縱採 ROSS 所稱的裁判要點市場,ROSS論點仍忽略其使用對Thomson Reuters裁判要點價值之影響。法院援引Video Pipeline案[26]駁斥ROSS類似論點,指出合理使用法規係指示法院考量使用對受著作權保護著作「價值」之影響,而不僅是對「市場」的影響。ROSS 複製裁判要點並以之建立自己之競爭性法律研究平台,挪用裁判要點在尋找與分析司法判決上之價值,並減損其作為吸引使用者前往Thomson Reuters法律研究平台之誘因的功能[27]。 此外,針對潛在衍生市場影響,Thomson Reuters則主張,ROSS 損害其將裁判要點授權作為 AI 訓練資料之潛在衍生市場,ROSS則主張裁判要點之衍生市場並不存在。法院認為將裁判要點作為文本授權用於訓練 AI 之市場正快速發展[28],Thomson Reuters提出證據顯示,其正將裁判要點用作自身 AI 搜尋產品之訓練資料,而且Thomson Reuters未將其裁判要點授權予他人,並不能證明不存在可供授權之市場。ROSS 未經授權即複製裁判要點作為訓練資料,剝奪Thomson Reuters進入該衍生市場並為此目的授權其裁判要點之機會[29]。 最後,法院針對ROSS 主張其複製將因增加法律之可近性而有益於公眾、AI 對國家安全之主張,表示司法判決本可自由取得,且 ROSS 提供服務之價格與 Westlaw 相當,無法認定 ROSS 之複製能大幅增加公眾對法律之可近性[30];雖然某些 AI 技術可能涉及國家安全疑慮,但這並不使 ROSS 僅因其納入了 AI,就可毫無顧忌地違反著作權法,不予採納。綜合上述理由,法院認定 ROSS 對這些裁判要點之使用並非合理使用,法院維持原裁定[31]。 參、事件評析 第三巡迴法院認為,本案與Bartz案及In re: OpenAI案之 AI 模型不同,ROSS 之 AI 平台無法產生原創表達,且本案證據支持欠缺轉化性之結論;ROSS 訓練其 AI,目的是創造 Westlaw 之商業替代品。本判決之意義,不在提供一個論述AI 訓練能否主張合理使用之依據,而在於哪些事實使本案走向利/不利於合理使用之結論。 一、著作性質偏事實性,但此因素法院認為權重較低:本案系爭的裁判要點偏事實性,與Bartz案、Kadrey案以創意程度較高之書籍為對象不同。判決雖因其須準確傳達法律、描述不受著作權保護之判決,認定略有利於合理使用,但仍指出該因素在合理使用判斷中鮮少扮演重要角色。 二、AI使用終極目的與原使用等同即欠缺轉化性:本案與Authors Guild 案之搜尋功能導向原書,及Bartz案、Kadrey案之模型生成新文字不同,ROSS雖非為產出相同裁判要點而訓練AI,但其自承產品與 Westlaw 直接競爭,並以取代 Westlaw 為目的;法院雖承認訓練為中間步驟,但仍以該步驟所服務之法律研究平台與 Westlaw 之使用具相同目的,作出輕微轉化之判斷。 三、利用須在達成轉化利用目的所必要的限度內:法院認為關鍵在於達成複製者之目的「所取用者是否未超出必要程度」,本案非如同其他案件,複製係為達成其他目的而必須採取的必要動作,ROSS 原即可自由取得原始司法判決,卻選擇複製裁判要點以求簡便。 四、將 AI 訓練授權機會納入衍生的潛在市場評價:只要能舉證即可納入認定市場影響,Thomson Reuters 提出其已將裁判要點用於訓練自身 AI 搜尋產品,以及 AI 訓練授權市場正在發展之證據,獲得法院支持。法院在有證據之前提下,認定 ROSS 篡奪Thomson Reuters進入並授權該潛在市場之機會。 由上述說明可知,第三巡迴法院與其他法院在判斷架構上並無歧異,不同點在於非生成式訓練、與原著作處於同一市場、且底層資料可自由取得之情況,如何認定使用目的與市場損害。本文認為ROSS使用目的的取代意圖過於明確,實質影響第三巡迴法院對第一、第三及第四項合理使用因素的判斷。特別是在市場影響的認定上,除原著作之市場外,法院明示其亦考量使用對著作價值之影響,即使不存在裁判要點之獨立市場,仍可認定價值受損;而且潛在衍生市場不以著作權人已實際授權為限,只要有證據顯示授權市場正在發展。在AI訓練結果具轉化性與對既有市場影響這兩個要素,可預見將來會有更多不同的判決,因應事實情況的差異,而發展出更細部的判斷因素。AI訓練授權市場之提出,後續如何牽動合理使用邊界值得持續觀察。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]Thomson Reuters Enterprise Centre GmbH v. ROSS Intelligence Inc., No. 25-2153, slip op. (3d Cir. Sept. 29, 2026), https://www2.ca3.uscourts.gov/opinarch/252153p.pdf(最後瀏覽日:2026/10/07)(下稱 ROSS slip op.)。 [2] ROSS slip op., 前揭註 1, p. 2:“We therefore hold that Thomson Reuters’s materials are copyrightable and that ROSS’s use was not fair.” [3] ROSS slip op., 前揭註 1, p. 2。 [4] ROSS slip op., 前揭註 1, p. 3。 [5] ROSS slip op., 前揭註 1, pp. 5–6。 [6] ROSS slip op., 前揭註 1, pp. 10–11。 [7] ROSS slip op., 前揭註 1, p. 11。 [8] ROSS slip op., 前揭註 1, p. 12。 [9] ROSS slip op., 前揭註 1, pp. 14–15。 [10] ROSS slip op., 前揭註 1, p. 16。 [11] ROSS slip op., 前揭註 1, pp. 16–17。 [12] ROSS slip op., 前揭註 1, pp. 17–18。 [13] ROSS slip op., 前揭註 1, pp. 18–19,引述 Authors Guild v. Google, Inc., 804 F.3d 202, 216 (2d Cir. 2015)。 [14] ROSS slip op., 前揭註 1, p. 19。 [15] 即美國聯邦第九巡迴上訴法院之 Sega Enterprises Ltd. v. Accolade, Inc. 案與 Sony Computer Entertainment, Inc. v. Connectix Corp. 案中提及的,複製電腦程式碼之目的,是使使用者得讓其軟體與既有電腦系統相容運作,其使用具有轉化性,因為複製均為接觸電腦程式碼不受保護之功能性面向所必要。ROSS slip op., 前揭註 1, pp. 19–20,引述 Sega Enters. Ltd. v. Accolade, Inc., 977 F.2d 1510, 1514 (9th Cir. 1992);Sony Comput. Ent., Inc. v. Connectix Corp., 203 F.3d 596, 599, 606–08 (9th Cir. 2000);Google LLC v. Oracle Am., Inc., 593 U.S. 1, 6–7, 30–31 (2021)。 [16] ROSS slip op., 前揭註 1, pp. 20–21。 [17] ROSS slip op., 前揭註 1, pp. 21–22,引述 Campbell v. Acuff-Rose Music, Inc., 510 U.S. 569, 586 (1994);Oracle, 593 U.S. at 20, 28–29。 [18] ROSS slip op., 前揭註 1, p. 22,引述 Authors Guild, 804 F.3d at 220。 [19] ROSS slip op., 前揭註 1, p. 7 & n.3;p. 28。 [20] ROSS slip op., 前揭註 1, pp. 22–23。 [21] ROSS slip op., 前揭註 1, p. 23。 [22] ROSS slip op., 前揭註 1, p. 23:“The crux of the inquiry is whether ‘no more was taken than necessary’” to achieve the copier’s purpose. 引述 Authors Guild, Inc. v. HathiTrust, 755 F.3d 87, 98 (2d Cir. 2014)。 [23] ROSS slip op., 前揭註 1, p. 23 & n.10:“So, ROSS took more than necessary when it copied these headnotes without a justifying transformative purpose. Thus, the third factor weighs against fair use.”。 [24] ROSS slip op., 前揭註 1, p. 24。 [25] ROSS slip op., 前揭註 1, p. 25。 [26] 該案認為即使不存在預告片之獨立市場,被告Video Pipeline 發布的預告片,損害預告片吸引使用者前往迪士尼網站購買產品之價值。ROSS slip op., 前揭註 1, pp. 24–25,引述 Video Pipeline, Inc. v. Buena Vista Home Entm’t, Inc., 342 F.3d 191, 202 (3d Cir. 2003)。 [27] ROSS slip op., 前揭註 1, p. 25。 [28] ROSS slip op., 前揭註 1, p. 26。 [29] ROSS slip op., 前揭註 1, p. 26。 [30] ROSS slip op., 前揭註 1, p. 27。 [31] ROSS slip op., 前揭註 1, pp. 27–28。

芬蘭財政部通過《虛擬貨幣供應商法》,以防制洗錢及資恐行為

  近來虛擬貨幣已成為國際洗錢犯罪工具,為有效防制洗錢及打擊資助恐怖主義行為,芬蘭財政部(Ministry of Finance)宣布通過虛擬貨幣供應商法(The Act on virtual currency providers),於2019年5月1日生效,立法目的係為了將虛擬貨幣供應商納入洗錢防制監管範圍,並由芬蘭金融監管局(Financial Supervisory Authority, FIN-FSA)擔任虛擬貨幣供應商之註冊機構及監管機構。   根據該法案,虛擬貨幣交易所、託管錢包供應商及虛擬貨幣發行者皆須向芬蘭金融監管局進行註冊,以確保遵守相關法規要求,包括:(1)供應商應具可靠性;(2)保存和保護客戶資金;(3)須將客戶資金與自有資金隔離;(4)服務行銷規則;(5)遵守防制洗錢與打擊資助恐怖主義(AML / CFT)規定。虛擬貨幣供應商須符合法規要求才能在芬蘭營運,若未符合法規,將被禁止其業務活動,並依規定科以罰金。   另外,該法案之基本框架,是以2018年5月歐盟宣布通過之「第五號洗錢防制指令」(the Fifth Anti-Money Laundering Directive)為基礎,該指令要求所有歐盟成員國必須於2020年1月10日前,將虛擬貨幣相關服務納入國內AML / CFT監管框架中,以降低洗錢和恐怖主義融資風險。然而,芬蘭金融監管局表示,虛擬貨幣交易風險高,儘管制訂新法案,投資者保護問題仍無法完全解決,呼籲投資者仍須注意虛擬貨幣相關服務所涉及之風險,應謹慎為之。

美國、日本、韓國舉辦「顛覆性技術保護網路高峰會」,簽署技術保護及出口管制合作意向書

美國、日本、韓國於2024年4月25日舉辦首屆「顛覆性技術保護網路高峰會」(Disruptive Technology Protection Network Summit,下稱高峰會),就顛覆性技術保護展開正式合作。 此高峰會係為履行三國於2023年8月18日「大衛營」(Camp David)峰會作出之「未來每年度應至少舉行一次三方國家會談」承諾。美國積極利用此高峰會,深化美國顛覆性技術打擊小組(Disruptive Technology Strike Force)與日本、韓國相應執法單位的資訊交換機制或經驗分享,加強技術保護及打擊相關犯罪活動。有關本次高峰會進展,簡要彙整如下: 一、經驗與案例分享:三國執法單位各自說明其技術保護工具、政策之最新舉措,並進行執法案例分享。 二、相關執法單位簽署合作意向書: (一)美國司法部(The Department of Justice)、日本警察廳(警察庁)和韓國法務部(법무부)共同簽署「深化技術外洩執法資訊分享合作意向書」(Letter of intent on deepening information sharing for tech leak law enforcement)。 (二)美國商務部(The Department of Commerce)、日本經濟產業省(経済産業省)和韓國產業通商資源部(산업통상자원부)共同簽署「實施出口管制合作意向書」(Letter of intent for cooperation on export control implementation)。 三國共識非法出口貨品或移轉技術行為,已對國家安全、經濟安全構成威脅,除持續優化相關法規外,有必要強化三國「執法面」連結,進行較即時的打擊犯罪跨國合作,防範民族國家境外勢力(Nation-state adversaries)以不正當手段獲取先進技術,並建立更全面的國際「顛覆性技術保護網路」(Disruptive Technology Protection Network)。

日本醫藥品醫療器材等法修正研析―以醫療應用軟體為中心

TOP