新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險

新加坡網路安全局(Cyber Security Agency of Singapore, CSA)於2024年10月15日發布人工智慧系統安全指南(Guidelines on Securing AI Systems),旨在強化AI系統安全,協助組織以安全之方式運用AI,降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段,分別針對各階段的安全風險,提出相關防範措施:

(1)規劃與設計:提高AI安全風險認知能力,進行安全風險評估。

(2)開發:提升訓練資料、模型、應用程式介面與軟體庫之供應安全,確保供應商遵守安全政策與國際標準或進行風險管理;並辨識、追蹤及保護AI相關資產(例如模型、資料、輸入指令),以確保AI開發環境安全。

(3)部署:適用標準安全措施(例如存取控制、日誌記錄),並建立事件管理程序。

(4)運作與維護:持續監控AI系統的輸入和輸出,偵測異常與潛在攻擊,並建立漏洞揭露流程。

(5)壽命終期:應根據相關行業標準或法規,對資料與模型進行適當之處理、銷毀,防止未經授權之存取。

CSA期待該指南發布後,將有助於預防供應鏈攻擊(supply chain attacks)、對抗式機器學習攻擊(Adversarial Machine Learning attacks)等安全風險,確保AI系統的整體安全與穩定運行。

相關連結
你可能會想參加
※ 新加坡網路安全局發布人工智慧系統安全指南,以降低AI系統潛在風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9270&no=16&tp=1 (最後瀏覽日:2026/11/20)
引註此篇文章
你可能還會想看
歐盟公布「朝向現代化著作權架構行動計畫」,研議推動措施及規範調修規劃

  歐盟執委會在2015年12月9日提出歐盟朝向現代化著作權架構行動計畫(Towards a modern, more European copyright framework),目的為落實歐盟數位單一市場策略(Digital Single Market Strategy),對於創意產業能夠激勵投資,並且打造公平的競爭環境。行動計畫分為四項重點:   一、放寬歐盟地區內容取得服務: 歐盟已針對線上服務內容如影音、遊戲等,提出草案,未來將允許線上服務內容可以跨境取得,不受地區性之限制,範圍僅限於歐盟會員國地區。歐盟亦將利用創意歐洲計畫持續鼓勵創意產業發展,增加更多使用服務之民眾。   二、放寬著作權相關免責規範之適用: 未來歐盟將修正規範,使研究人員就資料內容之取得與利用更為便利。此外,教育為另外一項重點,例如應訂有明確使用線上內容做為教學之規範。在身障者保護部分,則亦應設立規範。   三、創造公平市場: 歐盟將評估線上作品之使用與分享是否為公平授權,且未來將首先針對新聞服務業者進行檢討,對於使用者在網路上單純分享作品連結者,將視為合理使用。另外,針對作者與表演者報酬部分,歐盟未來將有一致性之政策規範標準。   四、打擊盜版: 歐盟認為,新政策的執行將使著作物能經過合理管道使用,因此可抑制盜版行為。而在2016年預計進行之“follow the money”計畫,預計與使用者及權利人相互配合,阻斷盜版所產生之資金流動。   未來,歐盟預計於六個月內將此架構願景轉換為草案或政策推動方針,其中在允許線上服務內容可以跨境取得之草案規範部分,歐盟執委會則希望於2017年能正式生效施行。

美國證券交易委員會對虛擬貨幣交易平台提起訴訟

  美國證券交易委員會(The Securities and Exchange Commission,以下簡稱SEC)於2018年11月8日發出聲明,依據1934年的證券交易法(下稱證交法)第21C條對EtherDelta 創辦人Zachary Coburn 提起訴訟,並做出要求其停止交易之禁止令。   EtherDelta 乃為一線上交易平台,允許買家和賣家在其平台上交易「以太幣」和其他虛擬貨幣。其平台特徵有: 提供平台,促成虛擬貨幣交換 EtherDelta之網站提供一線上平台予買賣雙方,對經過平台認證的虛擬貨幣進行交易,促成虛擬貨幣交換。於網站成立之一年半中,其促成了360萬筆訂單。 以智慧合約自動驗證進行交易 EtherDelta以智慧合約(smart contract)維持網站運作,其智慧合約檢查用戶發出之訊息是否有效,於確認買賣雙方帳戶都有足夠資金後,自動進行交易。 提供資訊且對用戶資格未設限 EtherDelta於網站上提供虛擬貨幣之資訊,以及個別虛擬貨幣之每日交易量,同時於網站上顯示前500筆買方和賣方之交易資訊,以價格和顏色進行分類。而其對於成為網站用戶之資格並無限制。   SEC於本案中認為,EtherDelta並未註冊成為證券交易所,卻執行與證券交易相關之業務,已違反證交法,其論述理由為: EtherDelta平台上之虛擬貨幣屬於證券性質 本案SEC使用Howey Test—美國聯邦最高法院於1946年在SEC v. W. J. Howey Co. 一案中所確立之測試要件,來判斷是否符合證券。由於用戶以金錢購買虛擬貨幣,該金錢投資行為建立共同事業,且具有藉由他人努力而獲利之期待,故屬於證券性質之虛擬貨幣。 EtherDelta性質上為交易所,但未為註冊 EtherDelta 作為平台聚集大量投資人,並以智慧合約促成買賣雙方進行虛擬貨幣交換,已屬於實現證券交易之行為,具有證交所功能,故於不具有豁免情形下,其未註冊已違反證交法第5條規定。   本案就SEC之主張,EtherDelta並未為否認或承認之表示,但同意該禁止交易之命令,並同意支付SEC行使歸入權之30萬美元及其他判決前利息和罰款。   觀察目前美國對於虛擬貨幣買賣行為之監管,並無立專法規範,僅以證交法為準則,就個別虛擬貨幣之性質以Howey Test為檢驗,個案認定是否屬於證券。倘若屬於證券,則對於進行交易之平台課予證券交易所之責任,而對於虛擬貨幣而言,被認定為證券勢必被課予義務俾利增加投資人之保障,可能增加公開度及透明度,然其快速籌資之功能亦可能有所減損,SEC對於虛擬貨幣之監管影響與成效均值得繼續觀察之。另外,SEC曾於2017年7月25日針對The DAO做出一調查報告,其於報告中認為證券型之虛擬貨幣需要受到監管,從而本案作為DAO報告之後被裁罰之虛擬貨幣交易平台首例,有其作為里程碑之重要意義。首先其確立了SEC自DAO報告之後對於證券性質虛擬貨幣需監管之見解,再者表達SEC認為就算採用去中心化、分散式節點之方式進行證券交易,同樣屬於證交法所稱之「證交所」,不因此而豁免監管。

Thomson Reuters v. ROSS案──美國聯邦第三巡迴上訴法院認定以商業替代目的訓練非生成式AI不構成合理使用

Thomson Reuters v. ROSS案──美國聯邦第三巡迴上訴法院認定以商業替代目的訓練非生成式AI不構成合理使用 資訊工業策進會科技法律研究所 2026年10月16日 人工智慧(AI)訓練利用他人著作是否、如何構成合理使用,是各國著作權法持續討論中的爭議。美國聯邦第三巡迴上訴法院(United States Court of Appeals for the Third Circuit,下稱第三巡迴法院)於今(2026)年9月就Thomson Reuters v. ROSS案作成判決,認定以商業替代目的訓練非生成式AI,不構成合理使用[1]。 壹、事件摘要 美國聯邦第三巡迴法院就Thomson Reuters Enterprise Centre GmbH (下稱Thomson Reuters)及West Publishing Corp. (下稱West)控告ROSS Intelligence Inc. (下稱 ROSS)案(案號 No. 25-2153)作成判決,認定Thomson Reuters之法律裁判要點(headnote)具原創性而受著作權保護,且 ROSS為訓練AI而使用該等裁判要點,不構成合理使用(fair use)[2]。判決指出Thomson Reuters的素材具有「創作火花」(creative spark),受著作權保護,且ROSS意圖以高度相似的目的使用這些素材,成為直接競爭者,認定不構成合理使用[3]。 Thomson Reuters為蒐集、整理、註解並出版司法判決等法律內容之公司,並推出線上法律研究平台Westlaw。Westlaw以主題與關鍵編號系統整理司法判決,撰擬提供裁判要點,清楚簡明的呈現判決所表明之關鍵法律論點,並讓使用者點選即可前往該要點所依據之判決段落[4]。ROSS係AI法律搜尋引擎開發者,其以數千則 Westlaw裁判要點作為訓練AI的素材,使其能辨識哪些判決段落足以妥適回應法律問題[5]。Thomson Reuters得知後對ROSS提起訴訟,主張著作權侵害。 貳、重點說明 判決指出Thomson Reuters之裁判要點編輯,須決定哪些法律論點重要到足以納入裁判要點,以及如何依Westlaw之撰寫準則表達這些論點,內容必須納入足夠之事實背景與理由,且無須參照判決或任何其他裁判要點即可被理解,首先肯定裁判要點具有原創性[6]。反駁ROSS主張,法院認為裁判要點內容並未等同判決內容,著作權主張並不會實際上壟斷司法判決[7],而且「表達司法判決中的法律論點有許多方式」,並不適用概念與表達合一原則(merger doctrine)[8]。同時,逐項衡量美國著作權法四項合理使用因素,提出如下看法: 一、使用之目的與性質不利於合理使用 法院首先考量使用屬商業性或非營利性,因為商業性使用不利於認定合理使用;其次考量複製者之使用有多大之轉化性(transformative),亦即新著作是否僅取代原創作之標的,抑或增添新內容、具有進一步之目的或不同之性質,其指標在於複製者之使用是否維持「獨特的目的」[9]。法院認為ROSS 意在建立一個收費與 Westlaw 相當之法律研究平台,與 Westlaw 爭取客戶,因此 ROSS 之使用具商業性[10]。而且,就轉化性而言,Thomson Reuters使用其裁判要點,協助法律研究者尋找並理解載有與其搜尋相關法律論點之司法判決;ROSS使用Thomson Reuters之裁判要點,建立一個法律研究平台,協助使用者找出回應其搜尋之判決段落。雙方方法雖略有差異,但都是使用裁判要點來建立並改進一個協助使用者尋找相關法律資料之法律研究平台,終極目的相同[11]。法院認定ROSS使用具高度商業性且僅具輕微轉化性,第一項因素不利於合理使用[12]。 判決指出,本案不同於Authors Guild v. Google案,該案Google 掃描整本書籍,供使用者搜尋並閱讀與其搜尋詞相符之書籍小段摘錄;原書之目的是供人閱讀,而搜尋功能之目的,是使使用者得以找到含有搜尋者所感興趣詞語之書籍[13]。但本案不存在這種轉化性目的,相反的,ROSS之平台使用Thomson Reuters之裁判要點,是協助使用者找到與其法律研究詢問相關之司法判決,而這正是Thomson Reuters已經以其裁判要點在做的事。而且Google之搜尋功能可能將使用者導向其後會向原作者購買之書籍,但本案ROSS不會把使用者導向Westlaw,相反地正如 ROSS 所承認,其目的是取代 Westlaw[14]。法院亦未支持ROSS的「中間複製」(intermediate copying)[15]主張,判決指出ROSS無須複製Thomson Reuters之裁判要點,即可取得原始的司法判決,並可自由複製這些判決,ROSS 選擇不這麼做,不是因為複製裁判要點是提供製作訓練備忘錄的「必要」方式,而是因為它是較「簡便」的方式[16]。 二、著作性質雖略為有利於合理使用但影響輕微 著作在被使用時是已發行或未發行,以及該著作雖具足以受著作權保護之創意,是否同時含有事實性或功能性要素;越具創意、越少事實性之著作,越「接近著作權保護的核心」,即越不利於合理使用。法院認為Thomson Reuters在 ROSS 使用前已發行這些裁判要點,且裁判要點較偏事實性而非虛構性,因其必須準確傳達法律,並描述不受著作權保護之司法判決,因此此項因素有利於合理使用[17]。惟法院亦指出,著作性質因素在合理使用判斷中鮮少扮演重要角色[18]。 三、所使用部分之量與重要性不利於合理使用 就量與重要性而言,法院認為ROSS 將 25,000 則 Westlaw 撰寫之裁判要點(本案經認定侵權而受審查者為其中2,243則)[19]全文複製到其備忘錄中,並以之訓練其 AI 程式,且意在利用 Westlaw 之成果,製作 Westlaw 之商業替代品,因此 ROSS 欠缺足以使大量複製成為合理之轉化性目的與性質[20]。雖然ROSS 主張其所取用的僅是Thomson Reuters 2,800 萬則裁判要點之0.08%[21],但法院認為關鍵在於達成複製者之目的[22]「所取用者是否未超出必要程度」,在ROSS缺乏足以正當化之轉化性目的的情況下,其複製取用這些裁判要點即屬超出必要程度;而且每則被取用之裁判要點,ROSS所複製的都是全部,如此廣泛之複製因缺乏足夠之轉化性目的支持而不合理,故第三項因素不利於合理使用[23]。 四、利用結果產生價值影響與市場取代的效果 第四項因素關乎該使用對受著作權保護著作之潛在市場或價值所生之影響;「潛在市場」包括原著作之市場,以及原著作衍生使用之任何市場[24]。ROSS 主張相關原市場是裁判要點作為獨立產品之市場,Thomson Reuters則主張法律研究平台市場才是相關原市場。 法院認為ROSS 複製裁判要點,是為了在與 Westlaw 相同之競爭性法律研究平台市場中競爭,損害 Westlaw 在該原市場中之地位[25]。而且,縱採 ROSS 所稱的裁判要點市場,ROSS論點仍忽略其使用對Thomson Reuters裁判要點價值之影響。法院援引Video Pipeline案[26]駁斥ROSS類似論點,指出合理使用法規係指示法院考量使用對受著作權保護著作「價值」之影響,而不僅是對「市場」的影響。ROSS 複製裁判要點並以之建立自己之競爭性法律研究平台,挪用裁判要點在尋找與分析司法判決上之價值,並減損其作為吸引使用者前往Thomson Reuters法律研究平台之誘因的功能[27]。 此外,針對潛在衍生市場影響,Thomson Reuters則主張,ROSS 損害其將裁判要點授權作為 AI 訓練資料之潛在衍生市場,ROSS則主張裁判要點之衍生市場並不存在。法院認為將裁判要點作為文本授權用於訓練 AI 之市場正快速發展[28],Thomson Reuters提出證據顯示,其正將裁判要點用作自身 AI 搜尋產品之訓練資料,而且Thomson Reuters未將其裁判要點授權予他人,並不能證明不存在可供授權之市場。ROSS 未經授權即複製裁判要點作為訓練資料,剝奪Thomson Reuters進入該衍生市場並為此目的授權其裁判要點之機會[29]。 最後,法院針對ROSS 主張其複製將因增加法律之可近性而有益於公眾、AI 對國家安全之主張,表示司法判決本可自由取得,且 ROSS 提供服務之價格與 Westlaw 相當,無法認定 ROSS 之複製能大幅增加公眾對法律之可近性[30];雖然某些 AI 技術可能涉及國家安全疑慮,但這並不使 ROSS 僅因其納入了 AI,就可毫無顧忌地違反著作權法,不予採納。綜合上述理由,法院認定 ROSS 對這些裁判要點之使用並非合理使用,法院維持原裁定[31]。 參、事件評析 第三巡迴法院認為,本案與Bartz案及In re: OpenAI案之 AI 模型不同,ROSS 之 AI 平台無法產生原創表達,且本案證據支持欠缺轉化性之結論;ROSS 訓練其 AI,目的是創造 Westlaw 之商業替代品。本判決之意義,不在提供一個論述AI 訓練能否主張合理使用之依據,而在於哪些事實使本案走向利/不利於合理使用之結論。 一、著作性質偏事實性,但此因素法院認為權重較低:本案系爭的裁判要點偏事實性,與Bartz案、Kadrey案以創意程度較高之書籍為對象不同。判決雖因其須準確傳達法律、描述不受著作權保護之判決,認定略有利於合理使用,但仍指出該因素在合理使用判斷中鮮少扮演重要角色。 二、AI使用終極目的與原使用等同即欠缺轉化性:本案與Authors Guild 案之搜尋功能導向原書,及Bartz案、Kadrey案之模型生成新文字不同,ROSS雖非為產出相同裁判要點而訓練AI,但其自承產品與 Westlaw 直接競爭,並以取代 Westlaw 為目的;法院雖承認訓練為中間步驟,但仍以該步驟所服務之法律研究平台與 Westlaw 之使用具相同目的,作出輕微轉化之判斷。 三、利用須在達成轉化利用目的所必要的限度內:法院認為關鍵在於達成複製者之目的「所取用者是否未超出必要程度」,本案非如同其他案件,複製係為達成其他目的而必須採取的必要動作,ROSS 原即可自由取得原始司法判決,卻選擇複製裁判要點以求簡便。 四、將 AI 訓練授權機會納入衍生的潛在市場評價:只要能舉證即可納入認定市場影響,Thomson Reuters 提出其已將裁判要點用於訓練自身 AI 搜尋產品,以及 AI 訓練授權市場正在發展之證據,獲得法院支持。法院在有證據之前提下,認定 ROSS 篡奪Thomson Reuters進入並授權該潛在市場之機會。 由上述說明可知,第三巡迴法院與其他法院在判斷架構上並無歧異,不同點在於非生成式訓練、與原著作處於同一市場、且底層資料可自由取得之情況,如何認定使用目的與市場損害。本文認為ROSS使用目的的取代意圖過於明確,實質影響第三巡迴法院對第一、第三及第四項合理使用因素的判斷。特別是在市場影響的認定上,除原著作之市場外,法院明示其亦考量使用對著作價值之影響,即使不存在裁判要點之獨立市場,仍可認定價值受損;而且潛在衍生市場不以著作權人已實際授權為限,只要有證據顯示授權市場正在發展。在AI訓練結果具轉化性與對既有市場影響這兩個要素,可預見將來會有更多不同的判決,因應事實情況的差異,而發展出更細部的判斷因素。AI訓練授權市場之提出,後續如何牽動合理使用邊界值得持續觀察。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]Thomson Reuters Enterprise Centre GmbH v. ROSS Intelligence Inc., No. 25-2153, slip op. (3d Cir. Sept. 29, 2026), https://www2.ca3.uscourts.gov/opinarch/252153p.pdf(最後瀏覽日:2026/10/07)(下稱 ROSS slip op.)。 [2] ROSS slip op., 前揭註 1, p. 2:“We therefore hold that Thomson Reuters’s materials are copyrightable and that ROSS’s use was not fair.” [3] ROSS slip op., 前揭註 1, p. 2。 [4] ROSS slip op., 前揭註 1, p. 3。 [5] ROSS slip op., 前揭註 1, pp. 5–6。 [6] ROSS slip op., 前揭註 1, pp. 10–11。 [7] ROSS slip op., 前揭註 1, p. 11。 [8] ROSS slip op., 前揭註 1, p. 12。 [9] ROSS slip op., 前揭註 1, pp. 14–15。 [10] ROSS slip op., 前揭註 1, p. 16。 [11] ROSS slip op., 前揭註 1, pp. 16–17。 [12] ROSS slip op., 前揭註 1, pp. 17–18。 [13] ROSS slip op., 前揭註 1, pp. 18–19,引述 Authors Guild v. Google, Inc., 804 F.3d 202, 216 (2d Cir. 2015)。 [14] ROSS slip op., 前揭註 1, p. 19。 [15] 即美國聯邦第九巡迴上訴法院之 Sega Enterprises Ltd. v. Accolade, Inc. 案與 Sony Computer Entertainment, Inc. v. Connectix Corp. 案中提及的,複製電腦程式碼之目的,是使使用者得讓其軟體與既有電腦系統相容運作,其使用具有轉化性,因為複製均為接觸電腦程式碼不受保護之功能性面向所必要。ROSS slip op., 前揭註 1, pp. 19–20,引述 Sega Enters. Ltd. v. Accolade, Inc., 977 F.2d 1510, 1514 (9th Cir. 1992);Sony Comput. Ent., Inc. v. Connectix Corp., 203 F.3d 596, 599, 606–08 (9th Cir. 2000);Google LLC v. Oracle Am., Inc., 593 U.S. 1, 6–7, 30–31 (2021)。 [16] ROSS slip op., 前揭註 1, pp. 20–21。 [17] ROSS slip op., 前揭註 1, pp. 21–22,引述 Campbell v. Acuff-Rose Music, Inc., 510 U.S. 569, 586 (1994);Oracle, 593 U.S. at 20, 28–29。 [18] ROSS slip op., 前揭註 1, p. 22,引述 Authors Guild, 804 F.3d at 220。 [19] ROSS slip op., 前揭註 1, p. 7 & n.3;p. 28。 [20] ROSS slip op., 前揭註 1, pp. 22–23。 [21] ROSS slip op., 前揭註 1, p. 23。 [22] ROSS slip op., 前揭註 1, p. 23:“The crux of the inquiry is whether ‘no more was taken than necessary’” to achieve the copier’s purpose. 引述 Authors Guild, Inc. v. HathiTrust, 755 F.3d 87, 98 (2d Cir. 2014)。 [23] ROSS slip op., 前揭註 1, p. 23 & n.10:“So, ROSS took more than necessary when it copied these headnotes without a justifying transformative purpose. Thus, the third factor weighs against fair use.”。 [24] ROSS slip op., 前揭註 1, p. 24。 [25] ROSS slip op., 前揭註 1, p. 25。 [26] 該案認為即使不存在預告片之獨立市場,被告Video Pipeline 發布的預告片,損害預告片吸引使用者前往迪士尼網站購買產品之價值。ROSS slip op., 前揭註 1, pp. 24–25,引述 Video Pipeline, Inc. v. Buena Vista Home Entm’t, Inc., 342 F.3d 191, 202 (3d Cir. 2003)。 [27] ROSS slip op., 前揭註 1, p. 25。 [28] ROSS slip op., 前揭註 1, p. 26。 [29] ROSS slip op., 前揭註 1, p. 26。 [30] ROSS slip op., 前揭註 1, p. 27。 [31] ROSS slip op., 前揭註 1, pp. 27–28。

加州通過美國第一個限制溫室氣體排放法案

  加州是全球第十二大製造二氧化碳排放量的地區,也是美國最重視環境立法的一個州。今年八月底,加州通過全美第一個限制人為溫室效應氣體排放法案- 2006 年全球溫室效應對策法( Global Warming Solutions Act of 2006 ),希望透過該法在 2020 年以前,將溫室氣體排放量減至 1990 年的水準(約減少 25% ),而諸如發電廠、水泥工廠等溫室效應氣體最大的來源,則將被要求報告它們的排放量。   雖然全球溫室效應對策法中並未規定特別的機制(例如歐盟所採取的排放量交易機制)以達到前述目標,不過加州政府仍希望藉由其率先立法的舉動,能引起全美各地效法,進而「由下而上」( bottom-up )促使聯邦政府採取必要措施。   目前美國聯邦政府以強制減少溫室氣體排放可能損及經濟,並不應將開發中國家排除在外為由,在 2001 年決定退出有 160 國簽署的京都議定書。不過隨著加州通過 2006 年全球溫室效應對策法,加入歐盟置身於對抗氣候變化的最前線,毋寧也將對華府增加壓力,未來聯邦政府仍須審慎考量是否以強制之立法手段,而非布希政府所偏好的自願性手段,來解決全球暖化的問題。

TOP