用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
今年(2014)3月6日美國號稱蕃茄醬巨人的H.J. Heinz Co. (以下簡稱Heinz)於美國德州聯邦法院向一家德州公司Figueroa Brothers Inc. (以下簡稱Figueroa)提起商標侵權訴訟，主張Figueroa製造販售的蕃茄醬採用與其設計幾近相同的瓶身(ketchup bottle)，侵害其極具識別性、代表性的商業表徵(trade dress)。 Heinz目前針對該玻璃瓶設計已註冊取得3個聯邦商標，其除了主張聯邦商標法保護外，亦基於普通法(common law)提起商標侵權主張。然而，Heinz表示，在提起訴訟前，已數次嘗試與Figueroa私下解決此爭議，但未果，所以最後才會訴諸法律途徑，提起訴訟。 Heinz於訴狀中表示從1890年代開始，便開始行銷販售有名的蕃茄醬產品，該產品的包裝即為系爭具有高度識別性的玻璃瓶設計。Heinz認為被告Figueroa未經同意擅自使用此瓶身設計的行為會造成消費者混淆，搭便車利用Heinz花費大量心力、時間和費用所累積的良好商譽來牟利。此外，Heinz並注意到Figueroa其他醬料產品例如莎莎醬、辣醬皆使用不相似的包裝，惟獨蕃茄醬產品包裝跟其有名的玻璃瓶設計幾乎完全相同。 自Heinz提起訴訟過了近一個禮拜，案情有了變化，Figueroa於4月初與Heinz和解，雖然Figueroa並未承認其侵害Heinz商標權，但同意從今年12月開始停止使用該玻璃瓶設計，並從此不再侵害Heinz的商業表徵(玻璃瓶設計)。然而，和解金額相關條款並未揭露。 此案之後，對於其他欲仿冒或剽竊Heinz的玻璃瓶設計者，是否會有遏阻影響，值得後續觀察。
英國發布著作權與人工智慧報告書與影響評估英國發布著作權與人工智慧報告書與影響評估 資訊工業策進會科技法律研究所 2026年04月09日 英國政府於2026年3月18日依據《資料使用與存取法》（Data (Use and Access) Act 2025，下稱DUAA）第135條及第136條之法定義務，發布《著作權與人工智慧報告書》（Report on Copyright and Artificial Intelligence，下稱「報告書」）[1]及《著作權與人工智慧影響評估》（Copyright and AI Impact Assessment，下稱「影響評估」）[2]兩份官方文件。前揭文件係英國政府對人工智慧（Artificial Intelligence，下稱AI）使用著作權作品所進行之全面性政策評估，並對英國在AI著作權的修法路徑造成實質影響，使政府原先屬意的修法路徑被迫暫停推進。 壹、事件摘要 英國政府自2024年12月17日起展開「著作權與人工智慧」公開意見徵詢，徵詢期間至2025年2月25日止，共計收到11,520份回應。回應者涵蓋著作權人、創作者、AI模型開發者、學術研究機構、文化遺產機構及法律專業人士等，惟各自占比並未揭露。基於DUAA第135條及第136條之法定義務，英國政府須於法案通過後九個月內完成相關報告，遂於2026年3月18日同步公布「報告書」及「影響評估」。 報告書之主軸在於評估四大政策選項：選項0（維持現狀）、選項1（強化著作權保護）、選項2（廣泛資料探勘例外）、選項3（資料探勘例外附加選擇退出機制）。徵詢結果顯示，英國政府原傾向推動之「選項3」（附選擇退出之廣泛例外），在逾萬份回應中僅獲約3%之支持率，致使政府不得不重新審視其政策立場。 貳、重點說明 一、《資料使用與存取法》之立法脈絡 AI訓練資料可能涵蓋大量受著作權保護作品，如何權衡創作者權益與AI創新的效益，是目前各國所面臨的核心挑戰。此部分涉及各國著作權法規是否允許AI在未經授權的情況下利用著作權保護之作品，各國對此採取不同立場，相關法制爭議至今仍未有定論。英國係於《著作權、設計及專利法》（Copyright, Designs and Patents Act 1988，下稱CDPA）第29A條[3]設有文字及資料探勘（Text and Data Mining，下稱TDM）例外，意即資料使用者得於特定條件下，對其可合法取用之著作進行自動化分析而不構成侵權。惟其適用範圍僅限於「非商業研究目的」，使得AI業者在商業訓練場景中難以援引此一例外。 為解決前述挑戰，英國提出四種政策方向並徵詢公眾意見，其結果可見於「報告書」及「影響評估」。以下針對此四種政策選項進行說明。 二、四大政策選項之比較分析 （一）選項0：維持現狀 選項0係維持英國現行著作權法架構，AI業者原則上須就使用著作權作品取得授權，僅得於CDPA第29A條非商業研究之例外範圍內進行TDM。影響評估指出，現行制度對著作權人之保護在理論上尚稱完備，然受限於AI訓練資料來源缺乏透明度，著作權人實際上難以知悉其作品是否遭擅自使用，舉證更屬不易，致使授權機制形同虛設。此外，若境外AI業者以海外訓練之模型輸入英國市場，英國著作權人之權益亦難以獲得有效保障。 （二）選項1：強化著作權保護 選項1主張進一步強化著作權保護，要求所有AI訓練使用之材料均須取得授權，包括境外AI模型輸入英國市場時，亦須證明已依英國著作權法取得合法授權。就創意產業而言，此選項能更有力保障著作權人之財產權，並使其得從AI訓練中獲得合理報酬；然對AI業者而言，合規成本之提高將增加訓練門檻，可能壓抑英國本土AI產業之競爭力。影響評估亦指出，此選項下AI服務成本或轉嫁至終端用戶，影響政府及企業之AI採用率。選項1獲得了最高的支持度，有81%回應者贊同此一制度。 （三）選項2：廣泛TDM例外 選項2主張設立廣泛TDM例外，使AI業者無論商業或非商業目的均可對合法取得之資料進行探勘與訓練，無需逐一取得著作權人授權。此一制度係參考日本著作權法第30條之4。該條文指出，只要目的非在「享受著作物所呈現之思想或感情」原則上均可免授權使用，意即資料分析、資料蒐集與AI訓練等基於「情報解析」行為皆屬TDM例外範疇。 選項2雖有助於降低AI業者法遵成本並提升英國AI研發之國際競爭力，然創意產業普遍擔憂，廣泛例外將使生成式AI大量學習創作者作品，卻無需給付任何報酬，且可能產出直接競爭於原著作人之內容，嚴重侵蝕其市場利益。此選項僅有極少數回應者支持，如OpenAI、Anthropic等大型AI公司。 （四）選項3：TDM例外附加選擇退出機制 選項3原先為英國政府屬意推動的政策選項，亦與歐盟《數位單一市場著作權指令》（DSM Directive）第4條[4]之商業TDM例外架構相近，其核心設計係為原則上允許AI業者對合法取得之資料進行TDM，但著作權人得透過技術手段（如robots.txt）明確保留其權利（即選擇退出機制）。 然而，此選項在公開意見徵詢中僅獲約3%之支持率，其主要爭議在於：對創作者而言，選擇退出機制實質上將著作權保護之責任轉嫁至個人，中小型的創作者往往缺乏必要之技術能力或資源執行退出操作；並非所有爬蟲程式均遵從robots.txt協議；跨境訓練亦難有效管制。此外，在欠缺揭露義務的前提下，創作者仍無從知悉其作品是否遭侵權使用。 三、訓練資料透明度要求 報告書顯示，逾90%之意見回應者認為AI開發者應揭露訓練資料來源，惟各方對於揭露顆粒度（granularity）之要求存在明顯分歧：著作權人傾向主張細緻揭露至個別作品層次；AI業者則認為高層次概括揭露即已足夠。 就國際立法例而言，歐盟《AI法》（AI Act）第53條[5]第1項第4款已要求AI模型提供者製作並公開訓練內容摘要；美國加州亦已制定《生成式AI訓練資料透明度法》（Generative Artificial Intelligence: Training Data Transparency Act）。[6]英國雖無相關法定揭露義務，但在報告書中表示將持續監測其他國家透明度規範之實施效果，並與業界合作制定訓練資料揭露之最佳實務，以期為著作權人提供更有效之權利主張基礎。 參、事件評析 公眾諮詢的結果顯示，尋求著作權保護與AI創新發展的平衡點極具挑戰性。由於引起及大的社會反彈，英國政府被迫放棄「TDM例外附加選擇退出機制」之規劃，然而未來是否會徹底走向「強化著作權保護」仍未可知。然而，在本次諮詢中，有90%之回應者支持AI訓練資料透明度要求；歐盟AI法、美國加州生成式AI透明度法均課予AI業者一定程度的訓練資料揭露義務。從此觀之，縱使著作權人與AI業者之間存有諸多重大分歧，但透明度要求是目前雙方的共識基礎。 我國現行法制下AI訓練所遭遇到的爭議與英國類似，著作權人與AI業者的利益衝突如何化解亦為我國當前AI發展的課題。故英國經驗揭示，政策推行或法令修正宜建立多元利害關係人持續對話機制；此外，在法令、技術標準尚未成熟之情況下，業界最佳實務指引或可作為過渡性替代方案。 [1] GOV.UK, Report on Copyright and Artificial Intelligence (2026), https://assets.publishing.service.gov.uk/media/69ba692226909a14239612e4/CP2602959_-_Report_on_Copyright_and_Artificial_Intelligence_web.pdf (last visited. Apr. 9, 2026). [2] GOV.UK, Copyright and AI Impact Assessment (2026), https://assets.publishing.service.gov.uk/media/69ba68f7c06ba9576435abb0/CP2602959_-_AI_and_Copyright_Impact_Assessment_Web.pdf (last visited. Apr. 9, 2026). [3] Copyright, Designs and Patents Act 1988, legislative.gov.uk, https://www.legislation.gov.uk/ukpga/1988/48/section/29A (last visited Apr. 9, 2026). [4] Directive (EU) 2019/790, art. 4, 2019 O.J. (L 130) 92, 114. [5] Regulation 2024/1689, art. 53, 2024 O.J. (L 1689) 1, 84. [6] Bill Text - AB-2013 Generative artificial intelligence: training data transparency, California Legislative Information, https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240AB2013 (last visited Apr. 9, 2026).
WIPO發表新冠肺炎防疫政策資訊追蹤平台，指出部分會員國已採取強制授權世界智慧財產組織（World Intellectual Property Organization, WIPO）於2020年5月5日發表WIPO新冠肺炎防疫政策資訊追蹤平台（WIPO COVID-19 IP Policy Tracker），方便民眾追蹤新冠肺炎期間，各國的智慧財產權應對措施變化。WIPO全球專利資料庫PATENTSCOPE也推出新檢索功能，以便對已公開的專利文獻進行定位和檢索，這些資訊對創新者研發對抗COVID-19疫情的新技術有所幫助。作為領導並推廣智慧財產權的國際組織，WIPO推出的新冠肺炎防疫政策資訊追蹤平台是一個資料庫，目標是讓利害關係人了解新冠肺炎期間各國相應的智慧財產權政策調整。各個主管機關推出的政策包含延長或寬限繳費期限、採取特殊措施，如強制授權（Compulsory Licenses）。 WIPO新冠肺炎防疫政策資訊追蹤平台有一個「自主行動專區」，指出不少機構、企業、和私部門中的智慧財產權所有權人，採取大量自主行動措施，用以緩解危機。其中包含著作權、專利等。值得一提的是由史丹佛Mark Lemley教授領銜主導的Open COVID Pledge，此計畫委員會由許多科學家、律師、企業家組成，號召產學研各領域透過開放智慧財產權，作為防疫之用。初始加入Open COVID Pledge的產業界夥伴包含Facebook、Amazon、Intel、IBM、Microsoft等科技巨頭，UBER、AT&T等亦從善如流。其中，連續27年蟬聯美國專利榜榜首的IBM，在2023年12月31日前免費提供80,000項專利。微軟則是透過技術和創新來追蹤疾病並開發解決方案，如：AI for Health、Bing COVID-19 Tracker。
歐盟出資贊助開放原始碼研究歐盟決定斥資 66 萬歐元的經費研究全球的開放原始碼軟體與標準。 歐盟在為期兩年的 FLOSSWorld 專案中，首度贊助的國際性開放原始碼軟體研發與政策發展計畫，先前的 FLOSS 專案主要只著重在歐洲的開放原始碼部分。 FLOSS 即為自由 / 開放原始碼軟體的縮寫 (free/libre/open source) ，藉由本專案，歐盟希望能夠強化歐洲在自由軟體領域的領導力，與增加國際合作夥伴。 FLOSSWorld 召集人 Rishab Aiyer Ghosh 向對外表示，歐盟通常是不贊助國際性專案的。而此次計劃共區分五大區域，而合作的國家包括中國 ( 東亞 ) 、印度與馬來西亞 ( 南亞 ) 、非洲 ( 南非 ) 、東南歐 ( 保加利亞與克羅埃西亞 ) 、中南美洲 ( 阿根廷與巴西 ) 。 研究將專注在三大領域：開放原始碼對於技能發展的影響，以及對經濟與新增職缺的影響；軟體開發的區域差異性；政府與公家單位對使用開放原始碼的態度。 Ghosh 指出 FLOSSWorld 的目標在增加國際層次的合作，增加對其他國家對於開放原始碼的使用與影響的了解程度。