用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
2025年5月2日，聯邦司法會議證據規則諮詢委員會（Judicial Conference’s Advisory Committee on Evidence Rules）以8比1投票結果通過一項提案，擬修正《聯邦證據規則》（Federal Rules of Evidence，FRE），釐清人工智慧（AI）生成內容於訴訟程序中之證據能力，以因應生成式AI技術在法律實務應用上日益普遍的趨勢。 由於現行《聯邦證據規則》僅於第702條中針對人類專家證人所提供的證據設有相關規定，對於AI生成內容的證據能力尚無明確規範，所以為了因應AI技術發展帶來的新興挑戰，《聯邦證據規則》修正草案（下稱「修正草案」）擬新增第707條「機器生成證據」（Machine-Generated Evidence），並擴張第901條「驗證或識別證據」（Authenticating or Identifying Evidence）的適用範圍。 本次增訂第707條，針對AI生成內容作為證據時，明確其可靠性評估標準，以避免出現分析錯誤、不準確、偏見或缺乏可解釋性（Explainability）等問題，進而強化法院審理時的證據審查基礎。本條規定，AI生成內容作為證據必須符合以下條件： 1. 該AI生成內容對於事實之認定具有實質助益； 2. AI系統於產出該內容時，係以充分且適當之事實或資料為輸入依據； 3. 該輸出結果能忠實反映其所依據之原理與方法，並證明此一應用於特定情境中具有可靠性。 本修正草案此次新增「AI生成內容」也必須合乎既有的證據驗證要件。原第901條a項原規定：「為符合證據之驗證或識別要求，提出證據者必須提供足以支持該證據確係其所聲稱之內容的佐證資料。」而修正草案擬於第901條b項新增「AI生成內容」一類，意即明文要求提出AI生成內容作為證據者，須提出足夠證據，以證明該內容具有真實性與可信度，方符合第901條a項驗證要件。 隨著AI於美國法院審理程序中的應用日益廣泛，如何在引入生成式AI的同時，於司法創新與證據可靠性之間取得平衡，將成為未來美國司法實務及法制發展中的重要課題，值得我國審慎觀察並參酌因應，作為制度調整與政策設計的參考。
歐盟新提出之《數位服務法》將針對科技巨擘實施更加嚴格之規定歐盟委員會在2020年1月提出之工作計畫中，即表示2020年第四季度將會提出新的《數位服務法案》《Digital Services Act》，以因應新興數位時代下的歐洲。 2020年10月29日歐盟競爭事務專員表示，幾個科技巨擘針對每天蒐集大量訊息並加以過濾篩選，最後傳遞予公眾有限數量消息的過程，將必須採取更多措施以清除非法及有害的內容，此舉旨在解決與大型社交媒體平台相關之兩大問題，即仇恨言論之傳播以及傷害社會公共對話與民主之言論。 該法案將規範科技公司須針對其行為製作報告，並告知使用者，他們所看到的廣告是由誰付費進行投放、為什麼他們會成為這支廣告的目標對象。蓋因科技公司之數位平台先是無償蒐集使用者個人資料及偏好，再針對這些資料進行分析後，對使用者量身訂製廣告行銷策略，最後科技公司依靠此套方法賺進大量廣告收益，例如，臉書與Google在2018年的廣告收入佔據總收入百分之九十八及百分之八十五以上。 該法案亦將針對科技公司篩選訊息，最後有選擇性的發送特定訊息予社會大眾及量身訂製置入廣告之行為，設立明確規則，羅列應作為或是不作為之清單。例如禁止推銷自己的服務，蓋阻止競爭對手向消費者提供更好的交易服務，等同於變相阻止消費者享受自由競爭和創新的成果；故將先設立協調一致之調查框架，提供一套統一的規則以調查數位服務市場已存之結構性問題，而後在必要時可以採取相關行動，使市場更加具有競爭力。歐盟預計將於2020年12月2日宣布《數位服務法》草案，在正式立法之前，會再與歐盟國家取得一致共識。
美國白宮對具危險性的生物研究提出新規範美國白宮為避免由聯邦補助的生物科技研究案，因研究涉及具危險性生物，而不經意製造出生化武器，繼此於2014年9月24日由國家衛生研究院（National Institutes of Health，NIH）和白宮科技政策辦公室（White House Office of Science and Technology）共同提出新規範，即「美國政府對生物科學雙重用途研究與考量的機構監督政策」（United States Government Policy for Institutional Oversight of Life Sciences Dual Use Research of Concern），旨在加強由聯邦預算補助的生物雙重用途研究（Dual Use of Research）安全性。 前述生物科技研究中的生物雙重用途研究，意指以增進公共衛生、國家安全、農業、環境等為主旨的生命科學研究之外，尚有其他具殺傷力或致命性的合法研究，例如合成病毒、除草劑等。早於2013年，美國白宮即已開始實施「美國政府對生物科學雙重用途研究與考量的監督政策」（United States Government Policy for Oversight of Life Sciences Dual Use Research of Concern），惟本次另以機構為主要規範對象。而作成新規範之重點分述為三如下： 1.原先以補助單位（通常為國家衛生研究院），為具危險性生物研究案為監督、責成單位，現將該監督責任歸屬移轉至取得相關補助的科學家、大學或研究機構。 2.從事相關具危險性生物研究之科學家，必須通報其所屬機構，並且須召開審查委員會評估相關風險，亦須通知聯邦層級的補助單位。此外，該科學家與其機構必須提交一份風險防範之計畫書，例如建立生物安全等級（biosafety rating）較高的實驗室等。 3.違反相關規範之受補助對象，將面臨中止、限制或終止補助之處分，甚至失去申請未來聯邦補助單位所補助一切與生命科學相關研究補助的機會。
自由軟體運動燒向BIOSBIOS是「基本輸出/輸入系統」（Basic input/output systems）的簡稱，這種在所有應用底層的軟體，過去以來PC廠商一向自我保護相當嚴密，而且還需要用到專門設計BIOS的公司。而現在，一些批評開始希望逼迫業界放棄其機密，這些批評宣稱，客戶應該可以自由發開自己的選擇方案，確保可以控制自己的裝置──也就是說，可以讓他們自由取得BIOS資訊。 「我們需要自由的BIOS，因為如果我們無法控制BIOS，就無法控制電腦。」自由軟體基金會（Free Software Foundation）總裁Richard Stallman表示。BIOS自由軟體計畫開始於BIOS史上的第一波改革──當時軟體程式碼希望轉向新的「可延伸式韌體界面」（Extensible Firmware Interface，或簡稱EFI）。另一方面，PC硬體安全功能的一些計畫也讓Stallman等一類團體批評指出，消費者對於自己的裝置缺乏主控權，希望能夠公開BIOS撰寫規格，可讓消費者能夠自行安裝、修改，及再發佈BIOS軟體──雖然不見得會是免費的。更重要的是，將可讓使用者避開未來一些可能的安全強化功能，例如廠商用控制文件使用方式的數位版權管理功能。 已有許多廠商宣稱，BIOS的自由軟體純粹只是為了自由而自由，對於電腦使用者沒什麼意義。BIOS廠商的高層及晶片巨子英特爾都表示，由於目前業界對BIOS的控管嚴密，也才能夠保有PC的安全和穩定，同時可藉由對一些廠商IP（智慧財產權）的保護以促進市場競爭。有些人則認為，對於BIOS的嚴密保護，有助於防止駭客攻擊。 英特爾則已經提出了折衷的方案──名為Tiano的開放原始碼技術。Tiano是為了取代BIOS的一種框架工作，希望透過EFI，讓PC零件以自己的驅動程式來啟動零件。英特爾的這項計畫為BIOS的汰換工作建立了一個框架，因此可能成為BIOS自由軟體的基礎。但是它把PC零件初始化用的程式碼撰寫工作留給了軟體的下載者。但Stallman依然宣稱英特爾做得不夠，且BIOS廠商其實是多餘的，他希望看到資訊釋出。