用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
所謂營業秘密相關的秘密保持命令（或稱保密令），指訴訟中當事人所提示的證據內含有營業秘密時，為防止該些證據所涵括的特定營業秘密在民事或刑事訴訟程序進行中，可能因他造請求閱覽或當事人之證據揭示義務等事由，造成該當營業秘密洩漏，得在當事人釋明後，由司法機關依當事人或第三人聲請而採取的制度性保密措施。營業秘密的核心價值與保護法益，在於其秘密性的維持，無論為技術性或業務經營上的秘密，若因相關訊息的揭露導致該資訊獨占性喪失，也將連帶使其市場價值大幅減損，基此，立法者將應實施防止秘密資訊外洩之相關措施的領域，自社會經濟活動場域擴張至訴訟場域，避免漏洞產生。 經司法機關發秘密保持命令所生之主要效果，包含限制該特定營業秘密僅得被使用於實施該當訴訟程序之目的，以及禁止揭露給未接受該秘密保持命令之人。此規範一方面係為確保該訴訟之當事人得有效行使防禦權，另一方面，則是考量到因訴訟程序進行中，關於營業秘密保護的規範相對完善，基於實施該當訴訟為目的之使用導致洩密的可能性較低而設。制度設計上，如我國智慧財產案件審理法第11條至15條中，針對涉及營業秘密的民事與刑事訴訟程序所制定的秘密保持命令相關規範，即為適例。
美國網路安全暨基礎設施安全局（CISA）發布《工控資安基礎：適用於擁有者與營運者的資產清冊指引》美國網路安全暨基礎設施安全局（CISA）於2025年8月13日發布該機關與美國、澳洲、加拿大、德國、荷蘭、紐西蘭等國共計八個國安資安相關機構，合作訂定之《工控資安基礎：適用於擁有者與營運者的資產清冊指引》文件，旨在針對易受惡意網路行為攻擊且提供重要服務的能源、水務、製造業及其他領域關鍵基礎設施營運技術（Operational Technology，OT）系統，協助其資產擁有者與營運者建置與維護完整的OT資產清冊，並輔以OT分類體系（Taxonomy）。 OT資產清冊範圍涵蓋組織OT系統與相關軟、硬體，該指引主要說明OT資產擁有者與營運者建置與維護OT資產清冊的流程，包含： 1. 定義清冊範疇與目標（Define Scope and Objectives） 2. 辨識資產及蒐集屬性資料（Identify Assets and Collect Attributes） 3. 建立分類體系（Create a Taxonomy to Categorize Assets） 4. 管理與蒐集資料（Manage and Collect Data） 5. 實現資產全生命週期管理（Implement Life Cycle Management）； 此外透過OT分類體系可幫助區分優先序、管理所有OT資產，有助於風險識別、漏洞管理，以及資安事件應變；有關如何建立OT分類體系，該指引亦提供流程建議如： 1. 根據功能及關鍵性執行資產分類（Classify Assets） 2. 對資產功能類型與其通訊路徑進行分類（Categorize (Organize) Assets and their Communications Pathways） 3. 建構體系架構與互動關係（Organize Structure and Relationships） 4. 驗證資產清冊資料準確度與圖像化（Validate and Visualize） 5. 定期檢查並更新（Periodically Review and Update） 該指引認為，建置OT資產清冊並輔以OT分類體系對期望建立現代化防禦架構的擁有者與營運者而言至關重要。透過上述作為，資產擁有者與營運者得以識別其環境中應加以防護及管控的關鍵資產，並據以調整防禦架構，建構相應的資安防禦措施，以降低資安事件對組織任務（Mission）與服務持續性（Service Continuity）的風險與影響。該指引亦強調關鍵基礎設施之OT與IT（資訊技術）部門間之跨部門協作，並鼓勵各產業組織參考指引步驟落實OT資產盤點與分類，以提升整體關鍵基礎設施資安韌性。
歐盟法院認為設立歐洲專利法院違反歐盟條約歐盟最高法院（European Court of Justice, ECJ）於2011年03月08日發表裁定，認為歐盟會員國所提出有關設立單一歐洲專利法院來統一受理歐盟境內專利訴訟之草案協議係違反歐盟條約，此裁定對於推動歐洲單一專利制度（unitary patent）勢必為一大打擊。 在此草案協議中，歐盟會員國及歐洲專利公約（European Patent Convention）締約國屬意設立一個全新的歐洲專利法院，並賦予其歐洲專利及未來歐洲單一專利相關的法律訴訟之管轄權，其架構下將有初審法院（court of first instance）、上訴法院（court of appeals）及專利註冊處（registry）。歐盟會員國在2009年時就此草案協議是否符合歐盟條約提請歐盟最高法院出具意見。 而歐盟高法院認為協議所設立之歐洲專利法院係屬歐盟架構外之國際法庭，但仍有權受理歐盟境內之專利訴訟案件，並對歐盟法律提出解釋與應用，這會剝奪歐盟會員國司法機關對專利案件的管轄權及其向歐盟最高法院申請初步裁決（preliminary ruling）等權益，以上都會影響到賦予給歐盟機構和歐盟會員國之重要權力，此為歐盟條約最基本之要件，因此，若設立歐洲專利法院將不符合歐盟法律。歐洲目前的專利制度常被視為非常繁瑣及昂貴，雖然當事人可以向歐洲專利局（European Patent Office）統一申請專利，但仍需經過各國專利局一一承認後方有效力，這明顯增加在歐洲申請專利之成本。另外，專利訴訟均屬歐洲各國法院之管轄，因此若有需要，當事人必須逐一在各國法院提出告訴，以保障其在歐洲的專利權，另又各國法院針對同一個專利也有可能會做出不同的判決，亦會造成專利權在歐洲市場執行的不便。因此，歐盟國家近年來持續推動歐洲專利制度改革，除了希望能在歐洲能建立單一專利制度之外，歐洲專利法院的設立以統一專利訴訟制度也是推動的改革之一。 歐盟最高法院03月08日的裁決是否會影響歐洲單一專利制度的推動，仍有待觀察，而歐盟委員會（EU Commission）針對此裁定表示將謹慎分析歐盟最高法院的判決並進一步構想適當的解決方案。另一方面，歐盟理事會（EU Council）已於03月10日發表聲明，宣布啟動強化合作（enhanced cooperation）機制以繼續朝向單一歐洲專利制度邁進。