用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
有關在網路販售仿冒品所透過之網路交易平台業者是否應負法律責任之問題，歐盟法院（Court of Justice of the European Union）於2011年7月12日針對L’oreal v. eBay案作出判決，認為如eBay之網路交易平台業者應為平台使用者之商標侵權行為負責。 國際知名化妝品品牌L’oreal 於2007年對eBay提出多項商標侵權之控訴，L’oreal認為eBay沒有適當的管控阻止其交易平台使用者之商標侵權行為，其包括在交易平台上販售仿冒品及非賣品，進行平行輸入販售非給歐盟市場流通之商品給位在歐盟會員國之人，以及購買網路關鍵字廣告協助交易平台使用者找到仿冒L’oreal品牌之商品，但eBay認為其適用歐盟電子商務指令（EU E-Commerce Directive）下之有關網路服務業者之免責條款。 歐盟法院之判決認為，網路交易平台業者若有扮演主動的角色，對仿冒商品之販售資料有掌控或知曉，則歐盟電子商務指令之免責條款應不適用，另外，若網路平台交易業者雖然沒有扮演主動的角色，但知道在其交易平台有商標侵權之販售行為但並沒有採取任何阻止行動，則網路平台業者也無法享有上述之免責權。同時，歐盟法院也認為各國法院應可以要求網路交易平台業者採取動作停止及防止交易平台使用者之侵權行為。
美國與歐盟共同發布《藥品開發優良人工智慧實務指導原則》近年來，人工智慧（Artificial Intelligence, AI）於藥品生命週期各階段的應用快速發展，有望促進藥品研發創新並縮短上市時程。然而，AI技術開發、部署、運用與維護皆涉及複雜的治理議題，為確保AI產出結果準確且可靠，並保障藥品安全且有效，有必要於藥品監管體系建立AI管理機制。 美國食品及藥物管理局（Food and Drug Administration, FDA）與歐洲藥品管理局（European Medicines Agency, EMA）於2026年1月14日共同發布《藥品開發優良人工智慧實務指導原則》（Guiding Principles of Good AI Practice in Drug Development），建立AI應用於藥品生命週期的治理框架。 該文件提出10項指導原則，包括： 1.AI開發與使用須符合倫理原則並落實以人為本的價值 2.採取風險為本的方法進行驗證、風險緩解與監督 3.遵循相關法律、倫理、技術、科學、資安及與監管標準，包括優良實務規範（GxP） 4.明確界定使用情境（Context of Use） 5.整合AI技術與使用情境之跨領域專業能力 6.強化資料治理與文件化 7.依循系統設計與軟體工程最佳實務進行模型開發並採用適切資料 8.採行風險為本的效能評估 9.落實AI技術生命週期管理 10.提供清楚且必要的資訊揭露 兩大監管機關強調，該文件可作為未來制定共識標準與監管指引的基礎，並促進國際監管調和與合作。預期將成為各國監管機關建構AI應用於藥品監管體系相關政策、法規與指引的重要參考。
Facebook併購WhatsApp，主動請求歐盟委員會審查社交網站Facebook於2014年2月宣佈將以高達190億美元的價格收購即時通訊軟體WhatsApp。這是近年來對新創公司規模最大的一宗收購案，輕鬆超越Facebook在2012年以超過10億美元買下的相片分享應用程式（app）Instagram，以及去年微軟公司（Microsoft Corp.）花85億美元收購的視訊通話公司Skype。雖然該交易在今年4月就已經獲得美國聯邦貿易委員會（U.S. Federal Trade Commission, FTC）的批准，在歐洲恐怕要面臨反壟斷審查，這是該交易遇到的新障礙。 由於Facebook與歐盟主要的反壟斷機構歐盟委員會（European Commission, EC）聯繫，要求審查這宗轟動的交易案。雖然Facebook這一舉動可能導致該交易在歐盟層面進行正式調查，但卻得以避免在歐盟多個會員國接受繁重的反壟斷調查。布魯塞爾（Brussels）的Cleary Gottlieb Steen & Hamilton律師事務所的反壟斷律師Thomas Graf表示：「比起接受數個國家監管機構審查，Facebook寧可接受歐盟調查，因各國監管機構會分別要求其提供相關資訊。」對此歐盟委員會發言人拒絕發表評論。 倘若要讓歐盟委員會審查該筆交易，公司必須證明其至少符合在三個歐盟會員國接受審查的標準。目前還不能立即清楚地知道其他國家的競爭監管機構是否積極地密切關注該交易。而Facebook提出的請求帶來歐洲多家電信公司強力施壓。他們曾經警告，WhatsApp可被視為一種圖文訊息的低價替代方案，這將使Facebook在歐洲即時通訊市場上取得主導地位。
何謂專利適格（Patent Eligibility）的兩階段標準（Two-Step Test）？「專利適格」（Patent Subject Matter Eligibility）用淺白的文字解釋，就是成取得專利的基礎門檻、資格。專利適格的司法排除事項（Judicial Exception）為：「自然法則、自然現象、抽象概念」。而「兩階段標準」的導入，是給司法排除事項「敗部復活」的機會。 可取得專利適格的標的於35 U.S.C. §101有明文：「任何人發明或發現新穎而有用之程序（Process）、機器（Machine）、製品（Manufacture）或物之組合（Composition of Matter），或其新穎而有用之改良，皆得依據本法所定規定及要件就其取得專利權利。」但符合§101的敘述，不必然具專利適格。最高法院表示：「自然法則、自然現象、抽象概念是科學與科技成品的基礎，不可被獨佔。」然而，隨愈來愈多的發明與發現推出、電腦文明的發展，司法排除事項亦受挑戰，在 Mayo v. Prometheus，最高法院首次針對自然法則和自然現象提出「兩階段標準」。基此，美國專利與商標局（USPTO）2012年發表專利審查綱要。後續，Alice v. CLS Bank中，引「兩階段標準」將兩階段標準應用在「電腦應用過程、電腦系統、減免交割風險的電腦可讀媒介」的抽象概念。USPTO也將「兩階段標準」編入專利審查手冊（Manual of Patent Examining Procedure）。 USPTO專利審查手冊公布的「兩階段標準」： 第1步：四種可取得專利適格的標的（35 U.S.C. §101） 程序、機器、製品、物之組合。 第2A步：司法排除事項 假設不是「自然法則、自然現象、抽象概念」三種司法排除事項，則具專利適格；若是司法排除事項，則進入第2B步。 第2B步：是否「更具意義」（Significantly More）？ 這一個步驟是「敗部復活」。如果該發明存在「發明概念」（Inventive Concept），則符合「更具意義」，可取得專利適格；反之，則無專利適格。