用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
加拿大政府於2010年12月通過反垃圾郵件法，並將於2011年底前生效，加國訂定此法律目的在於藉由遏止垃圾郵件、身分盜用、網路釣魚、間諜軟體、病毒、殭屍網路及誤導性的商業表示等行為，建立新的規範機制與罰則，解決此類線上威脅，從而促進電子商務發展。 目前引發兩派看法，自電子商務角度以觀，企業經營者倚賴電子郵件與消費者互動，而新法要求企業經營者在發商業行銷郵件前須先獲得同意，且必須有明確的取消訂閱機制供收信人選擇。雖在交易過程中獲得的電子郵件地址，將被視為已默示同意發送信息，但只能於最後一次購買日期後兩年內發信，如此企業必須另外建立符合法令規定的郵件清單並加以管理，對企業經營者而言著實是一種負擔。且因為新法定有罰則，若違反法令，加拿大廣播及電訊管理委員會（Canadian Radio-television and Telecommunications Commission, CRTC）有權對個人處以最高100萬元的行政罰款，對公司最高罰款可達1,000萬元，如此使因業務需要而發送大量電子郵件的公司，包括電信公司、銀行等感到惶惶不安。同時另一方面有論者質疑此法律的執行成效，因大部分的垃圾郵件非自加拿大當地所發出，要如何達到減少並遏止前述線上威脅，效果存疑。 另一派見解則認為，在此法案通過前，加拿大是八大工業國中，唯一没有具體的垃圾郵件管理辦法的國家。雖然此法影響電子商務產業，然而知名企業也可能會濫發商業郵件，且縱使發送郵件公司並非在加拿大本地發送垃圾郵件，其未必在加拿大無分支機構，垃圾郵件確實對加拿大人民造成損害，因此制定並施行反垃圾郵件法是必要的。
美國為遏止專利濫訟通過創新法案（The Innovation Act of 2013）美國眾議院今年（2013）12月5日通過創新法案（The Innovation Act of 2013，H.R. 3309），主要目的在於填補美國發明法（Leahy-Smith America Invents Act，AIA）對於遏止專利濫訟之不足。創新法案中達成立法目標之核心手段主要有以下五個方向。 1.限縮提訴要件，要求提起專利訴訟，必須說明遭侵權之商品以及遭侵權之情形，特別是針對專利侵權之因果關係的說明，以不實施專利主體（Non-practice Patents Entity，NPE）不生產製造專利產品之特性遏止其專利濫訟。 2.訴訟費用的轉移，將相關成本轉移至敗訴方，並加諸合理之賠償費用。直接以訴訟成本之轉嫁來影響訴訟意願，然而此舉是否造成真正之專利所有者保護自身專利之障礙仍須觀察個案。 3.延遲證據開示，避免證據開示過早影響判決之結果。 4.要求專利所有者持續針對所有之專利進行資訊更新，使專利所有權透明化，以揭露NPE藉由空殼公司進行濫訟之行為。 5.創新法案另試圖使專利產品之實際製造商代替消費者面對專利侵權時相關產品之訴訟。 而眾議院通過創新法案的同時，參議院也有相類似的平行立法提案，稱為專利透明化與改進法案（The Patent Transparency and Improvement Act of 2013，S. 1720）。比較參眾兩院之法案版本後，可以發現兩者立法目的以及採取的手段均類似，主要都集中在於資訊的透明化以及訴訟成本的轉嫁，試圖藉由除去專利訴訟有利可圖的情形遏止專利濫訟的現象，但是參議院版本之法案是否真的能夠達到遏止專利濫訟之情形受到各界更多的爭議。
比利時法院要求Google移除新聞轉載連結儘管類似 Google News 提供新聞連結的作法在網路上屢見不鮮， Google 也認為其行為完全合法，但 比利時布魯塞爾法院於 9 月 5 日 作出的判決，仍要求 Google 在沒有獲得對方允許或支付相應費用的情況下，應 停止從法語報紙上節錄新聞片段，否則將會面臨每天一百萬歐元的罰款。 Google 雖因此暫時移除了相關新聞的轉載連結，卻打算對此判決提起上訴。 該案法官指出， Google 在這些報章媒體網站更新相關新聞後，才在 Google 網站上提供轉載內容，法院認為這不但侵害了作者的著作權，且違反比利時有關資料庫的法律。除了移除轉載連結外，法院也要求 Google 必須在 Google 比利時網站上公布該判決內容，否則另須繳交每日五十萬歐元的罰款。 這起控告 Google 的訴訟是由比利時出版集團 Copiepresse 所提起的，該集團代表比利時境內多家法語及德語報社，亦為一管理比利時法語及德語媒體著作權的專門機構。
麥當勞在歐盟失去其使用「Big Mac」的部分商標權利歐盟普通法院（EU General Court）於2024年6月5日宣告McDonald’s（後稱麥當勞）在與競爭對手愛爾蘭速食品牌Supermac's的訴訟中，失去其「Big Mac」（又稱「大麥克」）之部分商標權，即無法將「Big Mac」商標用於雞肉三明治等家禽類商品與餐廳內用及得來速外帶等餐飲服務上。 此案件起因於Supermac's公司拓展事業版圖進入歐盟市場，將公司品牌名稱「Supermac's」申請註冊歐盟商標，而麥當勞則主張消費者可能與其於1996年取得之「Big Mac」歐盟商標產生混淆誤認。然而，Supermac's於2017年向歐盟智慧財產局（European Union Intellectual Property Office，後稱EUIPO）以「麥當勞未真實使用（genuine use）『Big Mac』商標逾五年」為由，申請廢止麥當勞之「Big Mac」註冊商標。EUIPO於2019年廢止「Big Mac」商標於部分類別的註冊，惟EUIPO仍允許麥當勞仍可將「Big Mac」商標用於雞肉三明治、其他家禽產品及餐廳服務上。 爾後，Supermac's向歐盟普通法院提出上訴，而歐盟普通法院於2024年6月認為，麥當勞未能證明其於連續五年間有將「Big Mac」商標「真實使用」於雞肉三明治、家禽商品或餐廳服務的使用程度（例如：銷售量、商標使用期間長短及使用頻率等），故認定麥當勞不得再將「Big Mac」商標用於雞肉三明治、家禽商品或餐廳、得來速或外帶等服務上，惟本案尚未確定，而可再就法律問題上訴，故仍可持續關注本案的後續發展。 企業可從本案了解到當品牌標識成功註冊為商標後，務必留意各國所規範之連續使用年限（例如若連續五年未使用歐盟商標，則可能有被商標廢止之風險），以及明確留存足以佐證「真實使用」於註冊所指定之類別與品項之使用證明，以維護品牌商標之保護。