用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國司法部（United States Department of Justice）、美國專利商標局（The United States Patent and Trademark Office）、美國國家標準與技術研究院（National Institute of Standards and Technology）於2021年12月6日共同發布「修改『標準必要專利』授權協議及司法救濟方法之政策宣言草案」（Draft Policy Statement On Licensing Negotiations And Remedies For Standards-Essential Patents Subject To Voluntary FRAND Commitments，下稱2021政策宣言草案），並徵集公眾意見，截止時間為2022年2月4日。2021政策宣言草案係在回應2021年7月9日「促進美國經濟體競爭性行政命令」（Executive Order on Promoting Competition in the American Economy）關於檢討2019年「有關『標準必要專利』司法救濟方法之政策宣言」（Policy Statement On Remedies For Standards-Essential Patents Subject To Voluntary FRAND Commitments，下稱2019政策宣言）之要求。 2021政策宣言草案揭示了兩大重點： （一）改變SEP被侵害時，對禁制令（injunction）之核發態度 2021政策宣言草案對於「SEP被侵害時，是否核發禁制令」一事，擬回歸適用聯邦最高法院自eBay Inc. v. MercExchange, L.L.C., 547 U.S. 388 (2006)案以來，就禁制令之核發所設立之原則—（1）原告（專利權人）會因專利侵權而遭受無法填補（irreparable）的損害；（2）目前法律上之其他救濟方法，是不足以賠償專利權人所受的損害；（3）衡量專利權人及被授權人可能遭遇之困難，足認有必要進行衡平法上的救濟；（4）核發禁制令不會傷害到任何公共利益。 （二）揭示何謂符合「誠信原則」（good-faith）授權協議的指導原則 （1）雙方應以合宜態度推進授權協議： 以SEP專利權人而言，其應向潛在被授權人告知可能侵害該SEP的行為態樣；其並以「公平、合理及無歧視」（fair, reasonable, and non-discriminatory, FRAND）原則進行授權。 以SEP被授權人而言，其應於知悉以上資訊後，於商業上得被認為合理的時間內，以合宜態度推進該協議，或逕自接受該授權協議，或拒絕原要約而反向提出一合於FRAND原則之新要約（counteroffer）。其他合宜態度例如：就SEP專利權人提出進一步探詢（例如：詢問該SEP目前之專利有效性及有無侵權情形）或請求提供更具體的資訊，或建議目前雙方所遇到的授權上爭議可透過公正第三方解決。 茲有附言者，SEP專利權人在收到以上回應後，亦應「於合理的時間以合宜態度」推進授權協議，例如接受被授權人反向提出之新要約，或為使原授權協議較可被接受，再行提出一合於FRAND原則之授權條款，或回應被授權人想得知更多資訊之請求，或亦提出「可透過公正第三方解決雙方所遇到之授權紛爭」的方案等。 （2）雙方應合宜妥善解決紛爭： 如雙方因授權而生紛爭，建議尋求替代爭議解決方式（alternative dispute resolution）；如仍欲透過司法解決，建議雙方就管轄法院達成合意，而非單方面擇定法院而提起訴訟。 此次徵求公眾意見的主要議題如下： （1）2021政策宣言草案是否較可適當平衡SEP專利權人及被授權人之利益？ （2）「可申請核發禁制令」一事是否為SEP專利權人願意遵守FRAND原則的重要因素？ （3）如何提升SEP授權協議之效率及透明度？ （4）2021政策宣言草案所揭示對於SEP授權時之「誠信原則」之指導原則，可否為SEP授權協議建構良好架構？ （5）是否有潛在SEP被授權人願意及不願意接受FRAND授權協議之情形？ （6）有關單位是否曾經或應就SEP授權協議提供其他參考資訊？
Hasbro以40億美金收購「佩佩豬」母公司eOne，擴大其品牌智財價值美國知名玩具娛樂商「孩之寶」（後稱Hasbro）日前宣布以40億美金收購知名卡通「佩佩豬」之加拿大母公司「娛樂一體」（Entertainment One Ltd，後稱eOne），Hasbro將藉著eOne所擁有的學齡前動畫資產，透過相關智財組合與品牌布局，再度擴大其在玩具娛樂市場中之優勢地位。 eOne旗下擁有《佩佩豬》（或譯為粉紅豬小妹；Peppa Pig）、《睡衣小英雄》（PJ Masks）、《瑞奇衝衝衝》（Ricky Zoom）、《小杯與小龍：萬能服務》（Cupcake & Dino: General Services）等知名動畫品牌，以及強大的故事主導特質與家庭導向故事述說能力，Hasbro表示該些優勢將吸引遊戲玩家、動畫粉絲與家庭等多元視聽者與消費者，以至將該些動畫拓展至全球。 而Hasbro已擁有許多知名玩具品牌，包括彩虹小馬（My Little Pony）、培樂多黏土（Play-Doh）等，經過本收購交易將能擴大其品牌智財之授權營收，並將該些新增動畫之智財，朝向玩具、遊戲、影片、電視、音樂及家庭品牌等多面向之全球性經營。 目前eOne董事會於10月17日以99.9%之票數同意該交易案，並已獲得美國與德國等相關監管單位之認可，尚待加拿大官方同意。期待後續Hasbro與eOne共同藉著品牌建立、創造力與故事述說等優勢能力，創造更多品牌智財之可能性。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
歐盟支付服務指令(PSD)將進行翻修，然而進程延宕歐盟執委會於2013年7月24日提出支付服務指令(Payment Service Directive，簡稱PSD，Directive 2007/64/EC)修正案，簡稱PSD2。最新消息指出，PSD2將無法在本屆歐洲議會審議完成，需於五月歐洲議會改選後，在新一屆的議會中再行審議。 PSD公布施行於2007年，該法降低支付服務市場新参進者(也就是非銀行業者)進入市場的困難度，活絡支付市場的競爭，提供消費者更多的選擇，並強化消費者保護。PSD讓「支付」在歐盟內更快更方便。 本次歐盟提出修正案，其修正目標包含： 一、提高歐盟支付市場的整合以及效率。 二、提升支付服務提供者(包含新参進者)的營運範圍。 三、確保強化消費者保護以及資訊安全。 四、鼓勵支付服務的減價。 五、促進共通技術規範以及互用性(interoperability)的形成。 實際做法，PSD2大致有以下修正重點: 一、因應科技發展及時代變遷，擴大適用範圍： (一)提出「第三方支付服務提供人(third party payment provider，簡稱TPP)」之名詞定義，並量身打造規範。原本PSD的附件(Annex)中關於「支付服務」定義，第七款「透過電信、數位或IT設備接收支付服務使用者的指示執行支付交易，而支付的進行也是透過電信或IT系統或網路營運人，而且只是擔任服務使用者與商品或服務提供人的中間媒介。」已可包含目前我國俗稱的第三方支付服務。本次PSD2則在第14條第11項中提出「第三方支付服務提供者」此名詞，對照於附件一(Annex I)第七款中，係指： 基於存取其他支付服務提供人之支付帳戶而提供下述服務- 1.發動支付服務； 2.帳戶資訊服務。」 例如透過TPP與銀行帳戶界接，從銀行帳戶扣款進行支付；或者是與信用卡界接，進行扣款。 依照PSD2，TPP為支付服務提供者(Payment service providers, 簡稱PSPs)，因此也需要取得各國主管機關之許可方能進行營業。 (二)透過手機或者是其它IT裝置進行的行動支付，如果單筆支付金額超過50歐元，或者是月支付金額超過200歐元，也應適用PSD2。 二、強化資安要求： (一)歐盟將另提出「網路及資訊安全指令(Direvctive on Network and Information Security，簡稱NIS Directive)」，PSPs應遵循之。 (二)歐洲銀行管理局(European Banking Authority，簡稱EBA)將與歐洲央行(ECB)密切合作，提出資訊安全指導原則(guidelines)，以輔導PSPs建立並執行、監控資安以確保PSPs符合資安事件處理要求。 三、強化消費者保護： (一)PSD對於支付服務應揭露資訊的規定只適用於支付全部在歐盟境內發生者，PSD2則要求對於涉及第三國以及外幣之交易，只要有任一支付服務提供者是在歐盟境內，都要適用。 (二)只要支付未經授權，應立即退款給付款方。 (三)保障無條件退款權，但是如果商品或服務已經完成消費則不在此限，例如下載的影片已經被觀賞完畢。 (四)無需另外授權的交易(如免輸入帳密之交易)，額度從原本的150歐元下調為50歐元。 對於客訴爭議，PSPs應於15個工作日內以書面回覆。
運動品牌Puma成功撤銷波蘭Sinda Poland鞋廠的歐洲共同體近似商標申請歐盟普通法院(The General Court of the European Union)於今年(2016)2月25日針對運動品牌Puma SE(以下簡稱Puma)提出之商標異議做出了判決。本判決認為，Puma所擁有的美洲獅商標(詳參圖1、圖2)，與其異議之波蘭鞋廠Sinda Poland Corporation sp.(以下簡稱Sinda Poland)(詳參圖3)申請中的商標確有相似。此判決翻轉了歐盟內部市場協調局(Office for Harmonization in the Internal Market，以下簡稱OHIM) 所作出兩商標不近似之決議。本判決中，歐盟普通法院判決認為，OHIM應撤銷Sinda Poland之商標申請，並命令Sinda Poland及OHIM支付Puma相關訴訟費用。 本爭議起始於2012年，波蘭鞋廠Sinda Poland申請一歐洲共同體商標(Community Trade Mark，簡稱CTM)，該商標為一跳躍的貓科動物形狀(詳參圖3)，並指定使用於鞋類及運動鞋類產品。OHIM於2012年9月公告Sinda Poland申請的商標，同年11月Puma向OHIM提起異議，表示Sinda Poland之商標(詳參圖3)與Puma之美洲獅商標(詳參圖1、圖2)過於近似，有令消費者混淆商品或服務來源之虞。然而，OHIM於2014年決議認為，Sinda Poland之商標係兩種跳躍動物之結合，形成獨特的動物圖案設計，與Puma之美洲獅商標不相似，應不具有混淆消費者的疑慮。 Puma向歐盟普通法院上訴，認為法院應撤銷Sinda Poland之商標申請，並要求Sinda Poland支付相關訴訟費用。歐盟普通法院於今年2月25日做出決議，認為Sinda Poland侵害了Puma之商標權，並指出OHIM未將系爭兩商標在視覺上及概念上之整體相似度列入考量。該法院認為「Puma與Sinda Poland之商標皆為黑色的動物剪影，兩商標之動物背部及腹部弧度雖有所不同，但兩商標無法否認地有相似之處。」 經過為期將近四年的爭訟，Puma成功撤銷了Sinda Poland近似商標之申請。對國際知名運動品牌如Puma而言，近似商標的存在將會造成品牌知名度及商譽的打擊。如何藉由排除近似商標之申請以鞏固品牌形象及消費者認同，對品牌企業而言是必須面對的重要課題。本案中，Sinda Poland之近似商標仍在申請階段時Puma即提起異議。Puma積極的維權行動，是品牌廠商能夠藉以參照的模範。 圖1 Puma跳躍美洲獅商標(註冊於尼斯分類第1-42類)(圖片來源：歐盟普通法院判決) 圖2 Puma跳躍美洲獅商標(註冊於尼斯分類第18、25、28類)(圖片來源：歐盟普通法院判決) 圖3 Sinda Poland欲申請之商標(註冊於尼斯分類第25類) (圖片來源：歐盟普通法院判決) 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」