用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日本智慧財產推進計畫2015分析（中） 資策會科技法律研究所 104年10月02日 日本智慧財產戰略本部於今年6月19日所公布「智慧財產推進計畫2015」[1]，係以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨，並以少子高齡化與地方經濟衰退、智財糾紛處理機制的使用狀況和便利性、以及內容產業海外拓展的潛力及對智財戰略之重要性為背景，提出三項核心議題並分別剖析各項議題其現狀課題及主管部會應努力之方向，其中第二項議題「活化智財紛爭處理機制」之內容如下： 一、活化智財紛爭處理機制 （一）現狀與課題 1. 證據收集未見確實 在訴訟中，為能作成適切的裁判，原告、被告兩側需提出充分的證據，惟專利侵權訴訟中，多數情況下證據是為被告所掌握，權利人主張侵權之立證較為困難，就此日本認為應就以下三點檢討證據收集程序的機能：在訴訟開始的階段，確保爭點整理之程序充分發揮效用；確保「文書提出命令」作為證明被告有侵害事實有力手段之一，能充分發揮效用；作為證據收集的前提，確保證據保全制度能充分發揮效用。 2.權利安定性不足 從權利賦予乃至於紛爭處理的過程中，專利權等智財權之安定性亦相當重要。日本於2004年針對專利侵權訴訟，於專利法新增第104條之3[2]，導入「專利無效抗辯」之制度，其後雖然有意見認為應廢止專利無效抗辯制度，但整體而言因無效抗辯制度的導入，確實使專利無效訴訟（無効審判）審理遲緩的狀況明顯獲得改善。而由於2015年日本再度導入專利異議制度（異議申立制度）[3]，因此無論就權利者及疑似侵權者之間的平衡，或是產業政策上就專利權進步性要件的判斷等，本年度的推進計畫中均指出有就本條之內容再作檢討之必要。 3.損害認定額偏定 在損害賠償的額度方面，雖然在歷年來多次專利法之修正後已經獲得一定程度的改善，但普遍看法仍認為訴訟實務上法院所認定的侵權損害賠償數額，和商業實態上所造成的影響及需求相比仍是顯然偏低。另日本為求簡化便利損害賠償額的舉證難度，雖已於1998年修正專利法第102條[4]之規定，但於司法實務上並未能充分運用，加以民法上對不法行為之賠償側重實際上造成之損害，而未能從研究開發投資所得之專利權受損之角度思考，造成日本在專利權等智財糾紛中損害賠償額普遍偏低，此一問題仍有待解決。 4.中小企業專利權人不易勝訴 根據日本知的財產戰略事務局之統計，日本專利侵權訴訟中有約六成為中小企業提起，但扣除和解之部分單以終局判決而言，中小企業的原告勝訴率在二成以下，其中對大企業的勝訴率更不到一成，探究其原因，日本認為除了中小企業與專利、法律專業人員間合作程度有所不足外，在權利取得的階段就未能針對未來權利行使、保護充分進行戰略性規劃也可能是問題所在，故應對中小企業的權利取得、行使及訴訟進行上給予一定的支援。 （二）今後施政方向 日本為強化智財紛爭解決體系的機能，於2015年智財推進計畫中指出三個方向：首先是「強化智財紛爭處理體系的機能」，在權利人及侵害嫌疑人間地位平衡的前提下，對證據收集手續、損害賠償額、權利安定性和禁制令的核發等各方面為綜合性的檢討；其次是「促進智財紛爭處理體系的活用」，針對中小企業與大企業的往來過程中，就智財保護、紛爭預防、訴訟對應等面向提供進一步的支援，例如廣設據點提供充分的諮詢、提供具有訴訟實績的專家團隊、減輕進行訴訟之負擔等。此外針對「智財紛爭處理有關之資訊普及化」，為創造能因應經濟全球化之商業環境，除有必要將日本智財相關法令翻譯為英文提供予世界各國，尚應持續針對各國法院、專利局、及訴訟外紛爭解決等智財紛爭處理體系，與日本制度間的異同進行調查研究並公開揭露。 （三）小結 智慧財產權的保護和國家經濟發展息息相關，而僅有優質的專利申請程序及審查品質，仍無法達到健全智慧財產制度及其相關產業之目的，完善的智慧財產爭議解決程序，乃其中不可或缺之一環。有鑑於此，我國於2008年7月參考德、美、日等智財先進國家之作法成立智慧財產法院，目的即在於藉由專業的審判人員及程序，解決具備國際性及高等專業性的智慧財產案件，進而達到智慧財產案件審判的專業化、效率化。 而在智慧財產法院成立已滿七年的今日，學術界和產業界仍持續對提出各項檢討意見，例如法院於專利侵權訴訟中可自行就個案認定專利無效影響專利安定性、專利權人勝訴率偏低、損害賠償數額偏低、訴訟當事人審級利益保障不足等[5]，此等議題和前揭日本智財推進計畫中所提出「活化智財紛爭處理機制」，當中的各項現況與課題同質性甚高，由此可知我國及日本目前在強化智財紛爭處理機制上，均面臨類似的問題有待克服。 二十一世紀為知識經濟時代，由於科技發展及商業型態的多元化，以知識產能為基礎所形成的專利、商標及著作權等智慧財產權，不僅 性質上與傳統的財產權有異，在權利保護上亦有不同的面貌。尤其高科技產業發達與否，攸關國家競爭力，而以鉅額投資研發取得高科技成果，常存有多種智慧財產權，必須藉由法律程序的保護，始能確保該產業在國際市場的競爭力。因此，就法律層面而言，必須建構妥適保護智慧財產權的制度程序，方足以維持國家在國際社會的競爭力[6]。我國後續或可參考前述日本作法，從事前紛爭預防和事後案件處理兩個面向同時著手，降低智財紛爭的發生率並提高解決效率和滿意度，逐步實現活化智財紛爭處理機制之目標。 [1]〈知的財産推進計画2015〉，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku20150619.pdf（最後瀏覽日：2015/08/14） [2] 特許法（昭和三十四年法律第百二十一号）第百四条の三（特許権者等の権利行使の制限）：「特許権又は専用実施権の侵害に係る訴訟において、当該特許が特許無効審判により又は当該特許権の存続期間の延長登録が延長登録無効審判により無効にされるべきものと認められるときは、特許権者又は専用実施権者は、相手方に対しその権利を行使することができない。 ２ 前項の規定による攻撃又は防御の方法については、これが審理を不当に遅延させることを目的として提出されたものと認められるときは、裁判所は、申立てにより又は職権で、却下の決定をすることができる。 ３ 第百二十三条第二項の規定は、当該特許に係る発明について特許無効審判を請求することができる者以外の者が第一項の規定による攻撃又は防御の方法を提出することを妨げない。」 [3] 日本於2003年廢止原有之專利異議制度，2015年專利法修正時雖再度納入，但其內容及性質與舊法時之規定略有不同。 [4] 特許法第百二条第一項（損害の額の推定等）：「特許権者又は専用実施権者が故意又は過失により自己の特許権又は専用実施権を侵害した者に対しその侵害により自己が受けた損害の賠償を請求する場合にお いて、その者がその侵害の行為を組成した物を譲渡したときは、その譲渡した物の数量（以下この項において「譲渡数量」という。）に、特許権者又は専用実施 権者がその侵害の行為がなければ販売することができた物の単位数量当たりの利益の額を乗じて得た額を、特許権者又は専用実施権者の実施の能力に応じた額を 超えない限度において、特許権者又は専用実施権者が受けた損害の額とすることができる。ただし、譲渡数量の全部又は一部に相当する数量を特許権者又は専用 実施権者が販売することができないとする事情があるときは、当該事情に相当する数量に応じた額を控除するものとする。」 [5] 李素華，〈智慧財產法院運作之觀察與檢討-以專利侵權訴訟為中心〉，《全國律師》，第18卷第10期，頁18以下。 [6] 同註5，頁42。
數位內容與色情問題引起討論南非國會近期推動數位匯流法案 (Convergence Bill) 之立法，其中，色情內容是否應於數位匯流立法之中加以定義與規範，引起不同的看法。有專家指出，色情內容超出了數位匯流法案所應規範之主題。亦有專家指出，如定義與規範不當，反而會引發出更多的問題。 在數位匯流與數位內容成為趨勢的今天，我們對於數位匯流與數位內容都從正面的角度來加以觀察，並予以期待。然而，數位匯流的只是傳播媒介，數位內容標示的也只是承載內容的載體。我們希望什麼樣的數位內容？負面的數位內容 ( 如色情內容 ) 在未來數位匯流與數位內容的發展趨勢中，應被放置在一個怎樣的位置，應是值得我們加以思考的。
營業秘密管理概要 新加坡修訂「建築物資通訊設施實施條例」為了落實提供高速、穩定的寬頻服務，新加坡資訊通訊發展管理局（IDA）今( 2013)年4月針對新建物，修訂「建築物資通訊設施實施條例」(Code of Practice for Info-Communication Facilities in Buildings)，以加速家庭寬頻網路發展，滿足新興服務之所需。 本條例以光纖普及為前提，賦予新建物開發商或是業者諸多義務，以「用戶需要開放項目」與「限制建物內空間技術」最為重要。所謂的「用戶需要開放項目」，是指開發商或是屋主須讓新建物具有6項基礎設施，包括：(1)引進管(Lead-in pipes)、地下管(Underground pipes)與人手孔(Manholes)；(2)電信主配線箱(Main Distributor Frame, MDF)；(3)電信設備機房(Telecommunication Equipment Room, TER )；(4) 行動通訊布放室(Mobile Deployment Space，MDS)；(5)電信櫃豎版(Telecommunication risers)；(6)寬頻同軸電纜系統(a Broadband coaxial cable system)或具有光纖電纜(Optical Fibre Cable)等級之終端點。其中，第六項是要求開發商與擁有者鋪設線路範圍，包含現有道路至電信主配線箱之管道，且其線路等級必須是同軸電纜或光纖以上，以確保屋內終端線路皆得以承載100M以上速率。至於，「限制建物內空間技術」，是指屋內配線至家中客廳與每個房間，應鋪設同軸電纜或是非屏蔽雙絞線(六類以上)，使民眾能無所不在享受快速網路之便利。 除上述固網建設規範外，為了達成行動寬頻戶外覆蓋率99%、室內覆蓋率85%之規定，本條例亦要求開發商或擁有者須無償提供電信業者行動通訊佈放室。雖然，MDS的大小視行動寬頻涵蓋範圍與發展大小而定，最小的行動通訊發展室範圍是18平方米。不過，本條例允許MDS可不必是一個連續的空間，以兼顧開發商與擁有者對新建物空間之規劃。本草案落實後，預計不僅可減少電信商租賃放置基地台之成本外，亦可解決與管理委員會或業者交涉之時間，讓電信商能更為迅速完成行動寬頻覆蓋率。 IDA預計本條例實施後，將可達成「下一代國家資通訊基礎建設發展計畫」中，規劃2015年光纖覆蓋率100%、提供民眾1Gbps固網速度之理想，使新加光纖覆蓋率可達到95%。