用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
黑苺手機製造商RIM對三星提起訴訟，針對三星近日來推出商品上的商標，使用像是草莓、珍珠等樣式。RIM在加州巡迴法院提出訴狀，RIM認為只要圖案上含有黑色苺果或黑色珍珠的樣式，就會和RIM的名稱近似。而三星在2006年3月已提出全新的商標申請，但RIM對此提出異議，當時RIM已開始廣告黑苺機，並拒絕接受以三星已註冊的商標使用Verizon Wireless上。 RIM提及其產品黑苺機的黑苺商標對於RIM而言是無價的，黑苺商標使RIM走向持續成功的境界，並擁有有良好的商譽。倘若三星的商品持續以黑色草莓的商標販售，將對RIM的黑苺商標造成商業損害和不可預期的損失，若無法在法律上受到適當賠償，將對RIM造成極大的損失。因此，RIM請求三星銷毀具有black, blue, 或pearl樣式的手機商品。 此案後續發展是值得關切的議題，倘若RIM勝訴，三星要回收所有的手機，此影響甚鉅。
日本發布美國數位政策現狀報告，呼籲推動AI發展的同時，亦應注重資料安全性日本獨立行政法人情報處理推進機構（下稱IPA）於2025年10月發布美國第二次川普政權數位政策現狀報告（下稱現狀報告），內文聚焦於美國政權輪換後數位政策之變動與解讀，同時提及在推動AI發展的同時，亦應注重其安全性。 日本觀測美國數位政策的現狀報告指出，隨著社會數位化程度日益增加，除了雲端數位資料的累積，以及提升對於AI的依賴程度外，亦會造成釣魚信件難以識別，透過可自動生成程式碼的惡意攻擊型AI進行攻擊行為等AI濫用之風險。 準此，美國為確保AI與資料的安全性，並維持其領域之競爭優勢，於2025年7月23日發布AI行動計畫，並提出三大方針，包括加速AI創新、建構AI基礎設施，以及透過國際性的AI外交與安全保障發揮領導能力。此外，內文亦提及為確保競爭優勢，需要建立作為AI發展基礎的科學資料集，並建置資料中心，同時確保其具備高度安全性，以避免AI使用者輸入AI之資料遭到竄改或外洩。 此外，現狀報告內文提及日本企業Softbank與OnenAI、Oracle等公司共同參與規模達5000億美元的Stargate計畫，並已於德州著手建設AI資料中心，顯示日本在美國的AI基礎建設中扮演重要角色並佔有一席之地。然而，內文亦指出美國數位政策具備不透明性而有潛在風險，須持續留意與關注。 我國企業如欲深耕AI領域，並透過AI進行技術研發，可由建立科學資料集開始著手，以作為訓練AI模型的基礎，以達到運用AI輔助及縮短研發週期、減少研發過程中的試錯成本等效益。此外，為確保安全性，科學資料集建置過程中所需之數位資料，可參考資訊工業策進會科技法律研究所創意智財中心所發布之《重要數位資料治理暨管理制度規範》，建立貫穿數位資料生命週期之資料治理機制。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
歐盟發布孤兒著作指令（2012/28/EU），期促進成員國數位典藏之流通運用為促進歐盟境內各成員國的典藏機構（圖書館、資料館、博物館等）之典藏數位化以及數位作品的流通，歐盟於2012年10月28日頒布Directive 2012/28/EU（俗稱孤兒著作指令），本指令允許典藏機構基於「公益」目的利用孤兒著作從事營利之商業行為，並要求各成員國應於2014年10月29日前完成國內法的轉換程序，本指令有以下特色： （一）界定適用之機構與標的：適用之機構包括各成員國境內為公共利益所建立的公有典藏機構，包括公共圖書館、教育機構、博物館、資料館、電影與錄音典藏單位、公共電視台等。適用標的亦限制在前述機構數位典藏之作品，包括傳統出版品之書籍與報刊雜誌，以及電影、影音與錄音作品等。此外，指令同樣適用於附著在其他作品或構成他作品一部分（如書中的一張照片）的著作物，以及未出版之作品，例如書信、手稿等。 （二）明確定義「勤勉尋找」(diligent search)之最低標準：根據指令第3條第2項規定，所謂「勤勉尋找」之標準可由各會員國自行界定，但至少要包括本指令附件所載之各類資料庫、法定送存處（legal deposit）、以及相關著作權集體管理組織等。 （三）確立孤兒著作狀態相互承認機制：當一項著作在特定會員國被視為孤兒著作時，該效力便及於整個歐盟。另外，本指令第3條第6項亦規定歐盟各成員國應當將孤兒著作之狀態回報給歐盟內部市場調何局（Office for Harmonization in the Internal Market）。 （四）得基於公益性質（public-interest missions）將孤兒著作為商業授權之利用：典藏機構得基於公益性質將孤兒著作為商業授權之利用，特別是為保存或復原典藏物、或提供文化或教育上之近用等，可與其他公、私部門共同利用孤兒著作從事商業授權行為，並將收益彌補因前述典藏數位化所耗費的成本。 從歐盟孤兒著作指令的立法緣由與內容來看，其主要目的係在於釋放公有數位典藏的能量，以便可以達到歐盟在2010年所設定之活絡數位單一市場之目標。另本指令為加速典藏機構針對孤兒著作釋出的配套措施，例如明確定義勤勉搜尋的範圍，以及典藏機構得基於公益性質而將孤兒著作為商業授權之利用等，亦值得我國借鏡。
中國大陸布局推動智慧城市建設，發布「2013年測繪地理信息藍皮書」中國大陸近年來積極布局智慧城市建設，並逐步將智慧城市的概念發展為具體的地理空間，2014年2月14日智能系統國家測繪地理信息局測繪發展研究中心--社會科學文獻出版社，發布2013年測繪地理信息藍皮書—《智慧中國地理空間智能體系研究報告（2013）》(以下簡稱「藍皮書」)，揭示提出打造2030年智慧中國地理空間智能體系的具體目標。係以巨量地理資訊資源為基礎，透過新一代網際網路，以智慧聯網(Internet of Things, IoT)、雲端計算(Cloud Computing)和巨量資料(Big Data)，實現地理資訊的智慧化應用，並透過相關政策形成以地理資訊獲取、處理及應用為主的雲端產業鏈。 自2013年起，中國大陸國家測繪地理信息局每年選擇10個城市作為智慧城市建設試點，目前已有太原、廣州、徐州、臨沂、鄭州等試點城市完成初步項目，正進行設計論證及完善基礎設施等工作。該局副局長李維森並指出，大陸將在2015年全面完成數字城市地理空間框架建設，並於此基礎升級為智慧城市。 中國大陸國土資源部亦從2013年底配合「十二五規劃」逐步推動以雲端運算、巨量資料以及智慧聯網等新一代資通訊技術所建構之「國土雲」，以滿足國土資源資訊利用、查詢、監管的需求，並透過資訊數位化，為其他領域重大工作提供基礎資訊。 從中國大陸近年來對於國家地理資源之蒐集、調查與管理手段觀察，可探知其對於國土資訊產業發展的高度重視，並欲在維護國土安全的前提下，加強推動有助於促進資訊流通效率以及資源廣泛利用的公共服務平台建設；對於此等具有國家安全戰略意義之新興科技領域，目前仍以國家投資為主要推動手段，後續相關法規發展殊值注意。