用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
英國通訊傳播管理局（The Office of Communications, Ofcom）於2020年8月發布「開放通訊：使人們能夠透過創新服務共享資料」（Open Communications: Enabling people to share data with innovative services），針對開放通訊的設計原理提出七點建議： 應盡可能讓符合條件的第三方能夠近用（access）資料，同時確保用戶受到保護。 應提供客戶一些目前無法取得的資料，例如有關網路服務品質的體驗報告，以提供使用者做為未來交易時之參考。 資料的提供商和第三方必須確保資料儲存和傳輸的安全性。 第三方將如何使用有關客戶的資料及是否含有潛在風險等，皆應清楚透明地告知使用者，並且讓共享資料之使用者仍保有控制權限。 開放通訊服務之設計應符合包容性設計（inclusive design），提高使用者使用意願。 開放通訊仍應維持市場競爭。 提供資料所需的成本應與資料開放的潛在收益成比例。原則上，參與開放通訊的通訊提供者越多，對個人和小型企業的整體價值就越高。惟，若是強制要求用戶數少或是無法承擔該技術的小型提供商加入，可能導致成本與收益不成比例。 除此之外，對於應開放何種資料則須循序漸進。除了增加對第三方客戶資料近用權限之外，首先，應針對開放對資料提供者風險低，但對潛在用戶有較高利益的資料，例如：不包含個人訊息的資料，從而降低匿名化過程中所產生之風險；第二，開放低風險的地理空間資料（geospatial data），目的在於改善該地區的整體地理空間資料基礎架構。最後才是開放有關各種通訊產品中的其他資料，以促進消費者的選擇和保護。 綜上所述，考慮到開放通訊之可行性，需進一步與其他資料可攜性計劃的主要代表進行會談（如銀行業者），尋求各行業主要服務提供商的支持。再者，考慮是否訂定相關法律以及如何進行監管。第三，應標準化客戶資料，以及確保資料移動之安全性及用戶控制權限，最後則是降低資料開放之成本，以達成開放通訊所帶來之效益。
美國陪審團裁定Rambus未違反反托拉斯法及其行為未構成欺詐美國聯邦法院陪審團(San Jose, California federal jury) 於2008年3月26日裁定Rambus之記憶體晶片專利未違反反托拉斯法 (anti-trust)及於制定晶片業重要標準時未非法欺騙JEDEC(Joint Electron Device Engineering Council)成員。 記憶體製造商Hynix Semiconductor, Micron Technology 及台灣南亞科技公司指控Rambus 的專利違反了反托拉斯法，企圖透過其專利壟斷六個技術市場。前三家公司並認為依法專利不得涵蓋產業組織JEDEC的設計規格，指控Rambus 的專利涵蓋關於DRAM介面技術的JEDEC行業標準中的內容。 此三家公司另指控Rambus於產業標準制定過程中蓄意扭轉關鍵JEDEC標準的制定，構成欺詐之行為。 但陪審團於3月26日的審判中否決原告的控訴，認為原告未能提出足夠證據以證明被告之違反反托拉斯法與欺詐行為。 Rambus 將可望藉此判決獲取最少美金1.344億元以上的權利金 (Rambus於2006年指控Hynix 侵犯其擁有的專利一案獲賠美金1.344億元)。Rambus 另控訴Micron Technology與三星(Samsung Electronics Co.)侵害其記憶體專利權。於獲得勝訴後，Rambus 表示其不排除尋求禁止令禁止Hynix 繼續製造侵害其專利的產品。 Micro Technology 則表示它堅決不同意陪審團判決，其法律事務副總裁Rod Lewis表示：Micro Technology認為，Rambus公司從事了一系列欺騙、銷毀證據、虛假證詞和其他不正當活動，企圖誤導和提取不公正的專利授權費用。因此，Micro Technology打算對判決結果進行上訴。另外，Micro Technology也認為，Rambus的專利權是無效的，已要求美國法院駁回Rambus向Micro Technology提出的專利索賠。
美國食品藥物管理局發布《上市後研究及臨床試驗：判定未遵守聯邦食品、藥品和化妝品法案第505(o)(3)(E)(ii)節的正當理由》指引草案美國食品藥物管理局（U.S. Food and Drug Administration, US FDA）於2023年7月14日發布《上市後研究及臨床試驗：判定未遵守聯邦食品、藥品和化妝品法案第505(o)(3)(E)(ii)節的正當理由》（Postmarketing Studies and Clinical Trials: Determining Good Cause for Noncompliance with Section 505(o)(3)(E)(ii) of the Federal Food, Drug, and Cosmetic Act）指引草案，說明FDA如何判定處方藥廠商未遵守上市後要求（Postmarketing Requirements, PMRs）的正當理由。 根據聯邦食品、藥品和化妝品法案（Federal Food, Drug, and Cosmetic Act, FD&C Act）第505(o)(3)節，應完成PMR的廠商必須向FDA更新研究或臨床試驗進度的狀態及時間表，例如：提交最終版本計畫書、完成研究/臨床試驗、提交結案報告。廠商若未向FDA更新上述PMR資訊即違反FD&C Act，除非廠商提出正當理由。 未遵守PMR的正當理由應符合下列三項條件： 一、與錯失時程直接相關的情況。 二、超出廠商的控制範圍。 三、當初制定時間表時無法合理預期的情況。 該指引草案舉例說明可能的正當理由及非正當理由，另建議廠商提交年度報告前主動通報PMR進度的狀態，並在預期錯過時程之前儘快提供理由，亦須採取矯正PMR不合規行為的措施，包括立即制定矯正計畫、主動向FDA通報實際或預期的延誤，以及修訂合理的時間表。未遵守PMR的廠商可能會收到FDA的警告信（Warning Letter）或無標題信（Untitled Letter）、不當標示指控（Misbranding Charges）和民事罰款，FDA將根據廠商是否採取矯正措施來確定罰金。 「本文同步刊載於 stli生醫未來式 網站（https://www.biotechlaw.org.tw）」
英國BEIS發布第一代（SMETS1）智慧電表相容性公眾諮詢英國商業、能源和產業策略部（Business, Energy and Industrial Strategy, BEIS）於2018年4月17日發布公眾諮詢，議題為「最大化第一代（SMETS1）智慧電表的相容性（interoperability）」，該諮詢將截止於2018年5月24日。 英國對於SMETS1的推廣分為兩階段進行，基礎建設階段始於2011年，主要安裝階段則於2016年11月開始，國家數據及通訊供應商－資料通訊公司(Data Communications Company, DCC)自此階段開始營運，直至2020年智慧電表建置完成。 因現今由各能源供應商使用自身資料及通訊設備裝設第一代智慧型電表，造成消費者無法任意更換能源供應商之情況。對此，英國政府之長期政策目標雖為SMETS1最終可全數透過DCC進行運作，然由於現階段尚未強制能源供應商使用DCC所提供之服務，使用SMETS1的消費者仍無法自由的轉換能源供應商。 本文件提出了兩個方案向公眾諮詢： 要求能源供應商於六個月時限內至DCC註冊其所提供且合於規範的SMETS1，或將SMETS1更換為SMETS2（第二代智慧電表）。而於2020年12月31日前，所有未註冊之SMETS1將強制更換為SMETS2。 若能源供應商已嘗試所有合適的解決方法，仍無法於2019年底前使SMETS1在智慧模式下運作，就必須在2020年6月底前將SMETS1更換為SMETS2。 若供應商係於2019年後才取得SMETS1，於獲得SMETS1之後的六個月內採取所有相關措施後仍無法令SMETS1以智慧模式運作，亦應更換為SMETS2。最終，所有不能運行智慧模式之SMETS1將於2020年12月31日前被完全汰換。 英國政府期透過更完善的政策規劃改善現階段SMETS1透過個別能源供應商之數據及通訊系統運作之情況，以確保SMETS1之智慧模式於消費者更換供應商時能維持正常運作，使消費者可確實獲取改用智慧電表之利益。我國於2015年已開始推動低壓智慧電表建置，英國面臨之問題值得借鏡，政府於推廣低壓智慧電表之同時應注意智慧電表基礎設施之相容性，以增進低壓智慧電表建置效率及降低建置成本。