用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
韓國於今年1月份爆發史上規模最大的個資外洩案，國民銀行執行長李健浩、國民銀行信用卡公司執行長沈在吾、樂天信用卡公司執行長朴相勳與農協銀行信用卡公司執行長孫京植等人，亦因此請辭以示負責。 為防止將來金融機構再次發生個人資料外洩等事件，韓國金融服務委員會（Financial Services Commission, FSC）與相關部會於3月份發佈一連串要求，以下為其基本原則 1. 金融機構將被要求在處理客戶的個人資料時的每一個階段，包括蒐集、保存、使用和銷毀客戶資料時，都必須擔負起更多的責任。 2. 確保金融消費者可主張關於其個人資料之相關權利，包括金融消費者可決定金融機構於何時如何使用其個人資料。 3. 提升金融機構對於其客戶之個人資料保護責任，包括提升首席資訊安全官（Chief Information Security Officer, CISO）獨立性與責任、加重金融機構於資訊安全違規時相關罰則。 4. 政府將採取更多措施以確保金融機構的網路安全。 5. 金融機構必須建立緊急應變機制，以確保面對未來可能的資料外洩事故時，可迅速有效的應對。 韓國政府於於3月底已對不需修改法律之部分開始執行，而涉及《使用和保護信用資料法》和《電子金融交易法》部分亦待議會修法。
藥品監管機構負責人組織與歐洲藥品管理局聯合巨量資料指導小組發布2021-2023年工作計畫，提高巨量資料於監管中之效用藥品監管機構負責人組織（Heads of Medicines Agencies, HMA）與歐洲藥品管理局（European Medicines Agency, EMA）聯合巨量資料指導小組（HMA-EMA joint Big Data Steering Group, BDSG）於2021年8月27日發布「巨量資料指導小組2021-2023年工作計畫」（Big Data Steering Group Workplan 2021-2023），將採以患者為焦點（patient-focused）之方法，將巨量資料整合至公衛、藥物開發與監管方法中，以提高巨量資料於監管中之效用。指導小組將利用「資料分析和真實世界訊問網路」（Data Analysis and Real World Interrogation Network, DARWIN EU）作為將真實世界資料整合至監管工作之關鍵手段； DARWIN EU諮詢委員會（Advisory Board）已於2021年建立，DARWIN EU協調中心（Coordination Centre）亦將於2022年初開始運作。 為確保資料品質與代表性，未來工作計畫將與「邁向歐洲健康資料空間–TEHDAS」（Towards A European Health Data Space – TEHDAS）合作，關注資料品質之技術與科學層面，並將於2022年提出第一版「歐洲監管網路資料品質框架」（data quality framework for the EU Regulatory Network）、「真實世界資料來源選擇標準」（criteria for the selection of RWD sources）、「詮釋資料優良規範指引」（metadata good practice guide）、「歐盟真實世界資料公用目錄」（public catalogue of European RWD）等規範。 此外，工作計畫將於2021年底舉辦「學習計劃」（learnings initiative）研討會，討論包括EMA人用藥品委員會（Committee for Medicinal Products for Human Use, CHMP）對於真實世界證據於藥品上市許可申請（Marketing Authorization Application, MAA）、適應症擴張（extensions of indications）之審查，以及過去真實世界資料分析試點於委員會之決策等議題，以利後續指引之修正。 最後，工作計畫預計於2021年底完成「健康照護資料二次使用之資料保護問與答文件」（question and answer document on data protection in the context of secondary use of healthcare data），以指導利益相關者與促進公共衛生研究，並發布由歐盟監管網路（EU Regulatory Network）同意之對於藥品監管（包括巨量資料）之資料標準化戰略。
網路業者呼籲美國政府進行電子通訊隱私法之修正以Google及微軟為首等網路業者，及名為「資訊正當法律程序」協會的數個成員，呼籲美國聯邦政府對於儲存於雲端或第三人資料儲存系統的私人電子郵件或電子資料之取得，應進行相關法律修正。 由於1986年開始施行的「電子通訊隱私法（Electronic Communications Privacy Act, ECPA）」，係立法者基於當時資通訊技術水準所制定，然近年來諸如電子郵件、雲端運算、網路社群活動及行動通訊等科技之興起，使得該法已不足因應當今狀況，故有制定更為透明、簡單且明瞭的資料取得標準之需要。尤其是現今電子資訊儲存於第三人資訊系統內情形之普遍，更讓此等資訊取得行為是否適用該法，產生相當的模糊。 此等模糊性，讓現今的司法部門認為僅需使用傳票（subpoena）或取得法院命令（court order），便可要求第三人提供客戶的資料。但是，上述這些團體希望政府應修正既有法律以與現時社會相符，確保須透過更為嚴謹的程序，始能要求第三人提供客戶的私人資訊，例如需申請「令狀」(warrant)。蓋因資料儲存於私人電腦內，需透過令狀以命其揭露，而若儲存於第三人處，理論上亦應該透過令狀以命第三人揭露該等資訊；再者，「美國人權法案（Bill of rights ）」要求政府機關除非具特定理由，否則不得對他人住宅進行無搜索令之搜索，同樣的，在電腦資訊之取得，亦不應降低保護人民之標準。 該團體揭示之四項標準為： ．政府僅能在出示正當理由，並取得搜索令（search warrant）的情況下，才能對任何受ECPA規範的實體（無線或電子通訊服務的提供者，或遠端電腦服務提供者）要求揭露未能輕易由公眾取得之資訊。且不受通訊時代，儲存工具及狀態，或提供者的權限及其通常商業活動的通訊使用所影響。 ．政府僅能在獲得具有正當理由之搜索令下，才得要求任何受ECPA規範的實體，提供行動通訊裝置的地點資訊。 ．政府僅能在獲得司法審查，及透過法院認為其已具備第2703(d)條之情形，才能要求任何受ECPA規範的實體提供撥打電話號碼的資訊，往來電子郵件、及該實體藉由電子記錄器和追蹤設備所記錄的資訊或數據。 ．政府單位經「Stored Communications Act」之授權取得傳票，其取得資訊之範圍僅得針對特定帳號或個人。其他非特定的要求，皆須司法同意後始得進行。
美國參議院擬針對生物燃料提供稅賦優惠先進的能源發展方向是開發先進技術，利用生物材料（如能源作物或生物排泄物）等生物性資源來生產能源，此種能源生產方式又稱為生質能源。由於生質能源的建置成本高，故業界多冀盼政府能給予財務方面的支援。 最近美國布希總統已經設定透過增加對潔淨、再生的生物燃料的使用，降低美國對進口石油的依賴以及溫室氣體排放量，而基於同樣的目標，美國參議院財務委員會（Senate Finance Committee）最近更提出了能源進化及投資法（Energy Advancement and Investment Act of 2007, EAIA），希望能鼓勵大規模的商業投資，以促進生物燃料的生產與使用。 EAIA特別針對使用纖維性質的生物材料（cellulosic biomass）來生產生物燃料之製造者，提供生產上的租稅扣抵（production credit），與此同時並擴大既有針對乙醇所實施的優惠措施之適用範圍。這兩大租稅優惠是為了鼓勵企業生產者加速推動生物燃料的開發，儘快使生物燃料可以供應市場所需達到10億加侖的水準。