用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
澳洲隱私保護辦公室(Office of the Australian Information Commissioner, OAIC)於2019年9月發布「健康隱私指引」（Guide to health privacy）協助健康服務提供者了解及實踐相關規範所制定之隱私義務以確保個人資料安全。依據1988年澳洲隱私法（Privacy Act 1988）規定，健康服務指所有評估、維持、改善或管理個人健康狀況；或是診斷、治療或紀錄個人疾病或健康狀況之行為。而健康服務提供者除了醫院及醫療人員，更包含其他專業人員例如健身房及減肥診所、私立學校及托兒所、遠端醫療服務等所有涉及健康資料並提供健康服務之單位及人員。由於澳洲隱私法要求服務提供者必須積極建立、實施及維護隱私合法處理程序，為了協助所有健康服務提供者確實遵守法定義務，以減少健康資料之隱私風險問題，OAIC制定「健康隱私指引」提出八大步驟要求健康服務提供者確保遵守義務並保障所持有之個人資料： 制定並實施隱私管理計畫，確保遵守澳洲隱私原則（Australian Privacy Principles, APPs）。 制定明確的責任制以進行隱私管理，並及時提供員工幫助與指導。 建立個人資料檔案紀錄，以確認持有之個人資料。 了解法律規範之隱私義務並實施法定流程以履行義務。 定期舉辦員工隱私培訓課程以強化團隊基礎知識。 建立隱私權政策並於網頁上呈現或是提供手冊說明相關內容。 保護所持有之資料不被濫用、遺失或未經授權的修改及揭露等。 制定資料外洩因應措施，針對資料外洩進行危機處理。
美國食品藥物管理局發布《品質管理系統法規最終規則》美國食品藥物管理局（U.S. Food and drug administration, FDA）於2024年1月31日發布《品質管理系統法規最終規則》（Quality Management System Regulation（QMSR）Final Rule），主要內容為修改美國聯邦法規（Code of Federal Regulations, CFR）第21章第820條，品質系統規範（Quality System Regulation, QSR）中現行優良製造規範（Current Good Manufacturing Practice, cGMP, CGMP）內容，以降低美國國內法規與國際醫療器材品質管理系統標準ISO 13485的差異，達到減輕醫材製造商、進口商的監管負擔之效。 與美國QSR相比，ISO 13485對「風險」與「透明度」規範的要求更加嚴格，故此最終規則主要將QSR中風險管理與透明度的規範依照ISO 13485進行補足。並增修QSR中未出現於ISO 13485中或即將取代ISO 13485中同義的名詞或術語的定義，用以降低原先QSR與ISO 13485的差異。同時增設對記錄保存、標籤和資訊可追溯性要求等FDA認為ISO 13485未涵蓋完全的額外規定，用以完善整體規則完整性。 該最終規則預計於2026年2月2日正式實施。FDA預估此次修訂會有效降低醫材製造、進口商的潛在金錢與時間成本，FDA提供近3年的緩衝期，即希望相關工作人員與醫材製造商能熟悉並遵循新的QMSR。未來FDA會追蹤並評估是否應將ISO13485的變更納入QMSR中，以促進醫材監管的一致性，並為病人及時推出安全、有效且高品質的醫材。
美國聯邦交通部公布自駕車4.0政策文件美國交通部（Department of Transportation）於2020年1月8日公布「確保美國於自動駕駛技術之領導地位：自駕車4.0」（Ensuring American Leadership in Automated Vehicle Technologies : Automated Vehicles 4.0）政策文件，提出三個核心原則及相對應的策略規劃： 一、 使用者與社會的保護： 整合自動駕駛技術之安全性，包括防堵對自駕車性能之詐欺或誤導行為，以強化民眾對此新興技術的信心。 與自駕車技術開發商、製造商及服務商合作，預防與降低惡意使用自動駕駛技術所造成的公共安全威脅及犯罪，如制定網路安全標準、於運輸系統之資料傳輸媒介及資料庫設計能夠防止、反應、偵測潛在或已知危險之可行作法。 要求製造商於設計和結合相關自動駕駛技術時，採取具整體風險考量之方式，以確保資料安全性與公眾隱私保護，特別是針對駕駛者與乘客，以及第三人資料存取、分享及使用。 支援與協助自動駕駛技術研發，並透過提供多樣化商品和服務，滿足消費者需求並增加自駕車的普及性，使國人能使用安全且能負擔的移動載具。 二、 保障市場效率： 採取靈活及技術中立政策，由大眾選擇具經濟及有效率的運輸方案。 透過相關智慧財產法規，保護相關技術，並持續推動經濟增長之政策及提升國內技術創新競爭力。 收集與研擬國內外法規資料，並使自動駕駛技術產品及服務能夠與國際標準接軌。 三、 促進與協調各方合作： 積極協調全國自動駕駛技術研究、法規和政策，以利有效運用各機構資源。 參考國際間自動駕駛技術標準及監理法規，並與各州政府及業界共同研擬與整合自動駕駛技術至現行運輸系統標準與相關法規。
BEREC推出網路中立性原則指南2016年8月底，歐洲電子通傳監管機構（Body of European Regulators for Electronic Communications, BEREC）根據歐洲議會（European Parliament）與歐盟理事會（Council of the European Union）通過的第2015/2120號規章（下稱2120號規章）第5條第3項的規定，推出規範歐盟各會員國國家監管機構（national regulatory authorities, NRAs）落實網路中立性原則的指南，為歐洲近年積極鼓吹數位人權運動寫下勝利的一頁。 該指南主要針對2120號規章以下幾條進行細部說明： 1. 第一條：規範主體與範圍； 2. 第二條：定義； 3. 第三條：網路中立權利的保障； 4. 第四條：確保網路中立的資訊透明措施； 5. 第五條：監管機制； 6. 第六條：罰則； 7. 第十條：規章實施與過渡條款。 指南補充說明了原先規章中，各條條文的相關細部規範。BEREC不只對各條規範中較為模糊的敘述提供明析的論述，同時也強化NRAs規範網路服務供應商（internet service provider, ISP）應提供網路中立服務的拘束力。 該指南的立場旨在希望歐洲網路終端用戶近用網路的權利受到更為完善的保障，且為了達成這樣的目標而為ISPs所提供的服務設下了更為嚴苛的門檻。不過BEREC也表示，ISPs可以在不影響其他終端用戶的權利及傳輸速率下，為特定服務提供特別的服務方案，例如：即時醫療服務（real-time health services）。當然，針對這些特定服務，各國NRAs必須加以監管以確保其他網路終端用戶的權利。 雖然該指南對歐盟各會員國的NRAs有行政指導上的指標意義，不過有趣的是，英國通訊傳播管理局（Office of Communications, Ofcom）身為BEREC的會員，但英國已非歐盟會員，Ofcom是否會提出適用英國自己的網路中立性規範，以及歐盟各會員國對於該指南的適用狀況值得繼續追蹤。