用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國總統於2019年1月14日簽署《實證決策基本法》（Foundations for Evidence-Based Policymaking Act of 2018），本法包含要求聯邦政府政策制定應以實證為依據，並規定開放政府資料法（OPEN Government data Act）相關措施，與確保機密資料安全及資料統計效率，據此做為推動政府資料開放共享與以實證為依據制定聯邦政府政策之法制基礎。 做為美國聯邦政府透明化政策的一環，本法最核心的部分即為開放政府資料法之相關規定，開放政府資料法的OPEN為開放（Open）、公開（Public）、電子化（Electronic）與必要（Necessary）之縮寫，象徵開放政府資料法的精神與意旨，其具體措施包含要求聯邦政府機關應盡可能公開其所蒐集之資料，依本法對資料的定義為被記錄的資訊，不論載體為何（recorded information, regardless of form or the media on which the data is recorded）。 而公開的資料應具備機器可讀性（machine-readable）、為或可轉換為自由檔案格式（open format）、不受除了智慧財產權保護以外之使用限制（即非國家機密或受其他法律保護的資料）以及應符合由標準制定組織所訂定之開放標準，除此之外每個機關應設置首席資料長（Chief Data Officer）負責上述資料開放事宜，以確保政府公開資料得以有效率的開放與共享。
美國FTC正式聲明：現已將「終止給付遲延(Pay-for-Delay)藥品訴訟和解協議」列為最優先處理之反競爭事項為表明促進公平競爭及保護境內消費大眾利益之決心，美國聯邦貿易委員會(Federal Trade Commission；簡稱FTC)於今(2010)年7月27日時，正式提出一項聲明，其內容，除詳細說明其近來為促進競爭及保護境內消費大眾利益所為之各項工作外，亦正式將『終止過往於品牌藥廠與學名藥廠間所為之給付遲延訴訟和解協議』列為『最優先』處理之反競爭事項」。 根據FTC所蒐集之資料顯示，單自今年元月份起算，至今，於美國境內各大品牌藥廠及學名藥廠間所簽訂之訴訟和解協議中，已有21件藥品專利訴訟協議，因涉及以「補償金」(Compensation)來作為和解條件，而成為FTC進一步調查之對象；此外，與前一會計年度中所達成之訴訟和解協議相較，除於數量上，呈現有增無減之趨勢外；FTC方面也證實，在各方藥廠採取另一類藍海策略且不再相互為市場競爭之前提下，此類和解協議已為境內各藥品廠商減省下約90億美金之競爭成本。 而進一步觀察FTC於近期內蒐集之新資訊後顯示，除以「補償金」模式來作為達成訴訟和解協議之條件外，可能還存在著另一種形式之訴訟和解協議；亦即，於藥廠間新近所簽定訴訟和解協議中，並不必然包含由品牌藥廠為一定金額給付之項目；根據實務統計，於2010年美國會計年度前9個月內所達成之各訴訟和解協議中，確實有近75%之訴訟和解協議，於協議條件或項目上，並未包含任何有關品牌藥廠對競爭學名藥廠和解金之給付；對此，FTC表示：「從各種跡象及數據顯示，目前於各藥廠間，確已衍生出數種新型態且具潛在反競爭可能之訴訟和解協議」；故從FTC將持續致力對此類不當訴訟和解協議為反競爭調(審)查之角度來看，未來，勢必將面臨更多且更嚴苛之挑戰。 最後，Leibowitz強調：「此類不當訴訟和解協議如同正快速擴散之傳染病一般，若完全聽任其發展而不加處理，日後定有越來越多藥品之上市，將受其影響；同時，就藥品價格之決定，最終亦將與自由市場競爭機制脫鉤；如此，除將間接導致公眾近用低價藥品困難度之提升外，亦將一併造成病患長期用藥成本負擔之增加」。
歐盟科技倫理委員會公布和成生物學ELSI意見歐盟科學與新科技倫理委員會（European Group on Ethics in Science and New Technologies, EGE）在今（2009）年11月18日公布合成生物學（Synthetic Biology）公布相關之倫理、法制與社會議題之意見，其中指出合成生物學具有可大幅降低生技藥品生產成本的極大潛力，但也可能帶來的風險，故應予注意。 對很多人來說，合成生物學是一個相當新穎的概念，經濟合作發展組織（Organisation for Economic Co-operation and Development , OECD）在其所公布的2030生物經濟發展議程中，將其列為最具有發展潛力的新興生物技術之一，近來更被歐美先進國家視為生物技術產業的未來重點發展方向。 根據OECD的定義，所謂合成生物學，是以工程方法為基礎，以改進微生物的新興領域，此技術使設計與建構新生物元件（part）、裝置（device）及系統（system），及對於既存的自然生物系統，使其更具有使用性。合成生物學的目的，在於藉由設計細胞系統，使其具備特定功能，從而消除浪費細胞能量之非期待的產物，以增進生物效率。目前合成生物學與市場較為接近的案例，乃一種將青蒿（sweet wormwood herb）、細菌與酵素等基因、分子路徑（molecular pathway）作結合，製造出可以生產治療瘧疾（malaria）的青蒿酸之細菌，此項開發成功突破過去僅能透過植物青蒿獲得，並產量有限的瓶頸。 正由於看好和成生物學的發展潛力，美國、英國與歐盟都開始對此項技術可能帶來的倫理、法制與社會爭議進行評估，歐盟EGE更公布意見以作為未來訂定法規範時的參考。EGE在意見中表示合成生物學使用於能源技術、生物製藥、化學工業或材料科學等都深具前景，故建議歐盟執委會應對此技術發展給予支持，並在歐盟架構計畫下，以產業利用為前提，給予經費的支持；然也必須重視其ELSI問題，包括使用合成生物產品的安全性、對環境的長期影響、惡意使用之防免、專利與公共財的爭議等，為了解決此等問題，其也要求各會員國必須針對合成生物學的各種議題，加強與民眾、利害關係人及社會的對話。由於我國一直將生技產業視為發展重點，合成生物學關係著生技產業未來發展，其未來發展實不容為我國所忽略。