用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國聯邦貿易委員會（Federal Trade Commission, FTC）於2023年1月提出一項提案，將使所有競業禁止條款無效，惟提案尚未確定。儘管FTC同意該提案將影響對雇主的保護，但也指出營業秘密法已為雇主提供了保護其營業秘密的配套，其中「不可避免揭露原則」（the “inevitable disclosure” doctrine）或許將成為競業禁止協議之替代方案。 不可避免揭露原則是指當公司認為前僱員於新公司任職，將不可避免地使用前公司之營業秘密時，可向法院聲請禁止前僱員至新公司任職。法院通常會考慮下列三個因素，以決定是否基於不當使用營業秘密之「威脅」而授予禁制令救濟，包括： 1.前後雇主是否為提供相同或非常相似服務的直接競爭對手； 2.前僱員的新職位是否與原職位雷同，以至於無法合理地期待該僱員在不利用其前雇主之營業秘密的情況下，能履行其新的工作職責； 3.所涉及的營業秘密對於前後雇主是否都具有相當之價值。 雖然部份州法院指出根據其州法，得適用不可避免揭露原則，但各界對於雇主能否向聯邦法院根據《保護營業秘密法》（Defend Trade Secrets Act, DTSA）援引該原則仍未達成共識。儘管如此，部份聯邦法院強調雇主須明確說明前僱員為何將不可避免地使用或揭露其營業秘密，僅證明前僱員在工作期間獲得機密資訊，並隨後於競爭公司擔任類似職位，不足以證明前僱員將不可避免地使用前公司之營業秘密。 綜上所述，不可避免揭露原則可以防止前僱員不當使用其營業秘密的威脅，但由於聯邦法院對於能否援引該原則的標準仍不明確，僅指出不可避免揭露原則將使雇主面臨較高的舉證要求，故其是否能成為競業禁止協議的替代方案，仍有待觀察。 本文同步刊登於TIPS網站（https://www.tips.org.tw）。
美國食品藥物管理局公布三項食品安全查檢與風險管理相關規定為落實美國食品安全現代化法有關食品追溯與風險控管安全認證規定，美國食品藥物管理局（U.S. Food and Drug Administration, FDA）於2015年11月13日公布「農產品安全規則」（The Produce Safety rule）、「第三方審核機構進行食品安全認證規則」（The Accredited Third-Party Certification rule）與「外國供應商審核規則」（The Foreign Supplier Verification Programs, FSVP）等三項實行細則。其中，「農產品安全規則」首次針對美國境內生產農場建立強制性安全標準，為種植、收獲、包裝和保存農產品建立基於科學的標準（包括水質、員工健康和衛生、野生和家養動物、動物源生物土壤改良劑以及設備、工具和建築物等各種要求）。 而在「第三方審核機構進行食品安全認證規則」與「外國供應商審核規則」主要係確保進口食品符合美國境內生產食品相同之安全認證標準，確保與美國食品追溯制度構聯。食品藥品管理局採用多管齊下的策略，包括與外地監管機關建立夥伴合作關係、檢查出口國的設施、要求進口商就進口食品安全負責，以及對進口食品進行針對性的檢測。
美國FDA對於基因工程鮭魚核准上市及產品標示議題，舉行公聽會討論美國食品和藥物管理局（U.S. Food and Drug Administration，FDA）於2010年9月19日到21日針對是否核准基因工程鮭魚(genetically-engineered salmon，GE salmon）上市舉行了公聽會。經過各界討論，目前仍未做出決定，但各界均同意於決定是否核准該鮭魚上市前，仍需做進一步的研究測試。 該基因工程鮭魚又名 AquAdvantage，其成長賀爾蒙不但只於較高溫度的水域環境時才分泌，而亦可全年都分泌該種賀爾蒙。因此特性，此種鮭魚成長速度比一般同類型的鮭魚快兩倍，而其所能被食用的時間也相對較早。 根據美國FDA的報告結論，基因工程鮭魚的安全性和其他類型的鮭魚一樣，所以如果為人類食用的話，並不會造成危險。此外，該鮭魚的養殖地點與海岸仍有一段距離，因此其可能對野生鮭魚造成威脅的問題可被忽視。然而，於本次公聽會中也提出，由於現階段的研究數據結果不足，因此仍須進行進一步的相關測試後才能做出結論。 另外，對於基因工程鮭魚上市後該如何標示該產品，也是另一個討論重點；針對此議題，美國FDA會另外舉行公聽會。目前，美國FDA對於上市核准的食物標示僅要求需標示其身分、營養成分、和潛在的過敏反應即可。由於美國FDA認定該基因工程鮭魚與一般鮭魚並沒有“生物學上的相關差異性”（no biologically relevant different）存在，對此，美國FDA表示，相同的作法有可能也會適用於基因工程鮭魚上。就社會大眾知的權利和現行法制的適用兩者間該如何取捨，即變成了當前該議題的討論重點所在。故，美國FDA未來是否會准許該種基因工程鮭魚上市，且上市後其食品標示又該如何加以標示，都是未來需要再做進一步觀察的。
歐盟發布《歐洲資料治理規則》草案歐盟執委會於2020年11月25日公布「歐洲資料治理規則」（Proposal for a Regulation on European data governance (Data Governance Act)）草案。本立法草案係延續同年2月發布「歐洲資料戰略」（European data strategy）所提出之立法規劃，針對該戰略所揭示的資料治理政策願景，於制度面予以明文化。而本草案亦為該戰略發布後，首次提出的具體性措施。其制定的主要目的，在於透過強化資料中介機構（data intermediaries）的公信力、以及優化歐盟整體的資料共享機制，來提升資料的可取得性（availability）。 依草案條文內容，其主要立法面向如下： （1）界定本法的立法目的，在於規範歐盟內部再利用公部門所持有之特定類型資料的條件，確立資料共享服務的通報與監督框架，並針對基於利他（altruistic）目的蒐集處理資料之實體（entities），建構自願註冊的制度；另一方面則進行本法的名詞定義。 （2）公部門資料再利用機制：整體性規範由公部門所持有、但涉及商業機密、智慧財產權、個資等之資料再利用的一致性標準。其以保護既有的營業秘密、個資、智財權等為前提，確立該些資料再利用的標準作法（如原則以非專屬形式再利用、可收取合理費用）。有意再利用上述資料的公部門，應於技術面保護其隱私與機密性。 （3）針對資料共享服務供應商的通報機制：要求提供資料共享服務的供應商，於正式對外提供其服務前，應先向各成員國的權責機關通報其業務，藉以增加外界對共享個資與非個資之資料機制的信賴度，同時降低資料共享的交易成本。同時，資料共享服務供應商於資料交換應保持中立，不能為其他目的使用資料；其共享服務應以開放及協作的方式進行，並優化自然人或法人查閱與控制其資料的環境，藉以強化個資自主權。 （4）資料利他主義（data altruism）的明文化：定義非營利、具普遍性共同目標之組織，得向歐盟註冊成為資料利他主義組織。透過此認證制度，增加組織公信力，以推動個人或公司出於公共利益，自願提供資料。同時，授權歐盟執委會可制定通用之歐洲資料利他主義同意書（European data altruism consent form），減少個別收集資料使用同意書之成本。 （5）成員國資料共享權責機關之職責：其應公正、透明、一致、及時履行其職責，監督與實施資料共享服務供應商與資料利他主義組織的通報與註冊機制。例如，其有權要求資料共享服務供應商提交必要訊息，以確保其作為是否符合本法要求。同時，權責機關成員不得為資料共享服務的供應商。 （6）歐洲資料創新委員會（European Data Innovation Board）：此為一專家小組之設置要求，負責協助成員國權責機關之作法，遵循資料治理法所訂標準。