用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國白宮於2021年3月31日發布「美國就業計畫」說明文件（FACT SHEET: The American Jobs Plan），針對美國當前所面臨基礎建設老舊、失業率攀升、氣候變遷與來自中國的技術競爭等問題，預計在未來八年內每年投資約GDP的1%，共投入約2兆美元（約合新台幣56兆元）於修復與升級國家基礎建設、振興製造業、投資基礎科學研究、支持供應鏈、推動能源轉型、幼兒教育及長照醫療等項目上。 本說明文件指出，雖然美國為世界上最富裕的國家，但許多基礎建設都逐漸變得老舊或不合時宜，部份人民仍無法享有高速網路與價格可負擔的房屋，而在疫情的衝擊下不僅導致工作機會喪失，更威脅到國家經濟安全。除此之外，美國在科技研發、製造與人才培育上開始落後於最大的競爭對手，顯示政府有必要加快在基礎建設與科技研發的投資，以重建美國的國家競爭力並創造更多的就業機會。 針對投資基礎建設部分，包含交通基礎建設如修復高速公路、橋樑，並升級港口、機場及運輸系統，並改善飲水、電力與網路布建，提供全體人民可負擔、可靠的高速寬頻服務；除了提高基礎建設在面對氣候變遷危機時的韌性，也提供美國人民更安全、可靠、便利的生活條件。在更新基礎建設的同時，將採用符合永續性及創新性的建築材料，並優先使用在美國製造與販售的零組件，以支持國內產業與創造就業機會。 而在投資科技研發部分，相對於中國大陸正大力投資於研發，其研發支出為世界第二，美國在投資科技研發占GDP比率卻持續下降，為了支持研發團隊克服高度創新（high-innovation）技術的障礙，有必要提高對於國內研究人員、實驗室及大學院校的投資。因此白宮呼籲國會支持國家科學基金會（NSF）投資500億美元設立技術局（technology directorate），用於整合國家研究資源，投入半導體及高級通訊技術、高級能源技術及生物技術的研發，並預計投資400億美元於全國實驗室研究設施與網路的升級。 除此之外，白宮規劃投資350億美元於研發克服氣候變遷危機的技術解決方案，包括開發減少排放和建立氣候適應力的新方法，並呼籲國會投資100億美元於傳統黑人大學（HBCUs）、弱勢族群教育機構（MSIs）的科技研發以避免種族與性別落差，投資200億美元於區域創新中心及社區再生基金，向國家標準技術協會（NIST）投資140億美元推動產官學合作研發，以及規劃310億美元用於中小企業信貸、創投及研發資金，特別是地區型的小型孵化器及創新聚落，以支持有色人種及弱勢族群的新創事業成長。
美國專利商標局結束專利申請審查後試行程序美國專利商標局(United States Patent and Trademark Office, USPTO)於2017年1月12日宣布其不再依其審查後試行程序(Post-Prosecution Pilot Program, P3 Program)受理新的案件。該程序係用以使發明人在專利申請程序受到駁回以後得提出更多回饋意見，以期減少上訴至專利審判暨上訴委員會(Patent Trial and Appeal Board, PTAB)之數量。 該程序係在2016年7月11日公布施行，在該程序中，申請人在最終駁回做成後兩個月內得請求召開聽證；申請人得對審查員進行20分鐘內之口頭簡報。簡報進行完畢以後，申請人即被排除於會議之外，審查委員之裁決將會以書面之形式通知申請人。 在P3程序創設以前，專利申請被駁回的發明人得採取上訴前先期審查會議試行計畫(Pre-Appeal Brief Conference Pilot Program)或是最終審議後試行程序2.0(After Final Consideration Pilot 2.0, AFCP2.0)的方式提出明顯錯誤的爭執或是申請內容的修改，但這兩種申訴方式並無法讓申請人取得直接向專利審查員進行簡報的機會。 在2016年7月11日公布本項試行程序時，USPTO即宣布本項計畫試行時間直到2017年1月12日，或是USPTO受理1600位合格申請為止，在本計畫按照預定時程結束後，USPTO表示將會依公眾回饋意見以及試行程序的結果來決定未來是否會施行類似於本計畫之措施。
歐盟預計投入4700萬歐元強化中小企業智慧財產權的保護歐盟執委會及歐盟智慧財產局（European Union Intellectual Property Office, EUIPO）於2022年1月10日共同宣布啟動第二輪的歐盟中小企業基金（EU SME Fund），以強化中小企業的智財管理與布局。 歐盟於2020年11月發布了《智慧財產權行動計畫（Action Plan on Intellectual Property）》，並推出中小企業基金，在2021年間共補助12,989家的中小企業，補助金額達680萬歐元。由於成效不錯，因此歐盟推出第二輪的中小企業基金，其金額高達4700萬歐元，補助期間為2022年至2024年。歐盟指出，中小企業在保護創新上需要有相關的工具及資金，目前規劃的補助項目如下： 補助中小企業申請智財檢視服務（IP Scan service）90%的費用。該項服務是在2021年6月推出，內容為中小企業智財布局的諮詢，以及協助檢視其無形資產（intangible assets）的創新潛力。 補助中小企業向各會員國智財局、歐盟智財局（EUIPO）、比荷盧智財局（Benelux Office for Intellectual Property, BOIP）申請商標、設計註冊75%的費用。 補助中小企業向世界智慧財產權組織（WIPO）取得國際商標和設計保護50%的費用。 2022年將補助中小企業向各會員國專利局申請專利註冊50%的費用。 2023年預計進一步納入補助的項目包含：補助中小企業進行專利先前技術檢索、專利申請的部分費用；律師諮詢費（如專利註冊、授權協議、智財鑑價、替代性紛爭解決機制等事項的諮詢。） 歐盟希望透過上述的方式，協助中小企業在疫情期間加速數位轉型，強化無形資產的智財布局和管理，以提升歐盟中小企業的競爭力。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
歐盟執委會發布「歐洲健康資料空間」規則提案，旨在克服健康資料利用之障礙歐盟執委會（European Commission）於2022年5月3日發布「歐洲健康資料空間」（European Health Data Space, EHDS）規則提案，其旨在克服健康資料利用之障礙，以充分發揮數位健康與健康資料之潛力。EHDS為一個專門用於健康之資料共享框架（health-specific data sharing framework），針對患者以及用於研究、創新、政策制定、患者安全、統計或監管目的等電子健康資料之運用，建立明確規則、通用標準與實務、基礎設施與治理框架，無論是個人、醫療人員、健康照護提供者、研究人員、監管人員、產業界皆可由此受益。 EHDS之具體內容主要包括九個章節： （1）第一章為一般條款（General provisions），內容包括本規則之主題與範圍，並闡明定義、以及與其他歐盟法規之關係； （2）第二章為電子健康資料之原始利用（Primary use of electronic health data），其針對歐盟一般資料保護規則（GDPR）所載權利，增訂補充性之配套保護機制，並設定醫事人員及其他健康從業人員針對EHD之義務； （3）第三章為EHR系統與福祉應用（EHR systems and wellness applications），其主要重點為EHR系統之強制性自我認證計畫（mandatory self-certification scheme），要求其需符合可互通性與安全性等基本要求，並界定EHR系統中各經濟營運商（economic operator）之義務、EHR系統合規（conformity）要求，並負責EHR系統市場監督機構之義務； （4）第四章為電子健康資料之二次利用（Secondary use of electronic health data），如將資料用於研究、創新、政策制定、患者安全或監管活動。本章定義一組資料類型，規範可利用之既定目的以及受禁止之目的（如商業廣告、增加保險、開發危險產品），並規定會員國必須建立健康資料近用機構（health data access body），以便電子健康資料的二次利用，並確保由資料持有者所產生之電子資料可提供給資料使用者； （5）第五章為其他行動（Additional actions），其旨在提出其他措施以促進會員國之能量建構（capacity building），以配合EHDS之發展，包括數位公共服務之資訊交換、資金，並規範於EHDS下非個人資料之國際近用規定； （6）第六章為歐洲治理與協調（European governance and coordination），其創建「歐洲健康資料空間委員會」（European Health Data Space Board, EHDS Board），促進數位健康當局及健康資料近用機構之間的合作，特別是電子健康資料之原始與二次利用間之關係，並包含歐盟基礎設施聯合管理小組（joint controllership groups for EU infrastructure）相關規定，其任務在於就電子健康資料之原始與二次利用所需之跨境數位基礎建設進行相關決策； （7）第七章為授權與委員會（Delegation and Committee），其允許歐盟執委會通過關於EHDS之授權法案（delegated acts），並希望根據C (2016) 3301號決定成立一個專家小組，以便於準備授權法案、實施本規則時提供建議與協助； （8）第八章為附則（Miscellaneous）規定，其中包含關於合作與處罰之規定，以及要求於本規則實施後進行評估與檢視之條款； （9）第九章為延遲適用與最終條款（Deferred application and final provisions），其規定本規則與個別條款之生效日。