用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
歐洲五大電信公司──德國電信（Deutsche Telekom）、法國Orange電信、義大利電信（Telecom Italia）、西班牙電信（Telefonica）與英國沃達豐電信（Vodafone）於2021年11月18日聯合發表聲明，呼籲歐盟執委會與成員國加速開放「開放式無線存取網路」（Open Radio Access Network, Open RAN）的技術應用，並提出「為歐洲建立Open RAN生態系統」（Building an Open RAN Ecosystem for Europe）研究報告。 本報告對Open RAN價值鏈和當前供應商進行分析，發現許多歐洲供應商正處於發展初期，未獲得Open RAN商業契約，且在Open RAN關鍵服務的部分類別（如雲端軟體）中，尚未有歐洲供應商。甚至綜觀Open RAN的各項關鍵服務分布，歐洲供應商僅有少數等。因此，本報告強調歐洲需迫切將Open RAN作為戰略重點，並提出以下五點建議： （一）歐盟的政策制定者應積極推動發展創新、開放及可互通之電信生態系統，並期望歐盟執委會、成員國與產業利害關係人，透過對話與討論，促使全歐洲對Open RAN生態系統之建立產生共識。 （二）執委會應成立下世代通訊基礎設施聯盟，如同過去其為雲端與半導體設立聯盟，作為推動該產業的關鍵力量。此外，為迎接Open RAN新興技術，應提倡如歐盟共同利益重要計畫（Important Projects of Common European Interest, IPCEI）的微電子和通訊技術、5G產業協會與共同承諾推動智慧網路服務多國計畫。 （三）政策制定者應降低歐盟供應商和新創企業之投資風險，並對歐洲未來具有戰略意義的技術領域，以資金與租稅等激勵措施，支持歐洲供應商合作。如由歐盟執委會和各國政府為財團提供資金，使歐洲公司建立穩固的合作關係，並成為Open RAN價值鏈中茁壯成長的供應商。 （四）O-RAN聯盟（O-RAN ALLIANCE）與第三代合作夥伴計劃（3rd Generation Partnership Project, 3GPP）及歐洲電信標準協會（European Telecommunications Standards Institute, ETSI）正式合作，支持採用O-RAN規範作為ETSI的自願性標準，可透過快速程序對現有3GPP規範進行補充。透過促進全球統一的Open RAN標準，確保開放性網路設備的互通性，如：全歐認證的品質與互通性，建立生態系統部署者的信心。 （五）歐盟應與國際合作，促進安全、多樣化及可持續的資訊與通訊技術供應鏈，如：利用七大工業國組織（Group of Seven, G7）、美歐貿易和技術委員會（EU-US Trade and Technology Council）與日歐資通訊技術對話（Japan-EU ICT Dialogue）促進發展和部署開放且可互通的網路架構。
日本政府決定採用共通編號制的三個方案，也會顧及消費稅的逆進性日本政府於6月29日召開關於賦予國民每一個人一個編號以便掌握每個人所得的「共通編號制度」的檢討會，會中決定將以利用於納稅與社會保障給付為軸心，朝引進制度推動的三種選擇方案。會中也討論到利用於減緩使低收入群負擔愈加沈重的消費稅的「逆進性」上。目前提出相關方案也有緩和參議院改選中有關增稅批評的目的。 從之後的1個月內會開始募集國民的意見後，到年底會將三種方案綜合為一案，以明年的一般國會會期中提出相關法案的方向推動。 有關共通編號制度，當然被指出會有個人資訊外洩與侵害隱私權的憂慮。菅直人首相在檢討會中提到「希望是立於國民本位制度上的來思考，也必須得到國民大眾的瞭解」。在檢討會中承認僅供稅務使用的A案、用於稅務與社會保障的B案及用於大範圍的行政領域上的C案，使用範圍各自不同的三種方案。 也出現希望所賦予的新編號能與目前正在使用中的「住民票號」能夠接軌的想法。利用編號制度正確掌握國民的所得情形，進而在增加消費稅之時，就有可能適切地對低收入群進行減稅與用現金補助。 消費稅是對包含生活必需品等大範圍的物品及服務課稅，所以愈是對將收入用於消費的比例龐大的低收入群會對增稅的負擔愈感沈重。 對減緩此一逆進性的有效制度，就是對有繳納的所得稅給予減稅，沒繳納所得稅的給予現金補助的「附給付的稅額扣減」。充分利用編號制度，將可補足反映所得所能退補的金額。
新創及中小企業如何因應美國之《訴訟透明法案》今年7月，美國國會議員Issa提出了《2024年訴訟透明法案》（H.R. 9922, the Litigation Transparency Act of 2024，下稱《訴訟透明法案》），要求當事人揭露民事訴訟中所取得之金融支援的來源，如商業貸款機構等，以提高訴訟透明度並降低濫訴之情形，惟此提案恐導致美國新創及中小企業更難成功起訴竊取其專屬技術之大企業。 近年來，許多大型科技公司從較小的競爭對手竊取其專屬技術，然而僅有少數案例成功取得賠償金，如：伊利諾州地方法院要求Amazon向軟體公司Kove IO支付5.25億美元的賠償金等。這是由於新創及中小企業縱有證據證明其智慧財產權被盜，在訴訟中多面臨沒有足夠資力與大型科技公司抗衡之窘境，因此往往被迫接受遠低於其所受損失之和解金。透過這種方式，大型科技公司能掌握技術並支付低於取得該技術授權所需之成本，因此被稱之為「有效侵權（efficient infringement）」。 新創及中小企業近期透過與第三方金融資助者協議共享訴訟取得之賠償等方式，降低其進入訴訟程序的經濟門檻，以對抗大型科技公司所採取之「有效侵權」。然而最近一系列案例顯示，中國大陸所支持的第三方金融資助者助長了針對美國企業之智財訴訟，引發了國家安全問題，故立法者為降低營業秘密被外國競爭對手取得之風險、避免無意義之訴訟被廣泛提起，要求當事人揭露其於民事訴訟中所取得之金融支援來源。若《訴訟透明法案》通過，原告所採取之法律策略將可能外洩，而第三方金融資助者亦將受到各方之抨擊，進而導致新創及中小企業在訴訟中更難取得金融支援。 綜上所述，若要降低訴訟之可能性，新創及中小企業須強化其對於專屬技術之保護，從根本減少專屬技術洩露之風險，以避免訴訟發生或進入後端訴訟。有鑑於新創及中小企業與大企業相比，在智財保護觀念上更接近學研單位，且對於營業秘密之管理多未臻完備，因此為確保其能有效落實對營業秘密之管控，建議新創及中小企業可參考智慧局所發布之《學研機構營業秘密管理實作要領》，量身訂作符合自身需求的營業秘密管理制度，並循序完善相應之營業秘密管理措施，以降低專屬技術被竊取的風險。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
日本創設搭載遠距型系統自駕車基準緩和認定制度日本國土交通省於2017年2月修正《道路運輸車輛安全基準》第55條第1項、第56條第1項及第57條第1項規定之告示，放寬車輛安全基準規定，期望自動駕駛實驗能順利展開。惟在各種自動駕駛實驗中，遠距型自動駕駛系統是透過電信通訊技術，從遠距離外操作車輛行駛，儘管修法後已放寬安全基準規定，但其仍與現行以車內有駕駛為前提而訂定之《道路運輸車輛安全基準》相距甚遠，想一律判斷其符合安全基準有所困難。據此，為使遠距型自駕系統道路實驗能夠順利進行，國土交通省於2018年3月30日創設「搭載遠距型系統自駕車基準緩和認定制度」，明確規定遠距型自駕系統實施道路實驗所需各項手續。 「搭載遠距型系統自駕車基準緩和認定制度」規定項目包括︰申請放寬基準之對象、申請者、申請書及繳交文件、審查項目、條件及限制、基準放寬之認定、車體標示、行政處分等。