用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國審計部(Government Accountability Office, GAO)就無線電視數位化轉換一事進行調查並於2008年6月10日公布報告。該調查報告發現，雖然超過8成民眾對無線電視數位化有所認知，但亦有許多民眾認知有誤。 此外，該調查報告亦指出，收看無線電視之民眾中，45%尚未購買機上盒以因應無線電視數位化；反之並不需要為數位化進行準備之民眾(如收看有線電視或衛星電視者)，卻有30%表示已經做好無線電視數位化之因應措施。在此同時，仍有部分低功率電視台將不會全面數位化，故接收無線電視之民眾可能必須備有同時可接收類比與數位訊號之設備，方能夠維持其無線電視的收視。 為鼓勵民眾購買數位機上盒，美國國家電信與資訊管理局(National Telecommunications and Information Administration, NTIA)稍早已經發出80萬張折價券，但僅有不到一半的折價券被使用，至於尚未被使用的折價券亦已逾期而無法使用。 除機上盒的準備外，隨著訊號數位化，無線電視台的訊號強度及受干擾程度也將有所改變，故無線電視台需調整電台或天線的位置，以避免部分地區民眾在數位化後無法收看清晰的影像。美國通訊傳播委員會之工程師指出，約有1%的民眾可能會有前述困擾，但截至目前為止，仍有部分電視台受限於經費問題而尚未有所因應。
歐盟對中小型生技公司提供藥政管理之費用優惠及專業協助中小型公司是生技產業發展的主力，然藥物研究發展模式風險及資金需求甚高，對資金不豐沛的中小型公司來說，無疑是一大負擔，因此，各國政府於促進生技醫藥產業發展之同時，相當重視如何減輕這些生技製藥公司的營運壓力，進而協助其順利茁壯。 現今歐盟境內至少有1500家中小型生技公司，為減輕這類研發導向的中小型製藥公司之財務負擔，並提供一些藥政管理上的專門協助，歐盟於去2005年12月15日通過了〝歐盟醫藥品管理局協助中小型公司發展規則（COMMISSION REGULATION (EC) No 2049/2005 laying down, pursuant to Regulation (EC) No 726/2004 of the European Parliament and of the Council, rules regarding the payment of fees to, and the receipt of administrative assistance from, the European Medicines Agency by micro, small and medium-sized enterprises,以下簡稱本規則）〞。 本規則主要是希望EMA（European Medicines Agency, 即歐盟醫藥品管理局）能透過相關規費之減免及提供科學諮詢的方式，降低中小型公司新藥上市申請費用（一般而言，人類用新藥於歐盟上市需支付14 萬歐元的申請費用），進而促進技術創新及新藥研發。另為協助中小型公司能更快速及方便地利用到這些優惠，本規則特要求EMA應於其內部建立〝中小企業辦公室（SME Office）〞，並製作詳細之使用者手冊（User Guide）供中小型公司參考。 台灣大部分的生技製藥公司亦屬中小型，故政府應思考如何幫助這些公司成長茁壯。雖然我國對生技製藥產業相關已提供投資抵減優惠，但卻無特別針對中小型生技製藥公司的藥政管理法規，歐盟前述立法及其精神值得我國借鏡。
溫室氣體減量法草案出爐 新廠成本支出大增京都議定書已於二月正式生效，本年底將開始討論新興國家的管制措施，環保署預期，台灣最快將在二 ○ 一二年後，與其他新興工業國家並列為下一波管制對象。為了因應京都議定書未來的要求，我國已完成溫室氣體減量法的立法草案。未來政府將啟動總量管制的強制措施，明定溫室氣體總量管制等多項強制規範；並賦予經濟部可依法禁止或限制高耗能產業設置，或限制高碳類燃料輸入。惟未來新設工廠排放量必須列為企業總量管制的應削減量，雖然允許企業可與其他部門或不同產業類別交易排放量，但因成本支出大增，企業界認為影響投資意願而反彈聲浪甚大。 根據這項法案，一定規模以上的溫室氣體排放源，應採用最佳防制設施，新增溫室氣體排放量須列為實施總量管制後的「應削減量」，並作為環境影響評估審查通過承諾事項。也就是說，石化、鋼鐵等高耗能產業新設廠房、生產線時，依法必須使用高效能技術或設備，因而產生的溫室氣體量，亦必須在企業總排放量內進行削減。 惟這項規定，產業界認為向市場或向能源服務公司購買排放權，對新設工廠將大幅增加成本支出，影響投資意願，在環保署內審議時反彈聲浪甚大。由於產業界反彈甚大，環保署不但延後送出法案審議，同時考慮明定以「基限年」作為新設工廠是否須先在企業總量管制內削減，而基限年則視國際對新興國家管制動作而定。 法案並規定當國際規範我國溫室氣體應削減量時，啟動總量管制措施，企業必須依法削減既存的排放量，企業可與其他住宅或運輸部門交易，也可在同一產業類別或跨產業類別進行抵換或交易。如果總量管制仍無法達到減量目標時，將進一步實施碳稅新制。
世界經濟論壇發布《2022年全球網路安全展望》世界經濟論壇（World Economic Forum, WEF）於2022年1月18日發布《2022年全球網路安全展望》（Global Cybersecurity Outlook 2022），以面對因COVID-19大流行所致之遠距辦公、遠距學習、遠距醫療等新形態數位生活模式快速發展，以及日漸頻繁之具破壞性網路攻擊事件。為考量國家應優先考慮擴展數位消費工具（digital consumer tools）、培育數位人才及數位創新，本報告說明今年度網路安全發展趨勢及未來所要面對之挑戰包括如下： COVID-19使得工作習慣轉變，加快數位化步伐：約有87%企業高階管理層計畫透過加強參與及管理第三方的彈性政策、流程與標準，提高其組織的網路韌性（cyber resilience）。 企業資安長（chief information security officers, CISO）及執行長（chief executive officers, CEO）之認知差異主要有三點：(1)92%的CEO認為應將網路韌性整合到企業風險管理戰略中，惟僅55%CISO同意此一作法；(2)由於領導層對網路韌性認知差異，導致安全優先等級評估與政策制定可能產生落差；(3)缺乏網路安全人才以面對網路安全事件。 企業最擔心之三種網路攻擊方式為：勒索軟體（Ransomware attacks）、社交工程（social-engineering attacks），以及惡意內部活動。惡意內部活動係指企業組織之現任或前任員工、承包商或業務合作夥伴，以對組織產生負面影響方式濫用其關鍵資產。 憂心中小企業數位化不足：本研究中有88%之受訪者表示，擔心合作之中小企業之數位化程度不足，導致供應鏈或生態系統中使其網路韌性受阻。 網路領導者認為建立明確有效的法規範，將有助於鼓勵資訊共享與促進合作。