用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
於106年5月15、16日，在日本舉行第七屆「東南亞國家協會」(又稱ASEAN)與日本專利局的智慧財產權座談會，這次會議的目的，是以加強東南亞國家協會與日本的「智慧財產權商業環境」合作，並通過了日本與東南亞國家協會的聯合聲明。 一、背景 東南亞國家協會是日本繼美國與中國大陸後第三大進出口地，同時也是日本企業界未來短期、長期投資的目的地，日本企業看好將來在東南亞國家協會的業務發展。東南亞國家協會在2015年設立東協經濟共同體(AEC)，其後並發表「東協經濟共同體(AEC)2025綜合戰略行動計畫」，根據計畫內容，討論智慧財產權相關議題。日本專利局藉此鼓勵日本企業於東南亞國家協會發展業務，並積極展開與東南亞國家協會智慧財產權工作小組(AWGIPC)的合作。 二、結果概要 配合「東南亞國家協會2016-2025智慧財產權行動計畫」，日本與東南亞國家協會共同確立了中、長期智慧財產權的合作方向： 更新並訂立專利手冊(即專利審查指南)。 東協暨東亞經濟研究院(ERIA)共同研究與預測未來在東南亞國家協會關於智慧財產權的申請數量並提出建議。 鼓勵簽署並加入其他國際組織。 健全人力資源開發及考核管理。 鼓勵智慧財產權商業化並重視智慧財產權的重要性。 加強智慧財產權執法機構間的相互合作。 透過此次日本專利局與東南亞國家協會的智慧財產權會議，日本將持續支持並致力於與東南亞國家協會在智慧財產權上的保護。
澳大利亞政府擬修正《支付系統管理法》將數位支付，如Apple Pay、Google Pay納入法律規範中澳大利亞國庫部（Department of the Treasury）於2023年10月11日發布《支付系統管理法》（Payment Systems（Regulation）Act 1998）修正草案，擬擴張法案適用主體，將Apple Pay、Google Pay等數位支付或提供此項支付服務事業納入規範，其目的在於提升企業的開放性及責任，並關注大型科技企業在其中扮演的角色。 本次修正案中，將修改現行支付系統的定義及適用主體，擴大至提供支付服務平臺企業，將被視為金融機構受到拘束，並授權澳大利亞準備銀行（the Reserve Bank of Australia，下稱RBA）監管數位支付平臺。修正草案內容整理如下： 1.重新定義「支付系統」。現行法定義為「透過任何形式或方式促進貨幣流通的系統」，草案則納入非貨幣（non-monetary，如數位貨幣）及提供便利支付服務的支付平臺系統。 2.擴大「參與者」定義。現行法規中參與者僅包含管理、運作支付系統的企業，草案則擴張至與支付價值鏈（payments value chain）具直接或非直接相關連之所有企業。 3.現行規範中，僅RBA在可能涉及使用者財務安全及公共利益（下述）考量時，有指定支付系統的職權，並有權監管該支付系統，包含決定新參與者的加入、訂定制度內參與者應遵守的標準及指引、對相關爭議問題進行仲裁等。修法後國庫部部長（Minister）將擁有相同權力。規範所稱之「公共利益」，指有助提升財務安全、高效率並具有競爭性，且不會導致金融體系風險增加。 4.提高法案中刑事處罰的罰金金額。現行法規授權RBA訂定支付制度之相關標準及指引，若制度內參與者未依標準或指引行事，RBA會提出要求企業為特定行為或不行為之指示，仍未依循可能會科處澳幣5,500元的罰金（約臺幣11萬3千元），修法後將提高至2倍，惟罰金之處罰權最終仍須法院審判決定。 我國針對電子支付產業有電子支付機構管理條例、金融消費者保護法規範，並要求第三方支付服務業者落實洗錢防制法規定，避免淪為洗錢或地下匯兌工具，未來可持續觀察澳大利亞及其他國家對於支付平臺議題之討論及發展趨勢，作為我國評估相應治理措施及手段參考基礎。
歐盟通過經濟安全關鍵技術領域建議，以利會員國進行關鍵技術風險評估歐盟執委會（European Commission）於2023年10月3日公布「關於歐盟經濟安全關鍵技術領域之建議」（Recommendation on Critical Technology Areas for the EU’s Economic Security），以便與各會員國進行經濟安全關鍵技術之風險評估。該建議源自於歐盟於6月發布之「歐盟經濟安全戰略」（European Economic Security Strategy）目的在於地緣政治緊張之局勢下，將最大限度的減少經濟流動所帶來之風險，為歐盟經濟安全制定全面的戰略方針。此「建議」列出十大關鍵技術領域的清單，係根據以下標準進行風險評估： （1）技術是有促成及轉型之本質（Enabling and Transformative Nature of the Technology）。 （2）民用與軍用融合技術之風險（The Risk of Civil and Military Fusion）。 （3）科技可能被用於侵害人權之風險（The Risk the Technology Could Be Used in Violation of Human rights）。 根據上述標準所列出十個關鍵技術領域後，其中有四個領域項目被認定是最敏感之技術領域，分別有半導體、人工智慧技術、量子技術及生物技術四大類別。 歐盟積極制定此計畫，以確保先進技術不落入敵國手中，減少對於如中國等國家單一供應商之依賴；歐盟預計於今年年底與會員國進行廣泛的風險評估，以確保下一步可能所採取的措施，可能包含出口管制及對外之審查投資，預計於2024年初提案。
歐盟執委會將發展數位分身地球系統（Destination Earth system），應對氣候變遷危機和保護自然生態歐盟執委會（European Commission）於2022年3月30日提出了一項「目標地球倡議（the Destination Earth initiative）」，希望建立「目標地球系統」（Destination Earth system，以下簡稱DestinE系統），作為實踐歐洲「綠色協議」（European Green Deal）、「數位化戰略」（EU’s Digital Strategy）此兩項計畫的一部分。 DestinE系統係旨在全球範圍內開發一個高度精確的地球數位模型，透過整合、存取具價值性的資料與人工智慧進行資料分析等技術，以監測、建模和預測環境變化、自然災害和人類社會經濟之影響，以及後續可能的因應和緩解策略。未來希望將高品質的資訊、數位服務、模型預測提供予公部門運用，接著逐步開放給科學界、私部門、公眾等用戶，將有助於應對氣候變遷、實現綠色數位轉型，並支持塑造歐洲的數位未來。 為實現此一項目，歐盟執委會預計在2024年中前由數位歐洲計畫（Digital Europe Programme）投入1.5億歐元，並與科學、工業領域單位合作，包含歐洲航太總署（European Space Agency, ESA）、中期天氣預報中心（European Centre for Medium-Range Weather Forecasts , ECMWF）、氣象衛星開發組織（European Organisation for the Exploitation of Meteorological Satellites , EUMETSAT）等，透過建立核心平台逐步發展為DestinE系統，稱之為數位分身（Digital Twins）。 是以，DestinE系統將允許用戶存取地圖資訊（thematic information）、服務、模型、場景、模擬、預測、視覺化，其系統主要組成分為以下三者： 從而，DestinE系統用戶將能夠存取大量地球系統和社會經濟資料並與之互動，該系統可有助於： 核心服務平台（Core Service Platform）--該平台將基於開放、靈活和安全的雲端運算系統，提供決策工具、應用程式和服務，兼具大規模資料分析與地球系統監測、模擬和預測能力的數位建模和開放模擬平台。同時，也將為DestinE用戶提供專屬資源、整合數據、開發各自的應用程式。該平台服務的採購、相關維運將由歐洲航太總署負責。 DestinE資料湖泊（ DestinE Data Lake）--資料湖泊將提供核心服務平台、數位分身所需的獨立專用資料存取空間，並提供多元的資料來源和有效管理與DestinE系統用戶共享的資料，同時提高、擴大資料處理和服務。其將由歐洲氣象衛星開發組織負責營運。 數位分身（Digital Twins）-- DestinE 數位分身將依據不同的地球科學領域主題進行即時觀測、分類，例如極端自然災害事件、因應氣候變遷、海洋或生物多樣性，最終目標是整合這些數位複製內容（digital replicas），形成、建立全面性的地球數位分身綜合系統。因此，DestinE 數位分身將為用戶提供量身打造的高品質資料，用於用戶特定的場景模擬開發、決策。而該DestinE 數位分身將由歐洲中期天氣預報中心進行開發。 從而，DestinE系統用戶將能夠存取大量地球系統和社會經濟資料並與之互動，該系統可有助於： 根據豐富的觀測資料集，對地球系統進行準確、和動態的模擬，例如：關注與社會相關的領域、氣候變化的區域影響、自然災害、海洋生態系統或城市空間。 提高、加強預測能力並發揮最大化影響，例如：保護生物多樣性、管理水資源、可再生能源和糧食資源，以及減輕災害風險。 支持歐盟相關政策的制定和實施，例如：監測和模擬地球發展（陸地、海洋、大氣、生物圈）與人為干預，藉以評估現有環境政策和立法措施的影響，作為制定未來政策的依據。或預測環境災難、衍生的的社會經濟危機，以挽救生命並避免大規模經濟衰退。抑或透過開發和測試場景，實現永續發展。