用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
2011年3月31日，歐盟執委會啟用新一代的關鍵資訊基礎設施保護計畫(Critical Information Infrastructure Protection, CIIP)。上一代的關鍵資訊基礎設施保護計畫在2009年公布並已取得一定的成果。新一代的計畫集中在全球化的挑戰，著重在歐盟成員國與全球其他國家的合作，與相互之間的合作關係。 為了達成這個目標，歐盟執委會訂定以下的行動綱要： (1)準備和預防：利用成員國論壇(European Forum for Member States, EFMS)分享資訊及政策。 (2)偵測和反應：發展資訊分享及警示系統，建置民眾、中小型企業與政府部門間的資訊分享、警示系統。 (3)緩和及復原：發展成員國間緊急應變計畫，組織反應大規模網路安全事件，強化各國電腦緊急反應團隊的合作。 (4)國際與歐盟的合作：根據歐盟成員國論壇所制訂的，歐洲網際網路信賴穩定指導原則和方針，進行全球大規模網路安全事故的演習。 (5)制訂資訊通信技術的標準：針對關鍵資訊基礎設施制訂技術標準。 另外，在2011年4月14-15日舉行的關鍵資訊基礎設施保護電信部長級會議(Telecom ministerial conference on CIIP)，整個會議針對歐盟成員國、私人企業、產業界及其他國家進行策略性的對話，強化彼此在數位環境中的合作與信任關係。並針對新一代的關鍵資訊基礎設施保護計畫，向歐盟執委會提出相關政策建言。 受全球化、資訊化發展的影響，以及各國間互賴程度的增加，使得影響關鍵資訊基礎設施(CIIP)安全的問題，不再侷限於單一區域，更需要各方多元的合作。
全球創新指數顯示創新活動在疫情期間仍持續增長今(2021)年10月發布的2021年全球創新指數（GII）報告反映了創新如何塑造和維持世界的運作，最明顯的例子就是COVID-19疫苗的快速發展。此外，數位創新也提供了公部門和私部門應對大流行病浪潮的解決方案，例如接觸者追踪工具、應用程序和診斷方法等。 實際上在2020年9月，也就是COVID-19被宣佈為大流行病的六個月後，第13屆年度GII就預測了未來一年的研發支出將保持強勁。儘管大流行病造成了毀滅性的人員傷亡和經濟衝擊，但研發支出、智慧財產權申請和創業投資（VC）交易都在大流行病前的高峰上持續增長。 在2021年的GII報告中提到，在全球研發支出前2,500名的企業中，約有70%已發布了2020年的研發支出數據，從數據中可發現在2020年整體大約有10%的研發支出增長，且大約60%的企業聲稱其研發支出增加。在智慧財產權方面，向世界智慧財產權組織（WIPO）提交的國際專利申請在2020年創下歷史新高。2020年專利申請在醫療技術、製藥和生物技術呈現明顯增長，與前幾年形成鮮明對比，當時數位通信和電腦技術是增長最快的領域。與健康相關領域的專利活動反映了大流行病期間科學活動的持續增長，且鑑於最近醫療保健與加速數位化的研發突飛猛進，可以預期這些領域的專利申請將在未來幾年繼續強勁增長。
英國數位、文化、媒體暨體育部公布「應用程式商店經營者與開發者實踐準則」，強化消費者隱私與資安保護英國數位、文化、媒體暨體育部（Department for Digital, Culture, Media & Sport, DCMS）於2022年12月9日公布「應用程式商店經營者與開發者實踐準則」（Code of practice for app store operators and app developers），並規劃在未來九個月內要求Apple、華為、Microsoft等公司採行，以加強對消費者的隱私與資安保護。 根據該實踐準則之內容，APP商店經營者和開發者須滿足以下要求： （1）以友善使用者的方式與消費者共享資安和隱私資訊，如APP何時將無法在商店中取得、APP最近一次更新的時間、APP儲存與處理使用者資料的位置等。 （2）即便消費者禁用部分可選的功能與權限（如不允許APP使用麥克風或追蹤使用者位置），該APP仍可正常執行。 （3）制定穩定且具透明性的APP審查程序，以確保滿足實踐準則中資安與隱私最低要求的APP方能在商店內上架。 （4）當APP因資安或隱私原因無法於商店內上架時，向開發者提供明確的反饋。 （5）制定妥適的弱點揭露程序如聯絡表單（contact form），使軟體缺陷可在非公開（避免受駭客利用）的情況下被報告及解決。 （6）確保開發者即時更新其APP，以減少APP中的安全弱點數量。 總體而言，實踐準則要求APP必須具備相關程序，使安全專家能夠向開發者報告軟體弱點、確保安全性更新對消費者足夠醒目，以及將資安與隱私資訊透過明確易懂的方式提供給消費者。
Syngenta位於巴西Parana的基改研究機構遭到當地政府沒收瑞士跨國種子及作物科技公司Syngenta AG (SYT)正與巴西政府為基改活動展開訴訟。去（2006）年11月9日，Syngenta在巴西境內基改作物研究機構被迫關閉，研究機構所在地的Parana州州政府並以Syngenta違反巴西聯邦環保法規為由，沒收其所有投資的資產。Parana州境內有一座自然保護區－伊瓜蘇國家公園，伊瓜蘇國家公園是舉世著名的伊瓜蘇瀑布（Iguacu Falls）的所在地。根據巴西聯邦環保法規規定，基改作物不得栽種於自然保育區的十公里以內。 Syngenta位於Parana州的基改研究機構佔地達123公頃，然而距離伊瓜蘇國家公園卻僅約有六公里。1986年以來，Syngenta即已擁有該研究區域的產權，目前Syngenta已向巴西聯邦法院提出告訴，主張其得以合法在研究機構所在地進行相關研究。Syngenta抗辯理由主要有二：其一，Syngenta在該地進行基改作物田間試驗的許可，是由巴西聯邦政府的生物安全主管機關CTNBio所核發；其二，2006年初，巴西總統已將前述10公里的栽種間隔距離更改為500公尺。Parana州政府、巴西環境保護局Ibama、主張農業改革的活動份子等則主張，新的500公尺間隔規定不適用於Syngenta，蓋該公司早在巴西總統簽署新規定以前即已展開相關的試驗活動，Parana州環保主管機關早已祭出處罰，但Syngenta迄今未繳納罰鍰。