用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
2021年7月14日歐盟普通法院裁定時尚品牌GUERLAIN法國嬌蘭（簡稱嬌蘭）口紅外盒形狀可註冊為商標。 嬌蘭於2018年針對其口紅外盒設計向歐盟智慧財產局（簡稱EUIPO）提出商標申請，EUIPO審查認為申請的商標缺乏識別性特徵並駁回申請；嬌蘭進而向EUIPO提出上訴，其上訴委員會維持該決定，理由為口紅立體形狀外盒設計與時尚產業領域的其他產品沒有“顯著差異”。 在上訴中，歐盟普通法院裁定EUIPO上訴委員會的決定無效。法院將嬌蘭的口紅設計與最常見的圓柱口紅形狀、平行六面體形狀進行比較，並指出嬌蘭申請的口紅外盒設計與市面上其他品牌之口紅外觀設計有明顯不同，認為該口紅外盒設計具有顯著特徵。 最終，歐盟普通法院說明判斷商標是否具有顯著性，不應該以商標在相關商品和服務所屬領域具有獨創性或未使用為依據；此外，僅僅立體形狀的新穎性和美觀特徵為主觀看法，不足以得出具有獨特性的結論，因為決定性的標準是該立體形狀可顯現出商品或服務來源的能力。同時，歐盟普通法院重申相關判定標準是嬌蘭口紅外盒立體設計方式以類似於船、搖籃或倒置金條的獨特形狀組成，明顯與時尚產業固有的口紅外盒的圓柱、平行六面體形狀設計規範和習慣大相徑庭，並且相關形狀特徵設計足以讓相關消費者藉以區辨服務來源。 在時尚品牌產業，商標本身通常不能成為區分品牌產品的唯一方式，尤其是當一個品牌提供多樣化的產品時更是難以認定具有獨特性。本案普通法院對立體形狀商標顯著特徵的認可無疑將為希望可保護其產品顯著設計元素的時尚品牌帶來曙光。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
美國和歐盟合作推動統一優良臨床試驗規範美國聯邦食品藥物管理局(U.S. Food and Drug Administration)和歐洲醫藥局(European Medicines Agency)在2009年7月31日共同公佈了一項名為優良臨床試驗行動(Good Clinical Practices Initiative)的合作計畫，期能藉由該計畫，使得不論是在美國或歐盟，所有臨床試驗之執行，都有遵守相同且適當的規範。 在醫藥品上市申請的實務中，因為大部份的醫藥品都會企圖向廣大的歐美市場扣關，同樣的臨床試驗通常也會分別提交到兩地的醫藥品上市許可申請程序中。故若兩地主管機關可以合作訂出統一的優良臨床試驗規範，則可避免因重複審查所造成的資源浪費，申請者也可以因為統一的規範而加速其在兩地審查的程序，且在跨國資訊交流整合下，也可為臨床試驗研究的參與者提供更好的安全基礎。 此次美國聯邦食品藥物管理局，和歐洲醫藥局合作之優良臨床試驗行動的幾個主要目標如下： 一、定期交換有關優良臨床試驗之實務操作資訊：交換的資訊包括(1)彼此的優良臨床試驗(Good Clinical Practices, GCP)查核計畫，以了解有那些臨床試驗或地點是對方會去查核的，就不需要重覆查核；(2)彼此受理的上市申請案件中，有關GCP的如科學上的建議或上市申請的結果等；以及(3)彼此執行GCP查核之結果。二、共同執行優良臨床試驗審查：藉此了解對方之GCP查核程序，並進而信賴彼此之程序，也藉由共同執行時之交流，提昇彼此查核之技巧，及精進查核之程序。 三、合作增進優良臨床試驗規範：藉由對彼此GCP相關法規、指導原則、和政策等的交流及了解，找出現有規範中可予以改進之處，以增進臨床試驗研究的品質。 自2009年9月1日起，此項合作行動將首先開始一個為期18個月的先期行動，在此先期行動結束後，兩主管機關將會共同發布一份包含其整體行動計畫，及雙方就各自既有法規或程序應予以調整部分。
英國展開醫療器材監管公眾意見徵詢並公布《人工智慧軟體醫材改革計畫》英國藥物及保健產品管理局（Medicines and Healthcare Products Regulatory Agency, MHRA）於2021年9月16日展開期待已久的「英國醫療器材監管的未來」公眾意見徵詢（Consultation on the Future of Medical Devices Regulation in the United Kingdom），並公布「人工智慧軟體醫材改革計畫」（Software and AI as a Medical Device Change Programme）。英國欲從醫療器材上市前核准至其壽命結束進行監管改革，徹底改變一般醫療器材與人工智慧軟體醫療器材之監管方式。意見徵詢已於2021年11月25日結束，而該修正案預計於2023年7月生效，與英國針對醫療器材停止使用歐盟CE（Conformité Européenne, 歐洲合格認證）標誌並要求採用英國UKCA（UK Conformity Assessed, 英國合格評定）標誌的日期一致。 人工智慧軟體醫材改革計畫則包含十一個工作項目（work package，下稱WP），WP1與WP2分別為監管資格與監管分類，皆涉及監管範圍之劃定；WP3與WP4分別涉及軟體醫材上市前與上市後，如何確保其安全性與有效性的監管之研究；WP5針對軟體醫材之網路安全進行規範；WP6與WP7涉及加速創新軟體醫材審核上市之特別機制，分別為類似「創新藥品藥證審核與近用途徑」 （innovative licensing and access pathway）的機制，以及允許適時上市並持續研究監控風險的「氣閘分類規則」（airlock classification rule）；WP8為確保智慧型手機之健康應用程式安全、有效與品質之規範研究；WP9~WP11則分別針對人工智慧軟體醫材之安全與有效性、可解釋性（interpretability）以及演進式（adaptive）人工智慧進行法規調適之研究。 MHRA預計透過指引、標準、流程之公布而非立法方式實現其監管此領域的目標。MHRA亦透露，針對上述工作項目，其已與重點國家和國際機構進行研究合作，已有不少進展即將公布。
哥本哈根會議集思討論國際綠色技術移轉機制議題，實質突破性進展待後續再議去（2009）年12月19日在丹麥哥本哈根落幕的聯合國氣候變遷綱要公約（UNFCCC）第15次締約國會議（COP15）結論中，其中之一是各國達成將建立一套「技術機制」（Technology Mechanism），協助開發中國家獲得減少溫室氣體排放所需的綠色技術，促進綠色技術的發展及移轉，以作為實現減量及調適的支援措施，而這項機制將依據各國的環境條件及需求優先性分別進行。此外，會議並通過採納印度提出建構「氣候創新中心」網絡（Network of Climate Innovation Centers）之提議；不過整體而言，與其他氣候變遷議題一樣，建構國際綠色技術移轉機制之進展並不如預期。 國際間有關促進綠色技術移轉之討論，在UNFCCC第4條即有明文規定，不過這項議題直到2007年召開的COP13會議所宣布的「峇里島行動計畫」（Bali Action Plan）中，與減緩、調適、資金投資並列為後京都機制的四大主軸後，才獲得廣泛重視。而2008年召開的COP14會議中更進一步提出了「波茲南技術移轉策略方案」（Poznan Strategic Programme on Technology Transfer），由已開發國家透過適當的智慧財產權管理，提供開發中國家必要的綠色技術，以達成減緩的目標，當中包括技術需求及評估、技術資訊、有利環境、能力建構及技術移轉機制等具體作法。 在促進綠色技術擴散的大方向下，各國及國際組織也在今年陸續提出不同的倡議，並聚焦到智慧財產權上。諸如作為開發中國家代表的中國、印度及巴西即紛紛呼籲應仿效在緊急情況下對部分藥品專利之強制授權作法，使開發中國家得以免費使用對環境有益技術之專利；歐洲專利局、聯合國環境規劃署以及貿易暨永續發展國際中心三個組織也展開如何使專利制度能更加促進綠色技術之創新及擴散的研究工作。不過由於已開發國家擔心如此喪失龐大的商業利益，並減損創新研發的誘因，因此多採取保留態度。兩大陣營分歧的立場在哥本哈根會議中未能突破，而僅停留在過往共識的重申，也使得國際綠色技術移轉議題將留待2010年6月的波昂會議以及12月的墨西哥會議中持續再議。