用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
自從2010年07月Blizzad曾經宣布針對旗下網站論壇欲推動實名制引起廣大爭議後，於沈寂一年後宣布採用Battle Tag取代原本想推動的實名方式，Battle Tag 類似連網帳號綁定的方式，由玩家自行選擇一個名稱，而該名稱最終將整合成為玩家在Blizzard旗下所有遊戲的官方網站或社群論壇的身分。 Battle Tag讓玩家用新的方式管理他們的帳戶資料，同時可以讓曾經在遊戲中並肩作戰的玩家，在不同遊戲間找到彼此，而能保持聯繫。原本Blizzard推實名制的目的之一在於確保玩家是否年滿18歲，但因引發爭議而作罷。現在他們使用Battle Tag作為替代方法，而Battle Tag 其實是由玩家自行選擇一個帳號名稱，另外再由系統隨機分配4位數的代碼方式（例如：名稱#1234），藉此創設出玩家自己獨特的名稱。 另一方面，為了保護這些整合的帳戶，且提昇玩家的帳戶安全，Blizzard並採用驗證器（Keychain Authenticator、 Mobile Authenticator），實際上驗證器就是一種憑證，玩家將驗證器與帳號連結後，即可讓自己的帳戶增加一層防護，Blizzard藉此希望降低玩家帳戶被盜的風險，因為越多玩家參與的遊戲，其帳戶實體價值可能越高，且2012年5月15日發售的暗黑破壞神3（Diablo Ⅲ），更開放了亞洲區以外的遊戲虛擬物品的現金拍賣場，如此玩家的帳戶更需要重重保護，不過才發售不到一週的時間，就有許多玩家回報帳戶遭盜用，其中亦有使用驗證器保護帳戶的玩家聲稱仍然遭盜用。
OECD將就第一支柱金額A召開公開諮詢會議OECD（經合組織）於2022年9月12日巴黎時間12時至17時召開第一支柱金額A（Amount A of Pillar One）的公開諮詢會議。蓋2021年10月，共137個成員同意自2023年啟用雙柱計畫（Two-Pillar Plan），OECD為提供能協助各國制訂相關內國法之「示範規則（Model Rules）」，已多次並持續公開徵詢意見。 其中，作為第一支柱的全球利潤分配稅制，係針對全球收入逾200億歐元且稅前淨利逾10%的大型跨國企業，定其逾10%的利潤為「剩餘利潤」，並取25%依關聯性（Nexus）重新分配至價值創造地，此剩餘利潤即本次會議欲討論之金額A。 一旦劃歸金額A將適用高達25%之稅率，故2022年7月11日，OECD所公布第一支柱的「進度報告（Progress Report）」，即針對如何計算大型跨國企業之全球總所得、如何量化系爭所得為金額A之稅基、如何定關連性原則以決定各價值創造地對金額A徵稅權之有無及高低、稅捐競合時如何避免對金額A造成雙重課稅，以及各該要件之定義等核心問題，列出7項標題（Title）作為本次會議討論重點。 然而，除了金額A徵稅權之跨國分配所涉利害關係錯綜複雜外，因各國稅制與發展不一致、美國對雙柱計畫之態度似有保留、歐盟成員國迄今仍無法達成一致共識，以及烏俄戰爭引發的通貨膨脹等各種內外因素，均為第一支柱示範規則之訂定，甚至雙柱計畫之實施增加了不確定性。準此，本次會議重要性不言可喻，值得我國持續注意。
日本專利法中舉發和異議制度之沿革及現況日本專利法中舉發和異議制度之沿革及現況 資策會科技法律研究所 法律研究員 蘇彥彰 104年11月30日 日本於2014年基於「促進創新以催生優秀技術和商品，作為產業競爭力的源頭」之目的，在兼顧國際化和中小企業使用需求的前提下，就整體智慧財產法制包括發明專利法（特許法）、新型專利法（実用新案法）、設計專利法（意匠法）、商標法、國際專利申請法、專利師法等進行相當程度的修正，而其中專利法的修正重點之一為重新建立專利[1]的異議程序，並修正原有舉發程序之主體資格。由於日本產業種類和專利法制均與我國相近，其產業界對於專利之運用策略亦為值得我國業者參考之對象[2]，因此我國對於日本在相隔超過十年後再次恢復異議程序，使專利撤銷重新回歸異議和舉發雙軌制度之修正背景和具體作法，應有進行了解之必要。 一、日本專利撤銷制度沿革 日本於2003年時，基於以下原因[3]，廢除了原已實行超過80年的專利異議制度，將異議制度的功能整合於專利舉發制度中： (1)異議和舉發在制度設計上的區別性不足，以致於實務上同樣都被視為解決私權紛爭的方式； (2)當時的異議制度，在過程中並未能充分給予異議人具夠的意見表達機會，使整體異議人對處理結果滿意度低落； (3)異議和舉發實際上常同時繫屬於專利廳（特許庁），且由於制度結構不同無法合併處理；又或者異議人在異議被駁回後再提出舉發，造成紛爭解決時程的拖延，增加當事人之負擔且不利專利之安定性。 然而日本廢除異議程序後發現，以言詞審理為原則的專利舉發程序，對於當事人間的人力、時間、金錢負擔較過去異議程序為大，尤其對於非都會區的使用者，或是偏向研發而不進行製造的大學單位更不易進行運用，造成專利撤銷制度的受使用數下降。如此一來雖然短時間內專利核准數量和速度可因而提昇，但長此以往恐將增加有瑕疵的專利在市場上存在和流通的可能性，而更令日本方面憂心的是若事業者於獲得專利後已大舉進行投資，經過相當時日與競爭者間發生侵權糾紛後才被專利廳或法院認定專利無效，將可能對事業造成致命的損害[4]。因此在商業活動全球化，國際專利也透過專利高速公路而加快取得速度的現在，提高專利權安定的必要性也與日俱增。 基於上述背景，日本於2014年修正之專利法中，重新納入了異議制度，允許任何人（包括利害關係人及其他第三人在內），在專利公告後六個月內以不符專利要件、不符權利互惠原則、不應核發專利之發明、重複核發專利、欠缺說明書支持等涉及公眾利益之理由，向專利廳聲明異議並進行書面審查。若專利廳審查後初步認定異議有理由，將向專利權人發出撤銷理由通知，專利權人則可在縮限專利申請範圍、訂正誤記誤譯、就不明瞭記載進行釋明等不使專利範圍擴大的前提下，提出專利內容的更正；另一方面，異議人也可就專利廳的撤銷理由通知以及專利權人的更正請求提出意見書。此作法除可有效落實異議制度提昇專利品質、排除不適當專利外，亦可提高異議人對於異議結果的滿意度；此外在恢復異議程序的同時，新制也針對舉發程序進行修正，將發動舉發程序的權利主體限於利害關係人。 二、修正後日本專利異議和舉發程序分析 修正後的日本專利法，針對已公告核准的專利權再次設有異議和舉發兩道事後審查程序 (1)異議程序[5] 異議程序之目的在於就已成立之專利權儘早進行內容檢討修正，因此除限於公告後六個月內提出、異議理由限於與公眾利益有關之事項外，並採取完全書面審查方式，以加快審查速度且減低程序上支出。若專利廳認為異議有理由並撤銷專利時，專利權人可向高等智財法院起訴尋求救濟，但若專利廳認為異議無理由時，異議人不得聲明不服。附帶一提，雖然異議人具備利害關係人身份時可另行發動舉發程序，但就制度設計目的和精神而言，舉發並非異議結果之救濟程序。 (2)舉發程序 相較於以公益為目的之異議程序，修法後舉發程序之目的更加明確導向解決當事人間的具體權利紛爭。新制下，舉發主體限縮為利害關係人，但相對在時點方面，則容許於專利公告後任何時點提出（包括專利權期滿消滅後），理由亦不限於公眾利益事項，包括專利權人實際上並非專利申請權人之權利歸屬事項在內亦可作為舉發之理由，且審查過程以言詞審查為原則，若當事人對舉發結果不服，無論權利人或舉發人，均可向高等智財法院起訴尋求救濟。 三、小結：對我國專利撤銷制度之啟發 (1)以舉發程序取代異議程序之成效似乎有限 我國於2003年修正專利法之規定，廢除異議制度，整合原有異議與舉發之法定事由，期望能簡化程序並使權利及早確定[6]。 然而如同日本方面經過統計後得知，其國內舉發案件量在異議程序廢除前後幾乎沒有區別。若分析我國智慧財產局自1996年至2014年所進行之專利統計資料後可發現，1996年至2003年間每年約有近2000件異議案件及600餘件之舉發案件提出，自2004年起，異議案件提出量當然完全歸零，但舉發案件之數量雖在初期大量增加，隨後便如同日本情形，舉發案件量呈現快速減少之趨勢，近兩年已回歸2003年異議程序廢除前每年約600餘件之舉發量[7]。在異議案件量完全歸零，而舉發案件量無明顯成長的情況下，原本以舉發程序取代異議程序之目的是否有效達成，實不無疑問。 (2)區別權利主體設計不同的專利撤銷制度 與日本較強調當事人間紛爭解決功能、強化當事人程序上保障、甚至專利法中明文準用民事訴訟法上證據調查之相關規定[8]相比，我國舉發制度或因從職權撤銷專利權制度逐步補充而形成，故較著重於原處分之糾正和撤銷不合法之專利權，對當事人紛爭解決的關注度程度較低[9]。 就此，近來即有實務意見指出，公眾審查制度的設計可依請求審查對象區分為任何人（不包含專利權人）與利害關係人兩種。其中，不涉及利害關係的第三人僅能在專利公告後一段期間內提出無效請求，而利害關係人只要在專利權存續期間均能提起無效請求，甚至在專利權消滅後亦能提出，使得無效爭議案件集中限制在現行涉訟優先審查的專利舉發案，如此可促使專利無效案件審查的加速化、高品質化。且無論該專利無效爭議案件的審理結果是否確定，均可作為智慧財產法院在審理專利有效性的依據，使得第一次判斷權回歸至專利專責機關。同時，也能保障專利權人的救濟機會與審級利益[10]，此一意見實與日本2014年專利法之修正方向一致。我國在專利法制研擬上或可參考之，就專利撤銷制度以權利主體和程序目的為出發點，再次進行類型化的區分。 [1] 和我國將發明專利、新型專利、設計專利均置於單一「專利法」中規範的作法不同，日本的「特許法」、「実用新案法」、「意匠法」均為個別獨立之法規，故本文中之所稱「專利」均係指我國之「發明專利」，不包括「新型專利」和「設計專利」在內。 [2] 莊榮昌，〈從日本企業的立場看專利無效審判〉，《專利法制與實務論文集（95年）》，頁545（2007）。 [3] 高畑豪太郎，《新・特許異議申立制度の解説―平成26年特許法改正―》，経済産業調査会，初版，頁37（2014）。 [4] 同前註，頁5。 [5] 「特許異議の申立」規定於2014年修正後日本專利法第113條以下。 [6] 〈歷年專利相關法規〉，經濟部智慧財產局，https://www.tipo.gov.tw/fp.asp?fpage=lp&ctNode=6678&CtUnit=3205&BaseDSD=7&mp=1（最後瀏覽日：2015/12/14） [7] 〈歷年統計〉，經濟部智慧財產局網站，https://www.tipo.gov.tw/lp.asp?ctNode=6721&CtUnit=3231&BaseDSD=7&mp=1（最後瀏覽日：2015/09/25） [8] 特許法（昭和三十四年四月十三日法律第百二十一号）第百五十一条「第百四十七条並びに民事訴訟法第九十三条第一項 （期日の指定）、第九十四条（期日の呼出し）、第百七十九条から第百八十一条まで、第百八十三条から第百八十六条まで、第百八十八条、第百九十条、第百九十一条、第百九十五条から第百九十八条まで、第百九十九条第一項、第二百一条から第二百四条まで、第二百六条、第二百七条、第二百十条から第二百十三条まで、第二百十四条第一項から第三項まで、第二百十五条から第二百二十二条まで、第二百二十三条第一項から第六項まで、第二百二十六条から第二百二十八条まで、第二百二十九条第一項から第三項まで、第二百三十一条、第二百三十二条第一項、第二百三十三条、第二百三十四条、第二百三十六条から第二百三十八条まで、第二百四十条から第二百四十二条まで（証拠）及び第二百七十八条（尋問等に代わる書面の提出）の規定は、前条の規定による証拠調べ又は証拠保全に準用する。」 [9] 蔡鴻仁，《發明專利舉發之研究》，輔仁大學法律學研究所碩士論文，頁22至23（2004）。 [10] 陳政大，〈我國專利公眾審查制度之調整初探〉，廣流智權事務所，http://www.wipo.com.tw/wio/?p=4316（最後瀏覽日：2015/09/30）
德國慕尼黑地方法院日前認定特斯拉關於「Autopilot」等銷售（廣告）標示將誤導消費者自特斯拉（Tesla）推行Autopilot（此於特斯拉之繁體中文官網譯作自動輔助駕駛）以降，其原先宣稱可免手動（Hands free），但經美國國家公路交通安全管理局（National Highway Traffic Safety Administration，NHTSA）指摘特斯拉前述宣稱可能使駕駛人注意力渙散而發生事故，似乎影響近年來特斯拉對於其自動輔助駕駛系統之論調，而改要求駕駛人即便開啟該系統仍須將手放置於方向盤上。除了前揭特斯拉於車輛銷售（廣告）資訊所生的爭議外，日前2020年7月間德國慕尼黑第一地方法院（Landgericht München I）之合議庭的判決，認定特斯拉於其車輛（Model 3）之銷售（廣告）標示資訊的整體，以及原告競爭中心（Wettbewerbszentrale）所分別主張之內容，均屬不正當競爭防制法（Gesetz gegen den unlauteren Wettbewerb，UWG）第5條第1項第2句第1款之誤導性商業行為（Irreführende geschäftliche Handlungen，或譯作引人錯誤之交易行為）。 本件之爭點核心在於特斯拉現行車輛既有配備之Autopilot系統，以及消費者可自行選購之Volles Potenzial für autonomes Fahren（德文直譯：具備完全自動駕駛潛力，而特斯拉之繁體中文官網譯作全自動輔助駕駛）系統等用詞，因其等涉及車輛功能與設備之決定性概念和資訊，則與現行「車輛駕駛輔助系統」（Fahrassistenzsystem）存有落差，進而導致消費者理解與實際情況不一致之情形。 法院認定理由在於不論特斯拉之Autopilot或Volles Potenzial für autonomes Fahren等系統，均無法達到毋須人為介入行駛的情境，即便其於官網上有另行標註目前該等系統功能有限，仍須駕駛人主動監控所有行駛環境等，但因該等內容說明不夠透明與清晰，而仍無法排除其等資訊具有誤導性，故特斯拉使用Autopilot等詞以及其他暗示車輛技術上能完全自主（vollkommen autonom）等用語，將引起消費者錯誤認知其可在德國的道路上運行完全自主之自動駕駛系統（註：此部分似係指SAE標準等級5之自動駕駛系統，然德國道路交通法目前僅開放運行等級4以下之自駕系統）。不過該判決結果仍可上訴。