用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
Youtub宣佈開始測試影片下載服務，未來將朝向提供使用者免費或付費下載Youtube網站上之影片。同時免費提供下載的影片，創作者可選擇五種創用CC（Creative Commons）的授權模式；另一方面，影片所有人可自訂下載影片所應支付的費用，使用者則透過Google 體系的Google Checkout 付費。Youtube在其發表的聲明中指出，因為許多影片創作者希望影片能夠更廣為流傳，因此推出影片下載服務，影片所有人可以選擇影片的創用CC授權模式，使影片下載者在授權範圍內利用所下載的影片內容，促進影片內容的流通。 目前供下載的影片格式為MP4，屬於可普遍流傳播放的格式，可下載的影片在左下角有download連結。在實際應用上，Youtube目前正與Stanford、Duke、UC Berkeley、UCLA等大學透過該站測試免費下載學校報告、研究、演講，使學生或教授在課堂上可以離線使用與教學相關的影片。另外YouTube在My Video工具列中開發”My Purchases”頁面，讓使用者能追蹤他們所下載或想下載的影片。
歐盟法院取消adidas（阿迪達斯）三條紋商標2019年6 月19日歐盟普通法院（THE GENERAL COURT）於以商標並不具備獨特性裁定，長年深植人心之Adidas「三條紋」商標（下稱系爭商標）無效。 Adidas於2013年底，將系爭商標向歐盟智慧財產局提交「圖形商標」（figurative mark）之註冊申請，並登記商標用途為服裝、鞋類、帽子。而於隔年比利時鞋類公司Shoe Branding Europe BVBA依相關規定（Article 52(1)(a)、Article 7(1)(b) of Regulation No 207/2009）提出系爭商標無效之申請，經審議後系爭商標因無任何獨特性，批准無效。隨後Adidas向歐盟智慧財產局提出上訴（Articles 58 to 64 of Regulation No 207/2009），上訴聲明中並未針對系爭商標缺乏獨特性一事提出異議，而是稱系爭商標已符合「經使用取得其獨特性」之規定（Article 7(3) and Article 52(2) of Regulation No 207/2009）。惟歐盟智慧財產局認為，Adidas無法證明系爭商標在歐盟境內有經使用而取得獨特性駁回上訴，隨後Adidas再向歐盟普通法院提出訴訟。 最終歐盟普通法院之裁決，仍維持2016年歐盟智慧財產局取消此系爭商標註冊之決定。歐盟普通法院認為Adidas未能證明「三條紋」在全歐盟28國內有「獨特性」，系爭商標僅只為「普通的象徵標記」。所謂「獨特性」應為於全歐盟國之消費者清楚知悉系爭商標之「三條紋」等於Adidas，並能與其他公司之產品作出區分。
FCC公佈第三次美國寬頻測量報告延續過去兩年針對全國寬頻網路服務進行檢視，FCC在2013年2月公布第三次「美國寬頻測量報告」(Measuring Broadband America)。這份報告有別於過去，將受測技術從DSL、有線電視與光纖，涵蓋至衛星寬頻，使資訊更加多元。此外，網路服務供應商(Internet Service Provider，ISP)在今年尖峰時段(工作日晚間7點至9點)提供寬頻實際速度與網速的契合率達97%，而較2011、2012年進步，因此，這份報告的另一個重點，便是提出寬頻速度與廣告相符的三大關鍵： 1.ISP業者盡力改善網路效能(Network Performance)，而非調降牌告價(Speed Tiers )。 2.民眾接納更快速的網路意願，更甚過往。FCC指出，消費者訂閱網速的層級，逐漸從每秒14.3Mbps ，發展至15.6 Mbps。至於，使用網速低於1Mbps、或是1Mbps到3Mbps的民眾，近年也逐步採用更高速的網路。 3.衛星寬頻的進步：雖然，衛星技術在傳輸上仍有延遲的缺陷，但是，有近90%的民眾於尖峰時段，得到超過業者寬頻廣告速度的140%(業者宣稱具有12Mbps)，使消費者感受不出網路尖峰期。 為使2015年實現50Mbps寬頻網路具有1億家戶可連結，美國逐步發展國家寬頻計畫(National Broadband Plan，NBP)。FCC避免寬頻廣告速度與實際速度不符影響NBP發展，未來將要求ISP業者對於網路牌告負起責任(Accountability)，藉此增加市場競爭性與提高資訊透明度。以「美國寬頻測量報告」為例，藉由委員會、產業與其他利益相關人合作的方式，促進資訊的透明，使消費者在取得訊息後，有能力做出正確的決定，便是一種提高透明度的方式。 雖然，FCC認為寬頻網路進步與民眾採納較高速的網路，對於市場發展是一項利多，但部分輿論卻認為這與2011年12月31日FCC網路接取報告(Internet Access Report)結論相距甚遠。根據報告顯示，美國有高達42%的民眾下載速度不到3 Mbps、上傳速度不到769 kbps，而這與「美國寬頻測量報告」結果，確實大相逕庭。無論如何，可以窺見FCC視民眾使用意願與網路基礎建設同等重要，因此，如何增加消費者選擇較高速的網路，將是市場未來發展的關鍵。
法國出版商起訴GOOGLE侵權法國3大出版商5月11日宣稱將起訴Google，因Google未獲出版社允許，掃瞄了成千的書籍上傳到其網路圖書館。法國3大出版社為Gallimard、Flammarion和Albin Michel，在巴黎法院要求98億歐元(美金114億元)的損害賠償。 出版商宣稱Google未經同意而用數位掃描將近1萬本書籍內容於網站上，使大眾可以在線上獲得。出版商的法律團隊代表表示每掃描一本出版社書籍就要付1000歐元損害賠償。 對此，Google回應，他們堅信書籍掃描計畫是合法的，並且說明，我們非常驚訝收到此種指控，我們確信Google Book計畫符合法國法律和國際著作權法。 Google對出版商表示：「Google肩負著繼續與出版商一同工作，並且幫助出版商發展數位服務和讓出版的著作得以讓法國與海外的網路使用者接觸。」 另一位法國的出版商La Martiniere，在2009年用同樣的爭議成功的起訴了Google，在美國法院也推翻了Google掃描美國出版書籍內容的經營模式。