用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
歐盟部長理事會（Council of Ministers）已於今（2010）年4月27日要求執委會檢視其網路犯罪防制目標，並調查是否有需要設立一中央機構，以儘速達成下列幾項目標，包括：提高調查人員、檢察官、法官及法院相關人員的專業標準、鼓勵各國警方資訊分享以及協調歐盟27個會員國間打擊網路犯罪所採取之方式。 部長理事會提議由執委會進行設立專責機構之可行性調查研究，擬由該專責機構負責前述目標之達成，亦須評估並監督預防性與調查性措施之實行。該調查研究中應特別考量欲設立專責機構之目的、範圍及可能的經費來源，另外亦需考慮是否將其設置於位於海牙的歐盟刑警組織（European Police Office, Europol）中。考量網路犯罪跨國界之特性，為使打擊網路犯罪之相關措施更有效，必須有良好的國際合作及司法執行互助配合。部長理事會認為藉由專責機構之設立，不僅能夠協助培訓法官、警方及檢察官，亦能做為聯繫網路使用者、受害者組織及其他私部門的常設機構。 本部長理事會將歐盟現有之網路犯罪防制相關計畫分成短、中、長期計畫，要求執委會定期追蹤各項相關計畫之執行情況，亦將設立網路犯罪防制專責機構列入執委會後續四年所持續執行有關犯罪與安全治理的斯德哥爾摩計畫（Stockholm Programme）中。 此外，部長理事會也呼籲歐盟各國追蹤用於網路犯罪之IP位置及網域名稱，同時要求執委會協助建立共通的廢止機制，以進行網路犯罪防制。 位於希臘的歐盟網路與資訊安全機構（European Network and Information Security Agency, ENISA），是現階段歐盟網路犯罪防治的研究機構，其進行資訊安全威脅行為之調查，並提供相關建議，但僅是資訊服務單位，未實際投入打擊犯罪行動。
歐盟預計投入4700萬歐元強化中小企業智慧財產權的保護歐盟執委會及歐盟智慧財產局（European Union Intellectual Property Office, EUIPO）於2022年1月10日共同宣布啟動第二輪的歐盟中小企業基金（EU SME Fund），以強化中小企業的智財管理與布局。 歐盟於2020年11月發布了《智慧財產權行動計畫（Action Plan on Intellectual Property）》，並推出中小企業基金，在2021年間共補助12,989家的中小企業，補助金額達680萬歐元。由於成效不錯，因此歐盟推出第二輪的中小企業基金，其金額高達4700萬歐元，補助期間為2022年至2024年。歐盟指出，中小企業在保護創新上需要有相關的工具及資金，目前規劃的補助項目如下： 補助中小企業申請智財檢視服務（IP Scan service）90%的費用。該項服務是在2021年6月推出，內容為中小企業智財布局的諮詢，以及協助檢視其無形資產（intangible assets）的創新潛力。 補助中小企業向各會員國智財局、歐盟智財局（EUIPO）、比荷盧智財局（Benelux Office for Intellectual Property, BOIP）申請商標、設計註冊75%的費用。 補助中小企業向世界智慧財產權組織（WIPO）取得國際商標和設計保護50%的費用。 2022年將補助中小企業向各會員國專利局申請專利註冊50%的費用。 2023年預計進一步納入補助的項目包含：補助中小企業進行專利先前技術檢索、專利申請的部分費用；律師諮詢費（如專利註冊、授權協議、智財鑑價、替代性紛爭解決機制等事項的諮詢。） 歐盟希望透過上述的方式，協助中小企業在疫情期間加速數位轉型，強化無形資產的智財布局和管理，以提升歐盟中小企業的競爭力。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
美國德州東區地方法院對Ericsson v. Samsung案發布反禁訴令，禁止援引中國法院禁訴令干擾美國法院對SEP管轄權美國德州東區聯邦地方法院於2021年1月11日對Ericsson v. Samsung案發布反禁訴令（anti-anti-suit injunction），禁止三星援引中國大陸湖北省武漢市中級人民法院作出之禁訴令（anti-suit injunction），以強制執行愛立信4G及5G行動通訊技術領域的標準必要專利（standards-essential patents, SEPs）。 本案源於三星與愛立信更新全球專利交叉授權契約時，雙方對於SEP授權價格是否符合公平、合理、無歧視（Fair, Reasonable and Non-discriminatory, FRAND）未能達成協議。故2020年12月11日，愛立信在美國德州東區地方法院對三星提起訴訟並為通知，請求美國法院確認愛立信的SEP授權符合FRAND；三星則於12月7日，選擇向中國大陸武漢法院提起訴訟，請求對愛立信裁定發布禁訴令，禁止愛立信在全球其他國家的法院另行提起SEP訴訟救濟，直到12月25日中國法院核准禁訴令後才通知愛立信。愛立信旋即於12月28日向美國法院提出暫時禁令和反禁訴令（禁止中國禁訴令干擾），美國法院立即同意核發暫時禁令，並於2021年1月11日核發初步禁制令，明定在美國一審判決結束前三星須遵守以下要求：(1)三星在中國武漢法院民事訴訟中的行動，不得干擾美國德州東區地院的合法管轄權；(2)禁止三星援引中國武漢法院禁訴令，剝奪或限制愛立信及其子公司在美國實施專利訴訟權利；(3)三星透過不公平的經濟影響力，迫使愛立信需繳納違反中國法院禁訴令罰款，三星應賠償愛立信因此所受損害。 另外，美國德州東區地方法院認為，本案兩法院間處理的是不同的法律爭議。三星是要求中國武漢法院針對愛立信4G及5G的SEP訂定全球授權價格；愛立信則是請求美國德州東區地方法院確認，兩家公司間的授權協商行為是否遵守FRAND。故美國法院並非要求三星撤銷中國大陸禁訴令，更無意介入中國法院的民事訴訟程序並阻止審查專利糾紛。美國法院核發反禁訴令的目的，是為了維護美國法院對訴訟的適當管轄權，以確保中國及美國二法院都能對本案進行訴訟。
Google新版桌面搜尋工具引發隱私權顧慮Google在2006年2月11日推出最新版的桌面搜尋工具Google Desktop 3，它的最新功能可以讓用戶同時搜尋多台電腦的資料。當啟用這項功能後，它會將電腦裡的文件和文字檔案（如Word、Excel）內容予以複製上傳到Google的伺服器上。當用戶在一台電腦搜尋資料時，也會在其他台安裝此工具的電腦自動開始搜尋。Google 表示，目前已經有很多人同時使用數台電腦，這個新功能可以讓使用者的生活更為便利。 但是倡導網路隱私權的團體Electronic Frontier基金會卻表示憂慮。由於新功能可能會讓駭客更容易盜取用戶個人資料，用戶的個人隱私將面臨更大的威脅。該基金會律師Fred von Lohmann認為，使用者應重視個人資料被放在Google伺服器上可能產生的問題，這比便利性更為重要。因為使用時若未花時間處理功能選項和設定問題，它將可能導致個人資料諸如納稅、醫藥和財物紀錄，以及其他文字檔案等資料外洩。