用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
「專利蟑螂」( Patent Troll)由個人或是中小型組織/團體以購買專利的方式來獲得專利權，並藉由專利權排他性特徵，以訴訟方式來控告侵害其專利權的成功商品製造者。 「專利蟑螂」主要特徵有三；(1)主要係藉由專利取得的方式，向潛在或可能的專利侵權者收取費用；(2)此類NPE並不進行任何研發活動，其亦不就其所擁有的專利來從事商品化活動或發展新型技術；(30此類NPE投機性地等待商品製造者在投入不可回復之鉅額投資後，始對該商品製造者行使專利侵權主張。 然而，一般對於NPE對專利制度以及專利市場之影響，會以Patent Troll之行為模式作為觀察起點，例如，有論者認為專利蟑螂所從事購買與再行出售專利的行為，可以增進專利交易市場的效率化。同時，該行為不僅讓弱勢的專利創作者享有因其創作所產生的財務收益外，其亦發揮了同於仲介者（dealers）或是市場創造者（market-makers）功能的專利金融性市場 。亦有論者認為，專利蟑螂的行為已經帶來經濟上的危害（economic harm），因其慣於同時向不同公司索取適度的（moderate）專利授權費用。而為了避免陷入風險極高且耗費甚鉅的專利侵權訴訟，被索取專利授權費用之公司皆傾向給付專利蟑螂一定額度的專利授權金，以免除陷入不確定專利訴訟的泥皁。同時，專利蟑螂亦傾向選擇目標公司（target companies）最脆弱的時點，例如：新產品的發表、宣傳費用的投入等，再對其提出專利侵權訴訟，使其被迫必須遵循專利蟑螂的要求來擺脫可能陷入專利侵權訴訟的羈絆。
90億基金挹注 生技業添活水為推動國內生技業發展，行政院開發基金審核通過90億元成立三種「生技創業種子基金」，今年將開始運作，希望發揮拋磚引玉功能，吸引異業的大型民間資金投入生技產業。而為加強BIO-IT跨領域異業科技整合，行政院近期內還要推動Mega Fund大型基金參與，建構台灣成為亞太地區最活躍的生技重鎮。 生技產業被公認為21世紀的明星產業，台灣也列為兩兆雙星產業發展計畫的重點推動項目，並提出具體執行策略與願景目標，以建構台灣為擁有亞洲區最活躍的生技創投產業、基因體研究重鎮、人體臨床試驗中心與亞熱帶花卉王國，成為國際生技與製公司進入亞洲市場的重要門戶。 不過行政院科技顧問組在立法院科技與資訊委員會備詢時指出，台灣現雖已有223家創投公司，其中61家近三年正逐漸將生技納入投資組合。可是國內的投資人對研發型生技產業仍瞭解不夠，投資在生技創投資金雖有增加，著重投資於國內技術移轉及產業化過程中的草創期資金缺口，但行政院開發基金日前已通過三個「生技創業種子基金」，金額90億元，卻還沒有開始運作，異業的大型民間資金也還沒有進入生技產業。 為強化生技政策與資源統籌，行政院決定今年設立「生技產業策略諮議委員會」，替台灣生技產業未來方向作整體評估與規劃，並引導國際聯盟的佈局。
iPhone5 推出後產生之法律爭議當蘋果的員工應該是在慶祝iPhone5的發表時，其實該公司的法務團隊為另一個商標侵權的爭議而緊張。 SBB(Swiss Federal Railways)是瑞士的國家鐵路公司，可能控告蘋果在iOS6中，一個新的以時鐘作為特色的使用。該公司聲稱蘋果侵害這個於1944年所創造出的設計。 SBB先前曾經同意鐘錶製造廠在簽署授權同意書後使用該設計，也期待與蘋果進行商討，以盡快解決此一爭議問題。SBB發言人表示：「金錢並非是最優先考量的利益，對於蘋果使用我們的設計我們是感到驕傲的，若是於兩個優質品牌之間可以有合作關係，將會是雙贏的局面。」 而蘋果的發言人回應：「此一有爭議的設計僅出現在iPad没有在iPhone」，並無其他評論。 這似乎是第一個商標爭議，蘋果可以快速且溫和地解決；因為蘋果與Samsung及其他科技大廠在全世界的爭議似乎是永無止境，在中國就得面對不少的法律問題。 的確，再幾周後SBB與蘋果已達成協議，SBB車站時鐘的設計可使用於蘋果的某些產品設備，如：iPad、iPhone，雙方已經過討論並在授權同意書中達成協議，該協議已同意一定金額的授權金，而進一步的授權細節則是維持機密。
英國下議院正在二讀審查商業及貿易部提交之數位市場、競爭和消費者法案英國商業及貿易部（Department for Business and Trade）於2023年4月25日向下議院提交《數位市場、競爭和消費者法案》（Digital Markets, Competition and Consumers Bill，以下稱DMCC法案），該法案提議對既有的企業競爭與消費者權益規範進行調整，以促進數位市場之競爭及創新。DMCC法案正在下議院進行二讀中，法案架構參考澳洲與歐盟相關制度規範，期望能藉政府干預而調解大型網路平台分別與小型媒體、消費者間議價能力失衡及資訊不對稱問題。 DMCC法案將授權英國競爭暨市場管理署（Competition and Markets Authority）及其轄下數位市場部（Digital Markets Unit）監管與確保數位市場之開放性，並強化消費者權益的保護。法案主要分為三部分： 一、更新數位市場制度：數位市場部將依據企業的商業模式、全球或英國營業總額與市場影響力等面向，判斷該企業是否具策略市場地位（Strategic Market Status，以下稱SMS），並為SMS企業設定行為準則，避免其策略或活動影響市場自由。 二、公平競爭：DMCC法案調整《競爭法》（Competition Act 1998）涵蓋範圍，自地域管轄擴張為對英國貿易產生直接、實質與可預見影響的境內、外行為；同時加強競爭暨市場管理署調查反競爭行為與執法權限，包含扣押文件及證據、面談案件任何關係人。 三、強化消費者保護：DMCC法案將替代部分《保護消費者免受不公平交易條例》（Consumer Protection from Unfair Trading Regulations 2008），且針對線上交易提供新的契約規則，賦予競爭暨市場管理署調查侵權行為之權力。 DMCC法案正在下議院審查中，但草案內容已引起各方關注，正式通過前仍可能因社會各方利益團體之遊說、磋商而修改條文內容。