用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
「地方創生」之概念源於2014年日本安倍內閣所提出的地方治理新模式，又稱「激勵地方小經濟圈再生」政策（ちほうそうせい），其施政重點主要為解決三大問題：人口高齡化和負成長造成的勞動力人口的減少、人口過度集中都會區（尤其是東京）以及地方人口外流以致人力資源不足而使地方經濟發展面臨困境之情形。 自2008年以來，日本人口開始加劇下降，導致消費和經濟實力下降，成為日本經濟和社會的沉重負擔。為解決該情況，國家與地方合作對地區發展持續落實、檢討、修正相關政策。政策原則為自立性、未來性、區域性、直接性、結果導向；政策內容亦稱為地方創生三支箭（地方創生版・三本の矢），包含： 資訊支援（情報支援）：推廣區域經濟分析系統（Regional Economy Society Analyzing System, RESAS），使各地區能對產業、人口、社會進行必要的數據分析，並能依據分析結果解決地方問題。 人才支援：維持地方生活在地化、就學在地化、服務在地化，並派駐國家公務員至小規模的地方政府機關，輔佐地方機關首長。 財政支援：補助地方創生政策執行、補助地方基礎建設、施行地方稅制改革。 地方創生之目標，在於鼓勵日本國民維持在當地工作，為地區創造新人潮，並使地方年輕人能在家鄉安心結婚育兒，此外，讓各地結合地理及人文特色，發展出最適合地方的產業，中央和地方持續合作以實現地方政府的永續發展目標。
美國最高法院明確放寬專利權耗盡原則之適用範圍美國最高法院於2017年5月30日針對Impression Products v. Lexmark International作出最終裁決，說明當專利權人銷售專利產品時，無論在美國境內或境外，專利權人不能再以美國專利法來限制該專利產品，一經銷售後該產品專利權已經耗盡。 本案起因為美國印表機研發製造大廠Lexmark推出兩項碳粉匣方案：原價碳粉匣，無任何轉售限制；以及優惠碳粉匣，並附帶「一次性使用」（single use）及「不得轉售」（no resale）限制條款，消費者不得自行填充再利用、再轉售或轉讓給原廠以外的第三方。本案專利權人Lexmark控告同業Impression侵害其權利（違反一次性使用及不得轉售），被告Impression則主張兩項碳粉匣產品的專利權在美國境內的首次銷售後就已耗盡了。該案爭點包含：（一）專利產品在境外首次授權或銷售，是否導致專利權耗盡；（二）專利權人訂立售後限制條款，可否用以追究當事人違反限制條款責任？ 地院引述最高法院過去兩個判例（Quanta案及Kirtsaeng案），裁定Lexmark專利產品因首次授權銷售情形而權利耗盡。原告Lexmark提出上訴，CAFC則認為專利產品在境外銷售情形，不會導致專利權人在境內專利權耗盡，且在首次銷售時給的授權，已經合法限制再銷售或再使用，故Impression仍構成專利侵權。 最終，最高法院推翻CAFC見解，認為無論是專利權人直接銷售，或是對專利產品加諸任何限制，專利權人決定銷售產品時，該產品相關的專利權就會耗盡。另外最高法院亦指出，當專利權人透過契約與購買者約定，限制其使用或轉售的權利，其在契約法上或許有效，但在專利侵權訴訟中則沒有用。本案後，最高法院確立採國際耗盡原則，說明專利權人在全球任何地方，產品經銷售後即權利耗盡，無論專利權人是否有任何售後限制。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」
美國FTC正式聲明：現已將「終止給付遲延(Pay-for-Delay)藥品訴訟和解協議」列為最優先處理之反競爭事項為表明促進公平競爭及保護境內消費大眾利益之決心，美國聯邦貿易委員會(Federal Trade Commission；簡稱FTC)於今(2010)年7月27日時，正式提出一項聲明，其內容，除詳細說明其近來為促進競爭及保護境內消費大眾利益所為之各項工作外，亦正式將『終止過往於品牌藥廠與學名藥廠間所為之給付遲延訴訟和解協議』列為『最優先』處理之反競爭事項」。 根據FTC所蒐集之資料顯示，單自今年元月份起算，至今，於美國境內各大品牌藥廠及學名藥廠間所簽訂之訴訟和解協議中，已有21件藥品專利訴訟協議，因涉及以「補償金」(Compensation)來作為和解條件，而成為FTC進一步調查之對象；此外，與前一會計年度中所達成之訴訟和解協議相較，除於數量上，呈現有增無減之趨勢外；FTC方面也證實，在各方藥廠採取另一類藍海策略且不再相互為市場競爭之前提下，此類和解協議已為境內各藥品廠商減省下約90億美金之競爭成本。 而進一步觀察FTC於近期內蒐集之新資訊後顯示，除以「補償金」模式來作為達成訴訟和解協議之條件外，可能還存在著另一種形式之訴訟和解協議；亦即，於藥廠間新近所簽定訴訟和解協議中，並不必然包含由品牌藥廠為一定金額給付之項目；根據實務統計，於2010年美國會計年度前9個月內所達成之各訴訟和解協議中，確實有近75%之訴訟和解協議，於協議條件或項目上，並未包含任何有關品牌藥廠對競爭學名藥廠和解金之給付；對此，FTC表示：「從各種跡象及數據顯示，目前於各藥廠間，確已衍生出數種新型態且具潛在反競爭可能之訴訟和解協議」；故從FTC將持續致力對此類不當訴訟和解協議為反競爭調(審)查之角度來看，未來，勢必將面臨更多且更嚴苛之挑戰。 最後，Leibowitz強調：「此類不當訴訟和解協議如同正快速擴散之傳染病一般，若完全聽任其發展而不加處理，日後定有越來越多藥品之上市，將受其影響；同時，就藥品價格之決定，最終亦將與自由市場競爭機制脫鉤；如此，除將間接導致公眾近用低價藥品困難度之提升外，亦將一併造成病患長期用藥成本負擔之增加」。
蘋果，谷歌結束智慧型手機專利訴訟蘋果（Apple）與谷歌（Google）旗下的摩托羅拉移動公司（Motorola Mobility）已明確決定就所有有關智慧型手機技術的專利訴訟達成和解。 兩家公司於5月16日周五共同聲明，此次和解並未包含專利交互授權的協議。聲明中指出「蘋果與谷歌亦同意在某些專利改良的領域可進行合作」 蘋果和使用谷歌的Android軟體技術製造手機的公司，已經在全球提出許多類似的訴訟，以保護自己的技術。蘋果認為Android手機所使用谷歌軟體技術，複製於iPhone手機。 依據兩家公司提出的申請，已通知華盛頓聯邦上訴法院駁回訴訟案件，但這協議似乎看起來不適用於蘋果對三星電子公司所提出的訴訟，因未接獲駁回案件的通知。 蘋果和摩托羅拉移動的爭議開始於2010年，摩托羅拉指控蘋果侵犯多項專利，其中包括一個主要如何使手機於3G網路上運行，而蘋果表示，摩托羅拉侵犯其專利的智慧手機的某些功能。 這些案件被合併由芝加哥聯邦法院，然而，審理法官Richard Posner在2012年審判前夕即駁回案件，認為無任何一方可提供足夠的證據各自的主張。上個月，上訴法院讓iPhone製造商另一次機會，贏得一個對抗競爭對手的銷售禁令。 谷歌於2012年以125億美元收購摩托羅拉移動，今年將摩托羅拉移動出售給聯想，仍保留大多數的專利。