用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
瑞典斯德哥爾摩地方法院於2015/11/27針對網路服務提供者（ISP）責任作出判決，有別於過往相關著作侵權訴訟，對象係針對個人或是散布侵權檔案之網站經營者，此次為針對網路服務提供者責任作成的第一筆判決，其結果具有指標性意義。 此次訴訟是由華納、新力、聯合音樂、北歐電影與瑞典電影中心聯合提起，請求法院命一瑞典ISP業者阻斷二個涉及著作權侵害之網站連結。原告等聲稱被告提供網路連接到侵權網站之行為，已構成侵害行為的參與（medverkar），據此請求法院禁止被告繼續此參與侵害行為。然法院未予採納，認為：（一）依歐盟指令（Infosoc-directivet）之要求，若網路中介者之服務受到第三人利用，作為侵害著作權及其鄰接權之用途，各會員國須提供著作權人司法救濟途徑，以對抗中介人。由於瑞典著作權法已提供禁制令（föreläggande）之申請予著作權人，藉此對抗參與侵害行為的幫助犯。可見瑞典著作權法已符合指令之要求。（二）其次，法院認定本案被告係單純提供其顧客網路聯結到侵權網站，不構成瑞典著作權法上之參與侵權行為。因所謂參與必須是客觀上對侵權行為人有幫助行為（如給與建議及諮詢），但本案被告並未與侵權網站有任何契約或特定關係，不能因為少部分之非法使用者利用其網站連結便認定其構成參與侵權行為。故法院認定本案不具備核發禁制令條件，駁回原告等請求。對此，原告擬提出上訴，後續發展有待觀察。
美國聯邦通訊委員會（Federal Communications Commission，FCC）提議恢復網路中立相關規範，並發布規則草案美國FCC主席Jessica Rosenworcel於2023年9月26日發表演說，並於內容中提案恢復在美國前總統川普任期間被廢止的網路中立性（Net Neutrality）相關規定，包含禁止寬頻網路業者對給付額外費用者提供「快速線路（fast lanes）」，或禁止電信業者對其網路服務減慢網速等規定。 FCC表示網路中立性規範可維護以下4大要點，包含： 1. 開放性：避免消費者觀看合法內容受阻，或是需要支付額外費用取得。 2. 國家安全：將寬頻網路渠道重新分配，以對抗潛在國安威脅。 3. 資訊安全：FCC得以強化寬頻網路韌性（resiliency），並要求網路業者在中斷網路時，需先行通知FCC與消費者。 4. 全國標準性：將樹立全國統一標準取代各州自行規範。 然而，有產學界的反對意見指出，在相關規定廢止期間，並未發現有網路業者因額外收費而對消費者的網路內容或網速進行干預。故認為FCC誇大了這些隱憂。 2023年10月19日，FCC在內部表決後，確定開始恢復網路中立規則程序，並於隔日發布包含最新草案內容之擬議規則制定通知（Notice of Proposed Rulemaking），草案除包含以上4要點相關規範以外，亦包含對寬頻網路近用業者（Broadband Internet Access Service，BIAS）等相關業者要求與限制，例如： 1. BIAS業者必須為殘疾消費者（disabilities）提供網路使用相關幫助。 2. BIAS業者將劃分為電信業者（telecommunications service）並適用相關規定。 針對目前草案內容，FCC目前正在公開徵詢意見，預定徵詢期限至2023年12月24日，並在2024年1月17日將意見彙整回報後，再進行後續表決及相關程序。 若網路中立性規範恢復，可能影響具跨國業務的網路業者，進一步影響其他國家的網路政策與法規，故亦可能對台灣網路業者與網路政策產生影響，值得我國持續關注後續發展。 本文同步刊登於TIPS網（https://www.tips.org.tw）
ECtHR就國會發言揭露個資是否構成隱私權侵害作成判決，強調應尊重國家之裁量歐洲人權法院（European Court of Human Rights，簡稱ECtHR）於2025年4月8日就Green v. The UK案作成判決，針對國會議員發言揭露個資是否構成隱私權侵害之爭議，強調國家就衡平立法權與司法權的界線、言論自由與隱私保護等利益享有裁量權，駁回了申訴人之請求。 一、事實背景 本案起源於英國每日電訊報（Telegraph）試圖就英國零售集團Arcadia的前員工針對其董事長Philip Green的職場性騷擾與霸凌指控進行報導。先前，Arcadia及Green已與涉及相關糾紛的員工達成了和解協議，依據協議所附保密協定，員工除正當揭露（如向警察揭露犯罪）外不得洩露相關資訊。Green於Telegraph於報導前徵求當事人評論時發現資訊遭洩露，隨即向法院申請禁制令與暫時禁制令，英國上訴法院嗣後批准了暫時禁制令，認定Telegraph獲得的資訊很可能來自違反保密協定的揭露，也不認為欲報導的內容當然具備凌駕當事人可能蒙受之損害的公共利益。Telegraph最終尊重了暫時禁制令。惟隔日，一位英國上議院議員援引言論免責權，於議會發表了雖不涉及細節，但具體提及Green身分和關於其性騷擾、霸凌的指控，並提及Telegraph遭禁制報導一事。Green因此向議會申訴，認為議員違反了司法保密規則（sub judice rule）（編按：上議院曾做成決議，認除非具全國重要性，議員不得於動議、辯論或質問中論及繫屬於法院中的個案）及濫用免責權，但上議院標準專員（House of Lords Commissioner for Standards）認為司法保密規則不屬於《上議院行為準則》。Green嗣後在法院中試圖向Telegraph請求賠償，認為Telegraph應要為議員的發言負責，違反了禁制令，並要求提供線人身分。Telegraph抗辯，在議員享有免責權的前提下，法院毋庸受理本案處理其責任問題。Green向ECtHR提出申訴，主張國家對議員使用免責權揭露受禁制令約束的資訊的權力缺乏事前和事後控制，侵犯了其受歐洲人權公約（ECHR）第8條保障的私生活權。 二、法院判斷 法院認為由於受暫時禁制令保護的資訊被揭露，Green的私生活權利確實受到干預。然而，法院不認為國家違反了公約課予國家保護私生活權之積極義務（positive obligation）。核心理由在於：國家對如何履行積極義務有廣泛的裁量權，且於各國就保護方式較無共識，或涉及基本權利間之衡平時，法院尤應尊重裁量空間。 針對本案，法院認為：（1）議會中的言論自由享有較高程度的保護，對其干涉需要非常重大的理由（very weighty reasons）；（2）涉及司法權與立法權的具體界線，以及言論自由與隱私保護的利益衡量；（3）必須考量議會自治原則在多國之間有廣泛共識；（4）英國並非完全沒有針對國會議員發言的事前、事後控制措施。儘管非屬《上議院行為準則》，但上議院所做成的司法保密規則決議，仍屬一定程度的事前控制。事後來看，國會議員若確實構成濫用免責權，法院也可以判處蔑視法庭罪。 法院總結認為，基於原則上各國議會較國際法院，更適合評估限制議會行為之必要性與手段，法院要取代這個判斷須要非常重大的理由，但本案中Green並無法成功論述這個理由存在，因此駁回Green的主張。
WIPO發布《世界智慧財產權指標》，2021年全球智慧財產權申請數量仍持續增加世界智慧財產權組織(WIPO)於2022年11月21日發布了《2022年世界智慧財產權指標（World Intellectual Property Indicator, WIPI）》。WIPO以全球150個國家智慧財產主管機關的統計資料、產業的市場調查資料作為分析標的，針對全球專利權(含新型專利)、商標權、工業設計、植物品種權、地理標示、創意經濟(出版業)的整體發展狀況進行調查。 根據2022年的分析結果顯示，與過往經濟衰退期間的歷史經驗不同，在COVID-19疫情期間，2021年全球智慧財產權的申請數量持續增加。如： 1、「專利」的申請量增加了3.6%。 2、「商標」的申請量(含指定類別)增加了5.5%。 3、「工業設計」的申請量增加了9.2%。 4、「植物品種」的申請量增加了12%。 以商標為例，2021年全球共提交了約1390萬件商標申請，申請量從金融海嘯後(2009年)至今連續12年成長。其中，亞洲商標主管機關受理的商標申請量占全球的69.7%，較2011年時的44.7%有顯著成長；受理商標申請的前五名國家分別為： 1、中國國家知識產權局(CNIPA)：約950萬件。 2、美國專利商標局(USPTO)：約90萬件。 3、歐盟智慧財產局(EUIPO)：約50萬件。 4、印度專利、設計及商標管理局(CGPDTM)：約49萬件。 5、英國智慧財產局(UK IPO)：約45萬件。 此外，指標針對「非母國申請案(Non-resident trademark applications)」的產業別進行分析，分析結果顯示2021年各國商標申請人至外國市場尋求商標保護的前十大產業分別為： 1、研究與技術：20% 2、健康醫事：13.8% 3、服裝配件：12.8% 4、休閒教育：10.5% 5、居家設備：9.7% 6、農業產品與服務：9.6% 7、商業金融：9.5% 8、運輸機械：6% 9、營建：5.2% 10、化學：2.8% 再者，指標中分析上述產業在各國商標申請案件中的占比，可作為我國企業全球布局的參考： 1、研究和技術產業：歐盟21.3%、英國20.4%、日本18.7%、美國17.7%。 2、農業產品與服務產業：中國25.2%、韓國18.4%、俄羅斯14.2%、印度15.1%、土耳其14.8%。 3、健康醫事產業：印度23.1%、日本13.9%、中國11.3%； 4、商業金融產業：巴西26.3%、土耳其23.3%。 WIPO從2009年至今每年發布《世界智慧財產權指標》給各國政府參考，期待各國政府持續建構更完善的智慧財產制度，協助個人、企業保護其創新，以促進全球經濟的發展。 本文同步刊登於TIPS網站（https://www.tips.org.tw）