用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
英國資訊專員辦公室進行獨立調查時發現， 1、40％的企業沒有充分認識提出的主要條文； 2、87％的企業無法估計公司中業務為因應改革可能支出的成本； 3、82％的受訪者是無法量化其當前資訊保護的開支； 4、在少數的大型組織觀測調查中發現，估計資訊保護的平均花費時常會受到扭曲； 5、當公司擁有超過250名員工或處理超過10萬筆個資紀錄時，絕大多數都已經聘請資訊保護專人； 6、重點業別包括服務業、金融保險業以及公共管理等，需要針對資訊管理有所計畫。 而調查報告在2013年5月14日於柏林舉辦的第三次歐洲資訊保護日會議中提出，資訊專員Christopher Graham表示「必須說，有少數人不同意為面臨21世紀的挑戰，而需要修訂歐洲資訊保護法。但真正進步之實現在於，今日或將來的法律面，針對個人資料有更好的體現。關鍵點在於確實地衡平理論面與執行面中資訊保護權利之平衡點。」 「已經談論過很多關於『什麼是最好的商業』，但這必須基於合法證據。此次的改革的結果會是非常重要的，我們希望敦促歐盟委員會可以考慮並將重點放在制定法律，為消費者提供真正的保障。」 「同樣的，企業和其他的利益相關者必須參與具建設性的義務與隱私權權利的重要性改革，在此過程中仍然可以受到影響」
美國各州資料中心租稅政策對選址與投資成本之影響美國各州資料中心租稅政策對選址與投資成本之影響 資訊工業策進會科技法律研究所 2026年03月09日 美國稅務基金會（Tax Foundation）於2025年12月19日發布資料中心（Data Centers）租稅分析報告，說明各州租稅設計為對資料中心選址與投資成本之重要因素。 壹、事件摘要 隨著AI與雲端運算需求擴張，資料中心投資規模持續提升，各州為吸引大型科技企業進駐，普遍透過銷售稅（Sales Tax）與財產稅（Property Tax）減免提供租稅優惠。相關措施包括對資料中心設備提供銷售稅減免，並設定最低投資額或就業創造門檻作為適用條件，部分州亦於一定年限內提供財產稅減免。整體而言，各州租稅制度設計差異顯著，形成州際間競爭現象。 貳、重點說明 一、銷售稅減免之制度設計 資料中心營運涉及大量設備與電力投入，若適用一般銷售稅規範，將提高初期投資成本。因此，多數州透過銷售稅制度提供減免措施，主要類型如下： （一）設備之銷售稅減免 部分州將資料中心設備納入銷售稅免稅範圍，例如維吉尼亞州（Virginia）明確規定符合州法規定條件之資料中心設備得適用銷售稅減免。 （二）投資與就業門檻設計 部分州設定最低投資額或就業創造門檻作為適用條件，例如亞利桑那州（Arizona）以最低投資金額為標準，投資人須達一定資本額或就業人數，始得適用銷售稅減免。 （三）用電納入銷售及使用稅減免範圍 另有州將資料中心用電納入銷售及使用稅（Sales and Use Tax）減免範圍，例如北卡羅來納州（North Carolina）對符合州法規定條件之資料中心設備與用電提供銷售及使用稅減免。由於電力使用為主要營運成本，此類措施對投資決策具有實質影響。 二、財產稅與地方政府財政考量 資料中心屬高度資本密集產業，若依一般財產稅計算方式課徵，地方政府可獲得穩定稅收來源。然而，多數州允許地方政府提供財產稅減免，財產稅優惠常透過法定減免或地方協議方式訂定，內容包括減免期間與減免比例，有助於提升投資誘因，也可能影響地方政府長期財政收入。 三、銷售稅減免之制度設計 隨著各州競相提供租稅優惠，州際間形成租稅競爭現象，若優惠措施缺乏明確成本效益評估，可能造成公共資源配置失衡。此外，資料中心自動化程度高，營運階段實際創造之就業機會有限，若政策僅以投資金額或資本規模作為誘因標準，而未評估其對地方產業帶動效果，未必能確保長期經濟外溢效果，如供應鏈發展或相關科技產業聚集效果。 參、事件評析 資料中心為AI發展之基礎設施，各州透過租稅制度吸引投資，有助提升數位基礎建設與資料處理能力。然而，租稅優惠涉及財政問題，須兼顧產業間租稅公平與財政永續。銷售稅與財產稅減免雖可降低投資成本，但若缺乏統一標準，各州或各地方政府設計差異過大，企業可能基於租稅差異進行選址，而非基於能源結構或網路品質等長期條件，此種情形可能影響整體產業布局之合理性。 資料中心對地方經濟之實質貢獻仍存爭議，建設期間可創造短期就業，營運階段實際人力需求有限，若優惠期間過長，地方政府可能增加機會成本。而隨著AI應用擴張，資料中心能源消耗與電力需求持續增加，未來制度設計宜結合永續發展目標，建立明確評估機制。 綜合而言，美國各州資料中心租稅政策差異顯著，對企業選址決策與投資成本評估具有實質影響，此一競爭趨勢反映數位基礎設施之策略地位。然而，政策設計仍須審慎衡量財政負擔與產業效益，方能在促進科技發展與維持公共利益間取得平衡。
經濟部成立「促進台商回台投資專案小組」，引導及協助台商回台投資根據經濟部台商回台投資意願問卷調查，自 95 年 9 月 8 日 起截至 95 年 11 月 10 日止，初步表達有意回台投資台商計 401 家，其中已確定投資及積極評估中之投資案者計 67 件 ( 含各單位洽訪結果及發掘之案源 ) ，投資金額約新台幣 362.22 億元。 為推動台商回台投資，經濟部除已研擬「加強協助台商回台投資措施暨細部計畫」外，另特別成立「促進台商回台投資專案小組」，引導及協助台商回台投資。專案小組成立之目的在於統籌整合政府各部會之行政資源，作為台商投資資訊提供、投資機會開發、投資障礙排除等高效率服務品質之協調窗口。日前（ 95 年 11 月 14 日 ），專案小組已召開第 1 次會議，由經濟部謝次長擔任召集人。 未來專案小組將與經濟部「促進投資推動小組會議」密切結合，透過跨部會協調與專責追蹤輔導機制，排除投資個案問題，以促進台商回台投資。專案小組會議未來將視需求機動召開，小組之成員包括政府相關單位，另視案源需要機動洽邀請工業技術研究院、資訊工業策進會、中華民國對外貿易發展協會、國際經濟合作協會、工商協進會、全國工業總會、全國商業總會、世界台灣商會聯合總會及海峽兩岸交流基金會等相關單位出席。
歐盟金融監管機構共同建議強化現行之永續金融揭露規則為促進綠色轉型並提高對投資人之保護，歐洲銀行監理機關（European Banking Authority, EBA）、歐洲保險與職業年金監理機關（European Insurance and Occupational Pensions Authority, EIOPA）及歐洲證券與市場監理機關（European Securities and Market Authority, ESMA）於2024年6月18日針對永續金融揭露規則（Sustainable Finance Disclosure Regulation），向歐盟執委會（European Commission）發布共同意見。 現行的永續金融揭露規則於2019年制定並於2021年生效，其目的在提高金融產品服務的 ESG 揭露透明度和標準化，透過要求金融市場參與者提供可靠且可比較的 ESG 資料，使投資者能夠做出更明智的投資決策，引導投資人重視環境與永續議題。現行的永續金融揭露規則係以「商品標籤」之方式揭露金融商品資訊，但共同意見中認為此標籤制度並未提供明確標準或門檻，使投資人無法充分了解為何特定商品具有永續性，導致漂綠（greenwashing）及相關投資風險。 因此，本次共同意見向執委會建議，執委會應建立投資人易於理解且具有客觀標準之金融商品類別，解決上述資訊落差疑慮。共同意見建議，金融機構可採用「永續（sustainable）」與「轉型（transition）」兩項金融商品類別。以下簡介共同意見就兩項金融商品類別提供之建議： 一、永續類別 永續類別係指金融商品投資於已達到環境或社會永續門檻之經濟活動或資產。共同意見提及，執委會或可考慮將永續類別再拆分為環境永續類別與社會永續類別；但若拆分兩項類別，可能必須注意目前環境永續與社會永續兩項類別得參考之指標發展程度不一，未來在訂定門檻時如何確認相關指標需進一步討論。 二、轉型類別 轉型類別係指金融商品投資於尚未達到環境或社會永續門檻，但未來將逐步提高其永續性以達到永續類別門檻之經濟活動或資產。共同意見建議，執委會於訂定轉型類別之門檻時，應參考經濟活動分類標準之關鍵績效指標、轉型計畫、商品減碳路徑及減緩主要不利影響之措施等因素。 目前執委會正評估利害關係人意見及永續金融揭露規則實施經驗，作為改善歐盟永續金融制度之依據，因此共同意見亦建議，執委會應先進行消費者調查，再著手後續規則修訂，方能達到制度優化之成果，保障投資人權益及永續發展。