用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
韓國預告人工智慧基本法施行令修正草案──以公共部門先行及創業研發支援強化AI產業育成 資訊工業策進會科技法律研究所 2026年06月30日 韓國科學技術情報通信部（과학기술정보통신부，以下簡稱「韓國科技部」）於2026年5月21日，就《人工智慧發展與信賴基礎建立等基本法施行令》（인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령，以下簡稱《施行令》）部分修正草案展開立法預告，以配合先前修正之《人工智慧發展與信賴基礎建立等基本法》（인공지능 발전과 신뢰 기반 조성 등에 관한 기본법，以下簡稱《AI基本法》）於2026年7月21日施行，俾強化人工智慧產業之育成[1]。 壹、背景摘要 韓國《AI基本法》修正案，係由多位國會議員提案之9件修正法律案經朝野合意整併而成，於2025年12月30日經韓國國會通過，並於2026年1月20日公布。其中國家人工智慧戰略委員會改組、專門人力支援等得即時施行之事項，已配合本法2026年1月22日之施行日先行施行；至公共部門人工智慧導入運用等須由下位法令具體化之事項，則與本次《施行令》修正草案同於2026年7月21日施行[2]。 貳、重點說明 《施行令》原就推進體系、產業育成及倫理信賴性確保等事項予以規範；本次修正草案則就前述《AI基本法》修正後新增之授權事項加以具體化，主要涉及公共部門人工智慧之導入運用、人工智慧研究所之設立運營、弱勢族群之近用及費用支援，以及人工智慧創業之促進等。茲就弱勢近用、公共部門先行及創業研發支援三方面，分述如次： 一、弱勢族群近用之保障與補助支援 考量高成本、高效能之人工智慧服務若僅少數人得以負擔，恐擴大實質之社會落差，《AI基本法》修正後增訂保障弱勢族群近用並提供補助支援之依據。《施行令》修正草案第2條之2乃將「人工智慧弱勢族群」之範圍予以具體化，除身心障礙者、65歲以上高齡者、基礎生活保障受給者等傳統弱勢外，並納入職涯中斷婦女、求職者、設於非首都圈之中小企業在職者、農漁業人等，以縮小區域與族群間之近用差距[3]。 二、公共部門先行採購及承辦人員免責 為使政府成為人工智慧應用之示範者並擴大市場需求，《AI基本法》第16條第3項明定國家機關等採購產品服務或發包勞務時，應優先考量人工智慧產品與服務；同條第4項並定明因該採購或使用致國家機關等受有損害，而承辦人員無故意或重大過失者，得予免責，藉以降低公務員採用新技術之顧慮。《施行令》修正草案第15條進而界定享有優先考量之產品服務範圍，以「依《AI基本法》第26條第1項設立之法定團體韓國人工智慧振興協會（한국인공지능진흥협회）確認確屬運用人工智慧或其技術者」，及「其他經韓國科技部長以告示指定者」為限；至其確認之基準及程序，另由韓國科技部長定之，以保留因應市場推陳出新之彈性[4]。 三、創業資金與人工智慧研究所之設立支援 於創業與研發支援方面，《施行令》修正草案第15條之3明定中央行政機關之長，得與中小新創企業部長（중소벤처기업부）協議後，請由韓國創業投資公司（한국벤처투자）運用創業投資母基金（모태펀드）訂定人工智慧產業相關投資計畫，以間接挹注人工智慧新創。另就大學及企業經韓國科技部長許可設立之「人工智慧研究所」（인공지능연구소），《施行令》修正草案第16條之2至第16條之4就其設立要件、許可程序、變更申報及國家支援經費等予以規定；其設立要件包含具備自立運營之財務能力、5名以上專責研發人力、高效能運算資源、研究資料保護措施及3年期事業計畫書等，俾透過多元管道投入創新人工智慧技術之開發[5]。 參、事件評析 韓國本次修正草案之重點，在於以公共部門先行帶動人工智慧需求面之擴散。其要求國家機關等採購產品服務或發包勞務時應優先考量人工智慧產品與服務。特別是，韓國承辦人員於無故意或重大過失時之採購免責一併入法，直接回應公務員採用人工智慧新技術之顧慮。此外，修正草案更增訂創業投資母基金、人工智慧研究所及優先採購等促進手段，呈現促進與規制雙軌並行之立法取向。 我國《人工智慧基本法》於民國114年12月23日經立法院三讀通過。該法第10條規定政府應積極推動人工智慧研發、應用及基礎建設，妥善規劃資源整體配置，並辦理人工智慧相關產業之補助、委託、出資、投資、獎勵、輔導，或提供租稅、金融等財政優惠措施。而於公共部門先行示範方面，雖無明文要求，但我國亦已有相當布局，數位發展部已建置「政府人工智慧應用平臺」（TryAI），彙整各機關之共通需求，廣邀國內業者開發生成式人工智慧工具上架「AI Bots市集」，供機關先行試用確認符合業務需求後，再循「共同供應契約」採購，藉以降低試錯成本並為國內業者創造市場[6]。惟相較於韓國，我國上開措施多屬行政指導與便利採購之性質，尚乏「優先採購」及「採購免責」之規範明文。 政府為人工智慧之重要採購者及應用者，其先行示範對市場具顯著之引導作用，而以人工智慧提供服務所生之風險，又常為承辦公務人員所顧慮。韓國以優先考量採購擴大需求、以採購免責降低公務員顧慮之入法設計，可供我國於後續作用法及採購相關規範之研修中參酌，俾使政府不僅為人工智慧之審慎使用者，亦為產業發展之帶動者。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]韓國科學技術情報通信部公告第2026-0603號，〈人工智慧發展與信賴基礎建立等基本法施行令部分修正令（案）立法預告〉，2026年5月21日，轉引自韓國國會圖書館國家戰略入口網，https://nsp.nanet.go.kr/trend/latest/detail.do?latestTrendControlNo=TREN0000004090（最後瀏覽日：2026/06/26）。 [2]同前註。 [3]《施行令》修正草案第2條之2。並參法務法人大陸亞洲，〈科技部「AI基本法施行令」修正草案立法預告〉，法律新聞（韓國），2026年6月25日，https://www.lawtimes.co.kr/news/articleView.html?idxno=222514（最後瀏覽日：2026/06/26）。 [4]《AI基本法》第16條第3項、第4項；《施行令》修正草案第15條。依該條，公共採購優先考量之對象，以「依《AI基本法》第26條第1項設立之韓國人工智慧振興協會（한국인공지능진흥협회）確認確屬運用人工智慧或其技術之產品或服務」及「其他經韓國科技部長告示者」為限；其確認之基準及程序，由韓國科技部長另定告示。 [5]《AI基本法》第18條第3項、第22條之2；《施行令》修正草案第15條之3、第16條之2至第16條之4。 [6]〈數發部推「政府AI應用平臺」，共創公私協作AI應用新生態〉，數位發展部，https://moda.gov.tw/press/press-releases/17952（最後瀏覽日：2026/06/26）。
Google的下一步：行動廣告市場美國網路搜尋龍頭Google於2009年11月提出一項以7億5千萬美金收購行動廣告網絡商ADMob的計畫，大張旗鼓地準備涉足這個目前於所有廣告型態中，規模相對微小的區域。然而，美國二大消費者團體Consumer Watchdog及Center for Digital Democracy卻不認同這項收購計畫，甚至認為Google此舉將使其於行動廣告市場中形成獨占，以及甚有侵害消費者隱私權的可能，從而向聯邦交易委員會（Federal Trade Commission, FTC）喊話，要求FTC阻止Google此次的商業併購行為。 然而，消費者團體的擔憂亦非毫無道理，蓋Google在網路搜尋與線上廣告均有難以撼動的地位，而ADMob目前在行動廣告市場之佔有率亦為前茅，是故兩者一旦合併，消費者團體認為，Google此舉即是在為自己日後於此一極具發展潛力的市場中，先行買下一席位子。此外，由於GPS技術的發達，Google附加的Google Map定址應用更有可能因其實質跨足提供行動服務而有侵害使用人隱私權的可能。 雖言如此，FTC仍未明確表示對該項交易的意見，此外，無獨有偶地，蘋果電腦對行動廣告的市場亦開始有所行動，根據另一行動廣告服務提供者Quattro Wireless指出，蘋果公司正在計畫其中的細節。由此可見，不論FTC最後的結論為何，資訊業者之於行動廣告的戰爭已經開始。
檢視英國無線寬頻規畫方向Ofcom從行動載具、應用程式的蓬勃發展，預見英國10年內將會超過500億台載具透過與機器對機器通訊(Machine-to Machine Communication,M2M)、智慧聯網(Internet of Things)連接，應用在各種領域，包括運輸、健康照顧、能源及農業。有鑑於新興服務普及後，將使2030年民眾使用行動數據總量將是現在25倍，Ofcom在今(2013)年11月以頻譜有效利用為宗旨，提出英國無線通訊基礎藍圖諮詢。 根據本份藍圖顯示，Ofcom為了促使頻譜有效利用，除了持續評估廣播、無線相機與麥克風移頻可行性外，已確認的頻譜規畫為以下三個方向： 1、2.3GHz與3.4GHz: Ofcom已與國防部(Ministry of Defence)共同合作，將原本公部門使用的2.3G、3.4G頻段，轉移至商業使用，預計將於2015-2016年進行拍賣。除此之外，Ofcom將持續與政府部門合作，讓更多頻段能釋出於商用。 2、700MHz:為了讓民眾皆可得到「黃金頻譜」(Prime Spectrum)所帶來之利益(例如具有高度覆蓋性)， Ofcom已規劃2018年將釋出部分頻譜供行動寬頻使用，讓更多民眾可享有無所不在網路帶來的便利性。 3、「閒置頻譜」(White Space)：英國未來6個月內，將會超過20個組織參與Ofcom所推動的閒置頻譜技術試點計畫。Ofcom將透過各種創新應用服務的測試，讓閒置頻譜與新興服務可相顯益彰。 Ofcom行動寬頻政策除了頻譜重新規劃，解決未來英國行動數據可能產生的「容量危機」(capacity crunch )外；另一方面，政府亦透過提高3G業者涵蓋義務、賦予1張4G執照具有覆蓋義務、以及促使偏遠地區增加基礎建設等方式，維護民眾取得完善服務品質。因此，從上述的政策走向，可以預見英國業者未來所提供的行動寬頻，將朝向穩定的服務與合理的價格演進。當民眾使用新興服務不再有網路中斷、或費用過高之疑慮後，將會增加民眾對資通訊軟、硬體的黏著性，使國家更具有競爭力。
簡介美國700MHz頻段之使用規劃