用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
繼美國聯邦巡迴上訴法院於2009年底於The Forest Group Inc v. Bon Tool Co. 一案中將美國專利法35 U.S.C. § 292條中關於不實專利標示(false patent marking)的罰金計算方式認定為罰金之計算是以每一個標示錯誤專利資訊的產品為基礎，並將原案發回地方法院(the U.S. District Court for the Southern District of Texas)重審後，地方法院於今年4月27日裁定基於專利法第292條具懲罰性之本質，針對標示錯誤或標示無效專利號之產品之罰金應以該產品之最高售價而非被告基於販售該產品所獲得之利潤或經濟利益來計算。 於此案中，The Forest Group產品之售價介於美金 $103至 $180元間，法院因而裁定處以The Forest Group每一標示錯誤專利資訊產品 $180元之罰金。 Atlas 法官提到藉由將標示不實專利資訊者處以該產品之最高售價之罰金，The Forest Group所需賠償之罰金將超過其藉由販售該產品所獲取之利益，達到第292條遏制之目的。 預計此案之判決將對其他地方法院於處理類似案件之判定產生引響，尤其對那些將錯誤專利資訊標示在大量產品上的被告而言。此外，正如各界所預料，繼去年聯邦巡迴上訴法院對第292條提出罰金計算基礎之解釋後，提起相關訴訟案件之數量已大量提升，至今已累積約140案。另，聯邦巡迴上訴法院亦剛於6月10日於Pequignot v. Solo Cup 一案中針對標示過期專利、舉證責任等與第292條相關之爭議做出解釋，後續效應直得企業持續關注。
歐盟「藥品法規包裹法案」（Pharma Package）重點說明與簡析歐盟「藥品法規包裹法案」（Pharma Package）重點說明與簡析 資訊工業策進會科技法律研究所 2025年09月10日 歐盟理事會（the Council of the European Union）於2025年6月4日就歐盟「藥品法規包裹法案」（Pharma Package）取得一致立場，且正與歐洲議會及歐盟執委會展開三方協商（trilogue），以共同研議最終立法版本[1]。法案預計於2026年初進行表決，若順利通過且加上過渡期，最快將於2028年正式施行，並可能重塑歐盟藥品市場之上市與投資規劃。 壹、背景摘要 有鑑於歐盟現行的藥品法規制度，自2004年修正後施行至今已逾20年，難以充分回應公共衛生需求、藥品可及性落差以及國際市場競爭等多重挑戰。因此，歐盟執委會（European Commission, EC）於2023年4月公布「藥品法規包裹法案」，旨在強化藥品供應鏈穩定性、提升藥品創新與競爭力，以建立更公平、具韌性與永續性的歐洲醫藥市場[2]。而2024年4月歐洲議會（European Parliament）[3]、2025年6月歐盟理事會亦分別提出不同版本，以促進歐洲整合為單一藥品市場。 本次改革對生技製藥產業影響深遠，為協助我國製藥產業在進入歐洲市場前先行掌握相關動向，以下將進行重點說明與分析。 貳、立法重點與比較 一、藥品監管保護期間之修正 在本次藥品法規包裹法案中，有關藥品監管保護期間之修正，為歐盟執委會、歐洲議會與歐盟理事會分歧最大，也是外界高度關注之核心重點。首先，現行歐盟新藥保護是由8年資料專屬保護期（Regulatory Data Protection, RDP）[4]與2年市場獨占期（Market Exclusivity, ME）所構成[5]，若於資料專屬保護期間內取得新適應症可再延長1年市場獨占期，亦即保護期共為10~11年。 歐盟執委會則提議將資料專屬保護期縮短至6年，並搭配延長誘因機制，最多可再延長3年，條件包含： 1.滿足現有醫療需求可延長0.5年。 2.藥品在所有歐盟成員國上市可延長2年。 3.進行比較性臨床試驗可延長0.5年。 此外，不同於現行制度將新適應症延長1年納入市場獨占期，歐盟執委會則提議將此移至資料專屬保護期，因此合併原有2年市場獨占期後，保護期共為8~12年。 反之，歐洲議會則擬將資料專屬保護期調整為7.5年，並同樣設有延長誘因機制，但總延長上限至多1年，條件包含： 1.滿足現有醫療需求可延長1年。 2.進行比較性臨床試驗可延長0.5年。 3.在歐盟境內透過公私協力進行研發可延長0.5年。 若公司另取得比現有療法更有顯著臨床優勢之新適應症，則原有2年市場獨占期可再延長1年，合併計算後保護期共為9.5~11.5年。 而歐盟理事會則不同於歐盟執委會、歐洲議會，選擇將資料專屬保護期維持現行8年，但無法再延長。然而，市場獨占期則提議縮減為1年，但若符合特定條件則可再延長至2年，合併計算後保護期共為9~10年。條件包括： 1.滿足現有醫療需求。 2.產品含有新活性物質，並同時符合以下3項要件： (1)上市許可申請具關聯性且有證據基礎的比較性臨床試驗結果作為支持。 (2)在一個以上的歐盟成員國內進行臨床試驗。 (3)申請人須證明已優先於歐盟申請上市許可，或於首次向歐盟以外地區提出申請後90日內完成歐盟上市申請。 圖一、歐盟藥品法規包裹法案提議版本比較 資料來源：本研究整理 二、針對抗菌藥物引入創新研發機制 抗菌藥物抗藥性（Antimicrobial resistance, AMR）為近年全球公共衛生重要議題，並為世界衛生組織（World Health Organization, WHO）所列全球十大健康威脅之一[6]。因此，除嚴格限制抗菌藥物濫用外，為有效促進新型抗菌藥物之研發，本次藥品法規包裹法案中亦引入「可轉讓資料專屬保護權憑證」（Transferable Exclusivity Voucher, TEV）作為獎勵措施。 使用此憑證可賦予持有人額外1年資料專屬保護期，且除可用於抗菌藥品外，亦可適用於公司內其他更具商業價值藥品，或將此憑證轉賣給其他藥廠，為藥廠提供額外收入，但每張憑證僅能轉讓一次。 考量到憑證可能被用於商業利益龐大之藥品，藉此延緩學名藥與生物相似藥進入市場，並影響病患取得藥物之可及性，歐盟執委會於提議時亦強調此制度預計僅實施15年，或至多核發10張憑證後即停止適用[7]。此外，在歐盟執委會所提議之版本中，對於憑證使用亦設有限制，包含必須於憑證核發後5年內使用，且僅限用於尚在資料專屬保護期前4年之藥品，以確保市場可預測性。 歐洲議會與歐盟理事會雖然大致表態支持，但對憑證效力採取不同立場。歐洲議會態度較為保留，其提議使用憑證所額外延長之資料專屬保護期應依據抗菌藥品優先等級區分為6個月、9個月或12個月，且同樣受有總延長至多1年之限制。換言之，在歐洲議會提議版本下，無論延長事由為何，資料專屬保護期至多僅能延長至8.5年。 相對而言，歐盟理事會並未採納歐洲議會之提議，而是維持歐盟執委會提出增加1年資料專屬保護期之優惠設計。然而，為避免過度限制市場競爭，歐盟理事會亦新增規定，若憑證用於非抗菌藥品，則僅能在該藥品資料專屬保護期的第5年使用，且須證明過去4年內該藥品任一年銷售額均未超過4.9億歐元。 參、總結 「藥品法規包裹法案」反映出歐盟執委會、歐洲議會與歐盟理事會對新藥保護政策之差異，雖然三者皆試圖在鼓勵創新研發與提升藥品可近性之間取得平衡，但在藥品監管保護期間具體設計上仍有差異。歐盟執委會雖提議縮減資料專屬保護期，但也透過延長制度維持研發誘因。而歐洲議會則提議更高的初始保護門檻，但限制總延長期，且更著重在鼓勵研發活動而非市場擴張。至於歐盟理事會則維持現行保護年限，以持續激勵研發投入，但也透過縮短市場獨占期，加速學名藥與生物相似藥上市，以降低藥品價格並滿足醫療需求。 至於「可轉讓資料專屬保護權憑證」制度固然能為抗菌藥物提供研發誘因，但也伴隨著一定的潛在風險與利益分配爭議，如何確保該制度所帶來之公共利益超過公共衛生成本與風險，仍取決於未來最終立法版本應該如何調整與落實。對於我國製藥產業而言，此次改革有可能加速學名藥與生物相似藥進入歐洲市場，亦可能因延長誘因制度而遲延競爭時機，故仍應持續密切關注並審慎調整研發與市場策略。 [1]EUROPEAN COUNCIL, ‘Pharma package’: Council agrees its position on new rules for a fairer and more competitive EU pharmaceutical sector (2025), https://www.consilium.europa.eu/en/press/press-releases/2025/06/04/pharma-package-council-agrees-its-position-on-new-rules-for-a-fairer-and-more-competitive-eu-pharmaceutical-sector/#:~:text=The%20Council's%20position&text=obligation%20to%20supply%3A%20a%20new,patients%20in%20the%20member%20state (last visited Aug. 28, 2025). [2]EUROPEAN COMMISSION [EC], Reform of the EU pharmaceutical legislation (2023), https://health.ec.europa.eu/medicinal-products/legal-framework-governing-medicinal-products-human-use-eu/reform-eu-pharmaceutical-legislation_en (last visited Aug. 28, 2025). [3]EUROPEAN PARLIAMENT, Parliament adopts its position on EU pharmaceutical reform (2024), https://www.europarl.europa.eu/news/en/press-room/20240408IPR20308/parliament-adopts-its-position-on-eu-pharmaceutical-reform (last visited Aug. 28, 2025). [4]「資料專屬保護期」是指專利藥提出新藥上市申請時，所檢附證明藥品安全性與療效之相關申請數據資料，其他藥廠非經原廠同意，於法定保護期間內不得引用，為行政機關針對原廠新藥上市申請資料給予之保護權益。詳請參考：台灣光鹽生物學苑，〈【醫藥小專欄】什麼是資料專屬權（data exclusivity）〉，台灣光鹽生物學苑，https://www.biotech-edu.com/%E3%80%90%E9%86%AB%E8%97%A5%E5%B0%8F%E5%B0%88%E6%AC%84%E3%80%91%E4%BB%80%E9%BA%BC%E6%98%AF%E8%B3%87%EF%A6%BE%E5%B0%88%E5%B1%AC%E6%AC%8A-data-exclusivity/ （最後瀏覽日：2025/08/28）。 [5]「市場獨占期」則是指在一定期間內，即使學名藥或生物相似藥已可向主管機關提出上市許可之申請並獲得核准，但仍不得實質上市銷售，須直到市場獨占期屆滿為止。市場獨占期與資料專屬保護期之比較，詳請參考：Specialist Pharmacy Service, Understanding data exclusivity and market protection (2025), https://www.sps.nhs.uk/articles/understanding-data-exclusivity-and-market-protection/ (last visited Aug. 28, 2025). [6]〈世界抗生素週〉，衛生福利部疾病管制署，https://www.cdc.gov.tw/En/Category/MPage/t2VWXn93ooNVJPuQRF7jzg （最後瀏覽日：2025/08/28） [7]CROWELL & MORING LLP, The New EU “Pharma Package”: The transferable exclusivity voucher—A comparison of Commission/Parliament/Council positions(2025),https://www.crowell.com/en/insights/client-alerts/the-new-eu-pharma-package-the-transferable-exclusivity-vouchera-comparison-of-commissionparliamentcouncil-positions (last visited Aug. 28, 2025).
歐盟第29條資料保護工作小組澄清有關網際行為廣告cookie的使用歐盟電子通訊隱私指令（Directive 2002/58/EC on Privacy and Electronic Communications, e-Privacy Directive）第五條(3)中對於cookie（即業者為辨別使用者身份而儲存在用戶端上的資料）設置的規範，將於2011年5月全面施行。惟對於cookie之使用，部分網路業者認為如果網路使用者沒有選擇不要裝置cookie (opt-out)，那麼就等同於同意裝置，而不需另外取得使用者的同意。針對此點，歐盟第29條資料保護工作小組（Article 29 Data Protection Working Party）於2010年06月22日對於網際行為廣告作出一份意見（Opinion 2/2010 on online behavioural advertising）。 意見中澄清，網際行為廣告係一種透過cookie的使用，追蹤蒐集網路使用者上網行為的資料，其網路資訊將被使用於日後發放與使用者上網行為相對應的廣告之用。除非是屬於網路使用者明白要求使用cookie，或是使用網路服務所『必要』的cookie（例如，沒有cookie就無法顯示或進行至下一個頁面），則不必先行取得使用者的同意外；其他凡經由cookie所儲存的資料，均應被視為『個人資料』，使用上必需先行取得網路使用者的明示同意，以自行選擇（opt-in）的方式接受cookie的使用，後存於網路使用者的個人電腦中。業者不得以搜尋引擎的cookie設定主張視為網路使用者等同已經明示同意使用cookie進行被追蹤及蒐集資料。 該意見受到許多歐盟及國際之網際出版、廣告及商務業者的反彈，業者表示所蒐集的資料並非可辨認性或敏感性資料，此規範的執行將會嚴重衝擊到廣告產業的收益，建議採行自律規範或使用行為守則來取代上述規定。 由於這項規範尚未於歐盟中被執行，歐盟第29條資料保護工作小組對於技術上如何遵循該規範也並沒有提出具體的建議。
美國交通部提出自駕車全面性計畫，以促進自動駕駛系統規範環境之整合、透明性與現代化美國聯邦運輸部（US Department of Transportation）於2021年1月11日發布「自駕車全面性計畫（Automated Vehicles Comprehensive Plan, AVCP）」，建立了交通部促進合作、透明性與管制環境現代化，並將自動駕駛系統（Automated Driving Systems）安全整合入交通系統之策略。基於過去「自駕車政策4.0」建立之原則上，自駕車全面性計畫定義了三個目標以達成其願景： 促進合作與透明性：交通部將會促進其合作單位與利益相關人可取得清楚且可靠之資訊，包含自駕系統的能力與限制。 使管制環境現代化：交通部將會現代化相關規範並移除對創新車輛設計、特性與運作模組之不必要障礙，並發展專注於安全性之框架與工作以評估自駕車技術的安全表現。 運輸系統之整備：交通部將會與利害相關人合作實施安全的評估與整合自駕系統於運輸系統之基礎研究與行動，並促進安全性、效率與可取得性。 政策文件中也就相關目標提出了關鍵目的以及行動，包含先前交通部所提出的「自駕系統安全性框架（Framework for Automated Driving System Safety）」草案，將透過建立框架定義、評估並提供自駕系統的安全性需求，並同時保留創新發展之彈性；另外此政策文件也提出了如何將自駕系統融合現有技術應用之實際案例。交通部將會定期的檢視相關行動與計畫，以反應技術與產業發展，並減少重複性之行動，並將資源投注於重要領域。