用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
2025年12月，日本人工智慧安全研究所（AI Safety Institute，下稱AISI）與日本獨立行政法人情報處理推進機構（Information-technology Promotion Agency Japan，下稱IPA）共同發布《資料品質管理指引》（Data Quality Management Guidebook）。此指引旨於協助組織落實資料品質管理，以最大化資料與AI的價值。指引指出AI加劇了「垃圾進，垃圾出（Garbage in, Garbage out）」的難題，資料品質將直接影響AI的產出。因此，為確保AI服務的準確性、可靠性與安全性，《資料品質管理指引》將AI所涉及的資料，以資料生命週期分為8個階段，並特別強調透過資料溯源，方能建立透明且可檢核的資料軌跡。 1.資料規劃階段：組織高層應界定資料蒐集與利用之目的，並具體說明組織之AI資料生命週期之各階段管理機制。 2.資料獲取階段：此步驟涉及生成、蒐集及從外部系統或實體取得資料，應優先從可靠的來源獲取AI模型的訓練資料，並明確記錄後設資料（Metadata）。後設資料指紀錄原始資料及資料歷程之相關資訊，包含資料的創建、轉檔（transformation）、傳輸及使用情況。因此，需要記錄資料的創建者、修改者或使用者，以及前述操作情況發生的時間點與操作方式。透過強化來源透明度，確保訓練資料進入AI系統時，即具備可驗證的信任基礎。 3.資料準備階段：重點在於AI標註（Labeling）品質管理，標註若不一致，將影響AI模型的準確性。此階段需執行資料清理，即刪除重複的資料、修正錯誤的資料內容，並持續補充後設資料。此外，可添加浮水印（Watermarking）以確保資料真實性與保護智慧財產權。 4.資料處理階段（Data Processing）：建立即時監控及異常通報機制，以解決先前階段未發現的資料不一致、錯漏等資料品質問題。 5.AI系統建置與運作階段：導入RAG（檢索增強生成）技術，檢索更多具參考性的資料來源，以提升AI系統之可靠性，並應從AI的訓練資料中排除可能涉及個人資料或機密資訊外洩的內容。 6. AI產出之評估階段（Evaluation of Output）：為確保產出內容準確，建議使用政府公開資料等具權威性資料來源（Authoritative Source of Truth, ASOT）作為評估資料集，搭配時間戳記用以查核參考資料的時效性（Currentness），避免AI採用過時的資料。 7.AI產出結果之交付階段（Deliver the Result）：向使用者提供機器可讀的格式與後設資料，以便使用者透過後設資料檢查AI產出結果之來源依據，增進透明度與使用者信任。 8.停止使用階段（Decommissioning）：當資料過時，應明確標示停止使用，若採取刪除，應留存刪除紀錄，確保留存完整的資料生命週期紀錄。 日本《資料品質管理指引》強調，完整的資料生命週期管理、強化溯源為AI安全與創新的基礎，有助組織確認內容準確性、決策歷程透明，方能最大化AI所帶來的價值。而我國企業可參考資策會科法所創意智財中心發布之《重要數位資料治理暨管理制度規範（EDGS）》，同樣強調從源頭開始保護資料，歷程存證與溯源為關鍵，有助於組織把控資料品質、放大AI價值。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
日本簽署SBOM國際共通指引，強化軟體弱點管理，全面提升國家網路安全由美國網路安全暨基礎設施安全局（Cybersecurity and Infrastructure Security Agency, 簡稱CISA）自2024年以來，持續主導並規劃《SBOM網路安全之共同願景》（A Shared Vision of Software Bill of Materials(SBOM) for Cybersecurity）之指引訂定，作為保障網路安全之國際共通指引。於2025年9月3日，由日本內閣官房網路安全統括室為首，偕同經濟產業省共同代表日本簽署了該份指引，包含日本在內，尚有美國、德國、法國、義大利、荷蘭、加拿大、澳洲、紐西蘭、印度、新加坡、韓國、波蘭、捷克、斯洛伐克等共計15個國家的網路安全部門，皆同步完成簽署。以下為指引之重點內容： 1. 軟體物料清單的定位（Software Bill of Materials, 簡稱SBOM） SBOM於軟體建構上，包含元件內容資訊與供應鏈關係等相關資訊的正式紀錄。 2. 導入SBOM的優點 (1) 提升管理軟體弱點之效率。 (2) 協助供應鏈風險管理（提供選用安全的軟體，提升供應商與使用者之間溝通效率）。 (3) 協助改善軟體開發之進程。 (4) 提升管理授權軟體之效率。 3. SBOM對於利害關係人之影響 (1) 使軟體開發人員可選擇最符合需求的軟體元件，並針對弱點做出適當處置。 (2) 軟體資訊的透明化，可供採購人員依風險評估決定是否採購。 (3) 若發現軟體有新的弱點，使軟體營運商更易於特定軟體與掌握弱點、漏洞。 (4) 使政府部門於採購流程中，發現與因應影響國家安全的潛在風險。 4. SBOM適用原則與相關告知義務 確保軟體開發商、製造商供應鏈的資訊透明，適用符合安全性設計（Security by Design）之資安要求，以及須承擔SBOM相關告知義務。 近年來軟體物料清單（SBOM），已逐漸成為軟體開發人員與使用者，於管理軟體弱點上的最佳解決方案。然而，針對SBOM的作法與要求程度，各先進國家大不相同，因此透過國際共通指引的簽署，各國對於SBOM的要求與效益終於有了新的共識。指引內容不僅建議軟體開發商、製造商宜於設計階段採用安全設計，以確保所有類型的資通訊產品（特別是軟體）之使用安全，也鼓勵製造商為每項軟體產品建立SBOM並進行管理，包含軟體版本控制與資料更新，指引更強調SBOM必須整合組織現有的開發與管理工具（例如漏洞管理工具、資產管理工具等）以發揮價值。此份指引可作為我國未來之參考借鏡，訂定相關的軟體物料清單之適用標準，提升政府部門以及產業供應鏈之網路安全。
美國商務部國家技術與標準局公布技術創新計畫（TIP）之執行規則草案，徵求外界意見過去十餘年來，美國商務部國家技術與標準局（The Commerce Department’s National Institute of Standards and Technology, NIST）推動的「先進技術計畫」（Advanced Technology Program, ATP），成功帶領美國中小企業透過技術的研發投入，創造美國經濟榮景。近年來面對變動劇烈的國際環境，為提升美國競爭力，美國總統於2007年8月9日簽署通過「意涵深遠地促進傑出技術、教育與科學之美國機會創造法」（The America Creating Opportunities To Meaningfully Promote Excellence In Technology, Education, And Science Act, 簡稱The America COMPETES Act）。 The America COMPETES Act特別授權NIST負責推動並執行一項新的研究補助計畫－技術創新計畫（Technology Innovation Program, TIP），企圖藉由在國家重點需求領域（critical national need areas），補助具有高風險性及高報酬的技術研究（high-risk, high-reward research），支持、促進並加速美國的創新。所謂「高風險、高報酬」之技術研究，指具有以下三項特質的技術研究：（1）研究可轉化成具體實益的潛在可行性，其成果將產生深遠及廣泛的影響；（2）研究計畫的進行係為了回應屬NIST技術職掌範圍內的重大國家需求；（3）研究的技術議題過於創新（too novel）或跨越甚多學科（spans too diverse a range of disciplines），以致傳統的專家審查程序無法適當地用來篩選此類計畫。至於「國家重點需求領域」，指問題觸及的面向極大，然須要被克服的社會挑戰（societal challenge）尚無因應之道而有賴國家予以關注，此等問題與社會挑戰可能可以透過高風險、高報酬研究之進行而予以解決者。 根據The America COMPETES Act，TIP將依研究實力競爭（on the basis of merit competitions）的原則，透過分攤成本的研究補助（cost-shared research grants）、合作協議（cooperative agreements）或契約（contracts）等方式，鼓勵業界單獨或共同（透過合資方式）提出技術創新的研究計畫申請以合資方式提出者，其主導者（lead entity）可為中小型企業或高等教育機構。TIP的補助對象限於設立於美國並在美國境內經營其主事務的中小型企業，外國企業參與TIP若符合美國經濟利益者，亦得獲得補助。TIP的補助金額不超過個別研究計畫總成本的半數，且只能用於補助直接成本，間接成本、收益或管理費則不在補助之列。總計對單一單位的補助以最長三年且不超過三百萬美元為限；對於合作研究則以最長五年且不過過九百萬美元為限。由於The America COMPETES Act僅就TIP的補助目的、補助對象、補助條件等作原則性規定，其運作細節仍有待NIST進一步設計，日前NIS已於2008年3月7日對外公布TIP執行規則草案，徵求各界意見。 隨著TIP的規劃與實際運作，過去由NIST所執行的ATP也將完成其歷史性任務，由TIP取代並宣告美國政府支持產業技術研發的新理念－亦即透過支持高風險、高報酬之技術研究，以回應美國的國家重點需求領域。 身為全球創新的龍頭，美國所提出的科技研發創新政策向為各國學習與參考借鏡的標竿，隨著The America COMPETES Act的通過，新法中關於美國產業創新的新機制規劃，已引起其他國家高度關注。印度科技與地球科學（Science & Technology and Earth Sciences）部長在The America COMPETES Act通過的一個月後即宣佈，印度政府將於短期內提出全面性的印度創新法案（Indian Innovation Act），藉以激勵印度的創新，而此項創新法案將會以美國的America COMPETES Act為參考模型。
金融憑證增至22家 網路報稅人次可望締新猷又到了報稅的季節。依據財政部統計，台灣使用網路報稅人口年年成長，在2002年約有35萬人使用網路報稅，2003年成長超過1倍，有75萬人口使用網路報稅，而去年則有102萬人口使用網路報稅，較前年成長36%。 使用金融憑證網路報稅可簡化繁瑣報稅程序，去年只有8家金融機構提供報稅服務，今年則提高至22家，預估今年透過網路報稅的納稅人，可望衝破歷年人數。包括元富證、元京証、台証證、日盛金控、國泰、新光人壽等22家金融機構，己於3月17日經財政部審核通過，可使用台灣網路認證公司之網路銀行、網路下單及網路保險憑證用於94年個人綜合所得稅網路結算申報，透過申報軟體，使用「金融憑證」即可查詢下載93年度「夫、妻、未成年子女」之戶籍資料、扣 (免)繳及股利憑單所得資料，逐筆確認修正無誤，由電腦自動試算稅額後，傳輸申報資料，並自行列印收執聯保存，完成報稅手續。