用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
為確保各會員國能有效執行歐盟科研架構計畫(Horizon 2020)，歐盟執委會每年針對各會員國整體創新能力及研發活動進行評估，據此研提創新競爭力排名，並定期公布歐盟創新計分板報告(European Innovation Scoreboard, EIS)。而觀諸最新公布2016歐盟創新計分板報告((European Innovation Scoreboard 2016)，可歸納以下三項要點： (一) 2016歐盟創新研發能力成長趨緩 由於研發資金政策之限制以及英國脫歐影響下，相較於去年(2015)歐盟創新計分板報告(European Innovation Scoreboard 2015, EIS)之統計，今年度(2016)歐盟整體之創新研發能力成長趨緩。 (二) 2016創新研發先驅仍為瑞典，部分國家仍有大幅度之成長 而今年之歐盟創新計分板報告在整體創新競爭力排名上，第一名仍為瑞典，其次則為丹麥，芬蘭，德國和荷蘭。而相較於去年之排名，拉脫維亞、馬爾他、立陶宛、荷蘭等國家則有顯著之成長。 (三) 在個別指標項目中，會員國創新表現亦有不同 此外，獨立創新指標項目中，各會員國亦有不同之創新表現，例如：在「創新人力資源」及「學術研究項目」中，由瑞典榮獲最具競爭力之國家；而在「創新財政環境」項目中第一名為芬蘭；「創新私人投資」、「創新網絡」及「中小企業創新」等三大項目中，則分別由德國、比利時及愛爾蘭奪冠。
何謂德國電信媒體法中的「妨害人責任」(Störerhaftung)?原德國電信媒體法第八條條文中所指的「網路服務提供者」為擁有獨自或其他電信媒體及提供接取網路服務的自然人或法人，與我國著作權法中所提及「網路服務提供者」(Internet Service Provider)之適用對象範圍略有不同，而德國民法中有個特殊連坐法－「妨害人責任」（Störerhaftung），所有人對於妨害所有權之人，有排除及不作為請求權，因此，在原德國電信媒體法未規定之特定情形下，「網路服務提供者」應對他人透過其網路所從事的任何侵權違法行為負責。 這項法律使得德國許多咖啡館、公共空間、飯店大廳不願提供免費無線網絡，同時又讓大型咖啡連鎖店如星巴克，以提供免費網絡服務吸引顧客，因為他們就算被捲入網絡侵權責任的訴訟，也不怕支付高額律師費用，小型咖啡館就無法承擔這個風險，只能無奈面對客人轉向大型咖啡連鎖店消費的困境。根據原德國電信媒體法規定，咖啡館業主和其他網路熱點設立者所提供網路服務的方式將可能收到律師的警告函，告知他們不得再為非法下載者提供網路接取服務。 德國聯邦議院(Deutscher Bundestag)於2016年6月初經過激烈的辯論後，通過電信媒體法(Telemediengesetz; TMG)修正草案，將在最新的電信媒體法中免除「網路服務提供者」之「妨害人責任」(Störerhaftung)，使德國的免費無線網絡連接點可以增加並走向開放。
英國資訊專員辦公室（ICO）發現警方有大量數位證據未落實管理措施，建議司法機關應強化業務流程、人員之控管機制英國資訊專員辦公室（Information Commissioner's Office，下稱ICO）於2025年8月18日讉責南約克郡警方（South Yorkshire Police，下稱SYP）刪除超過9萬6千筆穿戴式攝影機影片（body-worn video，下稱BWV）證據，強調SYP未落實資料識別、第三方監督及備份機制等資料管理措施。 警方使用BWV作為記錄警方執法過程之取證方式，目的為提高透明度、公眾信賴及取得最佳證據等。由於BWV證據具備公正性及準確性，亦可減低對於受害者證據之依賴。當警員換班時，需要將BWV證據下載至指定地點，先傳送至「數位證據管理系統（Digital Evidence Management，下稱DEM系統，該系統由第三方業者管理）」後，再傳輸至「儲存網格（Storage Grid）資料庫」。倘若發生爭議，SYP將檢視「儲存網格資料庫」中的BWV證據。 2023年SYP發生遺失大量BWV證據之爭議事件，事實整理如下： 2023年5月升級DEM系統後，SYP改將資料儲存於本地硬碟。同年8月7日時，SYP發現在儲存網格資料庫中，具錯誤刪除96,174筆原始BWV證據之紀錄，經調查發現，在同年7月26日，第三方將本地資料傳輸到儲存網格時，曾發生大規模的資料刪除事件。 由於在進行備份時，未使用特定的檔案名稱或其他可識別的資料標記等方式標記資料，即使SYP內部已針對95,033筆BWV證據進行備份，仍無法比對確認「已被永久刪除的BWV證據」數量，且遺失之資料共涉及126起刑案，其中更有3案受影響，甚至有1起案件指出，若BWV證據存在，則相關案件的檢調程序應能夠有所進展。 ICO亦指出SYP雖與第三方簽署契約，卻未明定處理程序，且未監督第三方的遠端存取行為。SYP早在2019年，已發現備份機制存在問題，但當時未向高階管理人員報告相關問題的完整狀況，導致未採取補救措施。 綜上述，ICO提出SYP應確保所有紀錄應以清晰、可識別的方式進行標記；在允許第三方存取系統前，應完成風險評估及確認管控要求，並持續監督第三方等改善建議；以及應建立能夠有效還原任何遺失BWV證據的備份方案。 另外依英國皇家檢察署（Crown Prosecution Service）的統計顯示，因缺乏定罪的必要證據，包含缺乏數位證據，如受害者詢問或隨身攝影機影片遺失等各類原因，導致無法進行審判的皇家檢察署案件，整體呈現上升趨勢，從2020年的7484起案件，上升到2024年的8180起案件。 為系統性建立及強化數位證據管理機制，我國司法院、法務部、臺灣高等檢察署、內政部警政署及法務部調查局共同推動之「司法聯盟鏈共同驗證平台」，其以「b-JADE證明標章」檢視既有的數位證據監管制度，其他司法機關亦可參照「b-JADE證明標章」以確保採取有效之資料識別、第三方監督及備份控管作法，除了控管數位證據的相關業務流程、內外部人員等，亦應促使內部滾動式檢視問題及須定期向主管回報，以利調整規劃。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國通過《地理空間資料法》，明確化地理空間資料管理美國於2018年10月5日，通過《2018年地理空間資料法》（Geospatial Data Act of 2018，下稱《GDA 2018》），並編列入《2018年美國聯邦航空總署重新授權法案》（Federal Aviation Administration Reauthorization Act of 2018）。該法是接續《2017年地理空間資料法》（Geospatial Data Act of 2017，下稱《GDA 2017》），做出進一步的調整。 《GDA 2017》的核心目標就是要根本性地重整管轄權，以順利發展「國家空間資料基礎建設」（National Spatial Data Infrastructure）。要點如下： 原先美國有許多管轄的地理空間資料旁枝機構，工作重疊性高、權責不清，《GDA 2017》指定「聯邦地理空間資料委員會」（Federal Geographic Data Committee, FGDC）作為權責機關，並管理國家空間資料資產（National Geospatial Data Asset）。 指定「國家地理空間資料諮詢委員會」（National Geospatial Advisory Committee, NGAC），提供FGDC建議並進行監督。 擴充「地理空間資料」的定義，把所有量測（Survey）和製圖（Mapping）成果解釋成地理空間資料（Geospatial Data）。 《GDA 2018》進一步提出規範，明確化地理空間資料管理： 回饋報告 要求執行與地理空間相關計畫的聯邦單位，提供年度報告；並要求聯邦地理空間資料委員會（FGDC）按《GDA 2017》所列的職責，對於所有相關單位進行評估報告。這些評估報告會提交給國家地理空間資料諮詢委員會（NGAC）寫成報告，在兩年內提供給國會。 國家空間資料基礎建設 明確設立兩個目標：第一個目標是地理空間資料的隱私管理和安全性保障；第二個目標則是建置全球空間資料基礎建設。 國家空間資料資產 希望FGDC會能夠就各個主題指定專責機構進行管理。