用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國《雲端法》（CLOUD Act），全名為《釐清境外合法利用資料法》（Clarifying Lawful Overseas Use of Data Act），於2018年3月23日頒布生效，該法更新《1986年儲存通訊紀錄法》（Stored Communications Act of 1986），並釐清海外資料合法取得：無論資料儲存地在美國境內或境外，美國執法機構均可合法請求通訊紀錄的保存或揭露。 《雲端法》有兩大重點：首先，《雲端法》授權美國與其他值得信賴的國家進行雙邊協議，以取得重大犯罪之電子證據。其他國家必須擁有相應的完善法規、隱私、公民權利之保護，方具備與美國簽署雙邊協議的資格。透過雙邊協議，締約雙方可憑對方國家的搜索票等法律文件，直接對通訊服務提供者強制執行。其二，《雲端法》闡明美國與相當多國家長久以來的原則─假設一間公司在特定國家的司法管轄權範圍內，則其所產生的資料應接受該國的管制，資料儲存地為何，在所不問。 《雲端法》的立法背景可以追溯到2013年美國聯邦調查局（Federal Bureau of Investigation, FBI）進行緝毒受阻。當時，涉案美國公民的電子郵件存於微軟境外伺服器，FBI持有搜索令，但是微軟以《1986年儲存通訊紀錄法》管轄範圍不及於美國境外為由，拒絕提供系爭電子郵件。2016年聯邦第二巡迴上訴法院於Microsoft Corp. v. United States判決微軟勝訴─美國政府不得強制取得境外伺服器資料。然而，此訴訟存在相當多爭議，復有2018年《雲端法》之制定，微軟亦對《雲端法》表示支持。《雲端法》通過時，最高法院尚未做出判決；最終，最高法院於2018年4月17日撤銷Microsoft Corp. v. United States。2019年4月10日，美國司法部發布雲端法白皮書，匯集刑事和國家安全專業的律師之意見，並回答常見的問題，希望提升全球的公共安全、隱私及法治。
美國EPA計劃創建三大生質能源研究中心美國能源局（EPA）宣布，將創建三個生質能源研究中心（bioenergy centers），以研發將植物轉化為燃料的技術方法。此舉乃是布希總統作出美國在未來十年內將降低20％的石油用量之政策宣布後，第一個採取具體配套行動的聯邦政府機關。 生質能源研究中心設立的宗旨是希望在未來五年內能夠以先進技術，成功開發生質能源的產品上市。根據EPA的對外公告資料，三大生質能源研究中心將以公司組織的形式運作，每一個研究中心總投入資本將高達1億2千5百萬美元，三大研究中心分別是位在田納西州Oak Ridge、威斯康辛州的Madison以及加州Berkeley附近，這些區域原本就是重要的研究重鎮，匯聚許多的大學、國家實驗室以及私人企業，形成產業聚落，預計三大生質能源研究中心將自2009年9月1日起的預算年度開始運作。 EPA希望藉由研究中心的聚落效應，集中資源協助這些研究中心從自然界中破壞木質素（lignin）的微生物出發，找出植物的確切細胞膜質（cellulose）之所在。細胞膜質或稱纖維素，是轉化成為乙醇、液態燃料等能源的重要來源物質，因此這些生物運轉機制的瞭解與掌握，乃是開發生物能源技術的基礎。 值得注意的是，各國致力於發展生物燃料以替代汽油的政策，已經使得某些兼具多種用途的作物價格持續攀升，此可由國際期貨市場價格獲得印證。為避免生物燃料的發展反而造成食用作物的搶奪大戰，影響作物市場價格，研究中心也將致力於尋找可以製造較易處理的木質素的新作物種類。
蘇格蘭期望透過刑事司法革新，強化數位證據資料之管理，以提升刑事司法之效率蘇格蘭於2024年9月24日向刑事司法委員會提交刑事司法革新與家庭暴力審查法案（Criminal Justice Modernisation and Abusive Domestic Behaviour Reviews (Scotland) Bill），期望透過數位程序，提升司法部門的有效性與效率。 在刑事司法數位化部分，主要為將2020年及2022年因疫情而制定的臨時措施正式化，臨時措施包含： 1、在訴訟文件上使用電子簽名。 2、以電子方式寄送訴訟文件。 3、以虛擬方式參加刑事法庭。 4、提高定額罰款限額。 5、羈押的全國管轄權。 此外，在刑事司法數位化部分，亦新增兩項數位創新條款，例如透過數位證據共享功能（Digital Evidence Sharing Capability, 下稱DESC）平臺來進行： 1、在刑事程序中使用證據照片而非實體證據。 2、使證據之複製品效力等同於實體證據。 對於刑事司法革新與家庭暴力審查法案而言，DESC在其中扮演了十分重要的角色。DESC改變了數位證據的儲存、編輯、傳輸以及在法庭上展示的方式。且DESC可透過多種身分驗證，並透過系統自動生成之具唯一性的資料識別碼並記錄上傳者及上傳時間，資料上傳系統後亦會自動留存所有資料編輯、修改、刪除行為等審核措施，確保數位證據的正確性、完整性與可驗證性，防止數位證據在上傳DESC後遭到竄改或損毀，亦可透過資料識別碼的比對確保數位資料的正確性與完整性。 蘇格蘭提交的刑事司法數位化與家庭暴力審查法案顯示，數位技術的應用範圍已擴大到司法領域，並透過身分驗證、記錄上傳者、上傳時間及資料識別碼等資料存證技術，確保數位證據資料的正確性、完整性與可驗證性。我國由司法院、法務部、臺灣高等檢察署、內政部警政署及法務部調查局等機關合作，透過區塊鏈技術建置「司法聯盟鏈共同驗證平台」，提升辨識數位證據同一性之效率，並確保數位證據難以被竄改，以達到加速訴訟進行之效果。惟如要透過法院採納數位資料為證據之方式，來達到加速訴訟進行之效果，重點在於要強化針對數位證據資料之管理，有訴訟證明需求的組織須通過b-JADE證明標章，以確保上鏈前之資料管理與上鏈後之資料品質。我國企業如欲強化數位資料的正確性、完整性與可驗證性，可參考資訊工業策進會科技法律研究所創意智財中心所發布之重要數位資料治理暨管理制度規範（EDGS），建立資料存證制度，確保數位資料作為證據之效力，以提升法院採納數位資料作為證據之可能性，亦有利於加速訴訟程序之進行。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
歐盟執委會提出「2050低碳經濟策略規劃藍圖」為邁向低碳經濟時代，建立歐洲成為具競爭力之低碳經濟體，歐盟執委會（European Commission）於2011年3月8日向歐洲議會（European Parliament）提出「2050低碳經濟策略規劃（A Roadmap for Moving to a Competitive Low-Carbon Economy in 2050）」，並設定2050年低碳總目標，宣示將透過加強低碳技術研究發展、推動能源效率使用等方式，降低對石化燃料依賴，並提昇區域內更多就業機會。 隨著近期中東與北非地區石油危機，原油價格節節高升，已嚴重影響歐洲國家每年能源支出經費，並降低未來各國經濟成長率。歐盟執委會認為，必須積極促進歐洲國家，經由投入科技研發、提昇能源效率，有效抑制不斷提昇的能源成本，推動歐盟邁向低碳經濟社會；並且，所設定目標及推動措施，倘若有所遲緩或推延，越晚投入將導致日後所需投入經費成本更為昂貴，悔不當初。「2050低碳經濟策略規劃」所設定之目標為，規劃透過各種符合成本效率（Cost-Efficient）措施及方法，推動歐盟區域內溫室氣體排放量至2030年降低40％、至2040年降低60％、至2050年降低80％（以1990年排放量為基準），達成低碳經濟願景目標。 歐盟執委會表示，未來應強化推動低碳技術之研究發展，促進未來更廣泛運用，並強調應更全面加強推動策略性能源科技研究計畫（Strategic Energy Technology Plan , SET-Plan），未來10年內歐盟將再額外增加50 billion歐元投資，加強推動能源科技相關研發工作，及未來可供運用之工具措施。 「2050低碳經濟策略規劃」中，詳細規劃推動步驟，並區分各大領域分別施行。以電力部門（Power Sector）領域為例，運用低碳技術、潔淨技術設備所產製電力，至2020年將達到降低45％--60％比例之排放量，到2050年，所有發電技術之溫室氣體排放量更將降低至可接近於0；而對於「工業部門」所設定目標，2050年達成降低80％之目標，對於「家庭及辦公建築」部份，設定2050年可降低90％之目標，而「運輸部門」則設定於2050年達成降低60％之目標。此外，歐盟執委會更指出投資「智慧電網（Smart Grid）」的重要性，將可促使「需求端（Demand-Side）」更具效率性，更廣泛且分散之電力調配中心，以及啟動運輸系統電力化之時代。 低碳經濟社會所帶來福祉，並可降低歐盟每年能源支出，及對於石化燃料進口依賴程度，也促成轉變改以低碳技術產製電力能源，作為可行的替代因應方案；以及，低碳經濟社會型塑推動，除了投入經費研發技術外，相關運用更須透過教育、訓練、推廣，廣泛使大眾接受且樂於使用新興技術，如此未來將可衍生種類與數量均會更多之就業機會，也有助益於經濟成長；此外，推動低碳經濟亦可改善生活品質及健康生活，未來實際效應可改善公共健康、減少醫療費用支出、及降低對生態環境消耗破壞，均屬良善效益。 然而，歐盟執委會這些推動措施，亦傳出有反對聲音。「歐洲商業（Business Europe）」團體就對外表示，他們反對「2050低碳經濟策略規劃」所設定的這些超高標準，他們認為相關推動措施，未來將會嚴重傷害歐盟境內企業發展，因為主要競爭者如中國、日本及美國，相較而言，均未設定這麼高的推動目標。未來歐盟執委會這些規劃藍圖是否落實達成，值得後續觀察。