用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國衛生及公共服務部（Department of Health and Human Services, 下稱HHS）轄下的公民權利辦公室（Office for Civil Right, 下稱OCR）在2019年11月27日，正式對Sentara醫療機構處以217萬美元行政罰，主因該機構違反《健康保險可攜與責任法》（Health Insurance Portability and Accountability Act, 下稱HIPAA）的醫療個資外洩通知義務。 HIPAA是美國有關醫療個資管理的主要規範，依據HIPAA第164.400條以下「違反通知規則」（Breach Notification Rule）規定，當超過500位病患的「受保護健康資訊」（Protected Health Information, 下稱PHI）遭受不當使用或被外洩時，除應通知受害人外，還必須立即告知HHS以及在當地知名媒體發布新聞。而OCR主要負責檢查受規範機構，是否確實執行HIPAA隱私、安全和違反通知規則。 而在2017年4月，HHS收到指控Sentara將含有病患姓名、帳號、就診日期等涉及PHI的帳單發送到錯誤地址，造成557名病患個資外洩。Sentara卻認為該帳單內容未含有病患病歷、治療資訊或其他診斷紀錄，且僅有8人被影響，並非HIPAA應進行個資外洩通知義務之範疇，故不依規定程序通報HHS。不過OCR認為依HIPAA第160.103條規定，PHI包含病史、保險資訊、就醫紀錄（含日期）、身心健康狀態等可識別個人之健康資訊。因此認為Sentara確實違反個資外洩通知義務，予以罰款並命檢討改善。 Sentara醫療機構服務範圍橫跨美國維吉尼亞州（Virginia）和北卡羅來納州（North Carolina），共有12家急性照護醫院、10家護理中心和3家照護機構，為美國最具知名的大型非營利醫療機構之一。這次重罰也告誡國內醫療機構當發生敏感性醫療個資外洩時應從嚴判斷，以避免民眾對醫療照護單位失去信任，確保國內醫療機構體系應恪遵HIPAA規範。
南韓司法單位擬懲處黃禹錫等四人去（2005）年11月，全球幹細胞研究先驅－韓國首爾大學黃禹錫（Hwang Woo-suk）教授承認其研究有國際醫學倫理瑕疵，引發軒然大波。其後，相關的醜聞頻傳，黃教授更被控研究造假，使得原本以前瞻之胚胎幹細胞研究技術（即體細胞核轉置技術”somatic cell nuclear transfer”）獨步全球的韓國科學界，研究信譽遭受嚴重打擊。 偵辦「黃禹錫科研論文造假醜聞案」的南韓檢察當局，經連日傳訊相關人員後，正考慮對黃禹錫等四人採取司法懲處。 對於被查出不法獲得並使用科研用卵子的黃禹錫，檢方考慮依據違反「生命倫理及安全之法律」等條文予以懲處。 據指出，檢方在調查中，掌握了2004年及2005年刊登在「科學」雜誌上的科研論文，黃禹錫等人捏造體細胞複製幹細胞，和為病患複製培育胚胎幹細胞的科研數據，矇騙了整個科學界。調查顯示，黃禹錫去年十一月檢驗幹細胞的遺傳基因(DNA)指紋之前，似乎真的不曉得根本就不存在為病患量身打造複製培育胚胎幹細胞的事實。但檢方卻證實黃禹錫確實指示屬下研究員，將部分照片等科研數據和資料，自我膨脹等造假的事實。 由於生醫研究給許多病患帶來新的治療希望，因此其通常會以實際行動（即自願捐贈研究用檢體、協助經費募集等）表達支持。惟研究瑕疵或造假則會讓病患及一般民眾認為遭受欺騙，進而影響其未來捐贈檢體或以受試者身份參與生醫研究之意願。可見生醫倫理並不僅是道德呼籲，也是生醫研究能否順利進行、生醫研究能否生根發芽的重要基石。 黃禹錫案之相關報導可參見 The Economists, December 3 rd 2005, p. 71; The Economist, December 24 th 2005, p. 109-110
歐盟通過新電視指令歐盟27個會員國於5月24日在布魯塞爾通過新的電視指令（neue Fernsehrichtlinie），內容涉及「在線或離線電視服務（Fernsehen on- und offline）」、「廣告規範」及「來源國原則（Herkunftslandsprinzip：指跨國服務或商品依據來源國之標準處理。）」。新的電視指令乃源自於有18年歷史之電視指令，並重新命名為「影音媒體服務指令（Richtlinie über Audiovisuelle Mediendienste）」，指令內容包括線上直播節目、近似隨選視訊（Near-Video-on-Demand）、非線性傳輸節目（nicht-linear verbreitetes Programm）。 約一年半前歐盟就電視指令之規範，如何種經由網路傳輸之內容適用電視指令、廣告規範及來源國原則等議題加以討論；不具商業性之私人網站內容，如旅遊紀錄片，則不在本指令適用範圍。歐洲媒體法研究機構負責人Alexander Scheuer指出，類似YouTube網站，因其本身提供服務方式不涉及編輯性責任（redaktionelle Verantowrtung），故亦不在本指令適用範圍內；惟如YouTube將電視頻道引進其網站，則可能有適用本指令之餘地。Scheuer另外指出如何界定非商業性之難題，例如在個人儲存短片的網頁上打廣告，是否具商業性，值得討論。 指令中最具爭議的部份，除新聞時事及兒童節目仍嚴格禁止置入性行銷（Product Placement）外，新電視指令有條件放寬業者經營置入性行銷，前提是節目播出前須向觀眾為置入性行銷之揭露，此項放寬將使正常節目進行因廣告而中斷。另外關於禁止速食廣告於兒童節目中播出之建議則未被採納。 值得關注尚有適用來源國原則下對特定網站所發的禁制令問題，原則上對節目提供者只適用其來源國之法律，但指令第2a條明訂若有緊急情況（如內容違反青少年保護規定），可以對該特定網站發出制禁令，以防止規避會員國較嚴格之相關規定；而是否有緊急情況須提交委員會裁決。 新電視指令通過後引起多方關注，未來適用上仍存有挑戰空間。
德國隱私保護機構指稱Facebook實名制違法Facebook之實名制政策禁止用戶使用假名，此一行為已遭德國隱私保護機構禁止。德國Schleswig-Holstein邦的資料保護中心組織（Office of the Data Protection Commissioner，簡稱ULD）控訴臉書「實名制」已違反德國電信媒體法(Telemediengesetz)。依據德國「電信媒體法」規定，只要匿名的使用具有技術上之合理性及可行性時，服務供應商必須允許用戶採用假名，惟Facebook的實名制政策卻禁止用戶使用假名。資料保護中心表示，Facebook要求用戶註冊時須填入真實姓名，違反德國電信媒體法第13條第6項。ULD表示，為確保網路用戶權利及遵守網路保護法，臉書應立即終止實名制的執行。Facebook發言人則對ULD指控不以為然，主張「服務供應商有權在現行法律下自行決定所採取之匿名政策」，並表示Facebook採取實名制係為保護社群安全，若發現用戶使用假名將刪除帳號。Facebook發言人認為「這只是在浪費德國納稅人的金錢！此法律之指控毫無意義，同時我們也將據理力爭。」Facebook認為，實名制是該網站經營之重要機制，除了能與其他社群網站做出明顯的市場區隔外，更能積極保護用戶的個人資料。