用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
印度政府發布監管數位市場法案 資訊工業策進會科技法律研究所 2024年06月25日 印度數位競爭法委員會（Committee on Digital Competition Law, CDCL）於2024年3月12日發布數位競爭法委員會報告，建議制定單獨法律規範數位市場競爭，同時發布《數位競爭法》草案（Draft Digital Competition Bill，下稱本草案），使印度競爭委員會（Competition Commission of India, CCI，下稱委員會）能夠在反競爭行為發生前介入調查，草案發布後公開徵求公眾意見至2024年5月15日，將參考公眾意見後再行發布本草案後續發展。 壹、緣起 印度企業事務部（Ministry of Corporate Affairs, MCA）於2023年2月6日成立數位競爭法委員會，主要由產業商會、政府機關以及學者組成，目的是檢視現行印度2002年《競爭法》是否足以解決數位經濟成長衍伸的問題。爾後於2024年3月發布數位競爭法委員會報告，數位競爭法委員會認為應有新的事前管制補充現行競爭法的事後管制模式，在動態的數位市場中於必要時進行事前干預，防止反競爭行為發生。 在數位競爭法委員會報告[1]中提出9項反競爭行為態樣，包含反導向（Anti-steering）、自我偏好（Self preferencing）、綑綁及搭售（Bundling and tying）、非公開資訊使用（use of non-public data）、掠奪性定價（Predatory pricing）、排他性協議（Exclusive tie-ups）、搜尋及排名偏好（Search and ranking preferencing）、限制第三方應用程式（Restricting third party applications）、以及廣告市場整合（Advertising consolidation）等，將以上述反競爭行為為核心制定事前管制措施。 貳、本草案介紹 基於上述建立事前管制的報告結論，數位競爭法委員會連同報告一併提出本草案以回應反競爭行為的事前管制方向，本草案主要有四項重點以下整理。 一、適用範圍與對象 本草案適用於所有在印度境內提供核心數位服務的所有企業，包含延伸到印度境外且對本草案所規定義務有影響的行為，核心數位服務包含線上搜尋引擎、線上社交網路服務、影片分享平台服務、人際通訊服務、作業系統、網路瀏覽器、雲端服務、廣告服務、以及線上中介服務等。 二、對具有系統重要性數位企業之定義 具有系統重要性數位企業（Systemically Significant Digital Enterprise, SSDE，下稱重要企業）需要符合兩項標準，分別是財務標準及用戶標準，如果企業屬於集團則數值以集團整體計算： （一）財務標準 財務標準是在三個財政年度中達成以下任一項： 1. 印度境內營業額高於400億印度盧比； 2. 全球營業額高於300億美元； 3. 印度的商品總價值高於1600億印度盧比； 4. 全球市值高於750億美元。 （二）用戶標準 用戶標準是在三個財政年度中達成以下任一項： 1. 在印度提供的核心數位服務達到1000萬終端用戶； 2. 在印度提供的核心數位服務達到1萬企業用戶。 三、對重要企業及關係企業之指定 （一）符合條件企業之通報義務 當企業的核心數位服務達到前述雙門檻後90天內應通知委員會，如該企業有所屬集團應一併向委員會揭露該所屬集團有直接或間接參與該核心數位服務的其他企業，委員會得透過行政命令指定該企業為重要企業，有直接或間接參與的其他企業得指定為關聯數位企業（Associate Digital Enterprise, ADE）。 委員會可要求未主動提供相關資訊的企業提供必要資訊，如符合上述門檻則指定為重要企業。 委員會在確定企業符合雙門檻後應通知企業給予陳述意見機會，說明不符合系統重要性之理由。企業若未提供必要資訊或提供不完整或錯誤資訊，仍得在聽取企業意見後指定，企業不得有規避指定之行為。 （二）指定未達門檻企業之權力 除指定前述符合雙門檻之企業外，對於在核心數位服務領域有重要影響力但未符合雙門檻的企業，委員會得參酌企業營業額、企業規模與資源、企業市場力量、網路效應、市場結構、社會義務等要素直接指定，效期為三年。 四、重要企業之義務 重要企業被指定後應建立透明有效的投訴處理及法遵機制，並定期向委員會報告履行下列義務與相關規定所採取之措施。 （一）禁止反競爭行為義務 不得有自我偏好、限制第三方應用程式使用、反導向、搭售或綑綁等反競爭行為，並以公平和透明交易的態度與用戶合作。 （二）資訊使用義務 不得使用企業用戶的非公開資訊與之競爭，且不得未經用戶同意混合或交叉使用，或允許第三方使用不同服務所蒐集的用戶資訊，並實現資訊可攜性。 參、本草案評析 數位競爭委員會報告及本草案的發布宣示委員會將監管大型科技公司的反競爭行為，本草案參考了歐盟數位市場法（Digital Markets Act, DMA）對於守門人（gatekeepers）的規定及義務，對於重要企業賦予禁止反競爭行為的義務，雖然本草案仍在意見蒐集階段，是否施行仍須追蹤觀察。 本草案參考DMA規定監管大型科技公司代表印度政府認為數位市場的事前管制是必要的，擔心市場失靈的風險存在，但包含資訊科技與創新基金會[2]（Information Technology and Innovation Foundation, ITIF）、市場真相[3]（Truth on the Market）、網路自由基金會[4]（Internet Freedom Foundation）等單位對於本草案都提出質疑，認為本草案會阻礙數位市場創新，且印度的數位市場尚未成熟，貿然實施會損害印度的數位競爭力，阻礙對印度的數位投資。 40家印度新創公司發表聲明[5]支持本草案的推動，認為事前管制可以遏止Big Tech的反競爭行為，解決新創公司所擔心的發展問題，為新創環境提供空間。同時新創公司擔心門檻過低，阻礙非重要企業的發展，應提高門檻針對佔據主導地位的企業。 我國的數位市場政策仍有立法空間，該傾向管制市場或是鼓勵創新投資需要考量我國數位市場成熟度、規模、影響力等要素，印度已經跨出數位市場治理第一步，我國應持續追蹤各國法制政策，以滾動調整、擬定適合我國的數位市場政策。 [1] MINISTRY OF CORPORATE AFFAIRS, Report of the Committee on Digital Competition Law 27 (2024). [2] Comments to the Indian Ministry of Corporate Affairs Regarding Digital Competition Law, INFORMATION TECHNOLOGY & INNOVATION FOUNDATION, https://itif.org/publications/2024/05/15/comments-to-the-indian-ministry-of-corporate-affairs-regarding-digital-competition-law/ (last visited June 25, 2024). [3] India Should Question Europe’s Digital-Regulation Strategy, Truth on the Market, https://truthonthemarket.com/2024/04/12/india-should-question-europes-digital-regulation-strategy/?_gl=1*1mrmph7*_ga*MTI0MTU5NTkwMS4xNzE4MzM2OTUz*_ga_R1FRMJTK15*MTcxODMzNjk1Mi4xLjAuMTcxODMzNjk2MS4wLjAuMA. (last visited June 25, 2024). [4] Summary of IFF’s submission on the draft Digital Competition Bill, Internet Freedom Foundation, https://internetfreedom.in/iffs-submission-on-the-digital-competition-bill/ (last visited June 25, 2024). [5] 40 Indian Startups urge MCA to move forward with Digital Competition Bill; 'not give in to delaying tactics by Big Tech', STORYBOARD18, May 16, 2024, https://www.storyboard18.com/digital/40-indian-startups-urge-mca-to-move-forward-with-digital-competition-bill-not-give-in-to-delaying-tactics-by-big-tech-31771.htm (last visited June 25, 2024).
韓國通過個人資料保護法修法並對其執行命令指引提出修正草案2023年9月27日，韓國個人資訊保護委員會（Personal Information Protection Commission, PIPC）就《個人資料保護法》（Personal Information Protection Act, PIPA）執行命令之指引修正（Enforcement Decree Amendment Guide）草案展開諮詢，諮詢將持續至2023年11月30日為止。韓國於2023年3月修正個人資料保護法，該修正於2023年9月15日生效，而指引修正之目的即是協助各界能夠遵循新修法後的義務，因此該指引草案詳細說明了修法後有關資料蒐集、獲得當事人同意之條件、使用和提供存取要求等內容。最終版的指引預計將於2023年12月發布。 韓國個人資料保護法於2023年的修訂範圍廣泛，特別是關於跨領域和行業個人資料處理標準等，使得公私部門中的資料處理人員和資料隱私人員必須深入瞭解此些變化，以確保能遵守最新的法律規定。 修訂後的韓國個人資料保護法強調實際保障資料主體的權利，並調整網路和實體業務之間不一致的資料處理標準，藉以迎接全面的數位轉型。此次韓國個人資料保護法修正重點如下： 1.強調確保資料主體的權利，即使在緊急情況下蒐集或處理個人資料時仍須提供足夠的保護措施。 2.釐清並調整網路和實體業務的不明確或不一致的法規，例如資料外洩的報告和通知時限、蒐集和利用14歲以下兒童個人資料需要獲得法定監護人同意的要求，以及對違規行為實施行政處罰的標準等。 3.要求處理大量個人資料的公共機構需強化保護措施，包括應分析和檢查存取記錄、指定負責每個系統的管理員，以及通知使用公共系統未經授權存取個人資料的事件等。 4.跨境資料傳輸條件調整為可傳輸至保護程度與韓國相當的國家或地區；並調整處罰金額，防止處罰金額過高超出責任範圍。。 韓國PIPC主委表示，此次對韓國個人資料保護法的修訂，反映了對資料主體權利更強大保護的需求。同時，考慮到此次修法的變動較大，建議各領域從業人員皆須仔細確認相關法遵內容，PIPC將針對不同領域需求來量身定制說明活動，積極提高大眾對修訂後的《PIPA》內容的理解程度，以確保韓國個人資料保護法修正後的實施。
美國科技公司指控六名中國人竊取科技公司營業秘密美國司法部起訴六名中國大陸公民，包含三名大學教授，在美從事商業間諜活動，自兩間科技公司竊取有關行動通訊技術的敏感資料，並已經提供中國大陸的大學及企業預備產製。如果罪名成立，最多可判刑15年。被竊取營業秘密包括載有薄膜體聲波共振器（FBAR）的原始碼、規格、配方等文件，主要應用在行動通訊，如平版、智慧型手機、GPS設備等消費性產品及軍事、國防通訊技術，其作用在於過濾無線訊號，改善通訊品質。 據報導，其中兩名被告張浩與龐慰為天津大學的教授，在美國南加州的一所大學攻讀電子工程學博士學位相識，期間獲得國防高等研究計劃署 (DARPA)提供的研究經費，研究FBAR技術。2005年取得學位後，分別進入Avago Technologies與Skyworks Solutions科技公司擔任FBAR工程師，並竊取分別屬於二公司的營業秘密。2006至2007年間，更開始接觸中國大陸的大學，尋找生產FBAR技術的可能性，最終得到天津大學支援，在中國大陸建立FBAR技術中心，更在2009年分別自二科技公司離職，擔任天津大學的全職教授，同時合資成立ROFS精密儀器公司，計畫生產FBAR產品，並已和企業和軍方簽訂契約。 美國政府表示，外國機構利用在美國活動的個人從事商業間諜活動，竊取美國企業投入高額成本開發的技術資料，將造成美國企業的重大損失，削弱市場競爭力，最終損害美國在全球經濟的利益，故將持續調查、蒐集不法證據，以打擊商業間諜活動與制止竊取營業秘密為首要任務。
歐盟委員會發布NIS 2實施條例以定義資安重大事件.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 歐盟委員會於2024年10月17日通過了歐盟第2022/2555號《於歐盟實施高度共通程度之資安措施指令》（Directive (EU) 2022/2555 on measures for a high common level of cybersecurity across the Union，下稱NIS 2）的第一個實施條例（下稱「實施條例」）。NIS 2要求企業發生重大事件（Significant incident）後24小時內，應向會員國主管機關通報，依實施條例之規定，符合以下任一條件會被視為重大事件： 1. 造成超過50萬歐元或上一年度營業額5%以上的直接財務損失。 2. 造成商業機密洩漏。 3. 已造成或能造成自然人死亡。 4. 對自然人健康已造成或能造成大量傷害。 5. 疑似惡意且未經授權的存取網路和資訊系統造成嚴重運作中斷。 6. 反覆發生的事件。 7. 符合第5條至第14條特定資訊服務的事件。 實施條例主要在於補充上述條件的第6項及第7項。第6項規定於實施條例的第4條，定義「反覆發生」的要件，包含：(1)6個月內發生兩次；(2)有相同的根本原因；(3)大致符合超過50萬歐元或年營業額5%以上的直接財務損失。第7項則在實施條例的第5條至第14條列舉特定資訊服務提供者的重大事件條件，而其他資訊服務則包含DNS（domain name system）服務、TLD（top-level domain）網域註冊管理、雲端運算服務、資料中心服務、內容交換網路、託管服務、網路商城、搜尋引擎、社群網路服務、信託服務等，對於不同服務可能造成的影響各別列舉視為重大事件的條件。 歐盟委員會發布該實施條例確立何謂重大事件，並依歐盟考量資訊安全威脅所制定的NIS 2，將公共電子通訊網路或服務、會員國等進行連結，要求會員國設置資訊安全主管機關、危機管理機構、資訊安全聯絡點等義務，建立資訊安全通報機制，確保歐盟有整體的資訊安全戰略及框架，阻止潛在危機擴散。我國於2018年已制定《資通安全事件通報及應變辦法》並建立四級資通安全事件的標準，其標準以機敏或業務資訊遭洩漏對機密性的影響、資通系統遭竄改對完整性的影響，以及資通系統運作遭中斷對可用性的影響為依據，但並未對不同類型服務有制定更精細的定義。歐盟實施條例中有關重大事件之定義，可做為我國相關主管機關參考對象，研擬更準確的資通安全事件標準。