用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
德國外交部（Menü Auswärtiges Amt）於2023年7月13日發布《聯邦政府對中國戰略》（China-Strategie der Bundesregierung），該戰略目的係提供使德國各個聯邦機關能夠協調其對中政策的架構，重點如下： （1）德國對中國戰略為歐盟對中國政策的一部分：依據歐盟理事會2020年10月決議，德國聯邦政府支持以國家元首、政府首腦以及歐盟機構領導人位階，與中國建立新的高峰會談等。 （2）與中國雙邊關係：期待透過兩國合作，保護氣候、環境、生物多樣性、促進全球食物安全，以及實施2030永續發展進程等。 （3）深化德國與歐盟關係：維護全球供應鏈與價值鏈的安全性；避免關鍵領域資訊科技過度依賴中國，加強數位主權（digital sovereignty）；積極參與歐盟對外投資審查的檢視與安全評估；針對新興關鍵科技，修正出口管制清單等。 （4）國際合作：在貿易政策與多元化的層面，更有效地實施環境、社會與人權的保護；與夥伴國合作共享對於關鍵科技如半導體、人工智慧及綠色科技的價值等。 （5）協調政策與建構對中國的專業知識：德國聯邦政府將定期召開針對中國議題的部長級會議，並公開對中國戰略的實施情形；鼓勵各級機關、公民團體建構其中國專業知識掌握的量能。 該戰略作為加強德國在中國問題上的參考，是否能作為歐盟其他會員國在對中國政策上的參考，有待持續關注。
歐盟網路和資訊系統安全局（ENISA）歐盟網路與資訊安全局（ENISA）成立於2004年，目的在於確保歐盟內部網路與資訊安全保持在最高水準，同時也為執行2016年8月生效之歐盟網路和資訊系統安全指令（NIS- Directive），提高歐洲的網路安全準備，以防止並抵禦網路安全事件措施。計有84名工作人員，共同運作位於希臘的兩個辦公室：Heraklion （2005年成立之總部）辦公室；與雅典辦公室（2013年成立），以提高該機構的運作效率。 ENISA在NIS指令的執行中扮演重要的角色，任務包括支援歐盟機構、會員國國與產業界，快速對網路威脅與資訊安全問題做出反應。它也被要求在執行任務中協助各國間成立的合作小組。此外，更透過指令要求ENISA協助成員國與執委會，提供他的專業意見和建議。 ENISA戰略有五個面向： •提供關鍵網路設施和資訊安全問題之資訊和專業知識。 •制定和執行歐盟網路政策。 •建立歐盟間跨國支援能力。 •培育網路與資訊安全社群的網路演習、協調與支援。 •促進各國間的合作關係。 由於ENISA在建立之後網路發展情勢有顯著的演變，其任務和目標應該因應新發展做出調整，故歐盟執委會也在2017年1月開始重新審視其設立之法律依據以應對新情勢發展。
英國不贊同歐盟新視聽媒體服務指令英國傳播、電信、科技及媒體相關領域業者及團體於 2006 年 4 月聯合發表一份意見書，反對歐盟提出的新視聽媒體服務指令（ Audiovisual Media Services Directive ）草案。同時英國政府也正關注這項草案並與其他會員國進行討論。 自 2005 年 9 月起，歐盟開始針對電視無國界指令（ Television without Frontiers Directive ）的修正進行討論。歐盟考慮將該指令修改為視聽媒體服務指令，擴大其規範範圍，使其包括各種與電視相似（ TV-like ）的服務，並將所有視聽媒體服務區分成線性（ linear ）及非線性（ no-linear ）服務，分別給予不同程度的管制。 不過英國有許多業者及團體對於這項新指令的制訂深表不贊同，其認為： (1) 就非線性服務（例如隨選視訊）而言，目前既有法規以及業者自律規範已足以保障消費者； (2) 線性及非線性的分類方式可能不適宜作為法律定義的基礎； (3) 新指令將可能阻礙新進業者參與市場的意願，甚至導致投資者轉向其他國家發展。所以希望透過連署，要求歐盟重新檢視這項新指令。
電子文書存證制度－淺談日本電子時戳及時戳保存制度電子文書存證制度－淺談日本電子時戳及時戳保存制度 資策會科技法律研究所 法律研究員 陳昱宏 106年11月13日 一、前言 電子文書具有「節省保管、檢索、運送及銷毀費用」、「活用資訊系統提升業務效率」、「具有復原可能性，避免資料滅失之風險」[1]等優點，文書電子化已為不可逆之趨勢。但電子文書除前述優點外，亦有易於變更竄改，無法檢知真實製作日期之缺點，若記錄於電子文書之智慧財產權遭他人侵害，如何證明所提出之電子文書確係早於他人侵害之時點即屬重要，本文擬就日本以電子時戳制度做為證明電子文書做成時間點之發展現況，以及獨立行政法人工業所有權情報．研修館所提供之電子時戳保管服務作介紹，說明日本如何利用電子時戳來維護相關智慧財產權利。 二、日本電子時戳制度及相關規定： 日本政府有鑑於電子文書已逐漸取代紙本文書，但電子文書仍存有易於複製及製作時間不易證明等種種缺點，進而構思建立一套能在電子文書或資料上附加時間資訊，以向第三人證明之制度。總務省於2004年發佈時間商務相關指針[2]，供相關制度使用者做參考，並為時間商務業者遵守之依據。而一般財團法人日本Data通信協會於2005年成立時間商務認定中心（タイムビジネス認定センター，下稱時間商務認定中心），若欲從事時間認證或發送等相關服務，須符合該中心就技術、系統及運用制度所制定之基準，符合基準之業者，即給予認定標章，此即「時刻認證業務認定事業者」(Time Stamp Authority簡稱TSA)。 三、電子時戳之功能： 電子時戳係一種證明電子資料在某一時間點之前確實存在且未經竄改之技術，透過比對電子時戳中所記載之資訊與原始電子資料所記載之資訊，可以輕易得知電子資料中之時間訊息是否有經過竄改。其可運用在各種需要時間證明之電子資料中，日本總務省在官方網站中之電子時戳技術相關檔案[3]，即有說明電子時戳可賦予各領域之電子資料極高之信賴度。在智慧財產之保護上，可以證明內容做成之日期，以保護創作人之權利；在電子商務上，可用於證明交易如下單之時間點等；在電子申請上，可證明所發送資料之做成時間；而在醫療上，可運用於電子病歷上，以證明未經竄改等。另於日本工業所有權情報‧研修館（下稱INPIT）官方網站，就電子時戳保管服務之相關說明中，亦有提及可活用之情形[4]，分述如下: 在專利、商標等侵權訴訟，當被指控侵權人主張其有先使用權時，可以做為其在業務或業務準備行為有實施專利，或有就商標為使用之證據。 在訴訟中，就對造所擁有之專利權提出無效抗辯時，可用以證明專利不具備可專利性之技術資訊已於申請獲准前有為公知之事實。 在商標廢止訴訟，可證明商標權人就系爭商標有使用之事實。 在營業秘密洩漏訴訟，營業秘密所有權人可證明被洩漏技術在某時點之前即為其所保有之事實。 四、INPIT就電子時戳所提供之保存服務: 參照INPIT官網之說明可知，所謂之電子時戳保管制度係INPIT對於TSA業者所發行之電子時戳憑證提供之保管服務，以利使用者於日後有備份電子時戳憑證需求時，能順利提取。此係因電子時戳憑證在一般情形下有滅失毀損之風險。一旦毀損滅失，在營業秘密之相關訴訟事件有證明先使用事實之必要時，將造成無法舉證之不利益情形。INPIT提供此項保管服務後，能確實降低電子時戳憑證滅失或毀損之風險，憑證使用者享有一定期間備份之可能。而INPIT為普及該制度，在「何謂電子時戳保管服務」選項中，詳細說明其操作步驟，並有相關畫面可供參考，使有相關保管需求者能輕易操作相關保存之功能[5]。INPIT為普及該制度，亦透過所舉辦之營業秘密及智財戰略研討會，推廣相關保管服務[6]，另須注意者為，INPIT並不提供製作電子時戳之服務，故欲使用保存服務之人，須先向TSA業者取得電子時戳憑證，方可利用INPIT所提供之此項服務。 五、結論 近年來我國營業秘密案件層出不窮，小如鱘龍魚製作配方外洩之爭執[7]，大至堪可動搖國本之梁孟松由台積電跳槽至南韓三星之營業秘密案件[8]。故營業秘密是什麼，該如何保護營業秘密，儼然成為現代企業間之顯學，誠然當事人就是否侵害營業秘密發生爭執時，當事人所主張之各類文書資料，是否屬於營業秘密，仍屬法院認定之範疇，但企業主若在製作相關電子資料及文件時，能作好文件分級，並附加電子時戳，至少能證明企業主主觀上就該電子資料有以營業秘密保護之意思，可做為法官認定時之參考。當然若是人人可製作電子時戳，使電子時戳之產生過於浮濫，亦無相關認定機構可加以把關，或無補強之文件可證明存證之資料確為企業主所有等，屆時電子時戳在法官形成心證之過程中，無法形成助力不說，反而成為阻力。幸而電子時戳制度已在先進國家推行多年[9]，我國可以踏著前人走過的腳步，走得更廣更遠。故營業秘密文件電子時戳保存制度如能引進我國，相關制度該如何建立並將其完備，仍有待政府相關單位評估，透過公聽會，廣納各界之意見後，再制定相關之規定，期待能以此制度之探討，為我國營業秘密及智慧財產之保護上，帶來不同之思維。 [1]日本經濟產業省〈［入門編］文書の電子化によるメリット〉http://www.meti.go.jp/policy/it_policy/e-doc/guide/e-bunshoguide.pdf（最後瀏覽日：2017/10/12）。 [2]日本總務省<タイムビジネスに係る指針>http://www.soumu.go.jp/main_content/000485112.pdf（最後瀏覽日：2017/10/15）。 [3]日本總務省<タイムスタンプ技術＞http://www.soumu.go.jp/main_sosiki/joho_tsusin/top/ninshou-law/pdf/law_16.pdf（最後瀏覽日：2017/10/16）。 [4]獨立行政法人工業所有權情報‧研修館＜想定される本サービス活用例＞，獨立行政法人工業所有權情報‧研修館網站https://faq.inpit.go.jp/tradesecret/ts/ts_service.html#page3（最後瀏覽日：2017/10/16）。 [5]獨立行政法人工業所有權情報‧研修館＜想定される本サービス活用例＞，獨立行政法人工業所有權情報‧研修館網站https://faq.inpit.go.jp/tradesecret/ts/ts_service.html#ts-4（最後瀏覽日：2017/10/17）。 [6]獨立行政法人工業所有權情報‧研修館＜営業秘密・知財戦略セミナーin 大阪＞，獨立行政法人工業所有權情報‧研修館網站http://www.inpit.go.jp/content/100802953.pdf（最後瀏覽日：2017/10/17）。 [7] 智慧財產法院104年民營訴字第1號民事判決。 [8] 智慧財產法院102年民營上字第3號民事判決。 [9] 同註4。