用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
英國國際貿易部（Department for International Trade, DIT）於2021年3月22日發布《出口軍用與軍民兩用技術定義與範圍之指南》（Exporting military or dual-use technology Guidance: definitions and scope），以協助使用者定義「技術」與「轉讓軍用或軍民兩用技術的法規範圍」。指南中說明，出口管制目的旨在防止出口技術及技轉可能導致開發或製造武器而危及國家安全，而非禁止合法貿易或知識傳播。任何管制技術的永久或暫時性出口或技轉（Technology transfer）均應取得出口許可證，包括展演、海外招標或投標、履約等行為。 首先在適用主體上，指南說明適用出口管制規範，為所有在英國國境內之人（不論國籍）和組織以及特定情況下的海外英國人，向外國人或海外地區為出口、技轉、或是使海外人員取得受管制技術之情況。 指南中所謂技術者，包含《英國戰略出口管制清單》（UK Strategic Export Control Lists）、《2008年出口管制命令》（The Export Control Order 2008）與歐盟理事會第428/2009號規則（Council Regulation No 428/2009）之內容。有些管制技術會以不同形式呈現，例如藍圖、計畫、模型、程式、指導手冊等，其呈現的形式亦屬管制範圍。此外，部分技術若與大規模破壞武器（Weapon of Mass Destruction, WMD）、武器貿易禁令（arms embargoes）以及未經授權的軍事出口有關者，亦可能屬於受管制之技術，因此定義上十分廣泛。因應科技和網路發展，出口和技轉亦會以不同方式呈現。指南中說明，技轉包含（1）以有形的物理文件或存載於媒體的方式技轉，例如隨身碟、硬碟、筆電或平板等；（2）以電子式等無形形式技轉，例如電子郵件傳送等。無論受管制技術之技轉是否加密，均需取得出口許可證。 針對前述定義之出口和技轉方式，指南中也例示技術移轉或出口的不同態樣，例如（1）電話會議及視訊會議；（2）電子郵件；（3）筆電、手機等可記憶之設備；（4）跨國公司內部傳送；（5）雲端儲存；（6）在國外下載使用管制技術；（7）員工在海外使用/存取內部網路；（8）第三方在海外使用/存取公司內部網路或雲端服務；（9）IT系統維護與測試。以上方式均應個別判斷是否需要申請出口許可證。此外，技術所有者應主導出口管制規範之法遵，故應了解客戶、供應商、分包商等第三方服務業者之詳細資訊，且於契約中明訂各方的出口管制責任及相關條款，並隨時確認接受者或第三方是否得自不同管道取得管制技術及相關訊息，並於可能出口和或技轉管制技術時，立即申請出口許可證。
美國《代幣分類法》（Token Taxonomy Act）草案目前，美國證券管理委員會（U.S. Securities and Exchange Commission, SEC）對於數位貨幣的態度傾向於將代幣視為有價證券。《代幣分類法》（Token Taxonomy Act）草案則是持反對意見的聲浪¬，由美國眾議員Warren Davidson為首，並且獲得跨黨派多位眾議員的支持。《代幣分類法》主要的訴求是希望可以將數位代幣排除於證券，進而排除虛擬貨幣之稅務。重點有三： 修正《證券交易法》，將數位代幣排除於證券 將「數位代幣」（Digital Token）定義為驗證交易或遵循規則防止交易被竄改之「數位單元」（Digital Unit，以電腦可讀取的形式儲存，用於表彰經濟、財產上權利，或存取權限）。同時，在原先「證券」（Security）的定義中，排除「數位代幣」；另將證券「交易」（Exchange）交易排除數位貨幣適用。 擴張銀行之定義 修改「銀行」之定義。原先《1940年投資顧問法》和《1940年投資公司法》所指之「銀行」，包括「取得存款或執行信託權利（Fiduciary Powers）」等與准許經營銀行執行雷同事業者，是否為公司不在所問（Incorporated）。《代幣分類法》將之擴張為「取得存款、提供保管服務（Custodial Services）或執行信託權利」。 修正將虛擬貨幣視為免課稅對象 虛擬貨幣（Virtual Currency）定義為表彰數位價值之交易媒介且不是貨幣。並修正美國《1986國內所得稅法》（Internal Revenue Code of 1986），將虛擬貨幣交易視為免課稅之交易，並將總額小於600美金的虛擬貨幣買賣或交易之所得，排除於總收入（Gross Income）之外。 然而，目前美國證券管理委員會的態度仍未改變，並且於2019年4月3日發表〈數位資產「投資契約」分析之架構〉（Framework for “Investment Contract” Analysis of Digital Assets）。該分析架構說明：凡符合Howey Test之標準的「投資契約」即屬於「證券」，有《證券交易法》的適用。〈數位資產「投資契約」分析之架構〉甫發表，Warren Davidson與另外五位眾議員隨即重新提起2019年版的《代幣分類法》草案，是繼2018年9月、2018年12月第三度提起相關法案。楊安澤（Andrew Yang，美國首位角逐總統的華裔候選人）在2020年民主黨黨內總統初選政見中，亦援引《代幣分類法》草案，希望可以與連署《代幣分類法》草案的美國國會議員和懷俄明州（Wyoming）的立法者，共同擘畫有利於商業與人民的數位資產框架。
電子文書存證制度－淺談日本電子時戳及時戳保存制度電子文書存證制度－淺談日本電子時戳及時戳保存制度 資策會科技法律研究所 法律研究員 陳昱宏 106年11月13日 一、前言 電子文書具有「節省保管、檢索、運送及銷毀費用」、「活用資訊系統提升業務效率」、「具有復原可能性，避免資料滅失之風險」[1]等優點，文書電子化已為不可逆之趨勢。但電子文書除前述優點外，亦有易於變更竄改，無法檢知真實製作日期之缺點，若記錄於電子文書之智慧財產權遭他人侵害，如何證明所提出之電子文書確係早於他人侵害之時點即屬重要，本文擬就日本以電子時戳制度做為證明電子文書做成時間點之發展現況，以及獨立行政法人工業所有權情報．研修館所提供之電子時戳保管服務作介紹，說明日本如何利用電子時戳來維護相關智慧財產權利。 二、日本電子時戳制度及相關規定： 日本政府有鑑於電子文書已逐漸取代紙本文書，但電子文書仍存有易於複製及製作時間不易證明等種種缺點，進而構思建立一套能在電子文書或資料上附加時間資訊，以向第三人證明之制度。總務省於2004年發佈時間商務相關指針[2]，供相關制度使用者做參考，並為時間商務業者遵守之依據。而一般財團法人日本Data通信協會於2005年成立時間商務認定中心（タイムビジネス認定センター，下稱時間商務認定中心），若欲從事時間認證或發送等相關服務，須符合該中心就技術、系統及運用制度所制定之基準，符合基準之業者，即給予認定標章，此即「時刻認證業務認定事業者」(Time Stamp Authority簡稱TSA)。 三、電子時戳之功能： 電子時戳係一種證明電子資料在某一時間點之前確實存在且未經竄改之技術，透過比對電子時戳中所記載之資訊與原始電子資料所記載之資訊，可以輕易得知電子資料中之時間訊息是否有經過竄改。其可運用在各種需要時間證明之電子資料中，日本總務省在官方網站中之電子時戳技術相關檔案[3]，即有說明電子時戳可賦予各領域之電子資料極高之信賴度。在智慧財產之保護上，可以證明內容做成之日期，以保護創作人之權利；在電子商務上，可用於證明交易如下單之時間點等；在電子申請上，可證明所發送資料之做成時間；而在醫療上，可運用於電子病歷上，以證明未經竄改等。另於日本工業所有權情報‧研修館（下稱INPIT）官方網站，就電子時戳保管服務之相關說明中，亦有提及可活用之情形[4]，分述如下: 在專利、商標等侵權訴訟，當被指控侵權人主張其有先使用權時，可以做為其在業務或業務準備行為有實施專利，或有就商標為使用之證據。 在訴訟中，就對造所擁有之專利權提出無效抗辯時，可用以證明專利不具備可專利性之技術資訊已於申請獲准前有為公知之事實。 在商標廢止訴訟，可證明商標權人就系爭商標有使用之事實。 在營業秘密洩漏訴訟，營業秘密所有權人可證明被洩漏技術在某時點之前即為其所保有之事實。 四、INPIT就電子時戳所提供之保存服務: 參照INPIT官網之說明可知，所謂之電子時戳保管制度係INPIT對於TSA業者所發行之電子時戳憑證提供之保管服務，以利使用者於日後有備份電子時戳憑證需求時，能順利提取。此係因電子時戳憑證在一般情形下有滅失毀損之風險。一旦毀損滅失，在營業秘密之相關訴訟事件有證明先使用事實之必要時，將造成無法舉證之不利益情形。INPIT提供此項保管服務後，能確實降低電子時戳憑證滅失或毀損之風險，憑證使用者享有一定期間備份之可能。而INPIT為普及該制度，在「何謂電子時戳保管服務」選項中，詳細說明其操作步驟，並有相關畫面可供參考，使有相關保管需求者能輕易操作相關保存之功能[5]。INPIT為普及該制度，亦透過所舉辦之營業秘密及智財戰略研討會，推廣相關保管服務[6]，另須注意者為，INPIT並不提供製作電子時戳之服務，故欲使用保存服務之人，須先向TSA業者取得電子時戳憑證，方可利用INPIT所提供之此項服務。 五、結論 近年來我國營業秘密案件層出不窮，小如鱘龍魚製作配方外洩之爭執[7]，大至堪可動搖國本之梁孟松由台積電跳槽至南韓三星之營業秘密案件[8]。故營業秘密是什麼，該如何保護營業秘密，儼然成為現代企業間之顯學，誠然當事人就是否侵害營業秘密發生爭執時，當事人所主張之各類文書資料，是否屬於營業秘密，仍屬法院認定之範疇，但企業主若在製作相關電子資料及文件時，能作好文件分級，並附加電子時戳，至少能證明企業主主觀上就該電子資料有以營業秘密保護之意思，可做為法官認定時之參考。當然若是人人可製作電子時戳，使電子時戳之產生過於浮濫，亦無相關認定機構可加以把關，或無補強之文件可證明存證之資料確為企業主所有等，屆時電子時戳在法官形成心證之過程中，無法形成助力不說，反而成為阻力。幸而電子時戳制度已在先進國家推行多年[9]，我國可以踏著前人走過的腳步，走得更廣更遠。故營業秘密文件電子時戳保存制度如能引進我國，相關制度該如何建立並將其完備，仍有待政府相關單位評估，透過公聽會，廣納各界之意見後，再制定相關之規定，期待能以此制度之探討，為我國營業秘密及智慧財產之保護上，帶來不同之思維。 [1]日本經濟產業省〈［入門編］文書の電子化によるメリット〉http://www.meti.go.jp/policy/it_policy/e-doc/guide/e-bunshoguide.pdf（最後瀏覽日：2017/10/12）。 [2]日本總務省<タイムビジネスに係る指針>http://www.soumu.go.jp/main_content/000485112.pdf（最後瀏覽日：2017/10/15）。 [3]日本總務省<タイムスタンプ技術＞http://www.soumu.go.jp/main_sosiki/joho_tsusin/top/ninshou-law/pdf/law_16.pdf（最後瀏覽日：2017/10/16）。 [4]獨立行政法人工業所有權情報‧研修館＜想定される本サービス活用例＞，獨立行政法人工業所有權情報‧研修館網站https://faq.inpit.go.jp/tradesecret/ts/ts_service.html#page3（最後瀏覽日：2017/10/16）。 [5]獨立行政法人工業所有權情報‧研修館＜想定される本サービス活用例＞，獨立行政法人工業所有權情報‧研修館網站https://faq.inpit.go.jp/tradesecret/ts/ts_service.html#ts-4（最後瀏覽日：2017/10/17）。 [6]獨立行政法人工業所有權情報‧研修館＜営業秘密・知財戦略セミナーin 大阪＞，獨立行政法人工業所有權情報‧研修館網站http://www.inpit.go.jp/content/100802953.pdf（最後瀏覽日：2017/10/17）。 [7] 智慧財產法院104年民營訴字第1號民事判決。 [8] 智慧財產法院102年民營上字第3號民事判決。 [9] 同註4。
基因改造作物種植與否，未來將由各會員國自行決定為期望能打破歐盟長久以來因是否種植基因改造作物所陷入的政治僵局，近來根據一份歐盟內部策略報告文件(internal strategy paper)指出，歐盟執委會針對未來的基因科技政策首次建議表示，未來將授權由各會員國自行決定將批准或禁止基因改造作物於境內種植，並且透過調整相關基因科技法管理規範的方式予以落實推動。 以目前歐盟各會員國觀之，境內支持基因改造科技(gene-technology-friendly)與反對基因改造科技(gene-technology-unfriendly)的國家彼此呈現封鎖阻隔的局面，欠缺透明的決策程序，同時降低民眾對於政策決定了解程度。因此，歐盟執委會建議，關於基因改造作物的批准與種植，在此次建議中，擬朝向將歐盟權限與各會員國權限進行切割的做法，表示此一規劃對於後續選擇栽種與利用基因改造作物的國家將更為簡便，相對於無意栽種基因改造作物的國家則可核發禁令。 為執行上述建議做法，歐盟執委會進一步表示，修改相關法令規範必須取得歐盟議會之同意，如可行將嘗試於現行立法架構下採取政策調整的方式，同時應確保未來新修正的基因科技管理規範和WTO之規定相容，並且不會和其他國家政策立場造成衝突，尤其是向來支持發展基因改造作物的美國。 整體而言，歐盟執委會對於未來調整方向抱持樂觀態度，認為有鑑於目前的情況，此舉將為植物生物科技與相關種子產業帶來正面提升的力量。