用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
歐盟執委會（European Commission, EC）於2019年10月9日發布《5G網絡安全風險聯合評估報告》（report on the EU coordinated risk assessment on cybersecurity in Fifth Generation networks），為執委會調查歐盟成員國家5G網路安全風險評鑑。該評估報告將由歐盟網路與資訊安全局（European Union Agency for Network and Information Security, ENISA）後續進一步分析歐盟發展5G行動通訊所帶來的網路安全威脅。 報告中顯示，5G網路的安全挑戰，主要來自(1)5G技術關鍵創新：尤其是5G軟體重要組成部分與5G廣泛的服務和應用等技術創新，以及技術創新所帶來的安全性更新；(2)供應商：若5G通訊營運業者對供應商過度依賴，會導致攻擊者可利用的攻擊路徑的增加。 5G網路開展將帶來許多影響，包含： 隨著5G網路軟體發展，攻擊者有更多潛在切入點；與軟體有關的安全風險漏洞管理十分重要，供應商內部不良的軟體開發流程會使攻擊者容易將惡意軟件植入後門，且難以被發現。 對單一供應商的依賴也會帶來風險增加，包含供應鏈中斷風險、增加供應商變更成本、供應商受到非歐盟國家有意介入的可能性、以及在產品供應瑕疵的情況下營運業者難以採行應變措施等。 隨著5G網絡作為許多關鍵資通訊應用的骨幹，對5G網路可用性、完整性、機密性的威脅將成為國家安全隱憂，也是歐盟未來需要面對的最大的網路安全挑戰。
韓國最高法院宣告撤銷製藥公司含有「LEGO」名稱的註冊商標韓國最高法院2023年12月8日宣告著名積木玩具樂高公司（LEGO Juris A/S）提起撤銷註冊商標「LEGOCHEMPHARMA」的上訴審判結果，確認韓國製藥商樂高生技有限公司（下稱LegoChem Bio）的註冊商標無效，因該註冊商標包含LEGO字樣，存有減損樂高公司「LEGO」商標識別性之虞，構成侵害商標權。 科斯達克上市公司LegoChem Bio於2015年11月申請「LEGOCHEMPHARMA」商標註冊，用以提供藥物開發服務，隨後樂高公司提出異議，聲稱該商標與其「LEGO」商標近似，該商標因此被駁回。據此，LegoChem Bio向智慧財產權審判及上訴委員會（IPTAB）提出上訴，並於2018年9月取得商標註冊。其後，樂高公司於2020年3月向智財法院提起訴訟，主張商標權受到侵害，請求撤銷「LEGOCHEMPHARMA」商標註冊，法院判決該註冊無效，LegoChem Bio因此向最高法院提起上訴。 首先，最高法院認為「LEGOCHEMPHARMA」（下稱系爭商標）的關鍵識別部分為「LEGO」，而「CHEM」和「PHARMA」僅是化學和製藥領域的名稱，沒有特殊的識別性。其次，依韓國《商標法》規定，第34條第1項第11款規定「可能與消費者高度認識的他人商品或服務造成混淆誤認，或損害其識別性或聲譽之虞的商標」不得註冊商標。最高法院認為系爭商標與樂高公司的高知名度和高識別性商標「LEGO」非常近似，被告LegoChem Bio申請註冊系爭商標之目的可能是為引起與先使用商標「LEGO」之聯想。因此判決系爭商標註冊無效，且應視為有損害著名商標識別性之虞。 本案攻防戰可看出商標取得、保護對於品牌之生存發展具有重要影響，有關品牌發展各階段應留意的風險與建議作法，企業可參考資策會科法所創意智財中心出版的商標專書「TOP品牌商標管理術！新創業到老字號都適用」，可藉由該書收錄的經典國內外品牌商標管理方式與時事案例，跟上品牌商標管理趨勢，其中的品牌商標管理工具，亦得直接應用於實務工作，輔助建置品牌商標管理機制，保護品牌獨特性、穩固品牌競爭力，為品牌經營帶來加乘效益。 本文同步刊登於TIPS網（https://www.tips.org.tw）
發展階段支出可列為資產過去高科技企業或生化公司的研發專案，公司經常認為專案已成熟，可認列為無形資產，以分成幾年攤銷，不致影響損益；但會計師卻可能認為，其無技術可行性或者無使用和出售可能，仍主張認列為費用。 第三十七號會計公報 「無形資產的會計處理」 新近出爐，就無形資產清楚給予定義，並解釋如何進行會計處理與鑑價。其中最特別的是，第三十七號公報首次區分「研究」和「發展」階段的不同，發展階段有可能資本化。資本化最大的影響是，支出可以列為資產，不會影響損益，研究型企業的資產負債、損益表也將更為精準。 舉例來說，生化、製藥業者因研究期很長，所有研發期間的投入，過去都須列為費用，導致獲利被明顯稀釋；未來根據三十七號公報，企業專案計畫接近商品化的發展階段，就可以資本化，此時的損益表上費用項目，就不會那麼高， 因此，「發展」階段可列為資產，有助鼓勵科技業者增加研究發展經費的投入。 至於企業併購所產生的購買價格和被併公司淨值之間的溢價，過去通常以商譽處理，不過在 37 號公報上路後，會計師建議不應再把溢價直接當作商譽來處理，此乃因第 37 號公報所稱的無形資產，並不包含商譽，且必須具有「個別可辨認性」。因此，併購溢價應該區分為商譽和無形資產兩者，其後續評價對企業也較為有利。 此外會計業者也表示，促產條例中對研發投抵的認列，有可能受到三十七號公報的影響，需要做調整，這部分有待財政部進ㄧ步規範清楚。
日本印章制度與電子署名法修正日本國會於2021年2月9日正式提出「數位社會形成基本法草案」（デジタル社会形成基本法案），立法目的為提升國家競爭力、國民生活便利性，以建置一個「數位社會」，基本原則為降低數位落差，而降低數位落差之重要手段即包括日本印章制度之改革。 日本政府對印章制度之改革，可分為「取消蓋章制度」及「增加電子簽章使用率」二條路線。由於新冠疫情（COVID-19）影響全球工作型態，日本政府為推動電子化服務，考慮取消印章使用，因為其徒增商業活動成本，亦可能提升染疫風險。日本行政改革大臣河野太郎在2020年11月13日內閣會議後之記者會上即表示，約1萬5000種需要使用印章的行政服務中，絕大多數將取消蓋章制度。「數位社會形成基本法草案」亦預告將修改48部要求使用印章之法律，本草案及相關修法將於2021年9月正式通過施行。 電子簽章使用方面，日本在野黨聯盟於2020年6月提出「電子署名及認證業務法一部修正草案」（電子署名及び認証業務に関する法律の一部を改正する法律案）。依照現行規定，電子簽章須本人以一定方式簽署始可推定為真正，推定真正之條件過度嚴苛，便利性未優於實體蓋章，致使電子簽章使用普及度低落。本草案則降低推定門檻，僅須以特定電子方式簽署即有推定真正效力，使電子簽章簽署人身分驗證更為容易。目前法案仍在眾議院提案階段，尚未經國會表決通過，後續發展值得關注。