用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
藥品專利聯盟（Medicines Patent Pool，下簡稱MPP）2021年2月宣布將和世界智慧財產權組織（World Intellectual Property Organization，下簡稱WIPO）加強合作，因應COVID-19及推動《聯合國2030永續發展議程》（United Nations 2030 Agenda for Sustainable Development）。MPP是聯合國支援的公衛組織，透過與政府、國際組織、企業、患者團體等對象合作，對所需藥品進行排序，並和藥品專利權人簽署協議，將其授權之智財權納入專利庫，以鼓勵製造學名藥和開發新配方，促進中低收入國家的救命藥品取得與研發。 雙方將在以下領域共同合作： 一、探索促進以中低收入國家為主的COVID-19醫療技術創新及對應之智財管理策略，並在網頁上共享資訊與工具。 二、和各國專利局合作，透過連結PATENTSCOPE、Pat-INFORMED及MedsPaL等資料庫，提高關鍵藥品的專利透明度和收集資訊，並在各論壇呈現合作成果。 三、安排授權和技術移轉相關活動，包含為WIPO成員國提供的技術支援、WIPO中小企業暨創業支助司（WIPO’s SMEs and Entrepreneurship Support Division）和WIPO學術機構（WIPO Academy）執行的活動和計劃等。 四、在專利法常設委員會（Standing Committee on the Law of Patents，SCP）共享資訊：應WIPO成員國要求，介紹MPP的業務、專利和授權資料庫MedsPaL。 五、為支持被忽視的熱帶疾病（neglected tropical diseases，NTDs）、瘧疾和肺結核的早期研發，將定期協商並在網頁提供相關連結。 六、探索能進一步納入MPP協議中的爭端解決條款。 近來MPP更邀請WIPO以無表決權的觀察員身份參與理事會，雙方期望本次合作能為大眾帶來更多的利益。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
研析經濟部智慧財產局因應TPP所提商標法修法草案研析經濟部智慧財產局因應TPP所提商標法修法草案 資策會科技法律研究所 法律研究員 林昭如 105年06月20日 壹、前言 我國智慧財產相關法規與時俱進，順應國際法規趨勢及實務發展，不定期檢視、修正相關法規內容，以期完善智慧財產法制，健全產業競爭環境。今更因應跨太平洋夥伴協定(Trans-Pacific Partnership Agreement，以下簡稱TPP)智慧財產章(以下簡稱IP章)全面化、高標準、細緻化的規範，重新檢視我國智慧財產相關法規。其中，商標法現行條文大部分符合TPP IP章的規範，如：商標法有關非傳統商標、著名商標保護、地理標示等等[1]。惟有關製造、進口仿冒標籤、包裝等行為之侵權責任，與TPP IP章的規定，尚有落差，即有調整必要。我國TPP/RCEP專案小組第16次會議，已就智慧財產法規相關議題，確認修法方向及內容，向國際社會展現我國爭取加入TPP第二輪談判的決心[2]。 經濟部智慧財產局於105年5月10日將因應TPP規定的商標法修正草案送交行政院，其修正重點包括：1.擴大仿冒商標標籤等行為的民事責任，以故意或過失為主觀要件(不限於明知)；2.新增仿冒商標或團體商標標籤等行為的刑罰規定；3.擴大仿冒證明標章標籤等行為之刑事責任主觀要件，以故意(不限於明知)為限，並增訂處罰「輸出或輸入」前述仿冒證明標章標籤的行為；4.擴大販賣及意圖販賣他人所為侵權商品等行為之刑責，以故意(不限於明知)為主觀要件。本文將分析我國商標法現行條文(以下簡稱現行條文)及因應TPP規定的修正條文內容，並提出對於我國產業可能造成之影響。 貳、因應TPP修法重點內容 一、擴大仿冒商標標籤等行為的民事責任，以故意或過失為主觀要件(不限於明知) 因應TPP IP章第18‧74條第三項規定，商標侵權民事責任以明知或可得而知(knowing, or with reasonable grounds to know)為主觀要件，負擔損害賠償責任。考量我國現行條文第七十條第三款規定：「…三、明知有第六十八條侵害商標權之虞，而製造、持有、陳列、販賣、輸出或輸入尚未與商品或服務結合之標籤、吊牌、包裝容器或與服務有關之物品。」有關侵權之民事責任限於「明知」，不符合前述 TPP規定，故刪除「明知」文字，回歸一般民事侵權責任，以故意過失為主觀歸責條件。 此外，亦強化現行條文意旨，明確規範民事賠償責任範圍，包含意圖供自己或他人侵害商標權，而為製造或販賣等尚未與商品或服務結合的標籤、吊牌、包裝容器或與服務有關的物品之準備或輔助行為。 二、新增仿冒商標或團體商標標籤等行為的刑罰規定 因應TPP IP章第18‧77條第三項規定，對於具商業規模之仿冒相同或無法相區別商標之標籤或包裝而為用於他人註冊商標同一商品或服務者，應訂有刑事處罰規定。考量現行條文無相關規範，不符合前述TPP規定。故新增修正條文第九十五條第二項：「未得商標權人或團體商標權人同意，為行銷目的而製造、販賣、持有、陳列、輸出或輸入附有相同或近似於註冊商標或團體商標之標籤、吊牌、包裝容器或與服務有關之物品，意圖供自己或他人用於與註冊商標或團體商標同一商品或服務者，處一年以下有期徒刑、拘役或科或併科新臺幣五萬元以下罰金。」並依我國刑罰明確性原則，明定「以行銷目的」而為製造、販賣仿冒商標標籤等行為，始為刑罰範圍。 三、調整仿冒證明標章標籤等行為之刑事主觀要件，以故意(不限於明知)為限，並增訂處罰「輸出或輸入」前述仿冒證明標章標籤的行為 因應 TPP IP章第18‧77條第三項刑事處罰「故意」之行為。考量現行條文第九十六條第二項：「明知有前項侵害證明標章權之虞，販賣或意圖販賣而製造、持有、陳列附有相同或近似於他人註冊證明標章標識之標籤、包裝容器或其他物品者，亦同。」有關刑事處罰的主觀要件限於「明知」，依我國實務見解僅限於直接故意，不包含間接故意，不符合前述 TPP規定，故刪除「明知」文字，回歸一般刑事處罰以故意為要件的原則；並依我國刑罰明確性原則，明定「以行銷目的」而為製造、販賣仿冒證明標章標籤等行為，始為刑罰範圍。 此外，亦因應TPP IP章第18‧77條第三項刑事處罰包含「輸入」之行為。考量現行條文僅將「販賣、意圖販賣而製造、持有、陳列」仿冒證明標章的標籤等不法行為納入刑罰，不符合前述TPP規定，故調整如修正條文第九十六條第二項：「未得證明標章權人同意，為行銷目的而製造、販賣、持有、陳列、輸出或輸入附有相同或近似於註冊證明標章之標籤、吊牌、包裝容器或與服務有關之物品，意圖供自己或他人用於同一商品或服務者，處三年以下有期徒刑、拘役或科或併科新臺幣二十萬元以下罰金。」增訂處罰「輸出或輸入」仿冒證明標章標籤、吊牌等之不法行為。 四、擴大販賣或意圖販賣而持有、陳列、輸出/入他人所為侵權商品等行為之刑責，以故意(不限於明知)為主觀要件 因應 TPP IP章第18‧77條第三項刑事處罰「故意」之行為。考量現行條文第九十七條：「明知他人所為之前二條商品而販賣，或意圖販賣而持有、陳列、輸出或輸入者，處一年以下有期徒刑、拘役或科或併科新臺幣五萬元以下罰金…。」有關刑事處罰的主觀要件限於「明知」，依我國實務見解僅限於直接故意，不包含間接故意，不符合前述 TPP規定，故刪除「明知」文字，回歸一般刑事處罰以故意為要件的原則。 參、修法影響 由商標法修正草案整體觀之，對於商標、團體商標、證明標章權利人的保障更加明確、完善，將有助於我國品牌企業從仿冒製假鍊源頭防止損害發生，在侵權、不法行為前階段，遏阻仿冒品流入市場，順遂品牌產品的國際拓銷。具體而言包含下列二面向： 一、擴大仿冒商標標籤、吊牌等行為之民事責任主觀要件，有助阻斷劣質仿品 擴大商標侵權之準備或輔助行為賠償責任的主觀要件，不以行為人明知(故意)為限，只要可得而知(過失)有侵害商標權的可能，未得商標權人同意，意圖供自己或他人侵害商標權而為之準備或輔助行為，即應負擔損害賠償責任，此將有助於權利人更全面、完整保護註冊商標。並明確現行條文意旨，賠償責任範圍包含製造、販賣、持有、陳列、輸出或輸入附有相同或近似於註冊商標的標籤、吊牌、包裝容器或服務有關的物品。此將有助於權利人從仿冒製假源頭，阻斷仿品流通銷售。 相對而言，若企業非商標權人的情況，而是接受其他企業委託製造其產品的商標標籤、吊牌、包裝容器或服務相關的物品，即應在接受委託前，善盡調查義務，確認委託企業是否擁有合法商標權源，避免過失供他人為侵害商標權的準備或輔助行為，而必須負擔民事賠償責任。 二、增訂仿冒商標標籤刑罰、擴大仿冒證明標章標籤刑責範圍，有助打擊犯罪源頭 現行條文僅處罰侵害證明標章標籤的準備或輔助行為，並未處罰侵害商標或團體商標權的準備或輔助行為，修正條文增訂處罰意圖供自己或他人侵害商標或團體商標權，而為行銷目的之準備或輔助行為，包含：製造、販賣、持有、陳列、輸出或輸入附有相同或近似於註冊商標的標籤、吊牌、包裝容器或服務有關的物品。此將有助於品牌企業運用國家公權力的手段，從仿冒的源頭切斷相關準備或輔導仿冒之行為，透過刑罰從仿冒前端即抑制此揭不法行為，遏止侵權仿冒，鞏固品牌企業經年累月的品牌知名度及經營效益。 擴大仿冒證明標章標籤的刑責，一是將刑事處罰主觀要件，回歸一般刑事處罰以故意為原則，不限於明知。二是擴及處罰「輸入或輸出」仿冒證明標章標籤、吊牌等之不法行為。以國家公權力遏阻仿冒證明標章標籤的輸出入行為，避免濫用於劣質產品或服務。將有助於維護我國食品、農漁畜產品、工業產品、觀光旅宿、商業服務等之商品或服務的優良品質、精密度、製造方法等，如：台灣精品標誌、MIT微笑標章等，以及特定地區產品或服務的品質、聲譽，如：文山包種茶、關山米等，向世界各地推展我國優良產品及服務，促進我國經貿發展。 本文同步刊登於TIPS網站（http://www.tips.org.tw） [1] 經濟部智慧財產局說明會：TPP 智慧財產章https://www.tipo.gov.tw/public/Attachment/5122917315547.pdf(最後瀏覽日：2016/6/14) [2] 政院：展現爭取加入TPP第二輪談判決心 持續進行法規落差盤點及體制調和工作(2016/4/15) https://www.moea.gov.tw/MNS/populace/news/News.aspx?kind=2&menu_id=41&news_id=52423 (最後瀏覽日：2016/6/14)
日本修正《氫能基本戰略》以實現氫能社會日本於2023年6月6日召開有關「再生能源、氫能等相關」內閣會議，時隔6年修正《氫能基本戰略》（水素基本戦略），其主要以「水電解裝置」、「燃料電池」等9種技術作為戰略領域，預計15年間透過官民投資15兆日元支援氫能相關企業，希冀盡速實現氫能社會。 日本早於2017年即提出氫能基本戰略，由於氫氣在使用過程中不會產生溫室氣體或其他污染物質，被認為是可以取代傳統化石燃料的潔淨能源，欲以官民共同合作，無論在日常生活、生產製造等活動下，都能透過氫能發電方式，達成氫能社會，故推出降低氫能成本、導入氫能用量的政策，並以2030年為目標，將氫能的用量設定為30萬噸、同時將氫能成本降為30日元/Nm3（以往價格為100日元/Nm3），使其成本與汽油和液化天然氣成本相當。為配合2021年《綠色成長戰略》，日本再次擴充目標，透過活用綠色創新基金，集中支援日本企業之水電解裝置和其他科技裝置，預計在2030年的氫能最大供給量達每年300萬噸、2050年可達2000萬噸。 然而隨著各國紛紛提出脫碳政策和投資計畫，再加上俄烏戰爭之影響，全球能源供需結構發生巨大變化，例如：德國成立氫氣專案（H2 Global Foundation）投入9億歐元，以市場拍賣及政府補貼成本的方式推動氫能、美國則以《降低通膨法》（The Inflation Reduction Act），針對氫能給予稅率上優惠措施等，在氫能領域進行大量投資，故為因應國際競爭，日本重新再審視國內氫能發展，並修正《氫能基本戰略》，除提出「氫能產業戰略」及「氫能安全保障戰略」外，本次主要修正之重要措施摘要如下： 1.維持2030年、2050年氫能最大供給量之設定，但新增2040年時提出氫能的最大供給量目標為1200萬噸。 2.由於水電解裝置在製造綠氫時不可缺，爰設定相關企業於2030年前導入15GW左右的水電解裝置，同時確立日本將以氫能製造為基礎之政策。 3.鑒於氫能科技尚不純熟、氫能價格前景不確定性高，在氫能供應鏈的建構上有較大風險，故透過保險制度分擔風險，以提高經營者、金融機構投資氫能之意願。 4.藉由氫能結合渦輪、運輸（汽車、船舶）、煉鐵化學等其他領域，期以氫氣發電渦輪、FC卡車（使用氫氣燃料電池Fuel Cell之卡車）、氫還原製鐵為中心，强化國際競爭力，創造氫能需求。 5.預計10年間，以產業規模需要在都市圈建設3處「大規模」氫能供給基礎設施；另依產業特性預計於具相當需求之地區，建設5處「中等規模」基礎設施。
美國白宮發佈「AI應用監管指南」十項原則美國白宮科技政策辦公室（Science and Technology Policy, OSTP）在2020年1月6日公布了「人工智慧應用監管指南（Guidance for Regulation of Artificial Intelligence Applications）」，提出人工智慧（AI）監管的十項原則，此份指南以聯邦機構備忘錄（Memorandum for the Heads of Executive Departments and Agencies）的形式呈現，要求政府機關未來在起草AI監管相關法案時，必須遵守這些原則。此舉是根據美國總統川普在去（2019）年所簽署的行政命令「美國AI倡議」（American AI Initiative）所啟動的AI國家戰略之一，旨在防止過度監管，以免扼殺AI創新發展，並且提倡「可信賴AI」。 這十項原則分別為：公眾對AI的信任；公眾參與；科學誠信與資訊品質；風險評估與管理；效益與成本分析；靈活性；公平與非歧視；揭露與透明；安全保障；跨部門協調。旨在實現三個目標： 一、增加公眾參與：政府機關在AI規範制定過程中，應提供公眾參與之機會。 二、限制監管範圍：任何AI監管法規實施前，應進行成本效益分析，且機關間應溝通合作，建立靈活的監管框架，避免重複規範導致限制監管範圍擴大。 三、推廣可信賴的AI：應考慮公平性、非歧視性、透明性、安全性之要求，促進可信賴的AI。 這份指南在發佈後有60天公開評論期，之後將正式公布實施。白宮表示，這是全球第一份AI監管指南，以確保自由、人權、民主等價值。