用ChatGPT找法院判決?從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限

用ChatGPT找法院判決?從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限

資訊工業策進會科技法律研究所
2023年09月08日

生成式AI是透過研究過去資料,以創造新內容和想法的AI技術,其應用領域包括文字、圖像及影音。以ChatGPT為例,OpenAI自2022年11月30日發布ChatGPT後,短短二個月內,全球月均用戶數即達到1億人,無疑成為民眾日常生活中最容易近用的AI科技。

惟,生成式AI大量使用後,其中的問題也逐漸浮現。例如,ChatGPT提供的回答僅是從所學習的資料中統整歸納,無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀,卻未重新審視其所提供判決之正確性,以致後續引發訴狀中所描述的判決不存在爭議。

壹、事件摘要

Roberto Mata v. Avianca, Inc.案[1]中,原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約,飛行過程中膝蓋遭空服員的推車撞傷,並於2022年2月向法院提起訴訟,要求哥倫比亞航空為空服員的疏失作出賠償;哥倫比亞航空則主張已超過《蒙特婁公約》(Montreal Convention)第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。

R然而,法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢,進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供,並宣稱針對ChatGPT所提供的判決,曾多次向ChatGPT確認該判決之正確性[2]

貳、生成式AI應用之潛在風險

雖然運用生成式AI技術並結合自身專業知識執行特定任務,可能有助於提升效率,惟,從前述Roberto Mata v. Avianca, Inc.案亦可看出,依目前生成式AI技術之發展,仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]

一、能源使用及對環境危害

相較於傳統機器學習,生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示,OpenAI的GPT-3模型擁有1,750億個參數,約會消耗1,287兆瓦/時的電力,並排放552噸二氧化碳。亦即,每當向生成式AI下一個指令,其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]

二、能力超出預期(Capability Overhang)

運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能,此發展將會對人類帶來新的助力還是成為危險的阻力,則會隨著使用者之間的相互作用而定。

三、輸出結果有偏見

生成式AI通常是利用公開資料進行訓練,若輸入資料在訓練時未受監督,而帶有真實世界既存的刻板印象(如語言、種族、性別、性取向、能力、文化等),據此建立之AI模型輸出結果可能帶有偏見。

四、智慧財產權疑慮

生成式AI進行模型訓練時,需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而,若原始資料來源不明確,可能引發取得資料未經同意或違反授權條款之疑慮,導致生成的內容存在侵權風險。

五、缺乏驗證事實功能

生成式AI時常提供看似正確卻與實際情形不符的回覆,若使用者誤信該答案即可能帶來風險。另外,生成式AI屬於持續動態發展的資訊生態系統,當產出結果有偏誤時,若沒有大規模的人為干預恐難以有效解決此問題。

六、數位犯罪增加與資安攻擊

過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破,然而,生成式AI能夠快速建立具高度說服力的各種擬真資料,降低詐騙的進入門檻。又,駭客亦有可能在不熟悉技術的情況下,利用AI進一步找出資安弱點或攻擊方法,增加防禦難度。

七、敏感資料外洩

使用雲端服務提供商所建立的生成式AI時,由於輸入的資料存儲於外部伺服器,若要追蹤或刪除有一定難度,若遭有心人士利用而導致濫用、攻擊或竄改,將可能產生資料外洩的風險。

八、影子AI(Shadow AI)

影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加,若開發人員與使用者未進行充分溝通,或使用者在未經充分指導下使用 AI 工具,將可能產生無法預期之風險。

參、事件評析

在Roberto Mata v. Avianca, Inc.案中,法院關注的焦點在於律師的行為,而非對AI技術使用的批判。法院認為,隨著技術的進步,利用可信賴的AI工具作為協助用途並無不當,惟,律師應踐行其專業素養,確保所提交文件之正確性[5]

當AI科技發展逐漸朝向自主與獨立的方向前進,仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時,需具備獨立思考判斷的能力,並驗證產出結果之正確性,不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時,除確認結果正確性外,更需注意資料保護及治理議題,例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下,可選擇透過企業內部的基礎設施訓練AI模型,或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布,以適時調整資料使用之方式。

雖目前生成式AI仍有其使用之侷限,仍應抱持開放的態度,在技術使用與風險預防之間取得平衡,以能夠在技術發展的同時,更好地學習新興科技工具之使用。

[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).

[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).

[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).

[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).

[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research  (last visited Aug. 29, 2023).

你可能會想參加
※ 用ChatGPT找法院判決?從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&i=0&d=9050 (最後瀏覽日:2024/05/20)
引註此篇文章
你可能還會想看
從國內外實務見解談企業對員工之電子郵件監控

德國聯邦工業聯盟與Noerr法律事務所所公布「工業4.0 – 數位化進程面臨之法律挑戰」意見報告

  德國聯邦工業聯盟(Bundesverband der Deutschen Industrie)與Noerr法律事務所於2015年11月共同公布「工業4.0 – 數位化進程面臨之法律挑戰」(Industrie 4.0 – Rechtliche Herausforderungen der Digitalisierung)意見報告。該報告透過德國聯邦工業聯盟與Noerr法律事務所訪談德國數家企業法務部門,以釐清業界在邁入工業4.0轉型下會遇到的法律議題,並對此議題提出法律意見。   此報告針對工業4.0相關法律議題提出以下建議: 1.資料保護:業者可透過技術性設計達到資料保護的目的,例如隱私設計(Privacy by Design)。另,繼歐盟法院針對安全港判決的裁定,業者應積極關注歐盟第29條資料保護工作小組針對跨國資料傳輸的指引或德國聯邦資料保護委員(Datenschutzbeauftragten des Bundes)針對跨境資料保護規範的建議。 2.資料產權:在立法上不應急於規範管制,有恐危及企業資料分享的空間。建議企業間可透過雙方性契約規定資料的使用權 3.資訊安全:雖支持於2015年7月通過之德國資訊系統安全法(IT-Sicherheitsgesetz),強制性業者履行在遭資安攻擊時履行通報義務(Meldepflicht)。但是,若能實施以業者本身主動完成資安保護措施之鼓勵機制,則更能積極性的鼓勵業者履行其資安義務。 4.智慧財產權:標準必要專利的授權及使用係業者在工業4.0體系中,特別在系統的互通性上,非常重要的一環。在法制環境上應讓各個業者,在一定的條件下,均享有標準必要專利授權。 5.產品責任:因智慧工廠下之自治系統(autonome Systeme)有自主決定的能力,而因其所導致的民事糾紛,可透過新民事責任概念的架構所解決,並不一定要將該自治系統視為一獨立的數位法人(ePerson)。

淺談美國建築能源科技法制政策發展近況

研析經濟部智慧財產局因應TPP所提專利法修法草案

研析經濟部智慧財產局因應TPP所提專利法修法草案 資策會科技法律研究所 法律研究員 駱玉蓉 105年06月17日 壹、前言   包含美國、日本、澳洲、新加坡等十二個成員國的跨太平洋夥伴協定(Trans-Pacific Partnership, TPP,以下簡稱TPP)已於2016年2月4日正式簽署。待TPP生效後將開放第二輪國家申請加入,目前表態將申請加入的國家除了我國之外,還有韓國及印尼。   因應我國推動加入TPP,現行的專利法(以下簡稱本法) 、商標法及著作權法、藥事法等12項法規因與「TPP智慧財產章」規定仍有落差而須修法調整。經濟部智慧財產局(以下簡稱智慧局)於2015年12月29日舉辦「跨太平洋夥伴協定智慧財產(TPP/IP)章說明會」,並於今(2016)年5月12日公告專利法、商標法及著作權法因應TPP修正草案(送行政院核定版)。   本文將針對本法修法內容重點說明,並提出修法所涉及的影響,期做為我國企業後續在專利申請策略的制定與布局方面的參考[1]。 貳、修正要點說明及研析   本法修正重點主要有:擴大專利優惠期之適用並配套調整先使用權的期間、導入因專利專責機關審查遲延而申請延長專利權期間的制度、以及配合專利連結制度明確起訴依據。以下,重點整理與說明為符合「TPP智慧財產章」的規定,我國專利法中所修正的部分。 一、擴大專利優惠期之適用並配套調整先使用權的期間   依據「TPP智慧財產章」第18.38條的規定,修正本法第22條、第122條,將發明專利的優惠期期間由現行的六個月修正為十二個月,同時鬆綁發明專利與設計專利的公開事由。   現行本法第22條第3項(發明專利)、第122條第3項(設計專利)中所規定的優惠期為申請日前六個月,並採列舉限制公開方式,包括:因實驗而公開者、因於刊物發表者、因陳列於政府主辦或認可之展覽會者、非出於其本意而洩漏者,方可在專利申請時主張優惠期的規定。   此次修法除了將本法中發明專利的優惠期延長為十二個月之外,就發明和設計專利亦不再限制申請人公開方式和事由,同時刪除現行本法中,申請人若欲主張優惠期必須同時在申請時即提出主張的規定。   另外,當申請人所申請專利技術內容見於向我國或外國提出的他件專利申請案,因他件專利申請案登載於專利公開公報或專利公報而導致之公開,由於是因為申請人申請專利依法所導致,其性質上屬於申請後之公開,有別於得使用優惠期之公開事由,因此不適用此優惠期規定。   不過,若公報公開出於疏失、或他人直接或間接得知申請人的創作內容後未經同意所提出專利申請案而公開時,依據「TPP智慧財產章」第18.38條註31[2]的規定,該公開仍不應作為先前技術,仍有優惠期的適用。   此外,配合發明專利優惠期期間的調整,修正本法條文第59條第1項第3款但書,有關先使用權不適用的規定,將「但於申請人處得知其發明後」的期間由「未滿六個月」修正為「未滿十二個月」。 二、導入因專利專責機關審查遲延而申請延長專利權期間的制度   因應「TPP智慧財產章」第18.46條的規定,新增本法第57條之1至第57條之 4,增訂審查遲延之起算時間、可扣除期間、申請期間、申請延長期間與專利專責機關計算之審查遲延期間不一致之處理,以及舉發事由之規定。當授予之發明專利有不合理延遲時,應依專利權人之申請調整專利權期間。而所謂不合理延遲,為提出專利申請後5年或申請實體審查後3年(以時間較晚者為準)仍未獲審定者。   與美國專利較大的不同是關於延長期間的獲得方式,相較於美國專利局是以自動發給的方式,我國則是依「TPP智慧財產章」的規定依申請人請求而發給(申請案公告後3個月內提出),同時在計算上,可扣除非為授予專利權主管機關對該申請案之處理或審查期間中發生之期間(訴願及行政訴訟期間) 、非可直接歸責於授予專利權主管機關之期間 ,以及可歸責於申請人之期間,並明定核准延長的期間以5年為限。 三、配合專利連結制度明確起訴依據   因應「TPP智慧財產章」第18.51條的規定,配合藥事法的修正[3],新增本法第60條之1,要求先由新藥專利權人揭露其專利相關資訊,當有學名藥申請查驗登記時,將學名藥能否取得查驗登記許可與有無侵害新藥的專利權加以連結,以利在學名藥的查驗登記審查程序中,便於釐清潛在侵權爭議。   「TPP智慧財產章」第18.47、50、52條有關藥品的資料專屬保護的規定,以及「TPP智慧財產章」第18.51條有關專利連結的規定,為在「TPP智慧財產章」中備受討論的部分之一,在說明專利連結制度之前,首先要先了解資料專屬保護的相關內容,才可對專利連結制度的意義有基礎的了解。以下,便分別對資料專屬保護及專利連結作簡單的整理。   (一) 資料專屬保護   所謂的資料專屬保護期間,指新藥由申請上市許可起,可受到指定期間內的保護。   有關藥品的資料專屬保護的相關規定,分別影響農藥、小分子化學藥品(包含新適應症等)、大分子生物藥品的資料專屬保護期間。由於此處所稱的資料專屬保護指人體試驗資料,故其主管機關為衛生福利部食品藥物管理署(以下簡稱衛福部)。   我國目前針對農藥資料為提供8年的保護[4]、新成分新藥5年資料專屬保護、新適應症新藥3年行政保護(在國內進行臨床試驗者)[5]。其中,需敘明的是上述新成分新藥5年資料專屬保護,依據我國現行藥事法第40條之2的規定,為採用3年加2年的概念,亦即,學名藥廠商在新成分新藥許可證核發之日起3年後提出查驗登記申請,對於符合規定者,主管機關則需等新成分新藥許可證核發屆滿5年之翌日起發給藥品許可證。   「TPP智慧財產章」中要求的個別保護期間為:農藥為至少10年內,小分子化學藥品為至少5年內,大分子生物藥品則有方案一之至少8年有效市場保護、或方案二之至少5年資料保護與其他措施。據此,我國現行法在農藥、小分子化學藥品中之新適應症、大分子生物藥品仍與TPP法規有落差而需調整。而針對大分子生物藥品的方案二之至少5年的資料保護,我國現行法中3年加2年的概念是否符合TPP法規的要求、所謂的其他措施應該要如何規定,仍需觀望其他成員國的說法。   (二) 專利連結   有關專利連結的規定,簡單來說便是一種專利權侵權確認與藥品上市許可的連結機制。目前TPP提供有以下兩種方案。 方案一: (a) 提供通知機制,使藥品或其使用方法專利權人,能在學名藥上市前,得知在專利權期間有學名藥想要申請上市。 (b) 確保專利權人有足夠時間與機會,可利用司法或行政程序,甚至暫時性禁制令等快速救濟措施,在學名藥進入市場前解決專利有效性或侵權爭議。 此方案相較於後述的方案二,在執行面上可行性較高,但方案一的問題點在於通知機制的負責機關之權責釐清,由智慧局或衛福部來通知專利權人,仍待後續兩機關的協調與討論。 方案二:   藉由申請新藥上市許可時所提交的專利相關資料,或藥政主管機關(指我國衛福部)和專利局(指我國智慧局)之間的直接協調合作,於專利權期間,未經專利權人同意,不得核准第三人專利藥品之上市許可。   就執行上而言,由於方案二要求專利登錄資料的正確性,且須經實質審查,對藥政主管機關的負擔較大,此外,此方案並未釐清專利有效性及侵權的爭議,因此在執行上難度較方案一更高[6]。   總結而言,專利連結之目的,即透過學名藥能否取得查驗登記許可與有無侵害新藥的專利權加以連結,以在學名藥的查驗登記審查程序中便釐清潛在侵權爭議,有助減少專利侵權訴訟的風險,避免學名藥遭認定侵權而不得為製造、販賣等行為並須擔負損害賠償責任,造成其投資資源之浪費。雖然目前我國採取哪個方案未明確凸顯,後續也有待藥事法相關修正,惟對於藥品的專利連結制度、權利救濟已於本次修法新增於本法第60條之1的規定,專利權人得依藥事法規定請求除去或防止侵害,學名藥廠亦得依藥事法規定提起確認之訴。 參、綜整   我國加入TPP已勢在必行,如何因應加入後的衝擊,事前的規劃配套更不可少。企業應首先注意者為本法修正後的適用(過渡條款),目前除專利連結制度的專利權主張於新法施行後即有適用以外,其餘相關變革適用於新法施行後的申請案。   綜整本法中配合TPP所做的調整,主要可分為三方面,一為擴大優惠期的適用,一為導入因專利專責機關審查遲延而申請延長專利權期間的制度,一為與藥事法連結之專利連結制度。   由於擴大專利優惠期之適用,使得企業未來在進行專利布局時將更有彈性,無論是發明專利申請前自行公開的情況、或非出於申請人本意而公開的情況,若在公開起12個月內提出發明專利申請時,該發明專利便不會因前述的公開而否定其新穎性。   另一個觀點來看,縱使修正後的本法中不再限定申請人的公開方式,但走入訴訟階段時仍有提供法院相關證據需求的可能,以證明屬法定優惠期內提出之申請,因此建議企業若欲主張專利優惠期,仍需保存其相關的公開證據。此外,須注意的是,本法修法中,設計專利的優惠期規定雖同發明專利不再限制公開方式,但優惠期間仍維持六個月。   而有關導入因專利專責機關審查遲延而申請延長專利權期間的制度,就實務而言,目前智慧局絕大部分的發明專利案件均可在提出專利申請後5年或申請實體審查後3年內獲得審定[7],再加上不合理延遲期間的計算上還可扣除可歸責於申請人的期間,且所稱審查遲延期間並不包括訴願及行政訴訟的期間,因此就現況而言,我國發明專利的申請案能真正適用此條規定的仍屬少數。惟若真有適用情事發生時,專利申請人應於公告後三個月內備具申請書,向智慧局提出申請,須特別注意的是,核准延長的期間超過得延長的期間、或提出專利權期間之延長的申請人非專利權人時,任何人將可向智慧局提出舉發。   至於專利連結制度,相關的藥事法修法雖仍在公聽會的階段,但從目前本法修正的方向來看,專利連結制度的意義在於,讓學名藥上市前可先釐清專利爭議,避免上市後因侵權而資源投入浪費、醫院等用藥單位無法採購的問題發生。   為此,新增本法第60條第1項,規定專利權人得請求除去或防止侵害的權利,對新藥專利權人而言,當接獲學名藥申請查驗登記時,將有機會提前確認該學名藥是否有侵害該新藥對應之專利權,若無,則由藥政主管機關核發學名藥許可證,反之若有,則可在指定期間提起侵權訴訟且使學名藥許可證暫停核發,使新藥專利權人可對潛在侵權爭議預作釐清。另一方面,做為對學名藥廠的保護機制,新增本法第60條第2項,規定學名藥廠得提起確認之訴的要件,以避免新藥專利權人在確認該學名藥有侵害該新藥對應之專利權,卻故意未在指定期間提起侵權訴訟而使學名藥的許可證暫停核發之情事,給予與學名藥廠一個對等的應對機制。 本文同步刊登於TIPS網站(http://www.tips.org.tw) [1]在「TPP智慧財產章」I節「執行」中,與專利侵權相關之第18.74條民事救濟的規定中,則規定法院在民事救濟中有權判敗訴方負擔訴訟費用及適當之律師費,有關後者之律師費,正由司法院進一步釐清現行我國的實務作法是否合乎TPP的要求,並評估是否修正相關法規。由於此非智慧財產相關法律共通性規定且相關主管機關仍在研議中,故不列入本文研析。 [2]「TPP智慧財產章」第18.38條註31:締約方並無將專利局所公開或公告之智慧財產權申請案或註冊案所包含資訊排除考量之義務,除非其係錯誤的公開,或該申請案係基於第三人自發明人直接或間接取得之資訊且未經申請人或其後手同意而申請者。No Party shall be required to disregard information contained in applications for, or registrations of, intellectual property rights made available to the public or published by a patent office, unless erroneously published or unless the application was filed without the consent of the inventor or their successor in title, by a third person who obtained the information directly or indirectly from the inventor. [3] 草案修正公聽會階段。 [4] 請參照我國現行農藥管理法第10條第1項的規定。 [5] 請參照我國現行藥事法第40條之2的規定。 [6] 根據智慧局王美花局長在「跨太平洋夥伴協定智慧財產(TPP/IP)章說明會」中的說明, 目前採取此方案的國家有新加坡。 [7] 有關智慧局專利處理期間,可參照在其網站公開的「專利各項申請案件處理時限表」,http://www.tipo.gov.tw/ct.asp?xItem=155236&CtNode=6671&mp=1(最後瀏覽日:2016/06/14)

TOP