用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
專利連結（patent linkage，亦有稱patent registration linkage）是1984年美國《藥品價格競爭及專利期回復法（Hatch-Waxman Act, HWA）》所創設。傳統上，醫藥主管機關與專利主管機關的權責是有所區分的。然而，醫藥主管機關因為醫藥管理制度與專利制度的連結，使得醫藥主管機關須審查專利相關事務，即醫藥主管機關在審查學名藥上市許可申請時，必須同時判斷該藥品是否侵害專利藥公司就該藥品所掌握的專利。 專利連結制度可以採取幾種形式，最簡單形式的專利連結可能涉及了以下的要求：當有學名藥廠對專利藥公司所生產的的專利藥品提出學名藥，並尋求醫藥主管機關批准時，則應向專利藥公司告知學名藥廠的身份。強度較強的專利連結，在該專利藥品的專利到期或者無效之前，可以禁止醫藥主管機關核發上市許可給學名藥品。而更強的專利連結不僅可以禁止核發上市許可，也可以禁止在專利期間內對學名藥品的審查。 我國目前並未採納專利連結制度，但在我國目前擬積極參與的《泛太平洋夥伴協議（TPP）》中則要求成員應採納專利連結制度，故未來我國動向將值得關注。
美國上訴法院認為《Oh, the Places You’ll Boldly Go!》即使混搭了《Star Trek》角色元素 但並未批判蘇斯博士企業之原著而缺乏轉化性、非屬著作權之合理使用美國聯邦第九巡迴上訴法院於2020年12月針對繼承知名美國兒童繪本暢銷漫畫家蘇斯博士（Dr. Seuss）豐沛創作智財權之蘇斯博士企業（Dr. Seuss Enterprises，後稱原告）指控ComicMix公司及其三位創作成員（後稱被告）侵犯其著作權與商標權一案，作出認定被告侵害原告之著作權判決。 原告指出被告儘管混搭了《星艦迷航記》（Star Trek）之角色元素而提出《Oh, the Places You’ll Boldly Go!》（後稱系爭創作），然而實質上卻抄襲了蘇斯博士於1990年所創作的《Oh, the Places You'll Go!》（後稱原創作），並將該系爭創作於募資平台Kickstarter上籌措出版經費；在2019年3月一審判決中，被告宣稱其以戲謔方式呈現該系爭創作而被美國加州南區聯邦地方法院所採認，即該系爭創作具轉化性（transformative）而屬於著作權之合理使用，為此原告上訴至美國聯邦第九巡迴上訴法院。 上訴法院之判決主要根據美國著作權法第107條合理使用之四項判斷原則，該系爭創作僅僅呼應原創作而未對其進行嘲諷，且亦未增加任何新的表達、意義或訊息，因而認定該系爭創作並不具轉化性且無疑地將該系爭創作進行商業性使用，此外戲謔手法必須在有對受著作權所保護之創作進行批判或評論的情況下才會成立。其中，第三項要素「所利用之質量及其在整個著作所占之比例」為判決之關鍵所在，以量而言，將近百分之六十原創作被該系爭創作所複製，就質而論，該系爭創作竊取了原創作之核心；針對第四項要素「利用結果對著作潛在市場與現在價值之影響」，也因為未具轉化性與商業性使用而實質傷害原創作之市場價值，因而推翻一審判決認定系爭創作侵害原創作之著作權。 至於商標權侵害部分，儘管原創作具獨特品牌字體與創作風格，但上訴法院認為該些獨特風格不應該限制其他創作者之藝術表現，在權衡系爭創作之表達詮釋且未明確誤導消費者該系爭創作之來源，最終駁回原告商標侵權之主張。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」
蘇格蘭期望透過刑事司法革新，強化數位證據資料之管理，以提升刑事司法之效率蘇格蘭於2024年9月24日向刑事司法委員會提交刑事司法革新與家庭暴力審查法案（Criminal Justice Modernisation and Abusive Domestic Behaviour Reviews (Scotland) Bill），期望透過數位程序，提升司法部門的有效性與效率。 在刑事司法數位化部分，主要為將2020年及2022年因疫情而制定的臨時措施正式化，臨時措施包含： 1、在訴訟文件上使用電子簽名。 2、以電子方式寄送訴訟文件。 3、以虛擬方式參加刑事法庭。 4、提高定額罰款限額。 5、羈押的全國管轄權。 此外，在刑事司法數位化部分，亦新增兩項數位創新條款，例如透過數位證據共享功能（Digital Evidence Sharing Capability, 下稱DESC）平臺來進行： 1、在刑事程序中使用證據照片而非實體證據。 2、使證據之複製品效力等同於實體證據。 對於刑事司法革新與家庭暴力審查法案而言，DESC在其中扮演了十分重要的角色。DESC改變了數位證據的儲存、編輯、傳輸以及在法庭上展示的方式。且DESC可透過多種身分驗證，並透過系統自動生成之具唯一性的資料識別碼並記錄上傳者及上傳時間，資料上傳系統後亦會自動留存所有資料編輯、修改、刪除行為等審核措施，確保數位證據的正確性、完整性與可驗證性，防止數位證據在上傳DESC後遭到竄改或損毀，亦可透過資料識別碼的比對確保數位資料的正確性與完整性。 蘇格蘭提交的刑事司法數位化與家庭暴力審查法案顯示，數位技術的應用範圍已擴大到司法領域，並透過身分驗證、記錄上傳者、上傳時間及資料識別碼等資料存證技術，確保數位證據資料的正確性、完整性與可驗證性。我國由司法院、法務部、臺灣高等檢察署、內政部警政署及法務部調查局等機關合作，透過區塊鏈技術建置「司法聯盟鏈共同驗證平台」，提升辨識數位證據同一性之效率，並確保數位證據難以被竄改，以達到加速訴訟進行之效果。惟如要透過法院採納數位資料為證據之方式，來達到加速訴訟進行之效果，重點在於要強化針對數位證據資料之管理，有訴訟證明需求的組織須通過b-JADE證明標章，以確保上鏈前之資料管理與上鏈後之資料品質。我國企業如欲強化數位資料的正確性、完整性與可驗證性，可參考資訊工業策進會科技法律研究所創意智財中心所發布之重要數位資料治理暨管理制度規範（EDGS），建立資料存證制度，確保數位資料作為證據之效力，以提升法院採納數位資料作為證據之可能性，亦有利於加速訴訟程序之進行。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
歐盟食品管理局擬建立風險評估外部專家資料庫近年來，由於(European Food Safety Authority, 簡稱EFSA)對GM產品之管理並未能進行足夠之科學分析，同時，亦過份仰賴業者所提供之數據資料等原因，而造成歐盟某些會員國家對EFSA所作出之評估報告於公正及客觀性方面產生質疑；甚至，歐洲食品業者亦對目前EFSA是否將會因為專家人力不足而導致整體風險評估能力下降之問題表示關切。一位EFSA官員指出：我們需要更多科學專家來協助處理與風險評估有關之事務。 其次，隨著各界因對GMO產品不當之批判與歐洲整體食品安全評估工作量增加等因素，EFSA於日前決定，欲透過建立一外部專家資料庫(External Expert Database)，來協助其風險評估工作之執行並促進評估專家招募過程之透明化，以達成免除外界對於歐洲食品安全評估過程疑慮之目的。不過，這些將提供協助之專家，並不會因此而真正成為EFSA科學評估小組成員(其將被視為是由人民主動對該小組執行評估工作提供協助)。除EFSA擬徵求歐盟境內專家學者外，未來其亦將邀請歐盟以外其他國家並在該領域為重要研究先驅之專家提供協助，以增加風險評估之品質與客觀性。 再者，綠色和平組織歐洲發言人Mark對於EFSA現階段執行之工作狀況也表示意見並指出：目前EFSA是在一種配備不良(ill-equipped)之狀態下，來勉強執行其所執掌之事務；不過，更讓人感到憂心者，則是由EFSA科學評估小組所做出科學性之意見，於不同會員國家間或於歐盟以外其他國家其是否仍將會被完全採納之問題。有鑒於此，相關人士認為：應再次強化EFSA於風險評估方面之能力！ 最後，一位非政府機組織專家也提醒：僅單純地透過專家庫之建立，其實，並不能圓滿地解決當前EFSA於決策機制中所遭遇之困難；而只有當EFSA在未來欲邀請外部專家提供協助與支援時，一併將資金及相關政策配套措施納入考量後，才是此問題真正解決之道。