用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國財政部（The Treasury Department）與美國貿易談判代表署（USTR）就跨太平洋夥伴協定（Trans-Pacific Partnership, TPP）數據監管要求之規範提出一項有關金融服務之提案，以保護美國境外金融數據資料之問題。該提案之主要目的係因TPP電子商務專章規範締約國不得要求外國業者須於投資當地設立數據儲存伺服器，然而，該專章排除金融服務業之適用，因此，在該提案中提出締約國不得要求外國金融服務業者在其境內應設立數據儲存伺服器，且要求美國政府於未來及目前談判中之國際經貿協定，如TiSA、TTIP、美國與中國雙邊投資協定（BIT）等，使金融服務業者無須於投資當地設立數據儲存伺服器。在此提案中，美國亦有意要建立一個國家對國家之爭端解決機制來解決相關問題。 美國貿易談判代表Michael Froman表示此乃透過協調利害關係人與國會議員，在國家優先利益的領域中尋求多方共識，美國將會繼續在TPP中實施並執行其協調工作。證券業與金融市場協會（the Securities Industry and Financial Markets Association）執行長肯認美國財政部及美國貿易談判代表署之作法。 雖然TPP業已完成談判，談判結果並不會受到本次提案談判立場之影響，但美國官員仍有意透過雙邊談判的途徑，與TPP國家中受金融業者關切的國家，如越南、馬來西亞、新加坡與汶萊展開諮商，以解決在TPP中的這項議題。
歐盟通過「資料保存指令」「資料保存指令」（ Directive on the retention of data ，下稱本指令）已於 2006 年 2 月 21 日 經歐盟部長理事會（ European Council of Minister ）批可而正式生效。但部分歐盟國家，如愛爾蘭（ Irish ）與斯洛伐克（ Slovak ）仍認為，由於資料保存對於歐盟民眾權益影響甚鉅，故應透過更嚴格的立法程序，如由歐盟部長理事會（ European Council of Minister ）全體一致通過「決定」（ Decision ），而不應透過議會表決後再交由理事會批可指令（ Directive ）的方式生效。 本指令要求網路服務業者（ Internet service providers, ISPs ）與固定（ fixed-line ）及行動 (Mobile) 網路業者必須要保存客戶通聯之通聯日期、地點、通話時間等通聯資料等，保存期限從 6 個月到 2 年不等。而除了保存之責任以外，上述業者還必須要確保其保存之資料可隨時配合執法單位之調查，提供執法單位進行嚴重犯罪之調查與恐怖分子調查之參考與利用。 國際隱私權組織（ Privacy International ）表示，本指令的通過將對歐盟地區民眾之人權造成不可磨滅之影響。此外，歐盟地區之電信公司與 ISPs 則表示，本指令實施後，若政府單位未給予任何的補助，將大量增加業者在資料儲存之費用，進而影響市場競爭。 本指令最遲將於公布後隔年開始實施。
因應國際立法趨勢 專利法相關制度擬大幅度鬆綁智慧局現正積極研修專利法，其中最為重要者包括： • 配合國際公共衛生議題，放寬強制授權條件； • 修正研究實驗免責相關規定； • 配合司法院智慧財產專業法院之成立，研擬設置爭議審議組； • 新型專利整體制度改革，考量原則開放「同一人」對於同一技術可「同時」申請，以利企業作專利佈局； • 大幅修正新式樣專利制度，開放多種新式樣保護標的，擴大新式樣專利保護範圍，以期帶動台灣文化創意及工業設計產業發展。 由於專利法這次修正為通盤修正，故智慧局刻正召開多場公聽會，參考各界意見及參酌國際立法趨勢為整體思考，以期建立更完善之專利制度。其中，針對新型專利制度之整體政策、專利年費逾越繳納期限產生失權後之救濟制度、以及以外文本提出申請取得申請日等三項議題，智財局已於 7 月 18 日 召開公聽會，聽取各界意見，尋求共識。 在新型專利整體制度改革部分，智慧局擬考量原則開放「同一人」對於同一技術可「同時」申請，以提供更多權益保障，以利企業作專利佈局。因此，企業一方面可取新型形式審查之便利領證，一方面也可取發明專利實體審查權利較穩定，而且二者前後接續。 有關專利權人逾越年費繳納期限產生專利權消滅後之救濟制度，依現行 專利法第８２條 規定，發明專利第二年以後之年費，未於應繳納專利年費之期間內繳費者，得於期滿六個月內補繳之，但其年費應按規定之年費加倍繳納。根據前開規定，專利權人超過年費繳納期限，得於到期後六個月內加倍補繳年費，但專利權人超過一日與超過五個月，同樣都須加倍補繳，二者顯然有所失衡，因此，這次修法預備採取比率加繳制度，也就是說，依照超過的期限多寡，比率補繳，並非一率加倍補繳。 另外，超過六個月補繳期後，依照現行 專利法第６６條第３款 規定，專利權當然消滅，只有在專利權人超過期限未繳年費是因具有不可抗力事由時，才能依 專利法第１７條第２項 申請回復原狀，但是，一些專利權人超過繳費期限，並非因為具有不可抗力事由，而是具有正當理由，若因此而喪失專利權，顯非專利法保護專利權人之意旨，故此次修正亦放寬申請回復原狀之事由，以保障專利權人之權益。 針對外文本提出申請取得申請日部分，現行 專利法第２５條第４項 規定，專利申請案允許申請人先以外文說明書提出申請，嗣後再補中文說明書，而專利法對於外文說明書之語文種類並無任何限制，以致外文本種類繁多，是否與中文譯本相符，認定上有困難。智慧局這次修正，研擬作適當限制，但是與會人員有不同意見，智慧局將再通盤考量。
日本農業數據利用的瓶頸與農業數據平台WAGRI的誕生日本從事農業者高齡少子化以致後繼無人，農業ICT（Information and Communication Technology）可使資深農民內隱知識外顯化而利於經驗傳承，例如已有地區透過除草機器人、自動運行農機等ICT農機，蒐集稻米收穫質量之數據進行分析，實作出施肥最適條件的成功案例。 然而成功案例之數據利用，延伸至其他地區實踐時卻顯得窒礙難行。首先是成本面，農場計測溫溼度等數據之感測器的設置、管理維護與通信等成本負擔，宛如藏寶洞前豎立之石門，不得其門而入。另一造門磚是農機或感測器等不同業者之系統服務互不相容，且數據無法互換共用，為求最適合特定地區與農作物之農業ICT組合，且能移植成功案例至其他地區，系統相容數據共用亦是當務之急。 日本農業數據協作平台（簡稱WAGRI），可為大喊芝麻開門之鑰，日本於2017年內閣府計畫支持下，由農業生產法人、農機製造商、ICT供應商、大學與研究機關等組成聯盟，一同建置具備「合作」（打破系統隔閡使數據得以相容互換）、「共有」（數據由提供者選定分享方式）、「提供」（由公私部門提供土壤、氣象等數據）三大功能之WAGRI，今年已有實作案例指出，活用WAGRI後，在數據蒐集與利用上的勞力與時間成本明顯縮減。 台灣農業同樣面臨高齡化、傳承之困境，日本WAGRI整合與共享數據的模式可作為我國發展農業ICT活用數據之參考。