用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
「聯合國永續發展會議」（United Nations Conference on Sustainable Development, UNCSD）於今（2012）年6月20日至22日在巴西里約舉行，為紀念1992年里約熱內盧「聯合國環境發展會議」（United Nations Conference on Environment and Development, UNCED）20週年及2002年約翰尼斯堡「世界永續發展高峰會」（World Summit on Sustainable Development, WSSD）10週年，而稱為「里約+20」（Rio+20）。 會議中探討主題包括永續發展與消除貧困的綠色經濟，以及永續發展的制度框架兩大議題；並且優先關注包括就業、能源、城市、糧食安全及農業、水、海洋及災害等七大領域。其中在能源方面指出，能源議題幾乎是現今世界遭遇的挑戰，無論在就業、安全、氣候變遷、糧食生產、或收入，皆與能源息息相關。依據國際能源署（International Energy Agency, IEA）的估計，目前全球仍有五分之一的人缺乏現代電力，30億人口仍倚賴木材、煤、炭來烹煮或取暖；能源是氣候變遷的主要影響因素，大約佔全球溫室氣體排放的60%，減少能源的碳密集度（carbon intensity），則是長期氣候的關鍵目標。 永續能源的發展，能加強經濟、保護生態系統，透過聯合國秘書長於2011年9月提出的「全面永續能源（Sustainable Energy for All, SE4ALL）」倡議計畫，整合政府、企業與社會團體，投入空前的努力，已進行了超過一百項的承諾與行動。在政府參與的部分，例如迦納（Ghana），主動參與首批國家能源行動計畫，以支持能源發展及創新的融資機制。而在私人企業例如微軟（Microsoft）致力於碳中和（carbon neutral）並推出企業內部的碳費（carbon fee）制度；雷諾日產聯盟（Renault-Nissan Alliance）承諾投入約50億元於零排放車輛的商業化。另外如美國銀行（Bank of America）設置10年500億美元用於環保業務；以及一些非政府組織或個人，例如電氣電子工程師協會（Institute of Electrical and Electronics Engineers）等多個專業協會，均承諾投入持續性能源的倡議計畫。希望藉由相關行動，支持聯合國全球永續能源的發展，達到2030年確保全球現代能源服務的普及、提高兩倍能源使用效率、並提升兩倍再生能源的利用。
韓國未來創造科學部推出「K-ICT戰略」並制定2016實施計畫韓國未來創造科學部於2015年8月31日發表「2016活化振興與應用情報通信產業之實施計畫」，以因應現代技術的進步及市場現況，並正式宣佈推出「K-ICT戰略」，於計畫目標中具體呈現連結韓國ICT產業，促進相關發展。 為加速推動相關政策，未來創造科學部所推出「K-ICT戰略」，主要係規劃四大推動領域及策略，分述如下： （一） 九大產業育成：5G；智慧裝置；IoT；雲端；Big Data；情報安全；UHD（超高清）；軟體產業；數位內容產業。此領域預計規劃投資規模為5957億韓元。 （二） 十大領域（將ICT擴大應用於一般產業）：醫療、金融、教育、交通、都市建設、智慧家庭、文化觀光、能源、農漁畜產業以及傳統產業。此領域預計規劃投資規模為5751億韓元。 （三） ICT基礎建設：為具體化超連結社會，建設基礎裝置；ICT革新據點建設；OPEN DATA開放與促進活用；情報文化的組成。此領域預計規劃投資規模為863億韓元。 （四） 改善產業體質與加強國際出口：未來創意人才養成；創業環境的建立與海外出口支援；R&D革新、智財權保護體制的確立；國際合作與標準化。此領域預計規劃投資規模為6755億韓元。 綜上所述，韓國未來創造科學部為促進推動「K-ICT戰略」，將投資1兆9千億韓元，投入ICT重點發展產業，並積極落實「2016活化振興與應用情報通信產業之實施計畫」之推動目標。
Amazon無法阻擋家居家飾用品零售商Williams-Sonoma對其提出之智財侵害訴訟，此訴訟案將持續進行…美國高端家居家飾用品零售商Williams-Sonoma於美國加州北區聯邦地方法院指控電商巨頭Amazon企圖誤導消費者，使消費者認為Amazon是Williams-Sonoma授權的經銷商。 2018年12月14日Williams-Sonoma向法院提起了智財侵權等訴，主張Amazon犯有下列行為，並請求損害賠償及禁制令： 侵害了Williams-Sonoma旗下West Elm品牌的Orb椅子設計專利，專利號為D815,452。 在Amazon網站上及行銷廣告中使用Williams-Sonoma的商標而有商標侵害及仿冒之行為。 在Amazon網站上及行銷廣告中使用Williams-Sonoma的商標而有商標淡化之侵害行為。 不公平競爭行為。 Williams-Sonoma指出就商標部分，Amazon未經授權，在其網站設立一Williams-Sonoma銷售網頁，並在廣告及該網頁中使用未經授權的Williams-Sonoma商標，且未標示清楚網頁中的商品並非直接由Williams-Sonoma提供；甚至於Amazon的搜尋引擎廣告及電子郵件廣告中誤導消費者，使消費者認為可以在Amazon網站上買到Williams-Sonoma授權的商品。 Amazon於今（2019）年2月提出動議主張該案與商標相關之部分應予駁回，辯稱其僅是提供一個平台，使在其他地方購買的Williams-Sonoma產品可以轉售給消費者，適用第一次銷售原則。但該地院法官表示：「就整體而言Amazon不僅是轉售Williams-Sonoma的產品，而是塑造錯誤的印象讓人誤以為在Amazon網站的這些銷售是經過授權，使一個合理謹慎的消費者（reasonably prudent consumer）會產生誤認混淆。」，因此裁定駁回被告Amazon提出的動議，本案將會進入法院審判。 Williams-Sonoma提出的訴訟案其實也是Amazon發展自有品牌衍生的抄襲問題以及與其他大型品牌商緊張關係的展現。Amazon扮演著既是合作夥伴也是競爭者的角色，使得一些大型品牌商陷入困境，若不在Amazon網站銷售，產品很有可能會銷售不佳，但若在Amazon網站銷售，則Amazon會蒐集銷售產品的資料並且製造類似但較便宜的自有品牌產品銷售。Amazon此種飽受爭議的營運模式所牽扯的智財爭議仍有待後續追蹤 。 圖片來源：COURT DOCUMENTS 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
何謂「中國製造2025」?中國大陸國務院李克強總理於2015年國務院常務會議研提「中國製造2025」政策，希望提升中國大陸製造業的發展。該政策為因應智慧聯網(Internet of Thing, IoT)的發展趨勢，以資訊化與工業化整合為主，重新發展新一代資訊技術、數控機床和機器人、航空航天裝備、海洋工程裝備及高技術船舶、先進軌道交通設備、節能與新能源汽車、電力裝備、新材料、生物醫藥及高性能醫療器材、農業機械裝備等10大領域，以強化工業基礎能力，提升技術水平和產品品質，進而推動智慧製造、綠色製造。而有別於德國所提出的工業4.0計畫，中國大陸所提出的是理念，係以開源開放、共創共享的智慧聯網推動創新思維。