用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
於2016年10月14日，中國大陸科技部為落實國務院於5月9日發布之《促進科技成果轉移轉化行動方案》中，有關大力推動地方科技成果轉移轉化，並開展區域性科技成果轉移轉化試點示範的要求，開始啟動在河北以及寧波，兩個科技成果轉移轉化示範區的建設計畫。 中國大陸推動國家科技成果轉移轉化示範區之目的在於推動科技成果轉移轉化工作，以期能有助於完善區域科技成果轉化政策環境，並且提升區域創新之能力；示範區的建設重點將在於完善科技成果轉化服務體系、建設科技成果產業化載體、開展政策先行先試等方面開展工作，進行地方的創新驅動發展。 為此，中國大陸科技部並印發了《科技部關於建設河北•京南國家科技成果轉移轉化示範區的函》、《科技部關於建設寧波國家科技成果轉移轉化示範區的函》兩份政策文件，其中河北•京南示範區的重點在於配合北京、天津，以及河北的區域協同發展，充分發揮跨區域輻射帶動作用，並且承接北京及天津的創新要素外溢轉移，以及與河北產業創新需求進行對接。而寧波示範區將則以科技成果轉化對產業和企業創新發展的對接為核心戰略，發展以企業為主體的科技成果轉移轉化示範區域。並以這兩個示範區的測試來探索模式、累積經驗。
美國國際貿易委員會（USITC）發布「全球數位貿易報告」，推動數位經濟新機會2014年8月，美國國際貿易委員會（USITC）發布「美國與全球經濟體之數位貿易」政策報告，該報告係應美國國會參議院財政委員會（Senate Committee on Finance）之要求所進行之調查，期能夠深入了解數位貿易（Digital Trade）在美國與全球經濟體之間的發展，無論係透過網際網路（Internet）所進行之在地化商業行為抑或國際貿易，能夠有效指認出阻礙美國進入全球數位貿易市場之阻礙。 報告指出，數位貿易當有助於整體經濟之正面發展，例如促進通訊、加快商業交易、增進資訊近取，並能夠增進中小企業之市場機會。然而，根據所回收之調查數據顯示，目前存在著影響國際間數位貿易若干法制障礙，分別為：在地化的要求（localization requirements）、市場進入的限制（market access limitations）、資料隱私與保護規範要求(data privacy and protection requirements)、智慧財產權侵害(IPR infringement)、不確定之法律責任(uncertain legal liability)、公部門網路管制(censorship)，以及在地消費者之不同要求(compliance with customs requirements)。 然而，報告也指出十項對於企業與消費者的新機會: 第一，在內容產業，將有助於扶持獨立的創作者；第二，在旅遊與住宿產業，可促進更佳的利用率；第三，網際網路有助降低求職摩擦，降低失業率；第四，增進線上服務之合作與整合，例如應用軟體介面經濟面之貢獻；第五，保險產業界運用巨量資料分析帶動之創新發展；第六，透過M2M通訊，改善製造流程；第七，農業界之數位創新；第八，網路使用者之資料蒐集，在隱私權考量與相關正面效益間取得平衡；第九，增進美國網路公司之全球競爭力；第十，促進中小企業之出口。 因此，對於欲進軍全球聯網市場之我國資通訊高科技業者來說，應當留意相關之法制障礙，遵循不同國家之法律規範，掌握聯網新興科技所帶動之下一波龐大商機。
員工分紅市價八折課稅現行促進產業升級條例第１９條之１規定，為鼓勵員工參與公司經營，並分享營運成果，公司員工以其紅利轉作服務產業增資，而取得新發行記名股票，採「面額」課徵所得稅。而依據所得基本稅額條例第１２條第１項第５款規定，對於員工「可處分日次日時價」與股票面額之間的差額部分，另計入最低稅負制課稅。 台聯黨團認為現行促產條例第十九條之一關於員工分紅配股以面額課稅規定，使不少高科技產業上市櫃公司，利用促產條例優惠，壓低員工本薪，以分紅配股吸引人才，造成營業成本低列，將薪資費用轉嫁給股東，扭曲財報，使高獲利的高科技產業和薪資紅利豐厚的科技人租稅優惠多繳稅少，造成政府稅收短缺，因而提出修改案，改由「市價的八成」課徵所得稅。立法院 經濟能源委員會初審通過修正促進產業升級條例，將員工分紅配股由「面額」改依「市價八折」課稅，上市櫃公司市價以配股發放日前一個月均價為準，未上市櫃公司則以配股發放日淨值為準，此規定 引發高科技業者反彈，並向經濟部反映。 目前員工分紅改為市價的八成課稅雖通過委員會初審，但提交下次院會討論前，須經朝野協商。經濟部表示，此案初審後尚需經過立法院政黨協商，再交由院會決定。員工分紅配股課稅方式改變，應要有配套才合宜（例如一定之緩衝期間讓業者調整員工薪資結構），若在配套未完成前就做決定，是比較不好的決策。
世界經濟論壇2020年十大新興科技報告，與健康和環境相關之前瞻科技發展備受矚目世界經濟論壇（World Economic Forum, WEF）於2020年11月10日發表「2020年十大新興科技報告」（Top 10 Emerging Technologies 2020），報告中提出10個近年出現，且被認為在未來5年內最具有正面改變社會潛力的新興科技，並說明除了關注這些科技帶來的改變外，也應關注其引發的風險。 2020年全球最密切關注的議題為健康與氣候變遷，也因此2020年被認為具有發展潛力的新興技術均與這兩個議題有關，包含：（1）無痛注射與測試用的微針技術（Microneedles）；（2）太陽能化學（Sun-Powered Chemistry）利用可見光將二氧化碳轉換為普通材料，可作為合成藥物、清潔劑、化學肥料和紡織品的材料；（3）虛擬患者（Virtual Patients），替代人類做人體臨床試驗，比一般試驗更快更安全；（4）空間計算（Spatial Computing）以強化虛擬生活和現實的連結；（5）數位醫療（Digital Medicine）應用程式之發展可以診斷甚至治癒疾病；（6）電動飛航（Electric Aviation）裝置，例如電動推進器可以清除直接碳排放（direct carbon emissions），減少九成的燃料成本、五成維護成本和七成噪音汙染，降低整體航空旅程環境污染並提高效率；（7）低碳水泥（Lower-Carbon Cement）的發展作為氣候變遷下的新興建築材料；（8）量子感測（Quantum Sensing）做為高精準度計算方式，將於未來三到五年進入市場，並首重用於醫療和國防應用產業上；（9）新興零碳能源如綠氫（Green Hydrogen），可補充風力和太陽能；（10）全基因合成（Whole-Genome Synthesis）作為下一代細胞工程（cell engineering）尖端科技，使未來醫學得以治癒更多遺傳疾病。 報告中指出，雖然這些新興技術具有改變社會和產業的潛力，但卻無法確保技術本身是否能被妥善使用（Good is not guaranteed）。首先，這些技術仍需要龐大資金以達到成熟度和可利用的價格點（price point），才能與相關產業達成整合化、規模化。此外面對這些新興科技，決策者必須迅速針對可能引發的風險提出對應策略，例如數位醫療在手機應用程式上會引發政府許可、資料利用、隱私等問題。因此，政策與產業如何協作，使用相關科技、限制濫用並控制技術中風險等，是面對是類新興科技應積極考量的方向。