用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
紐西蘭人工智慧論壇（AI Forum）協會成立於2017年，為非營利組織，是紐西蘭政府的重要智庫單位。該協會的AI法律、社會和倫理工作組於2020年3月4日發表了紐西蘭第一份《紐西蘭可信賴的AI指導原則》， 此指導原則目的在提供簡潔有力的人工智慧參考點，以幫助大眾建立對紐西蘭人工智慧的開發和使用的信任。此份AI指導原則對政府具有重要的參考價值。 《紐西蘭可信賴的AI指導原則》，內容摘要如下： 一、公平和正義 (一)適用紐西蘭及其他相關管轄地包含科克群島、紐埃、托克勞、南極羅斯屬地法律； (二)須保護紐西蘭國內法及國際法所規範的人權； (三)須保障《懷唐伊條約》中毛利人的權利； (四)民主價值觀包含選舉的過程和在知情的情況下進行公眾辯論； (五)平等和公正的原則，要求人工智慧系統不會對個人或特定群體造成不公正地損害、排斥、削弱權力或歧視。 二、可靠性、安全性和私密性 AI利益相關者須確保人工智慧系統及資料的可靠、準確及安全性，並在人工智慧系統的整個生命週期中，保護個人隱私以及持續的識別和管控潛在風險。 三、透明度 人工智慧系統的運作應是透明的、可追溯的、並在一定的程度上具可解釋性，在面對責問時能夠被解釋且經得起質疑。 四、人類的監督和責任 AI利益相關者，應該對人工智慧系統及其產出進行適當的監督。 在利益相關者確定適當的問責制度和責任之前，不應使用會對個人或群體造成傷害的技術。 五、福利 AI利益相關者應在適當的情況下設計、開發和使用人工智慧系統，盡可能促進紐西蘭人民和環境的福祉，像是健康、教育、就業、可持續性、多樣性、包容性以及對《懷唐伊條約》獨特價值的認可。 此份AI指引較大的特色有兩點，第一，紐西蘭人工智慧論壇協會的成員組成，其中女性成員比例超過半數。第二，在其指導原則中第一點的「公平和正義」及第五點「福利」中，都特別提到須遵守《懷唐伊條約》以確保毛利人的權益。在這樣的基礎下，能更期待紐西蘭在發展AI技術的過程，能夠更切實的做到公平正義、無歧視。
我國財政部已確定共享停車位得適用自住稅率我國財政部已確定共享停車位得適用自住稅率 資訊工業策進會科技法律研究所 法律研究員 劉彥伯 2018年08月17日 壹、事件摘要 隨著世界各國智慧城鄉興起的洪流撲面而來，共享經濟的議題亦隨處可見，其中共享停車位在各國更是屢見不鮮且有相當發展之模式。然而在我國則因土地稅法第16條、房屋稅條例第5條第1項第2款，分別就非自用住宅用地與非住家用房屋課與較自用者為高之稅率[1]，共享停車位之發展亦因此受到阻礙；據此，為使民眾出外上班或其他原因而閒置的停車位共享，以求停車位獲得使用的最大效率，國家發展委員會（下稱國發會）廣邀交通部、財政部等權責機關對此新興商業模式進行法規鬆綁討論，嗣後財政部認為停車位若符合特定條件之共享停車位，則仍得適用較為優惠之自住稅率，以鼓勵停車位所有權人適度的釋出停車空間供有需要的人使用[2]。 貳、重點說明 為通盤了解自用住宅用地（地價稅）、住家用房屋（房屋稅）優惠稅率對共享停車位經營模式的影響，謹就相關法律議題分點論述： 一、與他人共享停車位實質上為出租停車位予他人 停車位所有權人將其因上班或外出等其他因素而閒置之自用停車位，供人得以使用該停車位停放車輛並收取相當對價，依民法第421條規定，是停車位所有權人與使用者間應就該停車位成立租賃契約[3]，惟共享停車位與常見的月租停車位似略有不同，關鍵在於所有權人僅就閒置期間出租，而較月租者時間短暫許多，不過二者間之基礎法律關係並無差異。 二、出租停車位予他人原先無法適用自用住宅、房屋等優惠稅率 若房屋所有權人[4]將其所有權範圍內的停車位出租予他人使用，則非屬單純供自用而居住，依自用住宅用地稅率課徵地價稅認定原則中要求「無出租或供營業用」之情形[5]，則須依土地稅法第16條課徵一般地價稅，即以千分之十為基本稅率且須累進課徵，而無法適用自用住宅用地較為優惠的千分之二稅率；此外，前開出租停車位情形依房屋稅條例第5條第1項第1款、同條第2項、住家用房屋供自住及公益出租人出租使用認定標準第2條第1款等規定，則不符自住或公益出租等情事，則須依同條項第2款課與百分之三以上之稅率，而無法適用同條項第1款較為優惠的百分之一點二稅率。 三、共享停車位之特殊性 觀諸國際上共享停車位的成功運作案例，如英國的JustPark[6]、美國洛杉磯的Pavemint[7]等平台，不難發現重點皆在有效促進停車位的使用效益最大化，包含給予停車位所有權人彈性選擇出租時段的權利、便利收費機制等，方便有停車需求的人使用閒置停車位，反觀我國共享停車位之發展，卻受限於前開課稅差異，大幅降低停車位所有權人釋出閒置期間租人使用，故財政部就此議題的課稅鬆綁，實質上為共享停車位的商機、運作模式開了一扇大門。 然而，既稱「共享停車位」，雖其本質上仍為停車位的租賃關係，但因其僅就自用停車位閒置期間出租，故具有活絡閒置停車位之特性，並促進改善都市空間停車位不足之問題，換言之，此類共享模式之租賃時間應較一般月租車位者短暫，若我國地價稅或房屋稅欲對停車位所有權人給予優惠稅率，亦應有此意識或限制，若無，則與「共享」二字背道而馳，如此將使有心人士得以披上共享外衣，行長期租賃之實，同時享有優惠稅率，反而使促進社會發展的善舉淪為避稅的保護傘。 四、我國財政部現行措施 為使共享停車位模式得以在我國順利發展，我國財政部在國發會發起的跨部會協調後，於2018年08年14日發出台財稅字第10704600150號令[8]，確定自用停車位在閒置時間供不特定人使用，得繼續適用自用稅率，但供不特定人共享之時數，地價稅限每年2,880小時以下、房屋稅以每月限240小時以下，逾越時數的當年或當月則不適用前開較為優惠的自用稅率；另外，就共享時數的限制，臺北市政府於稍早的同年06月29日發布的「試辦車位媒合服務業者申請停車場登記證計畫」第五點實施條件第一款亦有類似規範[9]，惟無論何者，「共享時數」的限制基礎，是以每日平均8小時為基準，以維護「共享」作為一般租賃關係的特別樣態。 參、事件評析 前開財政部共享停車位之措施，具有以下的助益以及正面意涵： 一、提升停車位所有權人加入共享停車位行列的意願 在財政部為前開稅率鬆綁前，一般民眾將自用停車位釋出共享與否，首先會考量到的自身成本，申言之，只要在閒置時段出租自用停車位，不論時間長短，即不符自用，故須受到較高稅率課徵地價稅、房屋稅，因此大幅降低停車位所有權人共享的意願，然而前開措施運行後，至少排除此稅捐負擔考量，理應可提升停車位所有權人加入共享的行列，據此，亦至少帶來以下優點： （一）使閒置的財產資源得以更有效的利用 停車位所有權人因上班或其他因素外出而使其自用停車位閒置，且基於所有權之權能[10]而原則上無人得使用該停車位（除非另有法律關係），致其使用效率十分有限，因此財政部前開措施鼓勵停車位所有權人就其自用停車位閒置時間出租，一方面可以增加停車位所有權人的收入，更重要的是使該車位在更多的時間下可以得到妥適利用。 （二）有效舒緩都會地區車位難求之困境 在現今都會生活中，因人數過於龐大，而車位需求供不應求，致都會地區的車位一位難求，甚至可能因尋覓車位而造成交通堵塞、無謂的碳排放等負面結果，而財政部前開措施鼓勵停車位所有權人就其自用停車位閒置時間出租，使停車位供應量提升，理應可以改善都會區車位難求、因尋覓車位而生之堵塞或無謂碳排放等窘境。 二、為我國共享經濟發展邁進一大步 近年來智慧城鄉的議題在世界各國發酵，而共享經濟也將帶給居民更便利的生活，故為其中一個重要的應用面向，對此我國就共享停車位議題，國發會為了促成並鼓勵公眾就其自用停車位釋出，特別廣邀相關權責政府機關如交通部、財政部進行跨部會的協調，而分別就交通管理、稅務課徵等部分作出了適度鬆綁，減輕大眾成為停車位出租人的負擔，並做出相對應的條件要求作為衡平，故此種作法應可作為共享經濟發展的指標，亦可作為智慧城鄉其他應用項目對於現行法規限制調適的做法參考。 [1] 土地稅法第17條、房屋稅條例第5條第1項第1款。 [2] 〈共享停車位符合一定要件者，得繼續適用原經核准之稅率徵免地價稅及房屋稅〉，中華民國財政部，https://www.mof.gov.tw/Detail/Index?nodeid=137&pid=80420 （最後瀏覽日：2018/08/17）。 [3] 64年台上字第424號判例。 [4] 多數情形下，取得房屋所有權時，亦會取得部分基地所有權，即便是區分所有權亦同，故此部分不另外分別論述。 [5] 適用自用住宅用地稅率課徵地價稅認定原則第3點。 [6] JustPark, https://www.justpark.com (last visited Aug. 17, 2018). [7] PAVEMINT, https://www.pavemint.com (last visited Aug. 17, 2018). [8] 〈內地稅新頒函釋- 共享停車位符合一定要件者，得繼續適用原經核准之稅率徵免地價稅及房屋稅。〉，財政部賦稅署 法規查詢主題專區，https://law.dot.gov.tw/law-ch/home.jsp?id=18&parentpath=0,7&mcustomize=newlaw_view.jsp&dataserno=201808140001 （最後瀏覽日：2018/08/17）。 [9] 〈試辦車位媒合服務業者申請停車場登記證計畫〉，臺北市政府，https://www-ws.gov.taipei/Download.ashx?u=LzAwMS9VcGxvYWQvNDU1L3JlbGZpbGUvMTAxNjIvNzkxMDA1OS8zZDM5Yjg5Yy00ZGNhLTQ2OTMtYmE2Yy0zMzAwMGQzNzQ1NjIucGRm&n=MTA3MDgxNuiHuuWMl%2bW4guWBnOi7iueuoeeQhuW3peeoi%2biZleaWsOiBnueovyjpmYTku7YxKe%2b8jeippui%2bpui7iuS9jeWqkuWQiOacjeWLmealreiAheeUs%2biri%2bWBnOi7iuWgtOeZu%2biomOitieioiOeVqy5wZGY%3d&icon=..pdf （最後瀏覽日：2018/08/17）。 [10] 民法第765條。
德國新營業秘密保護法—契約擬定「禁止逆向工程」條款建議德國新營業秘密保護法(The new German Trade Secrets Act, TSA)其中一個亮點即為：除非有明確契約或其他法規要求，逆向工程是合法的，其規範於該法第3條第1款，德國以往舊法（不正競爭防止法）並未特別明文，我國營業秘密法亦同。現今企業應盡快透過調整契約內容、保密政策或保密技術來防止該類法所「允許」之情形發生[1]，以避免供應鏈間之風險。德國法律專家提出有關「制定合作契約」建議供參： 禁止條款應有期間明文：契約起草禁止逆向工程條款時需注意其法律效力。法明文允許進行逆向工程，也代表著可促進企業市場參與並能從現有技術中受益做進一步發展。如契約一律禁止形同限制經濟自由，無論該條款訂於平行契約（如研發契約）或於垂直契約（如授權契約），往後遇有爭議恐被法院認為條款無效。故可折衷於「期間」加以限制，禁止逆向工程直到產品或服務上市為止，基本上企業只有在確信可以收回成本情況下才會投資於新技術開發。合理而言應在產品或服務公開上市後，才可以對產品或服務進行逆向工程。 注意誠實信用原則並延長條款效力：現行法就禁止逆向工程與否可由締約雙方協議。該禁止條款並不當然有違德國民法第307條第2項誠實信用原則而不利益於締約雙方之情況。但為避免仍有違誠實信用原則疑慮，契約可明確約定於產品或服務上市前不限制締約人使用相對人產品或服務並從中發現技術或資訊，也確保該期間內營業秘密所有權人之營業秘密專有權。合作契約亦可約定禁止條款於契約提早終止一定期間內仍有效。 [1]Dr. Henrik Holzapfel，New german law on the protection of trade secrets, https://www.mwe.com/insights/new-german-law-protection-trade-secrets/ (last visisted Sep.25,2019).
德國法院判決Google沒有進行事先審查網站內容之義務德國最高法院在2018年2月27日判決，Google在搜尋結果連結顯示之前，並無須確認該網站是否存在毀謗性言論，亦即，Google沒有義務事先審查搜尋結果中連結的內容。 此案件的背景是由兩個受到網路言論攻擊的人所提出，其主張為防止其他網路使用者攻擊他們言論的網站出現在Google搜尋結果的連結上，因此希望Google其中的一個部門—Alphabet公司，設置搜尋過濾器，就用戶曾經在網站上發表過不良評論以及損害賠償的相關資訊不會在未來的搜尋結果出現。 本案涉及關於「被遺忘權」(“Right To Be Forgotten”)的討論，所謂被遺忘權是由2014年5月，歐盟法院(ECJ)所作成之裁定，即人們可以要求Google和微軟Bing（MSFT.O）等搜尋引擎於搜尋人名出現的網頁結果中，刪除不適當或不相關的訊息。 本案中，對於Google沒有對搜尋結果進行過濾，Google是否因此有侵害被遺忘權之爭議，德國最高法院表示，搜尋引擎經營者僅須於收到明確且具識別性侵犯個人權利的通知時，採取相關行動即可，並毋須事先檢查該網站之內容是否合法。蓋立法者及社會皆普遍認為，若將搜尋引擎審查網站的內容定為其一般性義務，則其商業模式的本質將備受嚴重質疑，且又由於數據具有管理上的困難性，若無此類搜尋引擎的幫助，人們不可能在網路上獲得有實質有意義的使用，因此搜尋引擎不須將此列為其義務。