用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
歐盟執委會於2020年2月19日發表《人工智慧白皮書》（White Paper On Artificial Intelligence-A European approach to excellence and trust）指出未來將以「監管」與「投資」兩者並重，促進人工智慧之應用並同時解決該項技術帶來之風險。 在投資方面，白皮書提及歐洲需要大幅提高人工智慧研究和創新領域之投資，目標是未來10年中，每年在歐盟吸引超過200億歐元關於人工智慧技術研發和應用資金；並透過頂尖大學和高等教育機構吸引最優秀的教授和科學家，並在人工智慧領域提供世界領先的教育課程。 而在監管方面，白皮書提到將以2019年4月發布之《可信賴之人工智慧倫理準則》所提出之七項關鍵要求為基礎，未來將制定明確之歐洲監管框架。在監管框架下，應包括下列幾個重點：1.有效實施與執行現有歐盟和國家法規，例如現行法規有關責任歸屬之規範可能需要進一步釐清；2.釐清現行歐盟法規之限制，例如現行歐盟產品安全法規原則上不適用於「服務」或是是否涵蓋獨立運作之軟體（stand-alone software）有待釐清；3.應可更改人工智慧系統之功能，人工智慧技術需要頻繁更新軟體，針對此類風險，應制定可針對此類產品在生命週期內修改功能之規範；4.有效分配不同利害關係者間之責任，目前產品責任偏向生產者負責，而未來可能須由非生產者共同分配責任；5.掌握人工智慧帶來的新興風險，並因應風險所帶來之變化。同時，白皮書也提出高風險人工智慧應用程式的判斷標準與監管重點，認為未來應根據風險來進行不同程度之監管。執委會並透過網站向公眾徵求針對《人工智慧白皮書》所提出建議之諮詢意見，截止日期為2020年5月19日。
新加坡智慧財產局發布2023年智財調查，分析企業無形資產運用現況新加坡智慧財產局（Intellectual Property Office of Singapore, IPOS）於2023年9月4日發布《2023年智慧財產調查》（Singapore IP Survey 2023），調查結果顯示，企業最重視的智慧財產為品牌、技術/製程、機密資訊。 為瞭解企業對無形資產（Intangible Assets, 以下簡稱IA）和智慧財產權（Intellectual Property, 以下簡稱IP）的看法和運用現況，以制定強化企業競爭力之智財政策，新加坡政府自2021年發布《2030年智慧財產戰略》（Singapore IP Strategy 2030, SIPS 2030）起，每2年發布一次智財調查。本次調查於2023年2月至3月間進行，對象為新加坡500多家企業，調查結果顯示，企業最重視的前三種IP類型依序為： 1. 有35%的企業表示擁有強大品牌（strong brand）相當重要。 2. 有32%的企業認為擁有新技術及/或新製程（new technology and/or process）相當重要。 3. 有31%的企業認為擁有機密資訊（confidential information）相當重要。 此外，有15%的企業表示，其商業價值的主要收益來自於其IA/IP；且所有受訪企業中有不少企業表示IA/IP有助於提升公司績效，包含： 1. 有17%的企業認為有助於「吸引更多商業合作夥伴」； 2. 有17%的企業認為有助於「提升商業競爭力」； 3. 有15%的企業認為有助於「拓展國際市場」； 4. 有14%的企業認為有助於「增加獲利」。 再者，有80%的企業期待有更多機會運用IA/IP獲得融資。同時，有92%企業在進行相關智財活動（IP activities）時未申請任何政府補助，如新加坡企業發展局（Enterprise Singapore, ESG）的企業發展補助（Enterprise Development Grant, EDG），其中有50%以上的企業表示是因為不清楚相關補助資訊。 最後，僅有15%的企業對其IA/IP進行單獨評價（standalone valuation），而未與其他資產合併評價，但其中僅不到一半是委託評價分析師（Certified Valuation Analyst, CVA）進行。 根據調查結果，新加坡政府認為企業雖擁有大量的IA/IP，但尚未瞭解其價值，導致無法有效地將其IA/IP商業化。因此，新加坡政府於2023年9月4日同時發布《無形資產揭露框架》（Intangibles Disclosure Framework, IDF），鼓勵企業以系統化方式主動對外揭露所持有之IA/IP，藉此協助企業創造更高的價值。我國資策會科法所亦從2013年開始，每2年針對國內上市上櫃公司調查智財管理需求及現況；2021年調查報告顯示，86%的企業已進行智財布局、84%企業有配置智財人員、94%企業有編列智財經費等，顯示我國企業對於智財管理及策略愈來愈重視。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
日本政府內閣於今年3月提出個人資料保護法修正草案為因應2016年正式上路實施之社會保障與納稅人識別號碼制度(社会保障・税番号制度)對於個人資料保護所產生之影響，日本政府內閣於2015年3月10日於國會提出個人情報保護法之修正案。 此次修正案主要分有六大重點，包含個資定義擴充與明確化、確保個資文件內容之正確性、強化個資保護規範內容、設立個人情報保護委員會、個資情報處理全球化，以及其他修正事項如未得當事人同意之第三人使用個資條件嚴格化等。 其中主要有兩項係與社會保障與納稅人識別號碼制度相關。首先是強化個資保護規範內容部分，由於社會保障與納稅人識別號碼制度將遇有個資資料庫使用情況，故新增個資資料庫之相關規範與罰則，行為人於未經授權或不當使用個資資料庫時，將可處1年以下拘役併科日幣50萬元以下之罰金，亦即當行為人違反個資法有關個資資料庫規定時，不但須支付罰金也須負刑事責任。 其次，擬設立直屬內閣總理大臣所轄之個人情報保護委員會，其委員組成人選須經參眾兩議院同意後，由內閣總理大臣任命之。委員會主要任務在於專責監督與監測政府各機關以及民間個資處理事業對於個資的傳遞、處理，並適時提出指導意見或建言。
「亞馬遜公司（amazon）」積極向美國政府機關推動其所開發的人臉辨識軟體“Rekognition”，將可能造成隱私權的重大侵害亞馬遜公司所開發的“Rekognition”軟體可以進行照片中的人臉辨識識別，單張圖片中可辨識高達一百人，同時可以圖片進行分析及比對資料庫中的人臉長相。目前亞馬遜公司積極向政府機關推銷這套軟體。可能造成的風險是，公權力機構可透過使用“Rekognition”軟體來辨識或追蹤任何個人，警察機關可以隨時監控人民的行為，各城市的政府機關也可能在無合理理由的狀況下隨時查看人口居住狀況，尤有甚者，美國移民及海關執法局（Immigration and Customs Enforcement, ICE）可以使用該軟體來監控移民的狀況，即使是無任何犯罪疑慮的狀況下亦可進行，將政府打造成巨大的監控系統，有造成隱私權嚴重侵害的疑慮。因此無論亞馬遜公司內外都有反對將“Rekognition”軟體推銷給政府機構的聲浪，尤其美國公民自由聯盟（American Civil Liberties Union, ACLU）更是發起多項連署抗議。 支持政府使用“Rekognition”軟體的意見則認為，使用“Rekognition”軟體將可以更有效率地辨識人臉，在尋找失蹤兒童或在公共中辨識出恐怖份子可以發揮更大的作用，不啻是保護公眾法益的進步。 佛羅里達的奧蘭多市警察機構曾經使用“Rekognition”軟體後因契約到期而一度停止使用，於7月9日與亞馬遜公司續約繼續測試使用該軟體，奧蘭多市警察機構宣稱以目前測試階段將不會使用一般民眾的照片進行測試，將不會造成人民的隱私權侵害。