用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
中國大陸國家新聞出版廣電總局於日前公告「國家新聞出版廣電總局貫徹落實國務院全面督查整改落實進展情況」，提出將針對移動網絡遊戲(下稱行動遊戲)審批制度進行改革，改善目前審批時間過長、效率不高問題。 據公告內容顯示，未來審批制度將朝向雙軌制方向發展，對於未涉及民族、宗教、歷史、政治、疆域等議題，且無故事情節或故事情節單純(如棋盤類等休閒益智遊戲)之陸製行動遊戲，將採取簡易審批制度，以提高審查效率。另外，將增倍審查專家員額至20名，以維持審查品質。在上述改革推動下，目標將縮短審查時間，由現行30天初審、15天複審期限，分別壓縮至15天及5天。其進一步具體做法，中國大陸國家新聞出版廣電總局現正研擬「關於規範移動網絡遊戲出版審批管理的通知」，預計於2014年12月下旬發布施行。 面對近幾年行動遊戲的興起，中國大陸政府不斷重申行動遊戲須符合網路遊戲審批相關規定。然現實是，在行動遊戲數量呈現爆炸性成長，以及生命週期短暫之特色下，遊戲業者未依規定送審情形，並不少見。此次改革的推動，加上先前其他部會針對行動遊戲已提出之配套管制方案(如工信部之APP黑名單數據庫、文化部之企業自審作法)，可預期行動遊戲的內容管制將日趨落實。對此，我方行動遊戲開發業者宜留意相關發展，納入後續遊戲開發方向與市場策略布局之評估要素一環。
歐洲法院對標準必要專利權人聲請禁制令之條件作出判決2015年7月16日歐洲法院（European Court of Justice）作對華為技術有限公司（以下簡稱華為公司）訴中興通訊股份有限公司（以下簡稱中興公司）侵權案作出判決，在判決中說明了向標準制定組織承諾以公平、合理及非歧視的原則（Fair, Reasonable, Non-discriminatory，以下統稱FRAND原則）對第三人授權之標準必要專利權人，在何情況下應依據《歐洲聯盟運作公約（Treaty on the Functioning of the European Union，以下簡稱TFEU）》第102條禁止濫用優勢地位的歐盟法一般規定，不得向法院聲請對被控侵害標準必要專利之人發出禁制令（injunction）。 歐洲法院認為，當標準必要專利權人承諾依據FRAND原則授權時，其已創造第三方對標準必要專利權人將以授權獲利，而非透過行使其排他權利而獲利之合理期待。因此標準必要專利權人必須以合理方法（包括通知被控侵權人侵害事實及表達願依FRAND原則與其達成授權契約之意願）與被控侵權方尋求達成授權契約，否則則構成優勢地位濫用。 至於被控侵權方雖無義務接受標準必要專利權人的要約以作為免除禁制令的條件，但仍應給予真誠並依據商業慣例的回應，包括（1）不拖延回覆；（2）即時提出新的書面要約；（3）被控侵權人正在使用標準必要專利且無法達成授權契約時，必須就其過去使用該專利之數量等依據商業慣例提供適當擔保；（4）雙方不拖延地接受由第三方來認定授權金額；（5）在進行授權協商時，被控侵權人不能挑戰標準必要專利的有效性、必要性或保留其後續相關權利。
蘋果電腦與Proview於中國的iPad商標爭議蘋果電腦不只試圖與擁有中國iPad商標之Proview公司尋求商標侵權和解，也宣稱可能反控Proview公司商標侵權指控之誹謗。 有關蘋果電腦與Proview的台灣分公司之間之交議是否合法，已進入法律程序，原因是蘋果電腦主張台灣分公司已出售iPad商標給一家英國公司，之後於2010年該公司再次轉售給蘋果電腦。但，Proview聲稱此一交易是台灣分公司不是深圳分公司，而蘋果電腦表示台灣分公司是代表深圳分公司。 故，蘋果電腦之律師可能控告Proview誹謗，並已寄出書面信函予Proview的執行長，表示：此一控告是基於不合法的行為，意圖不正當地妨礙蘋果電腦的生意與商業關係。 Proview於今年初針對蘋果電腦商標侵權要求16億之賠償，深圳分公司並於美國加州法院對蘋果電腦提起商標侵權訴訟。兩公司之爭訟在中國頗受關注，也造成蘋果電腦一度將iPad下架。，雖然於3月份新iPad一上市後，中國即獲準其銷售許可。 此外，Proview深圳分公司之律師表示在中國廣東高等人民法院的調解下，蘋果電腦曾提出一筆金額作為調解iPad所有權爭議的和解金，但不願透露該金額僅表示雙方對此仍有很大差距。
德國新聯邦個人資料保護法將於2018年5月施行德國聯邦議院在今年4月27日通過「個人資料保護調整和施行法」（Datenschutzanpassungs- und Umsetzungsgesetz, DSAnpUG），其中包含新的德國聯邦個人資料保護法（Bundesdatenschutzgesetz, BDSG）。在這部新的法案中，已施行40年的 BDSG進行大幅調整以符合歐盟個人資料保護規則（Datenschutzgrundverordnung , DSGVO）的標準。 所有歐盟成員國將於2018年5月25日開始適用DSGVO的規定。DSGVO希望能在歐盟成員國內，形成一套具有法律統一性、標準性與高水準的個人資料保護制度。這也意味著侵害個人資料保護的違法行為，如：未使用適當的加密技術以確保個人資料安全，可能受到更嚴重的處罰，最高可達2,000萬歐元或企業全年營業額的4%。 DSGVO的目的在確保歐盟成員國間個人資料保護的共同法制標準，但考量到各成員國間的區域差異，DSGVO也提供國家立法者約60條的開放性條款(Öffnungsklauseln)─允許許多地區的成員國在特定條件下可不依循DSVGO標準。德國聯邦政府在新的BDSG，也運用了這些開放性條款。但有批評者認為，部分新的BDSG規範內容已超越DSGVO的條文規範，如：個資保護專員(Datenschutzbeauftragten)的就業保障。因此，新的BDSG與歐盟法律不符的部分，很可能被宣布違反歐盟法律。另一方面，舊的BDSG僅有48條規定，而新的BDSG則超過85條規定，且更為複雜，這都提高了法律適用上的難度。 雖然新的BDSG其適法性仍有爭議，且是否能通過司法審查亦屬未知。但盡管如此，隨著DSAnpUG 及新的BDSG法律條文制定，未來德國個人資料處理的基本法律框架已確定。由於企業個人資料處理的基本原則已明訂於DSGVO中，且新的BDSG仍是依照DSGVO的規範而制定，因此企業應盡速審查和調整他們的契約和流程，以符合DSGVO的規範要求。