用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國智慧財產律師於2026年4月撰文說明兩件聯邦地方法院之判決揭示將機密資訊分享於生成式AI平台上的重大風險。 在Trinidad v. OpenAI 案中(Trinidad使用ChatGPT開發出AI框架，並將其框架申請美國專利，其主張OpenAI 後續申請專利之產品係基於使用其成果所開發，惟法院駁回原告依據美國營業秘密保護法(即DTSA)提出使用ChatGPT的產出物”專有AI開發框架(proprietary AI development frameworks，簡稱框架)為其營業秘密之主張，理由是原告在使用ChatGPT創建這些框架時，是自願向OpenAI 揭露其框架相關資訊。本案中，法院認為，原告使用ChatGPT創建框架時未有採取保密措施，且基於接受OpenAI的使用條款，也就是同意於未建立任何保護下揭露資訊，而不屬於DTSA保護的營業秘密。 在United States v. Heppner案中(被告Heppner 因涉及金融詐騙案件遭起訴，其收到法院傳票後使用Claude AI，將該案件的案件事實、可能的抗辯事由、法律分析和防禦策略輸入至Claude AI，使用AI產出法律分析報告)，則是強調使用公開可得的生成式AI平台所建立之文件不受律師與當事人間之秘匿特權( attorney-client privilege)保護，因為在AI平台記錄的對話內容，在沒有與平台合約約定保密義務時，這些內容並不具保密性。本案主要探討於被告與Claude AI之間之對話紀錄是否符合律師與當事人間之秘匿特權之範圍，法院認為Claude AI並非律師，兩位非律師之人的法律討論並不享有特權，且成立律師與當事人間之秘匿特權需建立於當事人與有委託關係之律師(或其代理人：實習律師、法務助理等)因為法律諮詢目的之通訊內容。此外，被告與Claude AI之間的通訊並非機密，因為Claude AI的用戶須同意「Anthropic (Claude AI之開發商)收集用戶輸入與輸出資料，利用這些資料訓練 Claude，並保留向第三方(包括政府監管機構)揭露此類資料的權利」，故法院未將律師與當事人間之秘匿特權延伸至AI平台產出的資訊。 在如今生成式AI已被普遍使用之時代，AI工具可提高生產力及工作效率，而對企業而言，開放員工使用AI時應留意公司是否有對使用AI工具提供相應的管理措施。可參考的管理方式有二： 作法其一是：建立企業內部的生成式AI平台 在此狀況下與AI共享的資訊只會留在公司的環境中，並且員工會受到聘用條件中所簽署過的保密協議拘束，此種做法可提供強而有力的保護，但也需要公司投入大量財務資源，惟許多企業未有足夠資源採取此做法。 作法其二：企業從商業生成式AI供應商取得企業授權 企業可跟AI供應商簽定特殊的授權模式，例如約定除了為遵守法律規範或防止濫用之情況外均不儲存輸入或輸出之資訊、約定不會使用其資料進行AI模型訓練、不向第三方揭露客戶所提供之資訊等保密條款，此類保密條款約定會被視為合理保密措施。 企業亦須留意法院在檢視是否成立合理保密措施時，通常只有簽訂相關保密條款並不足夠，法院通常會審查是否有其他保護措施，例如哪些員工有權使用AI平台、是否規範哪些資訊可用/不可用於AI平台、員工是否簽署對其使用AI平台應遵守之義務的確認書等。此外，企業還須避免員工以個人消費者帳號(非企業用戶權限)於AI平台輸入公司機密資訊，而使公司在不知情狀況下同意AI供應商使用其公司機密資訊。因此，企業應建立明確政策，限制員工將公司機密資訊輸入任何AI平台，並留存管理存取紀錄。 由前面兩個案件我們可了解，在未有適當合約與相關保密措施的情況下，於公開的生成式 AI 平台分享機密或專有資訊，法律上等同於向全世界揭露該資訊。法院於營業秘密、律師與當事人間之秘匿特權不太可能對 AI 相關揭露行為做出特別豁免。因此，對於AI工具的使用，企業至少需確保使用的是在具備適當合約保護的商業或企業級 AI 平台，制定明確的內部政策規範可輸入 AI 平台的資訊，提供員工相關訓練，並審核現有的營業秘密保護計畫找出因應AI工具使用的相關風險並予以補強。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/）
英國新聞申訴委員會首度網路影片違反隱私權爭議作成裁定英國新聞申訴委員會(The Press Complaints Commission，簡稱PCC)日前針對某報業網路上發布之影片寄出違反隱私權之處罰裁定，該影片為一位16歲之高中學生利用行動電話所拍攝，內容紀錄該學生就讀之班級學生於教室內脫序的上課狀況，該學生錄下脫序現象之目的在向自己父母解釋其數學成績不佳之原因，此一事件被英國報紙The Sun, The Daily Mirror and The Hamilton Advertiser報導出來並將該影片公布於網路。 該校「家長、老師會」(Parent Teacher Association)為此向英國新聞申訴委員會提出申訴，主張報社報導並於網路上公布該影片之行為，構成對於影片中學生之隱私權侵害，因為包括校方、學生以及學生家長皆未對影片播放表示同意。 PCC表示，學校的風紀問題已被認定與公共利益相關，而本案影片學校對於學生鬆散管理導致之脫序行為已經影響學生學習之表現，明顯屬於重要之公共利益事項。然而，該報社於報導此事件時，無論於報紙上之圖片以及網路上之影片皆未加以處理，尤其，網路上之影片有部分學生之身分可被明顯辨識，而新聞媒體具有確保學生隱私權不致於因出現鏡頭前而受到侵害之責，雖然依據該報社表示若將學生影像模糊處理將降低事件可能造成之影響，但學生隱私之保護將比新聞媒體呈現事件之利益更為重要，故裁定該報社違反新聞媒體工作規範中之隱私權保護規定。 PCC從今年(2007年)2月已開始對於報社所擁有之多媒體網路內容規範管理，而該規範並未排除大眾提出之資料，只要該資料為該報社可編輯掌控之範圍內，皆受到規範。
因應京都議定書 1500家企業須揭露環境資訊經濟部將在近日研商成立「輔導推動委員會」，至遲在今年底、明年初推動環境資訊揭露制度。根據經濟部初步規劃，「企業環境資訊揭露」制度，將先鎖定京都議定書溫室氣體減量規範，要求企業揭露 CO2 排放量盤查資訊及減量努力與目標，並鎖定「環境數據」、「社會責任」及「環境活動」三方面，要求企業說明因應 CO2 減量的努力情形。 「環境資訊揭露制度」將依是否上市櫃及企業規模，要求不同程度的資訊揭露。上市公司，列為「義務性揭露」，必須將「環境資訊」列入重大訊息予以公開揭露；營業額達 1 億元以上的企業及上櫃、興櫃公司，屬「自願性揭露」，以漸進的方式，在該機制實施後二年內達到「完整環境資訊揭露」；中小企業則採取「鼓勵性揭露」。 今年 5 月間，證期局為保障國內投資人，曾強制 972 家電子電機上市櫃公司，以「重大訊息」說明公司因應歐盟有毒物質禁用指令（ RoHS ）的情形，此一要求僅為「環保支出」之資訊，並未要求說明未來因應對策及可能支出。故經濟部希望透過「環境資訊揭露」制度的建立，讓企業從被動提報「環保支出」，提升到主動揭露「環境資訊」，並逐漸建立企業環境會計制度，因應國際環保趨勢。
日本正式打擊動畫與漫畫盜版 橫跨十五家企業聯手合作去年七月日本成立的「漫畫、動畫盜版對策協議會」上個月開始了所謂「MAG PROJECT」，針對中國、美國與歐洲等海外約100個提供盜版的網站，以約5個月的期間，透過電子郵件集中請求刪除盜版內容。 主要打擊對象為提供影音分享的網站、提供漫畫線上閱讀的線上閱讀網站與累積大量盜版資料的儲存空間網站等，在不聽從刪除請求的場合，向當地法院提起訴訟等法律措施也在此次盜版對策的考慮之列。主要保護對象預計包括在日本海外也相當熱門的「one piece（海賊王）」、「名偵探柯南」等總計約580部作品。 「漫畫、動畫盜版對策協議會」包括有東映動畫、吉卜力工作室、角川、講談社、小學館、集英社等等總計15家企業參加，由CODA（內容海外流通促進機構）負責事務局。 提到盜版，以往主要是重製的漫畫書跟DVD，而現在的主流則是網路。盜版在日本海外網路開始流通的時候，約莫是寬頻開始普及的2006年前後。在盜版流通的背景，除大容量的傳輸變成可能之外，還包括有在美國等地出現的日本動畫熱潮，以及Youtube等動畫分享網站的出現等等因素存在。 根據日本動畫協會的調查，2012年日本動畫製作公司的海外銷售金額為144億日圓，相較最近一期高峰值2005年的銷售金額313億日圓，可謂攔腰折半。另據日本經濟產業省25年度的調查，動畫與漫畫盜版造成的損害，光就美國一地來說，推估高達約有兩兆日圓之多。