用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
歐盟執委會以（EU）2021/914號執行決定（Implementing Decision）所發布的新版「向第三國傳輸個人資料標準契約條款（New Standard Contractual Clause for the transfer of personal data to third countries，下稱SCC）」已於9月27日起正式取代舊版條款。 新SCC發布於2021年6月27日，旨在滿足歐盟法院（the Court of Justice of the European Union, CJEU）以2020年7月Schrems II判決所訂定之資訊保護需達「足夠充分（substantially sufficient）」標準。該版SCC為因應不同情境之跨境資料傳輸，而設計採取4種模組之規範條款供涉及歐盟境外之第三方資料傳輸者（控制者與接收者）依循參採，包括： 規範模組一：從資料控制者（Data Controller）到資料控制者的資訊傳輸（Transfer from controller to controller, C2C） 規範模組二：從資料控制者到資料處理者（Data Processor）的資料傳輸（Transfer from controller to processor, C2P） 規範模組三：從資料處理者到資料處理者的資料傳輸（Transfer from processor to processor, P2P） 規範模組四：從資料處理者到資料控制者的資料傳輸（Transfer from processor to controller, P2C） 本次執行決定亦設立了轉換期以利各方進行合規審查與契約調整：雖然舊版已於2021年9月27日廢止不再適用，原已適用舊版SCC之契約，至遲仍得實施至2022年12月27日止。（亦即新版SCC公佈後的18個月內）。 在此執行決定下，歐洲資料保護委員會 （European Data Protection Board）亦發布「關於如何確保對個人資料傳輸採取適當保護措施建議（Recommendations 01/2020 on measures that supplement transfer tools to ensure compliance with the EU level of protection of personal data）」釐清GDPR「傳輸影響評估（Transmission Impact Assessment, TIA）之機制流程 。 隨著資通科技之快速崛起跨境個資傳輸已成為企業常態，而此種現象近期甚至在交通自動化的科技發展下逐漸擴及交通業別，其中全球航運和物流公司在全球範圍內傳輸個資，其中甚至包括用於履行和營銷目的之乘客資料、員工個人資料和客戶業務聯繫資訊等敏感個資已成為常態，應儘速因應相關法制之發展，解決全球範圍內快速發展的隱私合規問題。
蘋果，谷歌結束智慧型手機專利訴訟蘋果（Apple）與谷歌（Google）旗下的摩托羅拉移動公司（Motorola Mobility）已明確決定就所有有關智慧型手機技術的專利訴訟達成和解。 兩家公司於5月16日周五共同聲明，此次和解並未包含專利交互授權的協議。聲明中指出「蘋果與谷歌亦同意在某些專利改良的領域可進行合作」 蘋果和使用谷歌的Android軟體技術製造手機的公司，已經在全球提出許多類似的訴訟，以保護自己的技術。蘋果認為Android手機所使用谷歌軟體技術，複製於iPhone手機。 依據兩家公司提出的申請，已通知華盛頓聯邦上訴法院駁回訴訟案件，但這協議似乎看起來不適用於蘋果對三星電子公司所提出的訴訟，因未接獲駁回案件的通知。 蘋果和摩托羅拉移動的爭議開始於2010年，摩托羅拉指控蘋果侵犯多項專利，其中包括一個主要如何使手機於3G網路上運行，而蘋果表示，摩托羅拉侵犯其專利的智慧手機的某些功能。 這些案件被合併由芝加哥聯邦法院，然而，審理法官Richard Posner在2012年審判前夕即駁回案件，認為無任何一方可提供足夠的證據各自的主張。上個月，上訴法院讓iPhone製造商另一次機會，贏得一個對抗競爭對手的銷售禁令。 谷歌於2012年以125億美元收購摩托羅拉移動，今年將摩托羅拉移動出售給聯想，仍保留大多數的專利。
美國《國際緊急經濟權力法》（IEEPA）美國《國際緊急經濟權力法》（International Emergency Economic Powers Act, 50 U.S.C. §1701-1708，下稱IEEPA）是美國總統針對國際經濟局勢，進行多種經濟交易相關限制之法源依據─只要外來任何威脅造成美國家安全、外交政策或者經濟出現隱憂，美國總統即可按IEEPA依職權調查、管制或限制「任何與特定國家的外國匯兌交易、透過金融機構進行任何涉及該國利益的信貸移轉或支付、輸入或輸出外幣或證券；亦可凍結與特定國家或該國人民有關的財產權」。1979年，卡特總統（Jimmy Carter）援引IEEPA因應伊朗人質危機（Iran Hostage Crisis），係迄今最長時間的經濟制裁（sanction）；2001年的911空襲事件之後，美國國會大幅擴張IEEPA，同時制裁阿富汗（Blocking Property and Prohibiting Transactions with the Taliban）。近期的中美貿易戰中，IEEPA亦扮演重要角色。舉例而言，2019年5月15日，美國總統川普（Donald Trump）即以IEEPA發布〈行政命令：保護資通訊技術及服務之供應鏈〉（Executive Order on Securing the Information and Communications Technology and Services Supply Chain），並於翌日將華為及其遍布26國的68間子公司列入《出口管制規則》（Export Administration Regulations, EAR）之管制名單。 美國憲法起草時，並無談及緊急權力（emergency powers）之概念，所以在過去的兩個世紀，美國總統僅能個案處理（ad hoc）緊急狀況，國會再後續追認。20世紀以降，美國開始出現緊急權力模式─透過國會立法，將原應由國會代表人民行使的權力(delegated powers）授予總統在緊急狀況下直接行使。復有1976年的《國家緊急法》（National Emergencies Act，下稱NEA），而1977年通過的IEEPA即是依NEA為法源所設。當美國總統行使IEEPA，必須遵守NEA：立即向國會發送緊急命令公告，並且將之發布於聯邦公報（Federal Register），總統亦須闡明其發布該緊急命令所援引之法源依據。《國際緊急經濟權力法》中，公權力對於私經濟的介入，則可溯及第一次世界大戰末期的《1917年對敵貿易法》（Trading with the Enemy Act of 1917），當時出現始料未及的經濟動員（economic mobilization）與制裁。
美國總統簽署《強化美國訊號情報活動命令》，具體落實美歐跨大西洋資料保護框架美國總統拜登於2022年10月簽署了《強化美國訊號情報活動行政命令》（Executive Order On Enhancing Safeguards For United States Signals Intelligence Activities），指示美國將採取哪些步驟以落實歐盟與美國間資料隱私架構下的承諾。其目的在於解決歐盟法院（Court of Justice of the EU）在2020年7月的Schrems II判決中宣布隱私盾協議（EU-U.S. Privacy Shield framework）無效時所提出的疑慮與問題。 新的行政命令為美國的情報監視活動規定了某些「隱私和公民自由保護措施」，並且為非美國人制定了一種新的權利救濟管道，該行政命令主要規定了以下幾點： 1.規定美國的訊號情報活動應為必要的，並且符合有效的情報優先事項。 該行政命令規定，美國的訊號情報只有在「促進有效情報優先事項所必需」，並且「只有在與授權事項相襯的範圍與方式下」才能進行。該命令規定，基於了解或評估對美國、其盟友或夥伴的國家安全構成當前或潛在威脅的國外組織的能力、意圖或活動；防止由外國政府、外國組織或外國個人實施或代表其實施的恐怖主義、劫持人質；以及了解或評估影響全球安全的跨國威脅等目的，可以對某些合法目標進行情報偵察活動。且不得對與新聞自由、異議、思想或政治觀點的自由表達造成限制或使其立於不利地位，也不得蒐集商業訊息；這些訊息的蒐集僅限用於美國、其盟友或夥伴的國家安全。 2.規定訊號情報活動蒐集到的個人資料之處理方式。 針對通過訊號情報活動所蒐集的個人資料，美國情報系統在處理資料的每個環節必須建立制度和相關程序，以盡量減少個人資料的傳輸和保存環節。且只有在適用法規允許蒐集、保留美國人特定類型的資訊之情況下，才能夠保留非美國人的該類型訊息，不得因被蒐集資料的對象並非美國人而有所差異。並要求資訊處理的單位人員保持適當的培訓，以確保相關人員能夠理解規範的要求。 3.規定非美國人的權利救濟程序，以審查美國情報界的訊號情報活動。 在此行政命令頒布後60天內，國家情報總監（DNI）在與美國司法部和情報界各部門協商後，針對非美國人「藉由相應國家機構所移轉符合資格之投訴」建立處理程序。而美國的司法部長可以與國務卿、商務部長和DNI進行協商，將一個國家或是經濟區域、組織指定為符合資格的國家或是國際群體，其人民可以進行權利救濟。DNI的公民自由保護辦公室（Civil Liberties Protection Officer, CLPO）將對這些非美國人的申訴進行審查，並於必要時進行適當的補救措施，包含刪除未經合法授權獲得的資料，或是將合法蒐集資料的訪問權限限制於經過適當培訓的人員。 4.建立資料保護審查法院，以審查CLPO對於合格申訴的判定結果。 新成立的資料保護審查法院應任命針對資料隱私和國家安全法領域具備適當經驗的法律從業人員來擔任法官。投訴人可於CLPO做出決定後，向該法院申請審查CLPO的決定。