用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
面對層出不窮資料違背或身份竊盜事件，2014年初， FTC於美國國會的例行會議上，就數位時代關於隱私權之保護課題進行作證，會議中，FTC乃呼籲美國國會應立即通過制定一個更強的聯邦資料安全與違背提醒的法律，其也進而提出「個人資料隱私暨安全法案（草案）」 (Personal Data Privacy and Security Act of 2014, S.1897)。該草案主要分成兩大部分: 第一部份，將強化身份竊盜和其他違反資料隱私與安全之懲罰；第二部份，係關於可茲辨識個人資料(PII)之隱私和資訊安全。 法案第202條係關於「個人資料隱私與安全機制」（personal data privacy and security program），目的在強化敏感性可茲辨識個人資料的保護，從行政(administrative)、技術(technical)和實體(physical)三個構面的防衛機制，進行相關標準之制訂與落實。有關適用之範疇，乃就涉及州際貿易之商業實體，而該州際貿易包含蒐集、近取、傳輸、使用、儲存或在電子或數位格式處理可茲辨識個人之敏感性資料，而這些資料總計多達1萬筆以上，然而，將不適用於金融機構(financial institutions)、醫療保險轉移和責任法(HIPPA)所管制者、服務提供者(service provider)和公共紀錄(public records)。 而在機制設計上，也係從「設計」(DESIGN)、「風險驗證」 (RISK ASSESSEMENT)和「風險管理」(RISK MANAGEMENT)三個角度進行切入，也必須確實提供員工教育訓練(TRAINING)、弱點測試(VULNERABILITY TESTING)、定期驗證和個人資料隱私與安全之更新，另外，在與外部與服務提供者(例如ISP)之關係上，公司必須盡到適當勤勉的義務(due diligence)，也必須透過契約(contract)方式，約定前述所建置起之資料隱私安全機制，並在安全性遭受到侵害時，以合理方式通知締約他方。 本案目前在聯邦參議院已經二讀通過，已交付參議院司法委員會進行下一階段的審議，該立法草案未來是否會直接或間接影響物聯網環境生態系統之商業運作，有待未來持續關注之。
惠普 : 軟體專利是必要之惡智慧財產權議題涉及專利、著作權和商業機密，近年來因開放原始碼軟體而備受矚目。開放原始碼軟體可共享、修改和重新發布，和傳統專屬軟體的保密性和發布限制迥然不同。 許多開放原始碼與自由軟體倡議人士都痛批軟體專利，相形之下，惠普以擁有大量的專利為傲。2004年惠普一共獲頒1,775項美國專利，在美國排名第四。 惠普Linux負責人表示，開放原始碼程式設計師或許厭惡軟體專利的概念，但最好還是試著自我調適，因為軟體專利是不會消失的。且開放原始碼軟體是在著作權法的基礎上發展而成的，而專利比較麻煩，是因為程式設計師把專利視為削弱他們的自由。另一方面，企業則把專利看待成自家珍貴創意的保護傘。 惠普Linux副總裁Martin Fink批評開放原始碼促進會(Open Source Initiative；OSI)核准開放原始碼授權證書的作法太草率。去年8月，Fink曾指出，開放原始碼授權證書多達52種，實在太多了。現在數目變得更多，因為他抱怨OSI核准任何符合開放原始碼定義的申請案，卻不試著加以整併以強化開放原始碼業的基礎。只基於符合規格就核准授權證書，而未顧及進一步鞏固開放原始碼經營模式的能力，這會構成明顯而迫切的危險。 一家銷售智財權法律免責保險的公司說，調查顯示，Linux作業系統的核心(kernel)可能涉及283項專利侵權。惠普2002年也提醒眾人，微軟可能醞釀對開放原始碼軟體提出專利訴訟。但目前為止這些威脅尚未發生，而紅帽公司（Red Hat）和Novell揚言運用自家專利反制那類威脅，IBM和昇陽也表明不會針對開放原始碼侵犯的數百項專利提出告訴。
日本發布電力、天然氣及石油部門之去碳轉型金融路徑圖日本經濟產業省於2022年2月4日發布電力、天然氣及石油部門的「去碳轉型金融路徑圖」（トランジション・ファイナンスに関するロードマップ），作為各部門轉型金融之指引，確保資金持續投入，協助二氧化碳主要排放部門朝去碳化轉型，以實現2050年碳中和目標。 電力、天然氣及石油部門之「去碳轉型金融路徑圖」，係以科學根據為基礎，依據日本國內電力、天然氣、石油部門之現況及相關政策規劃，導入現階段具可行性之技術，確實推動減少二氧化碳排放；同時並針對未來技術的發展與革新目標訂定時間表，確保技術與各部門未來之發展能有助日本於2050年達成碳中和目標。一方面於企業欲透過轉型金融取得資金時，指引企業針對其現行氣候變遷對策進行檢討；另一方面，亦可協助金融機構審視企業於轉型融資時所提出之轉型策略與措施，以判斷是否符合轉型金融之資格。各部門主要重點如下： 電力：2020年開始導入轉型燃料（生質能、氫、氨與天然氣之混和燃燒），並逐步淘汰傳統火力發電；2030年確立去碳燃料（純生質能、氫、氨火力發電、再生能源等）相關技術，並推動商用化。 石油：2020年起開發石油製程節能技術，並推動轉型以天然氣為主要燃料；同時發展氫氣製造技術、二氧化碳捕捉技術，於2030年達成商用化。 天然氣：2020年起針對天然氣、液化石油氣進行節能製程、燃料利用效率、合成燃料相關技術開發，並擴大建置都市天然氣管線、確保液化石油氣配送途徑等。
取締盜版有成 台灣改列特301一般名單美國貿易代表署公布最新特別301名單，我國從優先觀察名單降級成為一般觀察名單，經濟部智慧財產局長蔡練生表示，我們的目的是希望能除名，儘管這次只是降級，還是積極爭取希望在5月的年度報告能夠獲得除名。蔡練生表示，美國貿易代表署去年5月3日公布2004年特別301名單，我國列為優先觀察名單，並宣布去年秋季會進行不定期檢討，當時同樣被列為不定期檢討對象還包括馬來西亞和波蘭，不過這次只有台灣獲得降級。 台灣已經連續四年名列美國特別301優先觀察國家名單，近年來政府修法，加強取締盜版，獲得美國方面認同，今年終於獲得降級，並在美東時間1月18日正式公布我國降級。 蔡練生指出，優先觀察名單和一般觀察名單之間的差異是層次問題，列為優先名單者美國會給予六個月的觀察期，讓其改善機會，如果沒有改善就會採取貿易報復手段；一般觀察名單的觀察期，則延長為一年。