用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
蘋果電腦設計一項系統，能使個人利用數位裝置來進行點餐，未來將不用在咖啡店或是速食店排隊等候也可訂到美味餐點。 蘋果公司就此項技術已經向美國商標專利局申請專利，倘若此項專利變成產品，那蘋果公司的產品就不再只限於電腦、iPod、線上音樂收費的市場。不僅如此，蘋果將變成餐廳、咖啡店甚至是零售商與顧客間的媒介。蘋果在2007年12月20日就此項技術申請專利，在申請案中，說明人們可以利用這項系統對餐廳進行點餐，而餐廳也能利用此項系統接收訊息。未來餐廳運用此項系統後，消費者就可以藉由數位PDA、手機來進行點餐，點餐者只須在線上排隊，無須為了他們喜愛的漢堡、飲料在店裡大排長龍。 此外，此項技術不僅僅是點咖啡的工具，蘋果在去年九月宣佈與星巴克簽約，所提供的技術還包括下載音樂，使用者將可以在喝咖啡時利用i-phone下載音樂並播放，消費者可以一邊享用咖啡，一邊聽喜愛的音樂。
冰島政府贏得與英國連鎖超市Iceland Foods的商標戰歐盟智慧財產局（EUIPO , European Union Intellectual Property Office）裁定英國連鎖超市Iceland Foods（以下簡稱Iceland Foods），不得以「 Iceland」在歐盟申請註冊商標。 Iceland Foods成立於1970年，是英國的知名品牌，擁有超過800家的分店共有2.3萬名員工，主要販售海鮮等冷凍食品。這件商標爭議起源於2014年，Iceland Foods成功以「 Iceland」一詞在歐盟註冊商標，但冰島企業的冷凍魚類等產品，也有銷售到歐盟，冰島政府因而指控此結果，將造成冰島的企業，無法以「Iceland」標示其產品的來源國。此外，冰島政府也指出，「Iceland」已經被廣泛認知為地理名稱，本來就不經該允許其被註冊為商標。如今，歐盟智慧財產局支持冰島政府的主張，使英國連鎖超市的註冊商標「Iceland」完全無效。並進一步表示，歐盟國家的消費者了解冰島是歐洲的一國，也知道冰島不但與歐盟國家地理位置相接近，且與歐盟國家存在歷史與經濟方面的聯結。 冰島的外交部長表示樂見此結果，但並不感到意外，並表示此裁定對冰島的出口商，是一個重要且勝利的里程碑。冰島以純淨與永續聞名，因此產品的原產地標示「Iceland」具有價值。Iceland Foods則聲明表示，對此結果感到遺憾，並打算提起上訴。
美國專利商標局(USPTO)針對「第三人先前技術意見書(Preissuance Submissions)提呈制度」發布最終規則USPTO日前針對「第三人先前技術意見書提呈制度」，於7月17日發布最終規則( Final Rules)。此項規則的頒佈，主要是因應2011年9月「Leahy-Smith 美國發明法案」（Leahy-Smith America Invents Act，簡稱AIA）的修法，所為的配套措施。 所謂「第三人先前技術意見書提呈制度」是指：賦予第三人權利，得於專利審查程序中提供專利審查員相關先前技術文獻，作為審查核駁之參考。美國在2011年討論AIA修法之際，大多肯定此制度可提升專利審查之品質，因而修法放寬了第三人可提呈的文獻類型、期限。而本次USPTO發布的最終規則，便以此修正為背景，進一步具體說明相關程序適用規則，主要包括： （1）可提呈的文獻包含專利案、已公開的專利申請案、及其他與審查核駁相關並已公開之文獻；但不包含法院機密文件、商業機密文件及其他內部未公開之訊息；（2）第三人得利用USPTO現有的電子申請系統（EFS-Web）申請；（3）第三人得保持匿名，例如透過律師提呈文獻；（4）縱使USPTO駁回其申請，第三人仍可在法定期限內重新提交新的申請；（5）提呈之文獻如為外文文獻，第三人須提供英文翻譯本。 如同2011年修訂通過的「Leahy-Smith 美國發明法案」，此次USPTO所頒布的最終規則亦將於2012年9月16日起施行。預計將擴大第三人提呈先前技術意見書之比例，但對於專利申請人將造成甚麼影響，值得持續觀察。
SONY ERICSSON最新公開之專利申請案-多模式震動定位觸控式螢幕關於SONY ERICSSON (SE)將推出PSP手機(PSP phone)的傳聞始終甚囂塵上，每隔一段時間就會有各種充滿想像力的照片在網路上散佈。美國專利商標局(USPTO)於2008年03月06日公開了SE於2006年08月30日所遞交的新專利申請案。從該申請案的內容中可發現，SE將為市場帶來具有更多新奇功能的PSP手機。 SE的該申請案揭露了一種可攜式行動通訊裝置，其包含全觸控式顯示螢幕、加速度感測器或其他方向感測器以及觸覺回饋(haptics feedback)配備，其可透過軟體分別在PSP以及手機模式下設定以及切換多種功能。特別地，由於該螢幕具有觸覺回饋機制，原本提供觸覺回饋的實體按鍵便可以被省去，因此在實務上，該螢幕可佈滿該通訊裝置的整個表面。 當然，在我們談到前述的加速度感測器、全觸控式顯示螢幕以及透過軟體設定功能的同時，SE並未在該專利申請案中限制該通訊裝置只能為PSP手機。因此，該通訊裝置也可能被設定為隨身聽手機、照相手機或行動網路瀏覽器等。 在這篇專利申請案中的構想與蘋果的iPhone相當類似，除了額外的PSP遊戲功能之外。但，我們不能就此認為SE抄襲蘋果的創意，因為，SE似乎是與蘋果同時發展這個構想的－這篇申請案的申請日期比iPhone的主要專利申請案的公開日期早了一週。