用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
如何確保兒童上網安全，為歐盟數位議程（Digital Agenda）的七大目標之一。而近年來網路內容蓬勃與快速發展，更大幅加速了兒童上網的趨勢。據歐盟執委會於2011年12月的公開資料顯示（IP/11/1485），歐洲兒童平均7歲即開始接觸網路。目前有超過38%的9-12歲兒童在社交網站上有個人資訊，有30%以上的兒童是藉由行動裝置上網。如此高的上網比率，讓各業者有共識以提供兒童更好的上網環境。由蘋果、微軟、Google等跨國企業為首的二十餘家業者組成了自律組織，以提供歐盟地區的兒童更好網路內容環境而努力。 該自律聯盟於2011年12月正式成立，並以五個面向採取相關行動：簡單且強大的工具-能夠搜尋於任何裝置上可能對孩童有害的內容；分齡隱私設定-使用者可限定公布資訊予特定族群；更廣泛的內容分級：提供家長易於理解的年齡內容分級；更廣泛的家長控制工具-積極推動使用者有善的工具；兒童色情內容有效移除-與執法單位與保護熱線等積極合作，將兒童色情內容快速下架。 各業者承諾就其營業項目、產品、服務內容等皆須符合此自律規範，並成立工作小組以協助歐盟執委會處理相關議題。
何謂「商標名稱通用化」？商標具有表彰商品來源之功能，其設計為配合商品特色而具有識別性。商標註冊後，若不具有識別及表彰商品來源之特徵，而失去商標應有之基本功能，依據商標法第63條第4款，不具識別性之商標，無法主張商標專用之權利。商標名稱通用化，即是指原本具有識別性之商標，通常為著名商標，因為社會大眾消費習慣以及認知的改變，變成商品的通用名稱，此時即認該商標失去識別性，失去法律保護。 商標名稱通用化形成之原因不一，可能是企業經營者設計商標時，有意使用社會大眾熟悉之名稱作為商標，也有可能非商標權利人自己故意造成，特別是著名商標，容易流於通用化。例如，「可樂（cola）」一詞由可口可樂（coca cola）公司率先註冊使用，但於消費者心目中已成為特定碳酸飲料之名稱，則不得由可口可樂公司獨占使用；又如火柴盒玩具汽車，為火柴盒大小包裝之玩具，企業經營者以 matchbox 作為該玩具的文字商標，但美國聯邦最高法院認為matchbox屬於該商品之通用名稱，否認其商標權。 實務上判斷商標名稱通用化，以該商標名稱在一般消費者心目中認識的主要意義為標準。一個經過市場行銷之註冊商標名稱，若在消費者心目中屬於商品通用名稱，而非特定商品來源，則表示該商標名稱已不具備商標功能，不受法律保護。
地理空間資料（Geospatial Data）Google地圖、GPS導航、Facebook定位打卡、「台北等公車」、Uber叫車，「地理空間資料」（Geospatial Data）的運用已經滲透現代人的生活。然而，究竟什麼是「地理空間資料」？所謂「地理空間資料」，依美國的《2018年地理空間資料法》 （Geospatial Data Act of 2018）的定義：「與地球上緊扣相關的位置資訊，包含辨識地球上的地理位置和自然或結構特徵與疆界。在向量資料組（Vector Dataset）中，大致以點、線、多邊形或複雜的地理特徵或現象呈現。該資料可能透過遙測（Remote Sensing）、製圖（Mapping）和量測（Surveying）科技取得。」 地理空間資料涉及地理學、地圖學（Cartography）、地理資訊系統學（Geographical Information Science, GIScience）及許多相關的科學領域。互動式的時間與空間功能，成就了當今混和空間與時間的資訊爆炸，更是五花八門運用地理資訊的手機應用程式之基礎等。應用場景涉及政府、商業、社會各層面，順利達成多元且重要的任務，例如：疾病通報、環境監測和公共安全。2017年Google於委託AlphaBeta的分析報告指出：「全球地理空間資料相關服務每年有四千億美元的產值、節省消費者超過五千五百億美元的燃料和時間成本、直接創造四百萬份工作機會。透過電子地圖服務，如：提高顧客流量的免費行銷工具Google My Business，更促使小型商家產生1.2兆美金的營業額。」
有效開放：西進40％上限有條件鬆綁積極管理機制出爐後，行政院正在研議規劃有效開放政策，包括投資大陸 40 ％上限鬆綁事宜，但尚未形成決策時間表。 40 ％上限究竟如何鬆綁，政府高層高度關切，據悉，政府已委託財經智庫提供一份兩岸經貿對策建議白皮書，擬作為政府兩岸政策建議及六月召開台灣經濟永續成長會議決策參考，智庫建議應視個別企業、個別產業個案檢視放寬，對大陸投資利益必須大於不良負作用。 財經智庫建議以七大配套指標決定 40 ％上限的鬆綁，七大指標包括：一、產業無法在台生產，也無法擴大中國以外的市場生產，應予放寬；二、在中國市場屬於領先地位，且可繼續擴大市場；三、在中國獲利可匯回台灣回饋股東；四、企業領先全球，必須對中國擴大投資以繼續取得全球領先地位。五、該企業在台有很大營運及研發中心，即以台灣為根；六、該企業有重大技術及品牌成就，可去大陸市場攻城掠地；七、外資持股比例高且公司治理的守法紀錄良好者。 一旦 40 ％可有條件鬆綁，相關官員表示，將考慮對特定回台上市台商研擬放寬其股市上市條件，籌資再投資大陸的上限也可視為外資放寬。政府希望企業可以去大陸攻城掠地，但不希望把大陸當成唯一生產基地，企業把生產及上中下游關聯性產業一起帶走，甚至移出研發，例如筆記型電腦，對台灣造成失業等諸多不利負作用，因此台灣必須保留生產基地，生產高附加價值產品。