用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
檢視《科學園區設置管理條例》暨相關規範對新創產業之租稅優惠 資訊工業策進會科技法律研究所 蔡立亭 法律研究員 2019年12月23日 《科學園區設置管理條例》於1979年訂立，並於2018年5月15日全文修正，同年6月6日公布。規範名稱由原先之《科學「工業」園區設置管理條例》更訂為《科學園區設置管理條例》（以下簡稱本條例），由傳統製造業為主體的思維，轉化為引進多元科學技術。 為鼓勵多元科技產業進入園區，本條例設有租稅優惠之規定，若自國外進口機器、設備、材料等，則可免徵進口稅、貨物稅、營業稅；外銷產品或勞務時，不僅營業稅的稅率為零，亦免徵貨物稅。[1]另外，尚有承租土地租金之減免；[2]以及輸出入貨品，若申請簽證、核准，則可免辦輸出入許可證。[3]在子法上，亦有園區進出口貨品保稅之規範。[4]申言之，進入園區的事業，仍須有實體的物件產出，方能適用本條例中的優惠。此仍偏屬於以工業的思維，規範園區內的產業，針對無實體產出的業者，如以大數據分析、服務為導向的新創事業，則不適用目前相關的租稅優惠。 在其他規範，[5]亦有輔助產業發展之租稅優惠。立於推動產業創新的基礎，針對遵守環境保護、勞工、食品安全衛生規範的企業；[6]或投資之全新智慧機械係供自行使用；[7]或於其自行研發之智慧財產權取得之收益範圍內讓與、授權，[8]均得抵減課徵所得稅。另，學術或研究機構自行研發，[9]或員工取得獎酬股份的基礎給付，[10]亦均得選擇免課徵所得稅。創業投資事業，[11]亦享有相關之租稅優惠。並尚有為生技新藥產業的升級，而在人才培訓、研究、發展的投資，可抵減營利事業所得稅。[12]針對中小企業對土地之使用、研發實驗、以智慧財產作價的股票、保留盈餘、增僱員工，[13]亦設有租稅優惠。現行的稅務規範，已不再侷限於空間或實體物，而有以鼓勵「研發」為主體。換言之，新創產業研發的各個階段，仍須以各自的技術、資金、人力形成研發成果，若能以政府的資源協助產品開發的過程，應可強化新創產業既有的研發基礎。 提供新創產業稅務上的支持，不僅可以直接補助新創業者的方式，亦可藉由鼓勵新創業者接受輔導，加速達成科技發展的目標。此可觀察美國《紐約洲商業孵化器與新創熱點支持法案》，[14]受孵化器輔導的新創公司，在個人所得稅、銷售與使用稅務、公司特許經營權的稅務上，具有利益。另，中國大陸對於重點發展的產業和專案，亦設有減稅、免稅等規定，[15]以提升科技發展。稅務上的優惠，已不再限於研發，而擴大及於「整體研發的過程」。 綜上所論，台灣政府為推動新創產業的發展，提供稅務上的優惠，以提升研發成果市場競爭力。若為加速科學研究的效率，或可參考美國、中國大陸以孵化器協助新創公司達成研發目標，制訂稅務優惠規範與接受輔導的要件等。 [1] 本條例第23條。 [2] 本條例第24條。 [3] 本條例第25條。 [4] 科學園區保稅業務管理辦法。 [5] 如中小企業發展條例、產業創新條例、生技新藥產業發展條例。 [6] 產業創新條例第10條。 [7] 產業創新條例第10條之1。 [8] 產業創新條例第12條之1。 [9] 產業創新條例第12條之2。 [10] 產業創新條例第19條之1。 [11] 產業創新條例第23條之1、第23條之2、第23條之3。 [12] 生技新藥產業發展條例第5條、第6條、第7條。 [13] 中小企業發展條例第4章：第33條至第36條之3。 [14] New York State Department of Taxation and Finance Taxpayer Guidance Division, New York State Business Incubator and Innovation Hot Spot Support Act, Technical Memorandum TSB-M-14(1)C, (1)I, (2)S, at 1-6 (March 7, 2014), URL:http://www.wnyincubators.com/content/Innovation%20Hot%20Spot%20Technical%20Memorandum.pdf (last visited：December 18, 2019). [15] 《中華人民共和國企業所得稅法》第4章「稅收優惠」：第25條至第36條(2008年修正)。
從知名社群網路服務平台Twitter商標的更名看「品牌商標管理」2023年7月知名社群網路服務平台Twitter基於品牌多角化經營考量（意圖進軍線上金融服務領域），Twitter執行長伊隆·馬斯克（Elon Musk）突然宣布全面變更品牌商標，經典「藍色小鳥」的商標標識改為黑白配色的「X」圖案（以下將該案例稱為「Twitter案」）。 實務上，企業可能於多種情況進行品牌商標之變更，例如：諾基亞（Nokia）因為希望向消費者表明其從手機公司轉型為商業科技公司的決心，故更換新商標，可見Twitter案的更名在科技業並不少見。重點在於品牌商標更名後，可能在商標法方面產生的風險。商標為指示品牌商品與服務來源的重要識別標識，在Twitter案中使用單一英文字母「X」作為新商標，在商標法上，一般被認為識別性較低，較難取得商標權，且其保護範圍可能也因此限縮於設計過的「黑白X標識」；其次，X作為一個常用的英文單字，較易產生與他人商標近似之風險，例如：微軟（Microsoft）公司2003年註冊與其遊戲系統Xbox通訊有關的X商標，或Meta公司自2019年起擁有藍白色彩的X字母商標，且註冊商標指定範圍也是社群媒體、軟體等。 為降低前述品牌商標爭議問題，建議企業由品牌標識設計、品牌全球拓展、品牌行銷宣傳三大階段，分別留意以下事項： 一、品牌標識設計階段：設計全新品牌標識或優化既有品牌標識前，事先評估品牌標識在商標法上是否具有識別性、是否與他人商標近似造成消費者混淆誤認等法定無法取得商標等風險，再決定是否維持原設計理念投入設計。如：Twitter案新商標X，除了透過品牌標識設計增加法律上的識別性，同時降低可能的侵權風險。 二、品牌全球拓展階段：如果預見可能侵權風險，則應加強爭議處理機制的建置，以利爭議發生時，及時採取因應措施。 三、品牌行銷宣傳階段：運用行銷手段加強品牌商標的「後天識別性」，如：透過投放廣告加強在消費者心中「黑白X標識」與品牌的連結等。 有關Twitter Inc.（現已併入X Corp.）的X品牌商標保護與布局策略，將會是後續值得關注的議題。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
英國資訊委員辦公室（ICO）發布企業自行檢視是否符合歐盟一般資料保護規則之12步驟英國作為歐洲金融重鎮，不論各行業均有蒐集、處理、利用歐盟會員國公民個人資料之可能，歐盟一般資料保護規則（General Data Protection Regulation，簡稱GDPR）作為歐盟資料保護之重要規則，英國企業初步應如何自我檢視組織內是否符合歐盟資料保護標準，英國資訊委員辦公室（Information Commissioner's Office, ICO）即扮演重要推手與協助角色。 英國ICO於2017年4月發布企業自行檢視是否符合GDPR之12步驟（Preparing for the General Data Protection Regulation（GDPR）-12 steps to take now），可供了解GDPR的輪廓與思考未來應如何因應： 認知（Awareness）：認知GDPR帶來的改變，與未來將發生的問題與風險。 盤點資料種類（Information you hold）：盤點目前持有個人資料，了解資料來源與傳輸流向，保留處理資料的紀錄。 檢視外部隱私政策（Communicating privacy information）：重新檢視當前公告外部隱私政策，並及時對GDPR的施行擬定因應計畫。 當事人權利（Individuals'rights）：檢視資料處理流程，確保已涵蓋GDPR賦予當事人如：告知權、接近權、更正權、刪除權、製給複本權、停止處理權、不受自動決策影響等相關權利。 處理客戶取得資料請求（Subject access requests）：GDPR規定不能因為客戶提出取得資料請求而向其收費；限期於1個月內回覆客戶的請求；可對明顯無理或過度的請求加以拒絕或收費；如拒絕客戶請求則限期於1個月內須向其說明理由與救濟途徑等。 處理個人資料須立於合法理由（Lawful basis for processing personal data）：可利用文書記錄與更新隱私聲明說明處理個人資料之合法理由。 當事人同意（Consent）：重新檢視初時如何查找、紀錄與管理取得個人資料的同意，思考流程是否需要做出任何改變，如無法符合GDPR規定之標準，則須重新取得當事人同意。 未成年人（Children）保護：思考是否需要制定年齡驗證措施；對於未成年人保護，考慮資料處理活動是否需取得其父母或監護人的同意。 資料外洩（Data breaches）：有關資料外洩的偵測、報告與調查，確保已制定適當處理流程。 資料保護設計與影響評估（Data Protection by Design and Data Protection Impact Assessments）：GDPR使資料保護設計與影響評估明文化。 資料保護專責人員（Data Protection Officers）：須指定資料保護專責人員，並思考該專責人員於組織中的角色與定位。 跨境傳輸（International）：如執行業務需跨越數個歐盟會員國境域，企業則須衡量資料監管機關為何。