用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
經過深入的調查後，歐盟執委會以違反歐洲聯盟運作條例(TFEU)第102條之禁止濫用獨占地位課處斯洛伐克電信(Slovak Telekom a.s.)及其母公司德意志電信(Deutsche Telekom AG)總計38,838,000歐元之罰金。 斯洛伐克電信以超過五年之濫用獨占地位之策略，阻擋其他來自斯洛伐克市場之競爭者提供寬頻服務，因而違反歐盟反托拉斯法。尤其，執委會認為其拒絕提供開放之用戶迴路(unbundled access to its local loops)予其競爭者，因而導致其他經營者之利潤擠壓。其母公司德意志電信對於其子公司之行為有責；因此，應連帶負擔斯洛伐克電信之罰款。此外，德意志電信於2003年已經因為在德國寬頻市場的利潤擠壓而被罰款，該公司亦被課處額外之罰款共31,070,000歐元，以確保嚇阻及制裁其反覆的濫用行為。 2005年8月，斯洛伐克電信公布在某些條件下，允許其他經營者使用其開放用戶迴路(ULL)。此外，斯洛伐克電信亦不正當地阻擋用戶迴路開放的必要網路資訊；單方面地減少規範中所要求其開放迴路之義務的範圍，以及，在每一個取得開放用戶迴路所需之步驟上，設定不公平的條款和條件(例如搭配、資格、和銀行擔保)。因而延後或阻止其他經營者進入斯洛伐克零售寬頻服務市場。 此外，當其他競爭者以斯洛伐克電信訂定之零售價格販賣寬頻服務予零售消費者時，將產生利潤擠壓而導致虧損；在此種情況下，其他經營者將無法進入斯洛伐克市場。
歐盟研究：應重視改善基因改造產品管理規範的區域性差異基因改造作物的商業化普遍在各地受到管理規範，如今全球即將步入上市階段的基因改造作物與日俱增，相反地在歐洲地區相關核准作業程序卻遲滯緩慢。這主要起因於各國家地區對於基因改造產品所採取管理方式與法律規範各有不同，相關產品的安全評估標準及法律審查程序也有所差異，因此目前基因改造作物產品雖然在同一時間內申請上市核准，之後仍難以取得全球各國家地區之核准。 今(2009)年7月，歐盟所屬之研究單位Joint Research Centre(JRC)指出基因改造作物產品的非同期性核准(asynchronous approval)將為全球農業市場交易帶來相關一連串的問題。根據JRC研究，某些國家地區如歐盟，採取全面禁止基因改造作物(“zero-tolerance policy”)，立法禁止核准基因改造作物以進口商品之名義輸入，即便某些基因改造作物已在本國境內允許種植並且將其歸類為安全，但任何含有上述微量基因改造作物成分之農產品，也同樣遭歐盟禁止輸入，歐盟全面禁止基因改造作物產品之作法形同架設了一道產品交易的禁令。以過往經驗為例，因歐盟全面禁止基因改造作物之管理方式，已導致產品無法輸入，大幅影響該地區的動物飼料。 隨著全球基因改造作物種植面積及商業使用量增加的發展趨勢，未來恐將難以在全球市場中取得毫無添加基因改造作物的產品，尤其當這些基因改造作物是允許在其他國家境內種植，但卻未獲歐盟批准者。因此，相對於未添加基因改造作物產品之價格將因此上揚，而仰賴動物飼料進口輸入的歐盟則應多加關切此事。 為能降低含有微量基因改造作物商品所帶來的衝擊，JRC歸納「全球基因改造作物商業化流程研討會」中專家學者之意見，建議歐盟宜再次考量全面禁止政策之必要，或改以容許低含量基因改造作物產品之上市標準予以取代；其他建議則包括簡化核准程序，設立各國互相認可的基因改造作物風險評估方法，以及彈性落實國際食品標準委員會相關之規定，以期能減少日後基因改造作物產品非同期性核准之影響。
從無形資本於全球價值鏈中角色談智慧財產權對經濟之影響從無形資本於全球價值鏈中角色談智慧財產權對經濟之影響 資訊工業策進會科技法律研究所 法律研究員 許椀婷 107年03月01日 壹、背景說明 現代訊息和通訊、運輸等科技技術的發達，以及各國為促進經濟發展採取之自由貿易政策興盛，使進行國際貿易的成本下降，導致分散多地點生產的成本效益提升，促成全球價值鏈之興起，我國出口以臺灣接單、海外生產之模式，即為全球價值鏈之實踐。全球價值鏈是為實現商品或服務價值，而連結生產、銷售等過程的全球性跨企業網絡，涉及從最初的原料採購和運輸、半成品及成品的生產和分銷、直至最終到消費端和回收處理的整個過程。全球化下各產品供應鏈或全球價值鏈的每一個階段，都涵蓋越來越多無形資本的投入，所謂無形資本為無法觸及的東西，包括外觀、感覺、功能和產品的吸引力等等，對市場的成功與否產生影響。世界智慧財產權組織（World Intellectual Property Organization, WIPO）2017年11月WIPO發布的世界智慧財產權報告（World Intellectual Property Report, WIPR），首次針對無形資本創造的價值進行評估，報告顯示於世界各地流通銷售的產品中，近三分之一來自於無形資本，如品牌、設計和技術[1]，因為智財經常用於保護無形資本，連帶展現智財作用影響力的擴大。藉由觀察報告可了解智慧財產權在無形資本創造附加價值中所扮演的角色，及對於這些資本的回報。 貳、無形資本於全球價值鏈中之角色 1992年宏碁電腦董事長施振榮提出產業發展策略：微笑曲線(smile curve)概念，將企業透過營運產生附加價值之過程分為左、中、右三段，左段為技術、專利，中段為組裝、製造，右段為品牌、服務，曲線看起來像微笑符號是因為中段位置附加價值較低，而在左右兩段附加價值較高，意即要增加企業附加價值，需要發展提升左右端幅度。[2]1970年到2017年全球價值鏈下附加價值之變動，左右二階段的幅度有顯著提升，反映技術、設計、品牌價值、技能和管理知識，也就是無形資本，在動態競爭市場中變得至關重要。[3]企業需不斷對無形資本進行投資，以保持領先。報告區分無形資本為知識型：技術、設計及管理相關訣竅，以及聲譽型：品牌、形象。知識型資本在國際間流動時受各種智慧財產權影響，如專利、工業設計、著作權和營業秘密等。[4]而聲譽型資本是企業於市場成功與否的關鍵，影響產品在全球價價值鏈的分佈。據統計，2000年到2014年無形資本平均占全球製造銷售的所有產品總值的30.4％，[5]等同於消費者所購買之產品有近三分之一的價值由品牌、外觀設計和技術等無形資本所創造。 參、無形資本之智慧財產權的價值創造 WIPO之WIPR報告指出，全球與跨境智慧財產權交易相關的利潤轉移可達約每年1,200億美元。[6]利潤轉移模式一般而言主要於高稅率國家企業發展、提升、維護和保護之智財，往低稅率國家關係企業進行銷售，可藉以在仍保智財持有的情況下，縮減風險，並能再對其他高稅率國家企業進行授權來獲利；如在美國，研發密集型企業傾向於藉由外國子公司流通無形資本，達減稅方面作用。[7]為獲得上述利益，企業對智慧財產權的投資與管理重要性顯而易見。在WIPR報告中對於太陽能光電系統案例分析中，展現有效規劃管理智慧財產權所創造的商業效益之成功案例，中國藉由收購技術、專業人力取得競爭優勢，並以商標增加產品區隔，成就品牌價值，使最初進行光電系統研發的高收入國家在已不受專利保護下，技術漸轉移到新興經濟體，最終受到取代。該案例除充分顯示積極購買、延續智財長期下的效益，亦強調對於製造技術初始的智財防護及維護之重要性。[8] 肆、結論 綜上述，無形資本於全球價值鏈中重要性的提升，連帶智慧財產權對全球經濟產生影響，不僅是智慧財產權流動時所創造的金流，授權時促成的收購及合資等合作關係、技術人員流動進而擴散移轉智慧財產權，都牽動著全球經濟的變化。因仰賴進口及出口競爭力弱化，我國於全球價值鏈體系參與度減少，製造業使用進口原物料比重高，國內產出附加價值相對小。國內產業偏向使用壓縮成本的生產策略，導致實質GDP雖然成長，生產品價格GDP平減指數卻是下降的。[9]要提升國內產出附加價值，我國政府應重視促進對無型資本投資意願之相關措施，涵蓋對於智慧財產權之掌握與管控，以利產出附加價值之提升。智慧財產權對企業無形資產的影響包括使企業長保領先優勢、產生超額利潤、避免受競爭對手模仿等等，藉以發展企業核心競爭力。企業對智慧財產權的管理及運用模式，決定企業發展核心競爭力的成本以及風險。為促使產業能了解智慧財產權的價值所在，進而提升投資無形資本意願，需以政府公共政策之力量導引企業對智慧財產權的運用和管理，據此帶動企業智慧財產權增值。如可以銀行等金融機構為先導示範，開展智慧財產權領域相關的貸款投資，擴增企業對智慧財產權之運用模式。並配合產業發展政策調整智慧財產權申請、利用、管理等相關法制配套，如此一來，便能有效協助降低智慧財產權的管理成本，增進生產利潤。 [1] WORLD INTELLECTUAL PROPERTY ORGANIZATION, WORLD INTELLECTUAL PROPERTY REPORT 2017 – INTANGIBLE CAPITAL IN GLOBAL VALUE CHAINS 11 (2017). [2]施振榮、林文玲，《再造宏碁：開創、成長與挑戰》，天下文化，第二版，頁286（2004）。 [3] WORLD INTELLECTUAL PROPERTY ORGANIZATION WORLD INTELLECTUAL PROPERTY REPORT 2017 – INTANGIBLE CAPITAL IN GLOBAL VALUE CHAINS 10 (2017). [4] WORLD INTELLECTUAL PROPERTY ORGANIZATION [WIPO], World Intellectual Property Report 2017-Intangible Capital in Global Value Chains (2017), at 30-31, http://www.wipo.int/edocs/pubdocs/en/wipo_pub_944_2017.pdf (last visited Dec. 15, 2017) [5] WORLD INTELLECTUAL PROPERTY ORGANIZATION [WIPO], World Intellectual Property Report 2017-Intangible Capital in Global Value Chains (2017), at 11, http://www.wipo.int/edocs/pubdocs/en/wipo_pub_944_2017.pdf (last visited Dec. 15, 2017) [6] WORLD INTELLECTUAL PROPERTY ORGANIZATION [WIPO], World Intellectual Property Report 2017-Intangible Capital in Global Value Chains (2017), at 32, http://www.wipo.int/edocs/pubdocs/en/wipo_pub_944_2017.pdf (last visited Dec. 15, 2017) [7] Id. [8] WORLD INTELLECTUAL PROPERTY ORGANIZATION [WIPO], World Intellectual Property Report 2017-Intangible Capital in Global Value Chains (2017), at 71-90, http://www.wipo.int/edocs/pubdocs/en/wipo_pub_944_2017.pdf (last visited Dec. 15, 2017) [9]林依伶、楊子霆，〈經濟成長、薪資停滯？初探台灣實質薪資與勞動生產力成長脫勾之成因〉（2017）。
英國競爭與市場管理局將有條件核准Vodafone與Three UK 的合併.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 英國兩家電信業者Vodafone與Three UK（下合稱「合併方」）於2023年6月宣布將以合資的方式合併，英國競爭與市場管理局（Competition and Markets Authority, CMA）於2024年12月5日就本案提出最終審查報告，決議將有條件核准合併。 合併方於審查過程中承諾在8年內於全國各地建設各頻段基站，確保行動網路涵蓋範圍、容量和速度的顯著提升並迅速布建5G，目標在2030年讓全英國的學校與醫院都能使用獨立組網（不依賴4G網路）的5G服務（5G SA）。同時其與另一家電信業者VMO2的網路共享協議中，亦提出若合併案通過後，在未來10年將額外投資110億英鎊於網路建設，並將出售部份頻率資源予VMO2。 CMA 認為本案對市場競爭及消費者權益確實可能造成諸如資費上漲或服務條件降低等負面影響，但考量合併方如能履行其網路建設計畫提案及網路共享協議，長期而言能夠顯著提高英國的行動網路品質，能促進市場的有效競爭並最終使消費者受益，合併方亦承諾於三年內對消費者保留某些既有的資費方案，以及對行動虛擬網路業者（Mobile Virtual Network Operator, MVNO）履行預先約定的價格與服務條款，以消除短期內潛在的負面影響。 後續CMA將與合併方及利益相關方協商並召開公開諮詢以確定具法律效力之承諾細節，相關建設承諾亦將由英國通訊管理局（Office of Communications, Ofcom）納為合併方頻率執照之附帶條件，未來將由CMA與Ofcom共同監督承諾之履行，CMA可對未履行承諾之行為裁罰，而Ofcom最重則可撤銷頻率執照。