用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日本智慧財產推進計畫2015分析（下） 資策會科技法律研究所 法律研究員 蘇彥彰 104年10月28日 日本智慧財產戰略本部於今年6月19日所公布的「智慧財產推進計畫2015」[1]，係以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨，並以少子高齡化與地方經濟衰退、智財糾紛處理機制的使用狀況和便利性、以及內容產業海外拓展的潛力及對智財戰略之重要性為背景，提出三項核心議題並分別剖析其現狀課題及主管部會應努力之方向，本文以下針對第三項議題「推動內容產業及週邊產業整體性的海外拓展」介紹如下： 三、推動內容產業及週邊產業整體性的海外拓展 （一）現狀與課題 動畫、漫畫、電影、音樂、遊戲、電視節目等內容產業的海外發展，不僅可以增加內容產業本身的海外銷售數字，同時可以藉由吸引更多日本內容產業迷群（ファン），活用內容產業所形塑之整體風格及日本國家形象，透過拓展其他各類業種的海外市場並提升訪日觀光客的數量等，期待內容產業帶動經濟及文化間的相乘效果。然而今年度推進計畫中亦指出，目前日本的內容產品海外銷售市場規模並未十分穩固，即使是與日本文化、經濟關係較深厚的亞洲諸國，除了動漫畫等部分領域外，市場調查的結果都落於歐美、韓國之後。 遊戲產業方面，雖然和其他日本內容產業相比有較大的海外市場規模，但以全球高達數兆日幣的遊戲市場而言，仍然持續面臨中國、美國等之激烈競爭，市場地位尚未見穩固；從另一個角度觀察，日本國內內容產業規模雖然近年來未見成長，仍具備每年12兆日幣的水準[2]，相比之下目前日本內容產業的海外收入及輸出額均屬微小，應可認為尚有充分的成長空間。 （二）今後施政方向 日本智財戰略本部為求能使內容產業（特別是影視產業）更進一步打入海外市場，提高影響力並帶動周邊產業及觀光人數之提升，提出以下施策方向供主管部會遵循； 1、「配合海外當地市場喜好進行內容產品的製作」：與當地的文化、需求結合，製作使海外市場容易接受的數位內容，例如與熟知當地需求的在地電視台等進行合作，從製作階段就先行瞭解海外市場的視聽型態與動向，而對於目前已既存的電視、電影、音樂、動畫、遊戲等內容產品，則持續透過翻譯、配音、字幕製作等方式進行在地化，針對電視節目於海外其他國家播送所牽涉到的相關法律上權利處理，也需要提出更加迅速而有效率的對應作法； 2、「內容產業海外市場的持續拓展」：由於各地海外市場與日本間的物價差別，內容產品若透過單純的銷售方式不易取得滿意的銷售成績，有必要持續與熟知當地宣傳模式的業者建立合作關係，透過廣電頻道和現場活動的辦理，持續進行市場的拓展並增加曝光度； 3、「內容產業與相關產業間的合作」：目前透過J-LOP（「ジャパン・コンテンツ ローカライズ＆プロモーション支援助成金」）[3]支援辦理的海外市場宣傳活動多為單次性而缺乏整體規劃，必須透過各同類、異類產業間的合作，提出能吸引更高注目度的宣傳手法並促成彼此間的相乘效果。 （三）小結 近年來文化創意產業的成長力受到各界廣泛的矚目，而為開拓文創市場商機，政府除陸續舉辦國際級文創產業博覽會外，並且協助業者參與各種國際型會展活動以進行國際拓展，包括「文化創意產業國際拓展計畫」及「國際及兩岸文化創意產業組織搭橋計畫」等，均有效深化與國際通路間合作關係，後續採購金額均達數億元[4]。 然而若從內外銷角度來看，我國文化創意產業營業額主要仍來自於內銷收入，以2013年為例，內銷收入占總營業額的90.8%，較2012年增加1.16%，近六年之內銷收入更持續呈現擴大趨勢，2013年之成長率達4.14%[5]，顯見我國文創產業仍高度偏重內銷，外銷市場不僅嚴重偏低且呈下滑走勢。 我國文創產業政府及民間業者多年努力下雖已逐漸成熟茁壯，但眼前仍需主管機關在產業發展上提出相關獎勵措施和補助辦法，掃除不利文創出口外銷的障礙，並協助業者大力開拓海外市場以改變目前高度仰賴內銷市場之情況。就此，前揭日本智財推進計畫中所提出現況檢討和施政方針作法，應可作為我國之借鏡和參考。 四、結語 日本自2003年7月由「智慧財產戰略本部」[6]發布第一份「關於智慧財產創造、保護、活用推進計畫」[7]後，每年均依智慧財產基本法第23條[8]之規定就計畫內容進行檢討與更新，而今年度的「智慧財產推進計畫2015」除仍以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨外，日本內閣總理大臣安倍晉三並於今年4月14日主持智慧財產戰略本部會議時明確指出[9]，包括各先進國及新興國家在內，就智財領域的競爭正日漸增強，日本為強化國際競爭力，有必要持續進行智財戰略構策，將日本高度的技術實力和豐富的文化資產進行結合以開創新的商業契機。 我國行政院於2012年核定通過「智財戰略綱領」[10]，期望透過經濟部、文化部、農委會及科技部規劃與推動六項行動計畫，積極引領產學研各界提升智財創造的品質，其中「戰略重點2：強化文化內容利用」項下「強化流通運用及防止非法利用」、「戰略重點4：活化流通學界智財」項下「提高學界成果產業化環境」及「戰略重點5：落實智財流通及保護體制」項下「強化智財訴訟支援與因應能力」、「佈建具多元彈性及戰略性的智財營運組織」等宗旨及內容，均與前述日本之「推動地方智財的活用」、「活化智財紛爭處理機制」、「推動內容產業及週邊產業整體性的海外拓展」三項核心議題相仿，其規劃方向和政策內容可供主管機關分析研究之。 [1] 〈知的財産推進計画2015〉，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku20150619.pdf（最後瀏覽日：2015/08/14） [2] 経済産業省，〈コンテンツ産業の現状と今後の発展の方向性〉，頁2（2015）http://www.meti.go.jp/policy/mono_info_service/contents/downloadfiles/1507shokanjiko.pdf（最後瀏覽日：2015/10/16） [3] 全名為「日本內容產業在地化和行銷協力輔導金」，總額約155億日幣，申請期間自2013年3月19日起自2015年2月28日止，是日本為求內容產業的海外拓展，針對「在地化」和「行銷」進行協助，透過對海外傳播日本內容產品提供輔導，以創造「哈日風潮」、促進觀光並擴大相關產業的海外市場為目的的輔導金，詳情可參http://j-lop.jp/about/（最後瀏覽日：2015/08/13） [4] 文化部，〈2014臺灣文化創意產業發展年報〉，頁30（2014）。 [5] 同前註，頁17。 [6] 日本「知的財産戦略本部」網站，http://www.kantei.go.jp/jp/singi/titeki2/（最後瀏覽日：2015/08/14）。 [7] 《知的財産の創造、保護及び活用に関する推進計画》，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/kettei/030708f.html（最後瀏覽日：2015/08/14）。 [8] 知的財産基本法（平成十四年十二月四日法律第百二十二号）第二十三条：「知的財産戦略本部は、この章の定めるところにより、知的財産の創造、保護及び活用に関する推進計画（以下「推進計画」という。）を作成しなければならない。……」 [9] 〈安倍総理の御発言（知的財産戦略本部）【平成27年4月1 4日】〉，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2015/dai11/sankou1.pdf（最後瀏覽日：2015/10/28） [10] 〈智財戰略綱領〉，經濟部技術處，https://www.moea.gov.tw/MNS/doit/content/Content.aspx?menu_id=13453（最後瀏覽日：2015/10/29）
美國「國家製造創新網絡智慧財產指南」美國之「國家製造創新網絡智慧財產指南」(Guidance on Intellectual Property: National Network for Manufacturing Innovation) 係由先進製造國家計畫辦公室（Advanced Manufacturing National Program Office, AMNPO）於2015年3月公布。本指南係就智財策略之擬定，向製造創新之機構提供相關原則與彈性的框架，並同時釐清關鍵之智慧財產權利。此所稱之製造創新機構，係指2014年復甦美國製造與創新法(Revitalize American Manufacturing and Innovation (RAMI) Act of 2014)第34條(c)項所界定之機構，亦即為因應先進製造相關挑戰並協助製造業保持與擴展工業產品與就業機會之公私合營機構。 「國家製造創新網絡智慧財產指南」大別為9類共14項原則：(1)機構層級之智慧財產管理；(2)專案層級之智慧財產管理；(3)智慧財產所有權；(4)機構研發之智慧財產(Institute-Developed Intellectual Property, IDIP)權利；(5)非機構研發之智慧財產權利；(6)基礎智慧財產；(7)資料權利與管理；(8)出版權；(9)政府權利。以資料權利與管理為例，該類之下的第一項原則要求機構應研擬符合出口管制法規之資料計畫，並在計畫中界定與區分機構內部資料之類型，以及為維持機密性與網路安全所需之資料近用與管控。 我國於2015年9月公布「行政院生產力4.0發展方案」，發展方案於「掌握關鍵技術自主能力」之主策略下，由經濟部技術處主政推動成立「台灣生產力4.0研發夥伴聯盟(Taiwan Productivity 4.0 Partnership)」，透過政府民間之合作提升關鍵技術自主能力的同時，智慧財產權利相關配套措施自屬重要。
美國尋求ITC調查營業秘密盜用案件逐年增加近年來透過美國國際貿易委員會（International Trade Commission，簡稱ITC）調查營業秘密盜用的案件逐年增加，從2018 年僅有2件到2021年已增加至9件，此現象可能與疫情期間大量員工離職流動有關，預期2022年會有更多員工流動的情況，也將使企業面臨更大的營業秘密盜用風險。 雖然過往熟知ITC是專利糾紛的戰場，但ITC對於構成營業秘密盜用的「不公平行為」也有管轄權。尋求ITC營業秘密盜用調查和傳統聯邦或州法院訴訟相比的好處包括：(1) ITC可管轄在發生在美國以外的營業秘密盜用行為、(2) ITC調查時間短，平均在15-18個月會做出處置、(3) 向ITC尋求救濟時間未有限制，聯邦或州法院則會要求在發現或應該發現營業秘密盜用行為起3-5年內應提出。 若ITC對於營業秘密盜用調查成立，請求人可取得排除令（exclusion order）禁止因盜用營業秘密產生的商品進入美國，也可取得制止令（cease-and-desist order）停止已在美國的被訴產品銷售。雖然ITC不能提供金錢賠償，但企業可同時向聯邦或州法院提出訴訟請求金錢賠償，且與專利案件不同，ITC關於營業秘密調查的勝利對於尋求金錢賠償的地方法院訴訟具有排他性影響（preclusive effect）。 因此，當面臨營業秘密盜用者不在美國或需要在短時間取得調查結果的情況，尋求ITC營業秘密盜用調查對企業會是有利的做法。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
協助中小企業因應國際綠色產品輔導措施自 92 年歐盟公告「廢電機及電子設備指令」（ WEEE ）及「電機及電子設備使用某些危害物質限制指令」（ RoHS ）以來，國際大廠紛紛制訂各種綠色採購標準以要求供應鏈體系符合無毒性、可回收及省能源的目標。回顧 94 年台灣電機電子產品輸歐出口值為新台幣 2,334.27 億元，影響廠商家數為 31189 家，因此這兩項指令執行之後，對台灣產業的衝擊影響甚鉅。 為協助國內中小企業因應歐盟 RoHS 指令之執行，經濟部中小企業處自 93 年起即已開始進行相關輔導工作，解決中小企業在面對綠色採購要求所遭遇之問題，如：法規環境、客戶要求、管理制度、人力資源等，藉由綠色供應鏈輔導，提升中小企業對綠色產品的認知，塑造優質而有效率的綠色供應鏈環境，以強化中小企業綠色競爭力。 隨著歐盟指令的推行已逐漸從資訊產品等 3C 大廠擴散到小型家電、玩具運動器材及電動工具等中小型企業規模，因此經濟部中小企業處將持續辦理輔導中小企業進入綠色材料與供應鏈體系，以及清查限用物質診斷、成立網路顧問團提供諮詢、綠色材料及供應鏈人才培訓、建立綠色供應鏈稽核訓練系統、示範觀摩及成果擴散等工作。 綠色產品趨勢已是不可擋的潮流，隨著今年 7 月 1 日 RoHS 指令的執行，及後續 EuP 、 REACH 、 … 等一連串綠色指令法規要求，對我國企業是一波波嚴酷的挑戰，需要政府投入更多的資源，繼續協助企業符合客戶綠色採購要求，將環保貿易障礙轉換成企業發展的新契機，開發拓展綠色產品的商機，以提升我國企業之綠色競爭力。