用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
在中國大陸委託生產時應注意的智財風險 科技法律研究所 法律研究員 林中鶴 2015年03月31日 壹、前言 中國大陸向來有世界工廠之稱，即使在人事成本升高的今日，仍舊如此。台商為節省人事、物流成本，或就近服務市場等考量，常會委託中國大陸工廠進行生產以求增加獲利。然而，就在這樣的決策當中蘊藏一些台商必須事前注意的智財風險，稍一不慎，就有可能導致台商不可回復的重大損失。尤其，高科技產業是我國產業的重要命脈，流失關鍵技術，更是不可想像的惡夢。 貳、重點說明 一、台商中國大陸不可忽視智財風險 台灣科技大廠聯電在2014年10月宣布決定設立台資在中國大陸第一個12吋晶圓廠，台聯立委立即群起反對，擔心倘若草率西進，製程遭中國大陸廠商模仿、學習，將喪失我國晶圓的代工優勢[1]。類似的疑慮也出現在傳統產業，台灣菸酒公司為了能夠就近服務消費市場，在2010年也決定在中國大陸設立代工廠[2]，委由中國大陸代工，同樣也引發台灣啤酒配方與製程技術可能外流的輿論質疑。對於台商在中國大陸可能遭遇的技術外流疑慮，顯然不是空穴來風。 事實上，中國大陸產業發展，相當仰賴對於國外先進技術的學習與奪取，及知名品牌內容的仿冒與抄襲，各種各樣智慧財產權侵害的新聞不絕如縷，就連國際大廠也早就深受其害。蘋果iPhone 6 在未開賣前，網路上就已經出現披著iPhone 6外衣使用Android核心的山寨機[3]。同時間在中國大陸身為iPhone 6最大組裝廠的富士康，也傳出了有員工因竊取iPhone 6外殼轉賣獲利遭逮捕的消息[4]。由此可見，對於台商來說，委託中國大陸代工，除了技術外流風險之外，也一併伴隨著出現高水準仿冒品的風險。 二、委託中國大陸工廠生產時應注意的智財風險 台商為節省人事、物流成本，或為能就近服務市場，委託中國大陸台商製造產品是個常見的選擇。為了使代工的台商能夠生產符合所需的產品，台商往往除委託代工廠的生產外，必須提供代工廠商產品的精確規格、詳細的製程技術與商標或專利的使用權利，也因此面臨了下述可能的風險： (一) 法規遵循的風險 在委託代工過程中，台商經常也需要提供中國大陸的代工廠必要的製程技術、專利授權或技術指導等跨越國境的技術轉移，因此也涉及到中國大陸官方透過《技術進出口管理條例》對於技術進出口所採行的管制，或透過《專利法》、《專利法實施細則》及《最高人民法院關於審理技術合同糾紛案件適用法律若干問題的解釋》等對於技術轉讓所採取的管制。 由於中國大陸為技術發展中的國家，急欲吸收國外先進技術，因此在技術轉移[5]的管理上，著重在於對於技術受轉移方的保護。一方面禁止技術提供方簽訂不利於技術受轉移方的不當限制競爭條款[6]，另方面要求技術提供方負起較重的保證義務[7]，必須保證其為技術的真正權利人、技術實施能達成約定的目標、技術實施不侵害第三人權利等事項。 除此之外，在涉及跨國技術移轉的場合，官方復依《技術進出口管理條例》將技術進行分級管理，除條例規定禁止進出口之技術不得進出口[8]、限制進出口之技術應先經許可[9]外，自由進出口之技術於契約簽訂後尚須向地方商務部門申請契約備案[10]。未能遵循管制法令，輕則影響轉讓或授權費用匯出中國大陸，重則可能導致技術移轉契約無效，嚴重影響商業合作。 (二) 技術外流的風險 在委託代工過程中，台商常需提供其專有技術、專利技術、製造設備或模具等技術資料，必要時還得提供技術的指導或支援，以確保代工廠商的產能與品質。優質產品的製造技術正是台商重要的競爭力來源，跨越國境的技術移轉不僅增加了技術管理的難度，面對中國大陸積極吸收先進技術的高度競爭環境，技術輸入中國大陸更是大幅提高了技術外流的風險。 從簽署代工委託契約之前或一開始，就存在技術外流的風險。台商在締約前後提供技術資料、技術指導或支援時，就常發生不經意提供超過必要或契約範圍外的技術資訊，這等同於台商將自家技術拱手讓人。即使是在必要或契約範圍內的技術資訊，也可能因為代工廠商及其主管、員工、供應商、承包商等有業務往來關係者的故意或疏失，導致技術外流，影響競爭優勢。除此之外，倘若代工廠商利用台商提供的技術進行了改良，依照《技術進出口管理條例》及《合同法》相關規定，在沒有契約約定下，改良成果即歸屬於改良方，這將嚴重影響到台商原應享有的技術權益。 換句話說，台商除了必須面對中國大陸企業因故意竊密行為，導致技術的違法取得外，還必須留意避免因為自己契約或管理上的疏失導致技術的合法外流。此外，在原有技術外，忽略法令或契約限制造成技術改良的成果歸屬受讓方，也是技術外流的重要風險來源。 (三) 仿冒氾濫的風險 中國大陸的代工廠商一方面為台商生產製造產品，貼上台商的品牌商標，就近服務中國大陸市場，或外銷歐美及日本市場；另方面中國大陸的代工廠商也透過代工的過程不斷學習成長，成為台商潛在的競爭對手。事實上這也是台商一路走過的代工產業歷史。然而，正是這一層的代工關係，使得這些代工廠商成為台商品牌產品潛在的、高度的仿冒風險來源。 在中國大陸各城市或電子商務平台上經常可以看到低價的國外品牌商品，其中有一類俗稱外貿原單或尾單的產品[11]，品質幾乎與正牌商品無異。事實上這些商品並不是品牌廠商合法授權製造、銷售的產品，而是代工廠商將原訂單中基於備份需求額外製造的產品、未通過品質檢驗的不良品或次級品，或在訂單以外利用剩餘原料、零件自行製造的產品。除此之外，倘若代工廠商不僅自行在訂單數量外額外生產產品，外流產品上還貼原廠品牌商標，在價格或品質方面可能影響原廠的市場行銷策略。 除代工過程中流出的原單或尾單外，在代工關係結束後，中國大陸的代工廠商也可能在未經合法授權的情況下繼續製造、銷售原廠的品牌產品。由於透過為台商生產製造產品，不僅提升了製程能力、獲取了技術經驗，同時也建置了足以隨時生產製造產品的模具、設備與廠房規模。除此之外，過程中也可能獲得關於原料、零件或組件之供應商來源等寶貴資訊。這類代工廠商一旦脫離代工關係，從事仿冒生產，更可能因為其品質接近正品，對企業品牌的價值及對外授權的管理將產生更大的衝擊。 參、事件評析 一、明確約定契約條款內容，減輕技轉法令不利影響 面對中國大陸涉外或國內技轉法令的管制，為避免因為未能遵循法令的問題，導致授權契約無效或資金流通受阻，影響企業在中國大陸的生產委託活動，在涉及技術移轉時，建議企業應該留意下述基本事項： 1.契約涉及授權時應明確界定授權型態為獨佔、排他或普通授權 (1)約定不明確時，依司法解釋[12]將視為普通授權 2.契約應充分考慮技轉法令中的保證義務與限制條款 (1)應明確界定因技術實施導致侵害第三人權利之情況 (2)應明確界定技術實施之條件與達成技術目標之標準 (3)應避免不合理的限制競爭條款[13]以免影響契約之效力 (4)大陸商務部取得許可 3.自由輸入之技術移轉契約應行備案並留意外匯所需手續[14] (1)應向地方商務部門提出必要文件取得技術進口合同登記證 (2)申請人憑技術進口合同登記證，辦理外匯、銀行、稅務、海關等相關手續。 二、設想技術外流的可能情境，運用契約與保密措施降低風險 面對委託代工過程中所涉惡意或無意的技術外流，及因技術改良產生的權利流失，節省中國大陸企業技術開發成本，影響我國企業面對中國大陸企業的優勢，建議企業應該留意下述基本事項： 1.事前應評估技術是否適合移轉、是否應先申請專利 (1)企業應評估技術移轉中國大陸是否可能影響核心競爭力 (2)企業應評估技術移轉中國大陸前是否應考慮申請專利保護 2.事前應調查委託生產之對象的生產能力與商業信用 3.應強化委託代工契約條款中關於營業秘密保護之規定與措施 (1)明確約定授權技術的機密範圍、保密義務與違約罰則 (2)要求代工廠商及其員工負保密義務，並採取保密措施(並視需要可約定禁止以反向工程破解取得技術秘密) (3)明確記錄技術資料交付之項目，利於契約結束後回收 (4)明確約定發生技術外流疑慮時，進入現場調查的機制 (5)明確約定各種契約解除及中止之事由，便於代工爭議的善後 (6)明確約定契約後之保密義務與相關回收及銷毀的義務 三、落實委外代工契約管理與稽核，防堵高品質仿冒品的外流 面對代工廠商未經原廠合法授權將備份品、不良品、次級品外流獲利，或利用代工取得之技術、經驗、設備、模具或原材料來源等經營資源自行生產高品質仿冒品，流入中國大陸或海外市場，影響產品的銷售與品牌權益，建議企業應留意下述基本事項： 1.應強化並監督落實契約條款中關於營業秘密保護之規定與措施(同前) 2.契約載明授權的稽核措施且應保存記錄以管控產量 (1)要求代工廠商應保留產品與商標生產數量之相關記錄 (2)要求代工廠商應定期報告，以利權利人掌握生產數量 (3)明確約定權利人閱覽記錄及到現場調查的權利與機制 3.出貨前應作品質檢驗，管控不良品、次級品的銷毀 現場派員監控不良品、次級品的銷毀，避免流出市面 4.契約解除或終止時管控資料、設備或產品等的生產/銷售、回收/銷毀 (1)要求代工廠商立即停止生產、銷售行為 (2)返還持有之技術資料及其影本 (3)廢棄權利人提供之模具或專門製造設備 (4)廢棄或返還使用技術或商標之成品、半成品與包裝材料及商標標籤等 四、小結 台商進前中國大陸，將生產的活動委外，合理配置經營資源，以提升企業的成本優勢。然而，台商在中國大陸的委託生產相對於自行生產或國內生產，面臨了更高的法令遵循風險、技術外流風險與仿冒氾濫風險，尤其是技術的外流，甚至有可能讓台商一擊斃命，流失國際市場的競爭力。因此，正視前進中國大陸的智財風險，在前人的經驗上作好風險預防與因應之道，才能保存住商場廝殺的重要本錢。 [1] 自由時報，〈聯電赴廈門投資 台聯：恐技術外流〉，2014/10/30，http://news.ltn.com.tw/news/politics/breakingnews/1144387（最後瀏覽日：2015/01/26） [2] 自由時報，〈台酒中國設廠 養虎貽患〉，2010/02/24，http://news.ltn.com.tw/news/politics/paper/375069（最後瀏覽日：2015/01/26） [3] 新科技，〈iPhone 6被山寨了！披苹果皮怀揣“安卓心”〉，2014/07/14，http://www.hnetn.com/article/article.asp?id=920671&bid=8561（最後瀏覽日：2015/01/26） [4] 蘋果日報，〈iPhone 6被山寨了！披苹果皮怀揣“安卓心”〉，2014/09/18，http://www.appledaily.com.tw/appledaily/article/finance/20140918/36091338/（最後瀏覽日：2015/03/04） [5] 就《技術進出口管制條例》所稱技術轉移來說，包括專利權轉讓、專利申請權轉讓、專利實施許可、技術秘密轉讓、技術服務和其他方式的技術轉移。原則上技術跨越國境移動之所有型態皆有適用之可能性。 [6] 參見《技術進出口管理條例》第29條、《合同法》第329條及《最高人民法院關於審理技術合同糾紛案件適用法律若干問題的解釋》第10條規定。 [7] 參見《技術進出口管理條例》第24、25條及《合同法》第341、349、353條規定。 [8] 參見《技術進出口管理條例》第9條及第32條。 [9] 參見《技術進出口管理條例》第10條及第33條。 [10] 參見《技術進出口管理條例》第17條及第39條。 [11] 原單主要係指原訂單中代工廠額外生產之產品或未通過品檢的不良品或次級品；尾單主要係指原訂單中代工廠利用剩餘原料、零件自行製造之產品。 [12] 參見《最高人民法院關於審理技術合同糾紛案件適用法律若干問題的解釋》第25條第2款之規定。 [13] 參見《中華人民共和國技術進出口管理條例》第29條及《中華人民共和國合同法》第329條之規定。 [14] 參見《中華人民共和國技術進出口管理條例》第18、20條規定。
澳洲發佈《直接行動計畫》以因應氣候變遷 歐洲新著作權指令 將影響互聯網環境下之著作使用2018年9月12日，歐洲議會通過歐盟委員會於2016年制定的「單一數位市場著作權指令」，其中包含最具爭議的兩項條款： 第11條是有關「鏈接稅」（link tax）的條款。針對使用或匯集新聞文章片段的網站，未來恐需向源頭出版之新聞業者支付授權費用。例如若Twitter推文中包含來自Guardian文章的螢幕或文字摘要截取，則Guardian可以要求Twitter支付授權費用。 第13條則是有關「上傳過濾器」（upload filter）或稱「Memes禁令」（meme ban）的條款。為加重網路平台服務業者防止上傳者侵害著作權的監控責任，要求如Google和Facebook等業者，須使用強制內容過濾的軟體以清除違規行為，且須建立快速刪除機制，避免侵害著作權。 該指令在歐洲議會通過後，將進入歐盟委員會、歐盟理事會和歐洲議會之間的非正式談判。這三個組織將決定最終版本，約2018年12月提交給歐盟法律事務委員會，最後於2019年1月再回到歐洲議會進行投票。 歐盟指令本身雖不是法律，如何解釋立法也將取決於各國，惟透過本次歐洲議會的結果，可預見未來在歐洲市場，對於著作權人的保護與使用者的行為，將朝權利衡平的方向作調整。
歐盟委員會發布NIS 2實施條例以定義資安重大事件.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 歐盟委員會於2024年10月17日通過了歐盟第2022/2555號《於歐盟實施高度共通程度之資安措施指令》（Directive (EU) 2022/2555 on measures for a high common level of cybersecurity across the Union，下稱NIS 2）的第一個實施條例（下稱「實施條例」）。NIS 2要求企業發生重大事件（Significant incident）後24小時內，應向會員國主管機關通報，依實施條例之規定，符合以下任一條件會被視為重大事件： 1. 造成超過50萬歐元或上一年度營業額5%以上的直接財務損失。 2. 造成商業機密洩漏。 3. 已造成或能造成自然人死亡。 4. 對自然人健康已造成或能造成大量傷害。 5. 疑似惡意且未經授權的存取網路和資訊系統造成嚴重運作中斷。 6. 反覆發生的事件。 7. 符合第5條至第14條特定資訊服務的事件。 實施條例主要在於補充上述條件的第6項及第7項。第6項規定於實施條例的第4條，定義「反覆發生」的要件，包含：(1)6個月內發生兩次；(2)有相同的根本原因；(3)大致符合超過50萬歐元或年營業額5%以上的直接財務損失。第7項則在實施條例的第5條至第14條列舉特定資訊服務提供者的重大事件條件，而其他資訊服務則包含DNS（domain name system）服務、TLD（top-level domain）網域註冊管理、雲端運算服務、資料中心服務、內容交換網路、託管服務、網路商城、搜尋引擎、社群網路服務、信託服務等，對於不同服務可能造成的影響各別列舉視為重大事件的條件。 歐盟委員會發布該實施條例確立何謂重大事件，並依歐盟考量資訊安全威脅所制定的NIS 2，將公共電子通訊網路或服務、會員國等進行連結，要求會員國設置資訊安全主管機關、危機管理機構、資訊安全聯絡點等義務，建立資訊安全通報機制，確保歐盟有整體的資訊安全戰略及框架，阻止潛在危機擴散。我國於2018年已制定《資通安全事件通報及應變辦法》並建立四級資通安全事件的標準，其標準以機敏或業務資訊遭洩漏對機密性的影響、資通系統遭竄改對完整性的影響，以及資通系統運作遭中斷對可用性的影響為依據，但並未對不同類型服務有制定更精細的定義。歐盟實施條例中有關重大事件之定義，可做為我國相關主管機關參考對象，研擬更準確的資通安全事件標準。