用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
從智慧財產法院104年度民暫抗字第7號民事裁定看營業秘密案件聲請定暫時狀態處分 資策會科技法律研究所 法律研究員 蔡怡萱 105年04月29日 壹、案件摘要 智慧財產法院於去（104）年10月2日針對新世紀光電對於103 年度民暫字第21號第一審裁定提起抗告，做出裁准暫時狀態處分之 104 年度民暫抗字第 7 號民事裁定，以下概述智慧財產法院於本案中所採取的法律判斷依據。 本案事實為李允立（下稱相對人）於102年離職後自行成立公司（下稱相對人公司），隨即新世紀光電（下稱抗告人）之關鍵研發團隊重要成員及各部門重要員工多名先後離職，部分至相對人公司任職。相對人公司現有經營方式為無廠半導體公司，專門研發及販售發光二極體磊晶圓及晶粒技術與產品規劃，透過租賃機台之方式製造相關產品，與抗告人業務相同。相對人為公司負責人，抗告人主張相對人不可避免的會使用抗告人公司的機密資訊及營業秘密，而造成抗告人重大損失，而抗告人為避免發生重大難以回復之損害，依營業秘密法第11條第1 項[1]、兩造間的服務契約書、民事訴訟法第538 條第1 項[2]、智慧財產案件審理法第22條第2 項[3]規定，聲請撤回原審裁定並定暫時狀態處分。 本案法院於此次裁定將原裁定廢棄，在兩造間侵害營業秘密爭議之本案訴訟判決確定前：（1）禁止相對人利用、發表或洩漏任職抗告人公司期間所知悉抗告人公司有關於LED 產品及製程相關之營業秘密及機密資訊，包括：非一般涉及該類資訊所知之一切製程、程式、專門技術、技術資料、經營資料、材料、設計、參數及配方、客戶明細、銷售資料等；（2）相對人不得為自己或第三人之利益，唆使或利誘抗告人員工離職。 貳、重點說明 一、營業秘密具體認定爭執及以定暫時狀態之處分為手段 綜合以上兩造爭執點在於，（1）在相對人離職後所持有於抗告人公司任職時所知悉的營業秘密及機密資訊的具體內容該如何認定，相對人爭執於離職時原公司並未明確界定，抗告人卻反駁確有保護營業秘密及機密資訊之說明。（2）透過兩造簽署之服務契約書，是否可以透過定暫時狀態處分為手段，達到確認或重申請求裁定禁止相對人唆使或利誘抗告人之員工離職。 二、定暫時狀態之處分需符合的要件 聲請定暫時狀態之處分需符合下列要件：（1）兩造有爭執之法律關係，且以本案訴訟能確定該爭執之法律關係者為限；以及（2）為防止聲請人發生重大損害或避免急迫危險或有其他相類之必要性情形。因此在符合法定要件的前提下，可以請求法院針對侵權爭議的本案訴訟判決確定前，禁止侵害人為特定行為 [4]。 另依本案法院的釋明，所謂爭執的法律關係，應不以法律關係已經訴訟繫屬為限，凡金錢請求以外，有繼續性且適於為民事訴訟之標的者，於事人間發生爭執或被侵害等情形，均屬之。更尤，所爭執之法律關係雖尚未有訴訟之繫屬，只要債權人因避免重大之損害或因其他情事，而有定暫時狀態之必要者，即得依聲請定暫時狀態之處分，故法院據以得心證的理由為下列幾項判斷依據。 三、法院判斷依據及裁定結果 （一）兩造有爭執之法律關係 以兩造間爭執的法律關係來說，抗告人因發現相對人離職後，有多位員工相繼離職到相對人所成立之公司任職，因此依與相對人任職時所簽署服務契約書中約定離職後的保密義務，向法院聲請禁止相對人不得利用或洩漏先前任職期間所取得公司的營業秘密，法院認為是抗告人就相對人離職後涉及有無違反上述服務契約書約定之保密義務與誘使抗告人員工離職爭議，為雙方所爭執之法律關係。 （二）營業秘密保全的必要性 抗告人就可能被相對人利用或洩漏之「營業秘密」所主張，雖然相對人堅稱該內容為業界習知技術，但抗告人提出細部結構設計及製程方式等資訊，經法院認定該等資訊有助於提升產品效率，而且可以減少不必要的錯誤實驗，抗告人也另外提出專利佈局及業務與生產資訊之相關報告及資料，因此法院認為該相關事證使法院大致心證認為其主張該等資訊為其所欲保護之營業秘密事實之存在，而認為為正當之心證。另外就兩造所簽訂的服務契約書中所稱「營業秘密是指具有財產利益或經濟價值的任何口頭及書面機密資訊（料），包括但不限於圖樣、規格、原型、製程..專門技術、客戶明細、晶片、及其他銷售資料..」，也足以證明相對人於原公司任職時已清楚知悉何謂營業秘密，也負有保守其營業秘密的義務。 另外相對人所設立之公司其股東及董事皆為抗告人的競爭對手，因此法院認為相對人於原任職期間所知悉上述的營業秘密，推認有可能揭露予他人，而此為抗告人所欲防止的危險，而有保全的必要性。 （四）相對人應遵守禁止挖角義務 針對相對人挖角抗告人員工使其離職，而抗告人依兩造的服務契約書中禁止挖角義務條款，請求禁止相對人為挖角行為，法院亦肯定相對人應遵守禁止挖角義務。抗告人公司其他員工於短期內相繼離職，法院雖認為離職為個人選擇，但皆於相對人離職後才相繼離職，且半年即有多人加入相對人所設立公司，故可推認多名離職員工與相對人有關，且為了避免再有員工從抗告人公司繼續離職加入相對人設立之公司，法院相信抗告人的主張大致可採，故就此部分亦准許抗告人請求禁止挖角行為。 （五）相對人應遵守不作為義務 定暫時狀態之處分，雖非以保全執行為主要目的，惟仍屬保全權利之方法，原係法院為防止發生重大損害或避免急迫危險或有其他相類之情形認有必要時，為平衡兩造間之權利義務或利益而為之裁定 [5]；又聲請為定暫時狀態之處分，不論係單純不作為處分，或容忍不作為處分，法院為裁定時，對於當事人雙方因准否處分所受利益及可能發生之損害，應依利益權衡原則予以審酌而為准駁 [6]。最後法院衡量抗告人與相對人的權益，營業秘密的洩漏將對抗告人產生損害，但禁止相對人洩漏營業秘密及不得挖角，僅是請求相對人遵守不作為義務而不致有損害，故不對抗告人命供擔保。 參、案件評析 一、由上述案件內容可知，透過具體管理機制所產出之事證可為法院判斷是否為營業秘密遭受侵害的正當之心證，如下述： (一)公司於離職員工任職時所簽訂的服務契約之詳盡程度，包括:於契約文件中定義營業秘密的具體範圍；於契約規範在任職中不得交付或洩漏於任何第三人；於契約規範離職後仍負有保密義務等。 (二)各紀錄文件應完整留存以作為日後法院裁判的事證依據，包括研發紀錄簿中實驗參數文之成敗紀錄或研發例行月會報告，或技術發展計畫等相關資料；專利佈局的規劃，業務與生產資訊（包括可知之銷貨成本、銷貨毛利、人事資料以及研發專案等資訊，他人即可從該等資訊得知銷售狀況）。 (三)制定相關管理辦法並予以區分文件機密等級及管控，如本案中抗告人提出「文件與資料管制辦法」及「門禁管理辦法」，供法院參考以證明抗告人對其生產、營運訊有採取保密措施。 由上述提出之事證就可以使法院大致相信所主張之資訊為其所欲保護的營業秘密，並得到大致為正當之心證。 二、如何判斷是否有挖角行為，法院除了以經驗法則及一般人可推知來判斷，雖然於何處任職是個人權利，但不尋常的大量員工於同時間或先後離職，甚至離職後都到同一家公司任職，很難不推認和挖角行為的直接關連；而法院也認為相對人縱使離職後也應該要遵守當時兩造的服務契約中禁止唆使或利誘他人離職。於現今一直苦於受到人才大量流失，甚至競爭對手惡性挖角的國內企業來說，於員工的任職契約約定禁止唆使或利誘挖角原公司員工，也不失為遏止的方法。 三、為了因應智慧財產權相較其他財產權市場上跟策略上的急迫性和時效性，在相較於其他智慧財產假處分案件而言，法院在此案中呈現出考量營業秘密保護相關案件具有緊急性及難以進一步舉證之特性，對於權利人應為釋明之程度較為放寬[7]，是否會形成通案慣例，值得追蹤觀察。 本文同步刊登於TIPS網站(http://www.tips.org.tw) [1]營業秘密受侵害時，被害人得請求排除之，有侵害之虞者，得請求防止之。 [2]於爭執之法律關係，為防止發生重大之損害或避免急迫之危險或有其他相類之情形而有必要時，得聲請為定暫時狀態之處分。 [3]聲請定暫時狀態之處分時，聲請人就其爭執之法律關係，為防止發生重大之損害或避免急迫之危險或有其他相類之情形而有必要之事實，應釋明之；其釋明有不足者，法院應駁回聲請。 [4]洪陸麟，以專利案件為中心論智慧財產案件審理法，國立政治大學法律學系碩士班論文，99-100頁，2009年。 [5]最高法院94年度台抗字第743 號民事裁定。 [6]最高法院94年度台抗字第380 號民事裁定。 [7]莊郁沁，智慧財產法院就營業秘密保護案件裁准定暫時狀態處分聲請之案例介紹，理律法律雙月刊，9-10頁，105年1月號。
品牌永續發展之關鍵-從商標維權使用角度觀之 加州公佈影音遊戲法案臨危憲爭議加州州長阿諾‧史瓦辛格於 2005 年 10 月 7 日簽署禁止販售暴力影音遊戲 (Violate Video Game) 與未成年人之影音遊戲法案，影音遊戲業者對於此法案之通過表示強烈抗議，主張該法案違反美國憲法修正條文第一條言論自由之保護。 該法案禁止販賣或出租具強烈暴力色彩之影音遊戲與未滿 18 歲之未成年人，同時要求此類遊戲必須於包裝正面依據規定標誌標示明顯之「 18 」字樣，違者將處以 1000 美元以下之罰金。州長史瓦辛格先生指出，這些遊戲多半是為成人所設計，是否讓青少年接觸此類遊戲，應由其家長決定之，故此法案並未限制該未成年人之家長購買或租用該類遊戲提供未成年人使用。 美國「影音軟體業者協會」 (Video Software Dealer Association) 以及「娛樂軟體協會」 (Entertainment Software Association) 等業者代表計畫以訴訟方式爭議此法之合憲性並予以推翻，而美國聯邦法院曾對於華盛頓州之類似法案作出不利之判決，使得此法案之未來仍為一個未知數。值得一提的是，美國其他州亦有類似法案通過，其中包括伊利諾州以及密西根州，目前「娛樂軟體協會」針對此兩州之法案已於聯邦法院提起訴訟。
日本IPA/SEC公佈「IoT高信賴化機能編」指導手冊日本獨立行政法人情報處理推進機構（IPA/SEC）於2016年3月公佈「聯繫世界之開發指引」，並於2017年5月8日推出「IoT高信賴化機能編」指導手冊，具體描述上開指引中有關技術面之部份，並羅列開發IoT機器、系統時所需之安全元件與機能。該手冊分為兩大部份，第一部份為開發安全的IoT機器和關聯系統所應具備之安全元件與機能，除定義何謂「IoT高信賴化機能」外，亦從維修、運用角度出發，整理開發者在設計階段須考慮之系統元件，並依照開始、預防、檢查、回復、結束等五大項目進行分類。第二部份則列出五個在IoT領域進行系統連接之案例，如車輛和住宅IoT系統的連接、住家內IoT機器之連接、產業用機器人與電力管理系統之連接等，並介紹案例中可能產生的風險，以及對應該風險之機能。IPA/SEC希望上開指引能夠作為日後國際間制定IoT國際標準的參考資料。