用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
淺談區塊鏈之著作權保護機制 資策會科技法律研究所 法律研究員 翁竹霆 105年11月21日 FinTech，即金融科技，泛指利用科技使金融服務變得更有效率之創新技術。因比特幣（Bitcoin）而廣為人知之區塊鏈（Block chain）技術便是其中之一大代表，其對金融產業帶來破壞性之創新，顛覆金融產業長久以來之概念架構，未來勢必對人類社會帶來不小的影響。 著作權又稱版權，係指在作品上設定權利，並加以保護之制度，長久以來與科學技術相輔相成，共同促進人類社會進步[1]。然網路技術使作品複製與傳播之成本大幅降低，對著作權制度之震撼甚大，管見以為，以點對點（Peer-to-Peer）網路技術為基礎之區塊鏈，恰是著作權制度與網路技術此番挑戰之調和劑，引入區塊鏈技術應用於著作權保護，使新科技不僅是對法制帶來危機，亦可能是帶來轉機，此為本文撰寫之契機。 壹、技術背景 區塊鏈之概念最早可溯及2008年11月，中本聰發表之《比特幣：一種對等式的電子現金系統》[2]。簡言之，區塊鏈是一去中心化之分散式系統，在P2P網路上利用非對稱加密技術記錄每筆行為資訊，具有去中心化、透明性、開放性、自治性、訊息不可篡改、匿名性等六大特徵[3]。比方說在一塗鴉牆上，人人在牆上可畫可看牆上訊息，但僅有訊息之收發當事人能看懂訊息內容。 區塊鏈能防止訊息偽造，提升系統穩定，將傳統交易對人的信任更新為對技術的信任，降低信任成本，當前各國正積極投入區塊鏈之應用。然區塊鏈技術雖有諸多優點，亦不例外有其缺點。本質上，區塊鏈係以成本為代價，換取鏈內資訊之真實與完整，此缺陷反映於該技術之時間與空間成本。 貳、我國法制 區塊鏈發展至今，其應用領域已延伸至各種領域，如數位金融、食安履歷、智財保障等，本文將聚焦於區塊鏈技術對著作權存證之應用機制。 有權利即有救濟之法理，可見於我國大法官會議釋字第243號解釋，故著作權受有侵害時，著作權人應得提訴以維護其權利。然依我國民事訴訟法第277條與刑事訴訟法第232條、第319條之規定，民事原告和刑事告訴人負有證明自己為權利人或被害人之一舉證責任，就採行註冊或登記主義之專利權、商標權而言，權利人之舉證或非難事，惟於採創作主義之著作權而言，此舉證責任難度顯然高於專利權人及商標權人。就此我國著作權法雖有參酌各國立法例，規定如著作人之著作符合一定推定規則，在訴訟上即不負有舉證責任，此即「著作人推定」[4]。依著作權法第13條之著作權人推定之規定，必須在著作之原件或其以發行之重製物上，或將公開發表時，以通常方法表示著作人之本名或眾所周知之別名。反面解釋來說，若著作人一時疏忽或因該創作領域之習慣，未於著作表示著作人本名或別名，著作人將難受推定而享有著作權，創作心血將付之一炬。 我國最高法院92年度台上字第1664號判決之見解認為，著作權人為證明著作權，應保留其著作之創作過程、發行及其他與權利有關事項之資料作為證明自身權利之方法；該判決更指出著作權人至少需證明著作權人身分、著作完成時間、非抄襲之獨立創作；102年度台非字第24號判決重申著作權人未提出或交待研發過程之相關資料，尚不足認其主張之系爭標的係屬著作，亦不得僅憑該造友性證人之宣誓書及證言云云，即謂所述創作歷程可採；而智財法院97年刑智上易字第70號判決中則指出，該件鑑定小組藉由就權利人之營業處所及其創作過程進行實地勘查，推論得知告訴人係真正創作之著作權人。基此，權利人無法受有著作人推定時，需提出證據，跨越三道門檻，方可證明其確有權利，此為現行制度下，著作權人維權所面臨之現實難處。 如前所述，當前著作權人之維權存在著舉證難、週期長、成本高的問題，而區塊鏈在技術上可應用於著作權之存證，與實務見解之著作人身分、著作完成時間、非抄襲之獨立創作等待證事項完美匹配，原因分析如下： 一、著作權人身分 此部分意在證明著作確係主張權利人所創作，證明難度應不高，僅需著作人於登入系統時進行身分驗證，透過如帳號密碼、電子憑證等技術，便能推定系統之使用者確為著作人本人。目前多數網路平台均有採相似技術，於登入系統時確認使用者之身分、年齡等資訊，如結合區塊鏈不可篡改之特性，將更可保存身分資料，確認真實性。惟著作人本人是否具行為能力，甚至具備創作能力，尚非區塊鏈技術可以解決，仍需視個案事實認定之。 二、著作完成時間 區塊鏈在技術上，其區塊之排列係按照歷史時間順序，恰可將我國實務見解強調之創作過程，如日記般記載呈現，清楚確定著作係於何時生成而取得著作權，有助於釐清權利取得先後之爭議。 三、非抄襲之獨立創作 所謂創作過程乃著作人在創作時之相關紀錄，常見之紀錄包含筆記、草稿、設計圖、會議紀錄等。又因我國法律並無明定何謂抄襲之判定基準，法院常以創作過程做為認定系爭著作是否抄襲之依據。惟著作人於訴訟中證明自己確非抄襲存有困難，縱委請公證人進行著作認證，或將著作寄存於特定機構，亦僅能證明自己在特定時點完成著作，仍無法證明系爭著作係自己之獨立創作[5]。若運用區塊鏈具有去中心化、透明性、訊息不可篡改等特徵，即能確保創作過程係被忠實記錄於區塊鏈中，不受變更；過程訊息之完整性與真實性亦可通過科學之檢驗，便於著作人舉證證明系爭著作之創作過程。透過作品之創作緣由、經過細節，輔以庭審詰問質證，即可舉證之著作人確為實際創作者。 綜上，如導入區塊鏈對我國之著作權進行存證保護，作為此技術之新運用，應符合法院實務見解與創作市場需求，具有可行性。 叄、國際實例 台灣近期已有銀行業者將區塊鏈運用於金融業務[6]，如欲建立我國區塊鏈之著作權保護機制，或可借鑑國外成功實例，汲取他人操作經驗。目前國際上，將區塊鏈技術運用至著作權保護之實例以歐美為大宗，包括blockai[7]、Ascribe[8]、Verisart[9]等許多網路平台運用區塊鏈對著作權進行存證，本文分別簡介如下： 一、blockai 美國長久以來係由國會圖書館管理著作權事宜，惟實作程序上曠日費時且效率不彰。blockai便在此環境中誕生，作為一運用區塊鏈保護著作權之網站，其旨在提供更簡單有效的新選擇。blockai以區塊鏈建立公眾資料庫搭配圖像比對技術，以證明作品確由著作權人創作進而保障之。其開立之著作權證書雖並無法定證據效力[10]，但因區塊鏈信息不可篡改之技術特徵，仍可成為法庭上有相當證明力之證據[11]。 二、Ascribe 德國的Ascribe通過區塊鏈，使作者可以確定作品的權利屬性，安全的進行分享並追蹤作品傳播情況[12]，亦透過區塊鏈對作品創作真實性進行認證，在發行時可就發行數量進行限制，旨在使數位內容作品在網路環境中能如同實體作品般具備稀少性。與blockai作法類似，Ascribe也提供著作權證書[13]，該證書除作者名稱、作品名稱、完成時間外，更包括所有權人、交易時間，透過紀錄所有權移轉歷程體現數量限制、追蹤傳播情況的功能，有效避免一權多賣。 三、Verisart Verisart亦是透過區塊鏈從事著作權保障的網站，作法係提供一App予使用者，使其可以簡單、快速地驗證作品，使用者包括創作者、收藏家、交易者不等，與其他平台不同處在Verisart操作上通過手機、平板電腦等行動裝置，在作品訊息的資料上，更記載作者當前地點，突顯行動性，係區塊鏈技術與行動裝置的創新結合，以行動裝置使著作權的存證不受時間、地點的桎梏。 雖然區塊鏈目前只能提供每秒150次交易，但對著作權驗證已堪用。蓋著作權存證之目的在於呈現訴訟實務上所重視之創作過程，該過程係一歷史事實之呈現，著眼於訊息之正確與完整，而不要求訊息傳遞之即時性，是以區塊鏈技術上之時間成本，於此並不構成致命缺陷；至於空間成本，因硬碟儲存技術之發展，儲存空間已可以極低成本予以克服。 肆、結論 面對虛擬貨幣之新思潮，各國政府與民間爭相投入區塊鏈之應用研究，望能藉新技術降低產業成本，如中國人民銀行成立中國區塊鏈研究聯盟，美國有利用區塊鏈保障著作權之平台，台灣亦有金融業者加入全球區塊鏈聯盟與國際接軌。從我國著作權訴訟實務上著作人舉證責任視之，通過科學技術保障權利標的進行舉證，與一般證人之證言宣誓有別，證據之證明力更禁得起檢驗。在我國現行法未有著作權登記制度之際，引入區塊鏈於著作權保護之應用，可對現行法制上之舉證難題對症下藥，緩和權利人不易舉證之窘境，使權利人更能獲得其應有之權益保障，落實我國著作權法之立法目的。期待產業主管機關或著作權專責機關，推動運用區塊鏈技術解決創作舉證不易而產生的著作權歸屬糾紛，並進一步利用區塊鏈技術於授權交易，促進原創作品的流通，為我國數位經濟與文化創意發展構築更加完備的發展環境。 [1] 吳偉光，《數字技術環境下的版權法》，知識產權出版社，頁17（2008）。 [2] Satoshi Nakamoto, Bitcoin: A Peer-to-Peer Electronic Cash System, https://bitcoin.org/bitcoin.pdf (last visited Oct. 3, 2016). [3] 長鋏、韓鋒，《區塊鏈：從數字貨幣到信用社會》，中信出版社，頁54（2016）。 [4] 蕭雄淋，《著作權法論》，五南出版股份有限公司，第七版，頁71（2010）。 [5] 台灣內容市集網站，https://www.tcrm.org.tw/index.php（最後瀏覽日：2016/10/04）。 [6] 華銀區塊鏈應用大躍進，http://udn.com/news/tory/7239/2035353（最後瀏覽日：2016/10/20）。 [7] blockai網站, https://blockai.com/ (last visited Oct. 4, 2016). [8] Ascribe網站, https://www.ascribe.io/ (last visited Oct. 20, 2016). [9] Verisart網站, https://www.verisart.com/ (last visited Oct. 20, 2016). [10] 蔡茜堉，金融科技專利現況，http://www.tipo.gov.tw/public/Attachment/67259101946.pdf（最後瀏覽日：2016/10/04）。 [11] 區塊鏈豈止用於金融？外國新創利用技術保護知識產權，http://unwire.pro/2016/03/15/blockai-uses-blockchain-to-protect-intellectual-property/startups/（最後瀏覽日：2016/10/04）。 [12] 長鋏、韓鋒，《區塊鏈：從數字貨幣到信用社會》，中信出版社，頁229（2016）。 [13] Ascribe證書範例, https://d1qjsxua1o9x03.cloudfront.net/live%2Fcb70ab375662576bd1ac5aaf16b3fca4%2F23964ae7-3bfc-46b4-85d6-05c9f09ba300%2Fcoa%2Fcoa-2016-01-04t12-56-13.pdf (last visited Oct. 20, 2016).
WHO發布《2019‑nCoV戰略準備和應對方案》呼籲全球加速研發創新以對抗疫情2020年2月3日，世界衛生組織（World Health Organization, WHO）發布《2019新型冠狀病毒戰略準備和應對方案》（2019 Novel Coronavirus: Strategic Preparedness and Response Plan），呼籲全球合作以加速研發創新，對抗新型冠狀病毒（2019 novel coronavirus, 2019-nCoV）。WHO提出的戰略目標包含六大項：限制人與人間的傳播防止疫情擴散、盡速發現並隔離以便提供患者最佳照護、查明並減少動物來源的傳播、加速診斷治療和疫苗開發、傳達重要且正確的風險與事件資訊、透過合作夥伴關係減少疫情對社會經濟影響。而WHO設立的戰略目標，可以透過以下方式實現：（1）加速建立國際協調方案，透過現有機制及合作夥伴關係提升防疫戰略、技術及業務支持。（2）擴大各國家的災難準備與緊急應變行動方案，包括加強準備、迅速發現、診斷並進行治療；在可行的情況下發現並追蹤感染者；強化醫療機構中的感染預防及控制；實施旅行者的健康管理措施；提升人民對疫情風險認識、減少社區交流風險等。（3）加速對2019‑nCoV的研究及創新，優先推動快速篩檢追蹤與擴大研發創新規模、開發候選療法、疫苗及診斷方法，確保醫療資源的公平可用性。藉由防疫標準化流程與知識平台的建立，促進並匯集學界合作的研究成果。 另外，WHO在本戰略中明列出八大衡量指標，用以評估各國因應2019-nCoV的計畫準備與成效，以便WHO能與政府合作，共同改善全球防疫系統。該八大指標分別為：流行病學症狀分析與疫情規模判斷能力、戰略準備及預算管理計畫、防疫物資供應程度、研究開發與臨床實驗比例、國家公共衛生系統疫情準備能力、建構檢驗與快篩的即時通報系統、完善診斷流程與安全隔離措施、疫情報告與資訊分享機制等。
日本創設搭載遠距型系統自駕車基準緩和認定制度日本國土交通省於2017年2月修正《道路運輸車輛安全基準》第55條第1項、第56條第1項及第57條第1項規定之告示，放寬車輛安全基準規定，期望自動駕駛實驗能順利展開。惟在各種自動駕駛實驗中，遠距型自動駕駛系統是透過電信通訊技術，從遠距離外操作車輛行駛，儘管修法後已放寬安全基準規定，但其仍與現行以車內有駕駛為前提而訂定之《道路運輸車輛安全基準》相距甚遠，想一律判斷其符合安全基準有所困難。據此，為使遠距型自駕系統道路實驗能夠順利進行，國土交通省於2018年3月30日創設「搭載遠距型系統自駕車基準緩和認定制度」，明確規定遠距型自駕系統實施道路實驗所需各項手續。 「搭載遠距型系統自駕車基準緩和認定制度」規定項目包括︰申請放寬基準之對象、申請者、申請書及繳交文件、審查項目、條件及限制、基準放寬之認定、車體標示、行政處分等。
英國無線電頻譜管理改革政策（下）－－風險評估與對策