用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
掀起網路自由與版權衝突的另一場戰爭－Megaupload事件概述 科技法律研究所 法律研究員 劉得正 101年06月25日 Megaupload 是著名的線上網路硬碟服務商，提供用戶上傳檔案、藉此分享資料予他人之網路空間。自2005年3月間上線後，迅速累積用戶至1億8千萬，並一度排名全球網站瀏覽量第11名。然而在2012年1月19日卻遭到美國政府強制關閉，相關負責人（包括創辦人KIM DOTCOM）遭到美國司法部起訴，並透過國際合作逕予逮捕。此舉為網路環境投下前所未有之震撼彈。本文以下便針對此一個案提出簡要說明，釐清美國採取行動之依據及考量。 壹、Megaupload起訴依據 根據本案起訴書[1]，司法部本次起訴KIM DOTCOM等，主要是認為其觸犯以下規定： 一、「共謀實施著作權侵權」[2]、「著作權侵權刑事處罰規定」[3]－ 美國司法部認為Megaupload直接藉由複製、散佈盜版物來賺取利潤，構成對著作權之侵權。因其發現，Megaupload獲利來源主要來自網站上商業廣告之瀏覽量。為了提高廣告瀏覽量，Megaupload規定用戶所上傳文件之存續時間，取決於該文件的下載次數，並鼓勵上傳可長期受到使用者青睞下載的文件。換言之，Megaupload獲利與盜版物之散佈具有直接關連。 其次，司法部發現，Megaupload網站上已使用一種「移除程序」來辨認兒童色情內容，但卻未將此技術應用在移除侵權的內容上，或以其他方式使「移除程式」無法搜尋特定盜版物，顯見Megaupload係故意以散佈盜版物來賺取商業利益，並因此無法適用數位千禧年著作權法案中，對於網路服務提供者之「安全港」條款。 二、「共謀詐欺」[4]與「網路詐欺、教唆及幫助網路詐欺」[5]－ 此外，司法部認為，Megaupload網站運作方式，除了構成著作權侵權外，其以組織運作方式進行犯罪，以及透過網路進行犯罪，此等行為已符合「共謀詐欺」及「網路詐欺」 ( Fraud by Wire ) 。同時，Megaupload使用激勵程序來鼓勵用戶上傳「流行」的文件，亦構成教唆及幫助網路詐欺。 三、洗錢防制規定[6]－ 最後，美國司法部認為KIM DOTCOM等Megaupload之負責人，有針對上述不法所得再進行金融交易之行為，因此亦違反洗錢防制規定。 貳、Megaupload案目前發展情況 如前所述，美國司法部係透過國際合作，逮捕相關負責人。以創辦人KIM DOTCOM而言，目前仍在紐西蘭政府監管之下，不過近期內，將依美國司法部之請求，召開引渡聽證會，討論是否引渡KIM DOTCOM至美國受審。至於在犯罪調查方面，紐西蘭法院已下令允許美國FBI可從Kim Dotcom電腦中拷貝超過150TB的資料，以作為美國司法部指控Megaupload之訴訟證據[7]，相信對於是否得以引渡Kim Dotcom，將帶來一定影響。 參、代結論 Megaupload案之所以造成如此大的風波，主要可從對用戶之影響與對整體網路環境之影響看起。在用戶方面，首要原因在於Megaupload擁有廣大用戶，美國查封Megaupload之結果，造成眾多付費用戶之權益受損，此部分將如何求償，將會是相當大的難題。其次，如前所述，本次紐西蘭法院已容許美國FBI拷貝Megaupload。其中將涉及用戶資料之探知，對此是否有適當的保護措施保障用戶隱私，將是考驗美國政府之另一難題。 至於對整體網路環境面而言，此一事件是首次針對網路平台業者 ( 網路硬碟服務商 ) ，所進行之大規模跨國查緝行動。眾多網民多形容此舉象徵著作權凌駕網路言論自由的時代已經來臨，未來網路服務業者間勢必將出現所謂的寒蟬效益。然而，有待觀察的是，本次美國司法部起訴之主要依據在於，主張Megaupload係故意利用複製、散佈盜版物，以獲取商業利益，對此美國法院是否能接受此一見解，事實上仍是未定之天。因美國司法部需說服法院，Megaupload並無善盡網路服務業者保護著作權之義務。更重要的是，僅是提供平台之Megaupload，能否被解釋侵權行為人，並非毫無疑慮。 [1]USA v Kim DotCom et al, U.S. District Court, Eastern District of Virginia, no. 1:12CR3 [2]18 U.S.C. § 371 - Conspiracy to Commit Copyright Infringement. [3]18 U.S.C. §§ 2,2319;17 U.S.C. § 506 - Criminal Copyright Infringement By Electronic Means & Aiding and Abetting of Criminal Copyright Infringement. [4]18 U.S.C. § 1962(d) - Conspiracy to Commit Racketeering. [5]18 U.S.C. §§2, 1343 - Fraud By Wire & Aiding and Abetting of Fraud by Wire. [6]18 U.S.C. § 1956(h) - Conspiracy to Commit Money Laundering. [7]“FBI told to copy seized Dotcom data”http://www.nzherald.co.nz/technology/news/article.cfm?c_id=5&objectid=10813260 (last visited 2012/06/25)
文創法第26條第1項第4款適用疑義─營利事業對國家電影中心之捐贈列支為例文創法第26條第項第4款適用疑義─ 以營利事業對國家電影中心之捐贈列支為例 科技法律研究所 法律研究員 尤騰毅 2015年02月10日 壹、事實說明 日前根據報載「…金馬影后、也是湯臣影業負責人徐楓，響應搶救老電影計畫，一舉捐出510萬元修復胡金銓導演、也是她自己的代表作《俠女》，作為國家電影中心的開門之喜。…」（「國家電影中心」成立 徐楓捐款510萬，經濟日報，2014.07.28）。營利事業對於財團法人國家電影中心之捐贈列支，係依所得稅法第36條，或文創法第26條第1項第4款申請？ 貳、法律評析 一、依所得稅法第36條第1款以專案核准方式辦理，得不受列支金額限制 營利事業針對政府捐助成立之特定財團法人，目前財政部依所得稅法第36條第1項規定，以專案核准方式作成多號函釋，其捐贈列支，不受金額限制，包括財團法人法律扶助基金會、財團法人中央廣播電台等，參附錄一。以本案例而言，若能依所得稅法第36條第1款向財政部申請以專案核准方式辦理，可享有無認列金額上限之待遇，係優於文創法的處理方式；惟本案捐贈款項有指定用途，捐贈人宜以捐贈契約明文，以確保捐贈目的的達成。 二、本案例事實亦可適用文創法第26條 (一)受贈對象 文創法第26條之立法意旨在於鼓勵民間企業參與，帶動文創產業發展，達到以短期租稅減收換取未來長期經濟發展之目的。希望將企業資金導入民間之文創產業，其受捐贈目的與所得稅法第36條第2款所稱之教育、文化、公益、慈善機關或團體有別。惟其受贈對象未限於營利之民間企業，亦包括從事文創事業之非營利法人，故本案捐助對象雖為財團法人國家電影中心，因其亦為從事文創產業活動之事業，仍屬文創法第26條之適用對象。 (二)捐贈事由 文創法第26條第1項所列3款法定事由，同項第4款並授權中央主管機關可認定得列為當年度費用或損失之事項（屬概括規定）[1]。關於文創法第26條所列3款法定事由，茲先說明如下： （一）購買由國內文化創意事業原創之產品或服務，並經由學校、機關、團體捐贈學生或弱勢團體。（文創法第26條第1項第1款） 所稱國內文化創意事業，係指「在我國依法設立之法人、合夥或獨資事業，或具有中華民國國籍之國民，從事文化創意產業者」（營利事業捐贈文化創意相關支出認列費用或損失實施辦法第2條，下稱認列辦法）。只要是國內文化創意事業所研發創作，提供消費者消費之產品或服務，均適用捐贈認列抵稅。 營利事業所捐贈之原創產品或服務，須經由學校、機關或團體，核轉給適格的捐贈對象。所稱「學校」，包括所有各級依法設立、實施正規教育的公、私立學校，故不包含補習學校與社區大學（認列辦法第2條）。另為確保捐贈為弱勢團體所用，針對受贈團體之認定標準，限於依法設立或登記之非營利組織。透過符合上述資格之學校、機關或團體，將購買之原創產品或服務核轉給各級公私立學校之在學學生，以及依法設立或登記專門協助身心障礙者、原住民及其他弱勢族群之團體。 （二）偏遠地區舉辦之文化創意活動。（文創法第26條第1項第2款） 所稱偏遠地區係指人口密度較低、或交通較為不便、地理位置偏遠之地區，如離島（認列辦法第2條）。考量我國文化活動在城鄉的相較之下，仍多集中於城市，為兼顧文化創意產業之均衡發展，縮短城鄉差異，故以本款規定鼓勵營利事業捐贈國內文化創意事業於偏遠地區舉辦文化創意活動，以提高民眾參與文化創意活動意願及文化素養，同時達到發展國內文化創意事業之立法目標。凡屬於對公眾舉辦之展覽、表演、映演、拍賣或其他經各中央目的事業主管機關認定之活動，並應以公開且無償之方式服務偏遠地區之民眾者為限。 （三）捐贈文化創意事業成立育成中心。（文創法第26條第1項第3款） 雖然文創法第26條第1項第3款規定捐贈於「成立」的費用或損失才可認列，但避免育成中心設置過於浮濫，「營利事業捐贈文化創意相關支出認列費用或損失實施辦法」第5條規定設計育成中心應以設立後已有營運經營活動為限，且針對經營團隊管理階層人員之專業及其相關工作年資、育成空間之坪數空間，均有所規範，俾利徵納雙方遵循，以免流弊。 由於本案捐贈目的在於搶救老電影的修復費用，並不符合上述明列的事由，須由中央主管機關認定系爭事實是否得適用前述第4款規定。本文認為例舉之三款法定認列事由可歸納出以下三個構成要件，本件案例事實是否得適用文創法第26條第1項第4款之規定，中央主管機關得以下述要件檢視之： 1.應符合鼓勵民間企業參與文創事業活動，帶動產業發展之立法意旨 文創法第26條之立法意旨在於鼓勵民間企業參與，帶動文創產業發展，達到以短期租稅減收換取未來長期經濟發展之目的。因此，營利事業之捐贈、購買行為，應透過參與文創事業活動，而達到帶動文創產業發展之效。 2.為捐贈、購買或其他可促進文創產品創作、或舉辦文創活動所支出之費用 營利事業之捐贈、購買標的，包括文創產品或服務，以及可促進文創產品創作之行為（例如成立育成中心），以及舉辦文創活動（如對公眾公眾舉辦之展覽、表演、映演）等。 3.捐贈或購買對象應為文化創意事業 營利事業所捐贈或購買的對象應限定為文化創意事業，其範圍依照文化創意產業發展法第4條規定，係指從事文化創意產業之法人、合夥、獨資或個人。 因此，本案捐助對象為財團法人國家電影中心，亦為從事文創產業活動之事業，其費用雖非為購買特定產品、服務或捐贈特定活動，惟具備促進文創產品創作之效用，與文創法第26條鼓勵企業資源挹注文創產業之立法意旨相符，應有同條第1項第4款之適用。 參、結語 為善用民間企業挹注文化創意產業發展，文化創意產業發展法26條以認列損失或費用之方式，鼓勵民間營利事業購買文化創意事業之原創產品與服務，或贊助偏遠地區舉辦之文化創意活動，以及捐贈文化創意事業成立育成中心。其捐贈總額在新台幣1千萬元或所得額10%之額度內，以額度較高者為準，得列為當年度費用或損失，以租稅優惠作為營利企業團體支持文化創意產業之誘因。本案的捐贈金額並未超出文創法第26條的限額，若經主管機關認定為可認列之費用，其稅賦優惠其實與適用所得稅法第36條第1款以專案核准方式辦理相同，惟捐贈人所需考量者，在於上述二個租稅優惠途徑的申請程序繁簡與獲准機會。 台灣正面臨產業轉型階段，文化創意產業若干的活動（如設計、廣告、出版、文化等），可以提供製造業周邊服務並提高其附加價值，將是台灣未來升級轉型的希望所冀。從我國科技產業發展歷程觀之，運用租稅獎勵政策工具以發展特定產業，其成效卓著已獲得印證。為動文創產業發展，文創主管機關勢必會妥善利用租稅獎勵政策工具，因此以簡便且較容易獲租稅優惠角度來看，只要金額未超過限制，對於財團法人的文創活動捐贈，建議優先嘗試適用文創法第26條規定。 附錄一：財政部依所得稅法第36條第1款專案核准之函釋 【財政部 103.2.06. 臺財稅字第10304516880號函】 營利事業對財團法人法律扶助基金會之捐贈，可依所得稅法第36條第1款規定，列為當年度費用或損失，不受金額之限制。 【財政部 92.06.16. 台財稅字第 0920454411 號函】 營利事業對財團法人中央廣播電台之捐贈，准依所得稅法第三十六條第一款規定列為當年度費用或損失，不受金額之限制。 【財政部 92.04.09. 台財稅字第 0920452425 號】 設立財團法人證券人及期貨交易人保護中心之捐助款，准列為當年費用或損失，不受金額限制。 【財政部 90.11.09. 台財稅字第 0900457122 號】 金融機構對財團法人中小企業信用保證基金之捐助准列為當年度費用或損失，不受金額限制。 【財政部 85.12.19. 台財稅字第 851172920 號】 營利事業或個人對財團法人中央通訊社之捐贈，可依所得稅法規定認列費用或列報扣除額。 【財政部 80.10.21. 台稅一發字第 800739322 號】 對海華文教基金會之捐款得限額列為費用。 [1]大法官釋字第508號解釋理由書（節錄）：「…從立法技術而言，立法常有例示規定與概括規定並存，乃因一規範概念所得涵攝之事物類型不夠明確或範圍廣泛，立法者以例示規定表現此類型之典型社會事實，並輔以概括性規定以免繁複或掛一漏萬。對概括性規定之解釋適用，即必須從相關例示規定中探尋事物之共同特徵，以確認所欲規範的事物類型究竟為何？然後，再行判斷系爭事實是否具備這些共同特徵而為所欲規範之事物類型所涵蓋，如此方有引用概括規定之餘地。」
美國眾議院外交事務委員達成協議，修訂《國家關鍵能力防禦法案》建立對外投資審查制度美國眾議院外交事務委員會於2022年6月13日在兩黨創新法案(HR4521)會議上，就對外投資機制新提案發表聯合聲明。兩黨達成協議修訂《國家關鍵能力防禦法案》(National Critical Capabilities Defense Act of 2022, NCCDA)，擴大對外投資審查制度。促使美國制定NCCDA對外投資審查立法乃係源於經濟和國家安全考量，美國關注特定技術向中國轉讓以及美國企業可能透過特定投資幫助提升中國能力之風險。因此，雖然NCCDA會給國際投資帶來不確定性，但美國兩黨及兩院內部仍支持實施特定形式的對外投資審查程序，並且與利益相關者就如何制定強而有力且具針對性的對外投資機制進行建設性的討論，目的是確保美國不會將關鍵產業製造能力拱手讓給外國競爭對手。 NCCDA授權成立國家關鍵能力委員會(Committee on National Critical Capabilities)，由美國貿易代表署擔任主席並與供應鏈安全相關聯邦機構成員共同組成，審查特定對外業務交易和活動包括：界定需要境外投資審查的活動範圍、明訂出境審查流程、及關鍵產業項目等。依據NCCDA第11條「國家關鍵能力(National Critical Capabilities)」定義，指對美國至關重要的有形及無形的系統和資產，若此類系統和資產無法開發、失能或遭到破壞，將對國家安全造成破壞性影響。委員會應負責界定涉及「國家關鍵能力」產品、供應鏈和服務；列舉國家關鍵能力產業領域包括：能源、醫療、通訊、國防、運輸、航空航太、機器人、人工智慧、半導體、造船、水等。若美國人和外國實體從事「涵蓋活動」者，必須在展開活動前至少60天以書面形式通知委員會。委員會將會通知審查，若確定所涵蓋的活動對國家關鍵能力構成不可接受的風險，委員會可以實施緩解措施，或建議總統採取特定行動，包括暫停和禁止該活動。美國兩黨期待各方利益相關者能以書面形式參與討論，確保NCCDA法案通過並滿足各方需求，使美國與盟友國的對外投資機制保持一致。
美國對於聯網環境中「關鍵基礎設施」之資訊安全議題展開行動面對境外網路安全的風險，美國歐巴馬總統於2013年2月12日，正式簽署「改善關鍵基礎設施之網路安全」行政命令（Executive Order 13636–Improving Critical Infrastructure Cyber security），據該行政命令第二款，將「關鍵基礎設施」定義為，「對於美國至關重要，而當其無法運作或遭受損害時，將削弱國家安全、經濟穩定、公共健康或安全之有形或虛擬系統或資產」，遂採取相對廣義之解釋。該行政命令第七款，亦指示美國商務部「國家標準技術研究所」（National Institute of Standard and Technology, NIST），將研議ㄧ個提升關鍵基礎設施資通訊安全之架構（Framework to Improve Critical Infrastructure Cybersecurity），將美國聯邦憲法所保障的企業商業機密、個人隱私權和公民自由等法益納入考量。 針對關鍵基礎設施引發重要之法制議題，美國副司法部長Mr. James M. Cole表示，由於關鍵基礎設施影響所及者，乃人民在法律下的權益，公部門政府將在該項議題上與私部門共同合作（partnership），且未來將研議通過立法途徑（legislation），將隱私權和公民權保護（the incorporation of privacy and civil liberties safeguards）納入關鍵基礎設施資通訊安全法制之全盤考量，相關趨勢殊值注意。