用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國食品和藥物管理局（U.S. Food and Drug Administration，FDA）於2010年9月19日到21日針對是否核准基因工程鮭魚(genetically-engineered salmon，GE salmon）上市舉行了公聽會。經過各界討論，目前仍未做出決定，但各界均同意於決定是否核准該鮭魚上市前，仍需做進一步的研究測試。 該基因工程鮭魚又名 AquAdvantage，其成長賀爾蒙不但只於較高溫度的水域環境時才分泌，而亦可全年都分泌該種賀爾蒙。因此特性，此種鮭魚成長速度比一般同類型的鮭魚快兩倍，而其所能被食用的時間也相對較早。 根據美國FDA的報告結論，基因工程鮭魚的安全性和其他類型的鮭魚一樣，所以如果為人類食用的話，並不會造成危險。此外，該鮭魚的養殖地點與海岸仍有一段距離，因此其可能對野生鮭魚造成威脅的問題可被忽視。然而，於本次公聽會中也提出，由於現階段的研究數據結果不足，因此仍須進行進一步的相關測試後才能做出結論。 另外，對於基因工程鮭魚上市後該如何標示該產品，也是另一個討論重點；針對此議題，美國FDA會另外舉行公聽會。目前，美國FDA對於上市核准的食物標示僅要求需標示其身分、營養成分、和潛在的過敏反應即可。由於美國FDA認定該基因工程鮭魚與一般鮭魚並沒有“生物學上的相關差異性”（no biologically relevant different）存在，對此，美國FDA表示，相同的作法有可能也會適用於基因工程鮭魚上。就社會大眾知的權利和現行法制的適用兩者間該如何取捨，即變成了當前該議題的討論重點所在。故，美國FDA未來是否會准許該種基因工程鮭魚上市，且上市後其食品標示又該如何加以標示，都是未來需要再做進一步觀察的。
澳洲隱私保護辦公室檢討實施「選擇退出機制」後對「我的健康紀錄系統」之影響澳洲隱私保護辦公室（Office of the Australian Information Commissioner,OAIC）在2019年11月發布的「2018-2019年度健康數位資料報告」（Annual Report of the Australian Information Commissioner’s activities in relation to digital health 2018–19），主要說明澳洲政府實施「選擇退出機制」（opt-out）後，對「我的健康紀錄系統」（My Health Record System）（下稱系統）發生的影響，以及有將近1成的國民大量選擇退出系統，造成系統的醫療健康資料統計困難之檢討。 OAIC認為會發生國民大量選擇退出系統的原因，主要是不信任政府對系統資料保護及不清楚系統使用功能有關，因此提出年度報告，內容如下: 一、改善民眾對醫療資料保護的不信任，例如對醫療業者，開發保護病患隱私的指導教材，防止、外洩即時處理的能力。 二、加強宣傳，例如開發線上資源、影音等，讓民眾在使用系統時能有更清楚認識，且對選擇退出有更明確的認知。 三、改進系統設計，讓民眾能更清楚的看見使用說明，也能隨時掌握在系統上的資訊、設置警報提醒來防止他人侵入、也增加取消功能使資料達到永久刪除的效果。 建置該系統之目的，是因為國家有蒐集與使用國民的醫療健康資料需求，國民也能使用系統查看醫療紀錄、藥物過敏紀錄、曾使用與正在使用的藥物、血液檢查等；醫療人員也能透過醫療資料之電子化，減少重複及不必要的醫療檢查、對症下藥、避免因過敏引起的反應等，將醫療資源做有效的運用。 系統建置是依據「我的健康紀錄法」（My Health Records Act 2012）第三章第一節註冊規定，要將國民的醫療健康資料納入系統，但不願意加入者，得選擇退出系統。而澳洲政府依據此法訂定選擇退出機制，2018年7月正式實施，要求全民強制加入系統，同時開放選擇退出機制，讓不願意加入系統的國民能選擇退出系統；選擇退出機制截止日期原先在2018年10月中旬，但在國民大量反應下，澳洲政府決定延至2019年1月底；在選擇退出機制的實施截止後，OAIC在2019年11月對選擇退出機制做出檢討報告，期望能透過檢討報告提出的建議來增強民眾對系統的信任與促進系統使用率。
政府科研計畫執行與貪污犯罪 日本對於中小企業之智財協助措施—以知的財產推進計畫2018之具體實施內容為例日本對於中小企業之智財協助措施—以知的財產推進計畫2018之具體實施內容為例 資策會科技法律研究所 陳昱宏 法律研究員 107年11月12日 一、前言 日本知的財產戰略本部在2013年6月決定「知的財產政策願景」，作為日本推動智財計畫之政策主軸。5年來，隨著時間推移，社會環境及科技亦快速變化，日本知的財產戰略本部即於2018年6月12日推出新版「知的財產政策願景」。不論新舊版「知的財產政策願景」，均以強化中小企業智財戰略作為計畫推動目標之一，此係因日本內閣認為中小企業肩負起地方經濟之重責大任，為能使其活用智財能量，從2016年起即推出各種協助措施，如「活化地方智慧財產行動計畫」、「智財綜合協助窗口」等等。本文即欲以「2018知的財產推進計畫」中第5、8項之內容，介紹日本對於中小企業智財協助措施，提供我國未來在協助中小企業智財發展政策措施上不同思維。 二、中小企業等專利費用減免制度 2018日本知的財產推進計畫第5項為「為促進中小企業活用智財，除加強對於中小企業宣傳專利法修正後中小企業專利費用減半，及申請流程」。 日本特許廳官網即於2018年7月公布了「專利費等減免制度」之相關措施[1]，該制度係以個人、法人、研發型中小企業及大學為對象，在滿足一定要件之前提下，就專利申請費用及專利費（第1至10年）及與申請國際專利有關之調查手續費用，可申請減免。特許廳除附上相關規定之連結外，亦整理減免對象一覽表如下： 減免對象 法源依據 措施內容 中小新創企業 及小規模企業 產業競爭力強化法第66條 〈專利[2]〉 專利申請費用：減免1/3 專利費（第1至10年）：減免1/3 調查手續費、送件手續費：減免1/3 預備調查手續費：減免1/3 研發型中小企業 產業競爭力強化法第18條 中小製造業高度化法第9條 〈專利[3]〉 專利申請費用：減免1/2 專利費（第1至10年）：減免1/2 研發型中小企業 （亞洲據點化推動法） 亞洲據點化推動法第10條 〈專利[4]〉 專利申請費用：減免1/2 專利費（第1至10年）：減免1/2 經認定能帶動地方 經濟發展中小企業 促進地方發展強化法第21條 〈專利[5]〉 專利申請費用：減免1/2 專利費（第1至10年）：減免1/2 經認定之重點 推動計畫中小企業 福島再興條例第84條 〈專利[6]〉 專利申請費用：減免1/2 專利費（第1至10年）：減免1/2 針對相關措施特許廳製作手冊及問題集[7]供中小企業參考。然而減免措施琳瑯滿目，且減免條件多有不同，中小企業未必能確知自己是否符合減免條件，故特許廳設計了簡易選單協助個人及中小企業[8]及研發型中小企業自行檢視[9]。 三、智慧財產商業性評價書 知的財產推進計畫2018第8項說明「為了使金融機構在對企業進行商業性評估時，能充分考量企業所擁有之智財能量，所以在『智慧財產商業性評價書』，應考量金融機關之意見，強化對於中小企業製作評價書之支援」。 日本金融廳在2016年之年度金融行政方針中提及，為使金融機構充分發揮融資之機能，確保金融制度完善。所以希望建立一套不過度依賴擔保品或保證人之制度，透過往來企業之業務及發展性，為適當之評價（商業性評價），以此為融資或佐證之制度。如此除了提供金融機關一個持續可能之新型態業務選擇外，亦可活化地方經濟。企業所擁有之智慧財產權所具有之隱性價值，常為經營者所忽略，為能將此等資產加以活用，智財商業性評價書相關業務交由智慧財產主管機關特許廳主責辦理，並設有智財金融入口網站[10]，供金融機構查詢，評價書製作流程如下： 金融機構就往來之中小企業客戶，向特許廳委託機構申請評價。 特許廳委託機構(三菱UFJ研究及管理顧問股份有限公司)將評價書作成費用交付與有合作之調查公司（多家）及下達相關指示。 合作之調查公司向中小企業為調查，並聽取相關意見。 合作之調查公司將做成之調查評價書交予特許廳委託機構。 特許廳委託機構將調查評價書交予金融機構。 金融機構將調查評價書加以活用於融資 資料來源：圖1 圖解智財評價書 以下有幾個注意事項[11]： 重點一：只有金融機關（包括地方創投基金）可以申請。 重點二：金融機關申請前應向往來企業說明。 重點三：以持有商標、專利(發明、新型、設計)等智慧財產權之企業為評價對象 重點四：金融機關可於申請時，選擇調查公司 重點五：評價書在提供予金融機關一段時間後，相關事務局可向金融機關為事後追蹤。 該入口網站亦說明，此制度之優點在於手續簡單（無須檢附任何資料），無須費用費用完全由特許廳負擔。 四、我國展望 我國中小企業相對於大型企業而言，在智慧財產權之意識或保護上均屬相對弱勢，政府除持續宣導智慧財產制度之重要性及優點之外，亦應考慮是否能有相關之協助措施，幫助其充分活用智財能量。本文所介紹日本2018知的財產推進計畫中兩項政策措施，前者透過專利費用之減免，使中小企業在不過度負擔之情形下，能善用專利制度，保障自己智慧財產之結晶，後者透過評價書之製作，使中小企業能獲得銀行在資金上之挹注。 我國對於中小企業雖已有專利費用減免措施，惟限於專利年費，且僅有6年[12]優惠期間；另，我國雖已形成無形資產評價產業，但金融機構對於智財融資，仍處於觀望階段，中小企業未必能透過無形資產評價取得資金需求，故若能適當取法日本對於中小企業在智慧財產取得面及融資面之協助，應能使我國中小企業對於智慧財產加以活用，提升我國整體競爭力。 [1] 〈特許料等の減免制度〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/genmensochi.htm（最後瀏覽日：2018/10/25）。 [2] 〈中小ベンチャー企業、小規模企業を対象とした審査請求料・特許料・国際出願に係る手数料の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/chusho_keigen.htm（最後瀏覽日：2018/10/25）。 [3] 〈研究開発型中小企業に対する審査請求料及び特許料（第1年分から第10年分）の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/chusho24_4.htm（最後瀏覽日：2018/10/25）。 [4] 〈研究開発型中小企業（アジア拠点化推進法）に対する審査請求料及び特許料（第1年分から第10年分）の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/chushoasia24_11.htm（最後瀏覽日：2018/10/25）。 [5] 〈地域経済牽引事業の促進による地域の成長発展の基盤強化に関する法律に基づく審査請求料及び特許料（第1年分から第10年分）の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/chiiki_kenin_shinsaryo_tokkyoryo.htm（最後瀏覽日：2018/10/25）。 [6] 〈福島復興再生特別措置法第84条に基づく審査請求料及び特許料（第1年分から第10年分）の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/fukushima_genmen.htm（最後瀏覽日：2018/10/25）。 [7] 〈リーフレット「特許関係料金減免制度のご案内 概要版（対象：個人・中小企業等）〉，特許廳網站https://www.jpo.go.jp/shiryou/s_sonota/pdf/panhu/exemption_info.pdf（最後瀏覽日：2018/10/25）。 [8] 〈個人・中小企業向け特許料等減免制度の簡易判定ページ〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/hantei_kani.htm （最後瀏覽日：2018/10/25）。 [9] 〈簡易判定ページ〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/hantei_kani/kenkyu_00.htm （最後瀏覽日：2018/10/25）。 [10] 〈智財金融ポーダルサイト〉，智財金融入口網站http://chizai-kinyu.go.jp/ [11] 〈平成30年度中小企業等知財金融促進事業の意義・事業紹介〉，平成30年度中小企業等知財金融促進事業知財金融基礎研修会・公募説明会第二部，頁12（最後瀏覽日：2018/09/05）。 [12] 〈專利Q&A〉，經濟部智慧財產局網站https://www.tipo.gov.tw/ct.asp?xItem=504276&ctNode=7633&mp=1