用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日本對於中小企業之智財協助措施—以知的財產推進計畫2018之具體實施內容為例 資策會科技法律研究所 陳昱宏 法律研究員 107年11月12日 一、前言 日本知的財產戰略本部在2013年6月決定「知的財產政策願景」，作為日本推動智財計畫之政策主軸。5年來，隨著時間推移，社會環境及科技亦快速變化，日本知的財產戰略本部即於2018年6月12日推出新版「知的財產政策願景」。不論新舊版「知的財產政策願景」，均以強化中小企業智財戰略作為計畫推動目標之一，此係因日本內閣認為中小企業肩負起地方經濟之重責大任，為能使其活用智財能量，從2016年起即推出各種協助措施，如「活化地方智慧財產行動計畫」、「智財綜合協助窗口」等等。本文即欲以「2018知的財產推進計畫」中第5、8項之內容，介紹日本對於中小企業智財協助措施，提供我國未來在協助中小企業智財發展政策措施上不同思維。 二、中小企業等專利費用減免制度 2018日本知的財產推進計畫第5項為「為促進中小企業活用智財，除加強對於中小企業宣傳專利法修正後中小企業專利費用減半，及申請流程」。 日本特許廳官網即於2018年7月公布了「專利費等減免制度」之相關措施[1]，該制度係以個人、法人、研發型中小企業及大學為對象，在滿足一定要件之前提下，就專利申請費用及專利費（第1至10年）及與申請國際專利有關之調查手續費用，可申請減免。特許廳除附上相關規定之連結外，亦整理減免對象一覽表如下： 減免對象 法源依據 措施內容 中小新創企業 及小規模企業 產業競爭力強化法第66條 〈專利[2]〉 專利申請費用：減免1/3 專利費（第1至10年）：減免1/3 調查手續費、送件手續費：減免1/3 預備調查手續費：減免1/3 研發型中小企業 產業競爭力強化法第18條 中小製造業高度化法第9條 〈專利[3]〉 專利申請費用：減免1/2 專利費（第1至10年）：減免1/2 研發型中小企業 （亞洲據點化推動法） 亞洲據點化推動法第10條 〈專利[4]〉 專利申請費用：減免1/2 專利費（第1至10年）：減免1/2 經認定能帶動地方 經濟發展中小企業 促進地方發展強化法第21條 〈專利[5]〉 專利申請費用：減免1/2 專利費（第1至10年）：減免1/2 經認定之重點 推動計畫中小企業 福島再興條例第84條 〈專利[6]〉 專利申請費用：減免1/2 專利費（第1至10年）：減免1/2 針對相關措施特許廳製作手冊及問題集[7]供中小企業參考。然而減免措施琳瑯滿目，且減免條件多有不同，中小企業未必能確知自己是否符合減免條件，故特許廳設計了簡易選單協助個人及中小企業[8]及研發型中小企業自行檢視[9]。 三、智慧財產商業性評價書 知的財產推進計畫2018第8項說明「為了使金融機構在對企業進行商業性評估時，能充分考量企業所擁有之智財能量，所以在『智慧財產商業性評價書』，應考量金融機關之意見，強化對於中小企業製作評價書之支援」。 日本金融廳在2016年之年度金融行政方針中提及，為使金融機構充分發揮融資之機能，確保金融制度完善。所以希望建立一套不過度依賴擔保品或保證人之制度，透過往來企業之業務及發展性，為適當之評價（商業性評價），以此為融資或佐證之制度。如此除了提供金融機關一個持續可能之新型態業務選擇外，亦可活化地方經濟。企業所擁有之智慧財產權所具有之隱性價值，常為經營者所忽略，為能將此等資產加以活用，智財商業性評價書相關業務交由智慧財產主管機關特許廳主責辦理，並設有智財金融入口網站[10]，供金融機構查詢，評價書製作流程如下： 金融機構就往來之中小企業客戶，向特許廳委託機構申請評價。 特許廳委託機構(三菱UFJ研究及管理顧問股份有限公司)將評價書作成費用交付與有合作之調查公司（多家）及下達相關指示。 合作之調查公司向中小企業為調查，並聽取相關意見。 合作之調查公司將做成之調查評價書交予特許廳委託機構。 特許廳委託機構將調查評價書交予金融機構。 金融機構將調查評價書加以活用於融資 資料來源：圖1 圖解智財評價書 以下有幾個注意事項[11]： 重點一：只有金融機關（包括地方創投基金）可以申請。 重點二：金融機關申請前應向往來企業說明。 重點三：以持有商標、專利(發明、新型、設計)等智慧財產權之企業為評價對象 重點四：金融機關可於申請時，選擇調查公司 重點五：評價書在提供予金融機關一段時間後，相關事務局可向金融機關為事後追蹤。 該入口網站亦說明，此制度之優點在於手續簡單（無須檢附任何資料），無須費用費用完全由特許廳負擔。 四、我國展望 我國中小企業相對於大型企業而言，在智慧財產權之意識或保護上均屬相對弱勢，政府除持續宣導智慧財產制度之重要性及優點之外，亦應考慮是否能有相關之協助措施，幫助其充分活用智財能量。本文所介紹日本2018知的財產推進計畫中兩項政策措施，前者透過專利費用之減免，使中小企業在不過度負擔之情形下，能善用專利制度，保障自己智慧財產之結晶，後者透過評價書之製作，使中小企業能獲得銀行在資金上之挹注。 我國對於中小企業雖已有專利費用減免措施，惟限於專利年費，且僅有6年[12]優惠期間；另，我國雖已形成無形資產評價產業，但金融機構對於智財融資，仍處於觀望階段，中小企業未必能透過無形資產評價取得資金需求，故若能適當取法日本對於中小企業在智慧財產取得面及融資面之協助，應能使我國中小企業對於智慧財產加以活用，提升我國整體競爭力。 [1] 〈特許料等の減免制度〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/genmensochi.htm（最後瀏覽日：2018/10/25）。 [2] 〈中小ベンチャー企業、小規模企業を対象とした審査請求料・特許料・国際出願に係る手数料の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/chusho_keigen.htm（最後瀏覽日：2018/10/25）。 [3] 〈研究開発型中小企業に対する審査請求料及び特許料（第1年分から第10年分）の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/chusho24_4.htm（最後瀏覽日：2018/10/25）。 [4] 〈研究開発型中小企業（アジア拠点化推進法）に対する審査請求料及び特許料（第1年分から第10年分）の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/chushoasia24_11.htm（最後瀏覽日：2018/10/25）。 [5] 〈地域経済牽引事業の促進による地域の成長発展の基盤強化に関する法律に基づく審査請求料及び特許料（第1年分から第10年分）の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/chiiki_kenin_shinsaryo_tokkyoryo.htm（最後瀏覽日：2018/10/25）。 [6] 〈福島復興再生特別措置法第84条に基づく審査請求料及び特許料（第1年分から第10年分）の軽減措置について〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/fukushima_genmen.htm（最後瀏覽日：2018/10/25）。 [7] 〈リーフレット「特許関係料金減免制度のご案内 概要版（対象：個人・中小企業等）〉，特許廳網站https://www.jpo.go.jp/shiryou/s_sonota/pdf/panhu/exemption_info.pdf（最後瀏覽日：2018/10/25）。 [8] 〈個人・中小企業向け特許料等減免制度の簡易判定ページ〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/hantei_kani.htm （最後瀏覽日：2018/10/25）。 [9] 〈簡易判定ページ〉，特許廳網站https://www.jpo.go.jp/tetuzuki/ryoukin/hantei_kani/kenkyu_00.htm （最後瀏覽日：2018/10/25）。 [10] 〈智財金融ポーダルサイト〉，智財金融入口網站http://chizai-kinyu.go.jp/ [11] 〈平成30年度中小企業等知財金融促進事業の意義・事業紹介〉，平成30年度中小企業等知財金融促進事業知財金融基礎研修会・公募説明会第二部，頁12（最後瀏覽日：2018/09/05）。 [12] 〈專利Q&A〉，經濟部智慧財產局網站https://www.tipo.gov.tw/ct.asp?xItem=504276&ctNode=7633&mp=1
日本經產省和總務省共同發布AI業者指引草案，公開徵集意見因應生成式AI（Generative AI）快速發展，日本經產省和總務省彙整及更新自2017年起陸續發布之各項AI指引，於2024年1月19日共同公布「AI業者指引草案」（AI事業者ガイドライン案，以下簡稱指引），公開向民眾徵集意見。上述草案除提出AI業者應遵守以人為本、安全性、公平性、隱私保護、透明性、問責性、公平競爭、創新等共通性原則外，並進一步針對AI開發者（AI Developer）、AI提供者（AI Provider）及AI利用者（AI Business User）提出具體注意事項，簡述如下： （1）AI開發者：研發AI系統之業者。由於在開發階段設計或變更AI模型將影響後續使用，故指引認為開發者應事先採取可能對策，並在倫理和風險之間進行權衡，避免因重視正確性而侵害隱私或公平性，或因過度在意隱私保護而影響透明性。此外，開發者應盡量保留紀錄，以便於預期外事故發生時可以進行說明。 （2）AI提供者：向AI使用者或非業務上使用者提供AI系統、產品或服務之業者。提供者應以系統順利運作及正常使用為前提，提供AI系統和服務，並避免侵害利害關係人之利益。 （3）AI使用者：基於商業活動使用AI系統或服務之業者。使用者應於提供者所設定之範圍內使用AI，以最大限度發揮AI效益，提高業務效率及生產力。
美國加州《AB-5法》（Assembly Bill No. 5）美國加州於2019年9月通過AB-5法案（Assembly Bill No. 5），預計於2020年1月正式施行，本法目的在於強化零工經濟下非典型勞務提供者（如平台外送員）的權益保護，於加州現行勞動法令之基礎上，增訂關於各類勞務提供者之特別規定。 依本法主要規範，係推定替雇主（hirer）提供服務的工作者為僱傭契約關係下之僱員（employee），就最低工資、失業保險、勞災、醫療保險等面向，業者應對這些工作者提供等同受僱人之相關權益及保障；若要被例外認定為非成立僱傭關係之獨立承包商，則必須滿足不受公司於工作方面的控制指示、從事與公司通常業務範圍無關之業務、以及有實質接案自由等三要件，並要求業者應以上列標準判定其勞務提供者為僱員或獨立承包商，同時需於例外認定為獨立承包商時提出相關證明。 同時，本法亦考量到施行後其效力對既有營業形態之衝擊，分別採取以下措施： 針對例如派報員、商業捕撈（commercial fishermen）等業別，於本法正式施行後一定期間內，豁免前述列舉之特定領域勞務提供者適用本法來認定其與業者間的契約關係。亦即，在法案生效後的短期內，特定業者暫時不需適用該法所定要件來檢視與勞務提供者間之契約關係，避免本法貿然實施可能導致其無法經營日常業務的困境。 對於醫療保健專業人員、持有牌照之律師、建築師、會計師、證券經紀商等法明文列舉之特定職業，排除適用本法判定勞動關係的特別規定，而非暫時豁免適用。
無所不在的間諜軟體