用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
從新一期發布之強化農業生產基礎計畫談日本智慧農業推動策略 資訊工業策進會科技法律研究所 劉宥妤 副法律研究員 2020年11月13日 壹、日本內閣推動智慧農業政策之演進 日本內閣推動智慧農業相關政策，促使農林漁畜業及地方發展，首現於2013年「農林水產業地域活力創造計畫」（以下簡稱活力創造計畫）[1]，計畫指出日本預計透過活用機器人技術與農業ICT（資通訊技術），實現超省力、高品質生產的新農業，設置研究會以規劃智慧農業未來藍圖、確保機器人技術安全性政策等，促進高等栽培技術知識外顯化，推動開發生產管理與農業經營指導等系統。活力創造計畫係由日本內閣設置之農林水產業地域活力創造本部[2]（以下簡稱活力創造本部）發布，活力創造本部由內閣首相擔任本部長，內閣官房長官、農林水產大臣擔任副本部長以及相關閣僚參與。 日本政府隨後於2016年、2019年發布「農業競爭力強化計畫」與「農業生產基礎強化計畫」，這些計畫與智慧農業推動也都息息相關。此揭係針對該時期農業領域待解決之議題提出相對應的強化政策，並將這些計畫統整歸納進活力創造計畫，做為推動農業整體性發展之政府最高指標。 2016 年 11 月29日活力創造本部公布「農業競爭力強化計畫」，主要目的為整備農業經營環境，使農民得以自由展開經營的環境，同時解決僅靠農民努力無法解決的結構性問題。計畫分為四個面向，包括：一、整頓農業上下游產業；、改善人力與土地；三、引進保險互助制度；四、改革酪農業[3]，公布該計畫的同時，將該計畫納入活力創造計畫並公布改訂版的活力創造計畫[4]，做為農業競爭力再強化改革之項目。與智慧農業推動相關項目可見於(1)「二、改善人力與土地」面向，促進開發活用ICT遠距離監視水田之低成本水資源管理系統，以構築地區水資源管理模式；(2)「四、改革酪農業」面向，為達到穩定配方飼料價格、強化肉牛生產基礎之目標，推動活用 ICT 減輕勞動負擔、提高生產力以及推動擴大生產規模。 活力創造本部於去（2019）年12月10日公布「農業生產基礎強化計畫」[5]政策，同時公布已納入該計畫的改定版活力創造計畫，旨在加強生產基礎，以加速轉型為進攻型農業，安倍首相同日表示將持續擴大向全球推廣安全、可靠的日本農產品，日本政府透過利用先進技術和促進智慧農業發展，以擴大農產品出口，並決定將鼓勵外國放寬農產品進口限制列為政策方針。財政年度預算追加約3,200億日元（約883億台幣）作為農業措施，利用該預算加強生產基礎，擴大農產品出口量以及鼓勵年輕人參與農業。政策重點之一即為智慧農業落地利用與推動數位政策，包括至2022年無人機噴灑農藥擴大至100萬公頃、至2025年實踐大多數主要從農者能活用數據之農業[6]。 貳、農業生產基礎強化計畫—智慧農業落地實用與數位政策推動 農業生產基礎強化計畫預計藉由強化農業生產基礎，以因應國民必要糧食安定供給、提升糧食自給率、從農者不足農地減少、頻繁發生之自然災害與家畜傳染病、農產品貿易國際環境變化等議題。 計畫構成共11項：1.設立促進農產輸出之指揮總部以更擴大輸出、2.擴大肉用牛・酪農生產方案、3.對應新需求之園藝作物生產體制強化、4.水田農業種植作物轉換為高收益作物、 5.智慧農業落地實用與數位政策推動、6.促進農林水產業之新就業者擴大加入與穩定就業、7.包含梯田等中山間地域[7]之基礎建設整備與活性化、8.強化與食品產業、供應商企業等合作、9.得以對應人手不足之食品流通合理化、10.強化對應極端化自然災害、11.強化豬瘟（Classical Swine Fever，CSF）、非洲豬瘟（African Swine Fever，ASF）等家畜疾病對策。 其中「5.智慧農林漁業的落地實用以及數位政策的推動」內容包括：大力推動活用無人機、IoT、AI等智慧化技術於農林漁業現場落地實用之同時，檢視以數位技術為前提之政策方法，推動農業數位轉型（農業Digital Transformation，農業DX[8]），細項如下所列。 1.加速智慧農業技術落地實施 (1)關於智慧農業實證，包括以果樹、加工用及商用的蔬菜、畜產等需要進一步實證之項目為中心擴大進行，設定優先採選範圍，於災區與中山區地域推廣實證。 (2)促進創造出能夠提供低成本智慧農業技術的新服務（例如共享服務等），有助於加速化智慧農業的落地實施。 (3)由於利用無人機噴灑農藥之方式的快速普及，至2022年度的噴灑面積將擴大到100萬公頃。 (4)為邁向智慧農業的持續性發展，制定地方型戰略，檢討於農業生產現場導入智慧農業機器時確保安全性之措施，促進智慧農業教育、活用農業數據協作平台（WAGRI[9]），維護整備資訊網際網絡環境等綜合性地推動。 (5)為推動農林漁產業領域的創新，例如農林漁產業的完全自動化與無人化，推動具有挑戰性中長期之研究與開發。 (6)透過森林資源數位化與活用ICT，推動智慧林業技術的落地實施，促進木質特性新素材的開發與實證。 (7)漁業產品從生產到流通等各種情況下所取得之數據，建構讓該數據得以相容、共有、活用的數據協作平台。 (8)通過以上的配套措施與努力，至2025年實現大多數主要從農者能實踐活用數據之農業。 2.實現農業數位轉型（農業Digital Transformation，簡稱農業DX） (1)建構農林水產省共通申請服務（通稱eMaff[10]），農林水產省所有補助金申請在內的行政手續，透過結合ID，從民間私人服務擷取必要資訊等方式，創造得以電子化的環境。 (2)依據不同制度個別管理的農地相關數據，透過活用電子地圖和農林水產省共通申請服務，將開放資料（OPEN DATA）化之每筆「農地區劃[11]」及其關聯資訊集中統一，創造得以有效管理和有效利用的環境。 (3)促進農業者與行政體系所使用之數據項目標準化，提高數據的相互運用性，並有效地掌握和分析資訊。 (4)農業者傾向智慧手機應用程序（MAFF應用程序[12]）將於2020年4月正式營運，結合共通申請服務，根據個別農業者的特性、喜好，提供經營農業、政策資訊。 參、結語 日本內閣推動智慧農業政策，從2013年活力創造計畫，初期設立研究會以規劃智慧農業藍圖等宣示性政策，至2016年農業競爭力強化計畫，具體指出單點性智慧農業技術發展目標。演變至2019年農業生產基礎強化計畫，不同於以往散落在各個章節，僅將智慧農業技術做為其他發展目標的強化方式之一，例如利用智慧農業機械或農業ICT做為手段來達到改善土地的主要目標，於2019年計畫中，首度擬定智慧農業專章，不僅明確喊出「2025年實踐大多數主要從農者能活用數據之農業」做為目標，更聚焦強化智慧農業生產基礎，包括活用農業數據協作平台（WAGRI）、農林漁產業的完全自動化與無人化等，再加上實現農業數位轉型政策，觀察上述政策演進，無一不重視數據活用，普及智農技術、標準化數據規格、數據智財管理，成為發展智慧農業之核心基礎。 [1]陳建宏，〈日本「農林水產業、地域活力創造計畫」概要〉，https://www.coa.gov.tw/redirect_files.php?link=mLZJwrpRJ7lxDTde1lsFvObETU2Iq3jbmF99hWT6DgWGEqualWGEqualWGPlusRFYWGSlash0wK9PdunMMQRpcHLfmXJnjgLFrbeJ1OYF9CHQyN&file_name=jRgEdDwWGEqualWGEqual2SY8WGPlusd8qWB0p6wQ （最後瀏覽日：2020/03/24）； 農林水產省，〈「農林水産業・地域の活力創造プラン」の改訂について（概要）〉，http://www.maff.go.jp/j/kanbo/katsuryoku_plan/attach/pdf/index-7.pdf（最後瀏覽日：2020/11/13）。 [2]農林水產省，〈農林水産業・地域の活力創造プラン〉，http://www.maff.go.jp/j/kanbo/katsuryoku_plan/index.html#plan201806（最後瀏覽日：2020/11/13）； [3]鄭柏彥、留程鴻、蔡綾容，〈日本農業競爭力強化計畫介紹(上)(下) 〉，財團法人台灣綜合研究院；農林水產省，〈農業競争力強化プログラム〉，https://www.maff.go.jp/j/kanbo/nougyo_kyousou_ryoku/（最後瀏覽日：2020/11/13）。 [4]農林水產省，〈「農林水産業・地域の活力創造プラン」の改訂について〉， https://www.maff.go.jp/j/kanbo/nougyo_kyousou_ryoku/attach/pdf/nougyo_kyoso_ryoku-10.pdf（最後瀏覽日：2020/11/13）；農林水產省，〈農林水産業・地域の活力創造プラン(平成28年11月29日改訂) 〉 ；https://www.maff.go.jp/j/kanbo/nougyo_kyousou_ryoku/attach/pdf/nougyo_kyoso_ryoku-5.pdf（最後瀏覽日：2020/11/13）。 [5]農林水産業・地域の活力創造本部，〈農林水産業・地域の活力創造プラン 令和元年12月10日改訂〉，http://www.kantei.go.jp/jp/singi/nousui/dai26/siryou3.pdf（最後瀏覽日：2020/11/13）；農林水產省，〈農業生産基盤強化プログラム〉， https://www.maff.go.jp/j/council/seisaku/kikaku/bukai/attach/pdf/kikaku_1223-2.pdf（最後瀏覽日：2020/11/13）。 [6]〈農林水産業・地域の活力創造本部（第２６回）議事次第-令和元年12月10日〉，首相官邸網站，http://www.kantei.go.jp/jp/singi/nousui/dai26/gijisidai.html（最後瀏覽日：2020/11/13）；日本農民新聞社，〈農林水産業・地域の活力創造プランを改訂＝政府〉，2019/12/12，https://agripress.co.jp/archives/4024；農業協同組合新聞，〈水田農業で高収益産地 500創設－政府の生産基盤強化策〉，2019/12/17，https://www.jacom.or.jp/nousei/news/2019/12/191217-39916.php（最後瀏覽日：2020/11/13）。 [7]農林水產省將農業用地分成四種類型，都市的地域、平地農業地域、中間農業地域、山間農業地域，後兩者合稱為中山間地域，係指從平原的外緣至山間地的區域。Wikipedia，〈中山間地域〉，https://ja.wikipedia.org/wiki/%E4%B8%AD%E5%B1%B1%E9%96%93%E5%9C%B0%E5%9F%9F（最後瀏覽日：2020/11/13）。 [8]デジタルトランスフォーメーション（Digital transformation，簡稱DX），https://ja.wikipedia.org/wiki/デジタルトランスフォーメーション、https://en.wikipedia.org/wiki/Digital_transformation（最後瀏覽日：2020/11/13）。 [9]WAGRI代表的是作為一數據平台 ，由各式的數據與服務連環成一個輪，調和各個社群、促進「和」諧，期待引領農業領域之創新，由WA+AGRI組合而成（WA是和的日文＋農業AGRI），WAGRI平台網站，https://wagri.net/ja-jp/（最後瀏覽日：2020/11/13）。 [10]農林水產省（Ministry of Agriculture, Forestry and Fisheries，簡稱MAFF）。 [11]為便於農地管理而分級劃分的區域。 [12]MAFF應用程序為暫稱，僅為初步規劃還未定案。
中國大陸公布「專利優先審查管理辦法」中國大陸國家知識產權局於2017年6月27日公布「專利優先審查管理辦法」，將自2017年8月1日起施行，對符合規定之發明、實用新型、外觀設計專利申請提供快速審查管道。同時廢止2012年之「發明專利優先審查管理辦法」，使優先審查制度之適用不再以發明專利為限。 按「專利優先審查管理辦法」第3條所揭，以下6種專利申請得請求優先審查： 涉及節能環保、新一代資訊技術、生物、高端裝備製造、新能源、新材料、新能源汽車、智慧製造等國家重點發展產業。 涉及各省級和設區的市級人民政府重點鼓勵的產業。 涉及互聯網、大數據、雲計算等領域且技術或者產品更新速度快。 專利申請人或者複審請求人已經做好實施準備或者已經開始實施，或者有證據證明他人正在實施其發明創造。 就相同主題首次在中國提出專利申請又向其他國家或者地區提出申請的該中國首次申請。 其他對國家利益或者公共利益具有重大意義需要優先審查。 作為中國大陸十三五時期所提出之智財法規，或可從中得知未來中國大陸重點發展之技術與智財領域。 台灣專利優先審查制度明訂於專利法第40條、第101條，惟智慧局得優先審查者，僅限於已公開之發明申請案有非專利申請人為商業上實施時或舉發案涉及侵權訴訟案件之審理者。適用對象、範圍與中國大陸優先審查制度有別，我國廠商、研發人員於大陸申請專利時，應予注意。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
歐盟執委會擬改革現行專利訴訟制度，並希望能減省歐洲境內中小企業營運成本為求能妥善管理現暨有之歐洲專利與健全歐洲共同體專利制度，歐盟執委會(Commission)正致力於尋求各成員國同意，欲滙集境內能量，來建、整出一套「單一化」專利訴訟制度(Unified Patent Litigation System；簡稱UPLS)，以解決境內智財爭議與相關衍生問題，來達到『鼓勵私人發明』及『刺激歐洲境內中小型企業 (Small & Medium Enterprises；簡稱SMEs)持續成長』等目標」。 目前，就已取得歐洲專利局(European Patent Office)所核發專利之專利權人而言，其雖可逐一於歐盟各成員國家中，利用該國專利訴訟程序來保障其自身之發明；然，由於利用不同成員國家之司法系統興訟，甚可能因各類商業習慣或其他種種因素，而致生不同之審判結果；因此，於現行歐洲專利訴訟制度下，除時間與成本外，業者亦須面對司法裁判上之高度不確定性風險。一位負責國際市場暨服務事務官員Charlie McCreevy指出：「已有許多業者表示，歐洲現行之專利訴訟制度，實相當地複雜且繁瑣；且於訴訟進行過程中，除須繳納許多費用外；至取得判決前，其所耗費之時間，亦相當冗長」。 有鑑於此，執委會正擬儘快協調各會員國並統整出一套單一化之專利訴訟制度，以提升訴訟結果之可預見性(Predictability)並減輕訴訟成本。大體而言，該項UPLS制度，應可為歐洲專利權人帶來如後數項利益：(1)提升專利訴訟結果之法律上確定性、(2)減輕訴訟成本與(3)促進專利訴訟制度之商業性近用等；而一位執委會官員補充：「事實上，建置單一化專利法院與訴訟系統，其目的，無非是欲借強化解決智財爭議機制之方法，來達到『鼓勵私人發明』及『刺激歐洲境內中小型企業持續成長』等目標」。 最後，根據一份由德國慕尼黑大學學者Dietmar Harhoff所提出之分析報告顯示，倘若能透過該項措施來避免「重複專利侵害訴訟」或「訴訟撤回」等問題，估計每年將可為業者省下高達1億4千8百萬至2億8千9百萬歐元之專利訴訟費用。
美國聯邦通訊傳播委員會決議將進行網路中立立法美國聯邦通訊傳播委員會(Federal Communications Commission, FCC )在2009年10月22日表決，一致同意開始進行對「網路開放」（Open internet）相關之規範。除了2005年所提出之前四項提議原則外版本外，FCC新提出兩項提議原則，尋求意見，共包含： 1. 確保網路使用人均可選擇網路服務及內容之自由； 2. 保護對合法網路應用和合法服務使用之權利； 3. 選擇於網際網路上使用設施（devices）之自由； 4. 網路提供業者（network providers）、應用提供業者（application providers）、服務業者（service providers）、和內容提供業者（content providers）者間之競爭關係； 5. 網路提供業者之管理措施，不得基於網路流量（traffic）而對之歧視（discriminate），但得基於顧客之利益采取相關管理措施； 6. 寬頻提供業者，需揭露網路管理措施之方案資訊，以及管理措施對使用者所造成之影響。 參議員John McCain 則表示，網路中立（Net neutrality）的原則，將會扼殺創意和傷害就業市場，該議員並提出網路自由法案（Internet Freedom Act of 2009），認為該法案使避免網路受到政府管控，並且允許持續的創新和創造更多高價值之就業機會。維持網路事業的自由，免於沉重的規範，將是對經濟最佳之刺激方式。 同時也有人質疑，FCC並非授權管理網路之機構，且其所訂定之原則，並未具有法規效力，無法強制執行，而FCC制定該原則之意義為何？但FCC則表示，已獲得政策原則執行之授權。