用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
英國智慧局於今 (2013) 年3月底時宣布投入15萬英鎊（約683萬元台幣）啟動一項名為「數位著作授權平台」（Copyright Hub）的建置計畫，並於今年7月正式上線，提供權利人、利用人、以及市場等關於著作權的授權相關事宜。 根據該平台籌設小組所提出的營運方針 ，初步觀察該平台的定位與功能可歸納出三項特點： 一、平台定位為連結利用端與權利端之入口門戶（Portal） 該匯集平台的定位為連結（connect）利用端與權利端的入口門戶，屬於一種著作權資訊匯集中心；只要涉及與著作權相關的內容作品，都可以加入此平台，不限於數位形式的內容作品，該平台並非要取代現有的市場機制，而係在促進現有的集體管理團體、作品登錄單位（Registry）以及跨領域之間有關著作權之交流。 二、平台的主要功能在於媒合權利端與利用端 平台主要提供的服務內容為協助利用端找尋合適的內容以及權利資訊，降低其在海量的數位世界裡搜尋的成本。即平台作為第三方的媒合者，協助兩端進行相關授權事務，利用人可透過該平台向權利人提出授權申請，或是由權利人向不特定或潛在的利用者提出授權的邀約。另外，透過平台的資訊彙整機制，也可降低授權的爭議，例如專屬授權的重疊，以及授權範圍的疑義等等。 三、平台透過數位權利管理資訊系統搭配管理碼達成目的 目前數位作品（Copyright Management System）已蔚為趨勢，因此該平台希望藉由多媒體識別網絡（Multimedia Identifier Network），在每一個數位作品加入一個管理碼，用以管理作品的權利資訊（包括授權內容等訊息）。此外，平台未來也會建立識別不同國際標準碼的機制，讓使用不同國際標準碼之作品在此平台上都能夠互相轉換或辨識。 目前數位著作授權平台（2013年七月初）已經成立，不難發現英國政府的企圖心，欲透過此一平台媒介進一步將英國的音樂、圖像、影音透網絡推廣到世界。從文化層面來說，係希冀透過該媒介再傳遞或散布英倫三島的文化，進而透過間接或直接產生經濟上的價值反饋。我國向來蓬勃發展的音樂產業、出版產業、以及近來興起的影音產業，在華語世界或是亞洲等，競爭力不亞於其他國家，甚至近來流行文化已經深入擴散到鄰近國家當中，我們如何透過科技媒介整合文創產業，進而增加經濟上的產值，英國政府的此種思維脈絡足堪借鏡。
美國田納西州《確保肖像、聲音和圖像安全法案》要求第三方若利用生成工具重製肖像、聲音或圖像應得本人之事前同意作為鄉村音樂發源地的美國田納西州，有著蓬勃的音樂產業，匯聚來自各路的表演藝術工作者，因而對相關從業者的個人公開權（Right of Publicity）保障尤為重視，早在1984年即制訂《個人權利保護法》（Personal Rights Protection Act），確保該權利不會因權利人死亡而消滅，屬於可由他人繼承之財產權，允許繼承人自由轉讓和授權，包含其姓名（Name）、肖像（Image）、形象（Likeness）之權利主張，但被繼承人之聲音仍不在權利主張的範疇。 惟現今AI深偽仿聲技術所生成之音樂亦可能侵害音樂人及藝術家的智慧財產權，因而於2024年3月21日由州長簽署《確保肖像、聲音和圖像安全法案》（Ensuring Likeness Voice and Image Security Act），簡稱貓王法案（ELVIS Act），該法案於3月7日獲得州議會兩黨一致支持，首度明確將個人公開權得主張之範圍擴及至表演者的聲音（NIL+V），其目的是為了應對AI生成音樂的突破性進展，以保護音樂創作人及表演藝術家之權利免受AI技術侵害，這是全美首部禁止他人未經授權使用或重製權利人的聲音以供訓練AI模型或生成深偽內容所制定的法律（註：加州雖已將聲音作為權利保護客體但非針對AI技術之侵害），明確規定第三人在未得本人之同意下，若意圖利用AI深偽技術生成經仿製、偽造或變造的圖片、影音、聲音等數位檔案，而後續冒用本人名義進行公開發表或公開演出詞曲創作人及表演藝術工作者之聲音或影像的行為，則須承擔相應的民事侵權行為責任，以及構成歸類在微罪的刑事犯罪，刑期最高可處11個月又29天的監禁或2,500美元以下的罰金，該法案預計於今年7月1日生效，且僅適用於在田納西州境內的工作者。 該法案所保護之主體除音樂創作人及表演藝術家外，亦包含動畫配音員及串流媒體盛行下廣播與網路節目的播音員（俗稱播客），以確保這類主要仰賴聲音維生的工作者能免於AI仿聲技術而減損其專業價值；另外若有與詞曲創作人或表演藝術工作者締結專屬合約之唱片公司或經紀公司亦為訴訟程序的適格當事人，可代理公司旗下的工作者尋求救濟管道；最後，若利用權利人的姓名（Name）、肖像（Image）、形象（Likeness）或聲音（Voice）屬於法案中列舉的合理使用行為，如基於公益目的、新聞播報、轉化性使用、偶然入鏡或著作之附帶性利用等，則應屬美國憲法第一修正案之保障範圍而非在該法案的規範射程。 除田納西州之外，美國尚有其他39個州提出或正在推動相似的法案，但全美目前仍欠缺統一性的立法；聯邦政府仍尚在研擬如何保護表演藝術工作者個人公開權的階段，日前在田納西州政府今年1月時提出貓王法案的草案後不久，由美國眾議院議員組成的跨黨派小組曾公佈《禁止人工智慧偽造和未經授權的重製法案》（或稱為《禁止人工智慧詐欺法案》），旨在推動建立聯邦層級的框架性立法，以確保個人的聲音或肖像權屬美國憲法第一修正案的保障範圍，而該提案據稱是針對美國參議院去年10月提出的《鼓勵原創、培育藝術和維繫安全娛樂法案》（或稱為《禁止仿冒法案》）的更新及補充，以維護公共利益，創造具有原創性、正當性及安全性的休閒娛樂環境。
基於專利動向分析之專利策略規劃基於專利動向分析之專利策略規劃 科技法律研究所 法律研究員 徐維佑 2014年12月23日 壹、專利布局策略目的 無論在企業針對新產品開發、或學研機構研究新興技術時，對於研究方向的判斷，皆應善加利用其他競爭公司、學研機構專利動向最新資訊。以各國專利資料庫為基礎，蒐集其他公司、機構的研究領域，或者與研發成果相關的專利等資料而成的專利地圖（patent map），可構築更完整的智財戰略。 欲將研究成果商業化時，販售排他性產品對於競爭非常重要。因此阻止其他公司製造仿冒品、類似品，甚至競爭品，或者防禦其他公司之侵權告訴，皆必須盡早制定對策，亦即必須掌握該技術領域的智財資訊，才能讓研發活動順利推展。 貳、各國政府公開之專利動向分析 一、英國國家專利藍圖分析報告 英國政府於2014年中，依續公告8大重要技術之專利藍圖分析報告[1]，認為專利資訊可提供創新活動高價值之分析觀點，因此該國智慧財產局資訊團隊，透過專利申請資訊分析出全球性專利藍圖，幫助其國內企業與民眾瞭解此8大重要技術專利資訊，並將分析結果納入資金挹注之考量基礎。 專利藍圖分析報告之資料，來源為2013年至2014年間全球專利資料庫中專利公開(Published)之資料，以及諮詢英國智財局各專業技術領域之專利審查員之結果。而專利藍圖分析報告之分析內容，包括專利涵蓋範圍、專利申請排名領先群、專利優先權期間、專利合作開發申請圖、專利技術分析等。 二、韓國R&D專利技術動向調查 韓國R&D專利技術動向調查制度自2005年開始，每年度由與研究發展相關的各部會針對其提出之研發工作，提供研發計畫執行階段中，所研發之技術是否已有先前技術，或是與研發技術類似之專利發展情況等資訊，即以該研發領域之技術不被其它國家競爭對手搶先獲得專利權的目標作為研究人員之研究方向。 而專利技術動向調查之研發課題則由韓國專利廳下韓國智慧財產策略院主管之「e專利國[2]」負責調查，提供專利分析結果的綜合報告，提供各部會與各領域別的專利動向、方向與及各種分析報告，內容包含有政府R&D專利技術動向調查報告、國家專利策略藍圖報告、以及專利分析與相關生產報告等。並根據以上報告提供技術領域別研發計畫方向、挑選出將來商業化運用價值較高之專利。 參、代結論 專利動向分析的資訊為一種判斷的依據，儘管由分析報告所顯示的技術範圍中，判斷要進行哪一種研究時，需要的是研究者的經驗與知識，但專利動向分析有助於篩選出可行的研究範圍，尤其在投入國家資源補助科研計畫時，資源更應有效應用於可行的技術領域，而非早已佈滿專利地雷處。 目前產業研發過程缺乏完善專利布局分析。實際生產產品之企業為避免侵權故意，常忽略申請前檢索工作；雖研究前或研究中調查之專利動向分析，並不能保證研究成果的可專利性，然而該工作對於國家、企業之研究發展實屬必要。透過如英國國家專利藍圖分析報告、韓國R&D專利技術動向調查，由國家公開技術領域共通性專利分析報告，對於企業後續進行技術專利布局，或者研究機構擬定研究發展方向，皆會有莫大的助益，並節省相當的時間與人力成本，值得我國參考。 [1] UK Intellectual Property Office, Eight great technologies: the patent landscapes (2014), https://www.gov.uk/government/publications/eight-great-technologies-the-patent-landscapes (last visited: 2014/10/01） [2] 韓國e專利國網頁， http://www.patentmap.or.kr/patentmap/front/common.do?method=main（最後瀏覽日：2014/10/01）。
把生物廢棄物變黃金—英國智庫建議政府應提供更多的財務協助當前科學家正極力從廢棄的生物物質（biomass）中，尋找可以做為燃料使用的資源（biofuel）。使用生物燃料的概念與全球氣候變遷以及石油價格一再攀高有關，生物燃料是指在不影響食物供應的前提下，使用木材、稻桿或麥桿、庭園廢棄物等作為第二代的燃料來源。不過在鼓勵發展生物燃料之餘，發展此一領域之技術卻亦有不可忽略的問題有待解決。 以英國為例，英國法律規定在2010年以前，英國政府必須確保所有公路運輸使用的燃料中，至少有5％是使用生物燃料；而最近英國的能源檢視報告則建議，在2015年前，此項生物燃料使用的門檻值應達10％。英國國家非食用作物研究中心（National Non-Food Crops Centre, NNFCC)近期也提出報告，指出英國每年農作收成後皆剩餘大量的小麥、甜菜，若能輔以更多的政府促進措施，例如租稅減免，則達成2010年5％的門檻指標，並非難事。不過若想要達成2015年10％的指標，英國政府則必須另外從國外進口生物燃料。 生物廢棄物的利用指的是把各地方的廢棄物以及非食用作物拿來轉化成為生物燃料。使用生物燃料最大的缺點是建置成本（start-up costs）過高，舉例來說，使用甜菜或黃豆來生產生質柴油（biodiesel）的成本，每英噸約為700至800歐元，其中把生物廢棄物液態化的過程（biomass to liquids (BTL) process），約需每英噸450至500歐元；而要建置一個第一代生物燃料廠乃至運作，其投資費用高達5千萬歐元，第二代生物燃料的生產所需建置成本，則可能為前述數字的五至十倍。有鑑於此，NNFCC透過經濟模式的運算，建議英國政府應對第二代生物燃料廠提供每公升至少35％的租稅減免優惠（目前英國政府僅給予每公升20％的租稅減免優惠），始能鼓勵民間部門進行相關投資。 另一項發展生物燃料的隱憂則是，由於生物燃料與食物的來源都是取自於自然界的同一資源，發展生物燃料是否反而可能造成食物與燃料的爭戰中，侵蝕自然界的資源，最後反而導致各種價格的上升。