用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
德國政府於今（2020）年4月提出「網路執行法」(Network Enforcement Act, NetzDG)之修法草案，將要求社群平台業者提供對使用者更為友善的申訴流程，並建立及維護「反通報程序」機制，讓使用者有機會針對其被平台刪除之貼文或評論提出反對意見，並得重新發佈於社群平台上。 德國於2018年1月起正式施行「網路執行法」，針對在德國境內擁有200萬以上使用者之社群平台業者，課予其限時處理平台上不實及不當言論之義務，並須提交其處理平台上相關言論之報告，若平台業者未能有效執行相關規定者將處以罰鍰。該法施行兩年後引發諸多批評與爭議，雖然並未如社會大眾所憂慮的對於網路言論自由造成重大侵害，亦無證據顯示社群平台業者比施行前刪除了更多的使用者評論；然該法僅要求平台業者刪除不實或不當言論，對於被誤刪之言論，卻未有相關事前預防或事後救濟之措施。為試圖改善原法規執行上之困境和兩難，德國政府遂於今年4月提出修法草案。 此次修法主要重點如下： 強化平台使用者權利 倘使用者於平台發佈之評論遭平台刪除者，使用者未來得要求平台重新檢視此決定，平台須依個案處理並向使用者釋明其決定理由，據此，平台業者須引入反通報程序之機制(counter-notification procedure)。 提升申訴管道之使用者友善性 申訴程序須更為使用者友善，即必須讓平台使用者更容易進入與使用。 簡化法院核發命令程序 未來將同步修訂聯邦電視媒體法案（Telemediengestez），以利法院核發命令，要求平台業者公布數據或揭露犯罪者身分。 加強每半年公布之透明報告資訊 平台業者未來在半年報上須特別提供有關反通報程序之申請與結果，並揭露說明用於查找、刪除平台上不實或不當內容的自動化程序；亦須在報告裡聲明是否授權獨立研究機構以科學目的之匿名訪問權限，了解與研析平台上之不實或不當言論是否有特別針對特定群體。 此修正草案係為德國政府打擊網路上右翼極端主義和仇恨犯罪的政策措施一部份，後續除了須修訂NetzDG以外，亦包含刑法、刑事訴訟法、電信法及聯邦刑事警察局法等四部法規之修訂，相關規範修訂是否有助於刑事起訴進而有效打擊平台上的不當言論，尚有待後續觀察。
美國白宮發佈「AI應用監管指南」十項原則美國白宮科技政策辦公室（Science and Technology Policy, OSTP）在2020年1月6日公布了「人工智慧應用監管指南（Guidance for Regulation of Artificial Intelligence Applications）」，提出人工智慧（AI）監管的十項原則，此份指南以聯邦機構備忘錄（Memorandum for the Heads of Executive Departments and Agencies）的形式呈現，要求政府機關未來在起草AI監管相關法案時，必須遵守這些原則。此舉是根據美國總統川普在去（2019）年所簽署的行政命令「美國AI倡議」（American AI Initiative）所啟動的AI國家戰略之一，旨在防止過度監管，以免扼殺AI創新發展，並且提倡「可信賴AI」。 這十項原則分別為：公眾對AI的信任；公眾參與；科學誠信與資訊品質；風險評估與管理；效益與成本分析；靈活性；公平與非歧視；揭露與透明；安全保障；跨部門協調。旨在實現三個目標： 一、增加公眾參與：政府機關在AI規範制定過程中，應提供公眾參與之機會。 二、限制監管範圍：任何AI監管法規實施前，應進行成本效益分析，且機關間應溝通合作，建立靈活的監管框架，避免重複規範導致限制監管範圍擴大。 三、推廣可信賴的AI：應考慮公平性、非歧視性、透明性、安全性之要求，促進可信賴的AI。 這份指南在發佈後有60天公開評論期，之後將正式公布實施。白宮表示，這是全球第一份AI監管指南，以確保自由、人權、民主等價值。
歐盟擬大幅調降文字簡訊傳輸費用歐盟執委會電信委員Viviane Reding提出一項擴大手機漫遊簡訊計畫（cross-border text messages plans），主要內容系將目前平均一通49美分的漫遊文字簡訊傳輸調降70%以下。在確定這項政策可以獲得歐盟民意的支持後，新的正式立法計畫將在2008年秋天完成，經過歐盟政府與歐盟議會同意後，預計於2009年的夏天實施這項新政策。 雖然丹麥建議以4.2美分作為零售文字漫遊簡訊的價格上限，但是在徵詢各方意見後，電信委員會最後仍然決定以12美分做為文字漫遊簡訊的價格上限。除此之外，依據電信委員會的消息指出，文字漫遊簡訊的批發價上限也將可能調降在4到8美分之間。 有業者表示，歐盟電信委員會增加對於電信費率的價格管制，將會降低業者研發新服務的意願。但是，歐盟電信委員會認為業者的主張，並不能構成文字簡訊費率上限政策施行的阻礙。 由於文字簡訊的市場已經成熟，業者在此項服務的獲利上已相當穩定，因此透過合理的價格上限，可以讓消費者有更符成本的漫遊文字簡訊服務，同時業者也能持續在此項服務上獲利。但是反觀資料傳輸尚處於萌芽階段，因此電信管制者與系統業者皆認為目前就漫遊的資料傳輸進行價格上限管制尚不適宜。 另外，Reding於2007年曾提議對於歐洲漫遊語音通話的價格進行上限管制，此項電信費率政策受到習慣於暑假進行跨國旅遊的歐盟居民的歡迎，Reding表示此項於2009年到期的政策極可能再延長三年至2012年。
基於專利動向分析之專利策略規劃基於專利動向分析之專利策略規劃 科技法律研究所 法律研究員 徐維佑 2014年12月23日 壹、專利布局策略目的 無論在企業針對新產品開發、或學研機構研究新興技術時，對於研究方向的判斷，皆應善加利用其他競爭公司、學研機構專利動向最新資訊。以各國專利資料庫為基礎，蒐集其他公司、機構的研究領域，或者與研發成果相關的專利等資料而成的專利地圖（patent map），可構築更完整的智財戰略。 欲將研究成果商業化時，販售排他性產品對於競爭非常重要。因此阻止其他公司製造仿冒品、類似品，甚至競爭品，或者防禦其他公司之侵權告訴，皆必須盡早制定對策，亦即必須掌握該技術領域的智財資訊，才能讓研發活動順利推展。 貳、各國政府公開之專利動向分析 一、英國國家專利藍圖分析報告 英國政府於2014年中，依續公告8大重要技術之專利藍圖分析報告[1]，認為專利資訊可提供創新活動高價值之分析觀點，因此該國智慧財產局資訊團隊，透過專利申請資訊分析出全球性專利藍圖，幫助其國內企業與民眾瞭解此8大重要技術專利資訊，並將分析結果納入資金挹注之考量基礎。 專利藍圖分析報告之資料，來源為2013年至2014年間全球專利資料庫中專利公開(Published)之資料，以及諮詢英國智財局各專業技術領域之專利審查員之結果。而專利藍圖分析報告之分析內容，包括專利涵蓋範圍、專利申請排名領先群、專利優先權期間、專利合作開發申請圖、專利技術分析等。 二、韓國R&D專利技術動向調查 韓國R&D專利技術動向調查制度自2005年開始，每年度由與研究發展相關的各部會針對其提出之研發工作，提供研發計畫執行階段中，所研發之技術是否已有先前技術，或是與研發技術類似之專利發展情況等資訊，即以該研發領域之技術不被其它國家競爭對手搶先獲得專利權的目標作為研究人員之研究方向。 而專利技術動向調查之研發課題則由韓國專利廳下韓國智慧財產策略院主管之「e專利國[2]」負責調查，提供專利分析結果的綜合報告，提供各部會與各領域別的專利動向、方向與及各種分析報告，內容包含有政府R&D專利技術動向調查報告、國家專利策略藍圖報告、以及專利分析與相關生產報告等。並根據以上報告提供技術領域別研發計畫方向、挑選出將來商業化運用價值較高之專利。 參、代結論 專利動向分析的資訊為一種判斷的依據，儘管由分析報告所顯示的技術範圍中，判斷要進行哪一種研究時，需要的是研究者的經驗與知識，但專利動向分析有助於篩選出可行的研究範圍，尤其在投入國家資源補助科研計畫時，資源更應有效應用於可行的技術領域，而非早已佈滿專利地雷處。 目前產業研發過程缺乏完善專利布局分析。實際生產產品之企業為避免侵權故意，常忽略申請前檢索工作；雖研究前或研究中調查之專利動向分析，並不能保證研究成果的可專利性，然而該工作對於國家、企業之研究發展實屬必要。透過如英國國家專利藍圖分析報告、韓國R&D專利技術動向調查，由國家公開技術領域共通性專利分析報告，對於企業後續進行技術專利布局，或者研究機構擬定研究發展方向，皆會有莫大的助益，並節省相當的時間與人力成本，值得我國參考。 [1] UK Intellectual Property Office, Eight great technologies: the patent landscapes (2014), https://www.gov.uk/government/publications/eight-great-technologies-the-patent-landscapes (last visited: 2014/10/01） [2] 韓國e專利國網頁， http://www.patentmap.or.kr/patentmap/front/common.do?method=main（最後瀏覽日：2014/10/01）。