用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國聯那通訊委員會 (Federal Communications Commission, FCC)在本月十四日公佈了一份有關「商業頻譜加強法案(Commercial Spectrum Enhancement Act, CSEA)」的執行命令與法規預訂修正通知(Declaratory Ruling and Notice of Proposed Rule Making)。希冀能制訂一定的行政規則而確切地遵照CSEA的規範；同時，FCC也在文件報告中也提出了一些對於目前競價拍賣規則的相關修正意見。 最初在 CSEA法案中設計了頻譜的拍賣收益機制，主要係補償聯邦機構在一些特定頻率(216-220 MHz, 1432-1435 MHz, 1710-1755 MHz, and 2385-2390 MHz)中，以及一些從聯邦專屬使用區重新定頻到非專用區的頻率，因移頻所支應出的必要成本。而在FCC的公佈報告中，委員會認為惟有定義清楚，方能有效地落實該法的執行。因此FCC詳細解釋說明了CSEA中對於「總體現金收益(total cash proceeds)」的意義，FCC認為所謂的總體現金收益應該是原始獲標的價格扣除掉任何有可能的折扣或扣損；同時，FCC也在預定修正公告中，認為應改變委員會的拍賣價格規定以配合CSEA的規定。另外，也修正了部落地的拍賣信用補償制度(Tribal Land Bidding Credit Rule)等規定。
Rambus再興訟 南亞科、華亞挨告美國記憶體設計司Rambus1月25日向美國北加州地方法院提出侵權告訴，指控Hynix、南亞科技、華亞科技、英飛凌等四家DRAM廠，涉嫌侵犯Rambus的DDR2記憶體、GDDR2及GDDR3繪圖卡用記憶體等共18項專利。南亞科副總經理白培霖表示，還不了解Rambus實際的指控內容，一切仍在了解中。 Rambus三年前推出RDRAM並獲得英特爾支持成為次世代主流產品，但因當時DRAM廠基於成本考量，決定支持DDR規格，所以Rambus後來不得不被迫退出標準型DRAM市場。然因Rambus擁有多項記憶體專利，目前主要產品獲得新力PS遊戲機採用，所以大部份營收來源均來自於權利金收入，去年Rambus營收約1億4500萬美元，其中的1億2000萬美元就是權利金收入。 由於Rambus前年就宣佈研發出DDR2產品，隨著今年英特爾力推新款支援DDR2晶片組，全球DRAM廠均投入DDR2生產，因此Rambus再度興訟，控告Hynix、南亞科技、華亞科技、英飛凌等四家DRAM廠，侵犯其 DDR2及GDDR2、GDDR3等記憶體共18項專利。 對於被Rambus控告一事，南亞科技及華亞科技提出說明。白培霖說，南亞科及Rambus一直就二家製程技術洽談相互授權事宜，內容包括DDR2及繪圖卡用記憶體GDDR3等，但目前為止雙方還沒有達成相互授權協議，自然也沒有權利金支付問題，由於南亞科目前還沒收到起訴書，不知道Rambus提出的控訴內容為何，因此一切有待再進一步了解後再行說明。除了此次的Rambus控告南亞科侵權，去年日本半導體大廠瑞薩科技（Renesas）也三度對南亞科技提出侵權控告，瑞薩除了指出南亞科技侵犯其記憶體製程、設計、封裝等專利權外，去年十月底還向東京地方法院提出申請，將對南亞科技日本子公司進口、銷售DRAM行為進行假處份（Preliminary Injunction）。 對於國際大廠不斷針對南亞科提出侵權告訴，南亞科技表示，與瑞薩在日本、美國的專利權官司，至今還在上訴審理階段，南亞科已經提出資料證明，至於Rambus此次提出的侵權告訴，現在還在了解中，但南亞科的立場，會尊重每家半導體廠的專利權，不會有任何侵權的行為。
美國管理不實施專利主體立法進程與趨勢美國管理不實施專利主體立法進程與趨勢 科技法律研究所 法律研究員 劉憶成 2015年07月30日 壹、不實施專利主體概述 「不實施專利主體（non-practicing entity, 以下簡稱NPE）」乃是一個中性的名詞，NPE一方面可促進專利技術交易市場的活絡，但另一方面也有NPE不以活絡專利技術交易市場為目的，而是透過以低價購買專利成為專利權人，並據以行使《專利法》上之權利，投機性地靜待商品製造者投入不可回復之鉅額投資後，始對該商品製造者行使專利侵權主張，對於後者有人將其稱之為「Patent Troll」（中文有譯為「專利巨人」、「專利蟑螂」、「專利流氓」、「專利地痞」或「專利恐怖份子」等等，以下統譯為「專利地痞」）。 專利地痞藉由有問題的專利申請範圍恐嚇企業並勒索和解金的案例激增，對美國造成數十億美元的經濟耗損並且破壞了美國的創新，其橫行的技術領域以智慧型手機及其他消費性電子產品為最。根據加州舊金山的專利顧問公司RPX所作的研究，至2014年，美國專利侵權訴訟中有63%的訴訟是由專利地痞所提起，而受害公司花費在法律費用、和解或判決的費用約122億美元。因此如何降低專利訴訟的成本、降低無效專利的數量及提升專利權的授予品質都成為美國的重要政策目標。 貳、美國政府的對應措施 為了解決專利地痞所帶來的問題，美國早在2011年由國會通過《萊希-史密斯美國發明法（Leahy-Smith America Invents Act of 2011），以下簡稱AIA》，該法並於2012年生效。其目的在於透過改善美國專利制度，包括為發明人提供專利處理程序的快速通道、採取重要步驟來降低專利案件的積壓及提升美國人在國外保護其智慧財產權的能力等等。 不過，專利地痞所帶來的挑戰依舊，特別是專利地痞提出侵權訴訟之成本與被控侵權公司為了防禦所付出的成本之間不具對稱性，這使得專利地痞有機會以和解取得利益。因此，2013年美國政府曾向其國會提出立法七項建議，也祭出五項行政措施，使專利制度更具有透明性，並為發明者創造一個公平競爭的環境。 參、美國國會積極立法 對此，美國開始了多項進一步管理專利地痞的立法進程。以下將就2015年美國國會針對專利地痞所提出之法案進行介紹。 （一）新版創新法案（the Innovation Act） 本法案2015年2月5日送入美國眾議院審議，其法案接續2011年的「美國發明法案」（the American Invents Act，AIA），企圖進一步解決專利地痞濫用訴訟之難題，其中重要條款包括：由敗訴方負擔律師費、提高專利訴訟的成案基準（pleading standard）、專利權人揭示制度、客戶中止訴訟程序等等。 （二）警告函透明法案（Demand Letter Transparency Act of 2015） 美國眾院於2015年4月20日提出《警告函透明法案》，該法案首先要求美國專利與商標局（USPTO）建立一個公開可查詢的警告函資料庫，然後要求大量寄發侵害警告函的行為人必須透過這個資料庫對USPTO揭露其行動，同時侵害警告函的內容也必須記載這些資訊，使收信人能夠公平得知。 （三）保護美國人才與企業法案 美國參議院於2015年4月底針對抗衡美國patent troll提出法案，該法案名為《the Protecting American Talent and Entrepreneurship （PATENT） Act》。希望能制止美國近年來濫用美國專利制度，所造成許多不必要之專利訴訟案件等情形。美國眾議院於2015年5月底又針對PATENT Act法案作出修正，希望在打擊專利地痞的同時，又不至於而造成專利權人濫用AIA的保護。 肆、結論 為了解決專利地痞的問題，美國政府分別從立法及行政措施著手，依據美國歐巴馬總統的建議，不論是美國政府或是美國國會，刻正積極雙管齊下透過各項行政手段，例如修改專利相關規則，或者透過國會立法方式，對專利地痞進行規制。其實，專利地痞不僅橫行於美國，其亦在許多國家從事相關活動，故美國相關行政措施與立法，勢必成為各國在解決專利地痞問題時的重要參考依據，因此美國各項法案的後續發展，都值得吾人繼續關注。
加拿大CRTC制訂無線通訊服務契約之準則加拿大廣播電視和電信委員會（Canadian Radio-television and Telecommunications Commission，CRTC）將制訂新的準則，規範關於加拿大電信業者無線通訊服務契約之條款內容，所謂的無線通訊服務包含行動電話以及其他個人行動裝置，該準則之制訂並將透過網路諮詢收集公眾意見。 在多數的國家，無線服務已經與民眾日常生活密不可分，但難以理解的契約文字、有問題的條款、高昂的漫遊費用或繁重的契約解除費用等事項，時常是消費者對無線通訊服務抱怨的來源。加拿大無線通訊協會（Canadian Wireless Telecommunications Association，CWTA）曾在2009年推出一個業者自律的行為守則，在沒有政府管制的前提下，希望能提供較好的消費者保護。 然而由於加拿大各地方政府的消保規範不一致，除了對消費者權益保護不足外，相關無線通訊業者也感到難以遵行，因此於2012年3月呼籲應由中央管制機關制訂統一的規範。2012年10月，CRTC審視無線通訊市場，認為服務契約條款內容對民眾確實影響重大，許多加拿大民眾表示，對行動電話或其他個人行動服務的許多契約內容感到困惑，如去年（2011），消費者有關無線通訊服務的投訴量，即相當於其他電信服務之總和。故CRTC決定制定具有約束力的準則，幫助消費者選擇無線通訊服務。 本次CRTC邀請加拿大民眾透過網路討論以下問題： 關於無線服務契約之準則應該包含哪些內容？ 有關的業者違反準則時，應如何投訴解決呢？ 無線服務契約準則應如何推動及審查，以確保其能正常運作呢？ 對此，CRTC主席Jean-Pierre Blais表示：「我們希望加拿大民眾參加網路討論，表達對於無線服務契約準則之意見，例如如何使服務契約能更清晰、更容易理解等。」在這份準則制訂完成後，將提供無線通訊服務之業者在制訂服務條款時，有一個明確的、一貫的遵循內容。