用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國參眾議院於2020年12月2日通過《外國公司問責法》（Holding Foreign Companies Accountable Act），並於12月18日由總統簽署生效。該法要求所有查核美國公開發行公司的國內外會計師事務所，應根據美國證券交易法規，向「美國上市公司會計監督委員會」（Public Company Accounting Oversight Board, PCAOB）註冊並接受監督；若是該外國公司連續三年不配合PCAOB審查，將禁止該公司的證券在任何美國證券交易所掛牌交易。 2002年《沙賓法案》（Sarbanes-Oxley Act）授權PCAOB制訂審計準則；然而PCAOB在外國公司監管方面面臨挑戰，截至2020年9月，中國及香港共有17家在PCAOB註冊登記的會計師事務所，為203家公開發行中國公司簽署審計報告，總市值達1.6兆美元；但中資企業援引中國大陸證券交易法、國家秘密法、檔案法及「關於加強在境外發行證券與上市相關保密和檔案管理工作的規定」，要求工作底稿等檔案應存放於中國境內，若境外監理機關（例如美國PCAOB），欲對某間中國公司進行審計，則應事先向中國證監督管理委員會和主管部門報告並經批准後由雙方合作進行，藉此規避PCAOB檢查，已不當損害美國投資人利益；故本次國會通過《外國公司問責法》參考2020年7月「總統金融市場工作小組」（The President's Working Group on Financial Markets, PWG）發布的《保護美國投資者免受中國公司重大風險報告》（Report on Protecting United States Investors from Significant Risks from Chinese Companies），要求在美國上市的中國大陸公司，由PCAOB實施獨立監管，並查閱公司主要工作記錄及審計底稿，若不遵守規定，美國證券交易委員會（United States Securities and Exchange Commission, SEC）應要求該中國大陸公司從美國證交所下市；達到保護美國投資者、降低新興市場投資風險、提高證券交易所上市標準之目標。 此外，若公司所聘僱的會計師事務所在外國司法管轄區域內有辦公室或分支機構，而PCAOB無法對其進行有效監管，該公司即必須證明其不受外國政府所有或控制，並在審計報告中揭露以下資訊：（1）外國政府擁有註冊發行公司的股份百分比；（2）外國政府是否享有財務控制權；（3）與中國共產黨官員相關的任何訊息；（4）發行公司章程內是否載有中國共產黨工作事項等。
澳洲零售業承認雙價廣告具誤導性質寢具零售業者Snooze坦承，其於2008年10月所進行的「雙價標示」廣告活動中，將某些商品的價格以「原價 /現價」的形式加以呈現，此種行為可能誤導或欺騙消費者，而違反了貿易行為法（Trade Practices Act 1974, TPA）。 經澳大利亞公平競爭和消費者委員會（Australian Competition & Consumer Commission, ACCC）稽核Snooze的「雙價」廣告後，Snooze坦承此一活動中所標示之「原價」僅是參考公司內部所設定的建議零售價格，而不是於活動開始前在市場上經過一段合理銷售期間的真實價格。Snooze已同意對所有已知購買產品的客戶提供一封道歉信及50澳幣的購物禮券。 ACCC主委Graeme Samuel指出：「廣告中所出現的原價必須是先前於一段合理期間內實際所出售的真正價格。」基此，ACCC已提供最新的雙價廣告的規範指南，規範之宗旨在於，以此種廣告活動進行優惠行銷時，不得以比較價格之方式傳遞錯誤的訊息，該優惠必須是實質上的確對消費者有利之價格。而依據下列之標準可判斷廣告是否違反貿易行為法： 1.優惠方案必須真正有提供優惠：提供價格比較時，該較高的價格應為實際曾用以銷售之價格，且於考量所有相關因素後，仍得認為該優惠的確存在。而該優惠產品也必須是在高價時也很容易被取得之狀況，才能確保該優惠並非一誤導之行為。 2.優惠價格應為一暫時的價格：以「雙價」方式促銷時，該優惠價格存續之期間不得比原價更長，否則即有誤導消費者之嫌。 3.廣告中的較高價格乃為實際曾於一合理期間內之銷售價格：該較高價格不得從未或於過短期間內作為實際銷售之價格，而判斷何謂合理期間可參考下列三種因素：（1）預期該商品銷售的時間長度（2）商品價格之正常波動情形為何（3）「雙價」促銷活動的時間長短。
加州針對18歲以下兒童通過兒童隱私保護法加州州長Gavin Newsom 早先簽署了《加利福尼亞州適齡設計法》（California Age-Appropriate Design Code Act AB 2273，以下簡稱該法），2023年4月28日，倡議團體與聯邦政府官員提交一份意見陳述以支持該法，預計於2024年7月1日生效；針對提供線上服務、產品給18歲以下加州兒童的企業進行管制。 該法的適用範圍： 1. 倘若企業提供的線上服務、產品或功能符合以下條件，則受該法所規範： (1) 提供服務的對象為兒童（年齡於13歲以下的孩童）之網路服務商。 (2) 所提供之服務包括兒童經常瀏覽的網站，或者確定是廣泛被兒童使用的線上服務、產品或功能。 2. CPRA（California Privacy Rights Act）所規範之「企業」，是位於加州並蒐集加州居民個人資料的營利性組織，其須滿足以下條件之一： (1) 年度總收入超過 25,000,00美元，或是每年單獨或聯合購買、出售或共享100,000名以上加州居民或家庭的個人資料，或者年收入的50％以上來自出售或共享加州居民的個人資料。 (2) 該法不適用於網路寬頻服務、電信服務或實體買賣行為。 一. 規範內容 1. 資料保護影響評估：企業針對所營事業須完成資料保護評估，且必須每兩年自主進行資料安全確認。 2. 最高級別隱私權設置：企業對於兒童使用者，須預設最高等級之隱私權設置及保護。 3. 隱私政策和條款：企業必須簡明的提供隱私政策、服務條款和明確標準，並使用與兒童年齡相符的清晰語言，以便兒童理解語意。 (1) 將兒童依據年紀分為：0至5歲為「早期識字階段」、6至9歲為「核心小學階段」、10至12歲為「過渡階段」、13歲以上為「早期成年階段」。 (2) 定位服務：要求企業在兒童的活動或位置受到父母、監護人或其他消費者的監控或追蹤時，向兒童明確提醒。 該法針對兒童制定嚴謹的法規予以保護，確保兒童個人資料不會在沒有認知的情況下，因使用服務而被蒐集、處理及利用。該法特殊的地方為，對於未成年人進一步區分不同年齡段，若有明確區分出並針對各年齡段進行不同的告知事項設計，將更易使閱讀之未成年人明確了解個資告知內容，應值贊同。
中國大陸商業特許經營相關法律法規分析中國大陸商業特許經營相關法律法規分析 科技法律研究所 法律研究員 汪奇蕙 2015年03月20日 連鎖加盟（中國大陸稱商業特許經營）在台灣或許已經是一種發展成熟的商業模式，對於中國大陸而言，則是上世紀80年代經濟改革之後才始見，相對於台灣市場或世界其他先進經濟體，中國大陸起步較晚，但是發展快速。眼見連鎖加盟行業在中國大陸的發展時機越趨成熟，台商界也掀起連鎖加盟的熱潮。 但在秩序相對混亂、競爭相對激烈的中國大陸市場，經營面向的風險也許難以預先掌控，但是複雜的相關政策和規定則是要前往該地投資的台商必須正視並且了解的，本文提供商業特許經營（以下簡稱特許經營）相關法規的分析，期待在發展商業之餘，台資特許人可以更敏銳的維護自身權利。 壹、主管法律法規 2007年開始，中國大陸第一部特許經營專門法令《商業特許經營管理條例》（以下簡稱《管理條例》）以及配套的《商業特許經營備案管理辦法》（以下簡稱《備案管理辦法》）、《商業特許經營信息披露管理辦法》（以下簡稱《信息披露管理辦法》）由國務院及其下屬機關陸續頒布施行，讓中國大陸連鎖加盟的法令更加完善。 《管理條例》中介紹有關中國大陸政府對特許經營的定義內容，特許經營權的內容是指特許人擁有或有權授予他人使用註冊商標、企業標誌、專利、專有技術等經營資源[1]。註冊商標、企業標誌或商號是表彰該特許經營事業的品牌，具有讓消費者迅速辨識獨特商品或服務的商業利益；專利、專有技術(包含管理系統及特定商業模式)則是支持商品或服務內容具有獨特性、競爭力的特許經營事業技術。 《管理條例》對於特許人的資格條件、特許經營事業備案、特許合同內容要件、特許人的信息披露義務以及特許人違反該條例的罰則皆有概括的規範。《備案管理辦法》、《信息披露管理辦法》也是在上位的《管理條例》法規授權下逐步生成，成為具體行政施行的準則。 貳、關於特許人資格 依照《管理條例》規定，特許人資格條件有二個方面需要具備。 一、只有企業法人有資格成為特許人。 企業以外的單位和個人都不能成為特許人[2]。 二、特許人必須有成熟的經營模式[3]。 特許人在發展加盟以前應當至少擁有2個直營超過1年的直營店。而且特許人要具備持續提供被特許人經營指導、技術支持和業務培訓等服務能力，上述各種能力，特許人在備案過程將被要求提供證明文件，比如備案時特許人要提交與經營活動相關的商標權、專利權有效的註冊證書；此外，《信息披露管理辦法》中要求特許人要事先披露擁有的經營資源情況和持續提供被特許人服務的情況[4]。 參、關於特許合同要件[5] 以下為《管理條例》所列舉的合同要件及簡要說明： 一、特許人、被特許人的基本資訊 如雙方地址、連絡方式、公司註冊號碼等。 二、特許經營的內容、期限 特許人持有的特許經營系統、經營範圍介紹，特許人授予被特許人的特許經營權性質（單店特許或區域特許[6]），被特許人的特許經營活動和範圍限制（營業地及加盟店介紹、被授予的特許經營權是否具有獨占性或排他性），特許經營合同的期限[7]以及可續期條件等。 三、特許經營費用的種類、金額及其支付方式 加盟費用、保證金、其他約定費用及雙方約定分攤費用的支付比例（如房地產和裝修費用、設備等購置費；管銷費用等），支付方式及收取後的確認方式。 四、經營指導、技術支持以及業務培訓等服務的具體內容和提供方式 約定被特許人是否有義務要接受特許人定期或不定期的經營活動指導、檢查，以利整體特許經營事業的統一性發展。 五、產品或服務的質量、標準要求和保證措施 特許人可依產品或服務的性質自己建立品管的標準要求。 六、產品或者服務的促銷與廣告宣傳 是否允許被特許人自行策劃，以及其可從事推廣或宣傳活動的範圍。 七、特許經營中的消費者權益保護和賠償責任的承擔 約定雙方因故意或過失造成消費者權益受損或整體特許經營事業所受損失（包含商譽損失）的責任承擔。 八、特許經營合同的變更、解除和終止 被特許人是否可以轉讓特許經營內容及合同義務，及可以轉讓的條件（如事前通知期）。建議特許人要保留因被特許人自行對消費者提供瑕疵產品或服務以至於消費者對特許人求償損失的追索權利，以及因被特許人故意或過失造成整體特許經營事業所受損失（包含商譽損失）的求償權利。 九、違約責任 約定雙方違反合同條款約定行為的法律後果。 十、爭議的解決方式 雙方有爭議時的調解管道，以及若欲訴訟，約定訴訟管轄地等。 肆、關於特許經營事業備案[8] 為加強對特許經營行業的管理，協助潛在被特許人了解該特許事業的基本資訊，《管理條例》設立了事後備案的監管制度。 特許人應自首次訂立合同之日15日內向商務主管部門備案。應向特許人所在地的省、自治區、直轄市政府的商務主管部門備案。跨省的特許經營事業應該向國務院商務部備案。 中國大陸目前已啟用網路備案方式以加快備案手續及效率，特許人登錄國務院商務部主管的《中國商業特許經營網》[9]註冊後，將註冊完成的特許人信息表和相關紙本文件[10]帶到當地備案管理部門[11]進行審核，審核通過後備案管理部門會發給特許人備案系統登錄帳號和登錄密碼。特許人登錄在《中國商業特許經營網》的特許經營備案系統後，可以在網路上進行《備案管理辦法》中規定的資料填寫或電子檔案的上傳工作。 伍、關於特許經營信息披露 除了對特許人資格的具體規定以及建立事後審查制度，中國大陸對於特許經營關係中，授權方特許人應該於特許經營關係成立前應揭露給被特許人知悉的相關資訊也有明確的規範，此種規範除了保障被授權人可在資訊透明的條件下做出商業決策，當特許人的特許資料登錄於信息披露網站，也有助於潛在投資人對於該商業規劃的了解，間接促進了整體特許經營行業的能見度和活躍性。 根據《信息披露管理辦法》的規定，特許人在訂立特許經營合同前至少30日應以書面形式向被特許人提供有關資訊和特許經營合同文本。 對於違反特許經營信息披露的特許人，除依《管理條例》第27條規定受行政罰則外，依《管理條例》第23條規定，特許人隱瞞有關訊息或提供虛偽不實訊息的，被特許人享有法定解除權。 法律實務中，法院會綜合考量特許人所隱瞞的程度或者所提供的虛偽不實訊息的重要性、與事實的差異性來區分是惡意詐欺還是商業話術，盡可能維護特許經營合同的穩定性，避免被特許人一旦經營失敗就把全部責任轉嫁給特許人[12]。 陸、特許經營合同知識產權授權特別注意要點 特許經營事業中以知識產權（智慧財產權）的授權為主要內容，應在特許經營合同中一併約定使用條件，特許人應以事前具體約定方式完整保護知識產權及特許經營事業。 一、約定具體的特許經營範圍 特許經營權的授予是屬於單店特許或是區域特許，單店特許者應明定單店資訊，區域特許者應界定區域範圍（如城市、省名）。 特許經營權的授予是否具有獨占性、排他性、非排他性。被特許人可否自行再設立其他分店或以特許人身分再授予第三方。 二、約定知識產權的使用方式 被特許人須依特許人的要求來使用特許經營資源，如商標的使用方式、使用位置，可以用特許人的經營手冊加以細化。 三、約定知識產權授權後被特許人的義務 被特許人以特許人授予的知識產權開展經營後，應當盡的品質保證、品質監督義務。特許經營合同中除概括被特許人監督產出責任外，也可以列舉方式約定被特許人的監督義務，例如被特許人應監督其雇用人員按照特許人約定的方式出產商品或服務、定期向特許人提出產品質量檢查報告。 四、約定特許人監督特許經營事業的權利 除了被動等待被特許人提交經營報告（可包含營業狀況以及財報），特許合同應保留特許人主動對特許經營事業進行檢查、監督、考核的權利，並要求被特許人在合約期間應執行特許人檢查考核後的跟營業相關的決策。 五、約定合同到期後的被特許人使用特許經營資源的狀況 約定特許經營關係結束後，被特許人是否能再以特許人加盟店的形式進行商業活動，包含被特許人是否應向原註冊機關進行註銷登記（如註銷營業執照或變更企業名稱），是否能再使用特許人商標。 另外，因特許經營權授予而獲得的商標以外的相關知識產權（如手冊、培訓教案、軟體等）也應約定是否還能繼續使用。 柒、結論 特許經營事業的成功，除取決於特許人法律法規的掌控，對各項與特許資源相關的知識產權的保護也是維持特許事業穩定成長的重要策略。中國大陸政府因為特許經營事業的特殊性而制定特別的法律及行政規則，期待本文對特許經營法律法規的介紹以及相關知識產權授權應留意的面向建議能對有意前往對岸投資的台資特許人產生實質幫助。 [1]《商業特許經營管理條例》第3條（中國國務院令第485號2007.02.06）。 [2]《商業特許經營管理條例》第3條（中國國務院令第485號2007.02.06）。 [3]《商業特許經營管理條例》第7條（中國國務院令第485號2007.02.06）。 [4]《商業特許經營信息披露管理辦法》 第5條（中華人民共和國商務部令2012年第2號2012.02.23）。 [5]《商業特許經營管理條例》第11條（中國國務院令第485號2007.02.06）。 [6]指特許人授予的特許經營權是僅限於單一加盟店使用或是某一地理區域內可成立數個加盟店。 [7]《商業特許經營管理條例》第13條 規訂合同約定的特許經營期限應該不少於3年，但雙方如有其他約定，可以在合同中註明，即只需雙方合意就可更改特許經營期限。 [8]《商業特許經營管理條例》第8條（中國國務院令第485號2007.02.06）。 [9]主頁，中國商業特許經營網http://txjy.syggs.mofcom.gov.cn/ 。 [10] 各地方主管機關要求的紙本文件可能不一。 [11] 當地的商務委員會。 [12] 王樹章、吳平平，《關於商業特許經營合同審判實踐若干問題的調研報告》，知識產權庭課題組，頁9。