用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
中國大陸商業特許經營相關法律法規分析 科技法律研究所 法律研究員 汪奇蕙 2015年03月20日 連鎖加盟（中國大陸稱商業特許經營）在台灣或許已經是一種發展成熟的商業模式，對於中國大陸而言，則是上世紀80年代經濟改革之後才始見，相對於台灣市場或世界其他先進經濟體，中國大陸起步較晚，但是發展快速。眼見連鎖加盟行業在中國大陸的發展時機越趨成熟，台商界也掀起連鎖加盟的熱潮。 但在秩序相對混亂、競爭相對激烈的中國大陸市場，經營面向的風險也許難以預先掌控，但是複雜的相關政策和規定則是要前往該地投資的台商必須正視並且了解的，本文提供商業特許經營（以下簡稱特許經營）相關法規的分析，期待在發展商業之餘，台資特許人可以更敏銳的維護自身權利。 壹、主管法律法規 2007年開始，中國大陸第一部特許經營專門法令《商業特許經營管理條例》（以下簡稱《管理條例》）以及配套的《商業特許經營備案管理辦法》（以下簡稱《備案管理辦法》）、《商業特許經營信息披露管理辦法》（以下簡稱《信息披露管理辦法》）由國務院及其下屬機關陸續頒布施行，讓中國大陸連鎖加盟的法令更加完善。 《管理條例》中介紹有關中國大陸政府對特許經營的定義內容，特許經營權的內容是指特許人擁有或有權授予他人使用註冊商標、企業標誌、專利、專有技術等經營資源[1]。註冊商標、企業標誌或商號是表彰該特許經營事業的品牌，具有讓消費者迅速辨識獨特商品或服務的商業利益；專利、專有技術(包含管理系統及特定商業模式)則是支持商品或服務內容具有獨特性、競爭力的特許經營事業技術。 《管理條例》對於特許人的資格條件、特許經營事業備案、特許合同內容要件、特許人的信息披露義務以及特許人違反該條例的罰則皆有概括的規範。《備案管理辦法》、《信息披露管理辦法》也是在上位的《管理條例》法規授權下逐步生成，成為具體行政施行的準則。 貳、關於特許人資格 依照《管理條例》規定，特許人資格條件有二個方面需要具備。 一、只有企業法人有資格成為特許人。 企業以外的單位和個人都不能成為特許人[2]。 二、特許人必須有成熟的經營模式[3]。 特許人在發展加盟以前應當至少擁有2個直營超過1年的直營店。而且特許人要具備持續提供被特許人經營指導、技術支持和業務培訓等服務能力，上述各種能力，特許人在備案過程將被要求提供證明文件，比如備案時特許人要提交與經營活動相關的商標權、專利權有效的註冊證書；此外，《信息披露管理辦法》中要求特許人要事先披露擁有的經營資源情況和持續提供被特許人服務的情況[4]。 參、關於特許合同要件[5] 以下為《管理條例》所列舉的合同要件及簡要說明： 一、特許人、被特許人的基本資訊 如雙方地址、連絡方式、公司註冊號碼等。 二、特許經營的內容、期限 特許人持有的特許經營系統、經營範圍介紹，特許人授予被特許人的特許經營權性質（單店特許或區域特許[6]），被特許人的特許經營活動和範圍限制（營業地及加盟店介紹、被授予的特許經營權是否具有獨占性或排他性），特許經營合同的期限[7]以及可續期條件等。 三、特許經營費用的種類、金額及其支付方式 加盟費用、保證金、其他約定費用及雙方約定分攤費用的支付比例（如房地產和裝修費用、設備等購置費；管銷費用等），支付方式及收取後的確認方式。 四、經營指導、技術支持以及業務培訓等服務的具體內容和提供方式 約定被特許人是否有義務要接受特許人定期或不定期的經營活動指導、檢查，以利整體特許經營事業的統一性發展。 五、產品或服務的質量、標準要求和保證措施 特許人可依產品或服務的性質自己建立品管的標準要求。 六、產品或者服務的促銷與廣告宣傳 是否允許被特許人自行策劃，以及其可從事推廣或宣傳活動的範圍。 七、特許經營中的消費者權益保護和賠償責任的承擔 約定雙方因故意或過失造成消費者權益受損或整體特許經營事業所受損失（包含商譽損失）的責任承擔。 八、特許經營合同的變更、解除和終止 被特許人是否可以轉讓特許經營內容及合同義務，及可以轉讓的條件（如事前通知期）。建議特許人要保留因被特許人自行對消費者提供瑕疵產品或服務以至於消費者對特許人求償損失的追索權利，以及因被特許人故意或過失造成整體特許經營事業所受損失（包含商譽損失）的求償權利。 九、違約責任 約定雙方違反合同條款約定行為的法律後果。 十、爭議的解決方式 雙方有爭議時的調解管道，以及若欲訴訟，約定訴訟管轄地等。 肆、關於特許經營事業備案[8] 為加強對特許經營行業的管理，協助潛在被特許人了解該特許事業的基本資訊，《管理條例》設立了事後備案的監管制度。 特許人應自首次訂立合同之日15日內向商務主管部門備案。應向特許人所在地的省、自治區、直轄市政府的商務主管部門備案。跨省的特許經營事業應該向國務院商務部備案。 中國大陸目前已啟用網路備案方式以加快備案手續及效率，特許人登錄國務院商務部主管的《中國商業特許經營網》[9]註冊後，將註冊完成的特許人信息表和相關紙本文件[10]帶到當地備案管理部門[11]進行審核，審核通過後備案管理部門會發給特許人備案系統登錄帳號和登錄密碼。特許人登錄在《中國商業特許經營網》的特許經營備案系統後，可以在網路上進行《備案管理辦法》中規定的資料填寫或電子檔案的上傳工作。 伍、關於特許經營信息披露 除了對特許人資格的具體規定以及建立事後審查制度，中國大陸對於特許經營關係中，授權方特許人應該於特許經營關係成立前應揭露給被特許人知悉的相關資訊也有明確的規範，此種規範除了保障被授權人可在資訊透明的條件下做出商業決策，當特許人的特許資料登錄於信息披露網站，也有助於潛在投資人對於該商業規劃的了解，間接促進了整體特許經營行業的能見度和活躍性。 根據《信息披露管理辦法》的規定，特許人在訂立特許經營合同前至少30日應以書面形式向被特許人提供有關資訊和特許經營合同文本。 對於違反特許經營信息披露的特許人，除依《管理條例》第27條規定受行政罰則外，依《管理條例》第23條規定，特許人隱瞞有關訊息或提供虛偽不實訊息的，被特許人享有法定解除權。 法律實務中，法院會綜合考量特許人所隱瞞的程度或者所提供的虛偽不實訊息的重要性、與事實的差異性來區分是惡意詐欺還是商業話術，盡可能維護特許經營合同的穩定性，避免被特許人一旦經營失敗就把全部責任轉嫁給特許人[12]。 陸、特許經營合同知識產權授權特別注意要點 特許經營事業中以知識產權（智慧財產權）的授權為主要內容，應在特許經營合同中一併約定使用條件，特許人應以事前具體約定方式完整保護知識產權及特許經營事業。 一、約定具體的特許經營範圍 特許經營權的授予是屬於單店特許或是區域特許，單店特許者應明定單店資訊，區域特許者應界定區域範圍（如城市、省名）。 特許經營權的授予是否具有獨占性、排他性、非排他性。被特許人可否自行再設立其他分店或以特許人身分再授予第三方。 二、約定知識產權的使用方式 被特許人須依特許人的要求來使用特許經營資源，如商標的使用方式、使用位置，可以用特許人的經營手冊加以細化。 三、約定知識產權授權後被特許人的義務 被特許人以特許人授予的知識產權開展經營後，應當盡的品質保證、品質監督義務。特許經營合同中除概括被特許人監督產出責任外，也可以列舉方式約定被特許人的監督義務，例如被特許人應監督其雇用人員按照特許人約定的方式出產商品或服務、定期向特許人提出產品質量檢查報告。 四、約定特許人監督特許經營事業的權利 除了被動等待被特許人提交經營報告（可包含營業狀況以及財報），特許合同應保留特許人主動對特許經營事業進行檢查、監督、考核的權利，並要求被特許人在合約期間應執行特許人檢查考核後的跟營業相關的決策。 五、約定合同到期後的被特許人使用特許經營資源的狀況 約定特許經營關係結束後，被特許人是否能再以特許人加盟店的形式進行商業活動，包含被特許人是否應向原註冊機關進行註銷登記（如註銷營業執照或變更企業名稱），是否能再使用特許人商標。 另外，因特許經營權授予而獲得的商標以外的相關知識產權（如手冊、培訓教案、軟體等）也應約定是否還能繼續使用。 柒、結論 特許經營事業的成功，除取決於特許人法律法規的掌控，對各項與特許資源相關的知識產權的保護也是維持特許事業穩定成長的重要策略。中國大陸政府因為特許經營事業的特殊性而制定特別的法律及行政規則，期待本文對特許經營法律法規的介紹以及相關知識產權授權應留意的面向建議能對有意前往對岸投資的台資特許人產生實質幫助。 [1]《商業特許經營管理條例》第3條（中國國務院令第485號2007.02.06）。 [2]《商業特許經營管理條例》第3條（中國國務院令第485號2007.02.06）。 [3]《商業特許經營管理條例》第7條（中國國務院令第485號2007.02.06）。 [4]《商業特許經營信息披露管理辦法》 第5條（中華人民共和國商務部令2012年第2號2012.02.23）。 [5]《商業特許經營管理條例》第11條（中國國務院令第485號2007.02.06）。 [6]指特許人授予的特許經營權是僅限於單一加盟店使用或是某一地理區域內可成立數個加盟店。 [7]《商業特許經營管理條例》第13條 規訂合同約定的特許經營期限應該不少於3年，但雙方如有其他約定，可以在合同中註明，即只需雙方合意就可更改特許經營期限。 [8]《商業特許經營管理條例》第8條（中國國務院令第485號2007.02.06）。 [9]主頁，中國商業特許經營網http://txjy.syggs.mofcom.gov.cn/ 。 [10] 各地方主管機關要求的紙本文件可能不一。 [11] 當地的商務委員會。 [12] 王樹章、吳平平，《關於商業特許經營合同審判實踐若干問題的調研報告》，知識產權庭課題組，頁9。
2005年我國對美專利申請件數落居外國申請人第4名在獲准件數方面，2005年我國人民向美國專利商標局申請獲准專利案件計5,993件，較上年減少16.84%，維持第3名，次於日本（31,834件）及德國（9,575件）；向日本特許廳申請專利獲准案計2,305件，較上年增加24.33%，居所有外國人專利核准案件數第2名，次於美國；向歐洲專利局申請專利獲准案件計133件，較上年成長17.70%。 專利可反映一個國家或區域的創新活動，同時可展現該國或區域發揮知識力量，並將其轉換為有潛力的經濟產出的能力。專利獲准的條件是必須具新穎性、進步性及產業利用性，因此，專利的數量及其相關指標可說是衡量研究及發展（R&D）投入所獲產值的最佳工具。 根據智慧財產局最近發布之「2005年我國與美日歐專利申請暨核准概況分析」， 2005年我國向美國專利商標局、日本特許廳及歐洲專利局之申請與核准專利件數較往年雖有成長，但我國向美國申請專利件數已由2004年的居所有外國申請人之第3名下降為第4名，被南韓所超越，南韓的大幅成長值得關注。 美國依然是我國人民提出專利申請的主要國家，2005年我國人民向美國專利商標局申請專利案計16,617件，較上年增加10.36﹪，居所有外國人新申請案第4名。而南韓向美國專利商標局提出專利申請案自2003年之10,411件，成長至2004年之13,646件，2005年更以17,217件超越我國，攀至第3名。在日本方面，我國人民向日本特許廳申請專利每年超過3,000件，2005年排名第3，次於美國（9,177件）、韓國（5,990件）；而在歐洲專利局方面，2005年我國人民共申請679件，有逐年增加趨勢，在亞洲國家中次於日本（21,461件）、南韓（3,853件）。
歐盟資通安全局（ENISA）提出資通安全驗證標準化建議歐盟資通安全局（European Union Agency for Cybersecurity, ENISA）（舊稱歐盟網路與資訊安全局European Union Agency for Network and Information Security）於2020年2月4日發布資通安全驗證標準化建議（Standardisation in support of the Cybersecurity Certification: Recommendations for European Standardisation in relation to the Cybersecurity Act），以因應2019/881歐盟資通安全局與資通安全驗證規則（簡稱資通安全法）（Regulation 2019/881 on ENISA and on Information and Communications Technology Cybersecurity Certification, Cybersecurity Act）所建立之資通安全驗證框架（Cybersecurity Certification Framework）。 受到全球化之影響，數位產品和服務供應鏈關係複雜，前端元件製造商難以預見其技術對終端產品的衝擊；而原廠委託製造代工（OEM）亦難知悉所有零件的製造來源。資通安全要求與驗證方案（certification scheme）的標準化，能增進供應鏈中利害關係人間之信賴，降低貿易障礙，促進單一市場下產品和服務之流通。需經標準化的範圍包括：資訊安全管理程序、產品、解決方案與服務設計、資通安全與驗證、檢測實驗室之評估、資通安全維護與運作、安全採購與轉分包程序等。 ENISA認為標準化發展組織或業界標準化機構，在歐盟資通安全之協調整合上扮演重要角色，彼此間應加強合作以避免重複訂定標準。目前有三組主要國際標準可構成資通安全評估之基礎： ISO/IEC 15408/18045–共通準則與評估方法：由ISO/IEC第1共同技術委員會（JTC1）及第27小組委員會（SC27）進行重要修訂。 IEC 62443-4-2–工業自動化與控制系統之安全第4-2部分：作為工業自動化與控制系統元件的技術安全要求。 EN 303-645–消費性物聯網之資通安全：由歐洲電信標準協會（ETSI）所建立，並與歐洲標準委員會（CEN）、歐洲電工標準化委員會（CENELEC）協議共同管理。 然而，資通訊產品、流程與服務種類繁多，實際需通過哪些標準檢驗才足以證明符合一定程度的安全性，則有賴驗證方案的規劃。為此，ENISA亦提出資通安全驗證方案之核心構成要件（core components）及建構方法論，以幫助創建歐盟境內有效的驗證方案。
美國商標註冊發布新規定：外國人需透過美國執業律師代理其商標業務美國專利商標局（簡稱USPTO）公告新商標規定於8月3日生效，國外申請人、註冊人及商標訴願暨上訴委員會（TTAB）程序的當事人均須透過合法美國執業律師代理其商標業務，包含：向USPTO提出商標申請註冊、商標糾紛。此要求適用於所有商標申請人、註冊人和永久合法居住地或是主要業務所在地於美國境外的當事人。 近期，USPTO發現愈來愈多的國外申請人、註冊人和當事人向USPTO提交不正確或有詐欺嫌疑的文件，其不符合美國商標相關法規或USPTO規則。此次新規定目的在於： 加強外國人遵守美國商標相關法規。 改善向USPTO提出商標案的正確性。 維護美國商標註冊的完整性。 數十年來，全球許多其他國家都有須透過當地律師代理執行業務的相關要求。USPTO局長Andrei Iancu表示：「企業靠著USPTO的商標註冊，決定品牌的重要法律決策，為了確保商標註冊的正確、完整性與公眾利益，USPTO必須要有適當的規定來強制所有申請人和註冊人遵守規定。」；USPTO商標專員Mary Boney Denison亦表示：「相信新規定將有助於提高外國人向USPTO提交的文件品質。」 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」