用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
韓國產學合作技術控股公司制度說明 科技法律研究所 法律研究員 曾文怡 101年7月24日 壹、事件摘要 韓國於於2012年5月14日修正其「技術控股公司成立申請程序規定」最新修正係，將共同成立技術控股公司之主體擴大到「研究機構」。韓國技術控股公司 (technology holding company) 制度係於2007年8月3日「產業教育振興及產學研合作促進法（以下簡稱產學研合作促進法）」修法所新增之制度。為落實產學研合作促進法，韓國教育科學技術部於2008年6月組成「產學研合作技術控股公司成立許可諮詢委員會」，同年8月，並依據「產業教育振興及產學研合作促進法施行規則」第3條第5項，制訂公告「技術控股公司成立申請程序規定」。截至2012年5月止，韓國已成立技術控股公司之大學共有17間，其所成立之子公司計有58間。 貳、重點說明 一、韓國技術控股公司成立條件及流程 (一)技術控股公司成立主體及條件 依韓國產學研合作促進法第2條第8款規定，所謂「技術控股公司」，係指大學之產學合作團 ( 類似我國大學技術移轉中心 ) 或研究機構，擁有總統令所規定之技術[1]，並以技術事業化為目的而成立公司，並持有其它公司之股份，以支配該公司。依韓國產學研合作促進法第36條之2，成立技術控股公司之主體得為大學之產學合作團本身，或由各大學之產學合作團、學校法人[2]、研究機構共同成立。且技術控股公司應符合下列4項要件： 1.股份公司 2.公司幹部須未符合「國家公務員法」第33條第1項各款[3]規定之喪失資格事由 3.產學合作團 ( 包含共同成立技術控股公司之其它機關 ( 構 )) 以技術出資須超過資本額之30%，且擁有超過發行股份總數之50% 4.其它由總統令規定須具備之標準 ( 即全職專業人力1名以上及擁有專用空間 ) 具備上述條件後，應取得韓國教育科學技術部長之許可，始得成立。 (二)技術控股公司成立流程 欲成立技術控股公司之產學合作團，應向教育科學技術部提出「技術控股公司設立許可申請書」，若是兩個以上機關 ( 構 ) 共同成立技術控股公司之情形，則應選定一個代表機關 ( 構 ) 提出申請。除了提出申請書外，亦須提出「技術控股公司成立計畫書」以及「公司幹部之履歷」各1份，其中技術控股公司成立計畫書內應包含成立目的、出資內容及比例、事業計畫書 ( 包含技術控股公司擁有之人力及設施等相關事項 ) 。 教育科學技術部受理許可申請書後，須在30日內處理，並將結果通知申請人。若許可該技術控股公司之成立，則應發予申請人1份「技術控股公司成立許可書」；反之，則應告知申請人不予許可之事由。而 技術控股公司成立後，仍可另外成立子公司，但必須持有該子公司之20%以上股份；子公司得為「股份公司」或「有限公司」。 (三)技術控股公司業務範圍 技術控股公司除了負責公司營運業務外，亦包括其子公司之經營管理及其相關業務，此外亦可從事「產業教育振興及產學研合作促進法施行令」第43條規定之下列業務： 1.對子公司之技術及經營諮詢 2.支援子公司之企業公開 3.子公司和其它公司間之合併、子公司股份之全部或一部之賣出、子公司營業之全部或一部讓與、子公司之分割等相關業務 4.支援子公司之資金籌措 5.將技術控股公司本身擁有之技術移轉或事業化後給子公司，及協助子公司將其技術移轉、事業化 6.子公司之宣傳、教育訓練、行銷 7.與創業育成中心、實驗室、產學研合作促進法第37條第1項之合作研究所、產業技術園區或校區內設置營運之企業及研究所之相互合作 8.技術控股公司將其擁有之技術移轉予企業 9.為將技術控股公司擁有之技術或出資予子公司之技術事業化，組成投資基金 10.中介該產業教育機構或研究機構擁有之技術移轉至企業並事業化 11.對該產業教育機構和子公司以外之其它產業教育機構及其它公司之技術經營及教育訓練之支援 (四)利潤分配之使用限制 大學之產學合作團應將從技術控股公司接受之利潤或其他收入，使用在其固有業務以及大學研究活動上；又，若技術控股公司係大學之產學合作團與研究機構共同成立的話，研究機構自技術控股公司接受之利潤或其他收入，應再投資於其研究開發活動或技術控股公司等與研究開發相關用途上。 二、韓國技術控股公司成立現況 截至2012年5月止，韓國已成立技術控股公司之大學共有17間[4]，其所成立之子公司計有58間。據了解，目前尚有成均館大學、韓國科學技術院 (Korea Advanced Institute of Science & Technology, KAIST) 、加圖立大學、首爾市立大學等大學正著手進行設立技術控股公司的申請準備。 參、事件評析 一、技術控股公司制度目的在於促進技術移轉及商品化，以控股收益再投資大學研發活動 韓國於2007年修訂產學研合作促進法，新增「技術控股公司」制度，賦予大學直接成立技術控股公司的法律依據。相較於大學之產學合作團，主要係將其研發之技術移轉至企業，從企業獲得單純之收益 ( 技轉費用及權利金 ) ，有所差別。因為技術控股公司設立目的在於促使其積極利用所有之技術，不僅從事技術移轉業務，更得將技術予以商品化，以創造控股收益並再投資於研發活動，使既有技術得予以追加開發。如此一來，技術控股公司不僅提高大學的研發能力，亦增加大學資金來源，藉以促進創新技術之研發，提升研究人員之創新意願。 二、韓國大學之產學合作團具有獨立法人格，得成立技術控股公司 依韓國產學研合作促進法規定，得設立技術控股公司之主體為大學之「產學合作團」，且被賦予法人資格。所稱產學合作團，依韓國產學研合作促進法規定，主要負責促進技術移轉及商品化、智慧財產權取得與管理、與企業簽訂授權契約等業務，業務範圍與我國大學之技術移轉中心相當。 依我國公司法第128條第3項第2款規定，法人以其自行研發之專門技術或智慧財產權作價投資時，得為發起人。但我國國立大學目前法律定位仍屬三級行政機關，且性質上屬於公營造物，未若私立大學屬於財團法人，並無獨立法人人格，遑論大學所設之技術移轉中心，僅為學校內部專責單位，因此國立大學不符合公司法第128條第3項規定之以其自行研發之專門技術或智慧財產權作價投資之法人之條件，國立大學無法透過公司法第128條第3項規定為發起人，設立技術控股公司。故若未協助其突破法令限制，仍無法仿效韓國大學具備法人格之產學合作團，依法得成立技術控股公司。 資料來源： 1.韓國教育科學技術部，http://www.mest.go.kr/，最後瀏覽日：2012年5月25日 2.〈2010大學產學合作白皮書 (2011年版本) 〉，韓國教育科學技術部，2012年4月4日，http://www.mest.go.kr/web/1011/ko/board/view.do?bbsId=87&boardSeq=28984，最後瀏覽日：2012年6月13日 3.iusm每日新聞，2012年5月24日，http://www.iusm.co.kr/news/articleView.html?idxno=248734，最後瀏覽日：2012年6月13日 [1]依產業教育振興及產學研合作促進法施行令第3條規定，作為事業化對象的技術範圍，係指符合下列其中一款者。 1.依「專利法」、「新型專利法」、「設計保護法」登記或申請中之發明專利、新型專利、設計專利及其它智慧財產 2.第1款技術累積之資本財 3.第1款或第2款之技術資訊 4.具移轉、商品化可能性之技術性、科學性或產業性Know how [2]此處限於該學校無產學合作團之情形。 [3]韓國國家公務員法第33條：「符合下列其中一款者，不得任用為公務員。 1.禁治產者或限制治產者 2.受破產宣告且未恢復權利者 3.接受拘役以上徒刑之宣告且執行完畢，或確定後尚未執行，不超過5年者 4.接受拘役以上徒刑之宣告，刑之執行猶豫期間結束之日起，不超過2年者 5.接受拘役以上徒刑之宣告猶豫，尚在宣告猶豫期間者 6.依法院判決或其它法律規定喪失或中止權利者 6之2公務員在職期間，與其職務相關，犯『刑法』第355條及第356條之罪，受300萬元以上之罰金刑，且其刑確定不超過2年者 7.因懲戒受到罷免處分時起，不超過5年者 8.因懲戒受到解職處分時起，不超過3年者」。 [4]依技術控股公司成立時間順序分別為：漢陽大學、首爾大學、三育大學、西江大學、江原地區大學聯合、慶熙大學、高麗大學、仁川大學、釜山大學、東國大學、檀國大學、東新大學、朝鮮大學、全南大學、延世大學、全北地區大學聯合、東亞大學。
德國聯邦最高法院(BGH)判決醫師評價平台「Jameda」須刪除受評醫師個人資料德國聯邦最高法院(Bundesgerichtshof, BGH)在2018年2月20日的判決(Urt. V. 20.02.2018 – Az. VI ZR 30/17)中認定，網路評價網站(Bewertungsportale)之業務雖未違反聯邦資料保護法(Bundesdatenschutzgesetz, BDSG)規定，但其評價立場必須維持中立。醫師評價平台「Jameda」(www.jameda.de)之商業行為違反此項原則，故須依原告要求，刪除其在該網站之所有個人資料。 本案中，原告為執業皮膚科醫師，且非醫師評價平台「Jameda」之付費會員。然「Jameda」不僅將該醫師執業簡介列入其網站，且同時在其個人簡介旁，列出與其執業地點相鄰，具競爭關係之其他同為皮膚科醫師之付費會員廣告。反之，付費會員不但可上傳個人照片，且在其執業簡介旁，不會出現與其診所相鄰之競爭者廣告。 聯邦最高法院依據聯邦資料保護法第35條第2項第2款第1號 (§35 Abs. 2 S. 2 Nr. 1 BDSG) 規定，並經衡量同法第29條第1項第1款第1號 (§29 Abs. 1 S. 1 Nr. 1 BDSG) 規定之效果後，同意原告對「Jameda」提出刪除網頁所列個資之請求。法院見解認為，「Jameda」的廣告策略使其失去資訊與意見傳遞者之中立角色，並以自身商業利益為優先，故其言論自由不得優於原告之資訊自主權(informationelle Selbstbestimmung)。 該判決強制網路評價平台嚴格審查本身之廣告供應商務，並與聯邦憲法法院(Bundesverfassungsgericht)見解一致，用於商業目的之言論表達僅有低於一般言論自由的重要性。儘管如此，評價平台仍被視為介於患者間不可或缺的中介者(unverzichtbare Mittelperson)，可使互不相識的病患，藉此獲得經驗交流的機會。 儘管本案判決同意原告刪除評價網站中所儲存個人資料之請求，但見解中，仍肯定評價網站具有公開醫療服務資訊之功能，符合公眾利益，受評價醫師被公開之個人簡介亦僅涉及與社會大眾相關之範圍。針對網站評分及評論功能之濫用，醫師仍可對各種不當行為分別採取法律途徑保障自身權益。由此可知，德國聯邦最高法院仍認定，評價網站之評分與評論機制，仍符合聯邦資料保護法規範之宗旨，惟若該評價網站以評價機制作為商業行銷手段，則不得主張其言論及意見表達自由高於受評價者之資訊自主權。
日本透過「產業財產權人才培養協力事業」支援發展中國家智慧財產人才培養，消除企業於發展中國家進行經濟投資或活動時所面臨的智慧財產權相關妨礙2024年2月，日本專利廳根據公開招募結果，公布將由一般社團法人發明推進協會執行令和6年度的「產業財產權人才培養協力事業」。 日本自2021年起開始推動「產業財產權人才培養協力事業」，至今年已邁入第4年，且自2024年起預計於南非共和國開設新的專利審查實務課程，以提升南非共和國專利審查官的必要能力。 「產業財產權人才培養協力事業」主要針對日本企業進行海外經濟投資及活動熱門的發展中國家（包含新興國家以及最低度開發國家LDC），提供積極性的人才培養支援，並以強化該國家能安定培養智慧財產相關權利取得與執行的實施人才為目的。在法制整備較為落後的最低度開發國家如柬埔寨，人才培養強化支援的範圍亦包含產業財產權制度的整備。人才培養的對象以智慧財產廳的職員、取締機關的職員以及民間的智慧財產關係業者為重點，透過提升其對於智慧財產權的能力，解決日本企業為在外國取得產業財產權的權利保護需要花費大量時間、日本企業的產業財產權在外國受到侵害的案件逐年增加等問題，以消除日本企業在外國進行經濟投資及活動時的巨大妨礙。 日本專利廳亦針對研修方針下列事項提出建議： 1、消除發展中國家審查延遲的對應方針 於研修中透過增加案例閱讀、資料尋找演習等的講義時間，提升尋找能力及判斷能力；並透過學習日本的IT系統、業務處理過程，提升系統面的支援能力。 2、提升發展中國家審查品質的方針 透過學習日本的基準、判斷手法提升審查、審判的品質；並透過學習日本的管理手法，提升審查品質管理能力。 3、仿冒品對策的對應方針 透過介紹以日本及各國事例為基礎的支援，加深對於仿冒品對策的理解；並透過增加與實施健全執法相關聯的講義時間，加深對於仿冒品對策的一般理解。 4、建構更有效果的研修方法的對應方針 透過設置課程全體的導師制度（mentor），提升研修效果的同時，有效活用「線上」及「實體」連續性的混合研修方法，並透過於實體研修中實施團體討論、在職訓練（OJT）、案件閱讀、模擬裁判（Mock Trial）等，提升實踐能力。 本文後續會持續留意日本「產業財產權人才培養協力事業」的發展，以掌握日本對於發展中國家支援的最新資訊。我國企業如未來預計於發展中國家進行經濟投資或活動時，亦應注意該國智慧財產權之程度，以評估相關風險。 本文同步刊登於TIPS網（https://www.tips.org.tw）
日本中小企業廳與特許廳聯合施政，強化中小企業或新創企業智財資源之運用日本於2021年12月27日公布「促進中小企業或新創企業智財運用之行動計畫」，該行動計畫是考量到面臨COVID-19疫情、數位化轉型、氣候變遷等背景下，中小企業或新創企業必須善用企業嶄新的技術或發想，以應對商業環境的變化，而智財權作為企業競爭力的動力來源，顕示出強化智財的管理及運用是不可欠缺的課題。 為了提升中小企業或新創企業的智財運用，日本中小企業廳與特許廳以提供一站式服務整合智財運用支援作為目標，制定行動計畫。施政主要重點如下： 強化與「智財綜合支援窗口」之整合：中小企業廳強化與特許廳聯合INPIT（National Center for Industrial Property Information and Training，獨立行政法人工業所有權情報研修館。主要業務為提供智財資料查詢、諮詢窗口、智財人才培育）共同設立的「智財綜合支援窗口」。促使「智財綜合支援窗口」與既有中小企業廳的商業管理諮詢窗口，共同協助企業以智財運用解決商業管理課題、建構智財戰略，同時也有提供專家派遣協助在地品牌的管理。 優化智財交易：除了加強中小企業廳的商業管理諮詢窗口與智財綜合支援窗口的資訊流通之外，INPIT也搭配說明動畫，提供企業智財相關法規、契約書範本、外包法等與智財交易相關知識，以及幫助企業製作用於金融機構評估企業智財價值時之文件。 海外發展智財支援：中小企業廳與特許廳針對海外發展的企業發放外國智財權申請之補助金、政策施予優惠措施，並由INPIT提供海外發展時，應留意智財權相關風險等專業建議。 本文同步刊登於TIPS網站（https://www.tips.org.tw）