用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
我國法制對於AR/VR發展之影響評估 資策會科技法律研究所 法律研究員 王凱嵐 105年06月14日 隨著科技的進步，同時在大數據、物聯網及可穿戴式裝置發展下，未來AR/VR技術可運用之層面相當廣泛，諸如遊戲、視訊娛樂、醫療保建、教育、醫療保建等，具有成為繼智慧型手持裝置後另一重要軟硬體平台之潛力。 所謂AR即擴增實境，指將虛擬資訊擴增到現實空間中的技術。這並不是完全取代現實之空間，而是在現實生活中融合虛擬資訊，藉由攝影機的辨識技術與電腦程式的結合，使虛擬資訊得以正確的疊加或輔助式出現於現實空間中。另一方面，所謂VR即虛擬實境，指利用電腦技術模擬出一個立體、高擬真的3D空間。當使用者穿戴特殊顯示裝置，會產生身處不同於當下環境之空間，而在此虛擬的空間中，使用者得透過控制器(如搖桿)或鍵盤移動或互動。 根據Digi-Captial的預估，到2020年AR加上VR總市場規模可達1,500億美元[1]。由此可知此產業具有非常大的市場規模，未來無論在各個領域中，AR、VR技術將突破過往的模式，將所想像的事物或空間呈現於使用者/消費者眼前。除了提供新型態技術的服務體驗，同時業者也能在成本或資源有限的情況下，突破原有限制，提高產能。以下配合未來假設技術運用上之情境，進行我國法規範之盤點，標示可能涉及或衝突的現行規範，評估其影響並給予建議。 壹、應用領域 根據跨國投資銀行高盛集團針對AR、VR之發展趨勢、潛在應用領域進行分析和預測[2]，其中包含遊戲、視訊娛樂、教育及醫療保健四項。 一、 遊戲:遊戲產業為當前在VR發展上最為成功的消費者市場。該技術運用在遊戲上，將給予遊戲玩家沉浸式的虛擬世界，提高遊戲體驗。而在未來VR結合網咖，提供不同的遊戲體驗。此種傳統的連線功能電腦遊戲附上VR虛擬實境的裝置，是否會出現全新的產業或遊戲類別，值得日後持續觀察。 二、 視訊娛樂:除遊戲產業外，視訊娛樂是另一個發展核心。使用者得穿戴VR眼鏡或頭盔，結合影音聲效觀看電影。未來若使用在電影院中，不同於傳統的3D眼鏡，VR給予使用者一全封閉式之虛擬環境，可不再被場地所侷限。惟拍攝此類電影或視訊畫面，須使用全景攝影機設備，造成製作成本較難以預測。 三、 教育:未來學校可運用此技術加強師生間之互動或提升學生學習意願。在遠距教學之運用，突破過去因距離或傳統教學的環境限制，提高整體教育品質。另一方面，在考證照(例如汽車駕訓)時也可透過虛擬實境完成，可不再被場地侷限(例如汽車教練場)。 四、 醫療保健:在醫療運用上，AR、VR的技術能幫助恐懼症或輔助醫學治療。而在遠距治療、診斷或照護行為上，得根據不同之情況提供不同的技術服務。在病患的身體狀況或居住環境，VR技術將給予相關醫護人員更好的判斷依據，增加正確及準確的治療、診斷及照護行為。 貳、涉及法規 一、 遊戲:當VR眼鏡運用在具連線功能之電腦遊戲上，則可能涉及「資訊休閒業管理自治條例」[3]提供場所及設備以連線或非連線方式結合資料儲存裝置，供不特定人從事遊戲娛樂之營利事業(例:網咖使用VR設備)，在場所設置範圍上，將受到相關地方自治條例之限制規範。 而在個人或家用透過VR眼鏡與軟體遊結合，針對該遊戲內容，我國「遊戲軟體分級管理辦法」 之規定，對所有數位遊戲軟體發行上市皆須送審核並登錄分級等規範。除遊戲軟體業者須自律分級進行分級登錄，產品包裝與展示露出皆須標示分級。 二、 視訊娛樂:若未來將VR技術結合電影產業，在以營業為目的之電影播放場所使用VR眼鏡觀看電影。目前我國「電影法」[5]對於電影內容及相關行業有作出規範，惟透過穿戴式眼鏡或頭盔僅可視為電影放映之平台或載具。本法目前對於此技術之運用尚無限制。在非電影院之場地運用VR穿戴眼鏡播放電影，若符合電影法第三條電影片映演業定義，應遵守本法之規定。若僅附屬服務(例如民宿、飯店提供婦放映電影免費服務)，若符合相關著作權[6]之規範，應無適用問題，仍得視為電影放映之平台或載具。 三、 教育:運用在遠距教學按現行法規之規定，應可視為符合互動方式之擴充服務，在取得學分問題上，並無疑慮。另一方面，若運用在汽車駕訓考試，目前我國「道路交通安全規則」第65條[7]，駕駛執照考試應考科目為筆試及路考，單以駕駛訓練為目的則不會有影響。惟在取得駕駛執照的考試，並無法透過VR取得駕駛執照。 四、 醫療保健:在遠距醫療運用上，「醫師法」第十一條[8]中關於遠距診斷僅限於特定情況下方可行之，透過VR技術模擬實地效果之遠距治療或診斷，將受到法規上之限制。 參、結論建議 根據以上法規之彙整，首先在遊戲上與AR、VR技術的導入最具關聯性，不僅在內容上具備多元性且可獨立存取於顯示裝置外，與一般大型機台之儲存設備不同。其營業模式，可藉由出租顯示裝置及其周邊設備，供使用者連接各種平台上之各種內容或應用程式，類似資訊休閒業。 然而目前資訊休閒業者所提供或使用之遊戲軟體，必須依遊戲分級管理辦法規定，其內容須符合分級級別、登錄分級。未來建議可針對遊戲機類別可參考「遊戲軟體分級管理辦法」做出區分標準，將呈現內容由內容分級法令規範。同時藉此修法契機得釐清與「資訊休閒業」(目前無中央法規，僅各地方以自治條例形式進行規範)之認定關係(例如由中央增訂資訊休閒業專法)。 另在遠距治療、診斷、照護法規上，「醫師法」僅開放符合特定條件下(如偏遠地區或特殊急迫情形)以通訊方式詢問病情或診察。為避免日後認定上可能產生違法疑慮，得建議中央主管機宜用行政函釋之方式，釐清模糊空間利於相關產業之發展。未來AR/VR的技術運用層面上，是否排除在法規之特定條件下方可適用之規定?此點仍須考量該技術上發展能進展到何地步。 最後，在技術驗證上運用VR(例如汽機車駕駛訓練或考試)，根據我國「道路交通安全規則」駕駛執照考試應考科目為筆試及路考。建議可透過行政函釋釐清路考得否透過虛擬實境為之，並可在訓練時加進虛擬實境項目，提升學員在考照前、通過後更好的準備。利用行政函釋得消除法規適用上之疑義。 透過分析未來新科技運用所產生出的法制障礙，預先設想可能對該產業造成之影響。AR/VR技術未來勢必會帶給人們新的社會生活型態，相關的技術廠商也不斷推層出新。而台灣不可在這個領域錯失先機，故在法規與運用上須取得平衡點，用以增進未來我國在虛擬實境產業上發展之實力。 [1] 鉅亨網，＜VR產品迎密集上線潮 虛擬現實產業全球盛宴開啟＞，2016/03/01，http://news.cnyes.com/Content/20160301/20160301160032997491410.shtml (最後瀏覽日期:2016/05/27) [2] VREYES，＜vr來了，行業標準今年形成?＞，2016/03/18，http://www.vreyes.cn/observation/topics/4341.html(最後瀏覽日期:2016/05/30) [3] 目前僅部分地方政府針對資訊休閒業制定專法。 [4] 遊戲軟體分級管理辦法第十條「發行或代理遊戲軟體之人於其遊戲軟體上市前，應依本辦法之規定標示分級資訊。但非由前述之人所供應之遊戲軟體，應由實際供應者依本辦法之規定負分級義務。前項之人應將遊戲軟體分級級別及情節登錄於中央目的事業主管機關之資料庫，供分級查詢。遊戲軟體產品包裝及遊戲軟體說明、下載或起始網頁之內容，不得逾越該遊戲軟體之分級級別。」 [5] 電影法第九條「申請電影片、電影片之廣告片審議分級者，應填具申請書，並檢附相關文件、資料，報中央主管機關核准。電影片、電影片之廣告片非經中央主管機關審議分級並核准者，不得映演。但教育行政機關主管之教學電影片，不在此限。電影審議分級不得逾越比例原則。為辦理電影片之審議分級業務，中央主管機關應組成電影片分級審議會，其成員應包括政府機關代表、各相關領域具有學術或實務經驗之學者、專家。前項電影片之審議分級業務，中央主管機關得委託民間專業團體辦理。電影片分級審議會之審議結論應予公開，並逐項具體敘明理由。」 [6] 著作權法第25條「著作人專有公開上映其視聽著作之權利。」 [7]道路交通安全規則第六十五條「申請汽車駕駛執照考驗者，其應考科目為筆試及路考。筆試不及格者，不得參加路考，但依第六十九條核准在原訓練機構辦理考驗者，其結業學員得先參加路考，及格後再行筆試。」(節錄) [8]醫師法第十一條「醫師非親自診察，不得施行治療、開給方劑或交付診斷書。但於山地、離島、偏僻地區或有特殊、急迫情形，為應醫療需要，得由直轄市、縣 (市) 主管機關指定之醫師，以通訊方式詢問病情，為之診察，開給方劑，並囑由衛生醫療機構護理人員、助產人員執行治療。前項但書所定之通訊診察、治療，其醫療項目、醫師之指定及通訊方式等，由中央主管機關定之。」
歐盟網路接取與互連之規範現況與發展 新加坡通訊與資訊部發布「數位連結性藍圖」，以提升數位基礎設施數量、效能、安全性與能源效率作為戰略性優先事項新加坡通訊與資訊部（The Ministry of Communications and Information）轄下資通訊媒體發展管理局（Infocomm Media Development Authority）於2023年6月5日公布「數位連結性藍圖」（Digital Connectivity Blueprint, DCB），指出新加坡將透過數位基礎設施的建置，實現提升網路容量、最大化運算能量、整合基礎設施集合（infrastructure stack，即將多個基礎設施作為一整體進行定義、提供與更新）、確保安全與韌性，以及永續性設計（Design for sustainability）目標，並識別五項戰略性優先事項如下： （1）在未來十年將海底電纜數量提升為現有的兩倍； （2）透過將新加坡國家寬頻網路（Nationwide Broadband Network, NBN）的頻寬提高十倍、分配頻譜予5G專網（Standalone, SA）等方法，於未來五年內建構並提供無縫、端到端且速度高達10 Gbps的國內網路； （3）與供應商合作，強化運算基礎設施的透明性與可歸責性，並與國際最佳作法保持一致； （4）為新的綠色資料中心（Green data centre）制定長期成長路線圖並使其更具能源效率； （5）推動對新加坡數位公用設施（Digital Utility, DU）集合的採用，以擴張無縫數位交易的優勢，並持續探索能從現有DU中受益的使用案例。 除戰略性優先事項外，新加坡將在更新興且前沿的領域中採取行動，具體措施包含： （1）在未來十年推動新加坡量子安全（Quantum-safe）願景； （2）為普遍的自動化系統使用奠定基礎； （3）透過測試平台與沙盒建立利害關係者生態系統，推動綠色軟體（green software）的開發、標準制定與評估； （4）透過低軌道衛星服務為關鍵產業提供創新解決方案。
德國聯邦最高法院(BGH)判決醫師評價平台「Jameda」須刪除受評醫師個人資料德國聯邦最高法院(Bundesgerichtshof, BGH)在2018年2月20日的判決(Urt. V. 20.02.2018 – Az. VI ZR 30/17)中認定，網路評價網站(Bewertungsportale)之業務雖未違反聯邦資料保護法(Bundesdatenschutzgesetz, BDSG)規定，但其評價立場必須維持中立。醫師評價平台「Jameda」(www.jameda.de)之商業行為違反此項原則，故須依原告要求，刪除其在該網站之所有個人資料。 本案中，原告為執業皮膚科醫師，且非醫師評價平台「Jameda」之付費會員。然「Jameda」不僅將該醫師執業簡介列入其網站，且同時在其個人簡介旁，列出與其執業地點相鄰，具競爭關係之其他同為皮膚科醫師之付費會員廣告。反之，付費會員不但可上傳個人照片，且在其執業簡介旁，不會出現與其診所相鄰之競爭者廣告。 聯邦最高法院依據聯邦資料保護法第35條第2項第2款第1號 (§35 Abs. 2 S. 2 Nr. 1 BDSG) 規定，並經衡量同法第29條第1項第1款第1號 (§29 Abs. 1 S. 1 Nr. 1 BDSG) 規定之效果後，同意原告對「Jameda」提出刪除網頁所列個資之請求。法院見解認為，「Jameda」的廣告策略使其失去資訊與意見傳遞者之中立角色，並以自身商業利益為優先，故其言論自由不得優於原告之資訊自主權(informationelle Selbstbestimmung)。 該判決強制網路評價平台嚴格審查本身之廣告供應商務，並與聯邦憲法法院(Bundesverfassungsgericht)見解一致，用於商業目的之言論表達僅有低於一般言論自由的重要性。儘管如此，評價平台仍被視為介於患者間不可或缺的中介者(unverzichtbare Mittelperson)，可使互不相識的病患，藉此獲得經驗交流的機會。 儘管本案判決同意原告刪除評價網站中所儲存個人資料之請求，但見解中，仍肯定評價網站具有公開醫療服務資訊之功能，符合公眾利益，受評價醫師被公開之個人簡介亦僅涉及與社會大眾相關之範圍。針對網站評分及評論功能之濫用，醫師仍可對各種不當行為分別採取法律途徑保障自身權益。由此可知，德國聯邦最高法院仍認定，評價網站之評分與評論機制，仍符合聯邦資料保護法規範之宗旨，惟若該評價網站以評價機制作為商業行銷手段，則不得主張其言論及意見表達自由高於受評價者之資訊自主權。