用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國德拉瓦（Delaware）州法庭於1月9日判決，記憶體晶片（DRAM）設計業者Rambus公司（Rambus Inc.）因在訴訟過程中，毀壞此一專利訴訟案件的相關文件與資料，使其專利不具執行力。因此無權以系爭的12項專利要求 Micron公司（Micron Technology Inc.）支付權利金。判決公告後，Rambus公司的股價因而重挫約40%。 兩家公司的紛爭可溯至2000年，該年度Micron公司曾控告Rambus公司，宣稱Rambus公司試圖掌控當時DRAM晶片的市場。當時，Rambus公司要求Micron公司在內的晶片製造業者須支付權利金給該公司，而晶片製造業者則予以反擊，宣稱Rambus公司取得專利的過程有瑕疵。 雙方除於法院進行訴訟外，並利用美國聯邦貿易委員會（FTC）進行紛爭處理，互有勝負。例如：去年11月，加州地方法院宣判Rambus公司控告Micron公司、海力士（Hynix）、三星電子（Samsung Electronics）與南亞科技（Nanya Technology）等公司侵權一案，獲得初步勝利。然而如今法院的判決卻又重擊Rambus公司，因為該判決可能使該公司往後難以利用其所擁有的專利，迫使其他晶片製造業者支付權利金，也因此造成Rambus公司股價重挫的情形。
簡析日本電子帳簿等保存制度與電子資料真實性之確保簡析日本電子帳簿等保存制度與電子資料真實性之確保 資訊工業策進會科技法律研究所 2024年03月29日 日本一般社團法人數位信任協議會於2024年3月15日以數位資料真實性確保的重要性及證明其真實性的時戳技術為題，舉行JDTF電子帳簿保存法解說研討會。研討會中由國稅廳課稅總括課解說電子帳簿保存法上與資料真實性相關的利用者需留意的要點，以及時戳技術的利用意義，並舉出具體的利用者事例作為介紹。 壹、事件摘要 日本電子帳簿等保存制度係指，稅法上等有保存必要的「帳簿」或是「收據、請求書等與國稅相關的文件」，非以紙本方式，而是以電子資料的形式保存的制度，此制度被區分為電子帳簿等保存、掃描保存及電子商業交易資料保存等3種制度[1]。 貳、重點說明 日本電子帳簿保存法於2022年的修法中，廢除電子帳簿等保存制度以及掃描保存制度的承認制度等[2]，其中尤其值得關注的是電子商業交易的電子保存義務化。意即，自2022年起個人事業者或法人需要以符合特定要件的方式保存該電子商業交易資料。惟由於日本過往對於所接收的電子商業交易資料均以書面原本的形式進行保存，因此2022年的電子帳簿保存法修正案，雖將所接收的電子商業交易資料以電子資料的形式進行保存作為原則，但是由於許多公司尚無法應對電子資料的保存要求，故日本將2022年1月1日至2023年12月31日的2年間，作為電子商業交易資料保存的宥恕期間，在宥恕期間內無法滿足電子商業交易資料且有正當理由的公司，仍然可以將電子商業交易資料以書面的形式保存，並在稅務調查時將所保存的資料以書面形式提交給稅務機關[3]。日本電子帳簿保存法中所指之宥恕期間，係指自2022年起至2023年12月31日間，無法將電子商業交易資料以電子資料形式進行保存的企業，在符合特定之條件下，使其得繼續維持書面資料保存的期間。須留意宥恕期間僅有2年，公司或法人須於宥恕期間的2年內建立可以符合電子資料保存要件的環境整備。以下就2024年實施的日本電子帳簿3種制度進行說明。 一、電子帳簿等保存制度 對於自身最初透過電腦等製作的帳簿如會計軟體製作的入出帳等，或是與國稅相關的資料如透過電腦製作的請求書、決算書等，在符合具備系統相關資料如系統概要書或操作說明書、在保存場所具備電腦、程式、螢幕、印表機及其操作指南，並將記錄事項以畫面或書面的形式呈現，使其可以快速輸出，以及可以應對稅務職員基於質問檢查權的電子資料下載要求等的要件下，可以不以書面列印紙本的方式，而係以數位資料的形式保存的制度[4][5]。 二、掃描保存制度 決算相關資料以外的國稅相關資料，在符合輸入期間的限制、時戳的付與、版本管理、具備可讀取的裝置、可以快速輸出、具備系統概要書等，以及確保檢索機能等的要件下，能以手機或掃描機器掃描的電子資料形式取代該資料書面原本進行保存[6][7]。 三、電子商業交易資料保存制度 被課與所得稅申告或法人稅等帳簿、資料保存義務者，在處理訂單、契約書、收據、報價單、請求書等或與其相當的電子資料時，在確保真實性及可視性的要件下，需要保存該電子商業交易資料[8]。 電子商業交易資料保存制度中的確保真實性要件包含接收已付與時戳的資料、對所保存的資料付與時戳、不論是資料的接收還是保存，皆已可留存訂正刪除履歷或無法進行訂正刪除的系統進行，以及制定關於防止不正當訂正刪除的事務處理規則並依循。可視性要件則包含具備監控、操作說明書等資料以及具備充足的資料檢索要件[9]。 日本電子帳簿等保存制度雖區分為3種不同的制度，惟其中對個人事業者及法人具有強制效力的僅有電子商業交易資料保存制度，電子帳簿等保存制度及掃瞄保存制度則係設置誘因機制促使業者遵循，如電子帳簿等保存制度中創設其所保存的帳簿如符合訂正刪除履歷留存等「優良電子帳簿」的要件，則可減輕過少申告加算稅的稅金[10]；掃描保存制度則讓企業可以透過手機或掃描機器將資料原本掃描成電子資料並以之取代書面紙本進行保存，減少企業保存書面資料的空間成本，同時亦可減低資料檢索時所需花費的時間與人力成本。 參、事件評析 日本電子帳簿保存法中對個人事業者與法人在保存電子商業交易資料時，課以確保電子資料真實性以及可視性的義務，並透過時戳技術的利用，確保個人事業者與法人可以達成電子資料真實性以及可視性的要求。 對於電子資料真實性的管理，我國資訊工業策進會科技法律研究所創意智財中心於2021年發布重要數位資料治理暨管理制度規範（下稱EDGS），協助企業管理內部重要數位資料。EDGS中亦肯認應保存電子資料的訂正刪除歷程，並以時戳技術及存證技術確保資料未經變更、刪除及竄改之真實性。我國企業如欲對自身的數位資料進行管理及存證等，可參考資訊工業策進會科技法律研究所創意智財中心所發布之EDGS建立資料管理流程，以降低數位資料管理相關風險。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]国税庁，〈電子帳簿保存法の内容が改正されました〜 令和5年度税制改正による電子帳簿等保存制度の見直しの概要 〜〉，頁1（2023年），https://www.nta.go.jp/law/joho-zeikaishaku/sonota/jirei/pdf/0023003-082.pdf（最後閱覽日：2024/03/26）。 [2]〈税務手続の電子化に関する資料〉，財務省，https://www.mof.go.jp/tax_policy/summary/tins/i04.htm（最後閱覽日：2024/03/26）。 [3]国税庁，〈電子帳簿保存法一問一答【電子取引関係】〉，頁35（2022），https://www.nta.go.jp/law/joho-zeikaishaku/sonota/jirei/pdf/0021006-031_03.pdf（最後閱覽日：2024/03/26）。 [4]同註1。 [5]国税庁，〈はじめませんか、帳簿･書類のデータ保存（電子帳簿等保存）〉，頁1-2（2023），https://www.nta.go.jp/law/joho-zeikaishaku/sonota/jirei/tokusetsu/pdf/0023006-085_02.pdf（最後閱覽日：2024/03/26）。 [6]同註1。 [7]国税庁，〈はじめませんか、書類のスキャナ保存〉，頁1-2（2023），https://www.nta.go.jp/law/joho-zeikaishaku/sonota/jirei/tokusetsu/pdf/0023006-085_03.pdf（最後閱覽日：2024/03/26）。 [8]同註1。 [9]同註3，頁8。 [10]同註5，頁2。
智慧城市－「智慧城市世界大會展覽」暨歐盟政策今年11月17日到19日為期三天的第五屆「智慧城市世界大會展覽（Smart City Expo World Congress）－都會平台（Urban Platforms）：串聯資料數據以及城市之間的連結」於西班牙巴塞隆納舉行。該大會凝聚了世界500個城市、450個參展單位，以及400位講者於一堂，主要觸及了城市如何因應大量成長的數據、從新的管理方式中，要如何以及在哪裡得到價值，以及在加速城市中的都會平台過程中，要付出什麼樣的代價等議題。 今年度的大會展覽令人耳目一新的創新作品包括：綠色環保無人駕駛小公車、提醒視力受損者，道路上有障礙物的智慧應用程式、能夠辨識在範圍內的射擊，並且精準地指出事件發生地點的麥克風系統，還有其他諸如無人飛機、物流和都會區內遞送服務等等創意新點子。 「智慧城市」一詞，意味著一個能夠合於未來發展的都會，同時轉變為一個可以在提升資源以及能源效率的同時，還能夠減少對於生態衝擊的環境。而歐洲的智慧城市發展，主要是在「歐洲2020戰略」（Europe 2020）中，由歐盟執行委員會所實施的「歐洲創新夥伴計畫」（The European Innovation Partnership, EIP）帶領歐洲倡議都會平台於以下三個交互運作的活動以及發展：（一）以城市需求為導向的發展，使得能快速地適應都會平台；（二）由備忘錄（Memorandum of Understanding, MoU）所鞏固的供給導向發展；（三）在信任的基礎上所建立的標準化導向發展。 歐盟於2011年6月公布的「智慧城市與社群歐洲創新夥伴計畫」（The European Innovation Partnership on Smart Cities and Communities, EIP-SCC）目的是為了要將城市、企業與市民結合起來，共同藉由永續的解決方案，來改善都會城市現有的問題，並提升城市的整體生活。此計畫期許以資通訊科技（Information and Communication Technology, ICT）、能源與交通管理的結合，共同提出創新的解決方案，為今日歐洲城市面對來自於環境、社會與健康等挑戰進行解套，計畫發展核心包含開放資料（Open Data）、商業模式（Business Models）、政策與法規（Policy and Regulation）、能源效率與低碳解決方案（Energy Efficiency and Low Carbon Solutions）、財政金融與採購（Finance and Procurement）、都會移動（Urban Mobility）、能源整合網絡（Integrated Energy Networks）等。 從歐盟所發展的大戰略計畫，到今年第五年的「智慧城市世界大會展覽」，明顯嶄露出歐盟在積極推動經濟發展的同時，帶著永續環境的思維，這是之所以歐盟能持續引領歐洲，甚至世界未來發展趨勢的關鍵原因。
日本 – 能否移除個人資料登載 各地法院見解有所不同為促進政府效能、提高服務品質、協助身份確認、減輕居民負擔，以期邁向先進資訊社會，日本政府近年致力推動「居民基本資料」（「住民基本台帳」；包括姓名、住址、性別、出生年月日及居民編號等）網路化，作為電子化政府基礎架構之一環。惟資料之蒐集範圍為何、傳輸網路安全與否、是否會遭政府濫用、有無可能遭相關人員洩漏於外移作他用等問題始終受到質疑，目前不僅計有福島?矢祭町、東京都杉並?、?立市三處地方政府暫緩推行，民間團體更分別在日本全國各地 13 個地方法院提起民事訴訟，主張「居民基本資料網路」（「住民基本台帳 ?????? 」；「住基 ??? 」）侵犯個人之隱私權及人格權，除請求移除已登錄之個人資料外，並要求中央政府、地方政府及掌理該網路的財團法人地方自治資訊中心（財?法人地方自治情報 ???? ； Local Authorities Systems Development Center, LASDEC ）應負擔合計每人 22 萬日圓的損害賠償。 對此，金?地方法院首先作成判決（ 2005 年 5 月 30 日），雖駁回原告方面的損害賠償請求，不過移除已登錄資料部分則判命原告勝訴。該院認為，「隱私」及「便利」之間究竟何者優先，應本諸居民個人意思自行決定，而非被告方面得以促進行政效率為由逕為取捨。然時隔一日（ 2005 年 5 月 31 日），名古屋地方法院卻作出見解完全相反的判決，認為「居民基本資料網路」已採行必要之資料保護措施，個人隱私不至於輕易遭受侵害，原告方面的兩項請求均應予以駁回。 個人基本資料應予保護，當屬不爭之論，但究竟該如何保護、保護又該到何種程度，各方立場不同、偏重各異，看法常有差距；日本「居民基本資料網路」事件之原被告間、甚至不同地方法院間的見解差異，即為適例。目前正值我國研議修正個人資料保護法之際，前開事件今後如何發展，或有吾人持續觀察並深入思索之餘地。