用ChatGPT找法院判決?從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料,以創造新內容和想法的AI技術,其應用領域包括文字、圖像及影音。以ChatGPT為例,OpenAI自2022年11月30日發布ChatGPT後,短短二個月內,全球月均用戶數即達到1億人,無疑成為民眾日常生活中最容易近用的AI科技。 惟,生成式AI大量使用後,其中的問題也逐漸浮現。例如,ChatGPT提供的回答僅是從所學習的資料中統整歸納,無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀,卻未重新審視其所提供判決之正確性,以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中,原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約,飛行過程中膝蓋遭空服員的推車撞傷,並於2022年2月向法院提起訴訟,要求哥倫比亞航空為空服員的疏失作出賠償;哥倫比亞航空則主張已超過《蒙特婁公約》(Montreal Convention)第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而,法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢,進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供,並宣稱針對ChatGPT所提供的判決,曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務,可能有助於提升效率,惟,從前述Roberto Mata v. Avianca, Inc.案亦可看出,依目前生成式AI技術之發展,仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]: 一、能源使用及對環境危害 相較於傳統機器學習,生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示,OpenAI的GPT-3模型擁有1,750億個參數,約會消耗1,287兆瓦/時的電力,並排放552噸二氧化碳。亦即,每當向生成式AI下一個指令,其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期(Capability Overhang) 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能,此發展將會對人類帶來新的助力還是成為危險的阻力,則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練,若輸入資料在訓練時未受監督,而帶有真實世界既存的刻板印象(如語言、種族、性別、性取向、能力、文化等),據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時,需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而,若原始資料來源不明確,可能引發取得資料未經同意或違反授權條款之疑慮,導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆,若使用者誤信該答案即可能帶來風險。另外,生成式AI屬於持續動態發展的資訊生態系統,當產出結果有偏誤時,若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破,然而,生成式AI能夠快速建立具高度說服力的各種擬真資料,降低詐騙的進入門檻。又,駭客亦有可能在不熟悉技術的情況下,利用AI進一步找出資安弱點或攻擊方法,增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時,由於輸入的資料存儲於外部伺服器,若要追蹤或刪除有一定難度,若遭有心人士利用而導致濫用、攻擊或竄改,將可能產生資料外洩的風險。 八、影子AI(Shadow AI) 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加,若開發人員與使用者未進行充分溝通,或使用者在未經充分指導下使用 AI 工具,將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中,法院關注的焦點在於律師的行為,而非對AI技術使用的批判。法院認為,隨著技術的進步,利用可信賴的AI工具作為協助用途並無不當,惟,律師應踐行其專業素養,確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進,仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時,需具備獨立思考判斷的能力,並驗證產出結果之正確性,不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時,除確認結果正確性外,更需注意資料保護及治理議題,例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下,可選擇透過企業內部的基礎設施訓練AI模型,或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布,以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限,仍應抱持開放的態度,在技術使用與風險預防之間取得平衡,以能夠在技術發展的同時,更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
已知漏洞放著不修最致命:日本個資會公布上季監理成果日本個人資料主管機關個人情報保護委員會(簡稱PPC)在今(2026)年9月2日召開的第367次會議中,揭露了該委員會在令和8年度第1季(2026年4至6月)個資執法的狀況。在這段期間內,PPC共發出141件行政指導(其中76件是針對通報延遲的行政指導),其中民間部門(非公務機關)98件、行政機關43件。 PPC針對非公務機關的行政指導,以「非法存取」(不正アクセス)的樣態為主。PPC分析指出,非公務機關受到外部攻擊的樣態主要為:暴力破解、資料隱碼攻擊(SQL injection)以及勒索軟體攻擊。PPC特別整理三種最常見導致非法存取的安全管理缺失:(一)未處理已知且已有因應方法的漏洞,包含VPN(Virtual Private Network)設備之漏洞以及用以建置電商網站之應用程式漏洞;(二)使用易於推測的帳號或密碼;(三)設定錯誤導致資料庫缺乏存取控制。觀察PPC的行政指導內容,其最常認定非公務機關作為不足的樣態包含:「防範非法存取不足」(21件)、「使用者身分識別與驗證措施不足」(14件)以及「對受託者之監督不足」(12件)。 而PPC對行政機關的行政指導,則以人為疏失為主,包含:遮蔽處理不足、附件內未刪除保有個人資料、錯誤廢棄與遺失資料等。PPC對此作成的行政指導內容則以媒體管理以及防止錯誤傳送(如網頁誤刊載、電子郵件附件夾帶其他工作表、遮蔽處理不當)兩項最多。
美國產政研單位聯名向SEC請願,促請訂定企業應揭露其與氣候變遷有關的財務風險根據美國證券法規,上市公司、申請上市公司以及特定證券發行公司,應將其為符合美國聯邦、各州及地方環境法規所衍生,可能與公司之資本支出、營收與競爭地位有關之資料,向SEC提出並揭露予投資大眾;因為遵守相關環境法規而涉訟者,公司亦應揭露此等事實。除此之外,SEC規則亦要求,公司為符合環境法規所為之大規模資本支出,若可能對公司的清償能力產生重大影響,公司對於任何與之相關的已知發展趨勢、承諾的義務、事件或不確定性,亦應揭露之。 最近美國紐約州檢察長Andrew Cuomo向該州內五家能源公司發出傳票(subpoenas),要求這五家公司應各自分析其公司經營的氣候變遷風險,並將相關資訊揭露予投資大眾。此外,全美多個投資團體、十個州的財政官員以及環保團體亦聯名向美國證券交易委員會(Securities Exchange Commission, SEC)請願,促請SEC要求企業應該評估並揭露與氣候變遷有關的財務風險。請願者認為,氣候變遷相關資訊影響投資意願,亦為重要的公司資訊,故SEC應釐清,根據既有法規(即1934制定年的證券交易法)中的公司資訊揭露規定,公司亦應有揭露氣候變遷資訊之義務。 以上兩件事例的發展,隱含一個重要的跡象值得觀察,亦即未來美國SEC對於公司資訊揭露的管理,極可能涵蓋氣候變遷的風險資訊。雖然SEC目前尚未對請願事宜做出具體的表示,但有鑑於決策者已有越來越大的壓力必須正視全球氣候變遷問題,故SEC未來對於請願團體的回應及可能採取的措施,將代表公司應如何揭露氣候變遷風險資訊,始為適當。 此外,面對全球變遷所帶來的挑戰,美國許多州均積極提出或通過因應氣候變遷的法案,可預期企業經營者為遵循新一代的環境法規,未來將會有一波波的資金投入於法規遵循,目前企業經營者多將重心放在如何化挑戰為機會,然而公司在其中所為的投入,意味一定的財務風險,根據當前的發展,SEC極可能要求公司必須清楚地揭露此等氣候變遷相關資訊,值得企業經營者與投資人注意。雖然能源產業是氣候變遷風險最主要的揭露者,但氣候變遷風險實關乎所有的產業,目前已有許多保險公司也開始揭露其因為氣候變遷涉及的財務風險(如因颶風、水災、乾旱、火災或其他險惡的氣候現象所導致的財務損失)。
比利時法院對網路搜尋引擎巨擘被控侵害著作權乙案,判決Google敗訴比利時法院針對報業出版組織Copiepresse控告網路搜尋引擎巨擘Google侵害著作權一案,於二月十三日做出一審判決。該法院認為 Google未取得授權,在Google News新聞搜尋之服務中片斷重製原告之報導內容,並以重製的方式將受到保護之著作傳播給公眾,該行為已侵害到Copiepresse之著作權。法院除了下令Google刪除搜尋引擎中所出現的新聞報導片斷,並按該網站刊登的時間為基準,計算一天兩萬五千歐元的賠償金,Google應給付總金額高達三百四十五萬歐元的賠償金於Copiepresse。 Google的主要答辯指出,其係為協助使用者在該網站上尋找資訊的搜尋引擎,而非擁有自己資訊的入口網站。Google News也只針對使用者所輸入之搜尋關鍵字所做出之新聞頭條匯集及文章聯結,該行為應受到著作權法中「合理使用」(Fair Use) 之保護。而對搜尋結果之頭條、內容片斷及縮小圖片顯示,Google則抗辯此一作法已替Copiepresse網站吸引來更多想要閱讀全文之讀者,並為其締造更高的網路流量。 Copiepresse則主張,Google因在其網站刊登片斷重製之報導內容而受有廣告收益,就法律面而言已是侵害行為所得之利益。該組織的報導內容出現在Google的快取頁面,已使得該片斷的報導內容得自Google的網站中免費取得。通常許多報業僅將其報導文章的資料庫提供給付費會員瀏覽。 對此判決結果,Google已決定上訴。 全球媒體業者都對此判決密切注意。Google去年八月已和美聯社達成和解。而法國法新社去年三月控告Google的快取網頁侵害著作權乙案,目前仍在法院審理中。而其它入口網站公司YAHOO! 、AOL、Microsoft等已付費於法新社取得授權刊登其新聞文章內容。