用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
台南市低碳自治條例與國際促進能源效率立法趨勢 科技法律研究所 2013年3月26日 壹、事件摘要 根據自由時報3月5日報導，台南市為將該市打造為國際指標性之低碳城市，在去年制訂了「台南市低碳城市自治條例」，並在未來規劃對大建築面積、及用量超過800千瓦之用戶，要求必須裝置一定比例太陽光電系統的強制規定。該條例同時要求公有、及供公眾使用的建築物，須為銀級以上綠建築之規定，亦在近日吸引了媒體的關注。 貳、重點說明 一、臺南市政府低碳城市自治條例 台南市政府於2012年12月22日以府法規字第1011084760A號令公布了「台南市低碳城市自治條例」，共六章、三十八條，並於第四章「低碳城市推動與管理」，做了前述對耗電大的用戶為一定比例太陽能光電系統設置要求之規範。 在綠建築的部分，依據該條例第21條第1款之規定，台南市公有或經該市公告指定地區之新建建築物於申請建造執照時，若非供公眾使用之建築物，須為合格級以上之綠建築。而公有及供公眾使用之建築物，則須進一步符合為銀級以上之綠建築。此策略採取賦予公部門較高的法規遵循義務，與國外立法例趨勢相當吻合。詳述如下。 參、事件評析 一、國外立法例 (一)從一定面積以上面積建築著手 根據自由時報的報導，台南市政府在未來將針對大建築面積用戶，強制其裝設用電量一定比例的太陽光電系統。關於面積的細部規範雖然未見於該市低碳自治條例，但此一規劃無疑符合國際間為提高節能效率所採取的規範趨勢。 例如美國在2007年能源獨立及安全法架構下，由總統在2009年所發佈的行政命令第13514號的第2條第g項第3款，即要求確保既有聯邦建築或聯邦機構(agency)所承租之建築，面積超過5000平方英呎者，應在財政年度2015年前，使其面積的15%完全符合「聯邦永續建築指導原則」(Federal Leadership in High Performance and Sustainable Building, 在該行政命令中簡稱 Guiding Principle)。 而新加坡也有類似的規範。根據該國「2008年建築管制(環境永續)規定」(Building Control《Environmental Sustainability》2008)第3條與第4條之規定，所有總樓板面積(gross floor area) 超過2,000平方公尺的建築之建設或有關總樓板面積超過2,000平方公尺既有建築之面積增建(increasing the gross floor area)，或關於建築外殼或建築服務的提供、擴大或實質的改變，皆應至少達到依據建築環境永續規範(Code for Environmental Sustainability of Buildings)的綠色標誌積分(Green Mark scores) 50分。 (二)對公部門採取較民間更高標準 由前述關於南市低碳自治條例中關綠建築之規範可知，該市在為相關管制的規劃時，所採取的政策是讓公部門先承擔較高的法規遵循義務(在該條例第21條的規定中，公有建築物在申請建照時須符合銀級綠建築之標準，而不若一般非供眾使用之建築物，僅要求其須合格)。此種作法亦為國際間為引領民間部門推動節能減碳常見的法制政策規劃。 除了上述美國的規定也是先對公部門作要求外，歐盟能源指令第5條第1項也有類似之規範。該條款要求歐盟各會員國自2014年1月1日起，就其中央政府所擁有或佔有之面積超過500平方公尺之建築，每年應翻修總樓板面積的3%，使其至少符合建築效率指令(2010/31/EU, Directive on Energy Performance of Buildings)第4條關於最低建築能源效率(minimum energy performance requirements for buildings)之要求。 二、短評與小結 由上述介紹可知，台南市低碳自治條例，為促進節能減碳而採行諸如由一定面積以上建築物著手，並對公部門此取更高標準之規定皆與國際趨勢相符。無獨有偶，高雄市於去年通過的綠建築自治條例，也有類似規定。我國在各級地方政府皆能與國際接軌的共同努力下，能否在促進能源效率方面達成較歐美等先進國家更耀眼的成積，著實令人期待。
Refuah公司與紐約總檢察長達成和解並投資120萬美元保護病人資料紐約州總檢察長Letitia James於2024年1月5日與健康照護服務業者Refuah Health Center, Inc.（下稱Refuah公司）達成和解，主因為該公司遭受勒索軟體攻擊（ransomware attack），約25萬紐約州民個資遭到洩漏。和解協議要求Refuah公司支付共計45 萬美元之民事懲罰金及費用（penalties and costs），且應投資 120 萬美元加強網路安全（cybersecurity）。 Refuah公司主要業務為經營三家醫療機構和五輛行動醫療車（mobile medical vans）。2021 年 5 月，Refuah公司遭到勒索軟體攻擊，網路攻擊者得以近用數千名病人的資料，取得了包含姓名、地址、電話號碼、社會保險號碼、駕照號碼、出生日期、金融帳號、醫療保險號碼等資料。 依據檢察長辦公室的調查顯示，攻擊者之所以得近用這些資料，原因為 Refuah公司未採取適當安全維護措施，包括：未停用不活躍之使用者帳號（inactive user accounts）；未定期更換使用者帳號憑證（user account credentials）；未限制員工僅得近用其業務所必需之資源和資料；未使用多重要素驗證（multi-factor authentication）以及未加密病人資料。 依據協議內容，Refuah公司同意投資 120 萬美元，用於開發和維護更強大的資訊安全計畫（information security programs），以更妥適地保護病人資料。該協議還要求Refuah公司應： 1.維護全面的資訊安全計畫，以保護消費者資料的安全性、機密性和完整性； 2.實施並持續更新消費者資料近用限制相關政策和程序； 3.遠端近用資源和資料應使用多重要素驗證； 4.定期更新近用資源和資料的憑證； 5.至少每半年進行一次稽核，確保使用者僅近用其業務所必需之資源和資料； 6.對所有儲存或傳輸的消費者資料進行加密； 7.實施控制措施，監控和記錄公司網路和系統的所有安全和操作活動；以及 8.制定、實施和持續更新全面的事故應變計畫。 Refuah公司還須向州政府支付共計45 萬美元之民事懲罰金及費用，其中 10 萬美元將在該公司投入 120 萬美元開發和維護其資訊安全計畫後，得暫緩支付。
歐盟發布與食品接觸的容器材料安全評估規則歐盟食品安全局（European Food Safety Authority, EFSA）於2009年5月29日發布歐盟第450/2009號規則（Regulation EC No. 450/2009），內容為評估與食品接觸的包裝容器之「活性材料」（active material）或「智慧型材料」（intelligence material），其活性與智慧型功能物質之使用安全性。此號規則規定了進行活性或智慧型材料物質的安全評估相關的行政管理，及申請所需提出的科技數據與資訊內容。 歐盟第450/2009號規則是一項落實第1935/2004號規則中，有關食品安全的具體規則。第450/2009號規則要求食品容器中的「活性材料」與「智慧型材料」，必須經過EFSA的安全評估測試。 歐盟於2004年10月通過第1935/2004號規則（Regulation EC No. 1935/2004），首次公佈活性材料與智慧型材料的定義。「活性材料」係指為增加食物保存期限或維持及改善情況，食品容器材料會自動釋放某些物質在食品中以延長期限。「智慧型材料」則指能顯示食物狀況或在包裝上顯示出周圍環境狀態，例如在食品包裝上，結合溫度顯示材料，指出裝運過程中的溫度狀態。 而第450/2009號規則，則是進一步落實規範。在安全評估測試中，EFSA對於申請者提出的容器材料物質，進行風險測試後，將給予申請者得以使用的物質清單。若有食品容器材料的物質經測試後發現，其活性或智慧型功能的物質，與食品容器材料中的其他物質產生交互作用，EFSA可能將限制使用此類物質於食物容器材料中，以確保容器材料之安全性。
美國FTC通過「禁止企業簽訂競業禁止契約」的最終規定美國聯邦貿易委員會（下稱FTC）於2024年4月23日通過「禁止企業簽訂競業禁止契約」最終版本的規定（以下稱「最終規定」） ，FTC認為「簽訂或執行競業禁止契約」違反《聯邦貿易委員會法》（Federal Trade Commission Act）第5條之防止不公平競爭之違法手段之規定。最終規定所禁止簽訂競業禁止契約的對象廣泛，包含獨立承包商、為營利企業工作的員工，並將可能取代其他規範競業禁止契約效力之州法。不過，尚有部分情形將排除最終規定的適用，如： （1）公司與高階主管的既有競業禁止契約仍屬有效，而高階主管被定義為「年收入超過 151,164 美元（約新臺幣4,927,492元）且擔任決策職位」的員工，如總裁、首席執行長或其他擁有企業重大決策權的職位。 （2）允許出於善意收購企業的雙方簽訂競業禁止契約。 （3）因FTC對於某些產業無監管權，因此該等產業不適用於禁止簽訂競業禁止契約的最終規定，如非營利組織、銀行、保險公司以及航空公司。 FTC指出最終規定於美國聯邦公報上公布120天（約4個月）後生效，並要求現已簽訂競業禁止契約之雇主負有通知義務，雇主須透過數位（電子郵件或簡訊）或紙本方式，明確地通知現任、前員工，其既有的競業禁止契約即將失效。 但美國商會（U.S. Chamber of Commerce）已聲明表示該最終規定有超出FTC管轄範圍之疑慮，故後續可否執行最終規定，仍有待密切關注。 為因應FTC大範圍禁止簽訂競業禁止契約之法制方向，建議公司可參考資策會科法所發布之「營業秘密保護管理規範」以系統性方式檢視不同面向的既有管理作法，如人員面、內容面等，以落實對於營業秘密的保護。 1.關於文件的管理建議 先盤點紙本及數位機密文件；再設定文件之接觸權限。 2.關於人員的管理建議 留意人員的智財教育訓練；人員的保密或智財權歸屬契約，確保契約約定已納入公司想保護的機密資訊，比如客戶或供應商名單及聯絡資訊、產品規格、製程等；以及離職管理。 本文同步刊登於TIPS網站（https://www.tips.org.tw）。