用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
網際網址(internet address)在技術上被稱為網域名稱(domain name)，若沒有此網域名稱，電腦使用者就需要記住一串又臭又長的數字，例如"165.1.59.220" 而非"ap.org."。 從1984年以來，全球一般通用的網際網址字尾(suffix)多半以”.com”作結尾，但日前全球網域名稱管理機構「分配網域名稱與網址之網際網路管理組織」（Internet Corporation for Assigned Names and Numbers, ICANN）在新加坡召開會議，決議通過開放網際網址字尾不再限於”.com”，未來將可以任何品牌、嗜好、城市等名稱命名。這項決定堪稱是網際網址系統有史以來最大的變革。 ICANN表示，ICANN一直以來都希望能擴張網際網址字尾的數目，然而在商標侵權爭議、出現淫穢字眼等考量下，擴展網際網址字尾的進展顯得緩慢。終於在花費長達六年時間協商討論網際網址字尾之命名及運用，完成撰擬網際網址字尾指導原則(guidelines)，並決議通過網際網址字尾新的命名規則。 ICANN將從明年1月12日起開始接受申請，為期3個月，申請費用為185,000美元，每年維護使用(maintain)費為25,000美元。若申請案未遭他人以商標侵權、道德風俗等理由申請異議，將可很快取得核准。若有異議情形，申請案將進行進一步的審議（包括仲裁程序）。若當有兩個以上申請人皆有正當理由申請同一名稱時，ICANN希望雙方能先進行和解，若仍未達成協議，ICANN將會以競標方式決定由誰取得該名稱。 此項消息公佈後，外界揣測備受矚目的娛樂事業、專門販售消費者商品的公司、金融服務業者，將可能紛紛以其品牌或商標名稱，申請註冊新的網際網址字尾。例如相機及印表機大廠Canon Inc.,已計畫申請”.canon”，幾個由銀行及金融服務業者組成的貿易組織也正在評估共同申請”.bank”、”.insure”、”.invest”供其會員日後使用；另有環保團體目前亦評估申請”.eco”作為其網際網址的字尾。 網際網址字尾的大幅開放後，各公司皆可以其品牌、熱銷商品名稱等琅琅上口詞彙，作為其網站的網址，此舉將為公司帶來許多推廣、行銷品牌之機會，可預見明年網際網址字尾的申請熱潮將席捲而來。
中國 REACH 成形，台灣準備好了嗎？－從中國新化學物質環境管理辦法看我國新化學物質管理 亞利桑那州可望通過情色報復法，美國防治情色報復將再添一州美國亞利桑那州曾於2014年通過違反本人意願散布隱私內容之條文（泛稱為情色報復法Revenge Porn Law），構成要件未涵蓋行為人需有傷害的主觀不法構成要件，只要未經本人同意散布隱私內容即有可能觸犯本法而被判重罪（Felony），最高將可處三年又九個月之有期徒刑。然而，因構成要件過於廣泛，甚至未排除具新聞、藝術、教育價值之內容，未考慮本人之隱私期待性和傷害有無，美國公民自由聯盟遂代表出版業、媒體業和攝影業等，以該條文侵害言論自由有違憲之虞，於同年9月向亞利桑那州提告。該案於2015年7月10日達成和解，亞利桑那州地方法院宣告該條文將不會生效施行。 在經過漫長的修法後，亞利桑那州參議院最終於2016年3月7日無異議通過情色報復法之最新修法法案（House Bill 2001），待州長簽署核准後便立即生效施行。本次修法與2014年的版本不同處為，檢察官需證明隱私內容之本人具有合理的隱私期待，若被害人曾將自拍的影像寄送與他人，更需證明被害人未有分享的意思。此外，檢察官需證明行為人具有意圖傷害、騷擾、威脅或迫使他人之主觀意思。在此條文尚未通過前，實務上已有檢察官多次反應現行法無從對違反本人意願散布隱私內容之行為論罪，至多僅能以網路跟蹤或霸凌法等追究，對受害人保護甚為不周。
英國發布第二次「衛星直連手機服務」意見徵詢英國發布第二次「衛星直連手機服務」意見徵詢 資訊工業策進會科技法律研究所 2025年06月10日 近幾年，隨著低軌衛星通訊網路的逐漸成形，衛星直連手機（satellite Direct to Device, D2D）服務之實驗與商用案例陸續出現，亦帶動各國在法制層面之推進。美國聯邦通訊委員會（Federal Communications Commission, FCC）於2024年3月通過以衛星擴充地面通訊覆蓋範圍之授權規範，建立全球首個利用行動通訊頻譜提供D2D服務之監管框架[1]；加拿大、澳洲亦有相關政策文件之發布。而英國則透過兩次之衛星直連手機服務意見徵詢，徵集公眾對D2D服務提供之需求、影響、技術條件與法規調適方案之建議。 壹、背景摘要 英國頻率主管機關通訊傳播管理局（The Office of Communications, Ofcom）於2024年7月23日發布「改善來自天空及太空之行動連接」（Improving mobile connectivity from the sky and space）文件，為第一次「衛星直連手機服務」意見徵詢。該次討論主要針對D2D可能之服務模式、D2D服務如何讓英國人民與企業受益，以及各模式將面臨之法規調適議題進行說明[2]。 根據該次意見徵集之結果，Ofcom指出D2D服務可帶來多項潛在效益，包含（1）擴充語音、簡訊與資料之傳輸服務範圍至地面網路無法觸及之區域，實現全英國戶外無所不在之連結性；（2）為受天然災害或極端氣候事件影響，發生電力中斷或網路失效導致無發運作之基地台提供備援，提升行動網路之韌性；以及（3）以上述效益為基礎，強化民眾對緊急求救電話之近用性。 因此，Ofcom於2025年3月25日發布名為「在行動頻譜頻段實現衛星直連手機服務」（Enabling satellite direct to device services in Mobile spectrum bands）之第二次公眾意見諮詢文件，進一步針對授權D2D服務於3GHz以下、大多數已許可由行動網路經營商（Mobile Network Operator, MNO）使用之頻段內應用，而需釐清之具體適用頻段、技術限制、授權路徑等事項提起討論[3]。 貳、重點說明 意見諮詢文件首先針對適用範圍進行釐清，指出所謂之D2D服務僅限於利用既有分配予行動手機／行動網路頻段之類型，而不包含使用行動衛星服務（Mobile Satellite Service, MSS）頻段者。同時，其進一步限縮頻譜管理議題之指涉對象，說明雖D2D系統由兩種雙向無線電鏈路組成，但本次文件僅就服務鏈路[4]（Service Links）部分進行討論。 其次，考量到D2D服務應僅由與取得全國範圍相關頻率使用許可的MNO合作之衛星經營商提供，以在全英國境內提供D2D服務。文件提出3GHz以下、屬於分頻雙工（Frequency Division Duplex, FDD）與補充下行鏈路（Supplementary Downlink, SDL）之頻段作為未來可能提供D2D服務之選擇頻段，此些頻段皆以全國範圍為基礎進行許可，包含700MHz、800MHz、900MHz、1400MHz、1800MHz、2.1GHz與2.6GHz。Ofcom並指出為避免地面與衛星網路間的互相干擾，衛星經營商與MNO應密切合作、協調使用頻率，且或有需要在使用相同頻率時進行地理區隔。 再者，Ofcom從技術層面說明如何避免對同頻段或相鄰頻段之其它行動網路造成干擾。文件提出兩項具體要求，分別為限制衛星在行動下行頻譜之發射功率（依適用頻段有所不同），以及要求衛星傳輸之最低仰角不得低於20度。 最後，針對目前手機與衛星間之訊號傳輸、接收非屬過往許可豁免範圍所能涵蓋之情況，Ofcom提出三種可能之解決方案如下：（1）新增相關許可豁免規定；（2）對MNO既有的基地台許可進行變更，搭配許可豁免；以及（3）建立一套新的許可制度。由於依據第二種解決方案，Ofcom能於變更許可之時，要求MNO提供擬用於D2D服務之詳細頻率資訊、證明其能符合Ofcom要求之技術條件，以及展示其已與衛星經營商簽訂包含頻率協調、遵循技術條件之協議。且若干擾發生，Ofcom將可直接對MNO採取相關監管措施，從而有效解決干擾問題，因此該方案為Ofcom較偏好之選項。 參、簡析 考量我國既有通訊基礎建設密度高，且多數地區已有良好之4G／5G覆蓋之現況，相較於幅員遼闊且部分區域地面通訊網路布建困難的國家，衛星通訊於我國在地面覆蓋擴充之角色相對有限。惟就地理條件而言，我國位處地震帶，且每年夏秋期間常受颱風侵襲，因此在緊急通訊面向上，衛星通訊之災害應變、增加通訊韌性等功能即具有相當之重要性。在2024年4月花蓮大地震發生後，數位發展部首次提供低軌衛星設備於災區建立通訊網路，透過接收OneWeb低軌衛星訊號並將其轉換為Wi-Fi網路，使救災人員能即時將現場影像和語音回傳應變中心，對救災進度起到良好的推進作用，可見其在我國之應用潛力。 然而，若欲推動衛星通訊服務於一般公眾間之普及，勢必需利用既有已分配予MNO之頻譜資源，使市面上販售之手機得與衛星建立通訊鏈路，進而提供簡訊、語音傳輸等D2D服務。惟此一應用之實現，將涉及頻譜核配、干擾處理、電臺設置與使用管理等規範調適議題。有鑑於我國既有之700MHz、900MHz 和 1800MHz等4G頻段使用執照將於119年到期，屆時或將需透過無線電供應計畫之修正，研議釋出相關頻段供行動通訊與D2D服務共享使用，並同步檢討干擾處理、釋照管理機制等制度。英國本次公布之「在行動頻譜頻段實現衛星直連手機服務」諮詢文件，已由政策層面之討論深入至具體監管規範方案之提出，涵蓋適用頻譜、限制條件，以及授權機制等面向，其相關建議與後續公眾意見之回饋，將可作為我國未來頻譜監理機制調適之重要參考。 [1]Federal Register, Single Network Future: Supplemental Coverage From Space; Space Innovation, https://www.federalregister.gov/documents/2024/04/30/2024-06669/single-network-future-supplemental-coverage-from-space-space-innovation#page-34167 (last visited Jun. 5, 2025). [2]Ofcom, Improving mobile connectivity from the sky and space, https://www.ofcom.org.uk/siteassets/resources/documents/consultations/category-2-6-weeks/call-for-input-improving-mobile-connectivity-from-the-sky-and-space/main-documents/call-for-input-improving-mobile-connectivity-from-the-sky-and-space.pdf?v=370909 (last visited Jun. 5, 2025). [3]Ofcom, Consultation: Enabling satellite direct to device services in Mobile spectrum bands, https://www.ofcom.org.uk/spectrum/space-and-satellites/consultation-enabling-satellite-direct-to-device-services-in-mobile-spectrum-bands (last visited Jun. 5, 2025). [4]衛星與使用者裝置之間的通訊鏈路。