用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
關於SONY ERICSSON (SE)將推出PSP手機(PSP phone)的傳聞始終甚囂塵上，每隔一段時間就會有各種充滿想像力的照片在網路上散佈。美國專利商標局(USPTO)於2008年03月06日公開了SE於2006年08月30日所遞交的新專利申請案。從該申請案的內容中可發現，SE將為市場帶來具有更多新奇功能的PSP手機。 SE的該申請案揭露了一種可攜式行動通訊裝置，其包含全觸控式顯示螢幕、加速度感測器或其他方向感測器以及觸覺回饋(haptics feedback)配備，其可透過軟體分別在PSP以及手機模式下設定以及切換多種功能。特別地，由於該螢幕具有觸覺回饋機制，原本提供觸覺回饋的實體按鍵便可以被省去，因此在實務上，該螢幕可佈滿該通訊裝置的整個表面。 當然，在我們談到前述的加速度感測器、全觸控式顯示螢幕以及透過軟體設定功能的同時，SE並未在該專利申請案中限制該通訊裝置只能為PSP手機。因此，該通訊裝置也可能被設定為隨身聽手機、照相手機或行動網路瀏覽器等。 在這篇專利申請案中的構想與蘋果的iPhone相當類似，除了額外的PSP遊戲功能之外。但，我們不能就此認為SE抄襲蘋果的創意，因為，SE似乎是與蘋果同時發展這個構想的－這篇申請案的申請日期比iPhone的主要專利申請案的公開日期早了一週。
日本通過《不正競爭防止法》修正案規範元宇宙商品侵權情形日本國會於2023年6月通過《不正競爭防止法》修正案，新增不正競爭行為態樣，未來在元宇宙中仿製他人商品之虛擬商品或展示、轉讓等行為，可能構成不正競爭行為，健全元宇宙中發生商品侵權的法律應對基礎，預計於2024年6月13日施行。 在元宇宙中仿製他人商品並在元宇宙中展示、轉讓，屬於透過電信線路導致與他人商品混淆、以及使用相似商品描述進行轉讓、交付等行為，但依據《不正競爭防止法》現行第2條第1項第1號及第2號規定，對於仿製商品的轉讓出租行為缺乏透過電信線路態樣的實質規範。商標法對於仿冒商標雖有一定的規範，但若只是仿冒商品設計未觸及商標侵權，受害人無法依商標法對其請求停止侵權或損害賠償。因此本次修法擬補充元宇宙商品侵權的法規範，使在元宇宙轉讓出租仿製商品直接構成不正競爭行為，提供仿製商品在元宇宙轉讓出租所產生損害的請求權基礎。 本次修法新增透過「電信線路」進行不正競爭行為的態樣，根據新修訂《不正競爭防止法》第2條第1項第3號規定，透過電信線路提供轉讓、出租、以轉讓或出租為目的的展示、出口、進口、模仿他人商品型態等行為列為不正競爭行為，受害人可依據《不正競爭防止法》第3條向侵權人請求終止或防止侵權，或依同法第4條向侵權人請求損害賠償。 元宇宙的發展使得現實空間的消費活動轉移到虛擬空間。在元宇宙中，企業和用戶都可以創造虛擬物品並銷售給他人，並在元宇宙中開設虛擬商店，同時在現實與元宇宙提供商品。隨著元宇宙的發展，仿製商品的問題也凸顯出來，元宇宙的智慧財產權維護，需要法律提供保護，使受害人能夠透過法律請求終止侵權或損害賠償。日本的修法提供受害人解決侵權的法律基礎，不僅是保護受害人的權利，也保護元宇宙中的競爭環境，減少仿製商品對競爭的侵蝕，健全競爭環境。
低軌通訊衛星發展及應用之法制觀察低軌通訊衛星發展及應用之法制觀察 資訊工業策進會科技法律研究所 2022年04月25日 壹、事件摘要 隨著太空領域的技術突破，國際間主要國家已將焦點轉向太空場域，未來各類型太空商業活動及軍事性部署將大幅增加。低軌衛星（Low Earth Orbit Satellite）商業化發展趨勢最為明確[1]，其所涉及的法制規範受到高度關注，對於國家如何承擔作為太空活動主體的國家責任，尤其是太空物體發射活動之風險控管、損害賠償責任問題，以及善盡減少太空碎片之國際義務等；此外，較為成熟的低軌衛星通訊服務，國際業者如SpaceX、OneWeb正積極於全球部署，則通訊傳播監管規範宜如何調適，亦為觀察重點。 本文以低軌通訊衛星發展及應用為核心，爬梳相關法制，面向涵蓋從火箭發射階段至衛星營運階段，說明其間涉及的活動規範之法制發展重點，以及供應鏈安全管理的議題，以供我國法規調適之參考。 貳、重點說明 一、發射階段 在衛星發射階段，主要涉及之國際太空法[2]為《登記公約》及《責任公約》，締約國必須遵守公約規定並善盡監管責任，是以美國、英國及日本對太空活動皆有嚴謹的許可審查制度[3]。一般而言，發射階段的審查通常分為「發射載具」及「太空載具」兩種，前者著重技術安全性的審查，避免發射過程中對他人造成損害，因此火箭發射業者必須盡可能採取相關安全措施，讓風險降至最低，而國家的角色則是評估該發射活動落於可接受的風險後，始可同意其施行。後者對於太空載具的審查，除了人造衛星本身的安全性之外，尚須說明該衛星之用途及設計，如是否會供軍事使用、若有核能之使用是否安全、是否符合國際無線電頻率秩序，以避免於外太空中造成危害或干涉到其他的人造衛星等。 除了太空五大公約之外，隨著太空活動的增加，尚有其他參考準則之提出，如2007年聯合國大會決議通過「太空碎片減緩指引」（Space Debris Mitigation Guidelines），該指引為自律性參考文件，並不具有國際法的法律拘束力，其建議在任務規劃、設計、製造發射火箭之飛行任務，應將太空碎片減緩措施納入考量[4]。美國聯邦通訊委員會（Federal Communications Commission, FCC）亦有提出其「太空碎片緩解政策與法令遵循指導」，以避免大量的低軌通訊衛星在結束任務後成為太空垃圾[5]。 我國已於2021年5月31日立法通過《太空發展法》，該法參照國際太空法規範，建立國家行政管理之法制基礎，特別是《登記公約》之太空載具登錄及許可規範；以及《責任公約》之太空事故損害賠償責任及保險制度等。至於太空活動之侵權案件，國際太空法係以國家為主體，無論是作為求償國或是被求償國，我國如何參與國際爭端解決，將有待實務觀察。 二、營運階段 （一）國際頻率協調 通訊衛星使用的無線電及微波的頻段較寬，為了避免訊號干擾，係由國際電信聯盟（International Telecommunication Union, ITU）依據無線電規則（Radio Regulation），協助無線電頻率分配及跨國頻率協調。 我國非ITU會員國，過往實務係以折衷方式參與國際頻率協調，如中華電信之中新一號及中新二號，採取與新加坡電信合作模式，爭取衛星通訊之營運機會；而科研用途之衛星可循專為科學研究及實驗之特殊保留頻段，可透過ITU下非官方機構組成的太空頻率協調小組（Space Frequency Coordination Group, SFCG）協調國際間科研使用頻段；或是透過國際業餘無線電聯盟（International Amateur Radio Union, IARU），取得頻率協調證明文件。 惟對於商用通訊衛星，因其需要供商業使用之專用頻譜，並且排除他人之干擾，仍必須透過ITU與他國進行頻率協調交涉並完成使用登記，始可提供衛星通訊服務。 （二）衛星通訊服務涉及之法規調適 通訊傳播服務屬於高度監管的行業，業者必須遵循電信管理法規之要求，始可於境內提供服務。我國已新增10.7-12.7GHz、13.75-14.5GHz、17.7-20.2GHz及27.5-30.0GHz等頻段供衛星通訊使用[6]，惟申請人資格必須符合外資持股上限，即外國人直接持有股份總數不得超過49%，直接及間接持有股份總數不得超過60%[7]。法制政策上若欲放寬外資持股限制，則必須加以修法。另一途徑，國際衛星業者亦可透過具有衛星業務執照之國內業者代理申請，目前實務上中華電信已於2021年8月宣布與Starlink展開合作，可能協助代理Starlink的衛星通訊服務並在臺販售[8]。 之後衛星通訊服務的討論焦點可能會是「衛星間鏈路」（Inter Satellite Links, ISL）的應用，即允許資料在衛星之間傳輸及交換，無需再另外設置地面閘道站（gateway），而讓境內資料直接傳輸至外國。我國現行制度係外國業者在提交經營許可之申請時，自行承諾、遵守我國通訊監察之要求及義務。一旦衛星通訊服務盛行，是否會對國家主權之通傳監理產生挑戰，如通訊監察之資料調取協助義務、資料落地管理等，有待持續觀察[9]。 三、系統及零組件之資安管理 目前國際間僅有美國訂定衛星通訊之網路安全要求，惟其係針對軍事應用之衛星通訊，並非全面性之要求[10]。我國亦未對衛星的資通安全有相關的強制性規範，實務上衛星供應鏈業者主要是因應品牌商代工規格之要求，進行生產。是以，對於商用性低軌衛星通訊服務，現階段或許能參考5G行動通訊之共通適用原則，如供應鏈安全、資通安全維護計畫等。 參、事件評析 為了掌握太空產業商機，特別是現階段可預期的低軌通訊衛星的發展，我國相關的法制政策宜迎合產業需要，並促進各種太空活動的創新應用，以厚植人才與技術能量。 首先，在發射階段部分，我國《太空發展法》對於太空活動之監管與權利義務分配，已建立了法制基盤，本文認為後續細部的法制監管密度宜配合產業成熟程度加以定之。申言之，在初期發展過程，太空活動之監管似不宜課予過高的義務及責任，避免商業性太空活動之利害關係人望之卻步，建議以軟性方式，例如透過獎勵或輔導等途徑，促進業者符合太空碎片減量或其他環境保護之要求，待國內發射能量累積後，再採取拘束性規範並執行嚴格管理。 其次，在營運階段部分，國內產學界皆希望我國商業性太空活動能在國際間有所突破，惟受限於ITU國際頻率協調之困境，建議短期內宜推廣與外國合作的模式，政策上宜協助媒合國內設備元件業者與外國衛星所有者，以進入國際太空產業供應鏈。長期而言，商用衛星服務的經營仍需要透過ITU進行國際頻率協調，因此仍需動員外交力量，協助商用衛星拓展可行的頻率協調途徑。至於國際低軌衛星業者於我國落地提供服務部分，必須符合現行通傳法制規範，如取得公眾電信網路之使用核准、頻譜使用申請等，後續電信主管機關宜觀察ISL技術的使用情況、國際間對於衛星數據傳輸之要求，以及是否要求於境內設置閘道站等，以掌握對衛星網路之監管。 最後，在系統及零組件資安管理部分，由於國際間對於衛星網路技術標準仍在討論中，宜待國際間衛星資安標準形成，再據以制定相關規範。值得注意的是，衛星通訊網路為電信業之一環，屬於我國關鍵基礎設施領域並為《資通安全管理法》納管範圍，故其仍需遵守該法課予之高規格的安全標準，即衛星服務營運商應盡可能使用安全供應鏈及避免高風險設備，並從設計面納入資安考量。 [1] 低軌衛星係指佈署於低軌道之衛星，一般而言距離地球高度約160至2,000公里，相對於中軌道衛星、地球同步軌道衛星，低軌衛星離地球距離較近，因此傳輸延遲較短、功率耗損較少，進而可有效實現全球網路覆蓋。參考自楊可歆，〈低軌衛星於行動通訊業務之應用場景分析〉，MIC產業研究報告，2020/05/18， https://mic.iii.org.tw/aisp/Reports.aspx?id=CDOC20200507001 （最後瀏覽日：2022/03/31）。 [2] 目前國際太空法包括五大公約，分別為1967年《外太空條約》（Outer Space Treaty）、1967年《營救協定》（Rescue Agreement）、1971年《責任公約》（Liability Convention）、1974年《登記公約》（Registration Convention）及1979年《月球協定》（Moon Treaty）。 [3] 美國規範於《商業太空發射法》（Commercial Space Launch Act），可見於https://uscode.house.gov/view.xhtml?path=/prelim@title51/subtitle5/chapter509&edition=prelim （最後瀏覽日：2022/03/15）；英國規範於《外太空法》（Outer Space Act），可見於https://www.legislation.gov.uk/ukpga/1986/38/contents （最後瀏覽日：2022/03/15）；日本規範於《太空活動法》（宇宙活動法），可見於https://www8.cao.go.jp/space/english/activity/documents/space_activity_act.pdf （最後瀏覽日：2022/03/15）。 [4] UNOOSA, Space Debris Mitigation Guidelines of the Committee on the Peaceful Uses of Outer Space, 2010, https://www.unoosa.org/pdf/publications/st_space_49E.pdf (last visited Apr. 06, 2022). [5] FCC, Mitigation of Orbital Debris in the New Space Age, IB Docket No. 18-313, Apr. 02, 2020, https://docs.fcc.gov/public/attachments/DOC-363486A1.pdf (last visited Apr. 06, 2022). [6] 彭慧明，〈低軌衛星頻譜 6月開放申請〉，經濟日報，2022/03/24，https://udn.com/news/story/7240/6187130 （最後瀏覽日：2022/04/14）。 [7] 《電信管理法》第36條第4項及第5項 [8] 張瑞益，〈中華電、Starlink攜手合作 搶低軌道衛星商機〉，經濟日報，2021/08/30，https://udn.com/news/story/7240/5708752 （最後瀏覽日：2022/03/14）。 [9] Larry Press, Are Inter-Satellite Laser Links a Bug or a Feature of ISP Constellations?, CIRCLEID, Apr. 03, 2019, https://circleid.com/posts/20190403_inter_satellite_laser_links_bug_or_feature_of_isp_constellations/?fbclid=IwAR2iQEgPCm-ACC8kwvRaMDZPxCxLehHKvWvAn8tkr0njn8TubUTM_cLsIc4 (last visited Mar. 31, 2022). [10] 謝宜庭，〈美國白宮頒布有關於太空系統的網路安全原則《太空政策第5號指令》〉，資策會科技法律研究所，2021年4月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8629 （最後瀏覽日：2022/03/14）。
資通安全法律案例宣導彙編 第3輯