用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
論美國與歐盟半導體之保護策略 蔡立亭 資訊工業策進會科技法律研究所 2021年12月 根據美國白宮於2021年9月23日的公告，COVID-19的流行衝擊產業的供應鏈；政府藉由法案的施行，積極預防晶片的短缺[1]。為保護產業的發展，與國際競爭力，不僅美國致力於晶片的自給自足；歐盟鑒於國際趨勢，亦積極強化技術能力[2]。本文擬研析於2021年，美國、歐盟促進半導體發展的策略，並聚焦於相關的法制與聯盟。 壹、事件摘要 據調查報告指出，由於近年大量外購半導體與設置境外公司，美國於全球半導體的產量占比，已明顯下降，並欠缺先進技術的能力[3]。申言之，美國於半導體生產的量與質，皆已呈現危機。基於穩定國內產業之供需，和提升半導體技術的量能，美國政府積極擬定《2021財政年國防授權法》；半導體產業並組成聯盟凝聚共識，共同維護半導體供應鏈之健全。 歐洲亦致力於推進半導體的發展，提出《歐洲晶片法案》（European Chips Act）[4]，歐盟並另成立「處理器與半導體技術聯盟」（the Alliance for Processors and Semiconductor technologies）[5]。申言之，歐洲以法案與產業聯盟，共同強化歐洲整體於國際半導體之技術量能。 貳、重點說明 承上所論，為協助境內半導體產業的發展，提升研發技術能力，美國與歐盟創造適合的生態環境。由政府制定規範，挹注相關資源；產業並聚集為聯盟，協力提升半導體產能。本文以下擬分述之。 一、美國 美國《2021財政年國防授權法》的H Division其他事項第99主題（TITLE XCIX），為「創造有助於美國生產半導體的激勵措施」[6]。係資助發展安全且穩定的半導體，和半導體供應鏈；並含建立多邊半導體基金[7]，以及與國外共同籌資機制（common funding mechanism）[8]。在提升半導體研究與發展的層面，則成立「國家半導體科技中心」，參與的單位為商務部、國防部、能源局與國家科學基金會[9]。該中心的任務為執行半導體的製造、設計、研究[10]；並建立投資基金，與私部門合作，以支持新創公司、產學合作，提升美國的半導體生態系[11]。申言之，美國以國家主導，跨部會協作，挹注經費，整合半導體的研究資源。 美國半導體聯盟（Semiconductors in America Coalition，SIAC）係由製造與使用半導體的公司，組成跨部門聯盟，其任務為藉由提升半導體的製造與研究，強化美國的經濟、關鍵基礎設施，與國家安全[12]。另，美國半導體工業協會（Semiconductor Industry Association，SIA）自1977年成立[13]，成員類型包含半導體設計與製造公司總部位於美國者（特許會員）、總部位於美國境外而對美國具有重要性者（國際半導體會員）、在半導體產業供應鏈中的公司且期待對聯盟的公共政策具有發言權者（企業會員），和非屬半導體產業的公司（企業夥伴）[14]。SIA的任務為推動政策與法規，提升國際競爭力，和維持技術領先性[15]。換言之，聯盟包含境外成員的參與，以共同推動半導體的發展。 二、歐盟 歐盟之《歐洲晶片法》則尚處於研議階段，係由歐盟委員會主席Ursula von der Leyen於2021年9月提出，並認為應連結半導體設計、製造與測試的能力[16]。歐盟委員Thierry Breton指出，該法案應包含三個構面：一為歐洲半導體研究策略，此為歐洲在全球半導體價值鏈中的優勢；次為藉由共同計畫，以提升歐洲的產出能力；三為國際合作的框架[17]。擬以法案深化歐洲半導體產業的研究、技術量能。 歐洲處理器與半導體技術聯盟，係於2021年7月成立，總體目標為識別晶片生產與企業技術發展需求間的落差[18]。並轉化為兩個主要的行動，一為強化歐洲電子設計的生態系統；次為建立必要的製造能力[19]。藉由檢視晶片的供需，以協調整體生態系的發展。 參、事件評析 綜上所論，美國與歐洲輔助境內半導體的發展，可歸納為縱向層面：以立法的方式，編列預算並保護技術。以橫向層面觀察，半導體產業組成聯盟，可由產業界的視角，交流相關技術經驗，和調整規範以符合技術發展實務。 美國與歐盟積極整合相關的資源，提升境內之半導體研究與技術，競爭國際之領導地位。觀察美國《2021財政年國防授權法》對半導體產業的輔助，或可歸納為1、國際合作籌資；2、跨部會合作；與3、公私協力。歐盟之《歐洲晶片法案》並擬於2022年第2季有相關的倡議[20]。或亦將注重國際合作，以優化半導體產業。 針對半導體聯盟之設置，成員或包含國際會員，以協調相關的政策、法規，整合半導體的供給與需求。申言之，美國與歐盟槓桿國際資源，輔助境內半導體產業，提升研發技術，與半導體供應之量能。 [1] Sameera Fazili and Peter Harrell, When the Chips Are Down: Preventing and Addressing Supply Chain Disruptions, Briefing Room Blog (September 23, 2021), https://www.whitehouse.gov/briefing-room/blog/2021/09/23/when-the-chips-are-down-preventing-and-addressing-supply-chain-disruptions/#3 (last visited Oct. 13, 2021). [2] EU’s costly plan to close the semiconductor gap, Bloc would do better to focus on chip design and specialist machinery, FINANCIAL TIMES, Oct. 4, 2021, https://www.ft.com/content/a016f686-791f-4a3f-9e7a-c6389896862b (last visited Nov. 2, 2021). [3] FACT SHEET: Biden-Harris Administration Announces Supply Chain Disruptions Task Force to Address Short-Term Supply Chain Discontinuities, 100-Day Review Outlines Steps to Strengthen Critical Supply Chains, Final Report, The White House, https://www.whitehouse.gov/briefing-room/statements-releases/2021/06/08/fact-sheet-biden-harris-administration-announces-supply-chain-disruptions-task-force-to-address-short-term-supply-chain-discontinuities/ (last visited Oct. 18, 2021). [4] Ursula von der Leyen, President of the European Commission, 2021 State of the Union Address by President von der Leyen, Address at European Commission (September 15, 2021), 1, at 4, https://ec.europa.eu/commission/presscorner/detail/ov/SPEECH_21_4701 (last visited Oct. 21, 2021). [5] Digital sovereignty: Commission kick-starts alliances for Semiconductors and industrial cloud technologies, European Commission, https://ec.europa.eu/commission/presscorner/detail/en/IP_21_3733 (last visited Oct. 20, 2021). [6] TITLE XCIX—CREATING HELPFUL INCENTIVES TO PRODUCE SEMICONDUCTORS FOR AMERICA, William M. (Mac) Thornberry National Defense Authorization Act for Fiscal Year 2021, Authenticated U.S. Government Information GPO, One Hundred Sixteenth Congress of the United States of America at the second session, 1, at 1456, https://www.congress.gov/bill/116th-congress/house-bill/6395/text (last visited Oct. 22, 2021). [7] SEC. 9905. Funding for development and adoption of measurably secure semiconductors and measurably secure semiconductors supply chains (a), id., at 1467. [8] SEC. 9905. Funding for development and adoption of measurably secure semiconductors and measurably secure semiconductors supply chains (b), id., at 1468. [9] SEC. 9906. Advanced microelectronics research and development (c) (1), id., at 1471. [10] SEC. 9906. Advanced microelectronics research and development (c) (2) (A), id., at 1471. [11] SEC. 9906. Advanced microelectronics research and development (c) (2) (B), id., at 1472. [12] About, SIAC Semiconductors in America Coalition, https://www.chipsinamerica.org/about/ (last visited Oct. 20, 2021). [13] History, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/history/ (last visited Oct. 21, 2021). [14] Join SIA, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/become-a-member/ (last visited Oct. 21, 2021). [15] Mission, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/mission/ (last visited Nov. 2, 2021). [16] Ursula von der Leyen, supra note 4. [17] 歐盟官方發布內容：Thierry Breton, How a European Chips Act will put Europe back in the tech race, Blog (September 15, 2021), https://ec.europa.eu/commission/commissioners/2019-2024/breton/blog/how-european-chips-act-will-put-europe-back-tech-race_en (last visited Oct. 20, 2021). Linked in發布內容：Thierry Breton, How a European Chips Act will put Europe back in the tech race, Linked in (September 15, 2021), https://www.linkedin.com/pulse/how-european-chips-act-put-europe-back-tech-race-thierry-breton/?published=t (last visited Oct. 21, 2021). [18] Alliance on Processors and Semiconductor technologies, Shaping Europe’s digital future, European Commission, https://digital-strategy.ec.europa.eu/en/policies/alliance-processors-and-semiconductor-technologies (last visited Oct. 20, 2021). [19] Industrial Alliance on Processors and Semiconductor Technologies, Internal Market, Industry, Entrepreneurship and SMEs, European Commission, https://ec.europa.eu/growth/industry/policy/industrial-alliance-on-processors-and-semiconductor-technologies_en (last visited Oct. 20, 2021). [20] EUROPEAN COMMISSION, Commission Work Programme 2022 Annex I: New initiatives (October 19, 2021), 1, at 2, https://ec.europa.eu/info/system/files/factsheet_cwp_2022_annex_v4.pdf (last visited Nov. 1, 2021).
美國參議院提出「2019年物聯網網路安全促進法」草案自2016年Mirai殭屍網路攻擊事件後，物聯網設備安全成為美國國會主要關注對象之一，參議院於2017年曾提出「2017年物聯網網路安全促進法」（Internet of Things Cybersecurity Improvement Act of 2017）草案，防止美國政府部門購買有明顯網路安全性漏洞之聯網設備，並制定具體規範以保護聯網設施之網路安全，然而該法案最終並未交付委員會審議。 2019年4月，美國參議員Mark Warner提出「2019年物聯網網路安全促進法」草案（Internet of Things Cybersecurity Improvement Act of 2019），再度嘗試建立物聯網網路安全監管框架。本法將授權主管機關建立物聯網設備所應具備之安全性條件清單，而該清單將由美國國家標準與技術研究院（National Institute of Standards and Technology）擬定，並由管理與預算局（Office of Management and Budget, OMB）負責督導後續各聯邦機關導入由美國國家標準與技術研究院所制定之網路安全指引。本法草案相較於2017年的版本而言雖較具彈性，惟網路安全專家指出，清單之擬定與執行管理分別交由不同單位主責，未來可能導致規範無法被有效執行，且聯邦各層級單位所需具備之資安防護等級不盡相同，如何制宜亦係未來焦點。
美國先進製造國家計畫辦公室於今年(2015) 6月10日研提現況檢討報告與相關政策資料為檢視國內先進製造業復甦與計畫推進之近況，美國先進製造國家計畫辦公室（Advanced Manufacturing National Program Office, AMNPO）於今年(2015) 6月10日研提現況檢討報告與相關政策資料，該項報告主要可歸結「國內產業現況」、「計畫執行成效」與「法制組織」等重要面向 ，茲就該項報告之重點摘要如下： (一)國內先進製造產業現況檢視： 報告指出美國目前正喪失在先進產品領域全球領導地位，在進出口貿易呈現嚴重赤字，雖近年致力於先進製造之資源整合與共同研發等措施，然而，觀察基礎科研端到市場端仍存有落差。 (二)先進製造領域已設立45個研發創新中心： 研發創新中心為產業與學研機構共構之「區域應用性組織」，主要由學術研究聯盟、企業和區域管理機構所組成專注於扶持區域具經濟優勢之新興技術研發，發展在地技術能量。先進製造領域，截至目前為止，已設立45個研發創新中心。除透過研發創新中心之扶持外，另可透過中心之設立選定各該重點關鍵技術發展，間接培育美國各區域之先進製造技術之專業領域。美國境內研究型大學或非營利組織皆得提案申請，而獲選之區域創新研究機構可獲得聯邦政府5至7年資金補助，政府欲透過補助模式，扶持區域新創機構之自主運作與發展。而於七年發展階段後，該機構將形成財政自主，由該機構之行政委員會主導研發資金運用與分配。
歐盟預計修法促進新穎性食品發展歐盟為了要加速新穎性食品之上市、促進食品科技之發展，並加強複製動物乳肉品、奈米食品或外來等新穎性食品之上市查驗，今（2008）年初歐盟執委會（Commission）即針對1997年新穎性食品規則（Regulation (EC) No 258/97 concerning novel foods and novel food ingredients）提出修正建議案，而現行規則最大爭議，則在於其未能涵蓋1997年以後才研發出的食品以及在歐盟未大量食用但在國外已廣泛食用等兩類食品。 新規則草案的修正重點，將放在：（1）排除已受其他專門法規管轄之食品，包含生技產品（即基因改造食品、GMO）、食品添加物、調味料、酵素、維他命與礦物質（類似我國健康食品、保健食品）等。（2）建立單一、簡化的中央查驗制度（centralised authorisation system），由歐盟食品安全署（EFSA）進行安全評估後由執委會發布許可。（3）明定適用範圍包含運用非傳統育種技術所得之植物來源食品（food of plant or animal origin when to the plant and animal is applied a non-traditional breeding technique not used before 15 May 1997），亦即含複製動物食品，以及運用新生產製程所得之食品（food to which is applied a new production process, not used before 15 May 1997），即涵蓋運用奈米科技所製造奈米食品。此外，新規則亦提供研發新科學證據及資料並申請獲准的公司，享有5年的資料專屬保護（data protection，即data exclusivity），用以促食品及食品生產技術之研發。