用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
論科學資料之開放與共享—以美國國家衛生研究院之資料政策為核心 資訊工業策進會科技法律研究所 蔡立亭 2020年12月25日 科學研究以提升全人類之福祉為本，醫療健康研究資料的共享，有助於促進整體科學研究的量能。為促進由政府支持之科學資料與研究發現的近用，美國政府原則上肯定科學之發展與資料之留存、近用相關，資料之公開不僅應遵守法律之限制，尚應注意資料之生命週期，並訂定時限；受政府資助之研究，所產出之資料以免費近用為原則，政府之政策亦應考量國際合作之實際情況[1]。申言之，科學研究資料的近用，有助於提升科學發展，政府於制定共享政策的同時，亦應一併考量國際合作的情況，並以免費近用為原則，研議資料公開策略。 為增進科學資料的效益，美國國家衛生研究院（National Institutes of Health，簡稱NIH）設置科學政策辦公室（Office of Science Policy，簡稱OSP）制定完整的政策，領域擴及生物安全、基因檢測、基因資料共享、人類受試者保護、NIH的組織與管理，和受NIH資助研究的成果與價值；藉由廣泛的分析與報告，提出新興政策建議[2]。在科學資料共享的層面，NIH聚焦於「基因與健康」和「科學資料管理」，生物醫學研究的進展，取決於科學資料的近用；共享科學資料，有助於驗證研究結果，研究者整合資料以強化分析，提升難以生成資料的再次應用，加速研究進展[3]。NIH藉由資料的管理，促進科學資料的近用，以驗證並共享研究成果。 為輔助資料之開放共享，NIH公告資料管理與共享政策（NIH Policy for Data Management and Sharing，以下簡稱DMS政策），目的為促進由NIH資助或進行研究的科學資料共享[4]。DMS政策將科學資料定義為：「在科學社群普遍接受記錄事實的素材，研究發現能反覆的驗證，不論該資料是否用以支持學術出版物。科學資料並不包含實驗室筆記、初步分析、完整的個案報告表、科學報告的草稿、未來的研究計畫、同儕評論、與同事的溝通、物理實體，例如實驗室標本[5]。」。換言之，並非僅以該資料是否能佐證學術出版物為科學資料之認定基準，而係以該科學資料是否屬事實之記載，和研究成果能否反覆驗證為判斷。 另，NIH、NIH研究院、中心、辦公室已有資料預期的共享，如：科學資料的共享、相關標準、資料庫的選擇、時限，適用並於計畫中呈現；若不適用則研究員應在計畫中提出資料共享與管理的方式，NIH並建議資料的管理與共享應實踐FAIR（Findable、Accessible、Interoperable、Reusable）原則，共享的資料類型，首先為一般性的描述、估計在研究中生成或使用的科學資料，次為列出後設資料等有助於解釋科學資料的文件；NIH鼓勵科學資料盡快共享，不遲於資料的出版或執行期間[6]。申言之，即使各該研究計畫不適合既有的共享策略，於計畫提案時，研究團隊仍應研擬適合共享與管理的方式，並以FAIR原則為依準。 研究團隊提供的科學研究資料，將儲存於由政策或資助方指定的資料庫。NIH提出推薦的資料庫列表[7]，並描述理想的儲存資料庫特色為：「具有獨特且永久的識別碼、具有長期持續管理資料的計畫、設置後設資料、整理資料並保證品質、免費並簡易的近用、廣泛且可估計的重複使用、明確的使用指引、安全性與完整性、機密性、共通格式、引用機制，及資料保留策略[8]」。由此觀之，資料庫的設計應易於科學資料的檢索；並在資料的近用上，維護資料之安全、完整、機密等。 NIH共享資料之實際應用上，為共享基因研究資料，NIH於2014年提出基因資料共享政策（Genomic Data Sharing Policy，以下簡稱GDS政策），包含NIH資助指南與契約；NIH的GDS政策適用於所有NIH資助的研究，生成之大規模人類或非人類之基因資料，將應用於後續的研究[9]。藉此能有效率的推動基因研究向前邁進。 GDS政策課予研究者提供基因資料的義務；研究者近用基因資料，亦應遵守基於研究使用控制近用資料（Controlled-Access Data）的條款[10]。研究人員受NIH核准後，方能將NIH控制近用的資料，應用於第二次研究（secondary research）[11]。由NIH資料近用委員會（Data Access Committee）審查，研究員近用資料並須遵守基於研究使用控制近用資料的條款[12]。另，基因摘要結果（Genomic Summary Results，以下簡稱GSR）隸屬於NIH政策[13]，並依據GDS政策目的，將GSR定義為由研究者提供的摘要統計（summary statistics），非敏感性的資料列入NIH指定的資料庫中[14]。換言之，NIH以對控制近用資料的應用核准，在資料之限制近用與科學發展間，取得平衡。 為回應COVID-19，加速治療與疫苗的研發，NIH的資料共享與管理政策，緩解全球科學社群開放共享科學資料的需求，該政策並建立資料共享為研究過程的基礎成分[15]。綜上所論，將資料共享內化於研究過程中，有助於全球同步更新研究的進程，共同面對全人類之科學挑戰。 [1] NATIONAL SCIENCE AND TECHNOLOGY COUNCIL, COMMITTEE ON SCIENCE, SUBCOMMITEE ON INTERNATIONAL ISSUES, INTERAGENCY WORKING GROUP ON OPEN DATA SHARING POLICY, Principles For Promoting Access To Federal Government-Supported Scientific Data And Research Findings Through International Scientific Cooperation (2016), 1, 整理自Principles, at 5-8, https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/NSTC/iwgodsp_principles_0.pdf (last visited December 14, 2020). [2]About Us, Welcome to NIH Office of Science Policy, NIH National Institutes of Health Office of Science Policy, https://osp.od.nih.gov/about-us/ (last visited December 7, 2020). [3]NIH Data Management and Sharing Activities Related to Public Access and Open Science, NIH National Institutes of Health Office of Science Policy, https://osp.od.nih.gov/scientific-sharing/nih-data-management-and-sharing-activities-related-to-public-access-and-open-science/ (last visited December 10, 2020). [4]Final NIH Policy for Data Management and Sharing, NIH National Institutes of Health Office of Extramural Research, Office of The Director, National Institutes of Health (OD), https://grants.nih.gov/grants/guide/notice-files/NOT-OD-21-013.html (last visited December 11, 2020). [5]Final NIH Policy for Data Management and Sharing, NIH National Institutes of Health Office of Extramural Research, Office of The Director, National Institutes of Health (OD), https://grants.nih.gov/grants/guide/notice-files/NOT-OD-21-013.html (last visited December 12, 2020). [6]Supplemental Information to the NIH Policy for Data Management and Sharing: Elements of an NIH Data Management and Sharing Plan, Office of The Director, National Institutes of Health (OD), https://grants.nih.gov/grants/guide/notice-files/NOT-OD-21-014.html (last visited December 13, 2020). [7]資料庫列表請參見以下網址：Open Domain-Specific Data Sharing Repositories, NIH National Library of Medicine, https://www.nlm.nih.gov/NIHbmic/domain_specific_repositories.html (last visited December 24, 2020). [8]Supplemental Information to the NIH Policy for Data Management and Sharing: Selecting a Repository for Data Resulting from NIH-Supported Research, Office of The Director, National Institutes of Health (OD), https://grants.nih.gov/grants/guide/notice-files/NOT-OD-21-016.html (last visited December 13, 2020). [9]NIH Genomic Data Sharing, National Institutes of Health Office of Science Policy, https://osp.od.nih.gov/scientific-sharing/genomic-data-sharing/ (last visited December 15, 2020). [10]NIH Genomic Data Sharing Policy, National Institutes of Health (NIH), https://grants.nih.gov/grants/guide/notice-files/NOT-OD-14-124.html (last visited December 17, 2020). [11]NIH Genomic Data Sharing Policy, National Institutes of Health (NIH), https://grants.nih.gov/grants/guide/notice-files/NOT-OD-14-124.html (last visited December 17, 2020). [12]id. [13]NIH National Institutes of Health Turning Discovery into Health, Responsible Use of Human Genomic Data An Informational Resource, 1, at 6, https://osp.od.nih.gov/wp-content/uploads/Responsible_Use_of_Human_Genomic_Data_Informational_Resource.pdf (last visited December 17, 2020). [14]Update to NIH Management of Genomic Summary Results Access, National Institutes of Health (NIH), https://grants.nih.gov/grants/guide/notice-files/NOT-OD-19-023.html (last visited December 17, 2020). [15]Francis S. Collins, Statement on Final NIH Policy for Data Management and Sharing, National Institutes of Health Turning Discovery Into Health, https://www.nih.gov/about-nih/who-we-are/nih-director/statements/statement-final-nih-policy-data-management-sharing (last visited December 14, 2020).
英國Ofcom對媒體多元性標準徵求公眾意見2011年3月，英國文化、奧運、媒體與體育大臣（Secretary of State for Culture, Olympics, Media and Sport）Jeremy Hunt原已同意跨國媒體集團News Corporation併購英國天空廣播公司British Sky Broadcasting Group（BSkyB）並進行後續之審議流程。但在同年7月爆出News Corporation旗下的英國世界新聞報竊聽醜聞後，News Corporation立即取消該項併購申請。 在此一事件影響下，Jeremy Hunt要求英國電信主管機關Ofcom（Office of communications）對於跨媒體多元性管制架構進行檢討。現行媒體多元性管制主要在於同媒體之間合併必須通過公眾利益測試（public interest test），並有國家跨媒體所有權限制。Ofcom徵求意見如下： 1.跨平台媒體多元性如何測量，推荐最好方法為何？ 2.在新聞市場中可否設定一絕對的市場佔有率限制？ 3.在沒有合併案件的情形下，是否有其他事件可引發媒體多元性的持續追蹤、誰以及如何進行追蹤？ 4.媒體多元性測量是否包含網站？ 5.測量是否包含BBC？ Ofcom將於2011年11月18日截止收件，並於2012年初提出修改之方向。
日本修訂醫藥品強化綜合戰略日本內閣於2017年6月閣議決定「經濟財政營運與改革基本方針2017」，設定醫藥品項倍增目標，並計畫檢討在2020年9月前達成學名藥使用率80%以上之推動政策。基於上開方針，為實現「安定供應國民優良品質醫藥品」、「醫療費效率化」、「產業競爭力強化」等目的，厚生勞動省於2017年12月22日修訂「醫藥品產業強化綜合戰略～著眼全球展開之新藥研發」，希望日本醫藥品產業能從依賴「長期收載品」之商業模式，轉向具備更高新藥開發能力之結構。 「醫藥品產業強化綜合戰略」主要修訂內容如下︰（1）改善日本技術、相關知識等研究開發環境︰如推動癌症基因醫療、資料庫整備、利用AI進行醫藥品研究開發等；（2）透過藥事規制改革減低醫療成本和提高效率︰如善用附條件認可制度，以及先驅審查制度之制度化等；（3）醫藥品生產、製造等基礎設施之整備︰如制定相應之新技術品質管理等規範；（4）適當評價之環境、平台整備︰如各種臨床指引之整備；（5）向海外推廣日本製造之醫藥品︰如制定國際法規調適戰略等；（6）促進新藥開發業界之新陳代謝和全球化創新企業︰支援新創企業之人才育成、金融市場之整備等；（7）改善醫療用醫藥品之流通︰如制定流通改善指引等。
歐洲五大電信公司聯合呼籲歐盟建立Open RAN創新生態系統歐洲五大電信公司──德國電信（Deutsche Telekom）、法國Orange電信、義大利電信（Telecom Italia）、西班牙電信（Telefonica）與英國沃達豐電信（Vodafone）於2021年11月18日聯合發表聲明，呼籲歐盟執委會與成員國加速開放「開放式無線存取網路」（Open Radio Access Network, Open RAN）的技術應用，並提出「為歐洲建立Open RAN生態系統」（Building an Open RAN Ecosystem for Europe）研究報告。 本報告對Open RAN價值鏈和當前供應商進行分析，發現許多歐洲供應商正處於發展初期，未獲得Open RAN商業契約，且在Open RAN關鍵服務的部分類別（如雲端軟體）中，尚未有歐洲供應商。甚至綜觀Open RAN的各項關鍵服務分布，歐洲供應商僅有少數等。因此，本報告強調歐洲需迫切將Open RAN作為戰略重點，並提出以下五點建議： （一）歐盟的政策制定者應積極推動發展創新、開放及可互通之電信生態系統，並期望歐盟執委會、成員國與產業利害關係人，透過對話與討論，促使全歐洲對Open RAN生態系統之建立產生共識。 （二）執委會應成立下世代通訊基礎設施聯盟，如同過去其為雲端與半導體設立聯盟，作為推動該產業的關鍵力量。此外，為迎接Open RAN新興技術，應提倡如歐盟共同利益重要計畫（Important Projects of Common European Interest, IPCEI）的微電子和通訊技術、5G產業協會與共同承諾推動智慧網路服務多國計畫。 （三）政策制定者應降低歐盟供應商和新創企業之投資風險，並對歐洲未來具有戰略意義的技術領域，以資金與租稅等激勵措施，支持歐洲供應商合作。如由歐盟執委會和各國政府為財團提供資金，使歐洲公司建立穩固的合作關係，並成為Open RAN價值鏈中茁壯成長的供應商。 （四）O-RAN聯盟（O-RAN ALLIANCE）與第三代合作夥伴計劃（3rd Generation Partnership Project, 3GPP）及歐洲電信標準協會（European Telecommunications Standards Institute, ETSI）正式合作，支持採用O-RAN規範作為ETSI的自願性標準，可透過快速程序對現有3GPP規範進行補充。透過促進全球統一的Open RAN標準，確保開放性網路設備的互通性，如：全歐認證的品質與互通性，建立生態系統部署者的信心。 （五）歐盟應與國際合作，促進安全、多樣化及可持續的資訊與通訊技術供應鏈，如：利用七大工業國組織（Group of Seven, G7）、美歐貿易和技術委員會（EU-US Trade and Technology Council）與日歐資通訊技術對話（Japan-EU ICT Dialogue）促進發展和部署開放且可互通的網路架構。