用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
英國政府為達成於2021年使完全無須人為操控的自動駕駛車輛可在英國公路上行駛之目標，提出新保險責任制度。透過自動駕駛和電動車輛法案的提出，將為自動駕駛車輛可合法上路行駛鋪路，從而帶動自動駕駛車輛產業發展。整體而言，一旦此立法正式通過，除了代表英國政府正式樹立自動駕駛車輛的保險框架里程碑外，也象徵英國朝向2021年的目標又更邁進一步。
日本網路販售藥品爭議日本網路販售藥品爭議 科技法律研究所 2013年12月31日 壹、事件摘要 網路販售藥品的爭議，日本從早期未明文規定，但於2006年時，日本修正藥事法，將藥品區分為第一類、第二類、第三類藥品，並限制得販賣各類藥品之資格；2009年6月，日本厚生勞動省進一步公布修正日本藥事法施行細則，禁止於網路上販售第一類及第二類藥品，此一修正，引起日本網路商家的反對，認為施行細則禁止網路販售第一、二類藥品之規定已超出藥事法之授權範圍，並據以提起行政訴訟。歷經各審級的訴訟後，東京最高法院於2013年1月判決厚生勞動省敗訴確定，確認得於網路販藥品。 另一方面，2013年6月，日本內閣所提出的「日本經濟再興戰略」亦確認將網路販售藥品的解禁作為重要原則。在經過一連串的公聽會及檢討會議之後，日本於2013年12月通過新修正的藥事法(下稱新法)，依新法之規定，除經厚生勞動省認定為危險性極高之劇藥或毒藥外，99.8%的一般用藥品已經可以合法於網路上販售。 以下，本文首先簡單說明日本2006年藥事法以及2009年厚生勞動省所公布的藥事法施行細則中針對藥品之分類與藥品販售等相關限制規定，並整理東京最高法院判決厚生勞動生敗訴之理由，最後再介紹2013年12月所修正之藥事法內容，盼能透過日本對於網路販售藥品之處理歷程，促使我國能夠重新思考網路販售藥品之管制及其容許性。 貳、重點說明 一、日本藥事法規 （一）藥事法（2006年） 2006年所通過之藥事法，對於藥品分類及販售限制等，其規定如下： 1.藥品分類 藥品可分為「醫療用藥品」及「一般用藥品」，「醫療用藥品」需有醫師處方箋始可取得；「一般用藥品」則可在一般店鋪或藥局自行購買。一般用藥品，以對人體之副作用及風險之等級作區分，分為高風險之第一類藥品、風險較次之第二類藥品、以及低風險之第三類藥品（藥事法第36條之3）。 2.藥品販售 藥事法第36條之5規定，藥局開設者、店鋪販售業者或配製販售業者，對於一般藥品，應依照厚生勞動省令之規定進行販售或交付，第一類藥品須由藥劑師為之，而第二類及第三類藥品則得由藥劑師或登錄販售者為之。 3.資訊提供義務 第一類藥品之販售，須使用記載厚生勞動省所定事項之書面，提供適切服用之必要資訊（藥事法第36條之6第1項）。相對於第一類藥品之情報提供義務，藥事法對於第二類藥品之販售則係課予「努力義務」（藥事法第36條之6第2項）。 4.販售方式限制 藥局開設者或店鋪販售業者，不得透過店鋪販售或交付以外的方法，而配置販售業者（配置販售業係日本特有的藥品販賣行業，其業務型態是以將各項藥品裝箱後配送到需求單位，而在經過一段時間後依照需求單位之使用量來計算收費金額）不得透過配置以外方法，販售、交付藥品、或基於販售或交付目的而儲藏或陳列藥品（藥事法第37條）。 （二）藥事法施行細則（2009年） 2009年厚生勞動省所公布之藥事法施行細則，對於網路販售藥品之相關限制規定如下： 1. 禁止通信販售 藥事法施行細則第15條之4規定，除第三類藥品外，不得進行通信販售，即對於未親臨藥局之消費者，不得以郵寄等方式進行藥品之交付，亦不得以網路販售。 2.面對面販售原則 藥事法施行細則第159條之14規定，藥局開設者、店鋪販售業者或配置販售業者，為販賣各類藥品，應設有符合藥事法第36條之5所定資格之藥劑師或登錄販售者，並由其於販售現場與消費者面對面進行販售（面對面販售原則）。但是，如為第三類藥品之通信販售，則不在此限。 3.資訊提供義務的履行方式 藥事法第36條各項之情報提供義務或努力義務之履行，須於藥品販售時與消費者面對面進行之（藥事法施行細則第159條之15至第159條之17）。因為施行細則規定了面對面販售之原則，而網路販售藥品因無法符合面對面販售原則，故第一類及第二類藥品被認定為禁止於網路販售。 二、東京最高法院判決 2009年藥事法施行細則禁止網路販售第一、二類藥品後，相繼對網路販售藥品之業者開罰，其中二家業者認為藥事法施行細則之規定已超出藥事法所授權的範圍，並據此提起行政訴訟。如前所述，東京最高法院判決厚生勞動省敗訴確定，其理由如下： （一）對於藥品販售方式之限制須遵守法律保留原則 為確保藥品安全性，避免不良藥品侵害國民之生命、健康，藥事法對於藥品之製造、販售等設有各種規制，有其必要。對於藥品的販售方式是否限定須於「店舖內為之」或必須符合「面對面販售原則」，涉及到憲法第22條所保障之職業活動自由，若欲為限制，須以法律或授權命令為之。 （二）厚生勞動省所定之施行細則逾越法律授權範圍 藥事法第36條之5規定，販售第一類藥品必須由藥劑師，第二類、第三類藥品由藥劑師或登錄販售者進行販售，所限制者為販售藥品之資格，施行細則第159條之14要求藥劑師或登錄販賣者須在藥局、店鋪或配置場所等進行面對面販售，已超出藥事法第36條之5的授權範圍。 藥事法第36條之6規定藥品資訊提供之義務等，而應提供之資訊則由厚生勞動省定之，且藥事法第36條之6並未規定不得以電磁紀錄方式為之；施行細則第159條之15至第159條之17規定必須面對面進行，亦已超出藥事法第36條之6的授權範圍。 （三）立法者無限制網路販售之意 從立法體系觀之，藥事法第35條之5規定藥品販售資格；藥事法第36條之6則規定資訊提供義務；而對於藥品販售方式的限制，於藥事法第37條另有規定，故藥事法若對網路販售藥品進行限制，應於藥事法第37條規定。再從立法沿革觀之，藥事法於修正前並未針對網路販售藥品進行限制，而藥事法在2006年修正後亦無此限制。且參考修法討論之部會檢討報告書及厚生勞動大臣於國會審議時之答辯，均未表明禁止網路販售藥品之旨趣。故此，可推知立法者並無限制網路販售之意思，因此，厚生勞動省以施行細則限制網路販售藥品，已逸脫藥事法之立法意旨。 （四）自文義解釋無法得到禁止網路販售之意旨 藥事法第37條之文義，並無法看出明文禁止網路販售之意旨，其所稱「店鋪販售」，應指須在營業地點為之，而非僅得於店鋪進行販售。若解為僅得於實體店面交易，則藥事法施行細則第15條之4及第159條之14另規定第三類藥品得網路販售，豈非自相矛盾。 三、新藥事法（2013年） （一）要指導藥品 新藥事法第4條第5項增設「要指導藥品」，包括毒藥、劇藥、以及從醫療用藥品轉為一般用藥品後而未超過厚生勞動省所定評估期間之藥品等。對於「要指導藥品」之販售，必須讓藥劑師依面對面販售原則，將相關資訊提供給消費者。 （二）資訊提供義務 新藥事法第36條之10亦分別對於第一類及第二類藥品課予資訊提供義務及努力義務，與舊法不同之處在於使用記載厚生勞動省所定事項之書面，提供適切服用之必要資訊時，增設「電磁紀錄」之提供方式。亦即，網路販售藥品，以電磁紀錄方式履行資訊提供義務，只要該電磁紀錄包含厚生勞動省所定之事項及表示方法，亦符合法規範之要求。因此，無論第一、二、三類藥品，自新藥事法施行後，已經可以合法地進行網路販售。 參、事件評析 隨著電子商務的蓬勃發展，網路購物對於消費者而言已經從一個新鮮未知的事物變成了日常生活的一部分，而透過網路買賣一般用藥品，在替消費者帶來了莫大便利的同時，也為藥品販售業者帶來極大的商機。然而，在促進生活便利性以及網購商機的同時，國民健康的保護亦為政府所關心之課題。為保障國民服用藥品之安全，藥品販售者應使消費者充分瞭解藥品的正確服用方式、劑量以及服用之注意事項及風險等。 網路販售藥品的爭議，日本從早期未明文規定，歷經2006年藥事法修正、2009年厚生勞動省公布藥事法施行細則限制網路販售第一類及第二類藥品、2013年1月東京最高法院判決厚生勞動省敗訴確定、2013年6月「日本再興戰略」確認開放網路販售藥品之原則、一直到2013年12月再度修正藥事法，明文規定除了經厚生勞動省認定之劇藥、毒藥等「要指導藥品」（目前約有28項藥品）需由藥劑師依對面販售原則，面對面向消費者說明藥品資訊外，一般用藥品可藉由網路以電磁紀錄方式履行資訊提供義務。從此，網路販售藥品已成為合法的藥品販售方式之一。 網路販售藥品究竟應予開放或禁止，涉及到國民健康、國民生活便利性的保障、以及業者職業自由的限制，如何在三者間找到平衡點。一直為各界所爭執，而我國對於網路販售藥品之問題，一向採取嚴格禁止之作法，新聞時事亦常見到民眾因於網路販售隨處可見之一般藥品而遭受處罰之案例。然而，此種於一般商店亦可販售之藥品，其禁止於網路販售之理由何在？其依據為何？對照日本之處理歷程，我國未來是否仍要全面禁止網路販售藥品，值得吾人重新思考。
英國政府將設置兩個新的網路安全機關，以維護國家網路安全英國政府在考量保護政府機關及民眾免於網路安全之威脅下，設置了網路安全辦公室(Office of Cyber Security，OCS)及網路安全營運中心(Cyber Security Operations Centre，CSOC)兩個新的網路安全機關，並將於2010年3月正式運作。同時，內閣辦公室(Cabinet Office)發出聲明表示，英國政府將網路安全訂為21世紀政府的安全防護重點，並認為透過設置這兩個新的機關協助維護國家安全，將是達成這個目標的重要步驟。 在英國政府的規劃下，OCS設於內閣辦公室下，負責提供政府跨部會的資訊安全策略，並整合協調政府部門間網路安全之工作；CSOC則是設置於英國政府通信總部下(Government's Communications Headquarters，GCHQ)，負責有效的監測網路空間之健全性並針對緊急事件提出應變措施、瞭解攻擊英國政府及使用者之技巧、提供對於企業及大眾有關網路安全風險應變之忠告與建議。內閣辦公室也表示，OCS將與移民署(Home Office)及警察局長協會(Association of Chief Police Officers，ACPO)合作，盡快制訂出有關防範網路犯罪之相關策略。 英國政府肯認網路安全對於政府在安全防護上的挑戰。因此內閣辦公室強調，網路安全防護策略之整合是重要的，其將透過企業，國際合作伙伴及民眾的力量，藉由專業知識及能力的提升、以及更為完善的策略，降低安全風險及發掘安全防護機會，發揮英國在網路安全防範之優勢。
我國電子遊戲場業管理條例修法研析-參考美國佛州Family Amusement Games Act我國電子遊戲場業管理條例修法研析 -參考美國佛州Family Amusement Games Act 資策會科技法律研究所 法律研究員 王凱嵐 105年04月06日 去年七月，美國佛州政府簽屬一份Family Amusement Games Act 法案，條文部份針對電子遊戲機做完整的定義解釋，及遊戲機所擺放的場域做限制。特別的是此法案排除博弈遊戲，僅針對非博弈遊戲做獨立規範。 新修法案之目的在於解決相關遊戲業者面對舊法時的疑惑。修法後將博弈性遊戲與技術性遊戲做出區分，另關於遊戲擺放的場域以及遊戲獎賞都有明確的立法條文。法案做出明確規範後，大幅度的降低遊戲機業者對於政府法規的不確定感，在遊戲產業上能夠有更多的空間去發展及調整。 在我國，長久以來電子遊戲場所給大眾多為不良的印象，政府雖然早已制定「電子遊戲場業管理條例」作為規範，但自民國八十九年二月三日公布施行至今已超過十五年，立法時之管制目的及作法與現今社會風氣、產業趨勢已不盡相符，本文擬藉由參考美國佛州對於遊戲機的定義及限制規定，就未來可能之修法方向提出建議。首先論我國現行條例之問題，再論美國佛州立法可採之處，最後將針對現行條例未來修正提供建議。 壹、美國佛州Family Amusement Games Act: 美國佛州Family Amusement Games Act (以下簡稱「親子遊戲機法」)對於遊戲機台做以下的文字解釋：「可供一般民眾單純娛樂之遊戲，得使用鈔票、硬幣、卡片、彩券、代幣、籌碼或相似的替代物進入遊戲，並能以遊戲技術控制遊戲結果。排除任何其它具有博弈性質的遊戲。」從佛州法條上的解釋可以看出，此立法上將遊戲區分技術性與博弈性兩種類型，遊戲者必須是以自身遊戲技巧控制遊戲並能影響其結果，且非只靠運氣或投機心態遊戲。與佛州舊法相比，新法之遊戲機不僅以使用硬幣為限，允許使用其它相類似的替代物遊戲。提高了彩券獎品的金額限制，並新增遊戲機得放置的場域(保齡球館、旅館、餐廳)。 為了使定義更加完善，美國佛州新法僅針對博弈性遊戲做解釋:「1.遊戲以機械式或影像上具有吃角子老虎機的捲軸或符號，或以視頻模擬任何其他賭場遊戲，包括撲克、賓果、拉霸機、樂透、輪盤賭、擲骰子，但不僅限於上述之遊戲。2.遊戲中玩家無法以自身技巧控制結果或其遊戲結果為不可目測、不可知悉、不可預見。3.視頻撲克遊戲或任何遊戲或機器可被本州法律解釋為賭博設備。4.任何遊戲或設備被規定在15 U.S.C. s. 1171，除非排除在15 U.S.C. s. 1178。」從以上的條文可以看出，佛州在博奕性遊戲上，完整的做出定義，使遊戲業者能清楚的知道遊戲機的類別區分，對於機台發展和市場推廣上有相當大的助益。 美國佛州將非博奕性遊戲機區分為A、B、C三類。首先A類為得重複遊戲獎勵遊戲機，其遊戲結果不得以現金、彩券、籌碼、點數、折價卷或任何有兌換價值之電子點數當作獎勵。此類遊戲機，因其遊戲性質僅以單純地重複性遊戲，在擺放區域上並無限制。B類為得以彩券做為遊戲獎勵之遊戲機。C類為得以直接獲取獎勵物品之遊戲機，但其商品價值不得超過一定之金額限定。B、C兩類遊戲機，其擺放場域相似度高，僅有部分場域另做規定。區分此三類之目的，在於規範不同遊戲結果之遊戲機台。又關於彩券及獎勵物品在佛州新法中，也有詳盡的規範，具體的勾勒出三種遊戲機三種不同的遊戲態樣。 貳、我國電子遊戲場業管理條例 我國電子遊戲場業管理條例第4條所稱之電子遊戲機「指利用電、電子、電腦、機械或其它類似方式操縱，以產生或顯示聲光影像、圖案、動作、之遊樂機具，或利用上述方式操縱鋼珠或鋼片發射之遊樂機具。但未具影像、圖案，僅供兒童騎乘者，不包括在內。」關於電子遊戲機的認定，判斷上以是否利用電、電子、電腦、機械或其它類似方式操縱，若是符合以上要件，應屬於本條例所稱之電子遊戲機。 我國「電子遊戲場業管理條例」採營業分級、機具分類之制度，依據遊戲之內容之暴露、暴力、血腥、恐怖程度及操作結果區分將電子遊戲機分為三類:益智類、鋼珠類、娛樂類。所謂益智類遊戲其內容無任何暴露、暴力、血腥或恐怖，亦無任何渲染妨害風化之元素在內，且其操作結果所得之分數僅得作為兌換獎品之憑證，不得作為轉押住使用，判斷標準相當嚴格。 關於遊戲營業場再區分成兩類，我國電子遊戲場業管理條例第5條:「普通級：指僅設置益智類電子遊戲機，供兒童、少年及一般大眾遊藝者。限制級：指設置鋼珠類、娛樂類或附設益智類遊戲電子遊戲機，僅供十八歲以上之人遊藝者」而又同條例第9條之規定:「電子遊戲場業之營業場所，應距離國民中、小學、高中、職校、醫院五十公尺以上。」，由此可知我國雖將電子遊戲機依內容區分為三類，但其遊戲場所只區分兩類，且在設置地區之限制是相同的。 參、小結 數位休閒產業現階段發展所遇到的問題，除了先前提到的負面形象外，還包含法制規範已不符合潮流，此現象造成產業被法律嚴格管理、地方政府限制發照、人才投入意願低落。因此，修改現行管理條例以及匡正產業形象已有其必要性與重要性。 前述美國佛州的立法例，在遊戲機的定義上即與我國有明顯不同。佛州以進入遊戲的方式定義新法所規範的遊戲機類別。我國可考慮參考此分類方式，將遊戲類別的區分單純技術性與射倖性遊戲(博弈目前在我國不合法)，並在益智類遊戲分類項下針對暴露、暴力、血腥或恐怖等要素，參考遊戲軟體分級之作法再作進一步的區分，同時搭配擺放遊戲機台場域的限制規定，不再用原則限制的角度去立法，而是回歸到遊戲場業管理制度上做規範，使遊戲機台開發商或製造業者能按其公司營運方向進行內容種類的規劃，以追求產業發展與安全監管上的平衡。