ECODIR之線上爭端解決機制介紹
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
我國電子遊戲場業管理條例修法研析-參考美國佛州Family Amusement Games Act我國電子遊戲場業管理條例修法研析 -參考美國佛州Family Amusement Games Act 資策會科技法律研究所 法律研究員 王凱嵐 105年04月06日 去年七月，美國佛州政府簽屬一份Family Amusement Games Act 法案，條文部份針對電子遊戲機做完整的定義解釋，及遊戲機所擺放的場域做限制。特別的是此法案排除博弈遊戲，僅針對非博弈遊戲做獨立規範。 新修法案之目的在於解決相關遊戲業者面對舊法時的疑惑。修法後將博弈性遊戲與技術性遊戲做出區分，另關於遊戲擺放的場域以及遊戲獎賞都有明確的立法條文。法案做出明確規範後，大幅度的降低遊戲機業者對於政府法規的不確定感，在遊戲產業上能夠有更多的空間去發展及調整。 在我國，長久以來電子遊戲場所給大眾多為不良的印象，政府雖然早已制定「電子遊戲場業管理條例」作為規範，但自民國八十九年二月三日公布施行至今已超過十五年，立法時之管制目的及作法與現今社會風氣、產業趨勢已不盡相符，本文擬藉由參考美國佛州對於遊戲機的定義及限制規定，就未來可能之修法方向提出建議。首先論我國現行條例之問題，再論美國佛州立法可採之處，最後將針對現行條例未來修正提供建議。 壹、美國佛州Family Amusement Games Act: 美國佛州Family Amusement Games Act (以下簡稱「親子遊戲機法」)對於遊戲機台做以下的文字解釋：「可供一般民眾單純娛樂之遊戲，得使用鈔票、硬幣、卡片、彩券、代幣、籌碼或相似的替代物進入遊戲，並能以遊戲技術控制遊戲結果。排除任何其它具有博弈性質的遊戲。」從佛州法條上的解釋可以看出，此立法上將遊戲區分技術性與博弈性兩種類型，遊戲者必須是以自身遊戲技巧控制遊戲並能影響其結果，且非只靠運氣或投機心態遊戲。與佛州舊法相比，新法之遊戲機不僅以使用硬幣為限，允許使用其它相類似的替代物遊戲。提高了彩券獎品的金額限制，並新增遊戲機得放置的場域(保齡球館、旅館、餐廳)。 為了使定義更加完善，美國佛州新法僅針對博弈性遊戲做解釋:「1.遊戲以機械式或影像上具有吃角子老虎機的捲軸或符號，或以視頻模擬任何其他賭場遊戲，包括撲克、賓果、拉霸機、樂透、輪盤賭、擲骰子，但不僅限於上述之遊戲。2.遊戲中玩家無法以自身技巧控制結果或其遊戲結果為不可目測、不可知悉、不可預見。3.視頻撲克遊戲或任何遊戲或機器可被本州法律解釋為賭博設備。4.任何遊戲或設備被規定在15 U.S.C. s. 1171，除非排除在15 U.S.C. s. 1178。」從以上的條文可以看出，佛州在博奕性遊戲上，完整的做出定義，使遊戲業者能清楚的知道遊戲機的類別區分，對於機台發展和市場推廣上有相當大的助益。 美國佛州將非博奕性遊戲機區分為A、B、C三類。首先A類為得重複遊戲獎勵遊戲機，其遊戲結果不得以現金、彩券、籌碼、點數、折價卷或任何有兌換價值之電子點數當作獎勵。此類遊戲機，因其遊戲性質僅以單純地重複性遊戲，在擺放區域上並無限制。B類為得以彩券做為遊戲獎勵之遊戲機。C類為得以直接獲取獎勵物品之遊戲機，但其商品價值不得超過一定之金額限定。B、C兩類遊戲機，其擺放場域相似度高，僅有部分場域另做規定。區分此三類之目的，在於規範不同遊戲結果之遊戲機台。又關於彩券及獎勵物品在佛州新法中，也有詳盡的規範，具體的勾勒出三種遊戲機三種不同的遊戲態樣。 貳、我國電子遊戲場業管理條例 我國電子遊戲場業管理條例第4條所稱之電子遊戲機「指利用電、電子、電腦、機械或其它類似方式操縱，以產生或顯示聲光影像、圖案、動作、之遊樂機具，或利用上述方式操縱鋼珠或鋼片發射之遊樂機具。但未具影像、圖案，僅供兒童騎乘者，不包括在內。」關於電子遊戲機的認定，判斷上以是否利用電、電子、電腦、機械或其它類似方式操縱，若是符合以上要件，應屬於本條例所稱之電子遊戲機。 我國「電子遊戲場業管理條例」採營業分級、機具分類之制度，依據遊戲之內容之暴露、暴力、血腥、恐怖程度及操作結果區分將電子遊戲機分為三類:益智類、鋼珠類、娛樂類。所謂益智類遊戲其內容無任何暴露、暴力、血腥或恐怖，亦無任何渲染妨害風化之元素在內，且其操作結果所得之分數僅得作為兌換獎品之憑證，不得作為轉押住使用，判斷標準相當嚴格。 關於遊戲營業場再區分成兩類，我國電子遊戲場業管理條例第5條:「普通級：指僅設置益智類電子遊戲機，供兒童、少年及一般大眾遊藝者。限制級：指設置鋼珠類、娛樂類或附設益智類遊戲電子遊戲機，僅供十八歲以上之人遊藝者」而又同條例第9條之規定:「電子遊戲場業之營業場所，應距離國民中、小學、高中、職校、醫院五十公尺以上。」，由此可知我國雖將電子遊戲機依內容區分為三類，但其遊戲場所只區分兩類，且在設置地區之限制是相同的。 參、小結 數位休閒產業現階段發展所遇到的問題，除了先前提到的負面形象外，還包含法制規範已不符合潮流，此現象造成產業被法律嚴格管理、地方政府限制發照、人才投入意願低落。因此，修改現行管理條例以及匡正產業形象已有其必要性與重要性。 前述美國佛州的立法例，在遊戲機的定義上即與我國有明顯不同。佛州以進入遊戲的方式定義新法所規範的遊戲機類別。我國可考慮參考此分類方式，將遊戲類別的區分單純技術性與射倖性遊戲(博弈目前在我國不合法)，並在益智類遊戲分類項下針對暴露、暴力、血腥或恐怖等要素，參考遊戲軟體分級之作法再作進一步的區分，同時搭配擺放遊戲機台場域的限制規定，不再用原則限制的角度去立法，而是回歸到遊戲場業管理制度上做規範，使遊戲機台開發商或製造業者能按其公司營運方向進行內容種類的規劃，以追求產業發展與安全監管上的平衡。
歐盟通過反脅迫規則，將針對他國的經濟脅迫手段採取反制措施歐盟理事會（European Council）表示已與歐盟執委會（European Commission，以下簡稱「執委會」）、議會（European Parliament）於2023年11月22日完成《保護歐盟及其成員國免受第三國經濟脅迫規則》（Regulation on the protection of the Union and its Member States from economic coercion by third countries，以下簡稱「反脅迫規則」）之立法流程，並將於2023年12月27日正式施行生效。 該法起源於中國大陸於2021年為抗議立陶宛（Lithuania）同意我國政府以「臺灣」名義在其首都維爾紐斯（Vilnius）設立代表處，停止輸入多項產品，導致立陶宛對中貿易額大幅降低。歐盟為避免特定國家持續利用此種經濟脅迫手段影響歐盟交易市場與會員國之主權，決定立法採行反制措施，並於2021年之貿易政策回顧（2021 Trade Policy Review）公布《反脅迫規則》之立法框架。 根據《反脅迫規則》，執委會得根據會員國、歐盟議會及其他經濟聯盟所提供之資訊進行職權（ex officio）調查；亦可依照受脅迫之會員國或企業的請求進行調查。在調查階段，執委會會在4個月內判斷特定國家之行為是否確實造成經濟脅迫，若確實存在，將進一步評估其對歐盟帶來之影響。調查完成後，若他國政府確實對歐盟成員國或企業實施經濟脅迫手段，執委會將提交報告與理事會進行決議，通過後，執委會將先採行不干涉措施（non-interventionist measures），與實施經濟脅迫手段之國家進行協商，並要求賠償因經濟脅迫而產生的損害。若採行不干涉措施後仍無改善，執委會得考慮採行干涉措施（interventionist measures），包含但不限於限制特定企業進入歐盟市場與投標政府採購案；終止對特定國家的關稅優惠，並課予額外之關稅等，以阻止該特定國家繼續干擾歐盟經濟體。