用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日本於2023年12月1日舉辦G7數位技術委員會（G7デジタル・技術大臣会合），由日本數位廳、總務省、經濟產業省共同會晤G7會員國代表，基於人工智慧（Artificial Intelligence，下稱AI）可能帶給全球創造性、革命性的轉變，同時也可能伴隨侵害著作權與擴散假訊息的風險，尤其是生成式AI可能對經濟、社會影響甚鉅，因此針對如何妥善使用AI技術，G7全體會員國共同訂定《廣島AI進程》（広島AIプロセス）文件，其聲明內容簡述如下： 1.訂定涵蓋《廣島AI進程》之政策框架（Framework） 2.訂定涵蓋AI設計、系統開發、規劃、提供與使用等所有與AI有關人員，（All AI actors, when and as applicable, and appropriate, to cover the design, development, deployment, provision and use of advanced AI systems）適用之《廣島AI進程》國際標準（Principle） 3.針對開發高階AI系統之組織，訂定可適用之國際行為準則（Code of Conduct） 為此，日本內閣府於2024年2月14日公布，於經濟產業省政策執行機關—獨立行政法人資訊處理推動機構（独立行政法人情報処理推進機構，下稱IPA）轄下設立日本AI安全研究所（Japan AI Safety Institute，下稱AISI），作為今後研擬AI安全性評鑑標準（據以特定或減少AI整體風險）與推動方式之專責機構，以實現安心、安全以及可信賴之AI為目標。AISI所職掌的業務範圍如下： 1.進行AI安全性評鑑之相關調查 2.研擬AI相關標準 3.研擬安全性評鑑標準與實施方式 4.研擬與各國AI專責機關進行國際合作，例如：美國AI安全研究所（U.S. Artificial Intelligence Safety Institute, USAISI） 另一方面，IPA將以內部人才招聘作為AISI成員之任用方式，預計組成約數十人規模的團隊。日本以與G7會員國共識為基礎，採專責機關—AISI進行研究與規劃，並推動日後擬定AI相關使用規範與安全性評鑑標準，據以實現AI應用安全之目標。我國對於AI技術之應用領域，未來應如何訂定使用安全規範，將涉及專業性與技術性事項之整體性規劃，日本因應AI課題而採行的做法值得我國未來持續關注。
加拿大上訴法院判決”iPod tax”違法加拿大上訴法院判決MP3播放器不在空白錄印媒體複製著作權物課稅的範疇，本案仍有上訴最高法院之可能。 根據本案審判法官Mr. Justice Marc Noel之見解，其認為雖然加拿大著作權法允許加拿大著作權委員會(Copyright Board of Canada)對空白可複製媒體(Blank Media)課稅，然法條中並未允許其可課徵MP3播放器製造商類似的費用。 Noel法官坦承其亦認知到，著作權委員會是本著希望補償著作權人因為點對點網路下載而致生損害的立場，惟重點在於「主管機關仍應依法行政。」就此而論，對 MP3播放器交易加以課稅仍非合法。 2003年12月加拿大開始針對可複製媒體課稅，而著作權委員會進而主張，MP3播放器製造業者每賣一部少於1GB容量的播放器應被課以2美元、1至10GB容量者課以15美元，以及超過10GB容量之播放器課以25美元，以補償著作權人因為點對點網路複製音樂所生的損失。 根據加拿大著作權法，著作權委員會可針對空白重製媒體進行課稅以補償著作權人因為個人目的重製(Private Copying)所生之損失，2000年開始針對可複製CD媒體課稅，包括空白影音帶。 播放器業者想當然並不接受這項義務的課予，因此起訴，而 本案判決的結果可預見將造成MP3播放器業者的降價行為。同時，一些將課稅所得分配與著作權人(包括演奏家或唱片公司)的機構，如加拿大個人重製組織(Canadian Private Copying Collective)，已在評估是否將上訴至最高法院。不過至少，他們有可能將遊說加拿大政府以修正著作權法之方式，將MP3播放器的情形納入，以及若有可能，將未來類似性質之商品一併納入考量。
美國州隱私法要求企業揭露資訊 企業應如何平衡隱私法與營業秘密的衝突美國目前沒有聯邦的隱私法，由各州訂定州隱私法、產業隱私法，要求企業應揭露資訊以提升資訊透明度，然而隱私法要求企業揭露的資訊多涵蓋了企業的營業秘密。美國華盛頓州州長於2023年4月27日簽署《我的健康資料法（My Health My Data Act）》的州隱私法，其將消費者的健康資料廣義定義為「與消費者有關或具合理關聯的個人資料，可用於識別消費者過去、現在或未來的物理或心理健康狀況」，例如醫療相關資料、患者接受醫療服務的精確地理位置、透過非健康資料可推斷得出的資料。「非健康資料可推斷得出的資料」，如零售業者蒐集消費者近期採購的訂單內容（非健康資訊），並透過AI機器學習分析得出消費者可能懷孕的比例及預產期，藉此對該消費者投放零售業者的嬰幼產品的個人化廣告。 於《我的健康資料法》廣義定義「健康資料」下，導致消費者可要求企業提供的資料可能涵蓋了「企業長期累積之消費者使用資料、經演算法分析運用之消費者使用資料、共享消費者資料的第三方企業名單」等企業認為屬於其營業秘密的資料。 為平衡隱私法的資訊透明度及企業想保護其營業秘密，建議企業可先採取： 1.使公司的智財部門與資料保護部門合作，確保公司人員對公司營業秘密標的及範圍的認知一致，並盤點企業所有的營業秘密以製作、持續更新營業秘密清單。 2.企業在揭露受營業秘密保護的資料給消費者前，先與消費者簽訂保密契約，並參考前述營業秘密清單約定契約之保密範圍。 如企業欲採取更完備的營業秘密管理措施，建議參考資策會科法所創意智財中心發布的《營業秘密保護管理規範》。 本文同步刊登於TIPS網站（https://www.tips.org.tw）。
知名歌手Bruce Springsteen拒絕與美國作曲家、作詞家、出版商協會共同要求康諾利酒吧和餐館支付著作權授權費用美國作曲家、作詞家、出版商協會American Society of Composers, Authors and Publishers (以下簡稱協會)與知名搖滾歌手Bruce Springsteen(以下簡稱Springsteen)，和流行歌曲作者Clinton Ballard, Jr.對於紐約州的康諾利酒吧和餐館提出訴訟，原因在於酒吧和餐館沒有支付授權年費就允許樂團演奏Springsteen的歌曲。 當協會的代表發表此一聲明時，Springsteen實際上並不知道此一訴訟。Springsteen的代表指出：Springsteen事先並未被詢問是否要作為此案的原告，該協會是自作主張的將Springsteen列為此案的原告，而且即便協會事先詢問，Springsteen也不會同意作為此案的原告，也就是說不會提起此訴訟。 紐約每日新聞指出，因為協會並未獲得Springsteen的同意，Springsteen的名字應該會被移除。 協會資深副總裁Vincent Candilora(以下簡稱Candilora)表示，康諾利酒吧與餐館目前尚未發表任何聲明，而康諾利酒吧與餐館允許樂團於去年夏天演奏Springsteen的歌，但卻沒有支付授權年費給協會的行為可能會面臨三萬美元的罰金。 Candilora同時表示，為什麼這些有支付授權金的酒吧或餐館在有同樣法律約束的地區，要處於一個不利的競爭條件。提出此訴訟是給予有付授權費用的紐約酒吧一個公平的環境。