「巨量資料應用」
當工業的製造生產過程經過一連串自動化、產量化以及全球化之變革歷程之後，智慧工廠的發展已經成為未來各國的重點目標。生產力4.0的設計中，巨量資料(Big Data)是重要的一環，以製造業為例，傳統上將製造生產取得的數據僅用於追蹤目的使用，鮮少做為改善整體操作流程的基礎，但在生產力4.0推進之後，則轉變為如何藉由巨量資料來提升生的效率、利用多元資源的集中化與分類處理，並經過分析取得改善行動方式，使生產最佳化，再結合訂單需求預期分析，依市場變化調整製造產量，達成本控制效果。
在我國104年9月公布之「2015行政院產力4.0科技發展方案」，亦提及智慧機械、智慧聯網、巨量資料、雲端運作等技術開發，使製造業、商業服務業、農業產品服務等，提升其附加價值。除此之外，經濟部積極規劃佈建巨量資料自主技術研發能力並且促成投資，落實應用產業智慧化與巨量資料產業化之目標。然而，巨量資料的應用因涉及大量的資料蒐集與利用，因此，未來應著重於如何將資料去辨識化，顧及隱私與個人資料之保護。目前，針對此部分，法務部將研擬個人資料保護法修正案，制訂巨量資料配套法規。
本文為「經濟部產業技術司科技專案成果」
莊晏詞
法律研究員 編譯整理
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日亞化學與藍光LED發明人和解日亞化學與前員工、現任美國加州大學教授中村修二(Shuji Maka mura)達成和解，日亞化學要支付中村修二本人8億4400萬日圓的費用，以補償其在日亞化學任內發明藍光LED晶粒技術，並帶給日亞化學日後龐大收入的功勞。 中村修二去年1月因不甘其在日亞化學工作期間，開發相關藍光LED晶粒技術，為公司帶進3300億餘日圓的收益，但日亞化學卻將專利獨佔，並未支付中村修二合理的費用。中村修二遂向日本地院提出告訴，日本地方法院一審判日亞化學敗訴，需支付200億日圓作為中村修二的補償金。日亞化學不服再向高院上訴，近日傳出雙方已達成和解，以8億4400萬日圓達成和解，其中6億850萬日圓係中村修二在日亞化學工作時開發出藍光LED晶粒後，為公司帶進約3300餘億日圓中屬中村修二的貢獻所得。 相較於一審判決日亞化學要賠200億日圓來看，此次只需支付8億4000餘萬日圓，替日亞化學省下了一大筆錢，且可早日解決此紛爭，日亞化學在此次官司中不能算輸，還可確立日亞化學日後擁有藍光LED晶粒的所有技術專利，有利日亞化學未來拓展白光LED及藍光晶粒市場。一般認為，日亞化學急於與中村修二達成和解之因，主要是藍光L ED晶粒市場仍在大幅成長中，預估今年全球LED市場需求可達到50億美元，其中白光及藍光LED也佔到一半以上，未來更是以倍數成長。日亞化學如未能快速解決與中村修二的官司，恐影響日亞化學在藍光及白光LED市場上的領先地位。
英國衛生部將建立之病歷資料庫挑動隱私保護議題之神經英國衛生部(Department of Health)於5月21日公布新的國家衛生政策，政策中指出，未來將建立資料庫，透過建設完善醫藥資訊之流通分享機制可改善對於病患之醫療服務以及促進學術研究之發展，當局承諾將採取適當之保護措施以妥善保護當事人之個人資料。然而，該政策同時亦承認對於病患資料匿名化之措施仍可能侵害當事人之隱私權。 當局指出，為了保護當事人之權益，將個人資料匿名化實屬必要，然而，對於醫療院所而言，縱使已經將個人資料匿名化，但透過其他相關資訊包含年齡、性別、血型、身高或者體重等，仍可能間接識別出當事人之個人資料。 衛生部重申建立資料庫分享當事人之個人醫療資料將可有效促進學術研究之發展，但將會透過當事人同意以及確實匿名化之機制保護當事人之個人資料。另外，衛生部於該政策中指出未來將要求英國之醫療機構必須於內部建立系統，使患者、當事人可有管道查詢其留存於資料庫之資料。 英國之隱私保護專員指出，由於此政策涉及敏感性個人資料之蒐集，所以其針對衛生部之政策規畫將持續關注，以確保當事人之隱私權。
SWIFT與金融業者攜手合作發展區塊鏈電子投票環球銀行金融電信協會（Society for Worldwide Interbank Financial Telecommunication, SWIFT）於今年3月宣布將與德意志銀行、星展銀行、匯豐銀行、渣打銀行、證券軟體供應商SLIB與新加坡交易所（Singapore Exchange,SGX）聯合於亞太地區展開建構於分散式帳簿技術（Distributed Ledger Technology ,DLT）之電子投票概念性驗證(Proof-of-Concept, PoC)，探究分散式帳簿技術是否能有效簡化股東權利之行使，以提高市場參與者效率。 目前實務上召集股東會耗費大量人力與時間成本，紙本投票流程繁雜且費時，股東表決權也經常因代理行使錯誤導致無法及時反應股東真意，因此業界希望可以透過將區塊鏈分散式帳簿技術應用於電子投票系統，改善股東會之透明度與自動化程度，提升股東會之效能及股東參與度。 SWIFT表示區塊鏈電子投票概念性驗證將於2019年上半年展開， 旨在體現四大目標： 測試與發行人和證券存託機構（Central Securities Depository）建立的投票解決方案，同時該方案係以許可制的私有鏈（private blockchain）儲存與管理數據資訊。 展現基於ISO 20022所為之混合解決方案之可行性，將訊息之傳遞與分散式帳簿技術結合，促進互通性並避免市場分裂。 電子投票的概念驗證將會在沙盒環境中測試SWIFT的應用程式代管（host）能力。 確認使用ISO 20022作為應用程式介面標準化之基礎，透過應用程式介面將儲存於分散式帳簿節點間資料分享給分類帳。 期望透過區塊鏈技術之應用，以金融創新的解決方案改善傳統上股東會礙於書面投票或代理流程繁瑣之不便利，將區塊鏈技術與ISO標準相互結合，建立系統化之創新電子投票解決方案，促進市場發行者與參與者密切合作。 我國金融監督管理委員會為強化股東權益之保護，落實電子投票制度，於 106年1月18日發布金管證交字第1060000381號函釋：「依據公司法第一百七十七條之一第一項規定，上市（櫃）公司召開股東會時，應將電子方式列為表決權行使管道之一」；又隨著智慧型手機與行動網路普及，電子投票可能成為未來股東會股東表決權行使趨勢之一，此次SWIFT與業界共同提出之區塊鏈電子投票發展或可作為未來我國電子投票實務運作之參考。