智慧聯網時代巨量資料法制議題研析－以美國隱私權保護為核心
本文為「經濟部產業技術司科技專案成果」
英國電信主管機關Ofcom於2015年1月提出「促進智慧聯網之投資與創新」報告（Promoting investment and innovation in the Internet of Things），對英國智慧聯網（Internet of things, IOT）之管制發表意見。Ofcom認為就英國發展智慧聯網之現況而言，在商業上確實已經進行智慧聯網發展並投資之，然，並未對複雜的發展做好準備；Ofcom亦承認英國在基礎設施和政府管制架構上，尚未具備適當的發展。於此報告中，Ofcom提出四方向的建議，分別為資料隱私與消費者認識、網路安全與防護、智慧聯網可用之頻譜和電話號碼與網址管理等四項。 首先在資料隱私與消費者認識部分，Ofcom認為以現有管制保護智慧聯網下之隱私的效果有限，因此建議英國「資訊專員辦公室」（Information Commissioner's Office , ICO）需要發展未來隱私保護議題之解決方法，並且與政府及其他管制機關就資料隱私之法制議題共同進行，包括將現有之資料保護管制之範圍進行評估，考量是否需涵蓋到所有智慧聯網設施，和訂定智慧聯網資料共享之原則。 第二，在網路安全與防護管理上，Ofcom指出英國2003年通訊法（Communication Act 2003）已就服務提供者所提供之公眾可使用的網路與服務，課與特定安全與防護責任；例如網路與服務提供者必須採取適當的手段管理安全風險，尤其需將對終端使用者之影響降至最低、網路提供者必須採取所有適當的程序，盡可能的保護網路安全。然，Ofcom認為智慧聯網並未直接規定於現有的管制中，例如智慧電網設施之高度安全與防護範圍應涵括私人網路；故，應評估必須規定於法律中的智慧聯網網路與服務種類，以達完善防護。 再者，關於智慧聯網可用之頻譜議題，著重於用於智慧聯網之技術須改進。目前使用之頻譜在2.4和5GHz（此頻譜亦用於Wi-Fi服務）；而未來的設施也可能使用到1GHz以下的頻譜，同時Ofcom也說明其將來僅會監視頻譜的利用，而不會開放新的可用頻譜。 最後，在電話號碼與網址管理方面，就智慧聯網設施之網際網路協定，未來可能會從IPv4發展成為IPv6也是相當重要的。Ofcom認為未來智慧聯網可能會發展成一個「相當大數量且顯著的設施」，故採用IPv6將顯得更為重要；然，就目前而言，英國採用IPv6之情況系落後於其他國家的。 Ofcom現正致力於發展新的頻譜管制、數據隱私、網路安全與網址等管制，殊值得繼續觀察以俾利我國智慧聯網管制與發展。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
歐洲議會於2022年初通過數位服務法（DSA）歐洲議會（European Parliament）於2022年1月20日通過數位服務法（Digital Services Act），該法旨在監管線上服務提供者（online service providers），為線上服務接受者提供更安全線上空間，包含要求線上平臺應（1）打擊線上非法服務或內容；（2）提供通知並刪除/下架（notice and action）機制，不得有差別性或任意性對待；（3）提供無廣告追蹤（tracking-free ad）選項，和禁止將未成年人資料用於定向廣告（targeting advertising）；（4）對於線上平臺課以行政責任，如：超大型線上平臺（very large online platforms, VLOP）若故意或過失違反義務，最高罰鍰可被處以前一會計年度總營業額6%，或按日連續處罰最高可處前一會計年度平均每日營業額5％。若可能致危害生命或人身安全，主管機關亦可勒令其停止提供服務；（5）強制性風險評估和提高演算法透明度，以打擊有害內容（harmful content）和虛假資訊。 數位服務法所規範的服務主要有四種類型，四種服務提供者負擔累計義務（cumulative obligation），其中VLOP被賦予最多責任，因其對於散布非法內容並造成社會危害具有特殊風險，須具備風險減緩、獨立稽核等機制。相關服務定義如下： （1）中介服務提供（Intermediary Service）：提供網路基礎建設服務。 （2）託管服務提供（hosting service）：由服務接受者提供資訊並應其要求提供資訊儲存服務，例如：雲端儲存服務、網站主機代管等服務。 （3）線上平臺（online platform）：包含類型線上市集、應用程式商店、以及社群媒體平台。 （4）VLOP：每月平均歐盟境內活躍用戶達4500萬以上或人口10%之線上平臺。例如：Google、Facebook及YouTube。 此數位服務法草案最早在2019年年底提出，歐洲議會於今年投票通過後，尚待歐盟理事會（Council of the European Union）審查同意後，此法即正式發布施行。歐洲議會於審查所提出之修正建議，除針對前述五大重點外，還特別強調對於微中小型企業（MSMES）相關義務的免除，以及禁止線上平臺使用欺瞞（deceiving）或助推（nudging）方法影響消費者購物選擇。
法國科學家現正積極研究奈米碳管的毒性評估方式法國國家研究會議﹙French National Research Council﹙CNRS﹚﹚的科學家，過去三年持續投入奈米碳管的毒性研究，包括奈米管在環境中所引起的污染反應、其對人體的危害，以及如何以較清潔的方式從事奈米碳管的生產製造。這個研究計畫將側重於目前常為產業利用的各式奈米管。 目前，奈米碳管在全球的製造量高達每年數百噸之譜。優越的機械及電子性能，促使奈米碳管被大量運用在平面螢幕及汽車產業當中，甚至利用在運動產品之上。然而，除了擴增的應用領域之外，其對人體健康及環境的影響迄今尚未受到重視。使用奈米管的物質通常被當做一般廢棄物來處理，就其對於環境的影響，人們更是一無所知。 法國CNRS的科學家希望能夠釐清這樣的問題。目前，研究人員的觀察重點將在奈米碳管如何影響水生環境﹙aquatic environments﹚，以及兩棲生物在奈米管流佈的環境中如何生存及反應。此外，科學家們同時觀察奈米材料如何影響人體健康：他們正在觀察及研究巨嗜球﹙macrophage cells﹚如何與奈米碳管互動，以及在這種暴露環境下，實驗用鼠的肺部是否會產生發炎症狀。經由初步的實驗，科學家們發現人體會將奈米管視為異物，進而引發發炎反應。 接下來，CNRS會進一步研究如何以更清潔且對環境友善的方式來製造奈米管。