歐盟推出《網路韌性法案》補充歐盟網路安全框架
歐盟為提升網路數位化產品之安全性，解決現有網路安全監管框架差距，歐盟執委會於2022年9月提出《網路韌性法案》（EU Cyber Resilience Act）草案，對網路供應鏈提供強制性網路安全標準，並課予數位化產品製造商在網絡安全方面之義務。該法案亦提出以下四個具體目標：
1.確保製造商對於提升產品之網路安全涵蓋整個生產週期；
2.為歐盟網路安全之合法性創建單一且明確之監管架構；
3.提高網路安全實踐之透明度，以及製造商與其產品之屬性；
4.為消費者和企業提供隨時可用之安全產品。
《網路韌性法案》要求製造商設計、開發和生產各種硬體、有形及軟體、無形之數位化產品時，須滿足法規要求之網路安全標準，始得於市場上銷售，並應提供清晰易懂之使用說明予消費者，使其充分知悉網路安全相關資訊，且至少應於五年內提供安全維護與軟體更新。
《網路韌性法案》將所涵蓋之數位化產品分為三種類別（產品示例可參考法案附件三）：I類別、II類別，以及預設類別。I類別產品之網路安全風險級別低於II類別產品、高於預設類別，須遵守法規要求之安全標準或經由第三方評估；II類別為與網路安全漏洞具密切關連之高風險產品，須完成第三方合格評估始符合網路安全標準；預設類別則為無嚴重網路安全漏洞之產品，公司得透過自我評估進行之。法案另豁免已受其他法律明文規範之數位化產品，惟並未豁免歐洲數位身份錢包、電子健康記錄系統或具有高風險人工智慧系統產品。
若製造商未能遵守《網路韌性法案》之基本要求和義務，將面臨高達1500萬歐元或前一年度全球總營業額2.5%之行政罰鍰。各歐盟成員國亦得自行制定有效且合於比例之處罰規則。
- European Commission, Cyber Resilience Act-Factsheet, Sep. 15, 2022
- European Commission, State of the Union: New EU cybersecurity rules ensure more secure hardware and software products, Sep. 15, 2022
- European Commission, New EU cybersecurity rules ensure more secure hardware and software products, Sep. 15, 2022
張瀠心
法律研究員 編譯整理
European Commission, Cyber Resilience Act-Factsheet, Sep. 15, 2022, Cyber Resilience Act - Factsheet | Shaping Europe’s digital future (europa.eu) (last visited Nov. 4, 2022).
European Commission, State of the Union: New EU cybersecurity rules ensure more secure hardware and software products, Sep. 15, 2022, State of the Union: New EU cybersecurity rules (europa.eu) (last visited Nov. 4, 2022).
European Commission, New EU cybersecurity rules ensure more secure hardware and software products, Sep. 15, 2022, New EU cybersecurity rules ensure more secure hardware and software products | Shaping Europe’s digital future (europa.eu) (last visited Nov. 4, 2022).
Center for data innovation,An Overview of the EU’s Cyber Resilience Act, Sep. 26, 2022,An Overview of the EU’s Cyber Resilience Act – Center for Data Innovation (last visited Nov. 4, 2022).
美國白宮科技政策辦公室（Science and Technology Policy, OSTP）在2020年1月6日公布了「人工智慧應用監管指南（Guidance for Regulation of Artificial Intelligence Applications）」，提出人工智慧（AI）監管的十項原則，此份指南以聯邦機構備忘錄（Memorandum for the Heads of Executive Departments and Agencies）的形式呈現，要求政府機關未來在起草AI監管相關法案時，必須遵守這些原則。此舉是根據美國總統川普在去（2019）年所簽署的行政命令「美國AI倡議」（American AI Initiative）所啟動的AI國家戰略之一，旨在防止過度監管，以免扼殺AI創新發展，並且提倡「可信賴AI」。 這十項原則分別為：公眾對AI的信任；公眾參與；科學誠信與資訊品質；風險評估與管理；效益與成本分析；靈活性；公平與非歧視；揭露與透明；安全保障；跨部門協調。旨在實現三個目標： 一、增加公眾參與：政府機關在AI規範制定過程中，應提供公眾參與之機會。 二、限制監管範圍：任何AI監管法規實施前，應進行成本效益分析，且機關間應溝通合作，建立靈活的監管框架，避免重複規範導致限制監管範圍擴大。 三、推廣可信賴的AI：應考慮公平性、非歧視性、透明性、安全性之要求，促進可信賴的AI。 這份指南在發佈後有60天公開評論期，之後將正式公布實施。白宮表示，這是全球第一份AI監管指南，以確保自由、人權、民主等價值。
資通安全法律案例宣導彙編 第1輯 Google新搜尋服務引發著作權侵權爭議網路搜尋引擎的巨人 Google ，近來有一項計畫，即對圖書館中的書籍做掃瞄，然後讓使用者透過網際網路搜尋書籍的內容。由於 Google 計畫掃瞄供搜尋的書籍中，包括許多目前仍受到著作權保護的著作，因此 Google 此舉，是否造成對書籍著作權的侵害，便引發了相當的爭議。 在近日的一個討論會中，學者、作者與出版商群聚一堂，就 Google 此一計畫的合法性進行討論，並就是否對 Google 進一步提出訴訟做討論。 Google 宣稱，此一計畫是人類知識發展的一大進步，把人類的觀念與想法，做有系統的歸類整理，並讓大眾更容易接近與使用，對於人類知識的傳播與進步，有重大貢獻。 然而，作者與出版商方面，則認為 Google 此舉侵害的作者與出版商的著作權。就此，作者與出版商已做出回應。先前，美國出版商協會 (The Association of American Publishers, AAP) 已於 10 月 19 日對 Google 提起訴訟，希望經由法律的判決，認定 Google 的作法侵害著作權。從法律上來看， Google 此一計畫是否侵害著作權，確有爭議之處。從美國作者與出版商激烈的反應來看，將來有可能還會有其他的訴訟，甚至集體訴訟 (Class Action) 的產生，其後續效應，值得觀察。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).