落實完善數位資料管理機制, 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。 貳、重點說明 首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]。 其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。 其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
歐盟執委會發布2024年的能源聯盟現狀報告,概述歐盟能源政策的進展以及挑戰歐盟執委會於2024年9月11日發布「2024年的能源聯盟現狀報告」(State of the Energy Union Report 2024),說明歐盟近年來在能源政策方面的發展,以及未來需要面對的挑戰。其中三項重點內容及近期後續發展如下: (1) 歐盟減碳和再生能源發展成果顯著 歐盟的溫室氣體排放量從1990年到2022年減少了32.5%,而同期歐盟經濟則增長了約67%;且於再生能源發展方面,風力發電成為歐盟第二大電力來源,僅次於核能。2024年上半年,再生能源占歐盟發電量的50%,超越歐盟所有化石燃料的總發電量。不過,歐盟仍需要加強能源效率措施,以實現到2030年最終能源消耗量減少11.7%的目標。 今(2025)年1月23日,英國智庫Ember報告指出,綜觀2024年,太陽光電已占歐盟發電量的11%,首度超越燃煤發電(10%),自綠色政綱(European Green Deal)頒布以來,風電與光電所增加的發電量,已助歐盟減少近590億歐元的化石燃料進口。 (2) 歐盟已降低對於俄羅斯的能源依賴 歐盟已大幅減少對俄羅斯天然氣的進口依賴,從2021年的45%降至2024年6月的18%,同時增加了從挪威和美國等可靠合作夥伴的進口;並將繼續支持烏克蘭,幫助其穩定電力系統,並通過捐款和資金援助其能源部門。而烏克蘭於今年停止俄羅斯天然氣借道輸送至歐洲後,波羅的海三國:立陶宛、拉脫維亞和愛沙尼亞亦決議脫離俄羅斯電網,連接歐洲大陸電網和能源市場。 (3) 歐盟將持續推動淨零相關政策 歐盟致力在淨零轉型過程中賦予能源消費者權利,通過新的能源市場法規保護消費者,確保其能負擔得起能源之使用,並提供社會氣候基金等支持;而為持續增強能源安全和競爭力,歐盟需要加快淨零技術的發展,加強與工業界的合作,並妥善利用創新基金等工具。而同(2024)年12月歐盟即以創新基金挹注46億歐元,加速綠氫、儲能、熱泵、電動車電池和等技術開發,並與歐洲投資銀行共同宣布以現代化基金投資29.7億歐元,支援會員國的潔淨工業部門;今年1月則在跨歐洲能源基礎設施 (Trans-European Networks for Energy Regulation, TNE-E)的政策架構下,投資跨國能源基礎建設逾12 億歐元,包含海上及智慧電網、氫能及碳封存之基礎設施等計畫。
歐盟研究:應重視改善基因改造產品管理規範的區域性差異基因改造作物的商業化普遍在各地受到管理規範,如今全球即將步入上市階段的基因改造作物與日俱增,相反地在歐洲地區相關核准作業程序卻遲滯緩慢。這主要起因於各國家地區對於基因改造產品所採取管理方式與法律規範各有不同,相關產品的安全評估標準及法律審查程序也有所差異,因此目前基因改造作物產品雖然在同一時間內申請上市核准,之後仍難以取得全球各國家地區之核准。 今(2009)年7月,歐盟所屬之研究單位Joint Research Centre(JRC)指出基因改造作物產品的非同期性核准(asynchronous approval)將為全球農業市場交易帶來相關一連串的問題。根據JRC研究,某些國家地區如歐盟,採取全面禁止基因改造作物(“zero-tolerance policy”),立法禁止核准基因改造作物以進口商品之名義輸入,即便某些基因改造作物已在本國境內允許種植並且將其歸類為安全,但任何含有上述微量基因改造作物成分之農產品,也同樣遭歐盟禁止輸入,歐盟全面禁止基因改造作物產品之作法形同架設了一道產品交易的禁令。以過往經驗為例,因歐盟全面禁止基因改造作物之管理方式,已導致產品無法輸入,大幅影響該地區的動物飼料。 隨著全球基因改造作物種植面積及商業使用量增加的發展趨勢,未來恐將難以在全球市場中取得毫無添加基因改造作物的產品,尤其當這些基因改造作物是允許在其他國家境內種植,但卻未獲歐盟批准者。因此,相對於未添加基因改造作物產品之價格將因此上揚,而仰賴動物飼料進口輸入的歐盟則應多加關切此事。 為能降低含有微量基因改造作物商品所帶來的衝擊,JRC歸納「全球基因改造作物商業化流程研討會」中專家學者之意見,建議歐盟宜再次考量全面禁止政策之必要,或改以容許低含量基因改造作物產品之上市標準予以取代;其他建議則包括簡化核准程序,設立各國互相認可的基因改造作物風險評估方法,以及彈性落實國際食品標準委員會相關之規定,以期能減少日後基因改造作物產品非同期性核准之影響。
歐盟提出人工智慧法律框架草案歐盟執委會於2020年2月公布《人工智慧白皮書》(AI White Paper)後,持續蒐集各方意見並提出新的人工智慧規範與行動。2021年4月針對人工智慧法律框架提出規範草案(Proposal for a Regulation on a European approach for Artificial Intelligence),透過規範確保人民與企業運用人工智慧時之安全及基本權利,藉以強化歐盟對人工智慧之應用、投資與創新。 新的人工智慧法律框架未來預計將統一適用於歐盟各成員國,而基於風險規範方法將人工智慧系統主要分為「不可接受之風險」、「高風險」、「有限風險」及「最小風險」四個等級。「不可接受之風險」因為對人類安全、生活及基本權利構成明顯威脅,故將被禁止使用,例如:政府進行大規模的公民評分系統;「高風險」則是透過正面例舉方式提出,包括:可能使公民生命或健康處於危險之中的關鍵基礎設施、教育或職業培訓、產品安全、勞工與就業、基本之私人或公共服務、可能會干擾基本權之司法應用、移民與庇護等面向,而高風險之人工智慧在進入市場之前須要先行遵守嚴格之義務,並進行適當風險評估及緩解措施等。「有限風險」則是指部分人工智慧應有透明度之義務,例如當用戶在與該人工智慧系統交流時,需要告知並使用戶意識到其正與人工智慧系統交流。最後則是「最小風險」,大部分人工智慧應屬此類型,因對公民造成很小或零風險,各草案並未規範此類人工智慧。 未來在人工智慧之治理方面,歐盟執委會建議各國現有管理市場之主管機關督導新規範之執行,且將成立歐洲人工智慧委員會(European Artificial Intelligence Board),推動人工智慧相關規範、標準及準則之發展,也將提出法規沙盒以促進可信賴及負責任之人工智慧。