落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
日本內閣府於2023年5月26日召開第2次「AI戰略會議」（AI戦略会議），並公布「AI相關論點之初步整理」（AIに関する暫定的な論点整理）。鑒於AI對於改善國人生活品質、提高生產力無疑有相當助益，考量生成式AI甫問世，社會大眾對其潛在風險尚心存疑慮，內閣府遂以生成式AI為核心，延續先前已公布之「AI戰略2022」（AI 戦略 2022）、「以人為中心的AI社會原則」（人間中心の AI 社会原則），以「G7廣島峰會」（G7広島サミット）所提出之願景—「符合共同民主價值的值得信賴AI」為目標，提出「風險因應」及「應用與開發」兩大關注重點，供政府有關部門參考之同時，並期待可激起各界對於生成式AI相關議題之關注與討論： 一、風險因應：AI開發者、服務提供者與使用者應自行評估風險並確實遵守法規及相關指引；政府則應針對風險應對框架進行檢討，對於已知的風險，應先以現有的法律制度、指引與機制進行處理，假如現有法制等無法完全因應這些風險，則應參考各國作法盡速對現行制度進行修正。 AI的透明度與可信賴度於風險因應至關重要。若能掌握AI學習使用哪些資料、所學習資料之來源、AI如何產生結果等，就能針對使用目的選擇適合的AI，也較易因應發生之問題，並避免AI產生錯誤結果或在對話中洩漏機密資訊等。對此，本文件呼籲AI開發者及服務提供者依據現行法令和指引主動揭露資訊，政府則應對透明度和可信賴度相關要求進行檢討，並應依普及程度及各國動向對既有的指引進行必要之修正。 二、應用與開發：本文件建議政府部門積極使用生成式AI於業務工作上，找出提升行政效率同時不會洩漏機密之方法，並向民眾宣導AI應用之益處與正確的使用方式，以培養民眾AI相關技能與素養，藉以更進一步建構AI應用與開發之框架，如人才培育、產業環境準備、相關軟硬體開發等。
垂直場域應用之5G頻譜政策趨勢垂直場域應用之5G頻譜政策趨勢 資訊工業策進會科技法律研究所 2019年07月25日 壹、事件摘要 在科技的進展下，各國為提升民眾與企業之連網品質，皆刻正積極的推動5G網路相關應用，國際標準化機構第三代合作夥伴計畫（3rd Generation Partnership Project, 3GPP）更提出了三個5G應用場景，分別是更大頻寬（Enhanced Mobile Broadband, eMBB）、海量連結（Massive Machine Type Communications, mMTC），以及超低時延（Ultra-reliable and Low Latency Communications, URLLC）[1]。而相對於4G時代如雨後春筍般冒出的影音串流平台，係以「人」為主要消費客群，5G時代則擴大至「萬物」[2]，其中，製造業因可能透過無線技術來重新配置產品線或研發新興產品，而在5G世代產生巨大變化[3]。也由於製造業廠區對無線接取設施之渴求，製造業者開始思索自行控制網路基礎設施之必要性，垂直場域應用之概念應運而生。 垂直場域應用又被稱為企業專網（private network），係指為了特定用途，企業或組織自行付費建置限定區域內之行動網路基礎設施，且該網路僅特定用戶得以使用。企業之所以願投入龐大成本自行建置網路基礎設施，是因垂直場域應用所具備的網路涵蓋密集、網路延遲低、網路容量大、網路安全高，以及得以自主控管網路之5大特性[4]。此外，企業還可完全掌握何人可接取至其專網，哪些行動應優先考量，以及如何完善利用網路資源等[5]。然無線網路的接取也意味著頻譜的使用，但頻譜是有限稀有的資源，為提高頻譜之使用效率與社會價值，如何妥善配置頻段，促進國內製造業之發展，已是政府不容忽視之議題。 貳、重點說明 為了鼓勵企業自行建置網路，部分國家透過保留特定頻段之頻譜政策規劃，再由有需求之業者申請取得，以鼓勵垂直場域應用之發展，並保障區域性業者、中小企業與新創企業取得頻譜之權利，以防止頻譜僅被全國性電信營運商取得。然而，這樣的政策面臨兩方面的重大挑戰，第一，電信業者擔憂企業自建網路可能會壓縮其取得頻譜的數量，是以對政府保留專網頻段表示反對；再來，大部分的企業缺乏自行營運電信網路之經驗[6]。僅管如此，在頻譜政策的規劃上，大致上仍可區分為兩種政策模式，即規劃保留單一完整頻段，或與其他既有服務共用頻譜，本文以下即分別以保留完整頻段的德國，以及與既有服務共享頻段的日本為例，說明其政策概要，並進一步探討我國是否亦有規劃垂直場域頻段之必要性，相關困難又應如何克服。 一、保留專用頻段(德國) 德國作為工業4.0（Industry 4.0）之發起國，為進一步推動智慧工廠與智慧製造，聯邦網路局（Bundesnetzagentur, BNetzA）在規劃5G頻譜時，除了透過競標釋出5G最關鍵的中頻段3.4-3.7 GHz供全國性電信服務使用，特別保留3.7-3.8 GHz頻段共100 MHz頻寬供企業專網使用。且由於數以萬計的中小企業是構成德國經濟的重要支柱，惟中小企業難以擁有龐大資本與電信業者共同競標頻譜，是以，為降低該等企業取得頻率之成本，並提升中小型企業與新創企業對頻譜之需求，BNetzA方保留特定頻段，並採申請制之方式配置[7]。 BNetzA在決議釋出3.7-3.8 GHz頻段供垂直場域應用使用前，於2018年8月15日至9月28日發布公眾諮詢文件，並在收到69份意見回覆，其中包含全球行動供應商協會（Global Mobile Suppliers Association, GSA）、大型製造業者BOSCH與空中巴士對保留特定頻段之正面支持後，在2019年1月31日針對徵詢意見發布框架草案，並預計在5G頻譜拍賣結束後開始接受申請。 BNetzA將3.7-3.8 GHz頻段分為三種用途，使業者可根據自身需求提出申請，分別是當地室內應用無線網路（3.7-3.8 GHz）、當地室外應用無線網路（3.78-3.8 GHz），與區域性應用無線網路（3.7-3.78 GHz）。此外更對申請人附加二項限制，第一，須為該地區或建物之不動產所有權人或承租人；第二，不得為700-3600 MHz頻段之全國頻譜使用權者，換言之，BNetzA排除了既有電信業者申請取得該頻段之權利，以保障中小型企業與新創業者自行建置垂直場域應用之空間。但對於3.7-3.8 GHz範圍內的未使用頻譜，BNetzA允許電信業者為擴充網路容量，暫時性的使用該頻段，亦即在特定情況下，容許電信業者與中小企業共享頻譜，以促進頻率的有效利用。 二、與既有服務共享頻段(日本) 日本總務省（Ministry of Affairs and Communications, MIC）在規劃5G頻譜時，為鼓勵垂直場域應用之建置，考量保留企業專網頻段，並在2018年12月組成「Local 5G檢討作業班」（ローカル5G検討作業班），定期舉行會議共同討論如何推動企業或地方政府自行建置專網[8]。與德國相同，日本亦是透過申請制配置專網頻段，並僅限建物或土地所有權人自行利用或委託他人利用，全國性營運商不得使用垂直場域應用之規劃頻段，以保障中小型企業與地方政府取得完整頻段之權利[9]。 Local 5G檢討作業班研議之項目主要有三，第一，垂直場域應用的名額分配，並明確申請者的使用目的；第二，垂直場域應用技術條件的訂定，同時檢討頻率共享的可能性；第三，參考寬頻無線接取（Broadband Wireless Access, BWA）之導入經驗，規劃區域型與自用型，避免頻率互相干擾[10]。 頻譜方面，MIC研擬在中頻段4.6-4.8 GHz與毫米波28.2-29.1 GHz頻段保留總共1100 MHz頻寬，供當地業者與地方政府使用。相對於德國是保留一段乾淨的頻譜供垂直場域應用使用，日本則是規劃使垂直場域應用與既有服務共享頻段，4.6-4.8 GHz頻段需與政府專用電信共用，28.2-29.1 GHz頻段則與衛星業務共用，以極大化頻譜的利用效率。惟為避免干擾，MIC並正針對28.2-28.3 GHz頻段進行干擾測試，最快會在2019年8月作出是否釋出之決議，若未能通過干擾測試，該100 MHz頻寬將會作為護衛頻段（guard band），避免兩個相鄰的服務互相干擾。4.6-4.8 GHz與28.3-29.1 GHz頻段則會在與既有服務進行和諧共用測試後，至2020年5月過後方會釋出。 參、事件評析 一、我國垂直場域應用之頻段規劃必要性 有鑑於5G網路所需頻段較4G為高，通訊距離與訊號穿透性皆會受到影響，再加上為了確保傳輸速率並降低時延，需大量建置基地台，網路佈署成本將大幅度增加[11]。因此，5G網路布建初期將著重在六都等主要都會區，並逐步對外擴散。大多數製造業基於廠區地理範圍以及投入成本等問題，更將服務據點設在商用效益不佳、5G網路建置進度延後之地區。基此，政府若未為企業專網規劃特定頻段，可能導致企業使用免授權頻段而發生干擾之情形，更可能會抑制我國相關供應鏈掌握新市場商機之可能性。 針對頻段之保留，基於中頻段（3.5 GHz）為5G的關鍵頻段，毫米波（mmWave）則是推動5G網路達到峰值速度不可或缺的要素，是以我國似可參考德國與日本垂直場域應用之相關政策，由政府規劃在中頻段或高頻段保留部分頻寬，或是與現有服務進行頻譜共用，期在專網產業的興起下帶動整體網路設備業者的發展。 按電信業者因擔憂垂直場域業者可能會在取得頻譜後，將其用於提供公眾電信服務，而成為電信業者的水平競爭者，此方面可透過相關法規之限制避免類似情況發生。另一方面，電信業者也可適時提供援助，藉由長年網路建置經驗，作為系統整合的角色與垂直場域業者合作，而達到雙贏的局面。惟企業專網對於網路規格、服務品質、資安等皆與公眾電信服務不同，電信業者與企業如何深化合作，仍有待更多的交流與討論。 二、推動我國垂直場域應用之可能頻譜政策 相較已進行5G商轉的其他國家，我國目前尚未釋出頻譜[12]，發照速度雖慢於其他國家，惟我國產業仍可透過實驗網路頻譜的申請，研發具高附加價值的企業專網應用，以在智慧製造、智慧醫療，抑或智慧農業等領域搶佔一席之地。但針對企業專網的頻譜需求，由於我國5G頻譜釋照迄今仍以競標拍賣商用頻譜為大方向，在第一波5G釋照時並不會保留「指配頻譜」予企業專網，僅會在「第一類電信事業開放之業務項目、範圍、時程及家數一覽表」中以註記的方式，說明處理企業專網之大方向[13]。 依108年立法院三讀通過之電信管理法第57條規定，主管機關得考量無線電頻率使用特性、國家安全、實驗研發及市場競爭等情形，依職權或依申請核配二以上使用者使用同一無線電頻率。此一條文似可解釋為，在頻譜和諧使用及不干擾之情況下，通訊主管機關國家通訊傳播委員會可核配垂直場域業者與電信業者使用同一頻譜的法源依據。 有論者提出電信管理法通過後，尚可利用第58條頻譜租賃之方式提供企業專網頻譜，該條允許電信事業在取得主管機關核准後，將其獲配頻率之一部提供予他電信事業使用；惟按電信事業僅指利用公眾電信網路提供公眾通信服務之事業，垂直場域業者在屬性上較偏向專用電信，而非該法所稱之「電信事業」，在法規適用上仍有疑慮。此外，即使未來允許電信事業將頻譜出租、出借予垂直場域業者，惟電信業者取得5G頻譜之代價高昂，其衍生之使用成本恐亦非中小型垂直場域業者所能承擔。 肆、結語 各個國家基於不同的制度或產業特性，而對企業專網之規劃各有不同的考量，然共同目的皆係藉由頻譜之規劃刺激中小型企業、新創企業與地方政府自建網路，並透過客製化的領域營運需求，避免工業間諜與駭客攻擊等情事[14]。是以，我國政府亦可參採國際案例，在協調電信業者與垂直場域業者之下，為企業專網保留特定頻譜，以掌握垂直場域應用之發展脈動，並促進新創服務之萌芽，達到提升我國整體國際競爭力之目標。 [1] Keith Mallinson, The Path to 5G: as much evolution as revolution, 3GPP (May. 10, 2016), https://www.3gpp.org/news-events/1774-5g_wiseharbour (last visited June 11, 2019). [2] 総合通信基盤局，〈第５世代移動通信システムの導入のための特定基地局の開設に関する指針案について〉，頁8（2018）。 [3] 陳端武，〈AT&T、高通將智慧製造視為5G商機〉，DigiTimes，2018/03/23，https://digitimes.com.tw/iot/article.asp?cat=158&cat1=20&cat2=10&id=0000527161_V5Y24IJX5ULPGI230CHFJ（最後瀏覽日：2019/6/12）。 [4] 李建勳、蘇奕霖、廖修武，〈全球5G專網市場發展〉，資訊工業策進會產業情報研究所，頁4（2019）。 [5] Tony Ridzyowski, What is a Private 5G Network?, TTI (Dec. 18, 2018), http://www.turn-keytechnologies.com/blog/network-solutions/what-is-a-private-5g-network (last visited June 14, 2019). [6] Id. [7] BNetzA, Entwurf der grundsätzlichen Rahmenbedingungen des zukünftigen Antragsverfahrens für den Bereich 3.700 MHz – 3.800 MHz für Anwendungen des drahtlosen Netzzugangs (Jan. 31, 2019), available at https://www.bundesnetzagentur.de/DE/Sachgebiete/Telekommunikation/Unternehmen_Institutionen/Frequenzen/OeffentlicheNetze/RegionaleNetze/regionalenetze-node.html;jsessionid=1612C0A9E32BF6C018EF03D2F781EF94 (last visited June 12, 2019). [8] 総務省，〈ローカル5G検討作業班〉，http://www.soumu.go.jp/main_sosiki/joho_tsusin/policyreports/joho_tsusin/5th_generation/local_5g/index.html（最後瀏覽日：2019/6/13）。 [9] 新世代モバイル通信システム委員会，〈情報通信審議会 情報通信技術分科会 新世代モバイル通信システム委員会報告概要（案）〉，頁9（2019），http://www.soumu.go.jp/main_content/000624455.pdf（最後瀏覽日：2019/6/13）。 [10] 総務省 総合通信基盤局電波部 移動通信課，〈ローカル5G検討作業班の主な検討内容〉，頁2（2018），http://www.soumu.go.jp/main_content/000589526.pdf（最後瀏覽日：2019/6/13）。 [11] Ferry Grijpink, Alexandre Ménard, Halldor Sigurdsson & Nemanja Vucevic, The road to 5G: The inevitable growth of infrastructure cost, McKinsey & Company (Feb. 2018), https://www.mckinsey.com/industries/telecommunications/our-insights/the-road-to-5g-the-inevitable-growth-of-infrastructure-cost (last visited June 17, 2019). [12] 鄭鴻達、楊文琪，〈5G拚明年一月釋照 四年計畫啟動〉，聯合新聞網，2019/06/14，https://udn.com/news/story/7238/3870814（最後瀏覽日：2019/6/14）。 [13] 林淑惠，〈5G企業專網 首波落空〉，中時電子報，2019/03/04，https://www.chinatimes.com/newspapers/20190304000226-260202?chdtv（最後瀏覽日：2019/6/14）。 [14]經濟日報社論，〈5G企業專網規劃 兼顧公平與發展〉，聯合新聞網，2019/06/06，https://udn.com/news/story/7338/3855673（最後瀏覽日：2019/6/17）。
Angie's List起訴Amazon Local侵害營業秘密消費者評論服務Angie's List於本月在印第安納州提起一項聯邦訴訟，對象是Amazon Local。Angie's List作為當地交易網站，提供高達75％的本地服務，包括產品和使用經驗。但Amazon Local員工卻通過註冊成為Angie's List的會員，以獲得其他會員名單和下載網站所提供的文件，也包括其他會員的評論和相關資訊。因此20餘名Amazon Local員工被列為共同被告。 該訴訟聲明中指控相關資訊被Amazon Local所使用，用以在西雅圖建立一個競爭性的服務。Angie's List在訴訟中指稱，他在會員協議“明確禁止使用Angie's List的帳戶和資料用於商業目的”，但Amazon Local員工卻違反了契約。“Amazon Local沒有投入必要的時間，資源和合法手段發展自己的研究與Angie's List競爭，相反的，Angie's List和它的員工都選擇了秘密訪問和挪用Angie's List專有信息的快捷方式。 Angie's List指控Amazon Local違反商業機密，竊盜，侵入電腦，民事侵權，電腦欺詐與濫用盜用行為和違反契約。Angie's List請求法院判決Amazon Local賠償其損失，並禁止Amazon Local再使用Angie's List，包括已經得到的資訊。Angie's List也請求未規定的損害賠償，“不當得利”和懲罰性的和其他損害。
歐盟支付服務指令修正案(PSD2)於2016年1月12日生效2012年歐洲議會發表的綠皮書「邁向信用卡、網路以及手機支付的整合歐洲市場(Towards an integrated European market for card, internet and mobile payments)」，並進行廣泛的公眾意見徵詢，舉辦公聽會，最後決議進行現有歐洲支付法制架構的修正。歐盟支付服務指令修正案(revised Payment Service Directives, PSD2)於2013年7月由執委會提出，2015年10月歐洲議會通過，今年1月12日生效，預期英國、保加利亞、丹麥、德國、奧地利以及法國將會率先修正原有的支付服務法制完成轉換。產業界一致對於修正案表示歡迎，因為本次修正將會大幅提升支付創新應用的發展可能，尤其是行動支付。 PSD2之重大修正包含針對支付服務的內容作出修正，新增第三方支付服務提供人(third party payment service provider，簡稱TPP)為支付服務之內容(附件一第7項)。TPP的內涵為透過對於其它支付服務提供者的支付帳戶的存取，提供包含支付發動服務(payment initiation services)以及帳戶資訊服務(account information services)。依照第58條規定，TPP服務提供者具備下列義務： 1.確保支付服務使用者的個人化安全資訊不會被其它人取得。 2.以明確的方式向帳戶之支付服務提供者認證自己的身分。 3.不儲存支付服務使用者的敏感支付資訊或個人化安全憑證。 除此之外，PSD2明確將純粹的技術服務提供者排除於支付機構之範圍，無需適用支付服務指令。 PSD2亦授權EBA發布相關規定制定技術門檻，包含強力的客戶身分認證以及通訊資訊標準。