落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 商業服務業個資保護宣導說明會
- 113年新創採購-照護機構獎勵說明會
- 【南部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【北部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【中部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【實體】2024科技研發法制推廣活動— 科專個資及反詐騙實務講座
- 【直播】2024科技研發法制推廣活動— 科專個資及反詐騙實務講座
- 【臺北場】113年度新創採購-招標作業廠商說明會
- 【臺中場】113年度新創採購-招標作業廠商說明會
- 【高雄場】113年度新創採購-招標作業廠商說明會
- 數位發展部數位產業署113年資訊服務業者個資安維辦法宣導說明會
- 電商零售業法制宣導說明會暨產學研座談會
- 數位海盜時代來臨–抵禦海上資安威脅的實踐與挑戰
- 零售業個資保護宣導暨座談會
- 零售業個資保護及資訊安全教育講習
- 零售業個資保護及資訊安全教育講習
近年來興起以UBER為首的「零工經濟」（Gig Economy）議題。按國際勞工組織（International Labor Organization, ILO）的說明：所謂「零工經濟」，是透過數位勞工媒合平台，將分散於各地的勞力資源，按需求（On-Demand）調度到特定地點以執行任務。這些被調度的勞工即為「零工」，多半從事服務性質或任務性質單純且零碎（Micro-Task）的工作，如代駕、代辦雜務、居家打掃。 面對零工經濟的風潮及其衍生的勞資問題，各國積極針對零工經濟推出對應政策。舉例而言，美國加州政府於2019年9月18日通過《AB 5法》（California Assembly Bill 5 (2019)），擴大「正式員工」（Employee）的解釋範圍，並要求資方必須對於「獨立承攬人」（Independent Contractor）之認定負舉證責任。美國國會亦推出《保護零工經濟法》草案（Protect the Gig Economy Act of 2019）。國際組織方面，國際勞工組織從2015年起，發布多份研究報告，更在2017年8月成立「國際勞工組織全球委員會」（ILO Global Commission on the Future of Work）。 國際勞工組織倡議各國設立社會福利專法保障所有零工的基本工資，國際勞工組織指出：美國於2017年約有5,500萬名零工（Gig Workers），佔整體勞動力的34%，2020年可能會成長到43%。然而，僅50%的零工獲得應有的報酬。觀察2017年的數據，零工的平均時薪是4.43美元，假設考量閒置的時間，平均時薪僅剩3.31美元，時薪中位數是2.16美元。關於零工集會結社自由方面，零工已慢慢開始有了組織性的工會，然而，零工向資方爭取權益時，面對傳統工會較不會存在的難題：32%的零工僅為補貼既有正職工作，零工間交流少、對於權益難成共識，無法進而凝聚集體訴訟的力量。再者，勞工運動以實體為首選，然而零工大多透過「數位平台」，數位平台常有總部在境外的現象，零工較難有特定集會地點，甚至難辨識出談判的對象。最後，平台業者多數聲稱零工僅為「獨立承攬人」，然而，平台業者和零工間的法律關係是否為「承攬關係」尚有待商榷，各國政府及國際組織仍在研擬討論階段。
美國加州日前開始審查輕量自動駕駛運輸載具應用之測試申請美國加州行政法辦公室（the Office of Administrative Law）於2019年12月17日宣布，根據日前通過之修訂規範，該州車輛管理局（the Department of Motor Vehicles）將審查州內公共道路上進行輕型自動駕駛（下稱自駕）運輸服務商業化應用測試之申請，換言之，業者如取得車輛管理局之核准，可以測試重量未達10,001磅之自駕運輸車輛（如一般客車、中型貨車、可載運雜貨類商品的客貨兩用車等）服務。另外，業者如欲就該自駕運輸服務收取運輸費用，則必須另向車輛管理局申請佈署（deployment）許可，即商業化或供公眾使用之許可。 不論何種自駕運輸車輛服務之測試，均須遵循現行測試、佈署之申請程序要求，並根據車輛管理局的核准內容進行有或無安全性駕駛人（safety driver）的自駕運輸服務測試，簡要整理不同規範要求如下： 如為有安全性駕駛人之測試與應用，有以下要求： 證明車輛已經曾在符合應用目的之情境（如駕駛環境）下進行測試。 維持測試駕駛人（test driver）的培訓規劃，並且證明每位測試駕駛人均完成培訓。 確保測試駕駛人維持潔淨（clean）的駕駛記錄。 確保測試駕駛人在測試期間乘坐在駕駛座上監控車輛的運行狀況，並在有需要的時候可以即時接管車輛。 須提交年度脫離（或譯為解除自駕）報告（disengagement report），且如有發生碰撞，須於10日內提交碰撞報告予車輛管理局。 如為無安全性駕駛人之測試與應用，有以下要求： 提供測試自駕運輸服務所在地方當局之書面通知以茲證明。 證明自駕測試車輛符合以下要求： (1)車輛與遠端遙控操作者間具有通訊連結。 (2)車輛與執法部門間的通訊方式。 (3)製造商將如何監控測試車輛之說明 提交一份與執法部門如何互動交流的計畫。 證明自駕測試車輛符合聯邦機動車輛安全標準（FMVSS），或提供國家公路交通安全管理局（NHTSA）之豁免監管證明。 證明自駕測試車輛可以在沒有駕駛人存在的情況下可以自主運行，並屬於美國汽車工程師協會（SAE）標準等級4、等級5之車輛。 證明測試車輛已經曾在符合應用目的之情境（如駕駛環境）下進行測試。 通知車輛管理局將要測試營運的區域範圍。 維持遠端遙控操作相關培訓規劃，並證明每位遠端遙控操作者均完成培訓。 須提交年度脫離報告，且如有發生碰撞，須於10日內提交碰撞報告予車輛管理局。 如自駕運輸服務擬商業化或供公眾使用，申請佈署之相關要求如下： 證明車輛： (1)配備自駕車輛資料紀錄器，此技術是根據加州車輛法規（California Vehicle Code）設計來偵測並反應道路實際狀況 (2)符合聯邦機動車輛安全標準或提供國家公路交通安全管理局之豁免監管證明。 (3)符合現行關於網路攻擊、非經授權侵入或錯誤車輛控制指令之防護、偵測與回應等產業標準。 (4)製造商曾進行測試與驗證，並有足夠信心將車輛佈署於公用道路上。 提交一份與執法部門如何互動交流的計畫複本。 如果車輛不需要駕駛員，製造商必須證明其他事項： (1) 車輛與遠端遙控操作者間具有通訊連結。 (2) 當碰撞事故發生時，車輛可以顯示或傳輸相關資訊予車輛所有人或操作員。 綜上所述，若要在加州進行自駕運輸車輛服務測試，須視其服務型態及是否涉及佈署，以遵循不同規範要求，申言之，服務採行有無安全性駕駛人與是否商業化或供公眾使用，二者為併行關係，舉例來說，如業者擬佈署有安全性駕駛人之商業運輸服務，則須同時符合有安全性駕駛人之測試與應用以及佈署等要求。加州對於自駕車輛運輸服務商業化之措舉，值得我國借鏡以完善自駕車輛運輸應用之推動。
日本首相頒布「2017智慧財產推動計畫」，揭示國家推動三大基礎政策面向日本首相安倍晉三於2017年5月16日在官邸舉行智慧財產戰略本部（知的財産戦略本部）會議，並正式頒布「2017智慧財產推動計畫（知的財産推進計画２０１７）」。為因應大數據（ビッグデータ）、人工智慧（人工知能）等相關先進科技議題，透過調整產官學資源，培育地方中小企業智慧財產基礎認知，保護高附加價值農產品品種，振興觀光及影視等文化產業，提昇國家綜合競爭力，構築第4次產業革命（society5.0）之基礎。該會議中，所發表「2017智慧財產推動計畫」之三大基礎政策面向分別為： 一、建構第4次產業革命之智慧財產系統 (一) 充分利用、活用資訊及人工智慧以強化產業競爭力： 制訂資訊利用契約指引（ガイドライン）。 修正不正競爭防止法（資料不當取得禁止等）。 著作權法之修正（對於權利柔軟性限制之規定）。 AI學習模型（AI学習済モデル）專利。 (二)智慧財產系統基礎之準備： 強化證據蒐集程序。 創設ADR制度（Alternative Dispute Resolution、日文：標準必須特許裁定）。 (三)推動引領全球之智慧財產制度及相關標準化： 推動全面化的智慧財產管理制度（賦予智慧財產權之資料及標準等）。 活用國立研究開發法人之標準及其人才之培育。 二、活用智慧財產之潛力，推動區域活絡與發展 (一)積極活用強化農林漁業、食品業等智慧財產： 充實地理標示（GI）或植物品種，於國內外之保護及輔導體系。 制訂國家農林漁業優勢的標準（JAS）。 推動活用資訊之智慧農業。 (二)活用地方中小企業智慧財產，並推廣產學及產業間之互助： 啟發中小企業智慧財產意識，支援智慧財產海外之推廣。 產學攜手之橋接，並支援事業化。 (三)每一位國民都是智慧財產人才，推動智財教育： 充實智慧財產教育之新指導要領。 智慧財產教育振興聯盟課程與教材之開發。 建立地方性聯盟。 三、2020年大放異彩之日本 (一)海外推廣和產業基地之加強： 「酷JAPON官民共同營造平台」、「地方版酷JAP」之基礎建設及相互合作。 人才之育成、教育機構的合作。 (二)振興電影產業： 強化中小企業公司製作之支援及資金調動多樣化，及其海外之發展。 成s立公私部門改善攝影環境之聯絡會議。 (三)構築資料庫：設立跨部門之窗口，在產官學共同協助下活用研究成果、及商業化。 這個推動計畫乃是與「總合科學技術革新會議（総合科学技術・イノベーション会議）」及「IT總合戰略總部（ＩＴ総合戦略本部）」等共同合作，並結合「資訊利用促進基本計畫（官民データ活用推進基本計画）」（以「科學技術基本計畫」、「科技創新綜合戰略（科学技術イノベーション総合戦略）」、「資訊利用促進基本法（2016第103號法律）」等為基礎所發展的新計畫），在智慧財產戰略總部的主導下進行推動，積極穩健的落實智慧財產價值之保護、智財潛力活用及地方革新推動、日本文化之集結及向世界傳達日本的新文化價值等三大目標，以達到國家的發展戰略中，智慧財產戰略政策之最大使命。
「品牌台灣」計畫啟動 業界攜手成立品牌台灣創投基金台灣產業近年來因製造的附加價值降低，基於產業發展前景考量，過去台灣資源的配置太偏重製造，未來產業發展應朝品牌行銷與研發智財領域發展，以台灣有限的資源才能創造更高的附加價值。 為推動更多台灣產業朝品牌之路邁進，並期許台灣有更多的品牌企業能夠在國際上發光發熱，成為國人的驕傲，因此，宏碁創辦人、智融集團董事長施振榮出面號召，在與經濟部及外貿協會、諸多產業、投資界先進共同討論後，決定籌設一個以專業品牌行銷事業為投資對象的創投基金。外貿協會、智融集團於 3 月 21 日 正式對外說明「品牌台灣創投基金」的募資計畫，預計將募集 20 億元資金投資台灣品牌企業。目前行政院開發基金與經濟部貿易推廣基金也正在評估這項投資計畫，主辦單位並積極爭取有意投資品牌事業的民間企業共襄盛舉，希望帶動台灣品牌事業的發展。 「品牌台灣創投基金」是台灣第一個為發展品牌而將成立的基金，除了催生台灣產業轉型，發展品牌風氣外，也是有鑑於國內的創投多以技術作為投資取向，較缺乏針對微笑曲線右端之品牌事業的投資，因此希望以此專門投資品牌事業的基金，帶動國內品牌事業投資的新風潮。 未來品牌基金的投資對象，將專注於品牌行銷事業的投資，投資台灣具發展優勢的產業，且其產品、服務及營運模式要具有實現品牌國際化的機會，因此相當注重被投資企業的國際行銷能力。此外，未來基金投資的對象將不限於台灣地區，只要是品牌經營之核心能力在台灣，並且能夠建立國際級的品牌，且以提升台灣整體形象及價值的企業，都是投資考量的對象。