落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
歐盟執委會（European Commission, EC）於2019年12月18日發布《2019歐盟產業研發投資計分板》（The 2019 EU Industrial R&D Investment Scoreboard）。產業研發投資計分板是歐盟每年出具一次的報告，2019年計分板報告包含2500家在2018-2019年間投入最多研發資金的企業，分別位於全球44個國家／地區，每一企業的研發投資金額超過3000萬歐元，總計約為8234億歐元，為全球研發支出的90%。在這2500家企業中，551家來自歐盟公司，為投資總額的25％；769家來自美國，為投資總額的38％；318家來自日本，佔13％；507家中國公司，佔12％。 報告中指出，2018年企業研發投資總額較2017年增加8.9%，主要是中國在全球研發資金投入比例不斷增加。另外，研發投資高度集中於大型企業；在這2500家企業中，前10大、前50大企業分別佔研發總額的15%和40%。前50大企業中，最多者為美國企業22家和歐盟企業17家。再從研發投資領域觀察，前三大領域分別為資通訊產業（38.7%）、健康（20.7%）和汽車產業（17.2%），佔總量的76.6%。但每一個國家重視的領域不盡相同，例如歐盟投資20%在資通訊、21.6%在健康、31%汽車，而美國的資通訊研發投資佔了52.8%、26.7%在健康，僅有7.6%在汽車。 再從個別企業研發投資排名來看，前四大企業分別為Alphabet、Samsung、Microsoft和Volkswagen。另外，報告統計在過去的15年中，有8家企業在全球研發投資金額排名中上升了70名以上，分別為：Alphabet、華為、蘋果、Facebook、阿里巴巴、Celgene、Gilead Sciences和德國馬牌；也代表這15年間資通訊、生技與汽車產業發展的重要性。
美國國家製造創新網絡2016年度報告依2014年復甦美國製造與創新法（Revitalize American Manufacturing and Innovation (RAMI) Act of 2014），美國國家製造創新網絡計畫於2016年2月公布年度報告（Annual Report）。國家製造創新網絡計畫的目標是處理發生於執行面的、介於初期基礎研究與技術布建之間的製造技術轉型（manufacturing related technology transition）挑戰。 國家製造創新網絡計畫的關鍵核心之一，是連結創新與製造，而「研發機構」（Institute）在這當中扮演最為關鍵的角色。此所稱之研發機構，係指2013年「國家製造創新網絡先期規劃」（NNMI-PD）以及2014年復甦美國製造與創新法（RAMI Act of 2014）第278s條(c)項所界定之「製造創新中心」（center for manufacturing innovation）——其採公私合營制（public-private partnership），其成員可包括各該業界之業者與學研機構，以及商務部長認屬適當之產業聯盟（industry-led consortia）、技職教育學校、聯邦政府所屬實驗室、以及非營利機構等。「研發機構」將以上之利害關係各方匯聚形成一個創新生態系（innovation ecosystem），以共同因應高風險之製造業挑戰並協助製造業者維持並提升產能與競爭力。 我國於民國105年7月由行政院核定通過之「智慧機械產業推動方案」，亦規劃透過「智機產業化」與「產業智機化」，建構智慧機械產業生態體系，整合產學研能量，並深化智慧機械自主技術中長期布局與產品創新。
國際保險公司探討奈米保險機制可行性特定奈米科技經歷研發階段過後，所獲致的成熟技術產品，要邁向市場商業化階段，能否真正成功，取決於市場消費大眾能否具有信心願意採用。而奈米科技由於新興發展存有未知之不確定風險，所以有論者開始規劃研擬，引進責任保險機制，藉由責任風險分散之功能，期望解決面對不確定風險時，能夠足以妥適因應。 依據國際最具份量之瑞士再保公司（Swiss Re） 對於奈米科技之保險機制，2008年出版「奈米科技：微小物質，未知風險（Nanotechnology--Small Matter, Many Unknowns：The Insurers' Perspective）」研究報告 ，其中明文點出，保險業（Insurance Industry）之核心業務即為移轉風險（Transfer of Risk），由保險公司（Insurer）經過精算程序後收取一定費用，適時移轉相關風險，並產生填補功能。 然而，保險業對於可藉由保險機制所分散之風險，亦有其極限範圍，如果超過以下三原則者，則會被認為超出可承擔風險範圍，屬保險業無力去承擔者，所以保險機制之引進將不具可行性： （1）風險發生之可能機率與發生嚴重程度，現行實務沒有可行方式能加以評估者。 （2）當危害產生時，所造成之影響為同時擴及太多公司、太多產業領域、或太廣的地理區域者。 （3）有可能產生的巨大危害事件，已超過私領域保險業所能承受之範圍者。 此外，為確保未來得以永續經營，保險公司對於願意承保之可保險性（Insurability）端視對於以下各因素性質之評估： （1）可加以評估性（Accessibility）：對於所產生之損害係屬可評估，並得以加以計量化、允許訂出價格者（be Quantifiable to Allow Pricing）。 （2）無可事先安排者（Randomness）：對於保險事故之發生，必須是不可預測者，並且其所發生必須獨立於被保險者本身主觀意志（the Will of the Insured）之外。 （3）風險相互團體性（Mutuality）：相關保險者必須基於同時參加並組成共同團體性，藉以達到分擔分散相關風險性。 （4）經濟上可行性（Economic Feasibility）：必須使私人保險公司藉由收取適宜保費，便得以支付對等之賠償費用，可以確保業務經營得以永續持續下去。 綜上所述，可以明瞭並非所有風險，保險公司均願意承保而能達到分散風險者，對於風險必須是可預測性並有承保價值，保險公司本身具有商業機制，依據精算原則確定願意承保之費用，此才可謂實務上可行，對於奈米科技引進保險機制之衡量思考，也當是如此。
中國大陸國家食品藥品監督總局為落實食品安全法所涉保健食品管理項目，修訂《保健食品備案工作細則》中國大陸食品及保健食品法制主要規定於《中華人民共和國食品安全法》、《食品生產許可管理辦法》、《保健食品註冊與配案管理辦法》及《食品生產許可審查通則》。惟，近年來，中國大陸國家食品藥品監督總局因應日前食品安全法修正 ，為進一步落實其所涉之保健食品備查及管理項目之執行，補強保健食品之法制缺口，即依據《保健食品註冊與備案管理辦法》訂定《保健食品備案工作細則》，另於今年度(2017)年2月7日公布該細則內容，進行為期一個月之公眾意見徵集。《保健食品備案工作細則》共分為八個章節，依序規範保健食品所涉之備查項目、相關適用資格及應備齊之文件，例如：中國大陸製造及生產之保健食品之特殊備查要求、外國進口之保健食品備查要件…相關變更及效力等多項內容。茲就重要內容說明如下： 一、適用範圍及基本原則 凡用於凡於中國大陸境內生產製造或欲進口之保健食品皆適用之。並應當遵循規範統一、公平公正之備查原則保健食品備查。 二、保健食品備查概念 係指保健食品生產企業應依據辦法及細則規定之法定程序、要件，將可茲證明該項產品之安全性、功能性等相關資料及應備文件提交權責當為進行存檔備查之過程。 三、食品藥品監督管理部門之權責 中國大陸國家食品藥品監督總局為保健食品註冊及備查之主管單位、應對各省、自治區、直轄市食品藥品監督管理部門之保健食品註冊及備查相關項目具有指導監督之責。