落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
歐盟執委會（European Commission）於2022年7月29日提出《近用電錶及用電資料之相互操作性要求及非歧視性與透明性程序實施規則草案》（Commission Implementing Regulation (EU) on interoperability requirements and non-discriminatory and transparent procedures for access to metering and consumption data），於2022年9月5日草案第二階段之公眾意見徵集結束。本草案以進一步落實《內部電力市場指令》（Directive (EU) 2019/944）中賦予用戶近用有關用電及包括行政手續費用、使用輸配電過路費等資料，促進智慧電錶系統（smart metering system）於資料模型階段及應用層面之相互操作性（interoperability），提高市場參與者資料近用與交換之標準，以及未來創新能源服務標準等目標。 為落實上述指令之要求，本草案旨在規定系統相互操作性以及資料近用的非歧視性與透明性要求，其重點如下： （1）本草案適用對象為經認證之歷史計量及用電資料、未經認證的近即時計量（non-validated near-real time metering）、用電資料形式的計量以及用電資料。 （2）確保供應商於用戶同意下能夠以透明且連續性的方式近用用戶資料（包括判讀及使用）。用戶亦得近用其於智慧電錶系統的資料。 （3）根據會員國的實踐，定義歐盟層級在商業模式層面、功能層面及資訊層面等一般性規則與程序規定的「參考模型」（reference model）。參考模型為特定服務及程序所需的基本工作程序，包括： A. 由各種角色、職責及其相互作用組成的「角色模型」，包括計量資料管理員（metered data administrator）、計量站管理員（metering point administrator）、資料近用提供者及權限管理員的角色和職責； B. 由資訊對象、屬性以及該對象間關係組成的「資訊模型」； C. 詳細說明程序步驟的「程序模型」。 （4）為有效確保資料近用程序的透明度，有必要收集會員國提供的國家實踐報告，並報告至歐盟層級，同時協助會員國報告其國家實踐。 （5）適用本草案之個人資料需遵守《歐盟一般資料保護規則》（GDPR）；由於智慧電錶符合終端設備的要求，也適用《電子通訊個人資料處理暨隱私權保護指令》（Directive 2002/58/EC）。
新加坡發布《無形資產揭露框架》，鼓勵企業主動揭露「無形資產」現況，以創造更高的價值新加坡政府於2023年9月4日發布《無形資產揭露框架》（Intangibles Disclosure Framework, IDF），鼓勵企業以系統化的方式，主動對外揭露所持有之「無形資產」（如品牌價值、專利等），使利害關係人（如投資者、合作夥伴等）能進一步瞭解其「無形資產」現況，藉此創造「無形資產」更高的價值。本框架是在「新加坡智慧財產局」（Intellectual Property Office of Singapore, IPOS）及「會計與企業管理局」（Accounting and Corporate Regulatory Authority, ACRA）主導下，由產業代表組成的工作小組歷時2年討論後制定發布。 框架中指出，過去20年間，全球「無形資產」的投資和所創造之價值逐步超過「有形資產」。然而，傳統會計準則往往無法完全真實反映企業所持有之「無形資產」價值，亦即「無形資產」價值往往被低估。因此，本框架鼓勵企業主動揭露，並建議可將「無形資產」現況納入公司年報（Annual Report）中，亦可獨立成一份報告，與公司財報（financial statements）一同發布。 此外，企業在揭露「無形資產」時可依循以下四項原則（簡稱「SIMM原則」）： 1.策略（Strategy）： 企業應揭露「無形資產」與其商業經營策略的關聯性、佈局狀況、貢獻度，使利害關係人瞭解企業是如何利用「無形資產」維持其競爭優勢及替投資者創造更多的收益。 2.識別（Identification）： 本框架指出「無形資產」不用侷限於傳統會計準則的定義，企業應揭露「無形資產」的性質和特徵（包含如何取得），並建議可將「無形資產」分類，如：（1）行銷類；（2）顧客類；（3）契約類；（4）藝術類；（5）技術類；（6）人力資源類。 3.衡量（Measurement）： 企業應揭露其評估（assess）「無形資產」價值的績效指標與驅動因子，並以量化方式呈現。如針對商標等「行銷類」之「無形資產」，企業得以顧客滿意度、國際品牌排名作為評估之績效指標。企業亦可選擇揭露「無形資產」的貨幣價值（monetary value），其評價應依照國際評價準則（International Valuation Standards , IVS）進行。 4.管理（Management）： 企業應揭露其如何識別、評估、管理與各類「無形資產」相關之風險與機會，以及如何將這些程序整合至企業整體風險管理策略中，以協助利害關係人瞭解企業「無形資產」所面臨之風險和機會。譬如企業應明確揭露監控相關風險之頻率、定期更新風險管理政策和程序等。 新加坡總理公署部長（Minister of Prime Minister's Office）Indranee Rajah表示，本框架是「新加坡智慧財產戰略」（Singapore IP Strategy 2030, SIPS 2030）的重要推動措施之一，企業若能主動揭露「無形資產」現況，將有助於將其「無形資產」商業化、吸引更多的投資、增進風險管理、提升企業競爭力，持續強化新加坡作為全球智財活動及交易樞紐的地位。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國聯邦貿易委員會 （FTC）「Non-Compete Clause Rule 」（禁止「競業禁止」條款）對於企業營業秘密保護的影響與建議.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 美國聯邦貿易委員會（Federal Trade Commission，下稱FTC）於2024年4月23日發布一項禁止「競業禁止」的最終規定「Non-Compete Clause Rule」（下稱FTC禁止「競業禁止」規定），近期關於該規定效力之相關訴訟引起美國各界廣泛的討論，有執業律師於2024年8月22日撰文提出企業面對該規定是否失效的不確定性，建議及早因應並加強營業秘密保護機制。 關於FTC禁止「競業禁止」規定，旨於美國境內禁止企業與離職員工簽訂競業禁止條款，該規定原預計將於2024年9月4日生效，生效後企業將不能再透過競業禁止約定作為營業秘密保護措施或訴訟上主張，而據FTC統計，約有3,000萬人（近五分之一的美國人）可能因此受到影響。然而2024年8月20日，「Ryan v. FTC」案中，美國德克薩斯州北區聯邦地區法院基於「認為FTC可能超越了其法定授權範圍以及規定過於寬泛」等原因，發布了一項全國性禁令，將導致FTC禁止「競業禁止」規定不會按計劃於2024年9月4日生效之效力，但FTC將會上訴。 對此，有相關實務界律師撰文指出，面對前述判決結果及各州的法規不一導致對於競業禁止條款仍有質疑的情況下，建議企業仍應及早因應並加強營業秘密保護機制，如： 1. 加入跨部門人員的協作：如熟悉企業營運過程中重要的關鍵競爭機密資訊的「業務與財務人員」、了解系統、流程管理之「資訊技術和安全」人員，以及與人員管理、教育訓練相關之「人力資源部門」等人員。 2. 建立合法的保護計畫：承上，該篇文章建議組織應藉由上述人員協助，檢視並強化落實以下機密（營業秘密）保護措施，包括： （1）營業秘密範圍確定：該篇文章提出企業應識別其機密（營業秘密）資訊，並篩選出最重要的類別。 （2）網路與環境設備管理：應確認企業（如：系統、設備、社交媒體等）政策是否足以保護不同類別的機密資訊，並符合法律（如：勞動法）要求，並重新檢視現行資訊安全機制之適當性，如網路安全策略及相關工具適用性、資訊洩漏風險點為何、目前權限管控合理性等。 （3）員工管理：該篇文章建議，企業需確認教育訓練實施，是否足夠向相關人員說明機密資訊和營業秘密對公司的重要性、是否納入對公司相關重要內容（如反壟斷法規的要求）；於工作安排上，企業可透過建立人員管理備援機制（即避免一個業務只由單一員工負責），避免業務連續性與資訊安全中斷；於現行企業之保密契約、禁止招攬條款（Non-Solicitation Agreements）、入職/離職契約等契約上，建議確認是否「合法、未過度限制員工、涵蓋所有競爭敏感資訊（如員工及相關客戶或供應商的敏感資訊），在可能適用的地區具有可執行性（法律效力）」等。 （4）外部活動管理：對於外部合作對象，如合作夥伴、競爭對手等，本文稱「勞動力競爭對手（Labor Competitors）」的互動，如資料提供、簽屬合約之合法性等。 綜上所述，競業禁止在國際上的適用性，可能因應機關、各州州法、訴訟等因素受到各種挑戰，導致訴訟上可主張的權利減少，因此執業律師更建議企業應及早審查現行機制並加強或建立營業秘密保護措施加強對於機密資訊的保護。本文建議企業可透過資策會科法所創意智財中心於2023年發布「營業秘密保護管理規範」十個單元（包括從最高管理階層角色開始的整體規劃建議、營業秘密範圍確定、營業秘密使用行為管理、員工管理、網路與環境設備管理、外部活動管理，甚至是後端的爭議處理機制，如何監督與改善等）檢視既有管理制度並因應趨勢變動，以PDCA管理循環方式調整精進管理以達到管控目的，建立扎實的企業營業秘密管理制度。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
德國向歐盟提交《人工智慧白皮書-歐洲卓越與信任概念》及《人工智慧，物聯網和機器人技術對安全和責任之影響報告》意見德國聯邦政府於2020年6月29日，針對歐盟執委會於2020年2月19日公布的《人工智慧白皮書-歐洲卓越與信任概念》(Weißbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen)及《人工智慧，物聯網和機器人技術對安全和責任之影響報告》(Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung) 提交意見，期能促進以負責任、公益導向、以人為本的人工智慧開發及使用行為，並同時提升歐盟的競爭力及創新能力。 歐盟執委會所發布的人工智慧的白皮書及人工智慧對安全和責任的影響報告，一方面可促進人工智慧使用，另一方面則藉此提醒相關風險。本次意見主要集結德國聯邦經濟與能源部、教育與研究部、勞動與社會事務部、內政、建築及社區部以及司法與消費者保護部之意見。德國政府表示，投資人工智慧為重要計畫之一，可確保未來的創新和競爭力，以及應對諸如COVID-19疫情等危機。最重要的是，可透過人工智慧的應用扶持中小型公司。然而在進行監管時，必須注意應促進技術發展而非抑制創新。 在《人工智會白皮書-歐洲卓越與信任概念》中指出，人工智慧發展應在充分尊重歐盟公民的價值觀和權利的前提下，實現AI的可信賴性和安全發展之政策抉擇，並於整體價值鏈中實現「卓越生態系統」（Ökosystem für Exzellenz），並建立適當獎勵機制，以加速採用AI技術為基礎之解決方案。未來歐洲AI監管框架將創建一個獨特的「信任生態系統」（Ökosystem für Vertrauen），並確保其能遵守歐盟法規，包括保護基本權利和消費者權益，尤其對於在歐盟營運且具有高風險的AI系統更應嚴格遵守。此外，應使公民有信心接受AI，並提供公司和公共組織使用AI進行創新之法律確定性。歐盟執委會將大力支持建立以人為本之AI開發方法，並考慮將AI專家小組制定的道德準則投入試行階段。德國政府指出，除了要制定並遵守歐洲AI的監管政策外，應特別注重保護人民之基本權，例如個人資料與隱私、消費者安全、資料自決權、職業自由、平等待遇等，並呼籲國際間應密切合作，運用人工智慧技術克服疫情、社會和生態永續性等挑戰。另外，德國政府亦支持將人工智慧測試中心與真實實驗室（監理沙盒場域）相結合，以助於加速企業實際運用，也將帶頭促進AI在公部門之運用。 在《人工智慧，物聯網和機器人技術對安全和責任之影響報告》中則指出，歐洲希望成為AI、IoT和機器人技術的領導者，將需要清楚、可預測的法律框架來應對技術的挑戰，包括明確的安全和責任框架，以確保消費者保護及企業合法性。AI、IoT和機器人技術等新數位技術的出現，將對產品安全性和責任方面出現新挑戰，而在當前的產品安全法規上，缺乏相關規範，特別是在一般產品的安全指令，機械指令，無線電設備指令等，未來將以一致地在各框架內針對不同法律進行調修。在責任方面，雖然原則上現有法令尚仍可應對新興技術，但人工智慧規模的的不斷變化和綜合影響，將可能增加對受害者提供賠償的困難度，導致不公平或效率低下的情形產生，為改善此一潛在不確定性，可考慮在歐盟層級調修產品責任指令和國家責任制度，以顧及不同AI應用所帶來的不同風險。德國政府除了支持歐盟作法，在創新與監管取得平衡，更強調應不斷檢視產品安全和產品責任法是否可滿足技術發展，尤其是對重要特定產業的要求，甚至修改舉證責任。並可透過標準化制定，加速人工智慧相關產品與服務的開發。另外，應依照風險高低擬定分類方法，並建議創建高風險AI系統之註冊與事故報告義務，以及相關數據保存、記錄及資料提供之義務，針對低風險AI應用則採自願認證制度。