落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
2014年8月，美國國際貿易委員會（USITC）發布「美國與全球經濟體之數位貿易」政策報告，該報告係應美國國會參議院財政委員會（Senate Committee on Finance）之要求所進行之調查，期能夠深入了解數位貿易（Digital Trade）在美國與全球經濟體之間的發展，無論係透過網際網路（Internet）所進行之在地化商業行為抑或國際貿易，能夠有效指認出阻礙美國進入全球數位貿易市場之阻礙。 報告指出，數位貿易當有助於整體經濟之正面發展，例如促進通訊、加快商業交易、增進資訊近取，並能夠增進中小企業之市場機會。然而，根據所回收之調查數據顯示，目前存在著影響國際間數位貿易若干法制障礙，分別為：在地化的要求（localization requirements）、市場進入的限制（market access limitations）、資料隱私與保護規範要求(data privacy and protection requirements)、智慧財產權侵害(IPR infringement)、不確定之法律責任(uncertain legal liability)、公部門網路管制(censorship)，以及在地消費者之不同要求(compliance with customs requirements)。 然而，報告也指出十項對於企業與消費者的新機會: 第一，在內容產業，將有助於扶持獨立的創作者；第二，在旅遊與住宿產業，可促進更佳的利用率；第三，網際網路有助降低求職摩擦，降低失業率；第四，增進線上服務之合作與整合，例如應用軟體介面經濟面之貢獻；第五，保險產業界運用巨量資料分析帶動之創新發展；第六，透過M2M通訊，改善製造流程；第七，農業界之數位創新；第八，網路使用者之資料蒐集，在隱私權考量與相關正面效益間取得平衡；第九，增進美國網路公司之全球競爭力；第十，促進中小企業之出口。 因此，對於欲進軍全球聯網市場之我國資通訊高科技業者來說，應當留意相關之法制障礙，遵循不同國家之法律規範，掌握聯網新興科技所帶動之下一波龐大商機。
汽車經銷公司營業秘密案顯示，僅資安手段不足以構成營業秘密的保密措施本文參照2025年3月21日紐約東區地方法院的Superb Motors Inc. v. Deo一案，提醒企業：在數位化與資料外洩風險日增的時代，即使資訊具有高度價值，若僅採取防火牆（Firewall）、帳號密碼之技術手段，而未採取具體之書面規範或契約之營業秘密保密措施者，法院仍可能認定不足以符合營業秘密之合理保密措施要件。 本案源於2023年8月16日，Superb汽車經銷公司控訴前股東Deo離開公司後，擅自使用其客戶名單與核心系統Dealer Management System（下稱DMS），協助競爭對手拓展業務、挖角員工，並導致前公司客戶流失。Superb公司主張，公司投入逾12萬美元整合DMS系統，且以150萬美元的廣告與行銷策略蒐集並以多年經驗建構完整的客戶資料庫，屬於具競爭優勢的關鍵資產。 法院認為，Superb公司僅以防火牆、帳號密碼限制資訊存取，期待員工自發性保密，而未提供任何形式的保密協議或明確政策文件，此舉不足以構成合理保密之手段。法院認為，營業秘密保護法所要求的保密措施，需具備可執行的契約條款，例如：保密協議或公司內部保密政策規範。 為助於訴訟舉證、減少因人力流動可能發生的資料外洩風險，企業不能僅依賴科技工具，而應積極主動地搭配企業政策與契約等法律文件。參考美國實務，建議企業採取下列營業秘密管理作法： 1.與有權接觸敏感資訊之員工、顧問簽訂保密協議，且企業應定期檢視與修訂保密條款，以確保條款符合最新的勞動法相關要求並具備可執行性。 2.建立公司內部保密制度與定期教育訓練，以確保員工理解公司要求之保密義務。 本案顯示出法院對「營業秘密合理保密措施」認定的標準，不僅留意保密技術複雜性，更著重於企業採取的保密措施（如保密契約）是否具有法律上的拘束力。 資策會科法所創意智財中心於2023年發布之「營業秘密保護管理規範」已涵蓋前述美國實務建議之管理作法，我國企業如欲精進系統化的營業秘密管理作法，可以參考此規範。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
德國聯邦資料保護暨資訊自由官聲明病人資料保護法恐違反GDPR德國聯邦資料保護暨資訊自由官（Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit,BfDI）Ulrich Kelber教授於2020年8月19日指出，2020年7月3日甫由德國議會通過的病人資料保護法（Gesetz zum Schutz elektronischer Patientendaten in der Telematikinfrastruktur; Patientendaten- Schutzgesetz, PDSG），恐違反歐盟一般資料保護規則（GDPR）。 該法規定自2021年起，健康保險業者必須向被保險人（病人），提供電子病歷（ePA）。而自2022年起，病人有權要求醫生將病人相關資料記錄於電子病歷，包括健檢結果、醫學報告或X光片、預防接種卡、孕婦手冊、兒童體檢手冊、牙科保健手冊等，而被保險人更換健康保險業者時，可要求移轉其電子病歷至新的健保公司。另外，2021年起將可透過手機，下載電子處方並至藥局領取處方藥。2022年1月1日起，將全面強制使用電子處方，病人將可透過智慧手機或平板電腦，決定他人對於電子病歷之近用權限。病人若無手機，可至健保公司查看電子病歷。依照規劃，目前電子病歷的使用仍採自願性。病人可決定保存或刪除哪些資料，以及誰可以近用該文件。自2023年起，被保險人可自願提供電子病歷資料作為研究用途，而因上述研究可處理病人資料之醫師、診所和藥劑師等，有義務確保其資料安全。 BfDI於立法過程中多次強調，在導入電子病歷使用時，病人必須可完全控制自己的資料。而該法規範僅提供病人使用部分設備，例如智慧手機或平板電腦，設定其電子病歷之存取權限，此意謂著將有一段空窗期，病人無法決定其電子病歷中各文件之存取權限。而對於電子病歷中，可否僅開放部分資料供瀏覽或存取，亦受到聯邦資料保護暨資訊自由官質疑。另外，對於無法或不想在手機或平板電腦上使用上述功能的人，本法並未進一步規定，亦即2022年起，上述病人為了能夠檢查或接受醫療，必須強迫病人控制其相關資料，但目前顯然尚缺乏相關配套。此外，以資料保護角度而言，目前電子病歷之認證程序有安全疑慮，尤其是未使用電子健康卡的替代驗證程序尚不夠嚴謹，因此命令相關單位應於2021年5月前完成改善。 電子病歷是對醫療保健改善的重要一步，因此相關健康資料保護需要符合GDPR規範水平。電子病歷雖已逐漸受到認可與重視，惟當前病人資料保護法恐無法完全保護病人資料安全。因此，BfDI將透過監管手段，確保健康保險公司不會因提供電子病歷而違反GDPR。
歐盟法院法務官建議歐盟法院駁回有關德國乾酪商標之決議案歐盟法院法務官Jan Mazak建議歐盟法院駁回有關歐盟委員會否決對德國'Parmeggiano Reggiano' 為用於代表乾酪之商標名稱決議案。 歐盟委員會認為歐盟立法例對於有關地理名稱之保護應適用於’Parmesan Cheese’ 之商標案，委員會認為Parmesan Cheese 為地理名稱標示，係指出產於義大利之乾酪，故不得為商標名稱。因此，在德國即使是相類似之乾酪亦不允許標示為 ’Parmesan Cheese’。 德國抗辯縱使Parmigiano Reggiano應被予以保護，但單獨使用Parmigiano則應為通用名稱而不應予以限制；縱使Parmigiano 本身應被保護不得專用，但是和Parmesan兩者相比較係為不同字，不論是在德國或是歐盟各國都應被歸納為通用名稱，而應准予使用。 法務官認為，德國未證明Parmesan已成為通用名稱；而委員會未說明為何在德國Parmigiano Reggiano 或Parmesan係等同為乾酪地理來源標示。特別是，自10月正式通知本案爭議程序後，委員會亦未顯示任何其他事證得證明Parmigiano Reggiano有任何商標侵權案例之前案，故建議歐盟法院駁回本件歐盟委員會決議案。