落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
- 美國聯網車監管制度與合規實務說明會
法國書商聯盟(Syndicat de la librairie française),於2004年一月對美國知名電子商務業者-「亞馬遜網路書店」(Amazon.com)所提出之違法書籍折扣及低於售價的訴訟，法國法院於今年十二月初做出裁定。該法院命令Amazon.com應於收到判決十天內對於所售出之書籍開始收取運費，否則必須受到每天一千歐元的罰款至該公司停止該不收取運費之行為止。同時該判決亦命令，Amazon.com應支付給原告書商聯盟十萬歐元的損害賠償金。 法國政府對於零售價格之法律規定十分嚴格，尤其對於書籍的零售。在法國，商家利用「價格犧牲」(Loss-Leaders)的促銷方式或其他低於產品價格的方式吸引顧客係為違法之行為；因此該國法律規定，關於書籍的零售商依法必須不得以低於出版商建議售價百分之五的價格出售書籍。Amazon.com所提供之折扣已經超過法國法律所規定之上限，故法國書商聯盟為保障其會員之權益，特別對該網站提出訴訟，以保護獨立小型書店之營運。Amazon.com尚未對上開判決發表正式的官方意見。
美國 FCC 公布「衛星補充涵蓋」監理架構，持續向「未來單一網路」的政策願景邁進美國聯邦通訊委員會（Federal Communications Commission, FCC）於2024年3月14日通過「衛星補充涵蓋（Supplemental Coverage from Space, SCS）」的監理架構，未來將增修聯邦法規電信專章（Title 47 of Code of Federal Regulation）開放600 MHz、700MHz、800 MHz、1800MHz中部分頻段及AWS H-block（1915-1920 /1995-2000 MHz），容許衛星通訊業者向地面行動通訊業者租用頻譜提供SCS服務。 SCS能讓用戶透過手機等既有的行動通訊終端接收衛星訊號，如Starlink目前正與T-mobile合作試驗，透過其第二代低軌衛星提供的手機直連（Direct to Cell）服務，能大幅延伸地面行動通訊系統的涵蓋區域。但為了最大程度防止有害干擾，FCC劃出6個獨立地理區域（Geographically Independent Area, GIA），地面行動通訊業者若要將頻譜出租予衛星通訊業者，除出租頻率需屬於SCS頻段外，還必須在一個GIA內擁有所有與出租頻率同頻的所有執照（all co-channel licenses），而衛星通訊業者僅能基於頻率租用協議，在該GIA內以次級使用的方式提供SCS服務。 雖然2023年底於杜拜落幕的世界無線通訊大會（WRC-23）才剛決議（Resolution com6/9 WRC-23）把「研究指配新頻率供衛星直接與地面行動通訊終端連接，以補充地面行動通訊的涵蓋範圍」納入WRC-27的議程項目 (Agenda Item 1.13 WRC-27)，FCC就搶先開放SCS頻段，但表示會積極參與國際研究與活動，確保在國際電信聯盟（International Telecommunication Union, ITU）的無線電規則（Radio Regulation）下建立的SCS相關國際監理機制能取得重大進展，並隨著SCS市場的發展逐步開放能夠運用的頻段與應用場景，期能充分發揮衛星通訊與地面行動通訊整合的效益，互補不易涵蓋的區域並無縫銜接，達成「未來單一網路」（Single Network Future）的政策願景。
因應京都議定書 1500家企業須揭露環境資訊經濟部將在近日研商成立「輔導推動委員會」，至遲在今年底、明年初推動環境資訊揭露制度。根據經濟部初步規劃，「企業環境資訊揭露」制度，將先鎖定京都議定書溫室氣體減量規範，要求企業揭露 CO2 排放量盤查資訊及減量努力與目標，並鎖定「環境數據」、「社會責任」及「環境活動」三方面，要求企業說明因應 CO2 減量的努力情形。 「環境資訊揭露制度」將依是否上市櫃及企業規模，要求不同程度的資訊揭露。上市公司，列為「義務性揭露」，必須將「環境資訊」列入重大訊息予以公開揭露；營業額達 1 億元以上的企業及上櫃、興櫃公司，屬「自願性揭露」，以漸進的方式，在該機制實施後二年內達到「完整環境資訊揭露」；中小企業則採取「鼓勵性揭露」。 今年 5 月間，證期局為保障國內投資人，曾強制 972 家電子電機上市櫃公司，以「重大訊息」說明公司因應歐盟有毒物質禁用指令（ RoHS ）的情形，此一要求僅為「環保支出」之資訊，並未要求說明未來因應對策及可能支出。故經濟部希望透過「環境資訊揭露」制度的建立，讓企業從被動提報「環保支出」，提升到主動揭露「環境資訊」，並逐漸建立企業環境會計制度，因應國際環保趨勢。
美伊利諾最高法院判決：醫療服務提供者例外不受生物資訊隱私法保護美國伊利諾州伊利諾最高法院（Illinois Supreme Court）於2023年11月30日對Mosby v. The Ingalls Memorial Hospital et al.案做出判決：認定符合聯邦法規健康保險流通與責任法（Health Insurance Portability and Accountability Act, HIPAA）規定，基於「治療、付款或健康照護運作」之前提下，除病患外即使是醫療服務提供者的生物識別資訊被蒐集、利用或揭露，同樣不受伊利諾州生物資訊隱私法（Biometric Information Privacy Act, BIPA）的保護。 伊利諾州現行以BIPA對蒐集或保留任何個人的生物識別資訊（如虹膜、聲紋、指紋或生物樣本等）做了較為嚴格的限制，原則上這些資訊不能在未經當事人同意的情況下被蒐集、利用或揭露。除非是1.由醫療保健機構從患者身上蒐集的生物識別資訊；或2.根據HIPAA規定，基於進行治療、付款或健康照護運作的前提來蒐集、使用或儲存的生物識別資訊，才可例外免經當事人同意（biometric identifiers do not include information captured from a patient in a health care setting or information collected, used, or stored for health care treatment, payment, or operations under the federal HIPAA.）。然而，基於進行治療、付款或健康照護運作的前提，資料主體除接受治療或健康照護的病患外，是否涵蓋醫療服務提供者（如醫護人員），則有疑義。 本案因醫院的護理人員認為醫療院所未經同意，使用帶有指紋掃描功能的藥品櫃，來蒐集、使用或儲存了他們的生物識別資訊，因此提起訴訟。伊利諾州的地方法院和巡迴上訴法院於本案均支持原告提出的主張。然而，伊利諾州最高法院審理時則透過文義解釋以及條文結構分析之方式，認為立法者係有意於例外規定中重複使用「資訊」一詞，兩次「資訊」之內涵應有不同。故前段的資訊係指患者的資訊，而後段的資訊來源則應包含了醫療照護提供者，方符合立法者真意。 生物識別資訊風險較高，過去被認為需要取得當事人積極同意授權；於本案中伊利諾州最高法院權衡認為基於「治療、付款或健康照護運作」情境下，如本案情形係用來確保醫藥品被正確分配給需要的患者，因此對患者以外的醫療人員隱私權做出限制符合例外規定。本案揭示了個資隱私得為合理利用的情境之一，然而HIPAA對於資料傳輸較寬鬆的規範會否又與資料保護的趨勢有所違背，仍須持續關注相關案例發展。