落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【2023科技法制變革論壇】AI生成時代所帶動的ChatGPT法制與產業新趨勢
- 製造業及技術服務業個資保護及資安落實－經濟部工業局112年企業個人資料保護暨資訊安全宣導說明會
- 【已額滿】2023科技研發法制推廣活動—科專個資及反詐騙實務講座
- 供應鏈資安國際法制與政策趨勢分享會
- 「跨域數位協作與管理」講座活動
- 新創採購-政府新創應用分享會
- 【實體】數位發展部數位經濟相關產業個資安維辦法說明會（南部場）
- 【線上】數位發展部數位經濟相關產業個資安維辦法說明會（南部場）
- 【線上場】113年「新創採購機制及鼓勵照護機構參與推動」說明會
- 【北部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【南部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 商業服務業個資保護宣導說明會
- 113年新創採購-照護機構獎勵說明會
- 【南部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【北部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【中部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【實體】2024科技研發法制推廣活動— 科專個資及反詐騙實務講座
- 【直播】2024科技研發法制推廣活動— 科專個資及反詐騙實務講座
- 【臺北場】113年度新創採購-招標作業廠商說明會
- 【臺中場】113年度新創採購-招標作業廠商說明會
- 【高雄場】113年度新創採購-招標作業廠商說明會
- 數位發展部數位產業署113年資訊服務業者個資安維辦法宣導說明會
- 電商零售業法制宣導說明會暨產學研座談會
- 數位海盜時代來臨–抵禦海上資安威脅的實踐與挑戰
- 零售業個資保護宣導暨座談會
- 零售業個資保護及資訊安全教育講習
- 零售業個資保護及資訊安全教育講習
為強化中草藥現代化，保障民眾用藥安全，行政院衛生署自民國 93 年起提出「建構中藥用藥安全環境五年計畫」，中醫藥委員會主委林宜信最近並表示，將在 2008 年前，強制全台所有飲片及傳統藥材做好符合規定的包裝及標示，標示內容包括檢驗文號、有效期限，包裝後則需符合 GMP 的規範；至於規範標準，預計會在 2008 年起推動，初期採取廠商自由心證的做法，但未來會改為強制執行。 國內中草藥可區分為科學濃縮製劑，以及傳統的飲片和傳統劑型，科學濃縮製劑透過中醫醫療院所流通，目前產值約 250 億元；一般藥店販售的飲片及傳統劑型，產值則有 300 億元以上。傳統中草藥做好包裝標示，可確保民眾用藥安全，並帶動傳統中草藥品牌加值，而要求包裝標示符合 GMO 規範，也有利進入國際市場。中醫藥委員會預估，中草藥強制包裝標示可提升中草藥產值，由 300 億元倍數成長到 1,000 億元以上的規模。
英國資訊委員辦公室提醒消費者下載手機應用程式時需謹慎英國資訊委員辦公室（Information Commissioner’s Office，簡稱 ICO）在2013年聖誕節前夕，呼籲消費者在聖誕節或其他重要節日使用行動裝置下載app應用程式時，需特別注意個人資料之保護，以防止遭受惡意攻擊而導致個人資料外洩。因為根據相關資料顯示，光是2012年聖誕節當天，即有32億8000萬個app應用程式被消費者下載使用。從ICO公布的ㄧ項調查結果中發現，有62%的app使用者，關心app供應商會透過何種方式使用他們的個人資料；此外，有49%的app使用者，會因為隱私權問題而拒絕下載使用app應用程式。 為提升消費者個人資料保護意識，降低個資外洩事件發生，並促進app產業於當地之發展，ICO提供下列5項使用要點：1.只下載官方或備受信賴app商店所提供之app應用程式，盡量避免使用來源不明之app應用程式；2.下載app應用程式前，應詳細閱讀該app所公告之相關資訊，並確認願意提供相關資料作為後續可能之使用；3.養成定期移除不需要之app應用程式的好習慣，降低資料外洩可能；4建議安裝手機防毒軟體或相關程式，協助並確保手機之安全性；5.於手機轉售、丟棄或回收之前，將手機恢復成「原廠設定」之狀態，以確保手機不會留下任何個人相關之資訊。ICO期以透過使用要點之提供，協助消費者於享受app應用程式之樂趣時，仍能確保個人資料行蹤之掌握，以達個人資料之保護。
英國將以NHS基因體醫學服務續行十萬基因體計畫英國政府所提出的「10萬基因體計畫（100,000 Genomes Project）」將於2018年底達成目標，而將以NHS基因體醫學服務（NHS Genomic Medicine Service）作為續行計畫，以促進個人化醫療的發展。 NHS基因體醫療服務的目的在於促進罕見疾病與癌症的診斷以及患者治療的效率，並預期在未來5年達到五百萬組基因定序，以提供具備全面性（comprehensive）以及公正性（equitable）的基因檢測。為達此目的，NHS基因體醫療服務包含5個主要內涵：連結基因體研究中心以成立國家基因體實驗室服務（national genomic laboratory service）、新的國家基因體實驗室檢測文庫（new National Genomic Test Directory）、全基因體定序的相關規範，並與英國基因體公司（Genomic England）合作開發資訊基礎設施（informatics infrastructure）、臨床基因體醫學服務（clinical genomics medicine services）以及發展基因體醫學中心服務（Genomic Medicine Centre service）、NHS負擔統合性的監管職責。 在以NHS基因體醫療服務作為續行計畫的狀況下，若合格的研發人員欲以患者的基因資料進行新藥或是新治療方式的開發需事先取得患者的同意。另外，從2019年開始，全基因定序將被納入特定患者的治療過程中，如罹患特定罕見疾病或具有治癒困難性的成年患者以及所有患有嚴重疾病的孩童患者，以加速疾病的診斷以及減少侵入性治療的次數。
日本閣議通過《特定數位平台之透明性及公正性提升法案》，以改善電商交易環境日本閣議通過《特定數位平台之透明性及公正性提升法案》，以改善電商交易環境 資訊工業策進會科技法律研究所 2020年05月11日 日本內閣於2020年2月18日通過《特定數位平台之透明性及公正性提升法案》（特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案），並提交國會，期望能在2021年春季施行[1]。本法案將要求特定數位平台（Digital Platform）業者公開其與透過平台供應商品或服務者之間的契約等各項措施，以提高特定數位平台的透明性與公正性，透過推動公平且自由的競爭環境，為促進經濟發展和國民經濟的健全發展做出貢獻。 壹、事件摘要 近年來資通訊技術領域的革命性進展，讓數位平台有效幫助商品與服務供應者更易於進入各商品或服務市場，如大型網路商城透過蒐集分析用戶的購買紀錄、商品瀏覽紀錄、搜尋關鍵字紀錄、位置資訊等，能夠更精準投放廣告至消費者的搜尋頁面，增加賣家商品或服務的曝光機會，減輕新手賣家觸及潛在消費者的負擔。賣家越多、越容易搜尋到所需商品或服務，甚至能同時推薦優惠組合的網路商城，能夠提高消費者的黏著度，賣家對該平台也會更加依賴，使得數位平台產業成為寡占市場。 面對數位平台市場的寡占現象，日本政府於2018年6月15日公布之《未來投資戰略2018》中說明擬透過整備規則以活化競爭環境，因此經濟產業省、總務省及公平交易委員於同年7月組成「數位平台業者交易環境整備檢討會」（デジタル・プラットフォーマーを巡る取引環境整備に関する検討会），將以實現透明性及公正性為目的，進行相關規範之整備，並規劃進行大規模調查，藉此掌握實際交易狀況[2]。 因此公平交易委員會（公正取引委員会）於2019年1月針對大型網路購物商城，如Amazon、Yahoo Shopping、樂天市場等，以及應用程式商店，即App Store、Google Play展開「數位平台業者之交易習慣等相關實態調查」。根據同年4月17日公布的上開調查中間報告（デジタル・プラットフォーマーの取引慣行等に関する実態調査についての中間報告），使用樂天市場及Amazon的賣家中，各有超過72%的賣家被平台單方變更使用條款，且各有超過69%的賣家認為使用條款的改變對其不利，三大網路商城中只有Yahoo Shopping的表現稍佳；大多數的賣家都遇過不明原因被停權或商品被下架的情形，但其中僅有約一半的賣家在解決問題後能夠再上架[3]。應用程式商店方面的調查結果也大同小異[4]。同年10月31日公布的調查報告印證數位平台業者的「未提前說明即變更條款」或「未說明理由即拒絕交易」等行為，以及商品與服務供應者聯繫客服提出意見、申請等機制不夠完善，均有妨礙市場透明性和公正性之疑慮[5]。除此之外，也恐有《獨占禁止法》（私的独占の禁止及び公正取引の確保に関する法律，又稱「独占禁止法」）上不公平競爭之疑慮，如數位平台業者透過變更使用條款提高手續費、強制使用平台新服務等行為，可能適用《獨占禁止法》第2條第9項第5款濫用相對優勢地位之要件；此外，若數位平台業者自行推出與該平台其他賣家同類的商品及服務，由於數位平台業者可得知賣家銷售紀錄、消費者交易紀錄等資訊，容易推出更加吸引消費者的優惠活動，亦可透過更改關鍵字及顯示結果排序等方式，取得較其他賣家優勢之地位，可能適用《獨占禁止法》第2條第9項第5款阻礙競爭對手交易之要件。 除上述狀況外，實務上亦存在其他問題。例如，平台上之賣家因依賴平台且意欲獲取消費者關注，此時面對數位平台業者種種不公平行為，如單方面變更使用條款，或針對相同商品或服務，要求賣家必須設定與其他平台相同或更加優惠價格，賣家多會選擇接受而非改換使用其他數位平台。另一方面，應用程式商店的寡占現象，反倒成為App開發者拓展用戶的一大阻力[6]。 為使數位平台業者自主且積極地提高數位平台上交易透明度與公正性，日本政府認為應在不阻礙創新及尊重自主性的原則下，制定要求數位平台業者公開交易條款、營運狀況等資訊之法規，並進行監督和審查[7]。因此由內閣官房長官主導，與主責IT政策、網路安全戰略、消費者與食品安全、公平交易、個人資料保護等之大臣，以及總務大臣、經濟產業大臣，共同召開數位市場競爭會議（デジタル市場競争会議），根據前述實態調查報告所統整的各項課題，研擬《特定數位平台之透明性及公正性提升法案》[8]。 貳、重點說明 提高數位平台的交易透明度與公正性，除能增進用戶利益，亦有助於提升整體經濟社會活力及永續發展，因此本法案從讓數位平台業者自主且積極提升數位平台透明性與公正性出發，將國家的干預及其他管制的影響降到最低，旨在使數位平台業者可充分發揮其創意及努力，並促進數位平台業者和商品與服務供應者的相互理解[9]。 本法案的規範對象為「特定數位平台業者」（特定デジタルプラットフォーム提供者），數位平台業者係指使用數位科技為「商品與服務供應者」（商品等提供利用者）及「一般利用者」提供網路平台，且其服務具網路效應（Network Effect）的特性[10]。未來法案通過後，經濟產業大臣會先參考來自數位平台的資訊，透過政令區分行業別，並在該業種的範圍內考量各項指標，諸如該數位平台對國民生活及國民影響程度、用戶對該數位平台的使用集中程度、根據交易實際狀況及動向判斷保護商品與服務供應者的必要性、商品與服務供應者對該數位平台其他規範及措施之反應、營業額等。若一數位平台的上述指標超出政令所規定之範圍，經濟產業大臣會將該數位平台之業者指定為「特定數位平台業者」，即特別應盡力提升其數位平台透明性及公正性者[11]。另外，經濟產業大臣在制定或修正政令所需之範圍內，得要求數位平台業者，甚至是商品與服務供應者提出所需資料及說明[12]。 為協助特定數位平台業者採取適當且有效的措施，以促進和商品與服務供應者的相互理解，依本法案規定經濟產業大臣應制定指針供業者遵循，內容中則應說明以下事項︰建立可和商品與服務供應者妥善溝通之機制，如指派國內業務的專責窗口；制定可確保交易公正性的程序及機制；整備爭端處理機制及程序[13]。在交易條件等資訊公開方面，本法案規定特定數位平台業者有義務向用戶公開契約條款且變更條款前應先通知用戶，並規定因安全等理由而無法公開的例外情形[14]。本法案也規定特定數位平台業者應每年向經濟產業大臣提出報告，內容應包含其事業概況，以及自我評估前述指針、資訊公開等規定的遵循狀況，經濟產業大臣會依業者提供之報告進行評定並公布結果，業者則應依該評估結果盡力提高該數位平台的透明性及公正性[15]。 另外，對於有阻礙數位平台的透明性和公正性之行為，以及違反獨占禁止法疑慮之特定數位平台業者，則會交由公平交易委員會依該法之規定及個案具體事實採取措施[16]。 參、事件評析 本法案之制定源於數位平台業者和商品與服務供應者間由於資訊、立場不對等而引發紛爭，但本法案並未選擇從保護賣家權益立場出發，而是期望由業者採取自主措施等方式，達到提升數位平台市場透明性和公正性，以消弭紛爭之目的。又，雖然本法案有由政府評估並公布特定數位平台之營運是否具備透明性及公正性之規定，但該評估是基於特定數位平台業者提出之「自我評估」報告，故官方評估結果是否具實質參考意義有待商榷。 綜觀而言，本法案並未嚴格規範數位平台業者，對應法案內有關增進用戶利益和提升整體經濟社會活力等語，可發現本法案本質上應為一部振興數位平台產業的法案，故是否真能解決平台和商品與服務供應者間因資訊不對等而引發糾紛的問題，將是未來關注的焦點。 我國對網購糾紛之討論主要聚焦於買賣雙方，依循的是「零售業等網路交易定型化契約應記載及不得記載事項」及《消費者保護法》等規範，對於數位平台業者和商品與服務供應者間之權利義務關係則尚未有明確規範。在數位平台業者的透明性規範方面，目前僅有2017年11月20日通過之《數位通訊傳播法草案》，於第11及第12條規範數位通訊傳播服務提供者[17]應以適當方式，公開揭露營業相關資訊，並應依其服務之性質，以得清楚辨識之方式公告其服務使用條款。從規範平台業者之角度出發，雖然日本法令看來稍嫌寬鬆，但從促進產業發展角度而言，不啻為重要參考對象，有助我國在相關法制整備上，於數位經濟產業發展與保障平台用戶權益間取得平衡。 [1]日本經濟新聞，〈巨大IT支配に監視の目 議論進むデジタル規制〉，2020/05/06，https://www.nikkei.com/article/DGXMZO58702670R00C20A5947M00/（最後瀏覽日：2020/05/06）。 [2]〈(令和元年10月31日)デジタル・プラットフォーマーの取引慣行等に関する実態調査(オンラインモール・アプリストアにおける事業者間取引)について〉，公正取引委員会，https://www.jftc.go.jp/houdou/pressrelease/2019/oct/191031_2.html（最後瀏覽日：2020/03/22）。 [3]〈オンラインモール運営事業者の取引実態に関するアンケート調査（詳細）〉，公正取引委員会，https://www.jftc.go.jp/houdou/pressrelease/2019/apr/kyokusou/190417besshi1.pdf（最後瀏覽日：2020/05/19）。 [4]〈アプリストア運営事業者の取引実態に関するアンケート調査（詳細）〉，公正取引委員会，https://www.jftc.go.jp/houdou/pressrelease/2019/apr/kyokusou/190417besshi2.pdf（最後瀏覽日：2020/05/19）。 [5]〈デジタル・プラットフォーマーの取引慣行等に関する実態調査報告書（オンラインモール・アプリストアにおける事業者間取引）（概要）〉，公正取引委員会，https://www.jftc.go.jp/houdou/pressrelease/2019/oct/191031c.pdf（最後瀏覽日：2020/03/22）。 [6]同前註。 [7]〈デジタル市場のルール整備〉，首相官邸，https://www.kantei.go.jp/jp/singi/digitalmarket/kyosokaigi/dai1/siryou1.pdf（最後瀏覽日：2020/03/22）。 [8]〈「デジタル・プラットフォーマー取引透明化法案（仮称）の方向性」に関する意見募集に寄せられた御意見について〉，首相官邸，https://www.kantei.go.jp/jp/singi/digitalmarket/kyosokaigi/dai3/sankou1.pdf（最後瀏覽日：2020/03/22）。 [9]〈「特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案」が閣議決定されました〉，経済産業省，https://www.meti.go.jp/press/2019/02/20200218001/20200218001.html（最後瀏覽日：2020/03/22）。 [10]〈特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案の概要〉，経済産業省，https://www.meti.go.jp/press/2019/02/20200218001/20200218001-1.pdf（最後瀏覽日：2020/05/18）。 [11]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案（第201回閣法第23号）第2条、第4条。 [12]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第15条。 [13]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第7条、第8条。 [14]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第5条、第6条。 [15]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第9条。 [16]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第13条。 [17]依數位通訊傳播法草案第二條之規定，數位通訊傳播服務提供者係指提供公眾或他人使用有線、無線、衛星或其他電子傳輸設施傳送數位格式之聲音、影像、文字、數據或其他訊息的服務之自然人、商號、法人或團體。