落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
Ofcom致力落實歐盟推動的「高速寬頻」（Superfast Broadband）發展，讓英國在2015年成為全歐洲寬頻發展最為優秀的國家，故於近期重新檢視固網市場的管制架構，促使資通訊市場健全發展。其中，今年7月Ofcom針對「加速超高速寬頻競爭」與「銅絞線網路批發價」(copper network)提出新的諮詢（Consultation），以加速基礎建設投資與提高市場競爭，讓消費者取得合理資、通訊服務。 在加速超高速寬頻市場競爭上，Ofcom除了要求Openreach面對其他競爭者要求協助安裝、維修BT的網路時，必須加快速度與品質外，BT與其他網路業者所簽訂的「批發契約」（Wholesale Contract），時限亦從現行1年縮短至1個月，以增加公平性。除此之外，消費者目前在更換高速寬頻業者時，新業者皆須付Openreach 50歐元轉換費，但這筆費用卻通常轉嫁至消費者，故Ofcom未來將降其至10~15歐元，降低民眾負擔。Ofcom這次要求BT合理化服務品質與費用，摒棄對光纖租用進行價格管制，其原因在於BT確實受到Virgin Media與其他業者的競爭、以及防範管制後BT不願再進行鋪設光纖之可能。這種透過降低消費者轉換網路服務業者之門檻，促進高速寬頻普及的方式是否可行，則須待進一步的觀察。 另一方面，在銅絞線的批發價上，Ofcom依據固網接取市場諮詢(Fixed Access Market Review Consultation)之結果，證明BT在寬頻市場仍具有顯著市場力量(Significant market power)，故將對銅絞線批發價重新審議。目前，Ofcom在批發服務之價格上限，將透過消費者物價指數（Consumer price Index ,CPI）取代過去的零售物價指數（Retail Price Index , RPI），讓全迴路（Fully unbundled line）、分享式迴路（Shared unbundled line），或是批發線路出租（wholesale line rental）之接取費用皆可降低，讓消費者可獲得更為合理的價格。 Ofcom於今年10月提出年度「基礎設施報告」（Infrastructure Report update）。其中，在固網建設的發展上，無論是高速寬頻使用度、或是網路總流量，皆較2012年成長。因此，Ofcom是否可透過降低銅絞線的批發價、以及降低消費者轉換服務業者門檻的方式，提升高速寬頻涵蓋率與網路品質，讓消費者的需求得以滿足，將是英國資通訊環境未來發展的關鍵。
銜接實體與虛擬的新票據交換制度－美國二十一世紀支票交換法 FDA發佈「拒絕接受510(K)審查申請之政策」指導文件草案醫療器材在美國上市所需依循的途徑，為申請510(k)審查或上市前審查(Premarket Approval, PMA)。順序上第一步，必須在90天前向美國食品藥物管理局(U.S. Food and Drug Administration, FDA)提出「上市前通知」(Premarket Notification, PMN)申請。所謂的510(K)，係指美國《食品、藥物及化妝品法》(Federal Food, Drug, and Cosmetic Act, FD&C Act)第510節之規定，在申請的流程中，FDA會審查廠商所提出的佐證，是否具備與已上市的相同器材一樣之「實質相等性」(Substantial Equivalence)，若不具備「實質相等性」，即必須進入PMA申請程序。 FDA指出過往機關接受許多不適當的501(K)審查申請，而必須要求這些不適當的申請廠商進一步補充文件，以進行實質審查。FDA指出這樣的程序，進行過度頻繁的審查，而浪費不少寶貴的資源及人力。FDA於2012年8月10發佈「拒絕接受510(K)審查申請之政策」指導文件草案。作為改善與加強501(K)申請流程之效率與有效性。新的指導文件草案之改善目標，係要求廠商必須提出傳統(Traditional)、特殊(Special)、簡略(Abbreviated)三種不同的申請所需之審查文件，FDA會先進行審查文件是否具備的預先審核，始進行實質審查。廠商必須依照指導文件草案內含的核對表(Checklist)所規定必須提交之審查文件，FDA有15天的時間回應廠商是否完成繳交，或要求廠商在新的15天之內補件，而承認 (Acceptance)形式審查完備，始進行實質審查。廠商亦可針對缺繳之文件，說明不提供之理由，並提出相關證明。指導文件草案提供以下幾個準則，提供審查機關審視核對表完備與否： 該產品是否為器材； 該項申請之對象是否正確； 是否為適當合法510(k)申請； 是否有相同的器材經PMA程序核准上市； 所提出的臨床數據，申請者是否受限於「申請規範政策」(Application Integrity Policy, AIP)。 FDA透過這樣預先審查之方式，檢視廠商所提出之申請，是否符合形式的要件，而決定是否進行實質審查，以避免浪費行政機關的資源與人力進行不適當的審查，希冀改善FDA目前501(k)審查申請制度之效率與有效性。
荷蘭公司控《中國好聲音》商標侵權，索賠300萬北京法院於2016年3月17日開始審理關於「夢想強音文化傳播有限公司」和「北京正議天下文化傳媒公司」未經授權使用荷蘭Talpa公司商標一案。 Talpa公司主要業務為開發、製作電視節目模式，〈The Voice of〉是該公司開發的一款歌唱比賽真人秀電視節目模式，為該公司知名產品。Talpa已向中國、澳州、美國、歐盟等在內約70個國家，註冊了「The Voice of 」商標，商標圖示為一隻手拿麥克風之圖像。 《中國好聲音》製作單位於2012年向荷蘭Talpa 買下節目模式與商標圖示，用以製作音樂真人秀《中國好聲音》；今年Talpa並未與其續約，故《中國好聲音》製作單位未取得Talpa公司商標專用權。 惟負責《中國好聲音》第五季海選活動之夢想強音文化傳播公司和北京正議天下文化傳媒公司，在好聲音全國海選活動與宣傳中，大量使用與Talpa註冊商標幾乎相同的圖形及文字；Talpa公司認為，此為類似商品上使用與註冊商標相同或近似商標行為，已造成消費者混淆，依中國大陸人民共和國商標法第57條，構成侵害商標專用權。據此，Talpa公司要求上開兩間公司立即停止商標侵權行為，並要求登報道歉與連帶賠償律師費、公證費、翻譯費及各項損失300萬元。 本文同步刊登於TIPS網站(http://www.tips.org.tw)