落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
2015年1月6日，美國聯邦地區法官裁定，猴子用照相機自拍，猴子無法取得自拍照的著作權。 英國攝影師Slater在四年前，讓黑冠猴Naruto使用其相機，成功的拍出了罕見的黑冠猴自拍照；而攝影師Slater後來把這些自拍照收錄在出版書中，並同時在網路上公開，並獲得廣大迴響。但之後維基百科(Wikipedia)收進免費圖片資源中，供大眾免費下載使用，Slater認為則認為這些照片的著作權已經被英國官方認可屬於Slater所開設的公司，此認可應適用於全世界。惟美國著作權局在2014年最新政策中，認為著作權登記僅適用「人類作品」，據此Naruto之自拍照並不受著作權保障。 而善待動物組織PETA(People for the Ethical Treatment of Animals)組織也加入了著作權爭奪戰局，其認為由Naruto所拍攝自拍照，其著作權應屬於Naruto，但由於Naruto不懂如何行使權利，故由PETA代為管理著作權，相關收益均會用於保護黑冠猴，並且向舊金山聯邦法院提出告訴。美國聯邦法院則在2016年1月6日判決，目前著作權法仍未將保護範圍擴張至動物作品上，故Naruto並未擁有該自拍照著作權，自無PETA代掌著作權可能；PETA接獲判決後表示會提出上訴。
歐盟將開放乘客於境內的飛航行動通話服務歐洲委員會在2008.4.7做出2008/295/EC決議，表示近期將開放執照，讓在泛歐盟國家飛行的航機提供行動電話撥打服務（Mobile Communication Aircraft Service, MCA Service）；一但經過測試後，一些航班與行動通訊提供者計劃於年中以後提供相關服務。 目前歐洲委員會在2008.4.10做出2008/294/EC決議，決議內容主要為協調各系統間的支援設備相容性，以讓在飛機上撥打行動電話的政策能夠順利推行。除此之外，泛歐盟國家所自行制定的行動通訊規定，必須與該委員會的決議相符，以減低技術問題，讓乘客在飛機上可以使用自己的行動電話撥打電話、傳送文字訊息與收發e-mail。 依據歐盟委員會所制定的2008/295/EC決議，當飛機旅客使用航機行動通訊時，其所持有的行動電話設備，將先連接到所搭飛機上裝載的蜂巢網路，進而連結到衛星，再將訊號傳送到地面網路。這樣的傳輸方式將可減少飛航安全疑慮，同時能降低對地面通訊網路使用的干擾。 另外，歐盟資訊社會與媒體的委員Viviane Reding指出，此項新開放的業務雖然沒有就價格上限進行規定，但是主管機關會密切觀察市場運作的結果，並且要求收費透明公開化。
德國未來中型企業行動計畫 （Aktionsprogramm Zukunft Mittelstand）德國聯邦經濟暨能源部（Bundesministerium für Wirtshaft und Energie）、德國聯邦工業聯盟（Bundesverband der Deutschen Industrie）、德國工業與商務部（Deutsche Industrie- und Handelskammertag）及德國工藝中心（Zentralverband des Deutschen Handwerks）針對共同之目標擬定中型企業發展政策。該規劃於2015年7月23日柏林提出。該規劃重點為以下五個方針： 1. 企業精神培育（Gründergeist）： 自1995至2014年德國新創企業的成長銳減30％。為要克服此問題，應讓德國學童在學校時就有「創業家」此一職涯選項。年輕的新創企業需要持續提升與企業合作與互動，並給予創新之顧問補助，像是新創顧問諮詢上的服務（該計畫名稱為Gründer Coaching Deutschland）。針對目前已經成立之中小型企業，相關補助及服務將自2016年會提出。 2. 數位化進程（Digitalisierung）： 為提升中型企業的科學技術轉移，透過該計畫預計將在今年全德國新設立至5座技轉中心（Technologietransfer）。透過該中心，各個企業及工藝業者可得取有關產業面現狀發展、新興科技及商業模式的最新訊息，為讓其裝備成具數位化能力的業者。 3. 融資（Finanzierung）： 透過歐盟投資及歐洲復甦基金（ERP/EIF）新興政策之發佈，將注入50億歐元用於輔助快速成長、資本集中之企業，以3至4百萬歐元的幅度做補助。此透過與歐盟投資銀行共同聚集的資金，將於2015年提供給企業申請。此次融資政策係歐盟投資及歐洲復甦基金從10億提升至17億歐元。 4. 勞工支配（Fachkräfte）： 德國勞工的質量與優勢將透過「聯盟教育培訓計畫2015-2018（Allianz für Aus- und Weiterbildung 2015-2016）」做提升。每位年輕學子在就學期間，就應透過學校的輔助認清其就業路線，以助未來專業領域培訓及發展。「輔助中小型企業得取切合相關職業培訓及外來勞動力引入」補助計畫導入，目的亦係為讓德國勞動力更具優勢及競爭力。 5. 行政成本降低（Bürokratieabbau）： 透過減免官僚程序法（Bürokratieentlastungsgesetz）的導入，將針對未來企業會計、紀錄、統計數據公開及回報的要求進行修改。此一法的導入將可讓德國中型企業7.44億歐元行政成本的減免。為了讓新創企業能夠更容易的開始營運，政府部門亦將更進一步的與業者接觸互動並連結，輔助新創企業中遇到創業程序上的服務及指導。透過相關行政程序的電子化管理，將可讓德國及至歐盟透過該新的管理標準省去過多的行政成本，並優化創業流程。
美國參議院通過對開放政府資料（Open Government Data）政策法制化具指標性意義之「數位責任與透明法」（Digital Accountability and Transparency Act，DATA Act）草案美國參議院於2013年4月10日一致通過「數位責任與透明法」（Digital Accountability and Transparency Act，DATA Act）草案，現在續行送往眾議院審查。DATA 法草案目的在於使政府支出資料更為透明公開，且以得再利用的方式提供。該草案若通過，將建立使用聯邦基金（Federal funds）做支出或受資助的政府機關單位或其他實體財務資料的標準；擴展USAspending.gov網站含括上述資料，並要求聯邦政府以電子格式，自動化、標準化的方式公佈財務管理及採購相關資料，使公私部門便於近用與進行分析。目前草案版本內文並無規定資料特定格式的資料標準，但可得確定的是必須為被廣泛接受、非專有、可搜尋，且獨立於平台使用之電腦可判讀格式，以及可得一致適用於各機關單位之聯邦得標廠商與接受政府補助之實體的特殊標誌。 曾協助草擬2011年DATA法草案之「資料透明聯盟」（Data Transparency Coalition）執行長Hudson Hollister表示，DATA法草案把結構性的資料模式應用於聯邦政府支出時，將前所未有的激發責任與支出情況間的關係；同時，也將聯邦支出資料（federal spending information）轉化為開放政府支出資料（open spending data），成為強化民主治理與激發創新的重要公共資源。然而，由於DATA法草案所涉及的機關眾多，主要包括商務部（DOC）、財政部（DOT）、總務管理局（GSA），與預算管理辦公室（OMB），該法案通過後是否能落實，絕大部分還是取決於白宮是否會要求聯邦政府機關單位完整且迅速的遵循法律的構成要件。