落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
2018年英國頒布電子通訊之網路與資訊系統規則（The Network and Information Systems Regulations 2018），該規則實施歐盟2016年網路與資訊系統安全指令（Network and Information Security Directive, NIS Directive）。該規則分成幾個部分，第一部分是介紹性條文，例如介紹網路及資訊系統之定義：「（a）2003年通訊法（Communications Act 2003）第32條第1項所指的電子通訊網路；（b）一組或多組互聯或相關設備，其中之設備或程序根據程式自動化處理數位資料；（c）為操作、使用、保護和維護目的，由（a）或（b）款所涵蓋的儲存、處理、檢索或傳輸的數位資料。」 第二部分是英國政府相關組織架構規定，包括網路及資訊系統的國家政策（The NIS national strategy）、國家權責機關的指定（Designation of national competent authorities）、單一聯絡點的指定（Designation of the single point of contact）、電腦安全事件應變小組的指定（Designation of computer security incident response team）、執行機關的資訊分享（Information sharing–enforcement authorities）、北愛爾蘭的資訊分享（Information sharing–Northern Ireland）。 第三部分則是基本服務營運商（類似於我國的關鍵基礎設施營運商）與其職責，包括基本服務營運商的確定、營運權廢止、基本服務營運商的安全維護職責、事故通報的責任等。根據第8條第1項之規定，如果營運商提供本規則附表2所載明的基本服務（包括電力、石油、天然氣、航空運輸、船務運輸、鐵路運輸、公路運輸、醫療健康、數位基礎設施等），並且符合基本服務一定門檻要求者，則該廠商即被視為基本服務營運商（operator of an essential service, OES）。舉例而言，規章之附表2第1項載明，營運商提供電力供應之基本服務者，其一定門檻要求包括：若營運商位於英國，符合「為英國國內超過25萬名消費者提供電力服務」或「輸電系統的發電量大於或等於2 gigawatts」之條件者，該營運商即為基本服務營運商（OES）；若營運商位於北愛爾蘭，則應「依據北愛爾蘭1992年的電力法規命令取得供電執照」，且「為北愛爾蘭境內超過8千名消費者提供電力服務」，或符合「發電量大於或等於350 megawatts」等條件，則該營運商即為基本服務營運商（OES）。 再者，若營運商符合第8條第3項所列之條件，則可由主管機關指定為基本服務營運商（OES）。此外，主管機關可根據第9條撤銷基本服務營運商（OES）的認定，基本服務營運商（OES）必須履行第10條規定的安全維護責任，並對於第11條規定的事件負有事故通報的責任。 第四部分則是數位服務，包括相關數位服務提供者、成員國跨境合作與行動、向資訊專門委員進行登記（Registration with the Information Commissioner）、資訊通知（Information notices）、檢查權限、違反義務之強制執行、裁罰、對行政機關裁罰決定之獨立審查、罰鍰之執行、費用、裁罰程序、執法行為的一般考量因素、審查與報告。
科羅拉多州議會通過《重大決策領域之自動化決策技術法案》，擬取代《人工智慧消費者保護法》科羅拉多州參議院於 2026 年 5 月 7 日三讀通過 SB26-189《重大決策領域之自動化決策技術法案》（A Bill for an Act Concerning the Use of Automated Decision Making Technology in Consequential Decisions，以下簡稱 ADMT 法案），隨後於 5 月 9 日獲眾議院表決通過。本法已於5月14日經州長簽署，預計將於 2027 年 1 月 1 日起生效施行： （一）核心規範：自動化決策技術 本草案僅就涉及個人權利具有「重大決策」（Consequential Decisions）影響之自動化決策技術，其應用領域包括：教育、就業、住宅、金融貸款服務、保險、醫療保健服務，以及必要之政府服務。顯示出科羅拉多州意在針對可能引發系統性偏見、歧視或實質損害之高風險領域加強保障消費者。 （二）開發者與部署者義務 1. 開發者之資訊揭露義務： 開發者必須向部署者提供詳盡之技術文件，其內容應涵蓋模型預期用途、訓練資料特性、已知之技術侷限、適當使用說明及人工審核指引。此外，若技術發生重大更新，開發者須即時通知下游，並保留相關記錄至少3年，以備法遵查核。 2. 部署者之消費者保護義務： 須在消費者與AI互動時提供「清晰且顯著」之告知義務外，若產生不利結果，必須在30日內以淺白語言向消費者說明該技術於決策中所扮演之角色。此外，部署者也須保障消費者的救濟權利，包含須建立錯誤資料更正流程，並確保消費者在面臨不利決定時，有權請求「具意義之人工審核」（Meaningful Human Review）。與開發者相同，部署者亦須履行至少3年之記錄保留義務。 本法案之提出，其用意在取代2024年《科羅拉多州AI消費者保護法案》（Consumer Protections for Artificial Intelligence Act，SB24-205）。於法制層面而言，監管重心由「高風險人工智慧系統」（High-Risk AI Systems）轉向監管應用於重大決策領域之「自動化決策技術」（ADMT）。此變化反映出美國立法趨勢可能由廣義的技術風險管理，逐步調整為自動化決策工具對公民權益實質影響之精準規範。
法學新論：從產業全球化佈局觀點論我國研發成果管理之法制政策 中國大陸知識產權局知識發展研究中心於2014年發布2013年度中國大陸全國智慧財產權發展報告知識發展研究中心於今年2014年第二次發布整體中國大陸智慧財產權的發展指標數，該單位往後將持續觀察深入研究並提供報告指標，以反應中國大陸於專利、商標、著作權等智慧財產權的發展狀況，以利引導國家智慧財產權戰略實施，進一步強化推動國家於智慧財產權事業與科技創新研發發展。 報告顯示，中國大陸知識產權局綜合發展指數在2013年有增加趨勢，不論在創造、運用、保護或環境等四項發展指數上，皆有穩定成長趨勢。報告中除地區特徵顯示出智慧財產權的發展與完備外，穩定的數據更突顯整體智慧財產權環境的完善。從世界排名第一的受理發明專利申請82.5萬件、受理通過PCT提交國際專利申請案2.2924萬件、連續12年居世界第一受理商標註冊申請共188.15萬件，以及首度突破百件著作權登記案等，顯示出中國大陸在智慧財產權的整體保護與落實推動。 另外，中國大陸知識產權局不斷在擴大智慧財產權的保護，由2012年至2013年共提升了1.79，侵害假冒偽劣案件上，執法移送與審判起訴案件皆有所成長，顯示出中國大陸對智慧財產權的保護重視與落實。尤其，在整體智慧財產權環境提升與優化上，指標顯示出由2012年至2013年明顯上升5.97，主要是專責服務機構、人員購置的逐年增加與穩定成長之因，亦使智慧財產權整體環境營造有優化、加速與強化的提升。