落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
國土交通省於2023年5月12日公布「道路設置電動車充電設施指引」（電気自動車等用充電機器の道路上での設置に関するガイドライン，簡稱本指引），回應經濟產業省於2021年6月所公布「2050年伴隨碳中和之綠色成長戰略」（2050年カーボンニュートラルに伴うグリーン成長戦略），加速電動車充電設施建置，以達推動電動車普及之目的。依日本《道路法》第32條規定，在道路上或路邊設置充電設施，需向地方行政機關申請設置許可，故本指引整理機關審查時應注意事項，重點如下： 一、充電設施設置場所：應注意是否配合當地需求整合停車場，並應考量行人、自行車、車輛等之通行動線，避免影響用路人通行。 二、審查標準：審查時需注意充電設施本身與所在位置之安全性；申請人是否具備管理、維護充電設施之能力；充電設施是否提供不特定多數人使用；充電設施設置期間以5年為原則，期滿應回復原狀等。此外，若申請人係出於營利目的申請設置充電設施，應限於設置地點不會顯著影響交通或道路完整性，且可增進用路人便利等情形。 三、其他：為確認充電設施安全性，地方行政機關可額外要求申請人提出文件說明，但應避免造成申請人負擔。
新加坡交易所（SGX）正式推出SPAC上市框架由新加坡政府基金淡馬錫（Temasek）支持的「特殊目的收購公司」（Special Purpose Acquisition Company, SPAC）「Vertex Technology Acquisition Corp.」已於2022年1月20日在新交所掛牌上市，為首家在新加坡上市之SPAC。後續還有由國際發起人發起的「 Pegasus Asia」已於2022年1月21日上市，以及由新加坡基金 Novo Tellus Capital Partners 設立之「Novo Tellus Alpha Acquisition」於2022年1月27日上市。 由於美國2020年、2021年已有許多欲上市之公司採用SPAC制度上市，同時在美國紐約證券交易所（NYSE）及那斯達克（Nasdaq）均獲得巨大的成功，因此各國交易所開始摩拳擦掌，紛紛著手修正上市規則允許SPAC制度以吸引優良企業。 新加坡交易所（SGX）最初於2021年3月底時發布SPAC上市框架諮詢文件，並於同年9月2日公布該諮詢文件之回覆意見及結論，並同時修正主板上市規則，允許SPAC於同年9月3日在新加坡主板上市。 SGX說明超過80名受訪者（包含金融機構、投資銀行、私募股權和風險投資基金、企業、一般投資人、律師、會計師和其他利益相關者）回覆SPAC上市框架諮詢文件，該回覆率為近年來之最高，可見SPAC制度之熱潮。 新加坡SPAC上市框架規定SPAC公司須符合以下條件： SPAC公司須至少擁有1.5億新加坡幣市值； SPAC公司須於IPO後24個月內完成收購未上市公司，僅於符合特定條件下最多再延長12個月； SPAC公司收購未上市公司時，需經過50%以上獨立董事同意及50%以上獨立股東同意； 所有獨立股東均享有異議股東股份收買請求權； 贊助人需至少認購IPO發行股份／認股權證總額之2.5%-3.5%（具體比例將依據SPAC公司市值判斷） 於IPO後至SPAC公司收購未上市公司前，禁止贊助人讓售所持有之股份 後續新加坡SPAC發展及併購值得繼續觀察。
德國2015年12月3日通過數位健康法(e-Health Gesetz)德國聯邦議會於2015年12月3日通過「健康制度安全數位通訊與應用法」 (下稱數位健康法，Gesetz für sichere digitale Kommunikation und Anwendungen im Gesundheitswesen, e-Health-Gesetz)，本法無須經過聯邦參議院同意，最快將於2016 年初生效。 該法係以患者的權益和隱私為中心而制定。其中安全的數位基礎設施將改善健康照護、加強病患的自我決定權。數位健康法要求於全德範圍內，從2016 年中期開始至 2018年中，依法定之資訊技術基礎設施的時間表引進相關技術與設施，在醫療診所和醫院之間全面進行電信基礎設施的連結。 本法案要點摘要如下: • 最新一代的主資料管理（Stammdatenmanagement） (被保險人主資料（Versichertenstammdaten）的測試及更新) 將提供醫生最新資料和防止醫療給付濫用。這個數位健康卡第一個線上應用，將在2018 年中全面引進。而 2018 年 7 月 1 日起未參加線上被保險人主資料驗證之醫生，其補貼亦將削減。 • 醫療用緊急資料（Notfalldaten）應從 2018 年開始依被保險人意願在數位健康卡上儲存，以避免危險藥物的交互作用。因此，從2016 年 10 月開始，使用三種以上藥物患者，將收到藥物治療計畫（Medikationsplan）。而藥劑師自始即有義務在被保險人變更處方時更新之。從 2018 年開始，用藥計畫可以以電子傳輸方式從數位健康卡卡中檢索。 • 數位健康法將促進電子病歷（Arztbriefe）的推動。病患可以對其主治者告知其最重要的健康資料，並以數位資料形式儲存使用。另外，病患的權益和自主決定是本法重點，患者不僅可自行決定何種醫療資料應以卡片儲存，並可決定誰有權查閱。病患亦得提取卡片中儲存之資料。如血糖測量值、從可穿戴裝置或隨身手圈所量測的資料。 • 為提倡遠距醫療（Telemedizin），從 2017 年4 月開始遠距 x 光診斷評估和從 2017年7 月起，線上視訊諮詢時段納入醫療合約給付中。使病患更易獲取醫療訊息，同時在預後諮詢和監控諮詢中亦能得到醫療服務。 • 為進入遠端醫療時代，必須確保各種 IT 系統可以進行溝通，故須在 2017 年 6 月 30 日前提出互通性指引（Interoperabilitätsverzeichnis），使衛生部門不同的 IT 系統所採用的標準簡明化。 • 智慧手機和其他行動裝置使用健康APP已漸普及，到 2016 年底前應確認，被保險人是否可以使用相關設備來行使他們的醫療資料存取權限以及資料是否能夠相互連結進行傳輸。
日本第52次知的財產戰略本部會議決議—推動著作權資訊橫向跨域查找平台日本第52次知的財產戰略本部會議決議—推動著作權資訊橫向跨域查找平台 資訊工業策進會科技法律研究所 2023年09月01日 創作內容的流通利用是發揮文化經濟力的核心關鍵，但數位時代的來臨，造成內容流通利用面臨創作資訊分散難找、權利歸屬識別困難，以致內容無法有效利用的問題。此問題並非個別企業、機構可以解決，而需要政府出面橋接既有創作資料庫，匯集散落於各處的內容創作資料及創作人資訊。 壹、事件摘要 日本岸田首相於2023年6月9日在官邸召開第52次知的財產戰略本部會議，針對「知的財產推進計畫2023」進行討論並決定[1]。日本基於為了活化日本的創新並實現持續的經濟增長，將社會轉變為最大限度發揮知的財產價值的社會的目的，提出2023知的財產推進計畫的三大重點，包括：第一，強化新創企業和大學的知的財產生態系統，透過新創企業等管道迅速實現大學研究成果的社會應用循環；第二，促進負責任和可信賴的AI，兼顧促進AI技術應用和維持知的財產創造的激勵，同時對風險採取必要的措施；第三，發揮內容產業力量推動內容產業的強化和結構改革，進行政府和民間的合作促進內容創作；從促進內容的創作和使用循環的角度出發，建立簡單而統一的權利處理窗口機構，並推進跨領域的權利資訊搜索系統的建立。 貳、重點說明 目前網路上的業餘創作者等創作的內容越來越多，但此類內容使用的可行性因權利者資訊不明確，造成獲得許可所需的成本過高，成為便利的數位時代造成的不便利後遺症。日本「知的財産推進計畫」於2022即已針對著作權制度進行改革方向，開始推動實現簡單且一體化的權利處理，加速內容的流通和創作者的報酬回饋，力圖實現簡潔統一的權利處理制度，以促進內容的「創作」和「利用」循環[2]。 日本注意到隨著內容的主要流通轉向網絡播送，對於業者而言，實現內容差異化，包括對留在手上的播送內容檔案再利用，對強化競爭至關重要。但涉及多個權利持有人的內容，其權利處理成為取得授權的瓶頸，導致內容的利用無法推進。基於簡便化權利處理和報酬支付的政策想法，日本於今（2023）年提出修改著作權法，創建新的作品使用法定授權申請制度，並在同年5月修改法案獲得通過[3]。依據此新通過的授權申請制度，日本文化廳可以針對未授權集體管理或權利人提供利用意願不明的著作，裁定可由利用人支付補償金以順利實現對這些作品於特定時間內的利用。 除建立授權意願不明的利用授權法令依據外，日本亦擬在實務上建立配套機制，即透過數位化、一體化的流程設計，規劃建立能夠跨領域尋找著作權資料的資料庫，以利確認權利資訊和使用許可的意願表示。而針對橫向跨域的權利資訊資料庫的構建，日本特別成立研究小組，於2022年12月「跨域權利資訊資料庫研究報告」。該報告提出連接各領域資料庫來檢索資訊的「領域橫向權利資訊檢索系統」的規劃。依該規劃，日本文化廳將與保有各領域資料庫的相關利害關係人合作，推進系統的設計和開發在新著作權法的實施期間，建立並運營「領域橫向權利資訊檢索系統」，以連接各領域資料庫[4]。 該系統將力求實現數位化程度最高的設計，除了與各領域資料庫連接外，還將包括設置統一的窗口組織來執行新的授權利機制，設法使未在現有資料庫中收錄的內容（如僅在網絡上創作的內容、未集中管理的著作等）能夠順利登錄，並提供確認權利資訊和使用許可意願表示的功能。為了簡化流程和加快速度，這些窗口組織（機構）將由經文化廳長官認可的單位擔任，負責申請受理、審議確認和(應支付的使用)報酬審定等程序。另外，對於擬取得無期限的授權使用的利用人，可以利用不明著作授權制度，並可透過這些窗口組織簡化相關授權程序[5]。 參、事件評析 日本已考慮到數位時代的資訊變化速度，認為應該在著作權制度和相關政策改革方面，推動公私協力尋找權利者、確認使用可行性的合作，規劃建立跨領域權利資訊檢索系統，以利最大限度地實現新裁定授權制度的簡化和迅速處理，以實現其戰略綱領持續著力的內容「創作」和「利用」循環的加速。 而促進內容「創作」和「利用」循環加速的做法，日本不只是建立法令依據，是透過資訊科技與認證適格單位，用完整而全面性的配套措施進行推動。顯見日本已注意到資訊科技可以降低、便利權利資訊的登錄，讓權利人不會因為登錄作業麻煩而意願欠缺；而與既有資料的串接，則可在不會喪失保有各自資料庫的保障下，快速建立資料完整的檢索查詢平台。因此日本預計2023年將首先確定要優先合作的資料庫、研究合作方式、建立檢索介面的概念；同時對未集中管理的著作等內容的權利資訊登記方法進行需求調查和探討，預計於2024年度將研析該系統應具備的細部功能規格[6]。 而既有除了系統工具外，為促進新的權利處理制度的實現，由於資料分散在不同地方，相較於單一的官方登錄或受理平台，多元的受理窗口更能便利的登錄、受理做法，日本考慮與數位/網路出版等網上內容流通的中介者共同協作，更能以適應數位時代的速度為基礎與先進技術的應用，順利實現新制度的準備和持續營運。 我國原創文化內容的流通利用面臨與日本智財戰略綱領相同的議題，也已經在文化部的計畫支持下建置「文化內容流通利用服務網（Copyright Hub）」受理著作的自主登錄與權利資訊查詢，同時規劃透過認證、指定的方式，建立類似日本智財戰略綱領規劃的多元登錄受理代理窗口，與既有內容平台或特定文創領域專業法人合作，以利串接大量既有資訊；並預計逐步於文創獎補助中納入登錄著作權利資訊的要求，以促進資訊的完整。 然本次文創法送立法院修法的草案，並未納入原已新增的流通利用草案條文，不僅欠缺日本賦予的授權機制，以及資料庫、認證適格窗口的推動法令依據，也無法立即促成獎補助中納入登錄著作權利資訊的要求。我國「文化內容流通利用服務網（Copyright Hub）」早於日本起步，期待即便無法如同日本建立法令依據，亦可在文創獎補助連結的加持下快速推展，讓我國文化內容的流通利用推動持續領先，成為其他國家之參考標竿。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]〈知的財産戦略本部総理の一日〉，首相官邸ホームページ，令和5年6月9日，https://www.kantei.go.jp/jp/101_kishida/actions/202306/09chizai.html。 [2]〈知的財産推進計畫2023〉，頁77，https://www.kantei.go.jp/jp/singi/titeki2/230609/siryou2.pdf （最後瀏覽日：2023/08/22）。 [3]〈令和5年通常国会 著作権法改正について〉，文化庁，https://www.bunka.go.jp/seisaku/chosakuken/hokaisei/r05_hokaisei/ (最後瀏覽日：2023/08/22）。 [4]同前註2。 [5]同前註2，頁78。 [6]同前註2，頁78。