落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
歐盟部長理事會(Council of Ministers)已跟隨歐洲議會腳步，通過對「GSM 指令」(Global System for Mobile Communications Directive)進行修改的提案，准許電信營運商在900 MHz頻段上提供UMTS服務（3G通訊技術之一，可向下相容GSM與GPRS），例如WCDMA通訊架構可於900 MHz上運用。這項決議仍須經過歐盟各會員國國會和監督機構認可，預計2009年10月開始實施。 原先指令在1987年所提出，將900 MHz和1800 MHz頻段劃歸GSM手機專用，此作法有效促進GSM產業的蓬勃發展。修改該指令的提案，則是允許讓900 MHz頻段在繼續供GSM服務使用的同時，也開放給行動上網等更高速的泛歐洲通訊服務。預估將能大幅降低電信營運商網路建制成本，可減少大約16億歐元的支出。 據歐盟電信委員會Viviane Reding委員表示，GSM Directive的修訂，將為行動通訊業者解除限制，並因此能在GSM頻段上建置更先進的技術，以提供高速行動寬頻服務；她預期這將有效促進歐洲的無線經濟(wireless economy)，並催生「數位歐洲」(Digital Europe)的誕生。相關發展值得台灣電信通訊產業注意。
日本公平交易委員會公布資料市場競爭政策檢討會報告書，提出建構資料市場公平競爭環境之政策建議日本公平交易委員會（公正取引委員会）於2021年6月25日發布關於資料市場競爭政策檢討會（データ市場に係る競争政策に関する検討会）報告書。所謂資料市場，不僅指資料從產出、蒐集、整理儲存（蓄積）、加工、分析到利用等各階段的交易，尚包含向終端使用者提供相關商品或服務。其類型包含企業經營所產出的「產業資料」（産業データ），以及與個人相關的「個人資料」（personal data，原文為パーソナルデータ）。近年來，數位平台型業者參與資料市場、活用資料經營相關商業活動的情形漸增。同時，資料不同於傳統交易客體，具備以下特徵：（1）技術上容易複製；（2）無法建立排他性佔有；（3）需透過累積與解析方能創造其價值；（4）可藉由累積使用資料持續優化產品機能。而累積大量資料的數位平台業者，亦可能藉此形成獨占、寡占、排除其他競爭者等。 基此，本報告書針對此一競爭秩序現況，提出以下建議： 建構鼓勵新業者加入資料市場的機制：應充分考量各潛在參與者之需求，同時留意利用資料之事業退出市場經營時，不應對使用該事業服務的個人造成不利益。 針對產出資料之行為建立獎勵機制，同時促進業界自由且易於取用資料。 區分各企業經營共通事項之協調領域、以及企業間各自專業化經營之競爭領域。就前者提供共通性指引與開放行政保有資料供利用，對後者則須管制妨害公平競爭之行為。 確保資料可攜性，與不同系統間的互通性（interoperability，原文為インターオペラビリティ），讓使用者容易轉換其所利用的平台服務。 優化關於個資利用的說明義務內容，尤其針對平台在不知情下蒐集資料的情形，應額外規範業者採取相應配套措施，避免造成當事人不利益。 就數位平台形成的市場寡占與資料獨占蒐集問題，可考量採取令其他業者能公平取用資料之措施。
創投有限合夥依產創草案第23條之1適用前後差異創投有限合夥依產創草案第23條之1適用前後差異 資策會科技法律研究所 法律研究員 盧藝汎 106年05月22日 壹、背景說明 因創投業、電影、舞台劇等非採行永續經營模式的產業，不適宜採現行公司組織，為鼓勵資金得以挹注前開事業[1]，立法院於104年6月三讀通過「有限合夥法」[2]。惟法案通過後至今，查經濟部有限合夥資料查詢網站，目前僅有九間有限合夥，其中「德商達佐有限合夥台灣分支機構」及「德商斯德博傳動技術有限合夥台灣分支機構」為外國有限合夥於台灣設立之分支機構，其餘七間公司有影音產業或資訊服務業，並無任何創業投資事業採用，實屬可惜[3]。 事實上，國外針對有限合夥組織此種型態組織，稅制上設有相關配套措施，如美國法採取稅捐轉付（pass through，另有稱此為單層課稅）、德國則稱穿透原則（Transparenzprinzip），其二者名稱雖有異，惟核心思想均係將有限合夥營利所得歸屬於合夥人之所得[4]。然我國在有限合夥法通過後，財政部發布函釋指出，因現行法制賦予有限合夥組織獨立法人格，應比照營利事業課徵營利事業所得稅[5]。爰此，為落實有限合夥法鼓勵新創之立法目的，行政院提出產業創新條例第23條之1草案（下稱草案），引進外國法「穿透課稅原則」，即不對有限合夥組織課徵營利事業所得稅，待有限合夥組織營利所得各合夥人時，對各合夥人課徵所得稅，期待鼓勵創業投資事業採用有限合夥組織，加強對新創事業之投資。 貳、新設立有限合夥組織之創業投資事業適用穿透課稅原則 一、要件及其適用效果 (一)要件 依照草案第23條之1第3項之規定新設立有限合夥組織之創業投資事業適用「穿透課稅原則」應具備下列要件： 自中華民國一百零六年一月一日起至一百零八年十二月三十一日止設立之有限合夥組織之創業投資事業。 設立起五年度約定出資總額、實收出資總額、累積投資新創事業公司之金額限制。 合夥契約約定出資總額 實收出資總額 累積投資新創公司金額 設立當年度 3億元 ✕ ✕ 第二年度 ✕ ✕ 第三年度 1億元 ✕ 第四年度 2億元 達該事業當年度實收出資總額百分之三十或新臺幣三億元。 第五年度 3億元 資金運用於我國境內及投資於實際營運活動在我國境內之外國公司金額合計達其當年度實收出資總額50%。 符合政府政策。 中央主管機關逐年核定。 (二)效果 依照草案第23條之1第3項規定適用之效果如下： 有限合夥組織之創業投資事業免納營利事業所得稅。 有限合夥組織之合夥人獲盈餘分配時依下列方式課稅： (1) 國內外之個人合夥人及營利事業合夥人盈餘分配比例依所得稅法徵免。 (2) 個人合夥人及國外營利事業合夥人就有限合夥分配證券交易所得部分免納所得稅。 二、採穿透課稅原則後與原稅捐制度之效益分析 Ａ國內個人、Ｂ國內營利事業、Ｃ國外營利事業共同設立甲有限合夥組織之創業投資事業，三人的盈餘分配分別為10%、80%及10%，而甲結算之盈餘為100萬元（屬證券交易所得為80萬及非屬證券交易所得為20萬）。試問甲與Ａ、Ｂ、Ｃ應繳多少所得稅？ (一)草案修正前適用所得稅法 甲有限合夥之創業投資事業 應繳納營利事業所得稅＝(100萬元(盈餘)-50萬[6])×12%(稅率)[7]＝6萬 Ａ國內個人 應申報綜所稅營利所得＝（100萬元－6萬）×10%(甲開立憑單淨額予Ａ)＋6萬÷2×10% (可扣抵稅額)＝9.7萬元 營利所得應納稅額＝9.15萬元×5%(稅率)＝0.485萬元 實際繳的所得稅＝0.485萬-6萬÷2×10% (可扣抵稅額) ＝0.1485萬元 Ｂ國內營利事業 所得稅法第42條，獲配之股利淨額或盈餘淨額，不計入所得額課稅。 Ｃ國外營利事業 就源扣繳＝(100萬元-6萬元)×10%(盈餘分配率)×20%(就源扣繳率)＝1.88萬元 (二)草案修正後採行穿透課稅 甲有限合夥之創業投資事業 不計入所得稅。 Ａ國內個人 應納之稅額＝80萬元（非屬證券交易所得之分配）×10%(盈餘配率)×5%(綜合所得稅率)＝0.1萬元 Ｂ國內營利事業 所得稅法第42條，獲配之股利淨額或盈餘淨額，不計入所得額課稅。 Ｃ國外營利事業 就源扣繳＝80萬元（非屬證券交易所得之分配）×10%(盈餘配率)×20%(就源扣繳率)＝0.4萬元 依照上面的案例，新設立有限合夥組織之創業投資事業在盈餘分配條件相同且同一課稅主體稅率相同之情形下，有限合夥組織及期股東採穿透課稅原則享受的稅捐較為優惠： 修正前 修正後 創投有限合夥組織 6萬 不計入 股 東 國內個人 0.185萬 0.1萬 國內營利事業 不計入 不計入 國外營利事業 1.88萬 0.4萬 小 計 8.065萬 0.5萬 參、結論 有限合夥採行穿透課稅原則後，相較採行公司制之課稅，可大幅減少稅捐負擔。同時，考慮到美國稅法（IRC）針對公司稅負，要求符合S章之公司，便可採行「稅捐轉付」即直接歸戶，以股東所得為課稅客體[8]；德國則針對人合性商業組織之營利事業，採取「穿透原則」，得逕自認定屬組織成員所得[9]等立法例下，產創草案第23條之1使創投事業有限合夥組織得採取穿透課稅，與外國法接軌並突破現行所得稅之稅制，殊值肯定。 [1] 立法院公報第104卷第51期，頁325。網址：http://misq.ly.gov.tw/MISQ//IQuery/misq5000Action.action [2] 新制商業組織與有限合夥立法週年的觀察，《月旦民商法雜誌》第54期，廖大穎，頁42，’ [3] 經濟部－有限合夥登記資料查詢。網址：http://gcis.nat.gov.tw/lmpub/lms/dir.jsp?showgcislocation=true&agencycode=allbf [4] 同前揭註2，頁51~頁52。 [5] 參財政部104年12月18日台財稅字第10400636640號函釋。 [6] 基本稅額條例第8條第1項前段。 [7] 基本稅額條例第8條第1項後段。 [8] 有限合夥立法之研究，東吳大學法學院碩士論文，吳宗曄，頁95~頁96。 [9] 參前揭註2，頁52。
眾議員提出新法以因應數位科技轉換產生的權利保護問題為避免數位科技轉換所可能發生的權利保護缺口，美國眾議院司法委員會主席 James Sensenbrenner Jr. 與議員 John Conyers 於本月 16 日共同提出了「 Digital Transition Content Security Act 」（ DTCSA ， H.R.4569 ），要求業者應在次世代的數位影像製品中加入反盜版技術。該草案的提出，無疑地為飽受盜版所苦的好萊塢注入一劑強心針。 原本可受到著作權法保護的數位內容，一旦由數位轉換為類比（ analog ）形式，再由類比轉換回數位後，其品質上雖稍受影響，但此一新的數位內容即不再受著作權法的保障，眾議員 John Conyers 將之稱為「類比漏洞」（ analog hole ）， DTCSA 的提出即在於因應此一棘手問題。未來草案若能順利通過，除非業者能提出有效阻斷違法複製的策略，否則在一年緩衝期過後，業者凡有製造或販售可將類比影像訊號轉換為數位訊號之設備，均將被宣布為違法。可能因此受到影響者，包括了電腦調頻器（ PC-based tuner ）與數位錄影機（ digital video recorder ）等。 全美電影協會（ MPAA ）對此新法大表歡迎，主席 Dan Glickman 認為 DTCSA 的提出，不僅保護了權利人，同時也將提供消費者更多的選擇。但另一方面，在 DTCSA 賦予商業部（ Commerce Department ）更大的權力以監視家電製造業者之下，草案無可避免地將遭致來自業者一方強大的反彈力量。