落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
日本通過科學技術基本法等修正案，將創新與人文科技發展納為規範對象 資訊工業策進會科技法律研究所 2020年12月10日 日本國會於2020年6月24日通過由內閣府提出的「科學技術基本法等修正案」（科学技術基本法等の一部を改正する法律）[1]，為整合修正科學技術基本法、科學技術與創新創造活性化法（科学技術・イノベーション創出の活性化に関する法律，下稱科技創新活性化法）等法律之包裹式法案。其旨在新增創新與人文科學相關科技發展目標，將之列入基本法。並因應此一立法目的調整，修正科技創新活性化法，增訂大學、研發法人出資與產業共同研究途徑，同時調整中小企業技術革新制度之補助規範。 壹、背景目的 日本內閣府轄下之整合科學技術與創新會議（総合科学技術・イノベーション会議）於2019年11月公布的「整合提振科學技術與創新目標下之科學技術基本法願景（科学技術・イノベーション創出の総合的な振興に向けた科学技術基本法等の在り方について）」報告書提出，科學技術與創新之議題高度影響人類與社會的願景，而近年聚焦之重點，則在於全球化、數位化、AI與生命科學之發展。該報告書並進一步揭示了科學技術基本法的修訂方向[2]：（1）納入「創新創造」（イノベーション創出）之概念；（2）自相互協力的觀點，併同振興自然學科與人文學科之科學技術發展；（3）允許大學與研發法人以自身收入資助具特定創新需求、或發展新創事業之外部人士或組織；（4）從鼓勵創新創造的角度，調適建構中小企業技術革新制度。 基於該報告書之決議要旨，內閣府於2020年3月10日向國會提出本次法律修正案，並於同年6月24日正式公告修正通過[3]。公告指出，AI、IoT等科學技術與創新活動的急遽發展，造就了人類社會推動願景和科技創新密不可分的現況。因之，本次修法除將人文科學項目納入基本法科學技術振興的範疇內，亦意圖落實同步推動科學技術及創新創造振興之政策構想，建構具整合性且二者並重發展的法制環境。 貳、內容摘要 本包裹式法案主要修正科學技術基本法與科技創新活性化法。首先，本次修正並列創新與科技發展為科學技術基本法規範主軸，因之，將該法更名為「科學技術與創新基本法」（科学技術・イノベーション基本法，下稱科技創新基本法），並修訂科技創新基本法立法目的為「提升科學技術水準」以及「促進創新創造」；同時，參照科技創新活性化法相關規定，明文定義創新創造為「透過科學發現或發明、開發新商品或服務、或其他具創造性的活動，催生新興價值，並使之普及，促成經濟社會大規模變化之行為」。同時，增訂科技與創新創造的振興方針主要包含：（1）考量不同領域的特性；（2）進行跨學科的整合性研究開發；（3）推動時應慮及學術研究與學術以外研究間的衡平性；（4）與國內外的各相關機關建立具靈活性且密切的合作關係；（5）確保科學技術的多元性與公正性；（6）使創新創造之振興與科學技術振興之間建立連動性；（7）有益於全體國民；（8）用於建構社會議題解決方案。此外，亦增訂研究開發法人、大學與民間企業之義務性規範，要求研究開發法人與大學應主動、且有計畫地從事人才養成、研發與成果擴散作為；而民間企業則應致力於和研發法人或大學建立合作關係，進行研發或創新創出活動。最後，基本法內原即有要求政府應定期發布「科學技術基本計畫」，作為未來一定期間內推動科技發展政策的骨幹，本次修正除將之更名為「科學技術與創新基本計畫」（科学技術・イノベーション基本計画），亦額外要求基本計畫應擬定培養研究與新創事業所需人才的施政方針。 另一方面，配合科技創新基本法修訂與政策方向，科技創新活性化法的修正重點則為：（1）新增本法適用範圍，擴及「僅與人文科學相關的科學技術」；（2）明文創設大學或研究開發法人得與民間企業合作進行共同研究的機制，允許大學或研究開發法人出資設立「成果活用等支援法人」，並給予人力與技術支援。其可將大學、研發法人持有之專利授權給企業、與企業共同進行研究或委外研究等，藉以推動研發成果產業化運用，透過計畫的形式，和企業間建立合作關係；（3）為鼓勵與促進中小企業與個人從事新興研發，調整設立「特定新技術補助金」制度，用以補助上述研發行為；每年度內閣府則需與各主管機關協議，就特定新技術補助金的內容與發放目的作成年度方針，經內閣決議後公開。同時，在特定新技術補助金下設「指定補助金」之類型，由國家針對特定待解決之政策或社會議題，設定研發主題，透過指定補助金的發放，鼓勵中小企業參與該些特定主題之研發。 參、簡析 本次科技創新基本法的修正，為日本國內的科技發展方向，作出法律層級的政策性宣示。除將人文學科相關的科技研發正式納入基本法的規範對象內，最主要的意義，在於使創新與科技發展同列為基本法的核心目的之一，顯示其科研政策下，創新與科技的推展實存在密不可分且相輔相成的關係，而有必要整合規劃。而科技創新活性化法一方面拓展大學、研發法人等學術性或公部門色彩較為強烈的機構與民間企業合作研發、成果產業化運用的途徑；另一方面，則延續近期相關政策文件強調創新價值應自社會需求中發掘的構想[4]，設置了激勵中小企業投入社會議題解決方案相關研發的補助金類型。 我國立法體例上，同樣存在科學技術基本法的設計，用以從法制層級確立國內科技發展的基礎政策方向。於COVID-19疫情期間，技術研發的創新落地應用，亦已成為我國產出各式疫情應對方案、以及後疫情時期重要政策的關鍵之一。則如何延續我國對抗COVID-19過程中所掌握的協作與成果運用經驗，或可借鏡日本的作法，使創新能量能透過研發補助機制的優化，充分銜接政策與社會需求。 [1]〈科学技術基本法等の一部を改正する法律の公布について〉，日本內閣府，https://www8.cao.go.jp/cstp/cst/kihonhou/kaisei_tuuchi.pdf （最後瀏覽日：2020/12/08）。 [2]〈「科学技術・イノベーション創出の総合的な振興に向けた科学技術基本法等の在り方について」（概要）〉，日本內閣府，https://www8.cao.go.jp/cstp/tyousakai/seidokadai/seidogaiyo.pdf（最後瀏覽日：2020/12/08）。 [3]〈第201回国会（常会）議案情報〉，日本參議院，https://www.sangiin.go.jp/japanese/joho1/kousei/gian/201/meisai/m201080201047.htm（最後瀏覽日：2020/12/08）。 [4]〈中間とりまとめ2020未来ニーズから価値を創造するイノベーション創出に向けて〉，經濟產業省，https://www.meti.go.jp/press/2020/05/20200529009/20200529009-2.pdf（最後瀏覽日：2020/12/10）。
智慧財產法院成立及運作的政策 正式啟動司法院於94年年終記者會時，正式發佈我國智慧財產法院即將成立及運作的政策。有鑒於國內外企業在台的專利、商標、著作權等紛爭越來越多，為了節省司法資源、快速釐清企業糾紛、不耗損社會資源等目的，智慧財產法院乃為司法現代化相當重要的一環。 我國的智財官司時，多是以刑事訴訟為主附帶民事官司，有別於歐美各國的智慧財產案件多以民事訴訟為主。未來智慧財產法院所管轄案件除了民事訴訟事件、刑事訴訟案件外，還包括有行政訴訟事件與強制執行事件，集中事權，專責審理智財權相關案件。此外，為了因應科技界日新月異的技術發展，在智慧財產法院扮演關鍵角色的「技術審理官」，主要負責輔助法官從事專業技術問題之判斷，因此除了由全職公務員－專利審查官或是商標審查官擔任外，亦可任用公私立大專院校之老師或專業研究機構之研究員。 另一方面，為避免大型企業利用資金優渥之優勢，打壓小型科技公司的發展，智慧財產訴訟中的「假處分」聲請規定，相較於現行民事訴訟法規定嚴格許多，假處分聲請人除提供擔保金外，還必須「強制釋明」理由，若是釋明不足者，法院可駁回其聲請。 目前司法院已研擬完成「智慧財產法院組織法草案」及「智慧財產案件審理法草案」的全部條文，並公布在司法院網站上，預定在立法院下會期提交立法。
英國通過《2018自動與電動車法》英國於2018年7月通過自動與電動車法(Automated and Electric Vehicles Act 2018)，對自動與電動車輛之定義、保險議題以及電動車充電基礎設施進行規範。 針對自駕車之保險議題，該法採取「單一保險人模式」(Single Insurer Model)，無論是駕駛人自行駕駛或自動駕駛，駕駛人均應購買自駕車保險，讓所有用路人對於可能之安全事故均有保險可涵蓋並追溯責任。本法其他重要規定如下； 本法未直接賦予自駕車(Automated vehicle)明確定義，管理方式係由主管機關自行認定並建立清單。本法僅要求清單內之車輛應設計或調整為至少於某些特定狀況能安全行駛之自動駕駛模式。 已納保之自駕車行駛時所造成之損害，將由車輛之承保公司負擔損害賠償責任。 未納保之自駕車若發生事故，則車主應負擔損害賠償責任。 若由保險人負損害賠償責任，則受害人將可依現行法規提出損害賠償請求。保險人則可依普通法與產品責任相關規定，向應對事故負責之單位或個人提出損害賠償請求。 於電動車充電基礎設施之部分，該法之目的則是確保公共充電站適用於所有市面上之電動車輛，並就費用、付費方式以及相關安全標準進行規範，以增進消費者之信任。該法第20條並授權主管機關訂定相關授權辦法，以達上述目標。
歐盟將擬訂關鍵促成技術（Key Enabling Technologies）促進總策略因為生物科技（Biotechnology）、奈米科技（Nanotechnology）、微（奈）米電子與半導體（Micro- and nanoelectronics, including semiconductor）、光電（Photonics）、及先進材料（Advanced materials）等五大科技，能夠被廣泛的應用在各種產業上，並可協助現有科技作出重大的改善，故在2009年9月歐盟委員會（European Commission）所公布的一份溝通文件（Communication）當中，被認定為是可以加強競爭力，並協助經濟永續發展的關鍵促成技術（Key Enabling Technologies, KETs）。 在該份名為「為我們的未來做準備：發展歐洲關鍵促成技術促進總策略」（Preparing for our future: developing a common strategy for key enabling technologies in the EU）的文件中，歐盟委員會指出，KETs的技術外溢效益和其所能產生的加成效果，可以同時提昇其他領域的表現，如通訊技術、鋼鐵、醫療器材、汽車、及航太等領域，故將對歐盟地區未來的經濟永續發展有著重大的影響，也可以協助面對社會與環境的重大挑戰。 該文件指出，雖然歐盟擁有許多KETs的相關研發成果，對促進研發成果產業化之措施卻有所不足。在此溝通文件中所規劃的發展策略，配合歐盟持續的在研發作出更多的投資，將會協助歐盟充分應用這些可提高歐盟未來競爭力的KETs。 因為KETs的推展須注意系統性的相關聯性，所以數個不同的政策必需被同時考慮。在溝通文件中提出了十項應被考慮的面向，包括（1）將研發政策專注於KETs；（2）促進境內產學研單位間以及產業供應鏈間的技術移轉；（3）促進歐盟與會員國間發展共同的策略方案和操作專案；（4）運用各會員國境內之補助政策；（5）結合KETs的應用與氣候變遷政策；（6）創造市場需求並配合公共採購；（7）與國際間高科技政策相比較並加強國際合作；（8）透過雙邊或多邊貿易談判創造KETs有利的貿易條件；（9）促進歐洲投資銀行（European Investment Bank, EIB）給予高科技產業優惠貸款；以及（10）透過高等教育與在職訓練提昇技術水準。 歐盟委員會將會建立一個獨立的高階專家團體，去繪製歐盟有關各KETs的長期策略藍圖，並將於2010年年底向部長會議（Council of Ministers）報告。