落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險

落實完善數位資料管理機制,
有助於降低AI歧視及資料外洩風險

資訊工業策進會科技法律研究所
2023年07月07日

近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。

壹、事件摘要

目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。

貳、重點說明

首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]

其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]

參、事件評析

對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。

其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。

財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。

本文同步刊登於TIPS網站(https://www.tips.org.tw

[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).

[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).

[3]Gartner, supra note 1.

[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).

[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).

[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).

[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).

你可能會想參加
※ 落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9013&no=66&tp=1 (最後瀏覽日:2024/07/17)
引註此篇文章
你可能還會想看
調和國際標準!美國食藥署提出醫療器材品質系統規則修正草案

  美國食藥署(US Food and Drug Administration, FDA)於2022年2月23日提出「醫療器材品質系統規則修正草案(Medical Devices; Quality System Regulation Amendments proposed rule)」。本次修正旨在釐清現行條文與國際標準ISO13485醫療器材品質管理系統之異同,並進行適度調和。   根據修正說明,草案就現行條文與ISO13485一致之處將予保留,不一致者若屬落實授權母法「美國聯邦食品藥粧法(US Federal Food, Drug and Cosmetics Act, FD&C Act)」之必要內容,將斟酌條文用詞明確性調整後予以保留,其餘將予刪除。此外,草案也透過名詞解釋界定不同用語之定義範疇,嫁接現行條文與ISO13485落差處。對於現行條文中,與ISO13485性質相同但內容產生衝突之條文,基於依授權母法意旨,以現行條文為準。   FDA注意到,部分FD&C Act所重視的品質管理系統要求,在ISO13485中並未被重點凸顯,如記錄控管(control of records)、醫材標示(device labeling)及包裝控管(packaging controls)。本次修正特別針對此三部分保留並增補較ISO13485要求更為詳細的規範內容。在記錄控管部分,除依照ISO13485要求,記錄標的應為日期及簽署確認外,進一步依據FD&C Act規定,要求特定的服務及執行紀錄應予以紀錄,以作為醫材報告之內容。此外,也規定應詳實記錄醫療器材單一識別碼(Unique Device Identification, UDI)。在醫材標示及包裝控管部分,由於ISO13485僅指出產品應標示及包裝,但未詳述細節要求。因此,本次修正保留現行條文對於標示及包裝的細節性規定,以確保產品安全性及有效性。   本草案目前進入意見徵集期間,時間自2022年3月25日起至2022年5月24日止。後續FDA將視所徵集之意見,決定是否調整草案內容或公告施行。本次修定將使醫療器材品質系統規則與ISO13485趨於一致,預計可減輕廠商行政作業及支出負擔。

比利時法院要求Google移除新聞轉載連結

  儘管類似 Google News 提供新聞連結的作法在網路上屢見不鮮, Google 也認為其行為完全合法,但 比利時布魯塞爾法院於 9 月 5 日 作出的判決,仍要求 Google 在沒有獲得對方允許或支付相應費用的情況下,應 停止從法語報紙上節錄新聞片段,否則將會面臨每天一百萬歐元的罰款。 Google 雖因此暫時移除了相關新聞的轉載連結,卻打算對此判決提起上訴。   該案法官指出, Google 在這些報章媒體網站更新相關新聞後,才在 Google 網站上提供轉載內容,法院認為這不但侵害了作者的著作權,且違反比利時有關資料庫的法律。除了移除轉載連結外,法院也要求 Google 必須在 Google 比利時網站上公布該判決內容,否則另須繳交每日五十萬歐元的罰款。   這起控告 Google 的訴訟是由比利時出版集團 Copiepresse 所提起的,該集團代表比利時境內多家法語及德語報社,亦為一管理比利時法語及德語媒體著作權的專門機構。

歐盟網路暨資訊安全局發布「重要基礎設施資訊安全培訓需求盤點報告」加強重要部門資訊安全作業

  歐盟網路暨資訊安全局於2017年12月7日發布「重要基礎設施資訊安全培訓需求盤點報告」(Stocktaking of information security training needs in critical sectors)之文件,點出各重要基礎設施之「電腦安全事件反應小組」(Computer Security Incident Response Teams, CISRT)所必須接受之資安訓練種類。   歐盟之網路與資訊系統安全指令(The Directive on security of network and information systems, NIS Directive)規範各成員國之重要服務營運者(operator of essential service)必須確認出哪些服務於維繫社會與經濟活動上具備重要性。被認定具備重要性之部門如下:能源、運輸、銀行業、金融市場基礎設施、健康照護部門、飲用水供應與分配、數位基礎設施。   此份報告指出,該重要性部門之資安等級需求並不盡相同,因此導致各部門面對資安事件之準備無法相提並論。例如,能源產業會用到SCADA系統,而金融市場基礎設施則普遍沒有相關需求。而由於NIS指令將上述七種部門列為資訊安全維護最高層級,故此份報告目的係確認該部門當前的處境,並與現階段可取得之網路安全訓練對照,進一步具體檢視各重要部門是否有其他額外的網路安全訓練需求。   我國行政院於民國106年4月公布之資通安全管理法草案要求關鍵基礎設施提供者應訂定、修正、實施資通安全維護計畫,並向中央目的事業主管機關或直轄市、縣(市)政府提出該計畫之實施情形,在未來實際落實各重要性設施之資安維護以及資安小組訓練時,須意識到各重要性設施之資訊安全需求差異性,及相關人員必須針對不同單位而受不同之訓練。

產學合作的推動-以株式會社東京大學TLO為例-

產學合作的推動 -以株式會社東京大學TLO為例- 資策會科技法律研究所 法律研究員 林思妤 105年07月12日 壹、前言   我國政府日漸重視產學合作,各部會也相繼推出各項產學合作研究計畫及提供各式獎補助金方案,供學研單位及產業界申請,期能使學界的研發成果符合產業界的需求,產業界再將該研發成果的運用發揮至最大效益,成為國家經濟發展的潛能[1]。當中,大學的育成、技轉中心扮演著重要角色,其業務包含協助新創事業的成立以及管理研發成果的授權與移轉。而鄰近於我國的日本,以東京大學為例,其不僅有校內的產學協創推進本部(The Division of University Corporate Relations,DUCR)(以下簡稱DUCR)[2],支持著東京大學與企業之間的共同研究,也有因應文部科學省(相當於我國教育部)推動國立大學法人化相關政策[3]而設立的株式會社東京大學TLO(Technology Licensing Organization)(以下簡稱東大TLO),促進東京大學研發成果的商品化[4],在這樣校內、外組織長期合作下,東大TLO及DUCR皆對大學的研發成果有著深入的認識,針對每種研發成果安排合適的運用方式,使東京大學在研發成果商業化上有著亮眼的成績。本文將介紹東大TLO的組織及業務範圍,以供我國相關單位參考。 貳、株式會社東京大學 TLO的發展與運作   日本大學所設立的技術移轉中心TLO是根據1998年10月所制定的「大學技術移轉促進法」(「大学等における技術に関する研究成果の民間事業者への移転の促進に関する法律」)所設立的[5]。該法明定TLO為法人組織[6],可為股份有限公司型態,對外公開發行股票,TLO主要工作為:研發成果之技術評鑑、接受國有研發成果之專屬授權、向經濟產業省的特許廳(相當於我國智慧財產局)提出專利等智慧財產權申請、提供技術資訊予私人企業、回饋一定比例之技術移轉效益予原研發單位。此外,推動大學、研究單位之創新公司(Start-up Company)或衍生公司(Spin-off Company),促使大學、研究機構設立創業育成中心(Incubator),提供新設公司必要資金,擴展研究機構與私人企業間之合作計畫等,皆屬TLO的重要任務[7]。 一、東京大學百分之百持股的技術控股股份有限公司   1998年8月3日,東京大學根據「大學技術移轉促進法」的宗旨自發性合資,以2000萬日圓的資本額成立「先端科学技術インキュベーションセンター」(Center for Advanced Science and Technology Incubation,CASTI)[8],而CASTI就是東京大學的TLO,係屬法人組織,負責東京大學技術授權的對外窗口。2004年以前,因為日本國立大學不具法人身份,故校內研發人員的研發成果,歸私人而非校方所有,如何運用該研發成果校方難以干涉。2004年4月,因應「國立大學法人法」[9]的制定,CASTI保留股份有限公司的身份,正式編納入東京大學組織中,更名為株式會社東京大學TLO(TODAI TLO. Ltd.)[10],是東京大學唯一百分之百持股的技術控股股份有限公司[11]。東大TLO藉由技術移轉扮演著學術界以及產業界間仲介橋樑任務,將大學及研究人員之研發成果進行智慧財產權信託[12]與專利申請等事務,將東大本身擁有的技術移轉至民間企業。透過技術移轉開創新產業目標,並將所得之收入再投入研發資金並回饋予大學,使大學之研發成果成為知識循環以及創新原動力[13]。 二、東大TLO的業務範圍   國立大學法人化後,教授的研發專利權歸屬校方而非教授本人,東大TLO會先與校方簽約,再代表東京大學與產業界洽談專利授權事宜。東大TLO一方面協助東大申請校內研發成果的專利權,依校方立場,判斷其是否具申請價值,並引導研發人員修整其專利申請方向,另一方面主動向企業界推銷校方公佈的專利,並將企業提出的需求意見整理供校內人員參考。   詳言之,東京大學研發產出之專利申請、取得及授權係由校外組織的東大TLO與校內組織DUCR協同運作完成,其處理流程為:(一)東京大學研究人員提出發明揭露給DUCR 作初步審查;(二)初步審查通過後發明揭露由DUCR轉給東大TLO;(三)東大TLO 與研究人員面談研議發明內容之專利性(Patentability)與市場性(Marketability);(四)與研究人員面談後,東大TLO針對發明內容之專利性與市場性自為調查;(五)東大TLO 根據面談與調查結果提出專利申請建議給DUCR;(六)DUCR 決定是否續行專利申請;(七)東大TLO再聘請外部專利事務所進行專利申請;(八)專利申請提出後,東大TLO 即可著手進行授權作業[14]。東大TLO目前共有25位成員負責其業務。   另外,校內發明人創立新事業的過程中,資金的來源、人員的組成或創立的地點,東大TLO不會介入。但是涉及使用校內研發技術的部分,就必須透過東大TLO協助申請專利之後,再授權給發明人所開創的新事業[15]。 三、東大TLO享有的特別措施   日本的技術移轉中心TLO,因TLO本身「是否歸屬大學」分為承認型TLO以及認定型TLO。承認型TLO為大學所創設的技術移轉中心,係由大學同時向文部科學省及經濟產業省提出申請[16]。承認型TLO具申請獎補助金之資格,得接受政府各類獎助措施,且研發成果所有權移轉至TLO。認定型TLO則不屬大學機構所有,無法提出部分獎補助金之申請,但協助技術移轉之角色不變。再者,承認型TLO又根據其「存在方式」分為校內及校外TLO[17];東大TLO即是承認、校外型的TLO。   而承認型TLO在「大學技術移轉促進法」、「產業技術力強化法」[18]以及「國立大學法人法」的規定下,有多項特別措施[19],亦即東大TLO享有的特別措施。例:專利費用的減免[20]、專利處分的自主[21]、可獲國立大學法人出資[22]、信託業務的實施[23]及資金借款債務保證[24],相信這樣的特別措施是有助於東大TLO將研發成果商業化的。   東大TLO自1998年運作至今,已完成了3,549件的技術移轉契約,達到約61億日圓的收入[25],特別是2013年時,因為PeptiDream Inc.上市(藥物研發公司),使得該年度授權金收入達到將近7億日圓[26]。 參、評析   由東大TLO的運作發展觀之,可了解到產學合作的推廣,要注重學研單位及產業界之間的訊息流通,研發成果才有商品化的潛力。執行上,東京大學藉由校內DUCR對研發成果做出初步審查,佐以校外東大TLO對於技術移轉市場的專業判斷力,扮演著媒合的角色,使授權案件數量持續增長。更重要的是,政府對於設置TLO的支持與鼓勵,不僅放寬了限制,還給予多項特別措施,讓日本TLO有著穩定的發展,目前日本共有37個享有特別措施的承認型TLO[27]。   反觀我國,縱使根據經濟部於今年4月發佈的函釋[28],國立大學可以擔任公司發起人,可以設置像東大TLO這樣的智慧財產研發成果管理公司,但卻受「國立大學校務基金設置條例」的規定,校方必須以自籌收入作為設立的資金來源[29],無法將其從政府獲得的補助用於成立該類型公司。再者,若一國立大學將其因政府補助而取得的技術,固定交由其自身設立的TLO,是否仍適用現行的政府採購法等。總而言之,我國國立大學已有資格設立像東大TLO這樣的技術控股公司,但是相關的配套措施、因應機制及相關規範的調適仍待政府引領規劃。 [1] 經濟部中小企業處在各大專院校以及研究機構成立中小企業創新育成中心;科技部在各校成立技術移轉中心;教育部推出產學合作中心,為的都是促進產學合作。 [2] 日本東京大學産学協創推進本部DUCR,http://www.ducr.u-tokyo.ac.jp/(最後瀏覽日:2016/05/05)。 [3] 日本文部科學省國立大學法人化相關政策簡介,http://www.mext.go.jp/a_menu/koutou/houjin/03052704.htm,(最後瀏覽日:2016/06/27)。 [4] 株式會社東京大學TLO(TODAI TLO Ltd.),http://www.casti.co.jp/en/#sect01 (最後瀏覽日:2016/05/04)。 [5] 「大學技術移轉促進法」(Act to Facilitate Technology Transfer from Universities to the Private Sector ),1998年,http://www.japaneselawtranslation.go.jp/law/detail/?ft=2&re=02&dn=1&yo=universities&x=0&y=0&ia=03&ky=&page=2 (最後瀏覽日:2016/5/4)。 [6] 日本「大學技術移轉促進法」第二條明定多項技術意轉組織成立方式,包含資金規模與公司人數(條文全文請參考前註連結)。 [7] 李素華,「日本施行大學及研究機構技術移轉促進法」,科技法律透析,1999年5月15日。 [8] Taking new challenges-RCAST historical Facts,http://www.rcast.u-tokyo.ac.jp/about/history/index_en.html(最後瀏覽日:2016/5/4) [9]国立大学法人法,2003年7月16日, http://law.e-gov.go.jp/htmldata/H15/H15HO112.html (最後瀏覽日:2016/06/29)。 [10] 林秉毅,論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」,2003年,頁3(肆、案例分析)。 [11]株式會社東京大學TLO(TODAI TLO Ltd.),“TLO stands for Technology Licensing Organization, and TODAI TLO, the only wholly-owned subsidiary of the University of Tokyo, acts as a contact point for industry to access technologies developed at the University of Tokyo.” http://www.casti.co.jp/en/,(最後瀏覽日:2016/06/28)。 [12] 根據日本信託業法第52條,承認型TLO(東大TLO)得為信託業者。 [13]有鑒於TLO之特殊性,其不僅在組織型態上不限於股份有限公司,也不要求其必須使用商號,同時對於董事之兼職或主要股東之限制等規定亦均無適用餘地。(李智仁,「從日本經驗談智慧財產權信託與技術移轉問題」,銘傳大學法學論叢,7期,2007年6月,頁98。) [14] 經濟部中小企業處,「行政院所屬機關科長級以上跨領域科技管理研習國外專題報告」,日本東京大學智財管理、技轉與產學合作模式,2013年11月,頁27-28,http://goo.gl/jzEviM(最後瀏覽日:2016/5/5)。 [15] 林秉毅,論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」,2003年,頁10(肆、案例分析)。 [16]「特定大学技術移転事業の実施に関する計画承認実施要綱」(2008年最後修訂)第2條第1項:「法第四条第一項の規定に基づき実施計画の承認を受けようとする事業者は、様式第一による申請書を文部科学大臣及び経済産業大臣に提出するものとする」。 [17] 林秉毅,論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」,2003年,頁35~37。 [18]「産業技術力強化法」Industrial Technology Enhancement Act(Tentative translation),2000年4月發佈,http://www.japaneselawtranslation.go.jp/law/detail/?ft=2&re=02&dn=1&yo=%E5%BC%B7%E5%8C%96&x=0&y=0&ia=03&ky=&page=3 (最後瀏覽日:2016/06/29)。 [19] 日本特許廳,特許料等の減免制度,http://www.jpo.go.jp/tetuzuki/ryoukin/genmensochi.htm (最後瀏覽日:2016/5/4)。 [20] 大學等技術移轉促進法第8條,承認TLO第1年到第10年的專利費得減免二分之一。 [21] 產業技術力強化法第19條,政府委託研究成果由大學取得之專利權,讓售(讓與)或授權他人實施時,不必經過國家認可。 [22] 國立大學法人法蒂22條,承認TLO可從國立大學法人獲得出資。 [23] 信託業法蒂52條,承認TLO實施信託業務時,不需要取得內閣總理大臣之執照。 [24] 大學技術移轉促進法蒂6條,承認TLO所需要的資金借款,可受到獨立行政法人中小企業基礎整備機構的債務保證。 [25] 株式會社東京大學TLO(TODAI TLO Ltd.),Licensing Track Record,http://www.casti.co.jp/en/about/results.html (最後瀏覽日:2016/06/29)。 [26] 科技部中部科學園區管理局盧科員素璧日本考察報告,日本筑波科學城、相模原育成中心招商及產學合作研討會,2015年4月7日。 [27] 日本特許廳,承認、認定TLO(技術移轉機關)一覽,https://www.jpo.go.jp/kanren/tlo.htm(最後瀏覽日:2016/06/29)。 [28]經濟部函釋,國立大學可以擔任公司發起人,2016年4月19日,https://gcis.nat.gov.tw/elaw/query/ConSearchRLT.jsp?CONS_CD=8793 (最後瀏覽日:2016/06/29)。 [29]國立大學院校校務基金設置條例第10條第1項:「為確保校務基金永續經營,並提升其對校務發展之效益,國立大學校院於提出年度投資規劃並經管理委員會審議通過後,得投資下列項目:一、存放公民營金融機構。二、購買公債、國庫券或其他短期票券。三、投資於與校務發展或研究相關之公司及企業,除以研究成果或技術作價無償取得股權者外,得以自籌收入作為投資資金來源。四、其他具有收益性及安全性,並有助於增進效益之投資。」

TOP