落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險

落實完善數位資料管理機制,
有助於降低AI歧視及資料外洩風險

資訊工業策進會科技法律研究所
2023年07月07日

近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。

壹、事件摘要

目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。

貳、重點說明

首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]。

其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]。

參、事件評析

對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。

其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。

財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。

本文同步刊登於TIPS網站(https://www.tips.org.tw)

[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).

[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).

[3]Gartner, supra note 1.

[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).

[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).

[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).

[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).

你可能會想參加
※ 落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9013&no=57&tp=1 (最後瀏覽日:2026/11/19)
引註此篇文章
你可能還會想看
中國要求互聯網企業隨著消費者擔憂程度提高應加強數據隱私

  在越來越多消費者擔心部分企業以進行大數據研究名義竊取、交易或透露個人資料之行為,侵犯消費者隱私情況下,中國政府已要求互聯網企業加強對個人資料之保護;這並非中國當局第一次要求互聯網企業加強數據隱私保護,中國消費者協會(China Consumers Association, CCA)亦曾示警,中國大量智慧型手機應用程式正在蒐集過多個人資料,包括但不限於用戶位置、聯絡人清單及手機號碼。   中國互聯網金融協會(National Internet Finance Association of China, NIFA)於 11月初發表聲明提及:「未經消費者同意,會員組織不得蒐集、利用或向第三方提供消費者個人資料。」、「所有會員機構都應承擔保護個人資料之個人責任。如發生問題,應立即予以改善並報告給協會……消費者風險警示亦應加強。」,該協會亦向所有會員機構提出警告,對數據隱私之改善措施應承擔個人責任。   中國互聯網企業讚揚AI工具可使用海量數據以增強消費者體驗之優點,然它們不得不靈活應對消費者對如何蒐集與利用個人資料日益增長之焦慮,而中國政府目前正起草制定有關個人數據隱私保護法律,以解決日常生活伴隨著多方數位體驗而生之敏感問題。

中國大陸商業特許經營相關法律法規分析

中國大陸商業特許經營相關法律法規分析 科技法律研究所 法律研究員 汪奇蕙 2015年03月20日   連鎖加盟(中國大陸稱商業特許經營)在台灣或許已經是一種發展成熟的商業模式,對於中國大陸而言,則是上世紀80年代經濟改革之後才始見,相對於台灣市場或世界其他先進經濟體,中國大陸起步較晚,但是發展快速。眼見連鎖加盟行業在中國大陸的發展時機越趨成熟,台商界也掀起連鎖加盟的熱潮。   但在秩序相對混亂、競爭相對激烈的中國大陸市場,經營面向的風險也許難以預先掌控,但是複雜的相關政策和規定則是要前往該地投資的台商必須正視並且了解的,本文提供商業特許經營(以下簡稱特許經營)相關法規的分析,期待在發展商業之餘,台資特許人可以更敏銳的維護自身權利。 壹、主管法律法規   2007年開始,中國大陸第一部特許經營專門法令《商業特許經營管理條例》(以下簡稱《管理條例》)以及配套的《商業特許經營備案管理辦法》(以下簡稱《備案管理辦法》)、《商業特許經營信息披露管理辦法》(以下簡稱《信息披露管理辦法》)由國務院及其下屬機關陸續頒布施行,讓中國大陸連鎖加盟的法令更加完善。   《管理條例》中介紹有關中國大陸政府對特許經營的定義內容,特許經營權的內容是指特許人擁有或有權授予他人使用註冊商標、企業標誌、專利、專有技術等經營資源[1]。註冊商標、企業標誌或商號是表彰該特許經營事業的品牌,具有讓消費者迅速辨識獨特商品或服務的商業利益;專利、專有技術(包含管理系統及特定商業模式)則是支持商品或服務內容具有獨特性、競爭力的特許經營事業技術。   《管理條例》對於特許人的資格條件、特許經營事業備案、特許合同內容要件、特許人的信息披露義務以及特許人違反該條例的罰則皆有概括的規範。《備案管理辦法》、《信息披露管理辦法》也是在上位的《管理條例》法規授權下逐步生成,成為具體行政施行的準則。 貳、關於特許人資格   依照《管理條例》規定,特許人資格條件有二個方面需要具備。 一、只有企業法人有資格成為特許人。   企業以外的單位和個人都不能成為特許人[2]。 二、特許人必須有成熟的經營模式[3]。   特許人在發展加盟以前應當至少擁有2個直營超過1年的直營店。而且特許人要具備持續提供被特許人經營指導、技術支持和業務培訓等服務能力,上述各種能力,特許人在備案過程將被要求提供證明文件,比如備案時特許人要提交與經營活動相關的商標權、專利權有效的註冊證書;此外,《信息披露管理辦法》中要求特許人要事先披露擁有的經營資源情況和持續提供被特許人服務的情況[4]。 參、關於特許合同要件[5]   以下為《管理條例》所列舉的合同要件及簡要說明: 一、特許人、被特許人的基本資訊   如雙方地址、連絡方式、公司註冊號碼等。 二、特許經營的內容、期限   特許人持有的特許經營系統、經營範圍介紹,特許人授予被特許人的特許經營權性質(單店特許或區域特許[6]),被特許人的特許經營活動和範圍限制(營業地及加盟店介紹、被授予的特許經營權是否具有獨占性或排他性),特許經營合同的期限[7]以及可續期條件等。 三、特許經營費用的種類、金額及其支付方式   加盟費用、保證金、其他約定費用及雙方約定分攤費用的支付比例(如房地產和裝修費用、設備等購置費;管銷費用等),支付方式及收取後的確認方式。 四、經營指導、技術支持以及業務培訓等服務的具體內容和提供方式   約定被特許人是否有義務要接受特許人定期或不定期的經營活動指導、檢查,以利整體特許經營事業的統一性發展。 五、產品或服務的質量、標準要求和保證措施   特許人可依產品或服務的性質自己建立品管的標準要求。 六、產品或者服務的促銷與廣告宣傳   是否允許被特許人自行策劃,以及其可從事推廣或宣傳活動的範圍。 七、特許經營中的消費者權益保護和賠償責任的承擔   約定雙方因故意或過失造成消費者權益受損或整體特許經營事業所受損失(包含商譽損失)的責任承擔。 八、特許經營合同的變更、解除和終止   被特許人是否可以轉讓特許經營內容及合同義務,及可以轉讓的條件(如事前通知期)。建議特許人要保留因被特許人自行對消費者提供瑕疵產品或服務以至於消費者對特許人求償損失的追索權利,以及因被特許人故意或過失造成整體特許經營事業所受損失(包含商譽損失)的求償權利。 九、違約責任   約定雙方違反合同條款約定行為的法律後果。 十、爭議的解決方式   雙方有爭議時的調解管道,以及若欲訴訟,約定訴訟管轄地等。 肆、關於特許經營事業備案[8]   為加強對特許經營行業的管理,協助潛在被特許人了解該特許事業的基本資訊,《管理條例》設立了事後備案的監管制度。   特許人應自首次訂立合同之日15日內向商務主管部門備案。應向特許人所在地的省、自治區、直轄市政府的商務主管部門備案。跨省的特許經營事業應該向國務院商務部備案。   中國大陸目前已啟用網路備案方式以加快備案手續及效率,特許人登錄國務院商務部主管的《中國商業特許經營網》[9]註冊後,將註冊完成的特許人信息表和相關紙本文件[10]帶到當地備案管理部門[11]進行審核,審核通過後備案管理部門會發給特許人備案系統登錄帳號和登錄密碼。特許人登錄在《中國商業特許經營網》的特許經營備案系統後,可以在網路上進行《備案管理辦法》中規定的資料填寫或電子檔案的上傳工作。 伍、關於特許經營信息披露   除了對特許人資格的具體規定以及建立事後審查制度,中國大陸對於特許經營關係中,授權方特許人應該於特許經營關係成立前應揭露給被特許人知悉的相關資訊也有明確的規範,此種規範除了保障被授權人可在資訊透明的條件下做出商業決策,當特許人的特許資料登錄於信息披露網站,也有助於潛在投資人對於該商業規劃的了解,間接促進了整體特許經營行業的能見度和活躍性。   根據《信息披露管理辦法》的規定,特許人在訂立特許經營合同前至少30日應以書面形式向被特許人提供有關資訊和特許經營合同文本。   對於違反特許經營信息披露的特許人,除依《管理條例》第27條規定受行政罰則外,依《管理條例》第23條規定,特許人隱瞞有關訊息或提供虛偽不實訊息的,被特許人享有法定解除權。   法律實務中,法院會綜合考量特許人所隱瞞的程度或者所提供的虛偽不實訊息的重要性、與事實的差異性來區分是惡意詐欺還是商業話術,盡可能維護特許經營合同的穩定性,避免被特許人一旦經營失敗就把全部責任轉嫁給特許人[12]。 陸、特許經營合同知識產權授權特別注意要點   特許經營事業中以知識產權(智慧財產權)的授權為主要內容,應在特許經營合同中一併約定使用條件,特許人應以事前具體約定方式完整保護知識產權及特許經營事業。 一、約定具體的特許經營範圍   特許經營權的授予是屬於單店特許或是區域特許,單店特許者應明定單店資訊,區域特許者應界定區域範圍(如城市、省名)。   特許經營權的授予是否具有獨占性、排他性、非排他性。被特許人可否自行再設立其他分店或以特許人身分再授予第三方。 二、約定知識產權的使用方式   被特許人須依特許人的要求來使用特許經營資源,如商標的使用方式、使用位置,可以用特許人的經營手冊加以細化。 三、約定知識產權授權後被特許人的義務   被特許人以特許人授予的知識產權開展經營後,應當盡的品質保證、品質監督義務。特許經營合同中除概括被特許人監督產出責任外,也可以列舉方式約定被特許人的監督義務,例如被特許人應監督其雇用人員按照特許人約定的方式出產商品或服務、定期向特許人提出產品質量檢查報告。 四、約定特許人監督特許經營事業的權利   除了被動等待被特許人提交經營報告(可包含營業狀況以及財報),特許合同應保留特許人主動對特許經營事業進行檢查、監督、考核的權利,並要求被特許人在合約期間應執行特許人檢查考核後的跟營業相關的決策。 五、約定合同到期後的被特許人使用特許經營資源的狀況   約定特許經營關係結束後,被特許人是否能再以特許人加盟店的形式進行商業活動,包含被特許人是否應向原註冊機關進行註銷登記(如註銷營業執照或變更企業名稱),是否能再使用特許人商標。   另外,因特許經營權授予而獲得的商標以外的相關知識產權(如手冊、培訓教案、軟體等)也應約定是否還能繼續使用。 柒、結論   特許經營事業的成功,除取決於特許人法律法規的掌控,對各項與特許資源相關的知識產權的保護也是維持特許事業穩定成長的重要策略。中國大陸政府因為特許經營事業的特殊性而制定特別的法律及行政規則,期待本文對特許經營法律法規的介紹以及相關知識產權授權應留意的面向建議能對有意前往對岸投資的台資特許人產生實質幫助。 [1]《商業特許經營管理條例》第3條(中國國務院令第485號2007.02.06)。 [2]《商業特許經營管理條例》第3條(中國國務院令第485號2007.02.06)。 [3]《商業特許經營管理條例》第7條(中國國務院令第485號2007.02.06)。 [4]《商業特許經營信息披露管理辦法》 第5條(中華人民共和國商務部令2012年第2號2012.02.23)。 [5]《商業特許經營管理條例》第11條(中國國務院令第485號2007.02.06)。 [6]指特許人授予的特許經營權是僅限於單一加盟店使用或是某一地理區域內可成立數個加盟店。 [7]《商業特許經營管理條例》第13條 規訂合同約定的特許經營期限應該不少於3年,但雙方如有其他約定,可以在合同中註明,即只需雙方合意就可更改特許經營期限。 [8]《商業特許經營管理條例》第8條(中國國務院令第485號2007.02.06)。 [9]主頁,中國商業特許經營網http://txjy.syggs.mofcom.gov.cn/ 。 [10] 各地方主管機關要求的紙本文件可能不一。 [11] 當地的商務委員會。 [12] 王樹章、吳平平,《關於商業特許經營合同審判實踐若干問題的調研報告》,知識產權庭課題組,頁9。

美國聯邦地方法院駁回臨床試驗軟體公司Medidata對競爭對手Veeva的營業秘密訴訟

  美國紐約南區聯邦地方法院(S.D.N.Y.)於2022年7月15日駁回了臨床試驗軟體公司Medidata Solutions Inc. (以下簡稱Medidata公司)控告競爭對手Veeva Systems Inc. (以下簡稱Veeva公司)竊取其營業秘密的請求。   原告Medidata公司於2017年1月指控被告Veeva公司陸續挖角其數名離職員工,部份員工離職時私自拷貝公司檔案,其中包含原告的產品研發、商業策略等營業秘密,而被告根據這些資訊開發了和原告相似的軟體,造成其重大損害,因此向被告請求4.5億美元的損害賠償。   被告Veeva公司抗辯雖然這些員工離職時私自保留原告的檔案,但原告在訴訟中並未明確說明哪些屬於該公司的營業秘密,亦即未特定營業秘密標的;此外,即便這些離職員工自行保留的檔案中有包含原告所稱之營業秘密,但原告提出的證據不足以證明被告有不當取用(misappropriation)其營業秘密,僅根據被告有僱用原告離職員工等事實,即推論被告有不當取用。原告試圖透過此模糊和毫無根據的主張,限制產業的創新、競爭、人才流動。   本案歷經五年的纏訟,法院最終駁回原告請求。法官指出,原告在整個訴訟過程中並未明確定義哪些資訊屬於營業秘密,原告似乎認為任何資訊皆屬於其營業秘密,這樣的主張無異於代表任何公司永遠無法挖角其他公司的員工,因為這些員工到新公司任職後所說的任何話,都會間接地揭露他們在之前工作中所學習到的事情,因此駁回原告之訴。   從本案可以觀察到,企業應定期盤點公司內部資訊,明確界定營業秘密範圍,並落實管理及妥善留存相關證據,發生侵害營業秘密爭議時才能有效舉證。 「本文同步刊登於TIPS網站(https://www.tips.org.tw )」

澳洲證券投資委員會發布監理沙盒架構

  澳洲證券投資委員會(Australian Securities and Investments Commission, ASIC) 於2016年12月15日發布第257號法規指導(Regulatory Guide 257,RG 257)-在未持有AFS或信用執照的狀態下測試fintech產品與服務(Testing fintech products and services without holding an AFS or credit licence)。RG 257並包含澳洲的監理沙盒架構。重要內容如下: 1.有別於其他國家的監理沙盒需要申請方能適用,透過法規以及ASIC澳洲已經提供一些鬆綁機制,換句話說並不需要事先申請就可以取得監管沙盒鬆綁。例如非現金支付產品,包含儲值卡,以及某些國外交易服務。 2.ASIC的fintech 執照豁免見諸於ASIC Corporations (Concept Validation Licensing Exemption) Instrument 2016/1175 以及ASIC Credit (Concept Validation Licensing Exemption) Instrument 2016/1176。 3.ASIC也可個別提供客製化的執照豁免以促進產品或服務測試,個別豁免就比較接近其他國家的監管沙盒架構。   因此基本上,只要符合法定以及上述兩個instruments的規定,就可以自動取得監管沙盒的鬆綁,而無需另外申請,唯需「通知」ASIC,並提供相關資料。監理沙盒的適用期間為十二個月。但是如果不符法定以及Instrument 2016/1175、Instrument 2016/1176的規定,也可以另外向ASIC申請客製化的豁免。   目前可適用Instrument 2016/1175的金融服務包含: •掛牌的澳洲證券; •簡易管理的投資架構; •存款產品; •某些一般的保險商品;以及 •「授權存款取用機構(authorised deposit-taking institutions,ADIs)」發行的支付產品。   唯須注意的是,Instrument 2016/1176允許有限的信用協助,但是不得提供借貸。另外,使用監理沙盒的fintech企業最多只能有100個零售客戶,以有效控制風險。

TOP