落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）
- 製程工業AI應用與規範研討會
醫療科技公司轉型提供資料類型產品解決方案於美國之智財權布局建議 資訊工業策進會科技法律研究所 2023年05月31日 過去，醫療科技公司僅專注於開發針對醫療問題的硬體解決方案，近年這些企業則致力於轉型開發收集及利用大量病人、資料提供者資料之產品，而轉變成資料平台公司，而更可以全面了解病人及客戶生活習慣及健康狀況。 其中許多解決方案均利用人工智慧(Artificial Intelligence, AI)及機器學習(Machine Learning, ML)，相較傳統上研發成果多為硬體設備，現今則轉變成出現大量軟體解決方案，保護研發成果之方式將發生改變，如何選擇合適的智慧財產權保護研發成果成為企業重要課題，此亦影響企業如何做智慧財產布局及擬定公司相關經營策略，因此建議企業——尤其是開發醫療資訊平台之醫療科技公司，特別是致力於開發醫療器材軟體(Software as a Medical Device, SaMD)、醫療設備嵌入式軟體(Software In a Medical Device, SiMD)及應用於醫療技術中的人工智慧等新興領域時可以參考以下提供之思考方向選擇對於企業發展最適切之智慧財產權保護態樣。[1] 研發成果如欲獲得專利保護，該發明必須係獨一無二且可以傳授的——即人們不能將自然發生或不可再現的事物申請專利，因為發明需透過專利以清楚的方式概述，並明確定義專利內容，並向公眾揭露，以便於申請人取得專利、並於專利期限屆滿後(專利保護期限因各國法規、專利類型而將有所不同，建議企業應了解欲布局之國家相關法規規定，如台灣之發明專利[20年]、新型專利[10年]、設計專利[15年])，使大眾得藉以實施該技術內容。[2] 在美國，專利係由美國專利商標局賦予所有權人於一定期間內壟斷其發明之權利，即美國聯邦法律更使專利所有權人在專利權效期內得以禁止他人於該期間內於美國製造、使用、銷售或進口至美國這項已獲得專利保護之發明，此給予專利權人一個得以建立一個阻止他人進入市場的巨大障礙，可防止競爭及保護專利權人可以自由實施該權利。[3] 因專利有上述特性，文章作者建議，如裝置(device)、該裝置使用之軟體，對於從事新藥開發之藥廠，於保護新穎成分(New Chemical Entities)、相關之治療方法及人工智慧相關發明較適合以專利保護。[4] 營業秘密係指資訊擁有者已盡合理努力保密，且不為公眾所周知或非可被公眾輕易探知而具有獨立經濟價值的，任何形式及類型之資訊。合理努力可能包括(但不限於)，要求員工簽署保密協議、定期提醒員工其負有保密義務(如：針對職務不同/所從事不同工作之員工，保密義務內容、程度、時間是否有所不同?)、踐行必要而知悉(need to know) 原則(如：執行不同工作之人員是否可互相存取各自的資料? 抑或僅能存取自己工作所需之資料?)、佈署IT安全措施或辦公室安全措施之狀況(如：是否有門禁?資料如有異常存取狀況時是否有示警機制?)並須即時調查及採取行動打擊涉及盜用營業秘密之行為(如：是否有相關通報不當使用營業秘密之管道及監控機制?)[5] 在美國，傳統上營業秘密之保護是結合各州法律而成，除了紐約州及北卡羅萊納州以外，所有州都頒布了其特有版本的《統一營業秘密法》(Uniform Trade Secrets Act, UTSA)——係一項1979年頒布的統一法案。於2016年，國會又頒布了《保護營業秘密法Defend Trade Secrets Act, DTSA》，該法案保障當事人於聯邦法院提起營業秘密訴訟之權利，且只要促進犯罪行為之行為發生於美國，當事人即可於國外進行訴訟，此外，《統一營業秘密法》中規定營業秘密包含公式、模式、彙編、程式、設備、方法、技術或過程。而依《保護營業秘密法》（Defend Trade Secrets Act, DTSA），營業秘密可為任何形式，無論係以物理、電子、圖形、攝影或書面形式儲存、編輯或紀錄之財務、商業、科學、科技、經濟或工程資訊均為營業秘密之範疇，因此，營業秘密之適用範圍較廣，於美國甚至抽象之想法均可受營業秘密保護。[6] 與僅提供有限保護期限之專利有別，如欲獲得營業秘密之保護，僅需資訊持續保密並存在並持續存有價值，該資訊即會持續受到營業秘密保護並擁有無限的有效期限，亦即，只要該資訊仍為秘密，即受到營業秘密之保護。如：可口可樂已將其配方作為營業秘密保護了130多年之久。惟與專利不同的是營業秘密一但被公眾周知或得以透過適當方式獨立開發(如競爭對手自己獨立開發而產出之資訊)，就將失去營業秘密之保護。[7] 因為營業秘密之特性，諸如蛋白質結構、客戶清單、機器學習演算法、原始碼、化學製程參數(如：會產生化學反應之溫度或壓力)、甚至是醫療科技公司近年致力經營的人工智慧領域所產出的人工智慧、新的模型訓練方法、優化模型參數、消極專有技術(如：不該做什麼)。[8] 惟選擇專利抑或營業秘密之方式保護其研發成果將視企業的業務為何決定，如缺乏透明度之產業可能較適合以營業秘密方式保護，而非專利。例如：網路安全公司可能傾向於營業秘密保護，因為申請專利揭露其機密安全演算法可使競爭對手開發競爭產品或使駭客進行量身訂製之攻擊。相較之下，製造容易檢測、針對消費者之電子產品之企業更依賴專利保護，製造具有行業標準化品質之產品之企業亦是如此。[9] 總體而言，是否容易被逆向工程將會是決定以專利或營業秘密保護之關鍵性調查方式。因申請專利必須揭露細節事項，將對廣泛保護資料為基礎之軟體(且有使用人工智慧或機器學習)較具挑戰性，故專利較適合保護裝置(device)及會相互作用之實體產品和軟體。而營業秘密則要求資料所有人無限期地維持秘密性，亦須注意自己的想法獲得他人關注時遭仿效之風險，故較適合造價高或難以仿效的軟體、製造方法或產品。[10] 而對於生技醫療公司而言，其應考量使用混和策略以保護人工智慧相關之創新，如：專有之原始和訓練資料、模型之優化參數、將專有技術用於訓練模型及其他難以進行逆向工程之人工智慧相關的此類機密資訊，可能較適合用營業秘密保護，同時該技術的其他方面，如人工智慧系統或使用其開發之藥物則可透過專利保護。[11]惟不論企業決定要將該資訊做為營業秘密保護或申請專利保護，企業對於研究人員發表相關資訊的行為均應審慎評估，避免因揭露而喪失專利之新穎性或營業秘密之秘密性的情形。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Kristin Havaranek, Martin Gomez, Matt Wetzel, Steven TJoe & Stephanie Philbin, Top 5 IP Considerations for Medtech Companies Transitioning To Data-enabled Product Solutions (2023), https://medcitynews.com/2023/01/top-5-ip-considerations-for-medtech-companies-transitioning-to-data-enabled-product-solutions/ (last visited June 1,2023). [2]John Quinn, Protecting Inventions Through Patents and Trade Secret (2023), https://www.newsweek.com/protecting-inventions-through-patents-trade-secrets-1788352 (last visited May 30, 2023). [3]Id. [4]Charles Collins-Chase, Kassanbra M. Officer & Xinrui Zhang, United States: Strategic Intellectual Property Considerations For Protecting AI Innovations In Life Sciences (2023), https://www.mondaq.com/unitedstates/trade-secrets/1276042/strategic-intellectual-property-considerations-for-protecting-ai-innovations-in-life-sciences (last visited May 30, 2023) [5]Id. [6]John Quinn, supra note 2. [7]Id. [8]Collins-Chase et al., supra note 4. [9]John Quinn, supra note 2. [10]Havranek et al., supra note 1. [11]Collins-Chase et al., supra note 4.
巴西通過網際網路公民權法案2014年3月25日，巴西下議院通過編號2126/2011號法案，稱為網際網路公民權力法案（Marco Civil da Internet），是國際少見針對網際網路基本權利的立法例。該法律包含網際網路使用者權利、網路服務業者（ISP）責任、保障網際網路言論自由、保障隱私權、資料所有權及網際網路的普及化。 在數個月前，美國國家安全局被揭露監控全球網路流量的作法，引起國際間的軒然大波。許多國家均表達對於美國侵害其隱私及資訊安全，感到非常不滿。巴西政府自2011年以來，便逐步推動網路網路基本權利保障之立法，經過多年的程序，終於完成此次具代表意義的立法。該法律的規範對象涵蓋使用網際網路之個人、政府及企業，主要目的在保障網際網路的開放性、可接取集中立性。其主要規範重點在言論自由、網路中立性、隱私及個資保護、網路中介者責任等四部分。 在基本言論自由部分，該法律承諾保障言論及表達的自由，促進網路企業的競爭，維護公民使用網際網路的權利，促進網路服務的普及化；在網路中立性方面，則規範ISP不得對於網路內容及應用之傳輸有差別待遇，除非基於安全或技術支援的情形，而ISP進行差別待遇時，必須告知使用者；而在個人資料及隱私保護上，除了配合巴西既有的個資法處理資料收集、分析、處理及利用外，尚規範資訊保存與資訊所有權，對於ISP所保留有關使用者的資訊，除明訂各種隱私資料的保存期限外，也規範必須經過法院授權才能加以調閱，使用者對其資料也擁有所有權，ISP對於使用者資料必須嚴格保密；最後則是網路中介機構的責任，當發現網路上有侵害著作權之傳輸行為時，必須透過法院授權，ISP業者才能加以阻斷或刪除，而相對的，ISP業者只要遵守法院授權，便無需為網路上的侵權行為負擔連帶賠償責任，避免了業者因為用戶的侵權行為而連帶受到賠償責任。 巴西本次制訂的網際網路法律在國際上相對少見，例如其中的網路中立性規範也是屬於國際上少數將網路中立性加以明文規範的國家，對於網際網路上自由的維護可以說是非常的具有示範性。目前，國際上針對網際網路的規範模式也一直爭執未定，加強管制或放鬆管制的聲音也不斷的拉鋸，此次巴西的創新立法也可說相當具有參考性。
中國大陸財政部及科技部印發《國家重點研發計畫資金管理辦法》於2016年12月30日，中國大陸財政部及科技部為規範國家重點研發計畫管理，切實提高資金使用效益聯合發佈了《國家重點研發計畫資金管理辦法》。 該計畫以支援解決重大科技問題為目標，以“優化資源配置、完善管理機制、提高資金效益”為重點，辦法全文共8章57條，根據國家重點研發計畫特點，從預算編制到執行、結題驗收到監督檢查，針對全過程提出了資金管理的要求，明確《辦法》制定的目的和依據、重點研發計畫資金支援方向、管理使用原則和適用範圍，就重點專項概預算管理、專案資金開支範圍、預算編制與審批、預算執行與調劑、財務驗收、監督檢查等具體內容和流程、職責做了明確規定。 與原科技計畫資金管理辦法相比，《辦法》主要有以下變化： 1.建立了適應重點研發計畫管理特點的概預算管理模式。 2.遵循科研活動規律，落實“放、管、服”改革。適應科研活動的不確定性的特點，《辦法》堅持簡政放權，簡化預算編制，下放預算調劑許可權。 3.突出以人為本，注重調動廣大科研人員積極性。 為推動辦法有效落實，財政部及科技部並要求相關部門、專案承擔單位需要共同做好以下工作： 1.相關主管部門應當督促所屬承擔單位加強內控制度和監督制約機制建設、落實重點專項項目資金管理責任。 2.財政部、科技部將組織開展宣傳培訓，指導各有關部門和單位開展學習，全面提高對《辦法》的認識和理解，為政策執行到位提供保障。 3.科技部、財政部將通過專項檢查、專項審計、年度報告分析、舉報核查、績效評價等方式，對專業機構、專案承擔單位貫徹落實《辦法》情況進行監督檢查或抽查。
美國成人節目公司Vivid要求HTC改變手機名稱Vivid Entertainment是一家成人節目公司，聲稱HTC有商標侵權並已向這電子龍頭寄出警告函。 該公司主張HTC之智慧型手機HTC Vivid 侵害其Vivid Entertainment的商標，並表示HTC使用「Vivid」名稱於4G LTE裝置，造成消費者錯誤印象，以為HTC公司及產品皆為Vivid Entertainment附屬或有所關聯，可能造成消費者混淆或誤認。 Vivid Entertainment於11月14日寄出警告函，要求HTC停止使用該商標銷售手機，並宣稱從1984年已開始使用Vivid商標。該律師於此一警告函中表示HTC的手機名稱可能構成商標侵權、商標淡化及不實的來源標示。 Vivid Entertainment給予HTC回應此信之期限為11月21日，如未收到HTC回覆，Vivid Entertainment將進一步提出法律賠償。先前詢問HTC時，該公司表示：「我們正審視此一指控，我們不會有任何進一步評論，直到這問題被解決。」