落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
於2000年基因圖譜解碼後，「基因歧視」議題成為各界關注焦點，而在電子通訊技術之配合下，更加速了包括基因資訊之個人醫療資訊的流通。在此時空背景下，如何能在善用相關技術所帶來的便捷同時，也對於相關資訊不甚外流時，得以有適切的因應措施以保障患者之隱私，成為了必須處理的問題。 美國國會甫於今年(2009年)2月所通過的「經濟與臨床健康資訊科技法」 (The Health Information Technology for Economic and Clinical Health Act, HITECH) 之相關修正中，強化了對醫療資訊之保護，其中要求美國衛生暨福利部(the Department of Health and Human Service, HHS )，針對受保護之醫療資訊未經授權而取得、侵入、使用或公開外洩之情形擬定「暫行最終規則」(interim final rule)進行管理，該項規則亦於今年(2009年)8月24日公布。值得注意的是，HITECH之規範主體(適用主體、商業夥伴)與保護客體(未依法定方式做成保護措施之健康資訊)皆沿用「1996醫療保險可攜性與責任法案」（the Health Insurance Portability and Accountability Act of 1996, HIPAA）之定義。然而，與HIPPA最大的不同在於， HIPAA中僅以私人契約之隱私權政策間接地管理醫療資料外洩事件，但於暫行最終規則中直接課以相關主體一項明確且積極的法定通知義務。HITECH之規範主體，基於其注意義務，應於得知或可得而知之日起算，60日內完成通知義務；視醫療資訊外洩之嚴重程度，其通知之對象亦有所不同，必要時應通知當地重要媒體向外發布訊息，HHS也將會以表單方式公布於其網站中。 整體而言，HITECH首次課以規範主體主動向可能受影響個人通知醫療資訊外洩事件之義務，此為HIPPA過去所未規範者；其次HITECH也突破HIPAA過往基於契約關係執行相關隱私權及安全規定之作法，於法規上直接對於洩露醫療資訊之相關主體課以刑責，強化了違反HIPAA隱私權與安全規定之法律效果。惟值得注意的是，受限於美國國會對HHS提出最終規則之期限要求，HHS現階段所提出的版本僅屬暫行規定，最終規定之最終確切內容仍有待確定，也值得我們持續觀察。
電子投票機制及法律議題之研究 德國「新車輛及系統技術」補助計畫第二期「新車輛及系統技術」（Neue Fahrzeug- und Systemtechnologien）補助計畫係德國為確保汽車產業能夠在未來保持其技術領先地位所規劃的研究補助方案，該計畫從2015年6月起為期4年，聚焦車輛本體設計及車聯網技術解決方案；2018年11月，有感數位化變革所帶來的壓力，以及聯網自動駕駛顛覆未來交通面貌的潛力，德國聯邦經濟及能源部（BMWi）決定將前述計畫延長4年至2022年12月31日，並追加補助金額至每年6000萬歐元，促進聯網自動化駕駛及創新車輛領域的相關研發，具體鎖定的項目包含：（1）創新感測技術與傳動系統（2）高精度定位技術（3）迅速、安全、可靠的通信協作技術（4）創新資料融合及資料處理程序（5）人車互動技術（6）配套的測試程序與認證（7）電動車搭載自動駕駛功能的具體解決方案（8）透過輕量化提升能源效率技術（9）空氣動力學優化技術（10）創新動力推進技術。聯邦政府希望藉由第二輪的「新車輛及系統技術」補助計畫，協助歷來引以為傲的汽車工業克服資通訊技術革新、氣候保護趨嚴及能源效率要求所帶來的挑戰，全力避免此一德國重要經濟命脈淪為數位化浪潮下的犧牲者。
2016年中國大陸知識產權保護措施發展研析2016年中國大陸知識產權保護措施發展研析 資策會科技法律研究所 法律研究員 王凱嵐 105年11月28日 一、 前言 中國大陸為提升知識產權保護、運用、流通，於2009年開始，由其國家知識產權局每年推出知識產權戰略實施推進計畫，確立年度執行目標。根據WIPO[1]於2015年所公布的年度《世界智慧財產權指標》報告，內容中提到中國大陸在專利、商標、工業品外觀設計等智慧財產權領域的申請量均位居世界第一。顯示中國大陸在知識產權上之發展，不僅制度與環境不斷成長進步，其知識產權[2]之國際地位亦快速提升。 中國大陸2016年的知識產權推進計畫[3]持續在「嚴格保護知識產權」、「加強知識產權創造運用」、「深化知識產權領域改革」、「加大知識產權對外合作交流」、「確實知識產權發展基礎」及「加強組織實施和保障」六大面向提出政策措施。其中許多政策措施皆與保護知識產權有關，顯見中國大陸認為創造友善環境及建立保障機制為其發展知識產權並提高產值的重要基盤，因此本文擬就其中有關知識產權保護之措施進行重點說明。 二、 知識產權保護政策重點 1. 提高侵權法定賠償 由於知識產權侵權案件中，權利被侵害之一方舉證困難，且過去案例賠償金額偏低，無法有效嚇阻侵權行為之發生，故在知識產權保護法治化上，加強侵權行為懲治力度被中國大陸視為必要手段。除加大侵權人之侵權行為懲治力度，提高侵權法定賠償上限外，並針對情節嚴重的惡意侵權行為實施懲罰性賠償。 過去中國大陸之專利、商標訴訟案件，權利人獲得之賠償金額整體偏低，因此間接助長違法之侵權行為。因此，早在2013年已先將商標侵權的法定賠償額由50萬元提高到300萬元，使法院在審判上有更大的裁量空間，較能達到嚇阻侵權之效果，故「提高法定賠償上限」將成為中國大陸相關知識產權立法之趨勢。 2. 強化職務發明權益保護 為加強知識產權保護，營造良好市場環境，現行中國大陸「專利法」、「著作權法」已建立職務發明之基本制度，惟在實踐上仍存有問題(如:時常發生申請案發明人為公司代表人)[4]。因此，中國大陸國家知識產權局(SIPO)於2014年3月提出「職務發明草案」[5](送審稿)，內容對於發明創新的勞動者與資方間，於產出過程中所可能發生的法律議題及關係，以法律加以規範。 草案基於權利義務平衡及約定優先原則，勞資雙方得事先對於職務發明的報酬與權利歸屬等相關細節討論約定，而在當發生無法解決的狀況時(例如無契約約定或協議)，始引用本職務發明條例之規定。草案規定公司若選擇透過技術祕密保護時，發明人可以請求補償；若是申請知識產權，發明人可以請求獎勵和報酬。在權利申請過程中，若公司放棄，則應先事先通知發明人，發明人可以與公司協商，並以發明人自身名義取得申請權或是其他權利。 關於最低保障原則，為避免資方不與勞方協議職務發明的歸屬約定狀況發生，草案中也明確訂定了最低的保障門檻，給予職務發明員工基本主張權利，讓資方不得忽視發明人在職務發明中的權利。當雙方未約定相關獎勵與報酬時，草案中規定以「月平均工資」為最低的計算標準，同時制訂四種報酬的計算方式，以供勞資雙方在爭議產生時，可以作為依循的準則。 3. 提升訴訟審判精準度 過去司法判決常有標準不一之疑慮，造成專利判決之不確定性，因此在2016年計畫中要求地方知識產權法院總結審判實踐經驗，發布司法解釋並統一司法裁量，確保法律正確適用和有效保護知識產權之規範依據。在專利侵權判定標準上，確立專利權保護之範圍，避免壓縮創新空間、損害創新能力及公共利益。 在審判制度上，建立司法鑒定、專家證人、技術調查等訴訟制度，鼓勵法律在專利等相關技術案件審判中，妥善利用陪審員、專家證人、專家諮詢、技術鑒定之功能，透過多種途徑和管道，有效解決專業技術事實認定之問題。有條件的發展更有效之調查方式及具體作法，使知識產權之審判能不斷提升準確度[6]。 三、 結論 中國大陸在「十三五」[7]時期樹立新的發展理念，擬藉由深化知識產權重點領域改革，加速建設知識產權強國與推動經濟轉型升級。從討論司法制度之大方向，到提高侵權賠償之上限額度等具體規範上，皆可觀察出中國大在整體知識產權保護規劃，是以有系統及縝密的分類交由不同單位部門執行，這足以顯現中國大陸對於知識產權發展其保護之重要性。 智慧財產權在產業研發與升級扮演關鍵核心的角色，因此我國於2012年由行政院核定「智財戰略綱領」，明確指出智財相關規劃發展項目(如管理、運用、人才培育)。然而侵權訴訟賠償金額偏低、專利無效率偏高、職務發明激勵不足，仍亦為尚待解決之議題。當前我國面臨經濟轉型與產業升級的問題，在保護面更應縝密思考如何透過法令強化職務發明人的權益保障，藉此提升其研發創造意願；改善所有人的訴訟勝訴率，提升權利持有的效益，讓智財成為我國經濟發展之強大動力。 [1]世界智慧財產權組織。 [2]「知識產權」為中國大陸用語，我國稱「智慧財產權」。 [3]計劃全名為《2016年深入實施國家知識產權戰略加快建設知識產權強國推進計畫》。 [4]北美智權，<中國大陸職務發明條例草案>，2013/01/03，http://www.naipo.com/portals/1/web_tw/Knowledge_Center/Laws/CN-50.htm (最後瀏覽日:2016/10/26) [5]中國大陸國家知識產權局，<職務發明條例制定>，2016/04/24，http://www.sipo.gov.cn/ztzl/ywzt/zlfjqssxzdscxg/xylzlfxg/201504/t20150424_1107558.html (最後瀏覽日:2016/10/12) [6]中國最高人民法院，<最高人民法院關於貫徹實施國家知識產權戰略若干問題的意見>，2010/04/14，http://zscq.court.gov.cn/znss/201004/t20100414_4107.html (最後瀏覽日:2016/09/20) [7]全稱是『中華人民共和國國民經濟和社會發展第十三個五年規劃綱要』，由習近平定調，也是中國大陸國家層級整體經濟與社會發展規劃之第十三個五年規劃（英文為five-year plan），規劃期間是從2016年至2020年。