落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
- 美國聯網車監管制度與合規實務說明會
在奈米產品開創新生活態樣的同時，也因為奈米材料相異之運用途徑，產生了管理上的困難。儘管如此，新興科技仍應就風險而設計因應之道，並著眼於鑑別奈米材料潛在之危險性、瞭解人體暴露於奈米微粒環境之程度，以及確認適當之評估策略。 加拿大學術議會(Council of Canadian Academies)於2008年7月公佈奈米研究報告「微小即不同：由科學觀點看奈米法制之挑戰(Small is Different: A Science Perspective on the Regulatory Challenges of the Nanoscale)」；目的係針對奈米科技之學術研究、風險評估與管理監控等三部份奠定法制基礎。該報告由加拿大健康部擔任召集人，並成立奈米專家小組，共歷時八個月完成；內容分為三項：彙整該小組對於奈米議題所累積之科學成果、擷取網路使用大眾對於奈米材料相關法規之諮詢與對話，以及奈米專家針對該新興科技所提出之建議與發展方針。 然而，就法規面而言，該研究小組認為，根據現下奈米材料之特性，尚無制定新法之必要，僅需延伸現有法規機制即可，並提供建議如下： (1) 設定專門用語和分級以便於奈米材料之EHS研究。 (2) 建立標準安全控制程序或技術。 (3) 重新思考以工作場域、消費者及環境為主軸之監督方式。 (4) 使用得宜之生命週期途徑以分析奈米材料之相關風險。 該報告指出，現有的科技法規與風險處理機制，著實因侷限於奈米材料諸多之未知而遭受挑戰，並引發各界對於相應管理策略之大規模研究，故無論中央或地方政府，應更加關注國內各部會於奈米議題下之協調、科學環境之變化，及他國法制之更替。
稻米基因定序大功告成，有助解決全球糧食問題由十個國家的科學家共同努力完成的「國際水稻基因組定序計畫（ IRGSP ）」，其研究成果刊登於最新一期的 Nature 期刊。科學家們共同解讀水稻 12 條染色體的基因密碼，未來將根據這些密碼來控制水稻的生長和結穗，可望有助解決全球糧食問題。 依聯合國統計資料顯示，水稻是全球人口 20% 的食物能量來源，而在全球人口持續擴增之情況下， 2025 年必須提高 30% 的水稻產量，才能擁有足夠糧食。 自1998 年起，本計畫即在日本主導之下，與中華民國、韓國、英國、加拿大、美國、巴西、印度、法國與中國等國之定序實驗室進行分工、共享，定序後的 DNA 序列將放在公開序列資料庫，供研究人員使用；而本計畫已在 2002 年底完成草圖，並陸續完成彌補空隙與基因註解工作。本計畫之成果於近幾年來，已陸續協助辨識數個影響重要農藝性狀的基因，例如，影響植物生長勢、提高水稻產量的基因、改變水稻光週期、使優良栽培種得以擴展種植面積的基因、控制植株高度的基因等。 水稻基因組定序工作之完成宣告後基因組時代的正式來臨，而完成此一世紀任務之際，善用相關經驗與新知，以投入水稻的深入研究工作，將能台灣水稻及其他作物的遺傳育種研究提供實際幫助。
2016年中國大陸知識產權保護措施發展研析2016年中國大陸知識產權保護措施發展研析 資策會科技法律研究所 法律研究員 王凱嵐 105年11月28日 一、 前言 中國大陸為提升知識產權保護、運用、流通，於2009年開始，由其國家知識產權局每年推出知識產權戰略實施推進計畫，確立年度執行目標。根據WIPO[1]於2015年所公布的年度《世界智慧財產權指標》報告，內容中提到中國大陸在專利、商標、工業品外觀設計等智慧財產權領域的申請量均位居世界第一。顯示中國大陸在知識產權上之發展，不僅制度與環境不斷成長進步，其知識產權[2]之國際地位亦快速提升。 中國大陸2016年的知識產權推進計畫[3]持續在「嚴格保護知識產權」、「加強知識產權創造運用」、「深化知識產權領域改革」、「加大知識產權對外合作交流」、「確實知識產權發展基礎」及「加強組織實施和保障」六大面向提出政策措施。其中許多政策措施皆與保護知識產權有關，顯見中國大陸認為創造友善環境及建立保障機制為其發展知識產權並提高產值的重要基盤，因此本文擬就其中有關知識產權保護之措施進行重點說明。 二、 知識產權保護政策重點 1. 提高侵權法定賠償 由於知識產權侵權案件中，權利被侵害之一方舉證困難，且過去案例賠償金額偏低，無法有效嚇阻侵權行為之發生，故在知識產權保護法治化上，加強侵權行為懲治力度被中國大陸視為必要手段。除加大侵權人之侵權行為懲治力度，提高侵權法定賠償上限外，並針對情節嚴重的惡意侵權行為實施懲罰性賠償。 過去中國大陸之專利、商標訴訟案件，權利人獲得之賠償金額整體偏低，因此間接助長違法之侵權行為。因此，早在2013年已先將商標侵權的法定賠償額由50萬元提高到300萬元，使法院在審判上有更大的裁量空間，較能達到嚇阻侵權之效果，故「提高法定賠償上限」將成為中國大陸相關知識產權立法之趨勢。 2. 強化職務發明權益保護 為加強知識產權保護，營造良好市場環境，現行中國大陸「專利法」、「著作權法」已建立職務發明之基本制度，惟在實踐上仍存有問題(如:時常發生申請案發明人為公司代表人)[4]。因此，中國大陸國家知識產權局(SIPO)於2014年3月提出「職務發明草案」[5](送審稿)，內容對於發明創新的勞動者與資方間，於產出過程中所可能發生的法律議題及關係，以法律加以規範。 草案基於權利義務平衡及約定優先原則，勞資雙方得事先對於職務發明的報酬與權利歸屬等相關細節討論約定，而在當發生無法解決的狀況時(例如無契約約定或協議)，始引用本職務發明條例之規定。草案規定公司若選擇透過技術祕密保護時，發明人可以請求補償；若是申請知識產權，發明人可以請求獎勵和報酬。在權利申請過程中，若公司放棄，則應先事先通知發明人，發明人可以與公司協商，並以發明人自身名義取得申請權或是其他權利。 關於最低保障原則，為避免資方不與勞方協議職務發明的歸屬約定狀況發生，草案中也明確訂定了最低的保障門檻，給予職務發明員工基本主張權利，讓資方不得忽視發明人在職務發明中的權利。當雙方未約定相關獎勵與報酬時，草案中規定以「月平均工資」為最低的計算標準，同時制訂四種報酬的計算方式，以供勞資雙方在爭議產生時，可以作為依循的準則。 3. 提升訴訟審判精準度 過去司法判決常有標準不一之疑慮，造成專利判決之不確定性，因此在2016年計畫中要求地方知識產權法院總結審判實踐經驗，發布司法解釋並統一司法裁量，確保法律正確適用和有效保護知識產權之規範依據。在專利侵權判定標準上，確立專利權保護之範圍，避免壓縮創新空間、損害創新能力及公共利益。 在審判制度上，建立司法鑒定、專家證人、技術調查等訴訟制度，鼓勵法律在專利等相關技術案件審判中，妥善利用陪審員、專家證人、專家諮詢、技術鑒定之功能，透過多種途徑和管道，有效解決專業技術事實認定之問題。有條件的發展更有效之調查方式及具體作法，使知識產權之審判能不斷提升準確度[6]。 三、 結論 中國大陸在「十三五」[7]時期樹立新的發展理念，擬藉由深化知識產權重點領域改革，加速建設知識產權強國與推動經濟轉型升級。從討論司法制度之大方向，到提高侵權賠償之上限額度等具體規範上，皆可觀察出中國大在整體知識產權保護規劃，是以有系統及縝密的分類交由不同單位部門執行，這足以顯現中國大陸對於知識產權發展其保護之重要性。 智慧財產權在產業研發與升級扮演關鍵核心的角色，因此我國於2012年由行政院核定「智財戰略綱領」，明確指出智財相關規劃發展項目(如管理、運用、人才培育)。然而侵權訴訟賠償金額偏低、專利無效率偏高、職務發明激勵不足，仍亦為尚待解決之議題。當前我國面臨經濟轉型與產業升級的問題，在保護面更應縝密思考如何透過法令強化職務發明人的權益保障，藉此提升其研發創造意願；改善所有人的訴訟勝訴率，提升權利持有的效益，讓智財成為我國經濟發展之強大動力。 [1]世界智慧財產權組織。 [2]「知識產權」為中國大陸用語，我國稱「智慧財產權」。 [3]計劃全名為《2016年深入實施國家知識產權戰略加快建設知識產權強國推進計畫》。 [4]北美智權，<中國大陸職務發明條例草案>，2013/01/03，http://www.naipo.com/portals/1/web_tw/Knowledge_Center/Laws/CN-50.htm (最後瀏覽日:2016/10/26) [5]中國大陸國家知識產權局，<職務發明條例制定>，2016/04/24，http://www.sipo.gov.cn/ztzl/ywzt/zlfjqssxzdscxg/xylzlfxg/201504/t20150424_1107558.html (最後瀏覽日:2016/10/12) [6]中國最高人民法院，<最高人民法院關於貫徹實施國家知識產權戰略若干問題的意見>，2010/04/14，http://zscq.court.gov.cn/znss/201004/t20100414_4107.html (最後瀏覽日:2016/09/20) [7]全稱是『中華人民共和國國民經濟和社會發展第十三個五年規劃綱要』，由習近平定調，也是中國大陸國家層級整體經濟與社會發展規劃之第十三個五年規劃（英文為five-year plan），規劃期間是從2016年至2020年。
中國大陸最高人民法院於2014年11月3日公布《最高人民法院關於北京、上海、廣州知識產權法院案件管轄的規定》根據中國大陸最高人民法院（以下簡稱高法）2014年11月3日公布之《最高人民法院關於北京、上海、廣州知識產權法院案件管轄的規定》，大陸地區將陸續於北京、上海、廣州成立知識產權法院（即我國的智慧財產法院）。另據高法6日新聞報導，北京知識產權法院已於同月6日掛牌成立，至於上海、廣州兩地法院也將於年內正式成立。 大陸地區成立知識產權法院係本年8月31日由其第12屆全國人民代表大會常務委員會第10次會議所決定的，初步將於北京、上海、廣州三地成立專責法院。根據前開規定第1條，知識產權法院管轄的第一審案件包括三類：一、專利、植物新品種、集成電路布圖設計（即我國之積體電路布局）、技術秘密、計算機軟件等技術類民事和行政案件；二、對國務院部門或者縣級以上地方人民政府涉及著作權、商標、不正當競爭等行政行為提起訴訟的行政案件；三、涉及馳名商標認定的民事案件。 北京、上海、廣州知識產權法院的管轄範圍分別為北京、上海兩直轄市，以及廣東省，前述提及三類相關案件由三地知識產權法院專屬管轄。如有上訴，相關案件均由法院所在地的高級人民法院知識產權審判庭審理，而不再透過該地中級人民法院。且相關法院之法官除依專業進行分類、配置外，亦將設有技術調查官等，以強化專業審判的能力。 隨著科技的日新月異，以及智慧財產相關糾紛或訴訟案件的高度專業化，有關大陸地區成立知識產權法院，或許是為因應趨勢所不得不為之措施，然其具體運作及成效，後續仍值持續關切。