落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- (已額滿)114年「企業營業秘密保護實務座談會」(北部場)–營業秘密因應數位環境之保護風險及管理對策
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）
日本經濟產業省、公平交易委員會及特許廳於2020年12月23日發布「Startup與廠商合作之相關指針」（スタートアップとの事業連携に関する指針）草案，並自同日起至2021年1月25日止向外徵求公眾意見。近年，日本國內一方面看重新創事業與大型企業合作所帶來的優勢；另一方面，在此種合作關係下，雙方的契約關係亦浮現如名為共同研究、卻由大型企業方獨占專利權等問題。基此，配合2020年4月未來投資會議的決議要求，統整新創事業與大型企業間不對等契約關係的問題與提出改善建議，並參考同年11月公平交易委員會所發布的「Startup交易習慣之現況調查報告最終版」（スタートアップの取引慣行に関する実態調査について最終報告），擬定本指針草案。 本指針主要著眼於新創事業與企業間的保密協議（Non-disclosure agreement, NDA）、概念驗證（Proof of Concept, PoC）契約、共同研究契約與授權（license）契約等四種契約類型。除了統整包含訂約階段在內的各種問題實例、以及日本獨占禁止法（私的独占の禁止及び公正取引の確保に関する法律）對此的適用現況外，亦提出了相應的改善與解決方案。舉例而言，指針草案指出，新創事業可能會被合作廠商要求對其公開營業秘密，卻未能簽訂保密協議。對此，合作廠商即可能構成獨占禁止法上濫用其優勢地位之行為。會造成此狀況發生的實務情境，可能為合作廠商承諾事後會簽署保密協議，但要求新創事業先行揭露其程式的原始碼等營業秘密等。而原因則主要包含新創事業缺乏足夠法律素養（literacy）、以及有關開放式創新的相關知識不足等。基此，指針提出改善方案，例如，締約前新創事業即先行區分出可直接向契約他方揭露的營業秘密、得透過締結NDA約定揭露之營業秘密、以及不得揭露之營業秘密等；締結NDA時，應盡可能具體約定營業秘密的使用目的、對象及範圍，並且考量到通常難以舉證廠商違反保密協議，因此不建議揭露攸關新創事業核心能力（core competence）的營業秘密。
美國商務部國家技術與標準局公布技術創新計畫（TIP）之執行規則草案，徵求外界意見過去十餘年來，美國商務部國家技術與標準局（The Commerce Department’s National Institute of Standards and Technology, NIST）推動的「先進技術計畫」（Advanced Technology Program, ATP），成功帶領美國中小企業透過技術的研發投入，創造美國經濟榮景。近年來面對變動劇烈的國際環境，為提升美國競爭力，美國總統於2007年8月9日簽署通過「意涵深遠地促進傑出技術、教育與科學之美國機會創造法」（The America Creating Opportunities To Meaningfully Promote Excellence In Technology, Education, And Science Act, 簡稱The America COMPETES Act）。 The America COMPETES Act特別授權NIST負責推動並執行一項新的研究補助計畫－技術創新計畫（Technology Innovation Program, TIP），企圖藉由在國家重點需求領域（critical national need areas），補助具有高風險性及高報酬的技術研究（high-risk, high-reward research），支持、促進並加速美國的創新。所謂「高風險、高報酬」之技術研究，指具有以下三項特質的技術研究：（1）研究可轉化成具體實益的潛在可行性，其成果將產生深遠及廣泛的影響；（2）研究計畫的進行係為了回應屬NIST技術職掌範圍內的重大國家需求；（3）研究的技術議題過於創新（too novel）或跨越甚多學科（spans too diverse a range of disciplines），以致傳統的專家審查程序無法適當地用來篩選此類計畫。至於「國家重點需求領域」，指問題觸及的面向極大，然須要被克服的社會挑戰（societal challenge）尚無因應之道而有賴國家予以關注，此等問題與社會挑戰可能可以透過高風險、高報酬研究之進行而予以解決者。 根據The America COMPETES Act，TIP將依研究實力競爭（on the basis of merit competitions）的原則，透過分攤成本的研究補助（cost-shared research grants）、合作協議（cooperative agreements）或契約（contracts）等方式，鼓勵業界單獨或共同（透過合資方式）提出技術創新的研究計畫申請以合資方式提出者，其主導者（lead entity）可為中小型企業或高等教育機構。TIP的補助對象限於設立於美國並在美國境內經營其主事務的中小型企業，外國企業參與TIP若符合美國經濟利益者，亦得獲得補助。TIP的補助金額不超過個別研究計畫總成本的半數，且只能用於補助直接成本，間接成本、收益或管理費則不在補助之列。總計對單一單位的補助以最長三年且不超過三百萬美元為限；對於合作研究則以最長五年且不過過九百萬美元為限。由於The America COMPETES Act僅就TIP的補助目的、補助對象、補助條件等作原則性規定，其運作細節仍有待NIST進一步設計，日前NIS已於2008年3月7日對外公布TIP執行規則草案，徵求各界意見。 隨著TIP的規劃與實際運作，過去由NIST所執行的ATP也將完成其歷史性任務，由TIP取代並宣告美國政府支持產業技術研發的新理念－亦即透過支持高風險、高報酬之技術研究，以回應美國的國家重點需求領域。 身為全球創新的龍頭，美國所提出的科技研發創新政策向為各國學習與參考借鏡的標竿，隨著The America COMPETES Act的通過，新法中關於美國產業創新的新機制規劃，已引起其他國家高度關注。印度科技與地球科學（Science & Technology and Earth Sciences）部長在The America COMPETES Act通過的一個月後即宣佈，印度政府將於短期內提出全面性的印度創新法案（Indian Innovation Act），藉以激勵印度的創新，而此項創新法案將會以美國的America COMPETES Act為參考模型。
英國運輸部向議會提交《2023年公共充電樁規則》草案，規範充電樁規格標準英國運輸部（Department for Transport）2023年7月11日向議會提交《2023年公共充電樁規則（Public Charge Point Regulations 2023）》草案，希望改善電動車駕駛的充電體驗。草案是根據《2018自動與電動車法（Automated and Electric Vehicles Act 2018）》授權，規定一系列充電樁營運商必須遵守的充電樁規格標準，充電樁營運商若未遵守相關規定，最高可處以每座充電樁1萬英鎊之罰鍰： 一、定價及費用透明：充電樁營運商必須清楚標示每時段定價，以便士/瓩時（p/kWh）作為計價單位。每次充電後必須顯示充電總費用。 二、須提供24小時免費客服專線：充電點營運商須提供免費24小時專線，支援客戶服務。同時將客戶所提出的問題、解決方式和時間做成紀錄。 三、開放資料：充電樁營運商必須遵守開放式充電協議（Open Charging Point Interface, OCPI），建構開放式充電網絡，消除漫遊服務資料存取的障礙，免費公開充電樁位置、充電狀態、功率等充電樁相關資料。 四、感應式支付：所有新的8瓩以上公共充電樁，及現有快速公共充電樁必須提供消費者零接觸、無現金支付選項。 五、99%可靠性：所有快速公共充電樁，可靠性要求必須高達99％（即99% 的時間可以正常使用），並在網站公開充電樁可靠性資料。 六、充電漫遊支付服務（Payment roaming）：充電樁營運商必須至少和一家第三方充電漫遊服務供應商（roaming provider）進行合作，使消費者可以透過漫遊服務，使用同一APP或具RFID感應功能的卡片，支付不同充電樁營運商的充電費用。
美國管理不實施專利主體立法進程與趨勢美國管理不實施專利主體立法進程與趨勢 科技法律研究所 法律研究員 劉憶成 2015年07月30日 壹、不實施專利主體概述 「不實施專利主體（non-practicing entity, 以下簡稱NPE）」乃是一個中性的名詞，NPE一方面可促進專利技術交易市場的活絡，但另一方面也有NPE不以活絡專利技術交易市場為目的，而是透過以低價購買專利成為專利權人，並據以行使《專利法》上之權利，投機性地靜待商品製造者投入不可回復之鉅額投資後，始對該商品製造者行使專利侵權主張，對於後者有人將其稱之為「Patent Troll」（中文有譯為「專利巨人」、「專利蟑螂」、「專利流氓」、「專利地痞」或「專利恐怖份子」等等，以下統譯為「專利地痞」）。 專利地痞藉由有問題的專利申請範圍恐嚇企業並勒索和解金的案例激增，對美國造成數十億美元的經濟耗損並且破壞了美國的創新，其橫行的技術領域以智慧型手機及其他消費性電子產品為最。根據加州舊金山的專利顧問公司RPX所作的研究，至2014年，美國專利侵權訴訟中有63%的訴訟是由專利地痞所提起，而受害公司花費在法律費用、和解或判決的費用約122億美元。因此如何降低專利訴訟的成本、降低無效專利的數量及提升專利權的授予品質都成為美國的重要政策目標。 貳、美國政府的對應措施 為了解決專利地痞所帶來的問題，美國早在2011年由國會通過《萊希-史密斯美國發明法（Leahy-Smith America Invents Act of 2011），以下簡稱AIA》，該法並於2012年生效。其目的在於透過改善美國專利制度，包括為發明人提供專利處理程序的快速通道、採取重要步驟來降低專利案件的積壓及提升美國人在國外保護其智慧財產權的能力等等。 不過，專利地痞所帶來的挑戰依舊，特別是專利地痞提出侵權訴訟之成本與被控侵權公司為了防禦所付出的成本之間不具對稱性，這使得專利地痞有機會以和解取得利益。因此，2013年美國政府曾向其國會提出立法七項建議，也祭出五項行政措施，使專利制度更具有透明性，並為發明者創造一個公平競爭的環境。 參、美國國會積極立法 對此，美國開始了多項進一步管理專利地痞的立法進程。以下將就2015年美國國會針對專利地痞所提出之法案進行介紹。 （一）新版創新法案（the Innovation Act） 本法案2015年2月5日送入美國眾議院審議，其法案接續2011年的「美國發明法案」（the American Invents Act，AIA），企圖進一步解決專利地痞濫用訴訟之難題，其中重要條款包括：由敗訴方負擔律師費、提高專利訴訟的成案基準（pleading standard）、專利權人揭示制度、客戶中止訴訟程序等等。 （二）警告函透明法案（Demand Letter Transparency Act of 2015） 美國眾院於2015年4月20日提出《警告函透明法案》，該法案首先要求美國專利與商標局（USPTO）建立一個公開可查詢的警告函資料庫，然後要求大量寄發侵害警告函的行為人必須透過這個資料庫對USPTO揭露其行動，同時侵害警告函的內容也必須記載這些資訊，使收信人能夠公平得知。 （三）保護美國人才與企業法案 美國參議院於2015年4月底針對抗衡美國patent troll提出法案，該法案名為《the Protecting American Talent and Entrepreneurship （PATENT） Act》。希望能制止美國近年來濫用美國專利制度，所造成許多不必要之專利訴訟案件等情形。美國眾議院於2015年5月底又針對PATENT Act法案作出修正，希望在打擊專利地痞的同時，又不至於而造成專利權人濫用AIA的保護。 肆、結論 為了解決專利地痞的問題，美國政府分別從立法及行政措施著手，依據美國歐巴馬總統的建議，不論是美國政府或是美國國會，刻正積極雙管齊下透過各項行政手段，例如修改專利相關規則，或者透過國會立法方式，對專利地痞進行規制。其實，專利地痞不僅橫行於美國，其亦在許多國家從事相關活動，故美國相關行政措施與立法，勢必成為各國在解決專利地痞問題時的重要參考依據，因此美國各項法案的後續發展，都值得吾人繼續關注。