落實完善數位資料管理機制,
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。
貳、重點說明
首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]。
其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。
其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站(https://www.tips.org.tw)
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國著作權局(US Copyright Office,USCO)於2023年3月16日頒布「具AI產出之著作註冊指引」(Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence),本指引之發布係由於近年美國著作權局時常收到人工智慧著作之註冊申請案,對於此類著作是否可以成功註冊,過去未有較明確之判斷準則,如此恐造成美國著作權體制之紊亂,著作權局遂發布本指引,以作為民眾申請註冊之著作包含利用AI創作內容時之指導依據。 本指引首先認定「著作人」之概念須為人類,此部分與美國憲法、美國著作權法及美國最高法院判例見解相同。 接著,本指引並描述到欲申請之著作,除前開之著作人須為人類外,人類須於該著作中傳達其原始精神理念(own original mental conception),不得為單純之透過機械運作所產生。惟此並非代表人類完全不得運用AI輔助創作,係取決於人類對該創作之創造性控制程度及該創作實際形成(Actually Formed)作者之傳統元素含量。 最後,本指引提出申請人於提出具AI產出著作時應提交之表格為標準表格(Standard Application),在創作者欄位中具體闡述人類作為作者之具體貢獻身份,且不能將AI列為作者或共同作者。至於在本指引發布前已提出之申請案,該指引提到申請人可以透過補充說明之方式,通知著作權局其著作中涉及AI產出部分,並就該部分聲明不專用,以符合新指引所要求之「揭露」。 綜觀以言,可以認定本指引之提出可作為著作人申請註冊時之遵循依據,初步解決過去未有AI著作申請註冊參考依據之弊病,然尚有許多細節待補充,且甚仰賴個案之判斷,惟本文認為未來隨AI科技之發展及廣泛利用,關「人類智慧」於著作貢獻程度更明確、更為具體之判斷標準勢必將應運而生,值得持續關注。
從AT&T併購時代華納反思我國通傳產業併購法制從AT&T併購時代華納反思我國通傳產業併購法制 資訊工業策進會科技法律研究所 108年10月 隨著數位化科技、網際網路相關技術之發展與普及化,帶動數位匯流(Digital Convergence)加速進展,相關產業間原本獨立的界線逐漸模糊,進而形成一個整合寬頻系統(Integrated Broadband System),也加速數位匯流相關事業的跨業經營及互相整併。在這樣的趨勢下,原本在媒體產業供應鏈上分屬不同領域之企業開始進行合作或跨業融合,也使得原本被認為對於侵害較小的垂直合併開始受到關注。 美國最大的固網電話服務供應商及行動電話服務供應商AT&T於2016年10月宣佈併購知名內容供應公司時代華納(Time Warner),交易價格約854億美元,此交易消息一出美國司法部反壟斷司即介入調查,並於2017年11月以合併後將損及競爭和形成壟斷,向法院提起反壟斷訴訟,但司法部之主張遭到法院否決,最後AT&T與時代華納完成併購。此案例為電信業者併購內容業者,雙方在媒體產業供應鏈上,占據不同的位置,為垂直合併之案例,本案重點在於司法部及法院如何看待其合併後是否構成壟斷而違反反托拉斯法,相關討論則可作為我國近年在通傳產業中垂直併購的審查參考。 壹、事件摘要 一、系爭併購公司介紹 併購方AT&T為全美最大的電信公司,主要提供包括行動、寬頻、固網及相關通信服務;而AT&T在2015年7月併購美國最大衛星電視供應商DirecTV後,獲得超過2100萬的收視客戶,也成為全美最大的有線電視訊號傳輸商(Multichannel Video Programming Distributor, MVPD);被併購方時代華納則為大眾媒體與娛樂事業集團,主要業務為內容製作與內容整合,旗下事業包括透納(Turner)廣播電視系統(包括TBS、CNN、HeadLine News、Cartoon Network、)、HBO頻道、及負責電影和電視制作的華納兄弟公司等[1]。 二、併購過程 2016年10月AT&T宣佈收購時代華納後,美國司法部反壟斷司即介入調查,並於2017年11月以合併後將損及競爭和形成壟斷,以違反克萊頓法(the Clayton Act)第7條[2]提起反壟斷訴訟[3] 。 2018年6月聯邦法院認為司法部未能提供足夠證據證明本案會損及競爭或消費者,允許本合併案進行,其後司法部於2018年7月基於「審查中決定的實質影響」和「延遲將造成不可挽回的傷害」,認為法院未考量DOJ提出的槓桿理論提出上訴[4]。 2019年2月26日哥倫比亞特區聯邦巡迴上訴法院拒絕司法部針對此併購案永久禁制令(Permanent Injunction)之請求,維持初審法院之判決,也就是允許AT&T併購時代華納[5]。司法部不再上訴,嗣後AT&T與時代華納正式完成交易,而時代華納也更名為華納媒體(Warner Media)成為AT&T旗下一員。 貳、重點說明 一、司法部主張違法之主要理由[6] (一)垂直合併將阻礙競爭 1.提高頻道授權金額 AT&T與DirecTV是全美最大的有線電視訊號傳輸商,而時代華納則擁有許多受歡迎電視頻道,包括:CNN、TBS、TNT、Cartoon Network、HBO、Cinemax,以及大量運動節目轉播權等。故本件雖為垂直合併模式,AT&T仍可能將取得的流行節目作為阻礙競爭的武器,利用購得之相關頻道向其他有線電視訊號傳輸商或線上影音業者(例如:Netflix、Amazon Prime)要求更高之授權金額與更優惠之條款以降低對手競爭力,而競爭對手為了平衡高授權費之收益將有可能增加消費者所付出的費用,而使消費者不利。 2.將可能產生客戶移轉效應 誠如上述AT&T併購時代華納將取得相關頻道所有權,若AT&T提高頻道授權價格,則將會使競爭對手拒絕與時代華納合作並取消相關頻道。雖然AT&T可能會失去原本授權頻道的收益,但因消費者無法從其他競爭對手方取得相關影視服務,使得消費者可能轉向擁有頻道之AT&T以取得服務,進而削弱對手競爭力,並從消費者端補回收益。 (二)合併將可能阻礙其他業者發展創新模式 近年來,Netflix 和Amazon Prime等線上影音平台因為價格較低、不須綁約也不需安裝機上盒,吸引許多消費者,而AT&T若透過前述說明之手段提高頻道授權金,將有可能降低業者競爭力並阻礙創新。 二、法院判決允許合併理由[7] (一)垂直合併損及競爭之證據不足 AT&T和時代華納為垂直整合的投資整併案,並非在同一市場營運的公司,故本合併案不會立即改變集中度,且司法部也未提供明確證據與判例說明本案結合會損及競爭,而相關經濟理論也未能明確指出垂直合併可能造成之影響。進一步而言,HBO頻道採取無廣告之方式進行內容播送,其主要收益並非來自廣告商,而是透過提升收視率與觸及消費者。HBO頻道這樣的收益方需要多觸及消費者,因此合併後AT&T應該不會隨意調漲價格阻礙其他業者播送HBO而降低消費者之觸及率。 司法部認為本案最主要會損及競爭之理由為提高頻道授權將會使費用轉嫁給消費者,但司法部並未考量消費者也可能因為合併後之產業效能而受惠,進而取得較低之價格。 (二)司法部提出阻礙創新之證據不足 司法部認為另一個損及競爭的理由是可能阻礙線上影音平台業者之創新發展。但是目前線上影音業者透過網路傳輸影音內容,且提供方式是由消費者自己選擇想看的內容並且從頭開始播放,與傳統有線頻道提供業者提供固定節目表之服務內容並不相同。而這樣的服務模式也不適合大型體育賽事之即時轉播,因此有許多運動賽事轉播權的時代華納並不會影響線上影音平台業者。而線上影音平台業者也因為這樣的創新模式使越來越多消費者放棄裝設有線電視,轉由線上影音平台。 參、事件評析 近年來,我國在通傳產業上也有許多垂直併購的案例,如同樣是有線電視系統業者併購內容產業的案例有:2017年3月台灣數位光訊科技股份有限公司(台數科)向公平會申請併購東森電視,公平交易委員會(公平會)雖附負擔同意[8],但同年5月,國家通訊傳播委員會(通傳會)考量本案垂直整合規模顯著,對產業發展及言論市場影響甚鉅,並且台數科曾有不法移頻作為而涉有限制競爭疑慮,對公共利益造成相當不利之影響等理由,不同意併購案[9],最後本案併購交易未能完成。而本案也顯示了我國通傳產業常見的幾個問題,以下簡要說明之: 一、主管機關間之分工機制 通傳會作為通訊傳播事業主管機關,依廣電三法及相關法規,通訊傳播事業結合需經NCC審核並同意;另視結合之一方可能涉及公平會等其他主管機關權責者,則需要另向他主管機關申報。依據目前實務作法,二機關在審核上之分工,依法得同時進行審理,也未有區分前後程序,而與傳統行政法上二階段行政處分之處理模式有所不同。 但這樣的作法卻在許多通傳產業的併購案上造成困擾,如同前述台數科併購東森之案例,公平會雖附負擔同意,但通傳會卻不同意而導致併購交易未能完成。若能參照他國在通傳產業併購之處理架構,由單一主管機關主責,並且平行溝通他主管機關之意見,不但可明確審核程序,並且能蒐集所有相關資訊,使業者得以確知主管機關審核進度與方向,而避免產生不同機關不同意見而增加業者之交易成本。 二、主管機關之審查標準 在台數科併東森案中,通傳會不同意之主要理由之一為「本案垂直整合規模至為顯著,對產業發展及言論市場影響甚鉅,交易標的包含收視率常年居於新聞頻道第3大之新聞台,結構集中恐不利言論多元發展。」並未就垂直合併所可能產生之影響進行量化分析,雖不同市場其產生之競爭效果較難以數據呈現,但在AT&T併購時代華納之案例,司法部與法院仍然試圖用數據進行合併之後的細部效益評估。過去多年來美國反托拉斯法之主責機關從未成功否決過任何產業間的垂直合併,主要原因在於根據美國司法部的併購審查指引(Non-Horizontal Merger Guidelines)[10]所提出之相關指引標準,垂直合併可能傷害消費者利益的風險,遠不及敵意併購或水平合併[11],但仍是提供併購雙方較為明確且具體的指引與標準。 主管機關針對跨產業之共通審查項目以及針對個別產業之審查項目,主要以法規中所提及:(1)確保通訊傳播市場公平有效競爭(2)保障消費者及尊重弱勢權益(3)促進多元文化均衡發展,作為審查標準,而這三項標準多為不確定法律概念,未來主管機關可參酌相關國家所關注之重點審查項目並提出更具體且細緻之審查標準,使通傳產業中之併購交易能夠更順利進行。 [1] Justice Department Challenges AT&T/DirecTV’s Acquisition of Time Warner , Department of Justice, https://www.justice.gov/opa/pr/justice-department-challenges-attdirectv-s-acquisition-time-warner (last visited July 26, 2019). [2] 15 U.S.C. § 18. [3] United States of America v. AT&T INC, DirecTV Group holdings, llc, Time Warner inc, No. 1:17-cv-02511(THE DISTRICT OF COLUMBIA Nov. 20, 2017) available at: https://assets.documentcloud.org/documents/4254868/AT-amp-T-Time-Warner-Complaint.pdf (last visited July 26, 2019). [4] Motion Of The United States To Expedite Consideration Of The Appeal, Department of Justice, https://www.justice.gov/atr/case-document/file/1081836/download (last visited July 26, 2019). [5] United States of America v. AT&T INC, DirecTV Group holdings, llc, Time Warner inc, No. 18-5214, available at: http://business.cch.com/ald/UsvATTInc2262019.pdf (last visited July 26, 2019). [6] Supra note 3. [7] United States v. AT&T Inc., Civil Case No. 17-2511 (RJL) (D.D.C. Jun. 12, 2018). [8]公平交易委員會結合案件決定書公結字第106001號,https://www.ftc.gov.tw/uploadDecision/f6739a33-ecca-4720-8aec-70314821641a.pdf (最後瀏覽日:2019/08/11)。 [9]國家通訊傳播委員會第750次委員會議紀錄,https://www.ncc.gov.tw/chinese/files/17060/67_37488_170607_1.pdf (最後瀏覽日:2019/08/11)。 [10] 請參見https://www.justice.gov/atr/page/file/1175141/download。 [11] Larry Downes, Why Mergers Like the AT&T-Time Warner Deal Should Go Through, Harvard Business Review, Nov. 17 2017.
猴子自拍照著作權爭議;美國法院:動物無法擁有著作權2015年1月6日,美國聯邦地區法官裁定,猴子用照相機自拍,猴子無法取得自拍照的著作權。 英國攝影師Slater在四年前,讓黑冠猴Naruto使用其相機,成功的拍出了罕見的黑冠猴自拍照;而攝影師Slater後來把這些自拍照收錄在出版書中,並同時在網路上公開,並獲得廣大迴響。但之後維基百科(Wikipedia)收進免費圖片資源中,供大眾免費下載使用,Slater認為則認為這些照片的著作權已經被英國官方認可屬於Slater所開設的公司,此認可應適用於全世界。惟美國著作權局在2014年最新政策中,認為著作權登記僅適用「人類作品」,據此Naruto之自拍照並不受著作權保障。 而善待動物組織PETA(People for the Ethical Treatment of Animals)組織也加入了著作權爭奪戰局,其認為由Naruto所拍攝自拍照,其著作權應屬於Naruto,但由於Naruto不懂如何行使權利,故由PETA代為管理著作權,相關收益均會用於保護黑冠猴,並且向舊金山聯邦法院提出告訴。美國聯邦法院則在2016年1月6日判決,目前著作權法仍未將保護範圍擴張至動物作品上,故Naruto並未擁有該自拍照著作權,自無PETA代掌著作權可能;PETA接獲判決後表示會提出上訴。
澳洲政府提出網路分級之安全措施澳洲政府在2009年12月15日對外公佈網路安全(cyber-safety)措施,包含: 1. 強制要求加裝ISP層級之網路分級過濾系統; 2. 給予提供家庭用戶額外過濾系統之ISP業者補貼; 3. 藉由澳洲通訊及媒體局(Australian Communications and Media Authority)及其他單位所建立之網路安全計畫,推動網路安全之教育和認知。 澳洲主管機關欲修法對於未依規定做出分級之網站及遭檢舉者,將會列入黑名單,封鎖其網路連線。並要求所有ISP業者必須封鎖所有含有不當內容(Refused Classification-rated material)之國外伺服器(servers),所謂內容不當包含,兒童性虐待、獸交、強制性交在內之性暴力、和過度詳細之犯罪行為或毒品使用。 該項立法若通過,澳洲將會成為民主國家中網路管制最嚴格之國家。 提出該法案之議員表示:「網路安全沒有萬無一失之保護方式,但是對於所有澳洲人,特別是孩童來說,遠離這些內容,是非常重要的。」 網路權益團體「澳洲電子先鋒」(Electronic Frontiers Australia)則質疑,「政府明知這樣的措施並無法幫助孩童,也不能幫助取締禁止該等內容。」其他網路使用者及情色網站業者,亦認為執法難以落實,部分合法網站可能反被封鎖,網路連線速度也可能受到影響。且網友常使用的點對點傳輸(P2P)或透過聊天室傳送檔案,均不在法案管制可及之處等。