落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
- 美國聯網車監管制度與合規實務說明會
德國KOINNO創新採購中心是由德國經濟暨能源辦事處(Bundesministerium für Wirtschaft und Energie)轄下的倉儲管理、採購與物流經濟協會(Bundesverband Materialwirtschaft,Einkauf und Logistik e.V, BME)所執掌，該協會主要任務為關於政府採購與各領域的物流管理的研發成果技術移轉、促進職業與終生教育的補助與經驗交流，目的在於創造未來趨勢、經濟發展與鼓勵創新。而KOINNO創新採購中心的成立宗旨即是持續提供政府採購的創新來源，並引導具有創新元素的政府採購實踐為成功經驗與最佳練習。 其中政府採購方面，BME在2004年建立該平臺，其功能為提供使研發成果能最佳實踐的對話交流、創造未來發展趨勢與創新、將研發成果技轉給採購機關與提升政府採購的價值。德國慕尼黑國防大學的公共採購法學與管理研究中心(Forschungszenturm für Recht und Management öffentlicher Beschaffung der Universität der Bundeswehr München,FoRMöB)是KOINNO的合作夥伴，同時也是德國唯一以企業經營與法學觀點分析公共採購問題的跨領域研究中心。
日本內閣網路安全中心發布網路安全協議會營運報告日本內閣網路安全中心（内閣サイバーセキュリティセンター）依據於2018年底新修正之網路安全基本法（サイバーセキュリティ基本法，以下稱基本法），於今年1月30日發布網路安全協議會的營運報告（以下稱營運報告）。 基本法修法原因在於網路攻擊日趨複雜，若組織受到網路攻擊，並非每個組織都有能力因應，如此將導致組織運作受到衝擊。因此於基本法第17條新增設立「網路安全協議會」（サイバーセキュリティ協議会，以下稱協議會）。日本內閣網路安全中心於前揭發布之營運報告中說明協議會之運作模式及招募成員情形。 運作模式上，協議會設有秘書處、營運委員會及總會，秘書處由內閣網路安全中心擔任，營運委員會由各機關首長組成，總會則由所有協議會成員組成並且定期召開會議；協議會將成員分成第一類成員、第二類成員及一般成員。第一類成員與第二類成員組成特別工作小組（タスクフォース），小組成員間會交換不對外公開且尚未確認的機密資訊，一般成員則依循特別工作小組提供的資訊及因應對策，加以實際運用。經營運報告統計，自協議會成立（2019年4月1日）至同年年底，一共發生33起網路攻擊事件，皆透過協議會促使各政府機關、私人組織迅速掌握網路攻擊資訊。 招募成員方面，協議會於去年5月加入第一期91名成員；同年10月，再加入64名第二期成員，目前為止共計155名；第三期成員已於今年三月開放申請加入，預計五月確定第三期成員。此外，營運報告中列有協議會成員名簿，成員包含內閣官房首長、資訊處理推進機構（情報処理推進機構）、宮城縣網路安全協議會、NTT DOCOMO電信公司、成田國際機場公司、石油化學工業協會、富士通、三菱電機等產、官、公協會組織單位。日本藉由設立協議會，期許透過政府與民間協力合作，共同維護政府公部門及產業之基礎網路安全。
A片也要搞創意！具原創性之A片享有著作權A片也要搞創意！具原創性之A片享有著作權 科技法律研究所 2014年04月20日 壹、事件摘要 99年7月北市知名成人光碟店，以每片10元至20元買進盜版的無碼、有碼Ａ片，再以25元至50元轉售牟利，同年8月檢警查扣一萬一千三百片，且幾乎都是日本色情影片，引發日本Ａ片商聯合跨海提告。 檢方認定部分露點Ａ片屬猥褻物品，部分沒露點Ａ片侵犯日本片商著作權，分依違反《著作權法》及散布販賣猥褻物品罪起訴，但台北地院根據88年的最高法院判決要旨，認為Ａ片違反公序良俗，不受《著作權法》保護，僅依販賣猥褻物品罪判處六個月有期徒刑。 檢方上訴智慧財產法院後，合議庭隨機挑16部Ａ片，由台大教授黃銘傑鑑定，鑑定認為其中3部有碼Ａ片未抄襲，而係導演透過講故事來表達想法，且拍攝手法、情節設計及情慾表現，均有其構思及獨特性，已屬具原創性的著作，遂改判違反《著作權法》及販賣猥褻物品罪。 貳、重點說明 一、88年最高法院台上字第250號判決 本案原審法院認為A片不能享有著作權，主要是採納最高法院88年度台上字第250號刑事判決之見解，該判決指出：著作權法第3條第1款所稱著作，係指屬於文學、科學、藝術或其他學術範圍之創作，色情光碟片不屬之。蓋著作權法之立法目的除在保障個人或法人智慧之著作，使著作物為大眾公正利用外，並注重文化之健全發展，故有礙維持社會秩序或違背公共利益之著述，既無由促進國家社會發展，且與著作權法之立法目的有違，基於既得權之保障仍需受公序良俗限制之原則，是以，色情光碟片非屬著作權法所稱之著作，自不受著作權法不得製造或販賣等之保障。 當年這項判決的背景是因為有人向日本A片商購得台灣地區之發行權後，以刑事訴訟手段到處對錄影帶出租店取締侵害，獲取不當暴利，全國錄影帶出租店哀鴻遍野。對於業者以A片為威脅獲取暴利之工具，顯與國民情感相違，最高法院釜底抽薪之計，就是讓A片不受著作權法保護，業者就無法為惡[1]。 二、智慧財產法院101年刑智上易字第74號判決 103年2月20日，智慧財產法院101年刑智上易字第74號判決認為國外具原創性的色情片，應受國內著作權保障，判決理由節錄如下： （一）人民表現自由之基本權利受憲法保護 按人民有言論、講學、著作及出版之自由，憲法第11條定有明文。我國修正前之著作權法係採註冊保護主義，必須經登記程序，始得取得著作權，不符憲法保護言論與著作自由之本旨，修正後改採創作保護主義，避免出版品主管機關動輒依據88年1 月25日廢止之出版法第32條第3 款之規範[2]（妨害風化），禁止猥褻出版品之出版。且違反公序良俗之著作，並非著作權法第9 條規定之消極取得著作權之要件。準此，本院認不得以著作權法未規範之消極要件，禁止或剝奪有原創性之色情著作權人，應受著作權法保護之權利，否則即與憲法賦予人民表現自由之基本權利不符。 （二）我國為WTO會員應遵守TRIPS協定 我國為WTO 之會員，即應遵守TRIPS 協定，依據TRIPS 協定第9 條第1 項規定，會員應遵從伯恩公約第1 條至第21條及附錄之內容，應適用國民待遇原則與最低限度保護原則。伯恩公約第17條僅容許會員國以立法或行政程序行使允許、演出或展出等權利，未容許各會員國得將色情著作排除在著作權法保護客體之外。著作權之保護固具有屬地性，然著作權具有國際普及保護之性，是以，藉由國際著作權公約之締結，統一各國有關著作權法之規範內容。我國為WTO 之會員國，而著作權法亦具有國際性，我國為配合世界趨勢，期與國際規範相結合，自應符合TRIPS 協定之內容，修改與解釋著作權法之規範。我國與WTO 之全體會員間存有著作權互惠保護關係，應遵守TRIPS 及伯恩公約之國民待遇原則，是以，WTO 會員之色情著作於著作財產權存續期間內，未經著作權人授權或同意均不得擅自重製或散布。依著作權法第4 條第2 款之規定，外國著作應受我國著作權法保護。既然保護外國著作，對外國及我國色情著作亦應為平等之對待。 （三）是否取得著作權，應以有無智慧創作為判斷標準 色情或猥褻之定義，因時代與社會風情不同而異。猥褻一詞係不確定的法律概念，其認定標準，應依各時代、地域之道德標準、禮俗規範及生活習慣而定。以往雖認為「查泰來夫人之情人」為色情小說，然時至今日則視該著作為探討女人情慾之重要文學論著。近年知名電影著作「色戒」，不乏男女性交畫面，是以，情色著作不因僅具有色情之元素，即認為非著作。著作權法保護智慧創作之投入，不作道德風俗之審查，是否取得著作權，端賴有無智慧創作之著作，作為保護之判斷標準。至於是否敗壞風俗或有無散布權，係刑法或相關法律之規範，並非著作權法應處理之法律議題。 （四）不得任意加諸著作權法未規定之限制 依據創作精神智力投入之程度，作為著作權保護之要件，不得因著作有色情之素材，而遽認為非著作。申言之，色情素材並非不受著作權保護之消極要件，著作權之保護不宜過於道德化，不得貿然即以公序良俗之公益名義，不當限制色情著作權人之權利行使。否則所有涉及公序良俗之情事，動輒主觀認定重於著作權之私益，屆時恐變成濫用公序良俗之情形，淪為流氓條款，將嚴重影響法之安定性及交易安全。 （五）抽樣之部分光碟具有原創性 我國著作權法採創作保護主義，故色情著作係本於獨立之思維、智巧及技匠，具有原創性，依著作權法第10條規定，著作人於色情著作完成時，即享有著作權。就原始性而言，係指著作人原始獨立完成之創作，而非抄襲或剽竊所致；創作性係指著作具有之少量創意，其足以表現作者之個性。職是，創作性之程度，不必達空前未有之地步，倘依社會通念，該著作與前已存在之作品間有可資區別之變化，足以表現著作人之個性即可。反之，著作與人類之思想感情無關，未能展現作者之個性者，即無創作性可言，則非著作權法所稱之創作。 起訴書附表編號126、600、696等光碟，均經專業團隊企畫，先由編劇編纂、設計不同內容之劇情及文案，並撰寫劇本及臺詞，繼而經由導演指導演員演出及專業攝影人員拍攝，復經剪輯後製及廣告行銷之策劃，花費諸多成本製作，核屬具原創性之人類精神創作，足以表現製作團隊之個性與獨特性。 參、事件評析 A片到底有沒有著作權？智慧財產法院101年刑智上易字第74號判決以原創性的有無，作為A片能否取得著作權之判斷標準，有別於實務上向以88年台上字250號判決為圭臬的否定見解，其見解不僅呼應了主管機關經濟部智慧財產局的看法「色情片或限制級片，不論是本國或外國，是否係本法所稱之著作，應視具體個案內容是否符合上述規定而定，如具有創作性，仍得為著作權保護標的。至於其是否為猥褻物品，其陳列、散布、播送等，是否受刑法或其他法令之限制、規範，應依各該法令決定之，與著作權無涉。」[3]，同時也與德國、美國、日本、大陸地區等立法例相同，故本判決一出，即獲得各方之贊同[4]。 然而，在肯定該判決的同時，觀察其判決理由，未來在判斷A片著作權時，除判斷是否具備原創性外，仍需注意以下事項： 一、色情軟蕊作品始受著作權法保護 判決理由提到：「…釋字第617 號解釋，將猥褻物品分為硬蕊與軟蕊。前者係指對含有暴力、性虐待或人獸性交等情節，不具藝術性、醫學性或教育性價值之猥褻資訊或物品；後者係指除硬蕊之外，客觀上足以刺激或滿足性慾，而令一般人感覺不堪呈現於眾或不能忍受而排拒之猥褻資訊或物品。因硬蕊著作之性質，非屬文學、科學、藝術或其他學術價值，顯無促進國家文化發展之功能，即無保護之必要性，故探討色情著作是否受著作權法之保護，著重於軟蕊之範疇。…」換言之，硬蕊作品並無著作權之保護，必須是屬於非含有暴力、性虐待或人獸性交等情節的軟蕊作品，始為該判決討論的範疇而受著作權保護。 二、是否需有馬賽克遮蔽始受著作權法保護？ 色情影片是否因「有碼片」或「無碼片」致受著作權法之保護有異？判決書中亦肯認此為本案爭點之一，對此，判決結論認為「具有原創性之色情軟蕊著作應受著作權法保護」。據此，色情影片受著作權保護需具備二個要件：（一）軟蕊著作（二）原創性。 然而，此項結論似無法解決馬賽克遮蔽的爭點，按判決理由中除詳細分析軟蕊、硬蕊的差異，並詳細介紹了16部抽樣鑑定影片的其中3部劇情內容、拍攝手法等而具有原創性，但卻未說明馬賽克遮蔽在著作權保護的差別，而僅以一句「…參諸該等影片性交畫面均使用馬賽克遮蔽，亦無任何人獸交、裸露性器官之畫面，其為具有原創性之視聽著作，自應受我國著作權法之保護。…」輕輕帶過，不免使人有所錯亂。亦即，對於被認定無著作權保護的13部影片，我們可能會推論其原因可能是（一）因無馬賽克遮蔽，故不屬於軟蕊著作。或（二）因無馬賽克遮蔽，故不具備原創性。抑或（三）軟蕊、具原創性，但無馬賽克遮蔽。 對於第一項推論，係將馬賽克遮蔽作為判斷軟蕊、硬蕊之標準，可能與大法官釋字第617號解釋所稱「係指對含有暴力、性虐待或人獸性交等情節，不具藝術性、醫學性或教育性價值之猥褻資訊或物品」之判斷基準有所出入；第二項推論，係將馬賽克遮蔽作為原創性之判斷標準，此時可能與該作品是否「本於獨立之思維、智巧及技匠，具有原始姓與創作性」之認定有所扞格；而第三項推論，則是將馬賽克遮蔽作為除軟蕊著作及原創性以外之第三個要件，然而對於此要件，卻未如前二項要件般於判決理由中詳細說明，故色情影片是否因「有碼片」或「無碼片」致受著作權法保護有異之訴訟爭點，恐怕仍有待釐清。 [1]章忠信，「A片可以享有著作權」，著作權筆記網站，http://www.copyrightnote.org/crnote/bbs.php?board=6&act=read&id=98（最後瀏覽日：103年3月4日） [2]出版法第32條（已廢止）：出版品不得為左列各款之記載： 一、觸犯或煽動他人觸犯內亂罪、外患罪者。 二、觸犯或煽動他人觸犯妨害公務罪、妨害投票罪或妨害秩序罪者。 三、觸犯或煽動他人觸犯褻瀆祀典罪或妨害風化罪者。 [3]經濟部智慧財產局中華民國92年09月10日智著字第0921600729-0號函 [4]同註1。