日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
由歐盟數位單一市場著作權指令觀察國際數位內容智慧財產權保障趨勢 資策會科技法律研究所 許椀婷 法律研究員 2019年1月17日 壹、背景說明 考量互聯網跨境傳輸，以及各國間著作權制度差異所帶來的影響，歐盟早於2015年即提出立法草案，討論至今預定於今年（2019）1月進行最終表決的「歐盟數位單一市場著作權指令草案（Directive on Copyright in the Digital Single Market, COD）」，其中第13條規定：「線上內容共享服務提供商和權利人應真誠合作，以確保排除未經授權的受保護作品或其他主題服務。」[1]，對線上內容共享服務提供商在提供權利人的權利保障上義務進行規範，引發許多有大量轉載用戶的大型數位內容平台(如google)的抗議。 以我國現況而言，著作權法敘明網路服務提供者之民事免責事由，並在第90-4條規範網路服務提供者應以契約、電子傳輸、自動偵測系統等方式，告知使用者其著作權或製版權保護措施，並確實履行該保護措施。並在告知累計三次侵權情事下，終止其提供的全部或部分服務。上述保護措施經主管機關核可，網路服務提供者應配合執行。[2]國家通訊傳播委員會更於2017年提出「數位通訊傳播法草案[3]」，賦予數位通訊平台業者（如:Facebook）概念相同之避風港條款：若平台提供者接獲有人檢舉平台內容侵權，業者將侵權內容下架就能免責，相對歐盟的立法方向，是以提供誘因以協助保障智慧財產權為核心作法。本文將對COD第13條所引發的爭議進行討論，做為我國後續相關修法之借鏡。 貳、侵權行為的刪除 COD第13條爭議之一，為該條款賦予線上內容共享服務提供商應刪除侵權內容之義務，但各界對應如何識別和刪除尚未達成共識。該指令過往版本中的「內容識別技術（content recognition technologies）」，普遍被解讀為要求平台使用自動化過濾器來掃描每一段上傳內容，阻止任何可能侵害著作權的行為。該識別技術讓人聯想到YouTube行之有年的Content ID[4]，其對影片和音訊進行侵權比對，標記平台內重複的內容，權利人經系統通知可透過下述方式維護權利，包括封鎖內容或追蹤、獲取觀看者資訊，作為行銷分析之用；或直接於影片中插入廣告增加收入。此外，權利人還能在Content ID無法檢測到重覆內容下進行手動聲明。Content ID在實務運作上飽受抨擊，原因包括配合「數位千禧年著作權法（Digital Millennium Copyright Act, DMCA）」的通知與刪除制度，增加平台業者封鎖或復原影片的負擔；Content ID的比對更有因自動化產生錯誤、資料庫既存錯誤、或惡意舉報等風險。[5]Youtube雖已在技術開發上耗費6,000萬美元[6]，且尚需負擔Content ID每日檢查大量數位內容的傳輸成本，結果仍然不是人人滿意，可見為何大眾會對內容識別技術的要求如此擔憂。由Content ID的案例可觀察出，辨識原始內容就遭遇如此多的困難，更不用說要準確辨識現在時下流行的二次創作，如對擷取新聞、電影畫面進行評論，或將圖片進行創意、詼諧嘲諷的改作等影片利用是否合法了。未來COD草案該條款的施行，恐對二次創作的流通產生一定程度的限制。 回顧我國目前著作權、及數位通訊傳播法草案等法規，針對網路服務提供者[7]、數位通訊傳播服務提供者[8]避風港，對業者的歸責較COD相對輕。而在業者需提供的技術上，經濟部智慧局已對著作權法第90條內提及之「通用辨識或保護技術措施」提出解釋，用以辨識（identify）或保護（protect）著作權或製版權之相關措施，如過濾網路侵權資訊、監測網路流量之技術等，均屬之，且強調該條款並非課予網路服務提供者負有發展該等技術措施之義務，智慧局將徵詢網路服務提供者、權利人及相關技術專家意見，並考量負擔成本等因素[9]。 參、結論與建議 在COD的進展上，目前COD的最新修訂草案已移除了內容識別技術的用詞，並補充例外應特別考慮基本權利，以例外和限制確保中小企業的負擔仍然適當，並避免自動封鎖內容[10]。回應大眾對於無法負擔技術成本的抗議，避免一些小規模網站可能無法負擔聘用人員監管成本的問題。此外，歐盟更釋出新聞稿說明指令草案並未具體說明需要以哪些工具來實踐目標，故自動化過濾器僅為一種可能的解決方案之一。[11] COD草案若通過，歐盟各成員國將被要求於2年內修改國內法規，以符合該指令之規定。若屆時該指令所產生的成本負擔，在業者評估下仍過於沉重，許多平台可能選擇避開歐盟市場，造成歐盟成員國民眾可獲取的內容驟減。 在內容創作者越來越重視自身權益的年代，針對數位平台與創作者間的權利與義務不斷被拿出來討論，不管是著作權法或是數位通訊傳播法草案，都有可能被要求配合國際趨勢和科技發展進行調整。未來若考量進一步導入如歐盟COD的審核機制，提供數位內容平台通知下架以外的義務，以促進著作權的合法授權及合理分配，應同理審慎評估我國實際可執行的技術能力範疇為何，估計產業可能需負擔的成本，降低對產業產生的衝擊，並檢視實施此類機制所能帶來的效益程度，作為增添此義務之佐證依據。 [1] European Parliament,Copyright in the Digital Single Market(2018), http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+TA+P8-TA-2018-0337+0+DOC+PDF+V0//EN (last visited Jan. 15, 2019 [2]《著作權法》第90-4條：「符合下列規定之網路服務提供者，適用第九十條之五至第九十條之八之規定：一、以契約、電子傳輸、自動偵測系統或其他方式，告知使用者其著作權或製版權保護措施，並確實履行該保護措施。二、以契約、電子傳輸、自動偵測系統或其他方式，告知使用者若有三次涉有侵權情事，應終止全部或部分服務。三、公告接收通知文件之聯繫窗口資訊。四、執行第三項之通用辨識或保護技術措施。連線服務提供者於接獲著作權人或製版權人就其使用者所為涉有侵權行為之通知後，將該通知以電子郵件轉送該使用者，視為符合前項第一款規定。著作權人或製版權人已提供為保護著作權或製版權之通用辨識或保護技術措施，經主管機關核可者，網路服務提供者應配合執行之。」 [3] 行政院，《數位通訊傳播草案》(2017) [4] Youtube，Content ID 的運作方式(2019)，https://support.google.com/youtube/answer/2797370?hl=zh-Hant [5] PlagiarismToday,(2019), YouTube’s Copyright Insanityhttps://www.plagiarismtoday.com/2019/01/10/youtubes-copyright-insanity/ (last visited Jan. 15, 2019) [6] Google,How Google Fights Piracy 2016(2016), https://drive.google.com/file/d/0BwxyRPFduTN2cl91LXJ0YjlYSjA/view (last visited Jan. 15, 2019) [7] 指提供下列服務者：（一）連線服務提供者：透過所控制或營運之系統或網路，以有線或無線方式，提供資訊傳輸、發送、接收，或於前開過程中之中介及短暫儲存之服務者。（二）快速存取服務提供者：應使用者之要求傳輸資訊後，透過所控制或營運之系統或網路，將該資訊為中介及暫時儲存，以供其後要求傳輸該資訊之使用者加速進入該資訊之服務者。（三）資訊儲存服務提供者：透過所控制或營運之系統或網路，應使用者之要求提供資訊儲存之服務者。（四）搜尋服務提供者：提供使用者有關網路資訊之索引、參考或連結之搜尋或連結之服務者。 [8] 指提供使用者數位通訊傳播服務(指提供公眾或他人使用數位通訊傳播-以有線、無線、衛星或其他電子傳輸設施傳送數位格式之聲音、影像、文字、數據或其他訊息之服務)之自然人、商號、法人或團體。 [9] 經濟部智慧財產局，著作權法網路服務提供者ISP民事免責事由Q＆A(2013)，https://www.tipo.gov.tw/ct.asp?xItem=207034&ctNode=7193&mp=1 [10] Special account shall be taken of fundamental rights, the use of exceptions and limitations as well as ensuring that the burden on SMEs remains appropriate and that automated blocking of content is avoided. [11] European Parliament, Q and A on the draft digital copyright directive(2019), http://www.europarl.europa.eu/news/en/press-room/20190111IPR23225/q-and-a-on-the-draft-digital-copyright-directive (last visited Jan. 15, 2019)
英國衛生部發布基因檢測與保險自律行為準則英國衛生部（Department of Health and Social Care）於2018年10月23日發布基因檢測與保險自律行為準則（Code on genetic testing and insurance－A voluntary code of practice agreed between HM Government and the Association of British Insurers on the role of genetic testing in insurance），該準則係由英國政府及英國保險業者協會(Association of British Insurers, ABI)共同制定，旨在取代先前的「基因與保險之協定與延期實施」（Concordat and Moratorium on Genetics and Insurance）文件，並以更易於理解的方式呈現原「基因與保險之協定與延期實施」之內容。 準則中列出八項承諾，此八項承諾為ABI代表其成員議定： 承諾一：保險業者（Insurers）會公平對待要保人（applicants）。保險業者不會要求或迫使任何要保人進行預測性或診斷性基因檢測；若要保人已進行預測性基因檢測，保險業者亦不會對其作出差別待遇，除非有如下之情況。 承諾二：列入附錄一之疾病類型並超過以下金額之保單，保險業者始得要求要保人提供預測性基因檢測之結果： 人壽保險－500,000英鎊 /人。 重大疾病險－300,000英鎊 /人。 收入保障險－30,000英鎊 /年。 目前列入附錄一之類型僅有亨丁頓氏舞蹈症（Huntington’s disease）之人壽保險總額超過500,000英鎊之情形。 承諾三：保險業者不會要求要保人提供： 要保人或被保險人於承保期間所進行之預測性基因檢測結果。 非為要保人或被保險人本人（如要保人或被保險人血親）之預測性基因檢測結果。 於科學研究背景下獲得之要保人或被保險人預測性基因檢測結果。 承諾四：若保險業者基於承諾二之規定要求要保人提供預測性基因檢測結果，亦不會針對該結果制定過於苛刻（disproportionate）的條款或條件。 承諾五：保險業者須於要保人簽約前提供明確之訊息，以說明： 根據本準則，要保人在何種情況下必須或無須提供相關預測性基因檢測結果。 若要保人自願提供對其有利的預測性基因檢測結果，保險決策將如何被影響。 承諾六：若要保人基於意外或自願向保險業者提供預測性基因檢測結果，保險業者可考量要保人之利益調整保單內容；若檢測結果對要保人不利，除非符合承諾二之情形，否則保險業者將忽略該檢測結果。 承諾七：販售人壽保險、重大疾病或收入保障保險之保險業者將： 每年向ABI報告其遵守本準則之情況。 根據本準則問答部分之詳細資訊，建立投訴程序（complaints procedure）。 每年向ABI報告與本準則運作上相關之投訴情形。 承諾八：販售人壽保險、重大疾病或收入保障保險之保險業者將指定至少一名經培訓之基因核保人（Nominate Genetics Underwriter, NGU），負責與遺傳資訊（genetic information）及遵守本準則相關之事項，且NGU之人數應與業務規模成比例。
新加坡修訂「建築物資通訊設施實施條例」 美國加州「對話機器人揭露法案」美國加州議會於2018年9月28日通過加州參議院之對話機器人揭露法案（Bots Disclosure Act, Senate Bill No. 1001）。此一法案於美國加州商業及專門職業法規（Business and Professions Code）第七部（Division）第三篇（Part）下增訂了第六章（Part）「機器人」乙章，擬防範「利用對話機器人誤導消費者其為真人同時並誤導消費者進行不公平交易」之商業模式，本法案將於2019年7月1日正式生效。依此法案，企業如有使用對話機器人，則應揭露此一事實，讓消費者知悉自己是在與對話機器人溝通。 美國加州對話機器人揭露法案對於「機器人」之定義為全自動化之線上帳戶，其所包含之貼文、活動實質上並非人類所形成。對於「線上」之定義為，任何公眾所可連結上之線上網站、網路應用軟體、數位軟體。對於「人類」之定義為自然人、有限公司、合夥、政府、團體等其他法律上組織或擬制人格。如業者使用對話機器人進行行銷、推銷時，有揭露其為對話機器人之事實，將不被認定違反對話機器人揭露法案，但揭露之手段必須明確、無含糊且合理可讓消費者知悉其所對話之對象為非人類之機器人。值得注意者為，美國加州對話機器人揭露法案，針對「美國本土造訪用戶群在過去12月間經常性達到每月10,000,000人」之網站，可排除此規定之限制。 本法案僅課予業者揭露義務，至於業者違反本法之法律效果，依本法案第17941條，需參照其他相關法規予以決定。例如違反本法案者，即可能被視為是違反美國加州民法揭露資訊之義務者而需擔負相關民事賠償責任。最後值得注意者為，本法案於第17941條針對「利用對話機器人誤導公民其為真人同時影響公民投票決定」之行為，亦納入規範，亦即選舉人如有利用對話機器人影響選舉結果而未揭露其利用對話機器人之事實時，依本條將被視為違法。