日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
英國高等法院(High Court)於2014年10月17日裁定網路服務提供者(Internet Service Provider, ISP)需協助業者打擊仿冒商品。全球第二大奢侈品集團Richemont Group於英國控告英國五大網路服務提供者即BSkyB、British Telecom、EE、TalkTalk和VirginMedia，要求網路服務提供者封鎖所有銷售該集團仿冒品的網站，避免網路使用者接觸到這些商標仿冒侵權的違法網站。 Richemont Group為Cartier、Piaget、Montblanc等精品品牌的母公司，其集團發言人表示此次的判決為打擊仿冒品網購業者邁前了一大步，對於法院認可防止涉及仿冒品的商標侵權有利於公眾利益感到滿意。 在此判決出爐前的三年以來，只有著作權人可就著作權侵權為由要求網路服務提供者封鎖仿冒品網站，如今首次將此權利延伸到商標權人手上，針對販售侵害商標權仿冒品的網站加以封鎖。 Arty Rajendra律師表示，網際網路讓販售仿冒品的非法網站能夠匿名並且隱藏位置，要封鎖販售仿冒品的網站是一件十分困難的事。因此，停止為這些網站帶來流量將如同停止供給他們氧氣，而網路服務提供者剛好在這環節中扮演非常重要的角色，因為他們可以限制對於這些非法網站的接觸(access)。 可預見的是，在此判決後，將會有越來越多商標權人要求網路服務提供者封鎖銷售仿冒品的網站。
歐盟日前開始適用非個資之資料流通規則歐盟於2018年11月間通過Regulation (EU) 2018/1807，即促進非屬個人資料（下簡稱個資）之資料流通規則（下簡稱規則），藉以促進歐洲單一數位市場之規模經濟，並於2019年05月28日開始適用，據此，歐盟執委會亦因應該規則而頒布指引（COM(2019) 250 final），以釐清規則與GDPR之互動關係。 該規則開宗明義表示其制定係為了促進非屬個資之資料（下稱資料）流通，即其適用範圍包含（1）提供予歐盟境內之用戶使用，或（2）在歐盟境內之人依其需要所衍生者等資料，但排除GDPR第4條所定義之個資，故不排除GDPR之適用可能，申言之，若資料集中同時含有資料與個資，則流通則應分別適用本規則及指引（資料部份）與GDPR（個資部份）。 此外，為有效達成資料流通，各個歐盟成員國原則上禁止作出資料在地化要求（Data Localisation Requirements），例外僅於公共安全之前提下，且有充分的理由，方得做出合比例性之要求，並於單一資訊網站上即時更新資料在地化要求之清單，不過至遲在2021年05月30日前，成員國須確認其境內之相關規範已無前開例外之資料在地化要求。 又，為使歐盟各成員國就資料流通之無礙溝通，各成員國應設單一聯繫窗口，而在（1）歐盟相關規定或（2）國與國間不具特定合作機制，致成員國無法取得資料之近用權限時，該成員國之單一聯繫窗口得向資料所屬成員國之單一聯繫窗口發出協助請求，並附上請求之原因說明與近用資料之法律依據。 綜上，本規則及其指引與GDPR及其相關規定，對於資料與個資等流通分別建構出穩固的法律系統與環境。
美國田納西州《確保肖像、聲音和圖像安全法案》要求第三方若利用生成工具重製肖像、聲音或圖像應得本人之事前同意作為鄉村音樂發源地的美國田納西州，有著蓬勃的音樂產業，匯聚來自各路的表演藝術工作者，因而對相關從業者的個人公開權（Right of Publicity）保障尤為重視，早在1984年即制訂《個人權利保護法》（Personal Rights Protection Act），確保該權利不會因權利人死亡而消滅，屬於可由他人繼承之財產權，允許繼承人自由轉讓和授權，包含其姓名（Name）、肖像（Image）、形象（Likeness）之權利主張，但被繼承人之聲音仍不在權利主張的範疇。 惟現今AI深偽仿聲技術所生成之音樂亦可能侵害音樂人及藝術家的智慧財產權，因而於2024年3月21日由州長簽署《確保肖像、聲音和圖像安全法案》（Ensuring Likeness Voice and Image Security Act），簡稱貓王法案（ELVIS Act），該法案於3月7日獲得州議會兩黨一致支持，首度明確將個人公開權得主張之範圍擴及至表演者的聲音（NIL+V），其目的是為了應對AI生成音樂的突破性進展，以保護音樂創作人及表演藝術家之權利免受AI技術侵害，這是全美首部禁止他人未經授權使用或重製權利人的聲音以供訓練AI模型或生成深偽內容所制定的法律（註：加州雖已將聲音作為權利保護客體但非針對AI技術之侵害），明確規定第三人在未得本人之同意下，若意圖利用AI深偽技術生成經仿製、偽造或變造的圖片、影音、聲音等數位檔案，而後續冒用本人名義進行公開發表或公開演出詞曲創作人及表演藝術工作者之聲音或影像的行為，則須承擔相應的民事侵權行為責任，以及構成歸類在微罪的刑事犯罪，刑期最高可處11個月又29天的監禁或2,500美元以下的罰金，該法案預計於今年7月1日生效，且僅適用於在田納西州境內的工作者。 該法案所保護之主體除音樂創作人及表演藝術家外，亦包含動畫配音員及串流媒體盛行下廣播與網路節目的播音員（俗稱播客），以確保這類主要仰賴聲音維生的工作者能免於AI仿聲技術而減損其專業價值；另外若有與詞曲創作人或表演藝術工作者締結專屬合約之唱片公司或經紀公司亦為訴訟程序的適格當事人，可代理公司旗下的工作者尋求救濟管道；最後，若利用權利人的姓名（Name）、肖像（Image）、形象（Likeness）或聲音（Voice）屬於法案中列舉的合理使用行為，如基於公益目的、新聞播報、轉化性使用、偶然入鏡或著作之附帶性利用等，則應屬美國憲法第一修正案之保障範圍而非在該法案的規範射程。 除田納西州之外，美國尚有其他39個州提出或正在推動相似的法案，但全美目前仍欠缺統一性的立法；聯邦政府仍尚在研擬如何保護表演藝術工作者個人公開權的階段，日前在田納西州政府今年1月時提出貓王法案的草案後不久，由美國眾議院議員組成的跨黨派小組曾公佈《禁止人工智慧偽造和未經授權的重製法案》（或稱為《禁止人工智慧詐欺法案》），旨在推動建立聯邦層級的框架性立法，以確保個人的聲音或肖像權屬美國憲法第一修正案的保障範圍，而該提案據稱是針對美國參議院去年10月提出的《鼓勵原創、培育藝術和維繫安全娛樂法案》（或稱為《禁止仿冒法案》）的更新及補充，以維護公共利益，創造具有原創性、正當性及安全性的休閒娛樂環境。
英國試辦技轉共享辦公室，推動跨校共享技轉資源，加速研發成果衍生新創公司英國研究與創新總署（UK Research and Innovation, UKRI）於2026年5月18日公布「技轉共享辦公室」（shared Technology Transfer Office, Shared TTO）計畫成果，驗證透過跨校共享技術移轉與商業化專業服務，可協助研究規模較小或技轉資源有限的大學，提升研發成果商業化能力。Shared TTO並非指各校共享研發成果進行技術移轉，而是由多所大學共同使用智財管理、技術授權、衍生新創設立、法律諮詢、投資媒合及創業培訓等專業服務，以降低各大學重複建置技轉團隊成本，並提升研發成果運用效率。 該計畫於2024年11月至2025年4月執行，投入474萬英鎊，支持13項專案，串聯81個組織，如大學、律所、投資人、地方政府及醫院等。短短6個月內即促成6家衍生新創公司成立、推動323項商業化機會，並吸引逾850名學生及研究人員參與培訓，顯示Shared TTO有助加速研發成果商業化。 新創成果涵蓋工程、太空科技、永續時尚等領域，如Blast EcoShield開發防爆「活體牆」（living walls）技術、Circular Capital運用AI推動循環時尚、Frontier Space發展太空實驗室（SpaceLab）與太空生物製造平台（Space Biomanufacturing Platform）、Giving Hope推動母嬰支持服務、Reskinning Reality開發數位服裝技術，以及Voxshell開發自動化3D網格生成軟體。綜上，Shared TTO展現跨校共享技轉資源可有效提升成果商業化效率與衍生新創發展成效，為英國推動區域創新及成果落地的重要政策工具。