日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
垂直場域應用之5G頻譜政策趨勢 資訊工業策進會科技法律研究所 2019年07月25日 壹、事件摘要 在科技的進展下，各國為提升民眾與企業之連網品質，皆刻正積極的推動5G網路相關應用，國際標準化機構第三代合作夥伴計畫（3rd Generation Partnership Project, 3GPP）更提出了三個5G應用場景，分別是更大頻寬（Enhanced Mobile Broadband, eMBB）、海量連結（Massive Machine Type Communications, mMTC），以及超低時延（Ultra-reliable and Low Latency Communications, URLLC）[1]。而相對於4G時代如雨後春筍般冒出的影音串流平台，係以「人」為主要消費客群，5G時代則擴大至「萬物」[2]，其中，製造業因可能透過無線技術來重新配置產品線或研發新興產品，而在5G世代產生巨大變化[3]。也由於製造業廠區對無線接取設施之渴求，製造業者開始思索自行控制網路基礎設施之必要性，垂直場域應用之概念應運而生。 垂直場域應用又被稱為企業專網（private network），係指為了特定用途，企業或組織自行付費建置限定區域內之行動網路基礎設施，且該網路僅特定用戶得以使用。企業之所以願投入龐大成本自行建置網路基礎設施，是因垂直場域應用所具備的網路涵蓋密集、網路延遲低、網路容量大、網路安全高，以及得以自主控管網路之5大特性[4]。此外，企業還可完全掌握何人可接取至其專網，哪些行動應優先考量，以及如何完善利用網路資源等[5]。然無線網路的接取也意味著頻譜的使用，但頻譜是有限稀有的資源，為提高頻譜之使用效率與社會價值，如何妥善配置頻段，促進國內製造業之發展，已是政府不容忽視之議題。 貳、重點說明 為了鼓勵企業自行建置網路，部分國家透過保留特定頻段之頻譜政策規劃，再由有需求之業者申請取得，以鼓勵垂直場域應用之發展，並保障區域性業者、中小企業與新創企業取得頻譜之權利，以防止頻譜僅被全國性電信營運商取得。然而，這樣的政策面臨兩方面的重大挑戰，第一，電信業者擔憂企業自建網路可能會壓縮其取得頻譜的數量，是以對政府保留專網頻段表示反對；再來，大部分的企業缺乏自行營運電信網路之經驗[6]。僅管如此，在頻譜政策的規劃上，大致上仍可區分為兩種政策模式，即規劃保留單一完整頻段，或與其他既有服務共用頻譜，本文以下即分別以保留完整頻段的德國，以及與既有服務共享頻段的日本為例，說明其政策概要，並進一步探討我國是否亦有規劃垂直場域頻段之必要性，相關困難又應如何克服。 一、保留專用頻段(德國) 德國作為工業4.0（Industry 4.0）之發起國，為進一步推動智慧工廠與智慧製造，聯邦網路局（Bundesnetzagentur, BNetzA）在規劃5G頻譜時，除了透過競標釋出5G最關鍵的中頻段3.4-3.7 GHz供全國性電信服務使用，特別保留3.7-3.8 GHz頻段共100 MHz頻寬供企業專網使用。且由於數以萬計的中小企業是構成德國經濟的重要支柱，惟中小企業難以擁有龐大資本與電信業者共同競標頻譜，是以，為降低該等企業取得頻率之成本，並提升中小型企業與新創企業對頻譜之需求，BNetzA方保留特定頻段，並採申請制之方式配置[7]。 BNetzA在決議釋出3.7-3.8 GHz頻段供垂直場域應用使用前，於2018年8月15日至9月28日發布公眾諮詢文件，並在收到69份意見回覆，其中包含全球行動供應商協會（Global Mobile Suppliers Association, GSA）、大型製造業者BOSCH與空中巴士對保留特定頻段之正面支持後，在2019年1月31日針對徵詢意見發布框架草案，並預計在5G頻譜拍賣結束後開始接受申請。 BNetzA將3.7-3.8 GHz頻段分為三種用途，使業者可根據自身需求提出申請，分別是當地室內應用無線網路（3.7-3.8 GHz）、當地室外應用無線網路（3.78-3.8 GHz），與區域性應用無線網路（3.7-3.78 GHz）。此外更對申請人附加二項限制，第一，須為該地區或建物之不動產所有權人或承租人；第二，不得為700-3600 MHz頻段之全國頻譜使用權者，換言之，BNetzA排除了既有電信業者申請取得該頻段之權利，以保障中小型企業與新創業者自行建置垂直場域應用之空間。但對於3.7-3.8 GHz範圍內的未使用頻譜，BNetzA允許電信業者為擴充網路容量，暫時性的使用該頻段，亦即在特定情況下，容許電信業者與中小企業共享頻譜，以促進頻率的有效利用。 二、與既有服務共享頻段(日本) 日本總務省（Ministry of Affairs and Communications, MIC）在規劃5G頻譜時，為鼓勵垂直場域應用之建置，考量保留企業專網頻段，並在2018年12月組成「Local 5G檢討作業班」（ローカル5G検討作業班），定期舉行會議共同討論如何推動企業或地方政府自行建置專網[8]。與德國相同，日本亦是透過申請制配置專網頻段，並僅限建物或土地所有權人自行利用或委託他人利用，全國性營運商不得使用垂直場域應用之規劃頻段，以保障中小型企業與地方政府取得完整頻段之權利[9]。 Local 5G檢討作業班研議之項目主要有三，第一，垂直場域應用的名額分配，並明確申請者的使用目的；第二，垂直場域應用技術條件的訂定，同時檢討頻率共享的可能性；第三，參考寬頻無線接取（Broadband Wireless Access, BWA）之導入經驗，規劃區域型與自用型，避免頻率互相干擾[10]。 頻譜方面，MIC研擬在中頻段4.6-4.8 GHz與毫米波28.2-29.1 GHz頻段保留總共1100 MHz頻寬，供當地業者與地方政府使用。相對於德國是保留一段乾淨的頻譜供垂直場域應用使用，日本則是規劃使垂直場域應用與既有服務共享頻段，4.6-4.8 GHz頻段需與政府專用電信共用，28.2-29.1 GHz頻段則與衛星業務共用，以極大化頻譜的利用效率。惟為避免干擾，MIC並正針對28.2-28.3 GHz頻段進行干擾測試，最快會在2019年8月作出是否釋出之決議，若未能通過干擾測試，該100 MHz頻寬將會作為護衛頻段（guard band），避免兩個相鄰的服務互相干擾。4.6-4.8 GHz與28.3-29.1 GHz頻段則會在與既有服務進行和諧共用測試後，至2020年5月過後方會釋出。 參、事件評析 一、我國垂直場域應用之頻段規劃必要性 有鑑於5G網路所需頻段較4G為高，通訊距離與訊號穿透性皆會受到影響，再加上為了確保傳輸速率並降低時延，需大量建置基地台，網路佈署成本將大幅度增加[11]。因此，5G網路布建初期將著重在六都等主要都會區，並逐步對外擴散。大多數製造業基於廠區地理範圍以及投入成本等問題，更將服務據點設在商用效益不佳、5G網路建置進度延後之地區。基此，政府若未為企業專網規劃特定頻段，可能導致企業使用免授權頻段而發生干擾之情形，更可能會抑制我國相關供應鏈掌握新市場商機之可能性。 針對頻段之保留，基於中頻段（3.5 GHz）為5G的關鍵頻段，毫米波（mmWave）則是推動5G網路達到峰值速度不可或缺的要素，是以我國似可參考德國與日本垂直場域應用之相關政策，由政府規劃在中頻段或高頻段保留部分頻寬，或是與現有服務進行頻譜共用，期在專網產業的興起下帶動整體網路設備業者的發展。 按電信業者因擔憂垂直場域業者可能會在取得頻譜後，將其用於提供公眾電信服務，而成為電信業者的水平競爭者，此方面可透過相關法規之限制避免類似情況發生。另一方面，電信業者也可適時提供援助，藉由長年網路建置經驗，作為系統整合的角色與垂直場域業者合作，而達到雙贏的局面。惟企業專網對於網路規格、服務品質、資安等皆與公眾電信服務不同，電信業者與企業如何深化合作，仍有待更多的交流與討論。 二、推動我國垂直場域應用之可能頻譜政策 相較已進行5G商轉的其他國家，我國目前尚未釋出頻譜[12]，發照速度雖慢於其他國家，惟我國產業仍可透過實驗網路頻譜的申請，研發具高附加價值的企業專網應用，以在智慧製造、智慧醫療，抑或智慧農業等領域搶佔一席之地。但針對企業專網的頻譜需求，由於我國5G頻譜釋照迄今仍以競標拍賣商用頻譜為大方向，在第一波5G釋照時並不會保留「指配頻譜」予企業專網，僅會在「第一類電信事業開放之業務項目、範圍、時程及家數一覽表」中以註記的方式，說明處理企業專網之大方向[13]。 依108年立法院三讀通過之電信管理法第57條規定，主管機關得考量無線電頻率使用特性、國家安全、實驗研發及市場競爭等情形，依職權或依申請核配二以上使用者使用同一無線電頻率。此一條文似可解釋為，在頻譜和諧使用及不干擾之情況下，通訊主管機關國家通訊傳播委員會可核配垂直場域業者與電信業者使用同一頻譜的法源依據。 有論者提出電信管理法通過後，尚可利用第58條頻譜租賃之方式提供企業專網頻譜，該條允許電信事業在取得主管機關核准後，將其獲配頻率之一部提供予他電信事業使用；惟按電信事業僅指利用公眾電信網路提供公眾通信服務之事業，垂直場域業者在屬性上較偏向專用電信，而非該法所稱之「電信事業」，在法規適用上仍有疑慮。此外，即使未來允許電信事業將頻譜出租、出借予垂直場域業者，惟電信業者取得5G頻譜之代價高昂，其衍生之使用成本恐亦非中小型垂直場域業者所能承擔。 肆、結語 各個國家基於不同的制度或產業特性，而對企業專網之規劃各有不同的考量，然共同目的皆係藉由頻譜之規劃刺激中小型企業、新創企業與地方政府自建網路，並透過客製化的領域營運需求，避免工業間諜與駭客攻擊等情事[14]。是以，我國政府亦可參採國際案例，在協調電信業者與垂直場域業者之下，為企業專網保留特定頻譜，以掌握垂直場域應用之發展脈動，並促進新創服務之萌芽，達到提升我國整體國際競爭力之目標。 [1] Keith Mallinson, The Path to 5G: as much evolution as revolution, 3GPP (May. 10, 2016), https://www.3gpp.org/news-events/1774-5g_wiseharbour (last visited June 11, 2019). [2] 総合通信基盤局，〈第５世代移動通信システムの導入のための特定基地局の開設に関する指針案について〉，頁8（2018）。 [3] 陳端武，〈AT&T、高通將智慧製造視為5G商機〉，DigiTimes，2018/03/23，https://digitimes.com.tw/iot/article.asp?cat=158&cat1=20&cat2=10&id=0000527161_V5Y24IJX5ULPGI230CHFJ（最後瀏覽日：2019/6/12）。 [4] 李建勳、蘇奕霖、廖修武，〈全球5G專網市場發展〉，資訊工業策進會產業情報研究所，頁4（2019）。 [5] Tony Ridzyowski, What is a Private 5G Network?, TTI (Dec. 18, 2018), http://www.turn-keytechnologies.com/blog/network-solutions/what-is-a-private-5g-network (last visited June 14, 2019). [6] Id. [7] BNetzA, Entwurf der grundsätzlichen Rahmenbedingungen des zukünftigen Antragsverfahrens für den Bereich 3.700 MHz – 3.800 MHz für Anwendungen des drahtlosen Netzzugangs (Jan. 31, 2019), available at https://www.bundesnetzagentur.de/DE/Sachgebiete/Telekommunikation/Unternehmen_Institutionen/Frequenzen/OeffentlicheNetze/RegionaleNetze/regionalenetze-node.html;jsessionid=1612C0A9E32BF6C018EF03D2F781EF94 (last visited June 12, 2019). [8] 総務省，〈ローカル5G検討作業班〉，http://www.soumu.go.jp/main_sosiki/joho_tsusin/policyreports/joho_tsusin/5th_generation/local_5g/index.html（最後瀏覽日：2019/6/13）。 [9] 新世代モバイル通信システム委員会，〈情報通信審議会 情報通信技術分科会 新世代モバイル通信システム委員会報告概要（案）〉，頁9（2019），http://www.soumu.go.jp/main_content/000624455.pdf（最後瀏覽日：2019/6/13）。 [10] 総務省 総合通信基盤局電波部 移動通信課，〈ローカル5G検討作業班の主な検討内容〉，頁2（2018），http://www.soumu.go.jp/main_content/000589526.pdf（最後瀏覽日：2019/6/13）。 [11] Ferry Grijpink, Alexandre Ménard, Halldor Sigurdsson & Nemanja Vucevic, The road to 5G: The inevitable growth of infrastructure cost, McKinsey & Company (Feb. 2018), https://www.mckinsey.com/industries/telecommunications/our-insights/the-road-to-5g-the-inevitable-growth-of-infrastructure-cost (last visited June 17, 2019). [12] 鄭鴻達、楊文琪，〈5G拚明年一月釋照 四年計畫啟動〉，聯合新聞網，2019/06/14，https://udn.com/news/story/7238/3870814（最後瀏覽日：2019/6/14）。 [13] 林淑惠，〈5G企業專網 首波落空〉，中時電子報，2019/03/04，https://www.chinatimes.com/newspapers/20190304000226-260202?chdtv（最後瀏覽日：2019/6/14）。 [14]經濟日報社論，〈5G企業專網規劃 兼顧公平與發展〉，聯合新聞網，2019/06/06，https://udn.com/news/story/7338/3855673（最後瀏覽日：2019/6/17）。
聯邦通訊委員會禁止無線麥克風使用700MHz頻段美國聯邦通訊委員會（Federal Communication Commission, FCC）於今年1月15日頒佈一項新命令，禁止進一步經銷或出售使用700MHz頻段（698-806MHz）的無線麥克風等設備。700MHz頻段在2009年6月12日數位電視轉換完成後，已不再供電視台廣播使用。FCC表示此項命令的頒佈，目的在清空700MHz頻段，以避免上述設備對目前使用此一頻段的公共安全通訊（如警察、消防及緊急服務）與商用無線通訊服務，產生妨害性干擾。上述設備所使用之頻段，先前已由主要無線通訊業者以約200億美元標得執照。 FCC頒佈此項新命令，將影響百老匯劇院、運動聯盟及其他公眾娛樂團體目前利用700MHz頻段經營的無線麥克風系統。在新命令頒佈前，上述團體曾表示希望維持繼續使用部份700MHz頻段，並表示其使用將不會對新的使用者造成干擾，惟FCC並未採納其意見。 為確保目前使用700MHz頻段免執照設備的個人或團體，能有充分時間轉換至適當之替代頻段，FCC將允許其繼續使用至今年6月12日止。同時，對於先前已購買使用700MHz頻段設備之消費者，亦提出相關計畫以提供協助。
因應生成式AI使用的營業秘密保護對策美國智慧財產律師於2026年4月撰文說明兩件聯邦地方法院之判決揭示將機密資訊分享於生成式AI平台上的重大風險。 在Trinidad v. OpenAI 案中(Trinidad使用ChatGPT開發出AI框架，並將其框架申請美國專利，其主張OpenAI 後續申請專利之產品係基於使用其成果所開發，惟法院駁回原告依據美國營業秘密保護法(即DTSA)提出使用ChatGPT的產出物”專有AI開發框架(proprietary AI development frameworks，簡稱框架)為其營業秘密之主張，理由是原告在使用ChatGPT創建這些框架時，是自願向OpenAI 揭露其框架相關資訊。本案中，法院認為，原告使用ChatGPT創建框架時未有採取保密措施，且基於接受OpenAI的使用條款，也就是同意於未建立任何保護下揭露資訊，而不屬於DTSA保護的營業秘密。 在United States v. Heppner案中(被告Heppner 因涉及金融詐騙案件遭起訴，其收到法院傳票後使用Claude AI，將該案件的案件事實、可能的抗辯事由、法律分析和防禦策略輸入至Claude AI，使用AI產出法律分析報告)，則是強調使用公開可得的生成式AI平台所建立之文件不受律師與當事人間之秘匿特權( attorney-client privilege)保護，因為在AI平台記錄的對話內容，在沒有與平台合約約定保密義務時，這些內容並不具保密性。本案主要探討於被告與Claude AI之間之對話紀錄是否符合律師與當事人間之秘匿特權之範圍，法院認為Claude AI並非律師，兩位非律師之人的法律討論並不享有特權，且成立律師與當事人間之秘匿特權需建立於當事人與有委託關係之律師(或其代理人：實習律師、法務助理等)因為法律諮詢目的之通訊內容。此外，被告與Claude AI之間的通訊並非機密，因為Claude AI的用戶須同意「Anthropic (Claude AI之開發商)收集用戶輸入與輸出資料，利用這些資料訓練 Claude，並保留向第三方(包括政府監管機構)揭露此類資料的權利」，故法院未將律師與當事人間之秘匿特權延伸至AI平台產出的資訊。 在如今生成式AI已被普遍使用之時代，AI工具可提高生產力及工作效率，而對企業而言，開放員工使用AI時應留意公司是否有對使用AI工具提供相應的管理措施。可參考的管理方式有二： 作法其一是：建立企業內部的生成式AI平台 在此狀況下與AI共享的資訊只會留在公司的環境中，並且員工會受到聘用條件中所簽署過的保密協議拘束，此種做法可提供強而有力的保護，但也需要公司投入大量財務資源，惟許多企業未有足夠資源採取此做法。 作法其二：企業從商業生成式AI供應商取得企業授權 企業可跟AI供應商簽定特殊的授權模式，例如約定除了為遵守法律規範或防止濫用之情況外均不儲存輸入或輸出之資訊、約定不會使用其資料進行AI模型訓練、不向第三方揭露客戶所提供之資訊等保密條款，此類保密條款約定會被視為合理保密措施。 企業亦須留意法院在檢視是否成立合理保密措施時，通常只有簽訂相關保密條款並不足夠，法院通常會審查是否有其他保護措施，例如哪些員工有權使用AI平台、是否規範哪些資訊可用/不可用於AI平台、員工是否簽署對其使用AI平台應遵守之義務的確認書等。此外，企業還須避免員工以個人消費者帳號(非企業用戶權限)於AI平台輸入公司機密資訊，而使公司在不知情狀況下同意AI供應商使用其公司機密資訊。因此，企業應建立明確政策，限制員工將公司機密資訊輸入任何AI平台，並留存管理存取紀錄。 由前面兩個案件我們可了解，在未有適當合約與相關保密措施的情況下，於公開的生成式 AI 平台分享機密或專有資訊，法律上等同於向全世界揭露該資訊。法院於營業秘密、律師與當事人間之秘匿特權不太可能對 AI 相關揭露行為做出特別豁免。因此，對於AI工具的使用，企業至少需確保使用的是在具備適當合約保護的商業或企業級 AI 平台，制定明確的內部政策規範可輸入 AI 平台的資訊，提供員工相關訓練，並審核現有的營業秘密保護計畫找出因應AI工具使用的相關風險並予以補強。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/）
美國有線電視法節目載送規則實務現況簡介