日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
2016年10月27日，FCC依據傳播法案(Communication Act)第222條通過《寬頻用戶隱私保護規則》(Rules to Protect Broadband Consumer Privacy, 下稱2016 Privacy Order)。2016 Privacy Order主要包含以下三點： 選擇加入（Opt-in）：當使用或分享消費者之「敏感資訊」，須事先取得消費者明確之同意。「敏感資訊」包括精確的地理定位資訊、財務資訊、健康資訊、孩童資訊、社會安全號碼(Social Security Number, SSN)、網站瀏覽與應用程式使用紀錄，以及通訊內容。 選擇退出（Opt-out）：對於符合消費者期待的「非敏感資訊」，除非客戶Opt-out，ISP業者皆能在未取得消費者事先同意之情況下自由使用與分享。例如電子郵件位址與服務介面資訊(service tier information)。 例外：推定客戶會同意之資訊，例如在客戶與ISP業者建立關係後，不須額外取得寬頻服務或計費之同意。 2016 Privacy Order通過後受到ISP業者大力抨擊，尤其是網站瀏覽與應用程式使用紀錄亦須取得消費者事先同意之部分，其認為如此可能扼殺電子商務發展，消費者亦可能被不必要的警示轟炸。由於2016 Privacy Order引起諸多不平，因此通過後半年，美國參議院與眾議院分別於2017年3月投票廢止，總統並於4月3日正式簽署此份國會審查法案(Congressional Review Act)。 廢止《寬頻用戶隱私保護規則》之原因為，消費者之個人資料雖可受到保護，但該規則僅適用於寬頻服務提供者與其他電信供應商，並不包含網站與前端服務(edge services)。是以僅ISP業者受到較嚴厲之管制，其餘網路服務則由FTC管轄，而FTC對隱私權之規範較為寬鬆，因此可能發生提供不同服務的兩家業者使用同一份客戶資料，受到的管制程度卻不同之情形。 贊成2016 Privacy Order之議員與消費者自助組織(consumer-advocacy groups)表示ISP業者應受到較嚴厲之規範，因消費者能輕易在網站間轉換，卻不能輕易更換ISP，且ISP得以取得消費者在所有網站上之瀏覽資料，但如Google與Facebook等大廠雖非ISP業者，卻亦能取得不限於自身網站的客戶瀏覽資料。 由於《寬頻用戶隱私保護規則》已正式廢止，FCC將不得再通過其他相同或實質上相同之規範，對ISP業者之管制回歸《傳播法案》第222條，亦即，對於網站瀏覽與應用程式使用紀錄之使用或分享，不須取得客戶之事先同意。
歐盟發布「歐盟植物品種權制度對歐盟經濟和環境影響」執行摘要，顯示歐盟植物品種權制度的影響歐盟植物品種事務局（Community Plant Variety Office, CPVO）與歐盟智慧財產局（European Union Intellectual Property Office, EUIPO）於2022年4月28日聯合發佈「植物品種權制度對歐盟經濟和環境影響」執行摘要（Impact of the Community Plant Variety Rights System on the EU Economy and the Environment–Executive Summary），以量化方式顯現「歐盟植物品種權」（Community Plant Variety Rights, CPVR）制度的影響： （1）若無CPVR制度，則在2020年時，歐盟耕地作物的收成量會比實際情形減少6.4%、水果減少2.6%、蔬菜減少4.7%、觀賞植物減少15.1%；換言之，因有CPVR制度帶來的額外收成，足以將耕地作物多供給予5,700萬人、水果多供給予3,800萬人，蔬菜多供給予2,800萬人。 （2）以總體經濟學（macro-economic）的角度觀之，若無CPVR制度帶來的額外收成量，歐盟在世界貿易的地位會惡化，而境內的消費者也將面臨更高的農作物價格。受CPVR制度保護的農作物對歐盟GDP之「額外」增長貢獻約為130億歐元，其中耕地作物約佔有71億歐元、水果11億歐元、蔬菜22億歐元、觀賞植物25億歐元。 （3）而因CPVR制度帶來的農作物額外收成，使歐盟農業的僱用情形提升；以耕地作物來說，增加近25,000個工作機會、園藝作物19,500個、觀賞植物45,000個，總計增加近90,000個工作機會。此僅單就上游的農業及園藝產業而言，其與下游產業（例如：食品處理業）合計增加近80萬個就業機會。 （4）不僅工作機會增加，從業者報酬也有所提高；相較於未有CPVR制度前，耕地作物從業者可獲得12.6%更高的報酬、園藝作物從業者可獲得11%更高的報酬。 （5）受有 CPVR保護之公司總計僱用了70,000名以上之員工，而其營業總額超過350億歐元；此等公司多為中小企業（SMEs），其佔有CPVR申請量90%以上，而其目前持有约歐盟整體60%的CPVR。 （6）在有CPVR制度後，歐盟農業及園藝業所排放的溫室氣體（greenhouse gas, GHG）每年減少6,200公噸；此二產業所需用水量減少了超過140億立方公尺。 綜上，由於減少對環境之衝擊、於農業與園藝上減少資源之使用、使從業者收入增加，及使消費者用更低廉價格購得農產品，故CPVR制度對於聯合國永續發展目標（Sustainable Development Goals）有所貢獻。除此之外，本執行摘要亦提及CPVR制度有潛力符合歐盟執委會（European Commission, EC）「歐洲綠色政綱」（The European Green Deal）目標。
為促進單一數位市場之發展，歐盟展開個人資料保護法規之改革網路和數位科技正急速翻轉我們的世界，建立「歐盟單一數位市場」(EU Digital Single Market)為歐盟執委會的首要優先政策項目之一，發展健全的單一數位市場可為歐盟增加4,150億之經濟成長，創造數以萬計的新工作機會，實現一個充滿活力的知識型社會。然服務的「上網」仍存在一定程度尚未跨越之障礙；根據調查，超過90%的歐洲人擔憂他們所使用的行動應用程式(apps)沒有經過他們的同意即蒐集其個人資料。使用者對網路服務欠缺信任，產業以及政府亦無法充分透過數位科技工具獲益，因此如何提升人民對於網路服務的信任成為歐盟官方當前重要議題。 為解決此問題，歐盟執委會已著手進行個人資料保護法規的改革，針對現行的資料保護法規提出新修法案，主要目標在加強人民於個人資料保護之相關權益，以降低使用者個人隱私遭洩漏的疑慮，此外也將對企業帶來諸多利多。新修法案針對人民權益保障的加強，包括： 1.被遺忘權(A right to be forgotten)：已明文規定於現行歐盟資料保護法規，新修法案將更進一步強化個人被遺忘權的行使－尤其是青少年。對此歐盟理事會表示贊同，但亦強調被遺忘權並非絕對之權利，不應凌駕於言論自由以及新聞自由之上。 2.資料可攜帶權(A right to data portability)：使用者可更輕易的移轉其個人資料於不同的網路服務提供者之間。 3.個資被駭之被告知權：若網路服務提供者發生嚴重個資洩漏事件必須盡快告知主管機關，讓使用者得採取適當措施。 4.個資保護措施優先：強調在服務或產品早期開發階段就應該優先考量個人資料保護措施的設計，取代事後補救的觀念；尤其社交網路服務或行動apps相關服務的開發，隱私默認的設定應為預設之常態。 新修法案也包含多項對相關企業有利之措施，例如： 1.一歐陸一法律：企業在歐盟經濟區域遵行單一之歐盟資料保護法規，而非28國不同法規，預估每年可節省23億歐元之遵法成本。 2.單一監管窗口：整合28國主管機關以建立單一對外監管窗口，讓欲經營歐盟市場的企業與主管機關的交涉能更簡單、有效率。 3.參與歐盟市場之企業皆遵守相同標準法規(European rules on European soil)：依現行歐盟法規，設籍於歐盟境內之企業必須遵守比境外企業更嚴格的法規標準，故新修法案極力建立公平競爭環境，經營歐盟市場之企業不論是否設籍於歐盟皆等同對待。 4.簡化繁文縟節之行政規定：新修法案刪除了企業通知主管機關等不必要之繁文縟節要求，此尤其利於中小企業節省行政成本。 5.免除中小企業進行個資影響評估之責任：除非有明確顯見之風險，始課予中小企業個資影響評估之責任。 歐盟執委會、理事會與議會於2015年6月開始針對資料保護法規新修法案進行三邊協商，預計於2015年底完成最終之協議。
舊金山監事會通過決議禁止政府使用臉部辨識美國舊金山監事會（San Francisco Board of Supervisors，編按：監事會是舊金山市的立法部門，性質類似議會）於2019年05月通過停止秘密監察條例（Stop Secret Surveillance Ordinance），並將其訂入行政法規（San Francisco Administrative Code）條文，包括增訂第19B章及修訂第2A.20節、第3.27節、第10.170-1節和第21.07節。根據行政法規第19B章，舊金山政府及執法機構未來將不能使用臉部辨識科技，也不能處理或利用任何自臉部辨識科技取得的資訊。 易言之，在公共場所安裝具備臉部辨識科技的監視器，或暗自使用臉部辨識科技尋找嫌疑犯都構成違法行為。然而，法規的修訂不代表舊金山內所有臉部辨識系統將全面停止。由於舊金山機場及港口屬美國聯邦政府管轄，不受地方政府法律所規範，仍可使用臉部辨識科技；而民眾及私人企業並非修訂條文的規範對象，亦可繼續採用。 此次法規的修訂引發高度關注，各界也熱烈討論。反對者表示，法規的修訂使執法機關打擊犯罪的努力付之一炬，危害民眾安全；贊成者則認為，臉部辨識科技過分侵害人民的隱私權和自由權，應對其有所限制。畢竟，臉部辨識科技並非萬無一失，尤其當受辨識者為女性或深膚色人種時，準確率往往下降許多，而有歧視的疑慮。舊金山首開先例立法，成為全美第一個限制政府使用臉部辨識科技的城市，其他城市或國家未來是否會仿效而相繼立法，值得繼續關注。