日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐盟理事會於2023年11月27日批准通過資料法法案（Data Act），該法案雖預計於2025年才會生效，該草案自2022年公告以來，各界對該法案都紛紛從不同角度表示意見，如企業對於資料共享是否對營業秘密外流的風險表達擔憂，歐盟在發揮資料經濟價值（資料交易與資料使用）的方向下，將業界考量納入進行修改，以下就經理事會通過之資料法法案關鍵影響概要如下： 1、資料共享 有鑑於因網路裝置/服務所產出的數位資料往往掌握於產品製造商或服務提供商身上，資料法建立了資料共享的基本規則，確保數位資料由製造商/服務商流動至第三人（包含產品/服務使用者），另資料法所保護之資料包含使用AI所產生之資料。 2、營業秘密保護 為避免資料持有人的營業秘密因此外流，資料持有人可以與請求提供資料的第三人（資料請求者）協議應採取之保密措施，在保密措施未達成一致或使用者未實施保密措施，資料持有人可暫停資料共享，在有重大經濟損失之虞時甚可拒絕資料共享。 3、對資料持有者的限制 資料持有者僅能在與使用者約定之範圍內使用資料，在無使用者許可下，不得用使用者所產出之資料去回推使用者的經濟、資產或生產等資訊，以避免損及使用者的商業地位。 資料法法案的主要目標在於塑造具競爭性的資料市場生態，確保資料的價值可公平分配到不同參與者身上，其聚焦在非個人資料的數位資料上，除適用於對歐盟提供產品/服務之廠商外，亦包含可於歐盟境內取得資料之情況。國內廠商宜先檢視自身商業行為與歐盟之關聯性，盤點現有產品或服務所產出的資料屬性，如可能需特別約定保密措施之營業秘密，預先規劃資料管理機制與對應管制措施，就重要資料或營業秘密管理機制可參資策會科法所公布之《重要數位資料治理暨管理制度規範（EDGS）》、《營業秘密保護管理規範》。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
金融科技（Fintech）專利戰局：那斯達克申請備份交易紀錄之區塊鍊專利近年來，大型銀行及信用卡公司爭相為其核心技術及在創新上的投資尋求專利保護。從2013年截至今日，數個大型金融機構在美國已至少申請近2700項專利，這些專利涵蓋目前最火紅的領域，包含：區塊鍊、分析以及資訊安全等。金融領域的專利申請量相較前三年已達到約百分之八十三的驚人成長。 全球最大的證券交易所之一那斯達克(NASDAQ)近年來亦投入區塊鍊技術的研發及應用。去年（2015）起，那斯達克便以區塊鍊技術搭建了私募股權的智能平台Linq，今年（2016）更提出了利用區塊鍊技術備份交易紀錄以保證交易安全的專利申請。 今年十月六日，美國專利商標局（United States Patent and Trademark Office，簡稱USPTO）公布一項新的專利申請「區塊鏈交易紀錄之系統與方法」（Systems and methods of blockchain transaction recordation）。這個專利在今年三月三十一日提出，發明人為那斯達克的企業結構資深副總裁Tom Fay，及企業結構協理副總裁Dominick Paniscotti。 具體而言，這個專利是由：一個電子錢包、一個委託簿(order book)，以及配對引擎所組成。該配對引擎包含一項用來紀錄、且能夠及時更新交易紀錄的「封閉區塊鍊」。 該專利申請詳細介紹了這項技術：在這個系統中，當數據交易請求間之配對被辨認出來後，系統就會生成電子錢包及相應數據交易請求的hash值。當交易的一方收到另一方的hash值與相應資訊，各交易方的交易就會被增加至區塊鍊計算系統的區塊鍊上。在這個系統下，交易所查核區塊鍊的內容，尋找與這些電子錢包相關的數據。此外，這些數據資料會被額外備份於獨立的資料庫。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國財政部外國資產控制辦公室更新發布與勒索軟體支付相關之制裁風險諮詢美國財政部外國資產控制辦公室（The US Department of the Treasury’s Office of Foreign Assets Control, OFAC）於2021年9月21日更新並發布了與勒索軟體支付相關之制裁風險諮詢公告（Updated Advisory on Potential Sanctions Risks for Facilitating Ransomware Payments）。透過強調惡意網絡活動與支付贖金可能遭受相關制裁之風險，期待企業可以採取相關之主動措施以減輕風險，此類相關之主動措施即緩減風險之因素（mitigating factors）。 該諮詢認為對惡意勒索軟體支付贖金等同於變相鼓勵此種惡意行為，故若企業對勒索軟體支付，或代替受害企業支付贖金，未來則有受到制裁之潛在風險，OFAC將依據無過失責任（strict liability），發動民事處罰（Civil Penalty制度），例如處以民事罰款（Civil Money Penalty）。 OFAC鼓勵企業與金融機構包括涉及金錢存放與贖金支付之機構，應實施合規之風險管理計畫以減少被制裁之風險，例如維護資料的離線備份、制定勒索事件因應計畫、進行網路安全培訓、定期更新防毒軟體，以及啟用身分驗證協議等；並且積極鼓勵受勒索病毒攻擊之受害者應積極聯繫相關政府機構，例如美國國土安全部網路安全暨基礎安全局、聯邦調查局當地辦公室。
英HFEA同意該國婦女利用PGD技術「訂製嬰兒」現今生殖醫學進步相當快速，透過諸如胚胎殖入前之基因診斷（ PGD ）、組織配對（ tissue match ）等新興生物技術，人們將有能力選擇未來孩子的外表、智力、健康甚至性別等，故就現今的科技發展而言，篩選具有某種特徵之嬰兒的技術能力早已具備，反而是相關的倫理、道德及社會共識等等卻是最難的部分，這也是有關「訂製嬰兒」（ design babies ）之爭議焦點。 近幾年，訂製嬰兒的討論在英國非常熱烈，在英國，人工生殖之進行應依人工生殖與胚胎學法規定，獲得 「人類生殖與胚胎管理局」 （ Human Fertilization and Embryology Authority, HFEA ）之許可，至於進行人工生殖之同時，父母親是否得附加進一步的條件以「訂製嬰兒」，則一直有爭議。英國高等法院在 2002 年 12 月 20 日的一項判決中曾認為，國會制訂人工生殖與胚胎學法之目的，乃是在協助不孕婦女能夠生兒育女，至於組織配對的行為，則不在該法授權目的之內，因此 HFEA 無權就此等行為給予准駁。惟 2003 年 4 月 8 日 ，上訴法院推翻了高等法院的判決結果，但也進一步指出，這並不代表未來所有在進行 PGD 的同時加做組織配對之行為都是被允許的，想要施行這項技術之任何人，仍然需於事前取得 HFEA 的許可，新近 HFEA 已放寬管制規範，准許對更多種遺傳性疾病進行篩檢。 英國泰晤士報最近報導，一名英國女子已獲得英國 HFEA 同意 ，讓醫師將其透過體外受精方式培養出來的胚胎，利用基因篩檢技術，選擇出健康之胚胎植入其子宮內，以避免將她所罹患的遺傳性眼癌「視網膜母細胞瘤」基因傳給下一代。 本案婦女雖經 HFEA 同意「訂製嬰兒」，但仍會使「胚胎殖入前之基因診斷」（ PGD ）程序的爭議加劇，反對人士堅稱，基因篩檢的過程中勢必摧毀部分胚胎，且 為了某些目的而製造胚胎，將使人類被商品化，被訂製之嬰兒在長大成人後，若得知其出生之目的乃是在於治療其它親人，其心裡會對自己產生懷疑，並影響對自己人格的認同與其心理狀態。隨著生物技術發展飛快，許多可能背離社會良俗的行為恐將不斷出現，而法規能否隨之跟上則是生技產業能否興盛與倫理道德可否兼顧之重要關鍵。