日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
以Google及微軟為首等網路業者，及名為「資訊正當法律程序」協會的數個成員，呼籲美國聯邦政府對於儲存於雲端或第三人資料儲存系統的私人電子郵件或電子資料之取得，應進行相關法律修正。 由於1986年開始施行的「電子通訊隱私法（Electronic Communications Privacy Act, ECPA）」，係立法者基於當時資通訊技術水準所制定，然近年來諸如電子郵件、雲端運算、網路社群活動及行動通訊等科技之興起，使得該法已不足因應當今狀況，故有制定更為透明、簡單且明瞭的資料取得標準之需要。尤其是現今電子資訊儲存於第三人資訊系統內情形之普遍，更讓此等資訊取得行為是否適用該法，產生相當的模糊。 此等模糊性，讓現今的司法部門認為僅需使用傳票（subpoena）或取得法院命令（court order），便可要求第三人提供客戶的資料。但是，上述這些團體希望政府應修正既有法律以與現時社會相符，確保須透過更為嚴謹的程序，始能要求第三人提供客戶的私人資訊，例如需申請「令狀」(warrant)。蓋因資料儲存於私人電腦內，需透過令狀以命其揭露，而若儲存於第三人處，理論上亦應該透過令狀以命第三人揭露該等資訊；再者，「美國人權法案（Bill of rights ）」要求政府機關除非具特定理由，否則不得對他人住宅進行無搜索令之搜索，同樣的，在電腦資訊之取得，亦不應降低保護人民之標準。 該團體揭示之四項標準為： ．政府僅能在出示正當理由，並取得搜索令（search warrant）的情況下，才能對任何受ECPA規範的實體（無線或電子通訊服務的提供者，或遠端電腦服務提供者）要求揭露未能輕易由公眾取得之資訊。且不受通訊時代，儲存工具及狀態，或提供者的權限及其通常商業活動的通訊使用所影響。 ．政府僅能在獲得具有正當理由之搜索令下，才得要求任何受ECPA規範的實體，提供行動通訊裝置的地點資訊。 ．政府僅能在獲得司法審查，及透過法院認為其已具備第2703(d)條之情形，才能要求任何受ECPA規範的實體提供撥打電話號碼的資訊，往來電子郵件、及該實體藉由電子記錄器和追蹤設備所記錄的資訊或數據。 ．政府單位經「Stored Communications Act」之授權取得傳票，其取得資訊之範圍僅得針對特定帳號或個人。其他非特定的要求，皆須司法同意後始得進行。
美國知名嘻哈歌手Dr. Dre對婦產科醫生的商標註冊提出異議遭駁回2015年美國賓州的一位婦產科醫生Draion M Burch(以下簡稱Burch)申請註冊「Dr. Drai」商標在國際商品服務類別41(教育及娛樂服務)及44(醫療諮詢服務)以行銷自身的有聲書籍及研討課程。美國知名的嘻哈歌手Dr. Dre認為，該商標與自身的「Dr. Dre」【已註冊國際商品服務類別9(系列音樂錄製)、16(海報、美術印刷及貼紙)、25(T恤、長袖衫、帽子)、41(由音樂藝術家及創作者提供之娛樂服務)】雖拼法不同但讀音相同，會引起消費者的混淆，因而向商標審理暨訴願委員會(Trademark Trail and Appeal Board, TTAB,下稱委員會)提出異議。 委員會認為，雖然「Dr. Dre」與「Dr. Drai」兩者類似，然而Dr. Dre無法證明消費者會因而被混淆、誤導，進而去購買Dr. Drai的商品。該意見書更指出，由於Burch醫生的演講費用是5000元美金，比起購買一般物品，消費者在購買Burch醫生的書籍或演講門票時會付出「較高的注意程度」。Burch醫生也辯稱，消費者不太可能會混淆這兩個商標，因為「Dr. Dre並非醫生，也沒有資格提供任何醫療服務或銷售醫藥、保健產品。」他更證稱從未想要利用Dr. Dre的名聲謀取利益，因Dr. Dre創作的歌詞顯示出其對某些族群的歧視，若消費者將他與Dr. Dre聯想，只會認為他是一位不好的醫生。 基於上述理由，委員會最後駁回歌手Dr. Dre的異議。Dr. Dre的律師James Weinberger目前對此案拒絕做出評論，也不願透漏是否會再提出上訴。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
印度隱私權制度下兒童資料安全的保護現狀印度電子資訊產業技術部（MeitY）2022年11月在網站上公布了個人資料資訊保護法草案（Digital Personal Data Protection Bill,以下簡稱該法案），並於2023年7月提交議會審查。目前印度民法不承認未成年人(未滿18歲者)具有自主簽訂契約的能力。因此，取得的兒童同意不具有法律效力，必須徵得父母或是監護人的同意才能合法蒐集兒童個人資料。 根據印度2022年個人資料資訊保護法案草案，任何未滿18歲的人都被歸類為「兒童」。該法案中同時限制專門向兒童發送的廣告，並且監管任何追蹤兒童行為的情況。目前國際隱私法(例如：歐盟通用資料保護條例 (GDPR)、加州消費者隱私法(CCPA)等)的兒童定義多在13至17歲之間。但考慮到兒童個人資訊的敏感性和潛在危害，印度政府採取了較保守嚴謹的路線。政府也已被授權制定有關處理兒童個人資訊的細則，特别是確保資料使用人不可使用可能對兒童造成傷害的個人資料。 根據社會發展狀況，兒童若每次在網路平台上進行活動時都需經過父母或是監護人同意不甚妥適，且根據前述說明，兒童界定年齡為18歲以下，若依照統一年齡範圍進行控管，實際執行上面臨窒礙難行之處。故修法者在對於該法案修改意見中，引用了其他國家隱私法中的不同年齡分類限制，以求降低年齡門檻限制，或是根據用戶的年齡制定差異化的授權要求。 另一個產生的爭議為，該如何驗證父母或是監護人的同意表示。法條中目前無明確規範何為「有效之同意表示」，現行各平台使用不同的方法獲得父母或是監護人的同意，目前有兩種方式，包括點選「同意」按鈕，或是在用戶條款中表示若使用服務等同於監護人同意。 關於兒童年齡之界定，是否將參考其他國家規範進行差異化設定，目前暫無明確定論(包括如何調整、年齡級距設定)，根據資訊使用的普及，兒童年齡的界定可以預期的將會進行調整；關於如何有效驗證父母或是監護人的同意表示，目前在技術上大多服務商都偏好透過會員註冊時的同意按鈕或是用戶條款中列明若使用服務即代表同意這兩種方式認定，在這兩種方式之後，系統是否有設定驗證機制，以及需要何種驗證方式才可以認定父母或是監護人的同意表示是符合法律效力的，都需後續再進行研擬。
歐盟發布與食品接觸的容器材料安全評估規則歐盟食品安全局（European Food Safety Authority, EFSA）於2009年5月29日發布歐盟第450/2009號規則（Regulation EC No. 450/2009），內容為評估與食品接觸的包裝容器之「活性材料」（active material）或「智慧型材料」（intelligence material），其活性與智慧型功能物質之使用安全性。此號規則規定了進行活性或智慧型材料物質的安全評估相關的行政管理，及申請所需提出的科技數據與資訊內容。 歐盟第450/2009號規則是一項落實第1935/2004號規則中，有關食品安全的具體規則。第450/2009號規則要求食品容器中的「活性材料」與「智慧型材料」，必須經過EFSA的安全評估測試。 歐盟於2004年10月通過第1935/2004號規則（Regulation EC No. 1935/2004），首次公佈活性材料與智慧型材料的定義。「活性材料」係指為增加食物保存期限或維持及改善情況，食品容器材料會自動釋放某些物質在食品中以延長期限。「智慧型材料」則指能顯示食物狀況或在包裝上顯示出周圍環境狀態，例如在食品包裝上，結合溫度顯示材料，指出裝運過程中的溫度狀態。 而第450/2009號規則，則是進一步落實規範。在安全評估測試中，EFSA對於申請者提出的容器材料物質，進行風險測試後，將給予申請者得以使用的物質清單。若有食品容器材料的物質經測試後發現，其活性或智慧型功能的物質，與食品容器材料中的其他物質產生交互作用，EFSA可能將限制使用此類物質於食物容器材料中，以確保容器材料之安全性。