日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐洲創新計分板（European Innovation Scoreboard, EIS）為針對歐盟成員國以及其他歐洲國家的研究與創新績效、創新體系等進行的評比報告，由歐盟執委會（European Commission, EC）每年發布，協助了解各國創新力態樣與市場競爭優勢。 EIS以綜合創新指數（Summary Innovation Index）作為整體評估標準，區分為四大類指標、10個創新構面，並細分為27個評估子標。四大類指標及相關架構如下： 創新環境指標：其中包含3種創新構面分別為人力資源、國家研究系統和友善投資環境； 投資指標：包含財務支援與企業投資創新構面； 新創活動指標：其創新構面包含創新者、連結度（linkage）和智財； 影響力指標：囊括就業影響力和銷售市場影響力兩種構面。 2019年6月發布歐洲創新計分板報告，歐盟創新發展連續四年均有進步。報告將歐盟會員國創新表現分為四組，分別為：1.創新領導者：包含丹麥、芬蘭、挪威等國；2. 優秀創新者：包含奧地利、比利時、德國等；3.中等創新者：包含希臘、匈牙利、義大利等；最後一組4.適度創新者（Modest Innovators）：包含羅馬尼亞及保加利亞等。該報告亦個別在特定領域上進行排名，例如在創新研究體系領域，盧森堡和丹麥表現最好，友善創新環境則以丹麥及芬蘭為最優，企業投資由德國和芬蘭領先，智財領域應用上則以中等創新組的馬爾他居冠。
FCC執行局建議駁回有線電視業者對電信業者之申訴由於美國之主要電信業者與有線電視業者紛紛推出語音、數據與影音三合一服務(triple play)，彼此之間的競爭也日益激烈。為搶奪市場，電信業者與有線電視業者分別向美國聯邦通訊傳播委員會(FCC)提出申訴，指競爭對手以不公平方式阻擋客戶轉換服務提供業者。如2008年2月間，Comcast、Time Warner 等有線電視業者向FCC申訴，Verizon 及其他既有電信業者在消費者申請電信號碼可攜服務過程中，以違反通訊法(the Communications Act of 1934)規定方式，利用消費者之個人資料進行「客戶忠誠度行銷」(Customer retention marketing)。電信業者在3月間亦向FCC申訴，有線電視業者拒絕接受競爭對手代替消費者申請取消原訂服務，而要求消費者親自申請，造成消費者轉換服務提供業者之困擾，不利電信業者爭取客戶轉向訂閱其他業者之影音服務。 針對有線電視業者所提出之申訴，FCC執行局(the Enforcement Bureau)認為，就法條解釋觀之，電信業者此一利用消費者資料的方式並未違反通訊法之規定，故建議FCC駁回有線電視業者之申訴。然而，有鑑於電信業者與有線電視業者之間競爭逐漸白熱化，執行局建議FCC就「客戶忠誠度行銷」行為涉及之客戶資料使用與市場競爭利益發佈「初步立法公告」(Notice of Proposed Rulemaking, NPRM)，徵詢各方意見，希望建立能一體適用於各個不同平台之規範，以因應跨業競爭問題。
英國公布「智慧聯網挑戰與機會」政策報告及制訂「智慧聯網科際研究路徑圖」對於智慧聯網（IoT）推動政策，英國主要係以科技策略委員會（Technology & Strategy Board）下設智慧聯網特別關注研究小組（IoT Special Interest Group, IoT SIG）為平台，討論智慧聯網（IoT）相關資訊及規劃推動政策。英國智慧聯網特別關注研究小組2013年5月公布「智慧聯網的挑戰與機會」（IoT Challenges and Opportunities - Final Report）報告，對於智慧聯網（IoT）服務的創新發展提出建議，包括應推動：（1）建立操作互通性（interoperability）的框架（2）以人為本的設計（People-centred design）（3）創造強健的智慧聯網（IoT）平台（4）頻譜使用模式的無線電技術等相關政策。 再者，英國智慧聯網特別關注研究小組在2月15日也發表「智慧聯網科際研究路徑圖」（A Roadmap for Interdisciplinary Research on the Internet of Things） 最後報告，內容包含四個子報告，分別對科技、文化創意及設計、經濟及商業、社會科學討論智慧聯網（IoT）未來研究的方向。在「社會、法律及道德子報告」（A Roadmap for Interdisciplinary Research on the Internet of Things: Social Science）中提及應注意的研究問題，包括：隱私及資料保護、自主選擇性（choice）、控制（control）、智慧型個人隨身裝置的社會議題、安全（security） 、所有權及智慧財產權、公眾安全及保護、資料保留（data retention）、行動的停止、過時資料的處理、以及巨量資料、納入公眾意見、服務品質等等。 並且，英國「社會、法律及道德子報告」中透過情境分析的方式，試圖將所提及之相關社會、法制及道德議題盧列出來，希望能在此基礎下進行更系統性的研究探討，以更廣泛含攝模式，嘗試從社會、法律及道德各層面，探究智慧聯網（IoT）相關重要議題。