日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
根據德國專利商標局（Deutsches Patent- und Markenamt）2017年度報告，德國該年境內發明專利申請量達67,707件，僅較2016年下降0.3％（2016年專利申請量達歷年新高），主要領域在交通；而新型專利和設計專利申請量卻持續下降。歷年申請量如下表： （件數） 2017 2016 2015 2014 2013 2012 2011 發明 專利 67,706 67,907 66,898 65,963 63,177 61,361 59,612 新型 專利 13,299 14,030 14,271 14,741 15,470 15,531 16,038 設計 專利 44,297 57,057 58,017 60,837 56,944 55,250 53,197 資料來源：德國專利商標局 其中，德國汽車公司投資在電動汽車、輔助系統和自動駕駛等領域數十億元的成果在發明專利中被充分反映出來。根據德國專利商標局2017年度報告，該年自動駕駛專利申請數量有2,633件，較2016年增加14％，是2013年的兩倍。 在德國4,810件自動駕駛專利中，德國汽車公司就擁有超過2,006件，占42％，日本為28％，美國為11％。僅2017一年，德國汽車公司就取得325件自動駕駛專利，較日本公司259件、美國公司112件和法國公司的41件還多。其中絕大多數被Audi、Toyota和Volkswagen所擁有。 此外，德國境內電動汽車專利申請也增加10％，總數達到3,410件，超過三分之一是用於蓄電池和燃料電池，德國汽車公司高居專利申請量榜首，其中以Bosch和Schaeffler為最。 事實上，除了在德國境內，全球自動駕駛專利幾乎一半亦為德國汽車公司所擁有，截止至2017年底，占了48.8％，其中Bosch排名第一，共擁有1,101件專利。前十名專利擁有者如下圖： 單位：件 資料來源：德國經濟研究所（Institut der deutschen Wirtschaft） 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
澳洲政府考量開放民事訴訟領域查閱網路服務商所保存之通訊資料澳洲政府於2014年推動電信（監察及查閱）法修正（資料保存）案（Telecommunications (Interception and Access)Amendment (Data Retention) Bill 2014），增訂資料保存規範，其目的在於打擊重大犯罪、恐怖主義、國際組織犯罪等，其措施為要求國內網路服務商須保留用戶之通訊資料，並保存期間至少2年，對此，當時情報及保安事務議會聯合委員會（下稱委員會）於評估該修正案時，卻發現一項爭議問題，即民事訴訟當事人亦得查閱通訊資料，但資料保存行為之正當性乃立基於維護國家安全，實與民事訴訟制度意義相悖，故委員會提出應排除民事訴訟領域得以查閱通訊資料之建議。 澳洲政府對於委員會所提出之建議採取全盤接受之態度，進而重新修訂2014年電信（監察及查閱）法修正（資料保存）案，且併同修正刪除1997年電信法令第280條，有關得以民事訴訟傳票或命令，向網路服務商查閱其所保存之通訊資料；至於網路服務商之通訊資料保存義務方面，仍須依1979年電信（監察及查閱）法為之。前述修正於2017年4月13日生效。 然而，澳洲政府方面時至今日卻有態度轉變之趨勢，起因於通訊部長與檢察總長於2016年12月20日公告，其認為資料保存措施對於特定類型之民事訴訟並非沒有實益，如：維護智慧財產權事件、家庭事件（如：離婚）或勞工權益事件（如：公司起訴勞工）等，故應視類型或個案情形予以開放查閱；因此，主管機關提出三項問題向社會大眾徵求意見：1、民事訴訟當事人在何種情形下可查閱通訊資料；2、倘若民事訴訟當事人不得查閱通訊資料者，對於民事訴訟會產生何種影響；3、是否有特定之民事訴訟類型，是排除1997年電信法第280條(1B)不適用。 實際觀察澳洲政府所推動之該項公告，在其國內爭議相當大，不僅該項公告已臨近前述修正生效日，且開放民事訴訟當事人得以查閱通訊資料之正當性疑慮仍未解除，甚且，亦與近期國際上國家安全與人民隱私權保障間之衝突日趨顯著，如：英國之調查權力法案（Investigatory Powers Act. 2016）不無關聯，因此，澳洲政府是否願意在社會輿論反對聲浪中，仍維持該項公告修正意向，值得後續觀察。
概念驗證中心（Proof of Concept Center, PoCC）概念驗證中心（Proof of Concept Center, PoCC）源自美國研究型大學各校為加速大學科研成果商業化，於內部建立的專業型機構。全美第一所PoCC是2001年設立於加州大學聖地牙哥分校的「里比西中心」（the William J. von Liebig）。 為了因應美國大學科研成果商業化過程中所遇到的阻礙，例如：資金與資源缺乏導致研發人員動力不足、研發人員對於市場需求資訊不對等、技術開發提升緩慢以及政府激勵政策不足等問題。PoCC以解決大學與企業之間存在的各種差異與衝突為目標，並透過下列手段強化科技成果商業化動力，提升商業化績效：1、通過種子基金資助，為無法獲得資金支持的早期研究提供經費挹注；2、為大學科研成果商業化提供市場顧問與技術開發諮詢，以及智慧財產權保護等諮商；3、創業人才教育及培訓，促進創業文化並進行創業教育，以增強大學與產業協同創新能力。