日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
德國聯邦教育及研究部於6月1日公布《2016年德國研究與創新報告》（簡稱為BUFI) ，由聯邦教育及研究部部長Johanna Wanka 公布，這份報告每兩年由德國聯邦教育與研究部製作一次，作為2016年的趨勢展望。以下為報告中幾項重點： 德國政府在研發的支出創下歷史新高，在最新統計數據中，就2014年已有近840億歐元投入研究和發展領域，在歐洲位居首位。另外，德國聯邦政府在產業界投入570億歐元，占德國研發總預算約三分之二，已創下歷史新高。而2015年對產業界投入的研發支出又比前一年成長6.4%。而德國勞動總人口約434萬，目前統計從事研發活動的人口約60萬人，首次創下勞動人口比例歷史新紀錄。在歐盟國家中德國本已位於領先地位，在世界競爭力指數(WCI)排名中，德國更是遙遙領先其他國家，在140個國家中排名第六。德國的研究成果亦獲得國際間的肯定，德國在學術界的地位在最近一年持續領先。在德國關於德國科學家的著作，是躋身全球最常被引用的出版物的前十分之一。德國的專利申請數量在世界上排名領先，平均註冊專利數量從2003-2013年成長約9%，在歐盟遙遙領先其他成員國，在世界上專利數量則是美國的兩倍。 德國同時是研發產品輸出為主的國家，特別是在高科技產品輸出方面，即使中國如今名列前茅，德國依舊占據前排位置。在歐盟國家中，德國則位居第一。聯邦政府將研究與創新為財政編列預算優先事項，聯邦政府持續增加研發支出，根據目前2016年的總預算中，針對研發編列了1兆5800億歐元。聯邦政府補助德國在未來重點新興領域的研發及加強中小企業創新能力。聯邦政府在高科技戰略中所列的各大議題氣候變化與能源、健康與營養、移動、安全與通訊都將予以補助。又2015年政府已針對中小企業投資了1兆4500億歐元。各邦政府在研發支出亦占各邦年度總預算比例高達40%，由此可看出德國政府對創新與研發的重視。
黑莓機服務中斷數日，RIM面臨用戶集體求償全球商務人士最喜愛使用的智慧型手機「黑莓機」，在今年（2011）10月中旬出現全球大當機，手機用戶無法上網及收發簡訊，影響範圍從歐洲擴及北美與世界各地。手機製造商Research In Motion (RIM)的首席執行長Mike Lazaridis在官網上以視訊公開向全球用戶道歉，並提出可免費下載100美元的應用軟體作為補償。然而此舉無法平息用戶的怒火，許多使用者正打算對RIM提出訴訟求償，因為中斷服務害他們錯失許多訊息與會議時間。 加拿大魁北克的高等法院就收到使用者對RIM要求經濟補償的集體訴訟，因為RIM所提出的補償措施根本無法彌補中斷服務數天的損失。若法院認同訴訟主張，RIM遭求償的總額或許很高，不過使用者提出的訴求是中斷服務的1.5天，他們無法使用月付25元加幣的無線網路服務，因此按比例分攤每件可能僅1.25元。而在美國的消費訴訟律師，則考慮對RIM提出違約訴訟或是消費詐欺，前者是以RIM未依約盡到其提供服務的責任為主張；而後者消費詐欺的重點則是著眼於，RIM導致消費者誤信黑莓機的可靠性。然而使用者所面臨的困難是，要如何證明他們所受到的損害，高於原本應獲得的服務，而且因為是全區域的服務中斷，在跨州的集體訴訟中還有各州法律適用的問題。有法律專家言明，要證明因為不能使用智慧型手機的功能而造成的實際損害非常困難，畢竟在緊急時刻，溝通（communicate）還有其他選擇方式。
美國聯邦通訊委員會（Federal Communications Commission，FCC）提議恢復網路中立相關規範，並發布規則草案美國FCC主席Jessica Rosenworcel於2023年9月26日發表演說，並於內容中提案恢復在美國前總統川普任期間被廢止的網路中立性（Net Neutrality）相關規定，包含禁止寬頻網路業者對給付額外費用者提供「快速線路（fast lanes）」，或禁止電信業者對其網路服務減慢網速等規定。 FCC表示網路中立性規範可維護以下4大要點，包含： 1. 開放性：避免消費者觀看合法內容受阻，或是需要支付額外費用取得。 2. 國家安全：將寬頻網路渠道重新分配，以對抗潛在國安威脅。 3. 資訊安全：FCC得以強化寬頻網路韌性（resiliency），並要求網路業者在中斷網路時，需先行通知FCC與消費者。 4. 全國標準性：將樹立全國統一標準取代各州自行規範。 然而，有產學界的反對意見指出，在相關規定廢止期間，並未發現有網路業者因額外收費而對消費者的網路內容或網速進行干預。故認為FCC誇大了這些隱憂。 2023年10月19日，FCC在內部表決後，確定開始恢復網路中立規則程序，並於隔日發布包含最新草案內容之擬議規則制定通知（Notice of Proposed Rulemaking），草案除包含以上4要點相關規範以外，亦包含對寬頻網路近用業者（Broadband Internet Access Service，BIAS）等相關業者要求與限制，例如： 1. BIAS業者必須為殘疾消費者（disabilities）提供網路使用相關幫助。 2. BIAS業者將劃分為電信業者（telecommunications service）並適用相關規定。 針對目前草案內容，FCC目前正在公開徵詢意見，預定徵詢期限至2023年12月24日，並在2024年1月17日將意見彙整回報後，再進行後續表決及相關程序。 若網路中立性規範恢復，可能影響具跨國業務的網路業者，進一步影響其他國家的網路政策與法規，故亦可能對台灣網路業者與網路政策產生影響，值得我國持續關注後續發展。 本文同步刊登於TIPS網（https://www.tips.org.tw）
新加坡通過第一個個人資料保護法制新加坡於2012年10月15日通過該國第一個消費者個人資料保護法案，該法案主要規範私人機關蒐集、利用以及揭露個人資料之行為，將於2013年1月正式施行。 該法案亦成立新加坡個人資料保護委員會（Personal Data Protection Commission, 以下簡稱PDPC），並成立拒絕來電登記處（Do-Not-Call Registry），該處由PDPC進行維運。PDPC將是新加坡主要掌管個人資料保護的主管機關，而且也負責推動個人資料保護法案以及被賦予增進新加坡人民個人資料保護認知之任務。 於該法案之規劃中，資料當事人可以在拒絕來電登記處註冊其位置在新加坡之電話號碼，以防止私人機關為了商業行銷之理由而進行電話行銷。假設資料當事人已完成相關登記卻持續收到行銷電話時，可以向PDPC進行申訴。 除此之外，私人機關於蒐集、儲存個人資料前，必須尋求消費者之同意，而且必須通知當事人資料蒐集之目的。私人機關於傳輸個人資料至新加坡境外時，也必須確保以提供相對安全的個人資料保護作法，例如透過契約或者協議之簽訂等。 違反個人資料保護法規之公司，每一個違反事件可能被科以最高美金820,000元之罰鍰，對於每一個消費者最高可能必須負上美金8200元之賠償責任。法律施行後，企業被賦予18個月的法規遵循準備期間，而停止打來登記處預計將於2014年年中設置完成。