日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
加州公共事業委員會（California Public Utilities Commission, CPUC）提出自駕車試點計畫，允許在未有配置人類駕駛之情況下測試自駕車，此次計畫包含兩個試點項目，將於5月被五人委員會審核，並決定是否批准。 第一個試點項目允許參與廠商之自駕車上路測試，並須配置經培訓的人類駕駛於自駕車內，以應付隨時的突發狀況；第二個試點項目則允許無人駕駛之自駕車上路測試，惟在無人類駕駛隨車之情況，必須符合加州機動車輛管理局（Department of Motor Vehicles, DMV）之規定，如遠端監控車輛狀態及操作，以保障乘客安全。 參與廠商必須定期向CPUC及DMV繳交營運報告，包含測試期間車輛碰撞（collision）及解除自動駕駛（disengagement）次數。 此次試點計畫已開放廠商申請，科技大廠及叫車服務公司如Google、Tesla、Uber以及Lyft等目前亦已正進行自駕車之設計與測試。若此提案通過，CPUC將進一步規劃自駕車載客服務之相關辦法，使自駕車測試之法制更臻完善。
美國陪審團裁定Rambus未違反反托拉斯法及其行為未構成欺詐美國聯邦法院陪審團(San Jose, California federal jury) 於2008年3月26日裁定Rambus之記憶體晶片專利未違反反托拉斯法 (anti-trust)及於制定晶片業重要標準時未非法欺騙JEDEC(Joint Electron Device Engineering Council)成員。 記憶體製造商Hynix Semiconductor, Micron Technology 及台灣南亞科技公司指控Rambus 的專利違反了反托拉斯法，企圖透過其專利壟斷六個技術市場。前三家公司並認為依法專利不得涵蓋產業組織JEDEC的設計規格，指控Rambus 的專利涵蓋關於DRAM介面技術的JEDEC行業標準中的內容。 此三家公司另指控Rambus於產業標準制定過程中蓄意扭轉關鍵JEDEC標準的制定，構成欺詐之行為。 但陪審團於3月26日的審判中否決原告的控訴，認為原告未能提出足夠證據以證明被告之違反反托拉斯法與欺詐行為。 Rambus 將可望藉此判決獲取最少美金1.344億元以上的權利金 (Rambus於2006年指控Hynix 侵犯其擁有的專利一案獲賠美金1.344億元)。Rambus 另控訴Micron Technology與三星(Samsung Electronics Co.)侵害其記憶體專利權。於獲得勝訴後，Rambus 表示其不排除尋求禁止令禁止Hynix 繼續製造侵害其專利的產品。 Micro Technology 則表示它堅決不同意陪審團判決，其法律事務副總裁Rod Lewis表示：Micro Technology認為，Rambus公司從事了一系列欺騙、銷毀證據、虛假證詞和其他不正當活動，企圖誤導和提取不公正的專利授權費用。因此，Micro Technology打算對判決結果進行上訴。另外，Micro Technology也認為，Rambus的專利權是無效的，已要求美國法院駁回Rambus向Micro Technology提出的專利索賠。
OECD 發布2015年科學、科技與產業計分板，建議各國政府應增加對於創新研發之投資於2015年10月19日，經濟合作與發展組織(OECD)發布最新2015年OECD科學、科技與產業計分板(OECD Science, Technology and Industry Scoreboard 2015)，此份報告指出，各國政府應增加對於創新研發的投資，以發展工業、醫療、資通訊產業的新領域科技，也將為氣候變化等全球性挑戰提供急需的解決措施。該報告數據顯示，美國、日本和韓國在新一代突破性科技方面具領先地位，即智慧製造材料、健康、資通訊技術這些有潛力改變現有進程的領域，尤其是韓國，最近在這些領域獲得了重大進展。自2000年以來，韓國的公共研發支出增加二倍之多，2014年GDP佔比達1.2%。反觀，許多發達經濟體的公共研發支出卻停滯不前，2014年OECD經濟體公共研發GDP佔比平均水平低於0.7%。 於2010-12年間，在智慧製造材料、健康和新一代資通訊技術領域，在歐洲和美國申請專利家族(patent families)中，美國、日本和韓國共佔到65%以上，接著是德國、法國與中國。2005-07年，韓國在這三個領域的專利家族申請數表現出最為強勁。在資通訊技術領域，韓國正致力於推動智慧聯網技術，歐盟是量子計算，中國則是巨量資料。於2013年OECD國家總研發支出實際增長了2.7%，達1.1萬億美元，但其GDP佔比與2012年相同，為2.4%。這一增長主要來自企業研發投入，而政府研發投入受到了預算合併等措施的影響。創新不止依靠研發上的投入，也依靠互補性資產，如軟體、設計和人力資本，即知識資本（knowledge-based capital, KBC）。知識資本投入已證實可抵抗經濟危機的衝擊，且2013年的數據表明各個經濟行業都增加了對知識資本的投入。但自2010年以來，許多發達國家政府資助或實施的研發減少或停滯不前。OECD警示，研發支出的減少對許多發達經濟體科技研發系統的穩定產生了威脅。鑑於OECD國家70%的研發來自企業部門，也傾向於關注特定應用程序的開發，從而改進先前的OECD計分版本，此份報告強調政府有必要保持對更具開放性的“基礎研究”的投入，始能激發與一些潛在用戶相關的新發現與新發明。
FCC正式將新版網路中立命令提交予美國聯邦政府公報刊登美國聯邦通訊委員會（Federal Communications Commission, FCC）於2015年2月26日公布了新版的網路中立命令後，由於新版方案揭櫫了禁止提供快車道（fast lane）予特定服務業者的重要原則，因此被外界預測將遭到各大網路服務供應商的反彈，一如外界所預期的，美國電信協會（United States Telecom Association, USTelecom）於2015年3月23日在美國華盛頓特區聯邦巡迴上訴法院對FCC的新版法案提起訴訟，USTelecom認為，新版的網路中立法案中，賦予監理機構──亦即FCC太多裁量權限，將使得FCC的權力難以控制，在此同時，德州的一家網路服務業者Alamo （Alamo Broadband Inc.）也基於相類似的理由，於美國紐奧良聯邦巡迴上訴法院對FCC提起訴訟。而實際上，在前開電信業者向法院提起訴訟時，FCC的新版網路中立方案甚至尚未刊登於美國聯邦政府公報（Federal Register），自然也無從討論法律生效時點的問題，這個訴訟程序的瑕疵也立即引起各界的注意，論者咸認這些訴訟都將會遭到法院的駁回，但USTelecom宣稱他們的訴訟標的是生效後的法案。 對於各大電信業者、網路服務供應商的大動作，FCC似乎已經準備好面對這些法律論戰，2015年4月1日，FCC正式將新版的網路中立方案提交予美國聯邦政府公報刊登，依據相關規定，此項行政命令將會在刊登2個月後正式產生法律效力，這也意味著在命令生效後，前開訴訟標的之爭議將不復存在，此後再行提起的訴訟，勢必也將正式地透過司法途徑解決。