日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
近年來，人臉辨識（Face recognition）技術迅速發展，增加便利性的同時，也伴隨了種種隱憂，如：對隱私權的侵害、公部門權力濫用等，是以加州舊金山市（San Francisco）和麻薩諸塞州薩默維爾市（Somerville）分別在今年（2019）5月和6月發布公部門使用人臉辨識技術的相關禁令，加州奧克蘭市（Oakland）並於7月16日跟進，成為美國第三個禁止公部門使用人臉辨識技術的城市。 2018年麻省理工學院曾針對人臉辨識技術的正確率做過研究，其研究結果報告顯示黑人女性辨識錯誤率超過30%，遠不如白人男性；美國公民自由聯盟（American Civil Liberties Union, ACLU）也針對Amazon人臉辨識軟體Rekognition做過測驗，結果該系統竟誤將28名美國國會議員顯示為嫌疑犯，這兩項研究顯示，人臉辨識技術存有極高錯誤率且對種族間存有很大的偏見與歧視。對此奧克蘭市議會主席卡普蘭（Rebecca Kaplan）一項聲明中表示：「當多項研究都指出一項新興技術具有缺陷，且造成寒蟬效應的時候，我們必須站出來」。 卡普蘭並表示：「建立社區和警察間信任與良好關係以及導正種族偏見是很重要的，人臉辨識技術卻反而加深此問題」、「對於隱私權和平等權的保護是最基本的」，故奧克蘭市通過禁止公部門使用人臉辨識技術的法令，原因如下： 人臉辨識系統所依賴的資料集，具高度不準確性。 對於人臉辨識技術的使用與共享，尚缺乏標準。 這項技術本身具有侵犯性，如：侵犯個人隱私權。 政府如果濫用該技術所得之資訊，可導致對弱勢族群的迫害。 雖然目前美國僅有三個城市通過政府機關禁止使用人臉辨識技術的法令，但依照目前的發展狀態，其他的城市甚至州在未來也可能會跟進頒布禁令。
OASIS網路標準服務遭抵制開放原始碼及自由軟體的大老等發起一封抵制網路服務標準機構OASIS新專利政策的活動，並簽署了一份電子郵件，呼籲社群不要採用由OASIS標準組織所通過的規格。OASIS本月修改了它的專利政策，宣稱為開放原始碼軟體的開發提供了更好的選擇。 這份電子郵件中表示，不要採用OASIS的不開放標準。要求OASIS修改它的政策。如果你是OASIS成員，對於這種窒礙難行，不能用在開放原始碼及自由軟體上的標準，不要參與其工作小組。支持者亦表示，希望類似OASIS這樣的組織能訂出明確政策，好讓所有想採用業界標準的組織可以預先知道未來是否會被收費。 然而，OASIS為自己的政策修改提出辯護，也對這個活動加以反擊。其表示，OASIS這個政策和W3C的政策一樣，都要求必須免權利金才行。且其政策規定，業界標準可以加入專利技術，但必須對外公佈此事才行。而且幾乎在所有的案例裡，這倒頭來都會變成免專利金。 OASIS所修改的政策為標準工作提出了三種模式：RAND（reasonable and nondiscriminatory licensing，合理且統一的授權）；RAND條件下的RF（免權利金）；或者是有條件下的RF。 對於OASIS的杯葛，反應出產業在IP權利上的利益，以及開放原始碼和自由軟體支持者間的爭執。OASIS的新政策預計要在4月15日生效，原本是要展示對開放原始碼擁護者的妥協。但是，這份電子郵件簽署活動，顯示出新政策依然難已被接受。
奈米技術之瞻性規劃－以美國推行綠色奈米為中心 日本政府決定採用共通編號制的三個方案，也會顧及消費稅的逆進性日本政府於6月29日召開關於賦予國民每一個人一個編號以便掌握每個人所得的「共通編號制度」的檢討會，會中決定將以利用於納稅與社會保障給付為軸心，朝引進制度推動的三種選擇方案。會中也討論到利用於減緩使低收入群負擔愈加沈重的消費稅的「逆進性」上。目前提出相關方案也有緩和參議院改選中有關增稅批評的目的。 從之後的1個月內會開始募集國民的意見後，到年底會將三種方案綜合為一案，以明年的一般國會會期中提出相關法案的方向推動。 有關共通編號制度，當然被指出會有個人資訊外洩與侵害隱私權的憂慮。菅直人首相在檢討會中提到「希望是立於國民本位制度上的來思考，也必須得到國民大眾的瞭解」。在檢討會中承認僅供稅務使用的A案、用於稅務與社會保障的B案及用於大範圍的行政領域上的C案，使用範圍各自不同的三種方案。 也出現希望所賦予的新編號能與目前正在使用中的「住民票號」能夠接軌的想法。利用編號制度正確掌握國民的所得情形，進而在增加消費稅之時，就有可能適切地對低收入群進行減稅與用現金補助。 消費稅是對包含生活必需品等大範圍的物品及服務課稅，所以愈是對將收入用於消費的比例龐大的低收入群會對增稅的負擔愈感沈重。 對減緩此一逆進性的有效制度，就是對有繳納的所得稅給予減稅，沒繳納所得稅的給予現金補助的「附給付的稅額扣減」。充分利用編號制度，將可補足反映所得所能退補的金額。