日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
國際藥廠Novartis被指控濫用美國食品藥品管理局（the U.S. Food and Drug Administration，簡稱FDA）為鼓勵藥廠投入研發被忽視疾病治療藥物所設立的一套獎勵制度。 這套制度是根據2007年美國國會所通過之美國食品藥品管理法修正案（the Food and Drug Administration Amendments Act of 2007）而創設，主要是給予向FDA申請治療其表列之被忽視熱帶疾病（例如瘧疾、血吸蟲病、利什曼病等）藥品查驗登記並獲通過之申請者一份所謂「藥品優先審查劵」（priority review voucher），讓該申請者可以用於之後所提出的人類藥品查驗登記申請，而得以享有優先審查之權利。 這個所謂「藥品優先審查劵」對於藥廠來說可說是價值非凡，因為藥品查驗登記程序正常情況往往超過10個月以上，但是適用優先審查程序之申請案，卻可以有九成左右在6個月內就獲得通過，這對於藥廠的好處在於，其可以比其他競爭者更快地將其所生產藥品上市販售。 Novartis於2009年4月獲得FDA通過其就治療瘧疾藥物Coartem之查驗登記申請，而成為適用此獎勵制度之首例並獲得「藥品優先審查劵」。Novartis的行為之所以招致批判，因為其所申請之藥物Coartem並非是針對治療瘧疾所研發出來的新藥，其從1999年起便已在部分國家被許可使用，只是該藥物在美國從未被申請查驗登記而獲准通過。由於上述獎勵制度並未言明是針對新開發之治療熱帶疾病的藥品，所以Novartis的動作可以符合其要件並獲得獎勵，但此舉卻有鑽法律漏洞之嫌。
歐盟智慧聯網研發推動平台報告，物聯網共創價值的六大支柱成功的物聯網（IOT）平台生態系統取決於多種因素，2017年4月3日歐盟智慧聯網研發推動平台（ European Research Cluster on the Internet of Things）在物聯網活動平台分析（Analysis on IoT Platforms Adoption Activities）中提出六個成功的重要因素： 策略與利害關係人的參與（Strategy & Stakeholder Engagement）：成功物聯網平台除了要製定良好的願景外，並讓主要利害關係人適當的參與系統策略，與整體政策格局保持一致性。 社群的支持（Community Support）：社群支持程度決定了物聯網系統的吸引力，透過適當的的機制和工具，以有效地減少參與的障礙。 開放性（Ecosystem Openness）：非常封閉的物聯網系統，吸引較少參與者。透過適當的開放以鼓勵利害關係人之參與，並減少進入之障礙。 技術的進步程度（Technology Advancement）：越是被廣泛使用的技術及技術特徵，越可以顯著增加物聯網系統的吸引力，除了提高績效以外，並增加系統存續之可能性。 市場機制（Marketplace Mechanisms）：透過市場機制可以取得用戶間的信任感，以增加參與的可能性，透過參與者價值交流進一步鼓勵參與。 包容性（Technology Inclusivity）：物聯網系統很少是孤立的，必須考慮許多外部因素，如架構技術、物聯網設備、服務等。物聯網生態系統越包容其他流行技術，越有可能被使用者接受。
歐盟發佈關於監督金融業之數據保護準則歐洲數據保護監督組織(European Data Protection Supervipsor,EDPS)發表「關於在歐盟監督金融業之數據保護準則」(Guidelines on Data Protection for Financial Services Regulation)，以作為確保歐盟的數據保護規範，將被整合進正在發展中的金融政策與相關規定之實用工具。該準則為金融市場監督機制的一部分，在金融業對個人資料的處理上，特別是透過監控、記錄保留、回報、以及資訊交換這些存有侵犯個人資料和隱私權風險的措施予以規範。 該準則包含10項步驟與建議，旨在協助歐盟後續金融監督政策的制定，其中一些重要的建議如下： (1)應評估資訊之處理是否可能妨礙隱私權。 (2)應為數據的處理建立法律基礎。 (3)評估適當的資訊保留期限並給予正當化依據。 (4)建立個人資料傳輸至歐盟外的正當法律依據。 (5)提供個人資料保護權利的適當保障。 (6)衡量適當的數據安全保護措施。 (7)應為數據處理的監督提供特定之程序。 有鑒於2008年金融危機的影響，該準則透過提供一個能確保個人資料被妥善保護的有效方法，期以重建金融市場的信心。Giovani Buttarelli，作為新任歐洲數據保護監督委員，在一份伴隨準則釋出的聲明稿當中表示：「個人資料的價值已經隨著數位經濟的成長不斷增加，確保各行業的個人資料得以受到保護也益顯重要。歐洲數據保護監督組織(EDPS)計畫對不同行業制定相關保護規範，此準則是第一個發佈的。」
德國經濟暨能源部召開2016年「中小企業創新核心計畫」年度會議德國經濟暨能源部於2016年10月27日召開2016年「中小企業創新核心計畫」年度會議，約有200位專業經理人、企業與學者共同參與討論創新產品未來在市場的趨勢、創新生產流程與技術服務，專家在會中提供許多寶貴意見。聯邦政府中小企業處代表Gleick開幕致詞時表示，中小企業的創新力量決定我們在未來的經濟成就，所以政府需要持續投資在研究與創新以及適當的補助。 經濟暨能源部以「中小企業創新核心計畫」補助中小企業、研究機構共同開發以市場為導向的研究與創新技術，透過共同合作使參與的企業更具有產業競爭優勢，此計畫於2016年提供543百萬歐元補助，日前亦通過2017年548百萬歐元補助預算。 中小企業創新核心計畫（Zentrales Innovationsprogramm Mittelstand ,以下簡稱ZIM）是一項覆蓋全國範圍、不限制技術領域和行業的補助計畫，補助對象除中小企業外，還包括與之合作的研究機構。ZIM計畫中補助的中小企業為員工人數不超過499人，同時年營業額低於5000萬歐元或資產負債表總額低於4300萬歐元的企業。該計畫整合過往其他許多補助計畫，德國聯邦經濟與能源部於2015年4月公佈了最新的ZIM計畫實施方針，擴大受補助中小企業的範圍，且提高資助資金的數額，將對企業補助的最高數額從35萬提高到38萬，對研究機構補助的最高數額從17.5萬提高到19萬歐元，以持續提升德國中小企業的創新能力與競爭力；企業與合作研究機構可以在補助的架構下針對先進技術研發獲得資金，研發主題不限，重點在於創新內容與市場價值。