日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
Google近期宣布更新廣告政策，以遵守將於2020年1月1日生效之「加州消費者隱私保護法」（California Consumer Privacy Act, CCPA），要求符合該法規之事業體(不論是否於加州開設實體據點)：年度總收入超過2,500萬美金、年度收入50%以上源自於出售加州居民之個人資料、每年收到或分享總計超過5萬筆加州居民、家庭或裝置之個人資料、若公司之母公司或子公司符合CCPA所定條件者，允許消費者得選擇並行使退出其個人資料銷售權利。 Google表示使用其網站廣告工具與應用程式將能屏蔽個人化廣告，個人化廣告，係依消費者瀏覽紀錄、興趣及過去行為投放予消費者，廣告商有時花費高達10倍價錢置入，惟互聯網相關企業先前所進行之遊說未能使該法規排除個人化廣告，從使最受歡迎及利潤豐厚之線上廣告面臨行銷危機。 依Google新合規條款，透過Google工具（如AdSense和Ad Manager）銷售廣告之網站及應用程式目前無需進行重大更改，廣告商亦可選擇停止所有來自加州網址之消費者或阻擋全球使用個人資料之個人化廣告銷售，該合規條款除於線上發布外，並已通知予各廣告商。 Google表示，當觸發「限制數據處理」時，廣告將僅基於一般數據，例如用戶所在城市位置或廣告所在頁面主題等；此外，Google亦不會在受限制模式下記錄個人資料而用於未來之廣告行銷。
數位內容與色情問題引起討論南非國會近期推動數位匯流法案 (Convergence Bill) 之立法，其中，色情內容是否應於數位匯流立法之中加以定義與規範，引起不同的看法。有專家指出，色情內容超出了數位匯流法案所應規範之主題。亦有專家指出，如定義與規範不當，反而會引發出更多的問題。 在數位匯流與數位內容成為趨勢的今天，我們對於數位匯流與數位內容都從正面的角度來加以觀察，並予以期待。然而，數位匯流的只是傳播媒介，數位內容標示的也只是承載內容的載體。我們希望什麼樣的數位內容？負面的數位內容 ( 如色情內容 ) 在未來數位匯流與數位內容的發展趨勢中，應被放置在一個怎樣的位置，應是值得我們加以思考的。
川普簽署行政命令以促進美國AI領域的發展美國總統川普於2019年2月11日簽署一項行政命令，發布「美國AI倡議」（American AI Initiative），旨在確保美國在AI領域的領導地位，川普並說道：「美國在AI領域的領導地位對於維護美國的經濟和國家安全至關重要」。「美國AI倡議」從五大方面來促進美國在AI領域的領導地位，包括： （一） 投資AI的開發 指示聯邦機構在研發任務及編排預算時，將AI作為優先投資項，確保美國對於AI基礎研發的長遠重視，此外，政府機構並應說明如何將預算用於AI研發開支，以增進對於AI投資的評估。 （二） 數據和資源共享 將聯邦政府中所擁有的統計數據資料、運算模型及運算資源提供給AI研發人員，促進交通和醫療保健等領域的AI發展。 （三） 建立政府標準及監管 白宮科技政策辦公室和美國國家與技術研究院（NIST）制定標準，以提升AI系統的「可靠、穩健、值得信賴、安全、可移轉和具協同性」。透過為不同技術和產業的AI制定使用指南，確保AI的使用安全和適當監管。 （四） 人才培訓 要求各機構為AI進步形成的就業市場變化做好準備，並考慮透過技能培訓課程、獎學金和學徒制度，因應市場人力產生之變化。 （五） 國際參與 與其他國家制定合作策略，協同AI技術的開發，同時確保AI領域之開發符合和不損及美國人的價值觀和利益。 此項倡議雖提及許多面向之發展，但仍然缺少發展細節，亦未提及計畫新資金的投入，因此，許多人對此倡議皆提出質疑。曾協助歐巴馬政府制定AI報告的哈佛大學教授Jason Furman即表示，此「倡議」雖令人鼓舞，但僅是邁出第一步，關鍵的考驗將在於是否能以強而有力的方式確實貫徹執行倡議中的內容，此倡議仍欠缺細節及執行面之部分。
歐盟執委會正式提案，授權各國決定是否開放種植基因改造作物歐盟執委會於7月13日正式提案，會員國得在各自領土範圍內決定准許、限制或全面禁止基因改造作物的栽種。執委會的提案內容包括對於基因改造作物與非基因改造作物的共存（在同一區域內栽種）管制建議，同時也提出修正條文草案建議供各國於修正各國內有關基因改造作物相關法律的參考。執委會的提案修正了歐盟2001/18/EC指令（Directive 2001/18/EC）使得各會員國可因地制宜考量，自行決定基因改造作物的允許栽種與否。 執委會的提案源自今年三月時對會員國的承諾。歐盟健康與消費政策委員會的主席表示，執委會此提案兌現了當時要在今年夏天結束歐盟各國對基因改造作物的爭議的承諾，此同時他也強調歐盟現行以科學為基礎的授權機制並非完全廢除，全面性的安全評估與監控系統仍繼續運作，這也是歐盟對基因改造作物耕種給予各國彈性措施的同時對安全基本把關的表現。 歐盟原有的規定訂有基因改造作物與非基因改造作物0.9％共存門檻（labellingthreshold，指由受驗作物全部基因中所含改造基因的比例判斷是否為基因改造作物的標準），各會員國必須立法採行有關措施（如作物田的間距）以符合該項要求。 但過去幾年的運作經驗發現，耕作非基因改造作物農民的潛在損失並不限於因為所產作物超過該門檻，某些案例中，基因改造有機物殘存於食品中，反而使得想要將食品以不含基因改造有機物產品販賣者造成損失。執委會新的建議案給予各國調整該共存門檻的權力，同時，各國也可以成立非基因改造專區等。2001/18/EC指令的修正條文（第26b條）將適用於所有的基因改造有機物，各國得自行決定限制或禁止其境內的基因改造作物耕種，無須執委會的授權，但須在境內措施施行一個月內通知歐盟各國及執委會。執委會的提案將在歐洲議會及歐洲理事會通過後正式施行。 對於此一即將於歐盟施行的新基因改造作物耕種規範，生技產業顯然有不同意見，依照生技業者協會EuropaBio的聲明，他們認為新規範充滿對新科學的偏見且阻礙農民的自由選擇權。基於產業的觀點，新的規範架構也有疑慮，例如：0.9％的門檻下放各國自行決定調整，往後將引起權責機關以及農民、買家、以及有關產業製造商之間的爭議；新措施也造成對歐盟內部市場的壁壘—造成歐盟境內國家的或區域的限制林立，而與歐盟的基本原則相悖；最後，對於科學的偏見與歐洲食品安全局（EFSA）的聲譽之影響也是一大隱憂。 歐盟對基因改造作物的立場一直尚未定調，新規範亦僅只是採取「下放」給各國自行決定的作法，惟實際上的運作，綜合當前對基因改造作物之安全性充滿疑慮與爭議的氛圍下，各國未來自行訂定規範將更寬或更嚴，後續發展如何有待密切觀察。