日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
加州環保署下的加州空氣資源委員會（California Air Resource Board），在2008年12月通過了加州氣候變遷計畫（Climate Change Scoping Plan），目標是在2020年將州內的溫室氣體減量至1990年的水準，本計畫是依加州州長Schwarzenegger在2006年9月，所簽署的2006全球暖化解決法（the Global Warming Solutions Act of 2006）之要求而提出。加州是美國第一個如此正式訂立一個全面性的、法定的、且包含了每一個經濟層面的關於溫室氣體減量計畫的州。 氣候變遷計畫的原則是，找出最佳策略去減少約百分之三十的溫室氣體排放，同時在乾淨和永續的原則下發展加州經濟。計畫中的一個重點方案是碳總量管制與交易（Cap-and Trade），加州將和「西部氣候行動」聯盟（Western Climate Initiative）合作，此組織包括美國七個州及加拿大四個省份，共同承諾去管制它們的碳排放，並建立一個地方性碳交易市場。計畫中其它重要的方案還包括了，執行加州清淨汽車標準、增加州內乾淨和永續能源的使用、執行低碳燃油標準等。 加州空氣資源委員會主席Mary Nichols指出，本計畫是加州達成更安全與永續經濟的指南，它將會引導資本投資在增加能源效率和發展再生能源，使加州對石油的依賴降低，並給予加州居民數以千萬的工作機會。且身為第一個採取如此綠色行動的州，加州在吸引全球相關投資及發展綠色科技上將維持自己立於一個領導地位，取得並擴大全球綠色市場的需求。加州空氣資源委員會將開始擬定執行所有方案的細節，依法所有的方案必須於2012年前全部生效執行。
美國最高法院肯定電玩同樣受到憲法第一修正案言論自由之保護美國最高法院日前針對Brown v. EMA & ESA（即之前的Schwartzenegger v. EMA）一案作出決定，確認加州政府於2005年制定的一項與禁止販賣暴力電玩（violent video games）有關的法律，係違反聯邦憲法第一修正案而無效。 該加州法律係在阿諾史瓦辛格（Arnold Alois Schwarzenegger）擔任加州州長時通過。根據該法規定，禁止販售或出租暴力電玩給未滿18歲的未成年人，且要求暴力電玩應在包裝盒上加註除現行ESRB分級標誌以外的特別標誌，故有侵害憲法第一修正案所保障的言論自由之虞。本案第一審、第二審法院均認定加州「禁止暴力電玩」法案係屬違憲。 而最高法院日前於6月27日以7比2的票數判決，肯定下級審的見解。最高法院認為，電玩（video games）係透過角色、對話、情節和音樂等媒體，傳達其所欲表達的概念，就如同其他呈現言論的方式（如書本、戲劇、電影），皆應受到憲法言論表達自由原則之保護。 因此，對同樣受到憲法保障的遊戲內容表達，只有在有重大（值得保護）的公益須維護時，才能對其加以限制；同時，限制手段亦須通過最嚴格的審查標準（stringent strict scrutiny test）。最高法院認為，本案中加州政府並無法證明有重大（值得保護）的公益存在，且以法律禁止販賣的手段也無法通過審查標準。 如同美國娛樂軟體協會（ESA）CEO Michael D. Gallagher所說，政府不應採取立法禁止的方式，限制遊戲內容的表達自由；反之，美國電玩產業一直以來都遵守一套自願性的分級制度（Entertainment Software Rating Board rating system），藉以提供消費者有關遊戲內容的資訊。這套分級制度已足以協助家長從包裝盒上辨認出遊戲內容，確保未成年人不接觸不適宜的遊戲。 判決出爐後，產業界紛紛表示這是對遊戲產業的一大勝利。本案也證明，即使面臨日新月異科技發展的挑戰，憲法所保障的言論自由表達原則，同樣適用在新興科技的表現媒介。
歐盟針對個人資料傳輸第三國之規範提出參考指引歐盟資料保護監督機關(European Data Protection Supervisor, 下稱EDPS)於2014年7月14日，針對利用雲端運算以及行動設備，將個人資料從歐盟境內傳輸至非歐盟國家之部分，提出意見書作為參考指引。EDPS通常會針對雲端業者在從事商業服務時，進行監督審查，當個人資料透過雲端運算服務進行傳輸或處理時，會由EDPS先行確認，以確保該傳輸是否符合歐盟之個人資料保護指令(Directive 95/46/EC)與規則(Regulation (EC) No 45/2001)之規範。 有鑑於跨境合作或使用傳輸服務等需求，歐盟境內將個人資料傳輸至第三國或國際組織之情形日益劇增，此參考指引之主要目的在於詳加解釋歐盟資料保護規則(Regulation (EC) No 45/2001)中關於國際間個人資料傳輸之規定以及應該如何適用。 首先，該指引針對何謂個人資料傳輸以及歐盟資料保護規則第9條之範圍做出說明，後續則分別就適當保護之意涵，以及由歐盟執委會基於規則第9.5條之規定依權限得決定第三國是否已達適當保護標準之國家等部分加以論述。最後，該指引則提供確認表，在資料傳輸前應經過一定的確認流程，包括確認資料接收的國家或組織是否已有適當的保護層級，若無，則是否尚有其他資料可證明。如上述皆無法證明，則應考慮是否有例外情況，例如:取得資料所有人同意得進行傳輸、資料所有人與資料控管者因契約約定同意傳輸、資料控管者與第三人因契約約定，基於資料所有人之利益而傳輸、基於重要公益事由或其他法律上之事項必要傳輸、基於保護資料所有人之重要利益而傳輸、基於資料提供於大眾而傳輸等。倘缺乏以上例外情形，則可考慮資料控管者是否得援引自己已經具備適當的安全機制而可進行資料傳輸。最後，如無任何安全之保護，則資料將無法進行傳輸至第三國。 綜上，歐盟針對資料傳輸予第三國之部分做出更詳細之說明作為參考指引，使資料之傳輸與流通更有明確的規範方向，其後續適用之成效為何應可持續觀察。
美國政府課責署重視NPE濫訴現象，並提出「patent monetization entities」概念近年專利蟑螂（Paten Troll）、非專利實施實體（Non-Practicing Entity, NPE）的興起，使得國際上智慧財產權的運用出現巨幅變化。美國政府、企業及學界皆認為專利蟑螂濫訴現象為亟待解決之課題，而相繼投入研究，並於近日陸續發表重要之研究報告。 繼今年（2012）8月，美國國會研究處 (Congressional Research Service)提出對抗專利蟑螂之研究報告後（“An Overview of the "Patent Trolls" Debate”）。隸屬國會的政府課責署（Government Accountability Office, GAO, 另譯審計總署）所資助的研究團隊，亦於杜克大學科技與法律評論（Duke Law & Technology Review）發表相關研究。研究團隊採取實證的研究方法，於2007年～2011年間，每年度隨機抽樣100家涉及專利訴訟的公司，總計抽樣500家公司。依據該項研究結果，去年（2011）由NPE所提起的專利訴訟，佔研究樣本的40%，相較於5年前的數據，成長幅度高達2倍。本項研究可歸納以下兩項要點： 1.專利訴訟主體的變化 由NPE為原告所提起的專利訴訟數量呈現極速成長；由企業為原告者則逐年下降；同為非專利實施實體之大學，其作為原告所提起之訴訟則未達1％。 2.訴訟並未進行實質審理 由NPE提起之訴訟，其目的在於獲取和解金或授權金，故絕大多數係申請作成即時判決（summary judgement），即當事人一致認為對重要事實不存在爭議，而向法官申請不為事實審理，僅就法律問題進行裁決。 就此，該研究團隊認為，NPE已成為專利制度，甚至係整體經濟之一環，故提出應以「patent monetization entities」取代過往NPE的稱呼，強調此類公司以專利授權或專利訴訟作為公司營利之來源，如此將更為貼切。