日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險

日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。

隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。

本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下:

1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。

2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。

日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。

本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。

本文同步刊登於TIPS網站(https://www.tips.org.tw

相關連結
你可能會想參加
※ 日本發布利用AI時的安全威脅、風險調查報告書,呼籲企業留意利用AI服務時可能造成資料外洩之風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9235&no=64&tp=1 (最後瀏覽日:2026/04/26)
引註此篇文章
你可能還會想看
行政院決議就登陸重大投資案增設政策性審查

  繼陳水扁總統於元旦宣示兩岸經貿改採「積極管理、有效開放」後,行政院於 3 月 22 日 的院會中通過兩岸經貿「積極管理、有效開放」配套機制方案,方案執行面向涵蓋經濟、農業、金融、人員及小三通等經貿往來層向,建立管理目標及機制。其中在經濟類部分,為強化對大陸投資之有效管理,企業赴大陸地區超過一定金額或涉及敏感科技的重大投資案,增設「政策面審查」, 但方案中並未進一步指出一定金額與敏感性產業的定義。   經經濟部邀集陸委會等相關單位,討論積極管理配套措施中的「重大投資案」界定標準,會中決定政府將參考國內廠商設立晶圓廠的投資規模,制定相關審查辦法,將 1 億美元以上或涉及敏感科技的投資案,進行「兩階段審查」,即政策面審查及投審會委員會議審查,並列舉需要經過政策面審查的產業。   所謂政策面審查,依據行政院大陸委員會發布的「兩岸經貿『積極管理、有效開放』配套機制」指出,是由政府邀請企業負責人及經理人,就企業財務計畫、技術移轉、輸出設備、在台相對投資等項目進行協調,在確定企業具體承諾,並由業者出具同意政府於必要時將進行大陸投資事項實地查核的承諾書後,再送投審會開會審查。經濟部表示,業者經核准進行大陸投資後,主管機關應分別針對母公司在國內持續投資與技術升級情況、廠商在大陸營運及增資、擴廠情形,持續追蹤管理,主管機關於必要時並將赴中國實地查核,以落實積極管理。   行政院表示,配套機制方案大部份是強調現行作業的「強化管理措施」,至於相關部會提出新增或應加強的執行事項,原則上應在今( 95 )年 6 月 30 日前完成,涉及修法及建置資料庫的部分,應在今年年底前執行或規劃完成。

「2012聯合國永續發展會議」宣示推動綠色經濟、永續能源等七大領域議題

  「聯合國永續發展會議」(United Nations Conference on Sustainable Development, UNCSD)於今(2012)年6月20日至22日在巴西里約舉行,為紀念1992年里約熱內盧「聯合國環境發展會議」(United Nations Conference on Environment and Development, UNCED)20週年及2002年約翰尼斯堡「世界永續發展高峰會」(World Summit on Sustainable Development, WSSD)10週年,而稱為「里約+20」(Rio+20)。   會議中探討主題包括永續發展與消除貧困的綠色經濟,以及永續發展的制度框架兩大議題;並且優先關注包括就業、能源、城市、糧食安全及農業、水、海洋及災害等七大領域。其中在能源方面指出,能源議題幾乎是現今世界遭遇的挑戰,無論在就業、安全、氣候變遷、糧食生產、或收入,皆與能源息息相關。依據國際能源署(International Energy Agency, IEA)的估計,目前全球仍有五分之一的人缺乏現代電力,30億人口仍倚賴木材、煤、炭來烹煮或取暖;能源是氣候變遷的主要影響因素,大約佔全球溫室氣體排放的60%,減少能源的碳密集度(carbon intensity),則是長期氣候的關鍵目標。   永續能源的發展,能加強經濟、保護生態系統,透過聯合國秘書長於2011年9月提出的「全面永續能源(Sustainable Energy for All, SE4ALL)」倡議計畫,整合政府、企業與社會團體,投入空前的努力,已進行了超過一百項的承諾與行動。在政府參與的部分,例如迦納(Ghana),主動參與首批國家能源行動計畫,以支持能源發展及創新的融資機制。而在私人企業例如微軟(Microsoft)致力於碳中和(carbon neutral)並推出企業內部的碳費(carbon fee)制度;雷諾日產聯盟(Renault-Nissan Alliance)承諾投入約50億元於零排放車輛的商業化。另外如美國銀行(Bank of America)設置10年500億美元用於環保業務;以及一些非政府組織或個人,例如電氣電子工程師協會(Institute of Electrical and Electronics Engineers)等多個專業協會,均承諾投入持續性能源的倡議計畫。希望藉由相關行動,支持聯合國全球永續能源的發展,達到2030年確保全球現代能源服務的普及、提高兩倍能源使用效率、並提升兩倍再生能源的利用。

基因轉殖複製羊 創造生技產業的新利基

  台灣複製動物技術又邁向新的里程碑。行政院長謝長廷於 9月8日上午宣布台灣第一頭外帶基因轉殖複製羊「寶鈺」,成功繁殖下一代,並將人類第八凝血因子成功遺傳給下一代。   目前人類第八凝血因子市價每公克價值 290萬美元﹙相當於新台幣8千萬元﹚, 全球每年約需要 300公克,預計將創造8億至9億美元價值的市場,由於「寶鈺」母子成為凝血因子供應源,其產值及身價自然十分驚人。雖然距離商品化階段仍有一段距離,但此項技術於世界已屬領先。   「寶鈺」順利產下後代將創下我國體細胞製動物正常繁殖後代之首例,以及開創基因轉殖羊之下一代傳承母羊外源基因人類第八凝血因子之生物科技的突破,未來運用複製與基因轉殖科技,利用家畜泌乳系統作為生物反應器以生產醫藥蛋白,將可成為台灣生技產業之利基點。

英國發布國家資料戰略(National Data Strategy)

  英國數位、文化、媒體暨體育部(Department for Digital, Culture, Media & Sport)於2020年9月9日發布「國家資料戰略」(National Data Strategy),作為英國規劃其政府資料流通運用的整體性框架。數位、文化、媒體暨體育部長Oliver Dowden表示,資料為驅動現代社會經濟發展的關鍵。於今年COVID-19的全球疫情流行期間,政府、企業、組織等彼此及時共享重要資訊,除達成了防疫目標,更維繫了各層面的經濟生活。因此,本戰略則規劃活用此段期間獲得的知識與經驗,試圖透過資料的釋出流通與運用,讓英國經濟自COVID-19疫情中復甦,提高生產力與創造新型業態,改善公共服務,並使之成為推動創新的樞紐。   為優化英國資料的運用,本戰略提出了四個核心面向:(1)資料基礎(data foundation):資料應以標準化格式,且符合可發現(findable)、可取用(accessible)、相容性(interoperable)與可再利用(reusable)的條件下記載;(2)資料技能(data skills):應藉由教育體系等培養一般人運用資料的技能;(3)提升資料可取得性(data availability):鼓勵於公共、私人與第三部門加強協調、取用與共享具備適切品質的資料,並為國際間的資料流通提供適當的保護;(4)負責任的資料(responsible):確保各方以合法、安全、公平、道德、可持續、和可課責(accountable)的方式使用資料,並支援創新與研究。   基此,本戰略進一步提示了五個優先任務:(1)釋出資料的整體經濟價值:建立適切的條件,使資料在經濟體系內可取得且具備可取用性,同時保護私人的資料權(data rights)、以及企業的相關智慧財產權;(2)建構具發展性且可信賴的資料機制:協助企業家與新創人士以負責任及安全的方式使用資料,避免產生監管上的不確定性或風險,並藉以推動經濟發展。同時,也期待藉由機制的建立,鼓勵公眾參與資料的數位經濟應用;(3)改變政府運用資料的方式,提升效率及改善公共服務:以COVID-19疫情期間政府對資料積極運用為契機,推動政府間的整體資料有效管理、使用與共享措施,為相關作法建構一致性的標準與最佳實踐方式;(4)建立資料基礎設施的安全性與彈性:資料基礎設施為國家關鍵資產,應避免其遭遇安全或服務中斷的風險,進而導致資料驅動的相關業務或組織服務中斷;(5)推動國際資料流(international flow of data):與國際夥伴合作,確保資料的流通運用不會因各地域的制度不同,而受到不當限制。

TOP