日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
英國商業、能源和產業策略部（Business, Energy and Industrial Strategy, BEIS）與天然氣與電力市場辦公室（Office of Gas and Electricity Market, Ofgem）於2016年11月10日共同發佈「邁向智慧彈性的能源系統」公眾諮詢，此份文件作為英國致力於建設21世紀能源基礎設施的一部分，BEIS和Ofgem正進行合作確保英國的能源系統能夠應付未來最新的挑戰，並利用創新技術提供工作機會以及更好的服務。智慧彈性的能源系統將為英國消費者和經濟帶來顯著的好處，協助英國更靈活地使用能源，提高整個能源系統的使用效率。 本文件指出，消費者是智慧彈性能源系統發展的核心，該系統可提供消費者選擇並控制如何用電，包括由消費者產生的任何電力及電能。英國政府的基本概念係基於使市場能夠實現價格、質量的競爭，也希望創新的彈性解決方案能夠與更多傳統解決方案相互競爭。 智慧彈性的能源系統能帶給英國的好處包括以下：高效率的發電與調度、降低能源費用、增加消費者選擇、緩解氣候變遷對能源系統的損害、增加需量反應及儲能的應用、促進新興服務的提供、確保能源供應安全、移轉尖峰負載需求、簡化新能源技術整合既有系統的難度、出口低碳能源專業技術及知識服務、搭配天然氣補充間歇性能源之不足、避免關鍵能源基礎設施的不必要或重複的投資、可出口過剩能源至他國、推動能源產業的新商業模式等等。 對本文件的積極回應以及更廣泛的參與將有助於形成2017年春季公布的政策方案，未來該方案將闡明英國政府計劃採取的具體行動，以消除市場障礙、改善價格信號、促進創新、形塑能源系統中各方角色和責任，將英國未來導向更智慧、更靈活的能源系統，以滿足消費者和企業對於現在及未來的能源需求。
產業創新與管制革新－日本國家戰略特區制度等之啟示 美國「潔淨能源製造推動方案」美國的「潔淨能源製造推動方案」(Clean Energy Manufacturing Initiative, CEMI) 係由能源部自2014年起推動，目標是在強化美國製造業之競爭力的同時，促進經濟成長與能源目標及能源安全的達成。潔淨能源製造推動方案係以創新及排除市場障礙為核心目標，相關行動包括：(一)技術研發：能源部在推動方案下針對製造業的研發提高補助金額；(二)新型創新模式：推動方案旨在透過公私夥伴計畫與製造創新量能的提生，促進美國境內潔淨能源製造創新基礎設施之共享；(三)競爭力分析：經由競爭力分析挹注研發投資與確認對於潔淨能源製造而言至關重要之助力與阻力；(四)溝通與意見徵詢：推動方案特別強化與利害關係人間的廣泛對話，以修正其推動策略，並確認政府與民間部門能經由哪些途徑以共同合作來提升美國在潔淨能源製造上之競爭力；(五)能源生產力之技術支援：能源部向製造商進行能源生產力資源上的投資，這當中包括技術支援與市場領銜計畫。在我國之相關發展上，2015年11月26日於北京舉辦之「兩岸工業發展和合作論壇」，經濟部工業局表示，論壇聚焦於智慧製造與綠色製造，兩岸可針對工業發展過程中，例如材料、監控、生產流程等方面，整合雙方技術特點共同解決。
日本政府擬修法加強交友網站管制以保護未成年人有鑑於未滿18歲青少年透過交友網站而遭受性侵害等事件頻傳，日本警察廳專家研究會議，建議增訂課以交友網站業者應向地方政府公安委員會提出申請，以及嚴格確認會員年齡等義務。警察廳在接受前述意見後，將進行「交友網站規範法」修法作業，並於徵求各方意見後，向國會提出修正法案。 日本政府於2003年施行「利用網路異性介紹事業引誘兒童行為規範法」（簡稱「交友網站規範法」）後，被害兒童人數逐年減少；但自2006年起再度呈現攀升趨勢。依據現行法規定，引誘未滿18歲兒童利用交友網站而進行性行為或援助交際者，將處以六個月以下拘役或100萬日圓以下罰金。對於交友網站業者，除應明示禁止兒童利用外，並課以確認使用者非兒童之義務。然而，在該法施行後，警察廳雖得對特定業者進行警告，卻因交友網站使用海外伺服器或利用免費網站，伺服器管理者無法確認交友網站業者的資料，而引發許多問題。因此，警察廳認為現行規範法實施四年後，規範效果已經遞減，而開始著手進行修法。 日本警察廳根據專家研究會議之建議，提出「網站經營者責任明確化」、「防止兒童利用」以及「排除資格不符的業者」等三大因應策略。未來「交友網站規範法」之修法方向，將課以交友網站業者向地方政府公安委員會提出申請，並應嚴格確認會員年齡等之義務。如業者發現使用者為兒童，或得知大人對兒童留下買春的邀約時，業者必須刪除該文字，並應要求該使用者退出會員。此外，「交友網站規範法」也將增訂停止命令，對於不遵從改善命令之業者，將可以強制停止業務外，並應審查是否為黑道等不良份子，以排除不適格的業者。為使停止命令具有實效性，也將檢討是否對不服從命令之業者科以刑事罰則。另一方面，從保護兒童的觀點來看，監護人與行動電話業者亦扮演重要角色，故也擬增訂加強電信業者應負限制連結或過濾交友網站等之責任。