日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
有鑑於未滿18歲青少年透過交友網站而遭受性侵害等事件頻傳，日本警察廳專家研究會議，建議增訂課以交友網站業者應向地方政府公安委員會提出申請，以及嚴格確認會員年齡等義務。警察廳在接受前述意見後，將進行「交友網站規範法」修法作業，並於徵求各方意見後，向國會提出修正法案。 日本政府於2003年施行「利用網路異性介紹事業引誘兒童行為規範法」（簡稱「交友網站規範法」）後，被害兒童人數逐年減少；但自2006年起再度呈現攀升趨勢。依據現行法規定，引誘未滿18歲兒童利用交友網站而進行性行為或援助交際者，將處以六個月以下拘役或100萬日圓以下罰金。對於交友網站業者，除應明示禁止兒童利用外，並課以確認使用者非兒童之義務。然而，在該法施行後，警察廳雖得對特定業者進行警告，卻因交友網站使用海外伺服器或利用免費網站，伺服器管理者無法確認交友網站業者的資料，而引發許多問題。因此，警察廳認為現行規範法實施四年後，規範效果已經遞減，而開始著手進行修法。 日本警察廳根據專家研究會議之建議，提出「網站經營者責任明確化」、「防止兒童利用」以及「排除資格不符的業者」等三大因應策略。未來「交友網站規範法」之修法方向，將課以交友網站業者向地方政府公安委員會提出申請，並應嚴格確認會員年齡等之義務。如業者發現使用者為兒童，或得知大人對兒童留下買春的邀約時，業者必須刪除該文字，並應要求該使用者退出會員。此外，「交友網站規範法」也將增訂停止命令，對於不遵從改善命令之業者，將可以強制停止業務外，並應審查是否為黑道等不良份子，以排除不適格的業者。為使停止命令具有實效性，也將檢討是否對不服從命令之業者科以刑事罰則。另一方面，從保護兒童的觀點來看，監護人與行動電話業者亦扮演重要角色，故也擬增訂加強電信業者應負限制連結或過濾交友網站等之責任。
智慧城市－「智慧城市世界大會展覽」暨歐盟政策今年11月17日到19日為期三天的第五屆「智慧城市世界大會展覽（Smart City Expo World Congress）－都會平台（Urban Platforms）：串聯資料數據以及城市之間的連結」於西班牙巴塞隆納舉行。該大會凝聚了世界500個城市、450個參展單位，以及400位講者於一堂，主要觸及了城市如何因應大量成長的數據、從新的管理方式中，要如何以及在哪裡得到價值，以及在加速城市中的都會平台過程中，要付出什麼樣的代價等議題。 今年度的大會展覽令人耳目一新的創新作品包括：綠色環保無人駕駛小公車、提醒視力受損者，道路上有障礙物的智慧應用程式、能夠辨識在範圍內的射擊，並且精準地指出事件發生地點的麥克風系統，還有其他諸如無人飛機、物流和都會區內遞送服務等等創意新點子。 「智慧城市」一詞，意味著一個能夠合於未來發展的都會，同時轉變為一個可以在提升資源以及能源效率的同時，還能夠減少對於生態衝擊的環境。而歐洲的智慧城市發展，主要是在「歐洲2020戰略」（Europe 2020）中，由歐盟執行委員會所實施的「歐洲創新夥伴計畫」（The European Innovation Partnership, EIP）帶領歐洲倡議都會平台於以下三個交互運作的活動以及發展：（一）以城市需求為導向的發展，使得能快速地適應都會平台；（二）由備忘錄（Memorandum of Understanding, MoU）所鞏固的供給導向發展；（三）在信任的基礎上所建立的標準化導向發展。 歐盟於2011年6月公布的「智慧城市與社群歐洲創新夥伴計畫」（The European Innovation Partnership on Smart Cities and Communities, EIP-SCC）目的是為了要將城市、企業與市民結合起來，共同藉由永續的解決方案，來改善都會城市現有的問題，並提升城市的整體生活。此計畫期許以資通訊科技（Information and Communication Technology, ICT）、能源與交通管理的結合，共同提出創新的解決方案，為今日歐洲城市面對來自於環境、社會與健康等挑戰進行解套，計畫發展核心包含開放資料（Open Data）、商業模式（Business Models）、政策與法規（Policy and Regulation）、能源效率與低碳解決方案（Energy Efficiency and Low Carbon Solutions）、財政金融與採購（Finance and Procurement）、都會移動（Urban Mobility）、能源整合網絡（Integrated Energy Networks）等。 從歐盟所發展的大戰略計畫，到今年第五年的「智慧城市世界大會展覽」，明顯嶄露出歐盟在積極推動經濟發展的同時，帶著永續環境的思維，這是之所以歐盟能持續引領歐洲，甚至世界未來發展趨勢的關鍵原因。
美國聯邦交通部公布自駕車4.0政策文件美國交通部（Department of Transportation）於2020年1月8日公布「確保美國於自動駕駛技術之領導地位：自駕車4.0」（Ensuring American Leadership in Automated Vehicle Technologies : Automated Vehicles 4.0）政策文件，提出三個核心原則及相對應的策略規劃： 一、 使用者與社會的保護： 整合自動駕駛技術之安全性，包括防堵對自駕車性能之詐欺或誤導行為，以強化民眾對此新興技術的信心。 與自駕車技術開發商、製造商及服務商合作，預防與降低惡意使用自動駕駛技術所造成的公共安全威脅及犯罪，如制定網路安全標準、於運輸系統之資料傳輸媒介及資料庫設計能夠防止、反應、偵測潛在或已知危險之可行作法。 要求製造商於設計和結合相關自動駕駛技術時，採取具整體風險考量之方式，以確保資料安全性與公眾隱私保護，特別是針對駕駛者與乘客，以及第三人資料存取、分享及使用。 支援與協助自動駕駛技術研發，並透過提供多樣化商品和服務，滿足消費者需求並增加自駕車的普及性，使國人能使用安全且能負擔的移動載具。 二、 保障市場效率： 採取靈活及技術中立政策，由大眾選擇具經濟及有效率的運輸方案。 透過相關智慧財產法規，保護相關技術，並持續推動經濟增長之政策及提升國內技術創新競爭力。 收集與研擬國內外法規資料，並使自動駕駛技術產品及服務能夠與國際標準接軌。 三、 促進與協調各方合作： 積極協調全國自動駕駛技術研究、法規和政策，以利有效運用各機構資源。 參考國際間自動駕駛技術標準及監理法規，並與各州政府及業界共同研擬與整合自動駕駛技術至現行運輸系統標準與相關法規。
美國發布保護無人機系統資通訊技術及服務供應鏈之法規制定預告.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 美國商務部產業安全局（Bureau of Industry and Security, BIS）於2025年1月2日發布保護無人機系統資通訊技術及服務供應鏈（Securing the Information and Communications Technology and Services Supply Chain: Unmanned Aircraft Systems）之法規制定預告（advance notice of proposed rulemaking, ANPRM），其目的在於透過維護供應鏈安全，避免中俄等外國敵對勢力，藉由參與無人機系統（Unmanned Aircraft Systems, UAS）資通訊技術與服務（Information and Communications Technology and Services, ICTS）遠端存取和操縱UAS，提高美國敏感資訊暴露風險。本次ANPRM是BIS依據2019年5月15日川普總統簽署之確保ICTS供應鏈安全的第13873號行政命令所發布。 為確保UAS安全，BIS針對下列事項尋求公眾意見，包括但不限於： 1. 無人機系統及其零組件的定義： 針對BIS初步認定之下列UAS平台必要組成部分，評估其定義和標準功能：（1）機載電腦；（2）通訊系統；（3）飛行控制系統；（4）地面控制站或系統；（5）運作軟體；（6）任務規劃軟體；（7）智慧型電池電源系統；（8）本地和外部資料儲存設備和服務；及（9）人工智慧軟體或應用程式； 2. 評估是否有資料外洩和遠端存取控制以外的其他風險； 3. 評估不同外國敵對勢力帶來的風險，例如：是否應考慮與外國敵對勢力有關聯的特定個人或實體等； 4. 評估例外可允許交易的情形；及 5. 評估相關經濟性影響，例如：對美國企業或公眾資料隱私和保護、反競爭效應（Anticompetitive Effects）等，及其應有的相應措施。 BIS開放公眾得針對該ANPRM於2025年3月4日前提出意見，俾利後續發布法規。