日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
由聯合國農糧組織及世界衛生組織共同成立的The Codex Alimentarius Commission (Codex)，刻正研提一份與GMO有關的重要技術指導原則，以協助各國評估並管控進口食品是否含有未經核准的GMO或由未經核准的GMO所製程的風險，藉此降低食品貿易的障礙。 關於未經核准的GMO，目前歐盟採取的零容忍度政策（zero-tolerance policy），亦即，進口之食品或飼料中，絕對不能含有未經核准的GMO或由未經核准的GMO所製程，至於一般所知的歐盟0.9％的GMO標示義務，是適用在經依法核准上市的GMO，若因技術上不可避免的原因而使非基改產品含有此GMO之可容忍界線。 根據Codex調查，許多GMO的上市審查在歐盟受到延宕，但這些GMO在歐盟以外其實很多都已經被其他國家核准，或歐盟的技術審查單位—食品安全管理局（European Food Safety Authority, EFSA)也已提出正面的安全評估意見，但歐盟執委會卻遲遲未完成行政審查，造成在歐盟進口的食品或飼料中若含有這些GMO，即被認定為未經核准而影響產品之進口。 鑑於歐盟的GMO管理與出口國的GMO管理有重大的制度面差異，Codex認為此一制度面的衝突若不尋求解決，未來將越演越烈，影響的作物範圍也會越來越廣，因而Codex才會思考制定相關的技術指導原則，解決某GMO可能在一個或多個國家已經被核准上市，但在進口國還未經核准上市，而進口非基改食品或飼料中卻含有這些GMO的問題，目前Codex預計在2008年7月提出相關的技術指導原則建議。
澳洲政府提案立法強制要求跨國科技公司協助解密通訊APP訊息澳洲政府2017年07月14日宣布提案立法新資安法規，強制要求跨國科技公司如社群網站Facebook與設備製造廠商Apple等，需配合法院命令，協助解鎖通訊APP的加密訊息，利於政府監控攔截犯罪嫌疑人的加密訊息。澳洲政府同時宣布會在2017年11月前提案，預期在幾個月內通過。 澳洲總理Turnbull表示相關提供加密語音及訊息的APP已在日常生活中使用，根據法案，前述相關網路科技公司，將與電信公司負有相同義務協助執法單位解讀加密訊息。Turnbull表示，儘管政府已成功阻止部分激進份子案例，但由於訊息加密技術日益發展，執法機構愈來愈難取得諸如恐怖分子、販毒者與戀童癖的聯絡訊息，執法單位需要更多支援，以確保網路不會成為犯罪溫床。 澳洲預期成為首個立法監管網路加密語音及訊息APP的國家，目前英國與法國皆在研擬監管加密語音及訊息的法規，同時美國、英國、加拿大、澳洲與紐西蘭組成的「Five Eyes」情報共享聯盟，也在2017年07月將相關議題列入討論。 Facebook表示將抵制Turnbull政府的反加密立法，認為現行已有與安全部門共同合作機制，該法案並無實際用途，在無配套措施的情況，該法也無法實施。Apple執行長Tim Cook 則堅定回應，排除任何可能損及產品安全性的政府合作關係。
英國BSI發布自駕車發展與評估控制系統指引英國標準協會（British Standards Institution, BSI）於2020年4月30日發布「PAS 1880:2020：自駕車控制系統開發及評估指引（PAS 1880:2020: Guidelines for developing and assessing control systems for automated vehicles）」，該文件提供一系列的準則，提供自駕車研發者於發展控制系統時可安全有效的進行布建；本文件所涵蓋之自駕車類型主要為於（研發者）所設計及規劃之特定運行範圍內（operational design domain，以下簡稱ODD）下不需人工介入即可運送旅客與貨物者。 指引中就自駕車之控制系統設計進行分類，並提出研發者應針對不同目的與重點進行說明以及相關應遵循事項，其中應包含以下項目： 任務：自駕車之任務應被定義。 ODD：自駕車之ODD應被定義並且應可涵蓋其所有執行任務之面向。 感知運作：於任務中感知運作系統執行時，自駕車應可判斷其是否遵循ODD之範圍，並可提供相關資料予決策系統。 決策：當決策系統執行時，自駕車應可實施所有為達成任務所決策規劃之活動。 控制運作：當控制運作系統執行時，自駕車應可於正常情況下控制其動作以完成任務，並可於無法執行正確行動時採取合適之措施。 監控運作：當監控運作系統執行時，於整個任務過程中，自駕車應可監控其自身之運作。 人身安全、系統安全與有效（Safe, secure and effective）：自駕車應可於所有時刻皆保持運作之人身安全、系統安全性與有效性。
歐盟為簡化監管提出醫療器材與體外診斷醫療器材法規修正草案歐盟醫療器材（Medical Devices Regulation, MDR）和體外診斷醫療器材法規（In Vitro Diagnostic Medical Devices Regulation, IVDR）自2021年5月26日及2022年5月26日生效以來加強了醫療器材的安全監管。然而法規要求嚴格、第三方驗證機構（notified bodies, NB）認證能力有限、認證程序不具預測性、各國執行標準不一、法規與風險不成比例，導致製造成本及行政負擔過高，甚至取消或延後產品上市。為此，歐盟執委會（European Commission）於2025年12月16日正式提出MDR/IVDR修正草案，旨在簡化監管流程、減輕廠商與NB負擔，同時維持公共健康。 該修正案重點如下： 1.簡化與比例原則：確保法規要求與實際風險成正比，放寬中低風險或成熟技術的過度監管。 2.減輕行政負擔：減少重複性的文書作業、過於頻繁報告更新。 3.特定病患群體或情境的創新與產品可及性：確保利基型、創新或危急時所需的醫材能快速進入市場。 4.認證程序的可預測性與成本效益：提升NB審查透明度、效率，並降低資金門檻。 5.去中心化系統內的協調與治理：解決各成員國及各NB之間解釋法規不一致的問題，強化中央協調。 6.推動數位化：推動無紙化與電子化合規工具。 7.促進國際合作：促進全球法規協調，減少多重市場認證。 整體而言，此次修正草案預期可降低遵循成本與行政負擔，並提高監管制度可預測性與作業效率，讓認證與監管流程更為順暢。再者，透過風險導向與數位化管理，維持高水準之公共健康保障，對中小企業與創新醫材而言，有助於於提升醫材研發與上市誘因。