日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐盟執委會於2018年6月成立人工智慧高級專家組(The High-Level Expert Group on Artificial Intelligence, AI HLEG)，主要負責兩項工作：(1)人工智慧倫理準則；(2)人工智慧政策與投資建議。並於2019年4月8日提出《可信賴的人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI)，2019年6月公布之《可信賴的AI政策及投資建議》(Policy and Investment Recommendations for Trustworthy Artificial Intelligence)則是人工智慧高級專家組所交付之第二項具體成果。 該報告主要分為兩大部分，首先第一部分是要透過可信賴的人工智慧建立對歐洲之正面影響，內容提及人工智慧應保護人類和社會，並促進歐洲公司各部門利用人工智慧及技術移轉，而公部門則扮演人工智慧增長及創新之催化劑，以確保歐洲具有世界一流之研究能力；第二部分則是影響歐洲各成員國建立可信賴之人工智慧，內容則提及將發展人工智慧相關基礎設施、教育措施、政策規範及資金投資，同時合法、有道德的使用各項數據。 在本報告中關於法規面的建議則是進一步制定政策和監管框架，確保人工智慧在尊重人權、民主及創新下發展，因此將建立人工智慧政策制定者、開發者及用戶間的對話機制，若是遇到將對社會或是人類產生重大影響之敏感性人工智慧系統，除透過歐洲人工智慧聯盟(The European AI Alliance)進行對話之外，也需要在尊重各成員國之語言及文化多樣性下展開協調機制。另外，報告中也特別提到如果政府以「保護社會」為由建立一個普遍的人工智慧監督系統是非常危險的作法，政府應該承諾不對個人進行大規模監視，並在遵守法律及基本權利下進行人工智慧系統之發展。
全球最大無人機製造商DJI在美對科技新興公司Yuneec 提起專利侵權訴訟SZ DJI Technology Co.和DJI Europe B.V.（下簡稱DJI）來自中國，是世界上最大的無人機製造商，DJI向加州中區聯邦地區法院起訴科技新興公司Yuneec Intemational Co.Ltd.和Yuneec Usa Inc.（下簡稱Yuneec）涉嫌侵害其跟踪移動目標系統，和可拆卸支架360度攝影機鏡頭的兩項專利，且請求法院發布禁制令，以阻止進一步銷售，並請求損害賠償。 這兩項專利，一為美國專利編號9164506“跟踪移動目標系統”，一旦遠端操作員指定了目標，無人機會自動跟蹤並保持相機拍攝目標；另一個專利為美國專利編號9280038，可讓無人機的照相機旋轉360度進行拍攝，並連接到分離的手持式攝像機，DJI強調公司多年來為開發該產品投注相當的時間和資源。 總部位於香港的Yuneec在一月的消費電子展（Consumer Electronics Show）上引起轟動，Yuneec使用GPS感知技術避免危險區域如機場，媒體於消費展後的報導稱Yuneec的無人駕駛飛機已經威脅到DJI市場上的地位。 Yuneec在5月25日向加州中區聯邦地區法院提起反訴認為其無侵權，並表示目標跟踪是一個抽象的概念不能以此申請專利，“跟踪是一個古老的概念” Yuneec的代表律師威爾遜表示，“該506專利並不是要揭露新的跟踪技術，相反的它只是描述並使用眾所周知的無人機的跟踪技術“。而另項專利可拆卸的支架360度攝影機鏡頭，如GoPros已有類似的產品，甚至遠比DJI的產品還早之前。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國總統發布行政命令啟動創世紀任務，整合AI資源加速科學發現，鞏固AI技術領導地位美國總統川普於2025年11月24日發布行政命令（Executive Order）啟動創世紀任務（Launching The Genesis Mission），旨在建立美國科學與安全AI平臺（下稱AI平臺），整合聯邦政府長期累積之科學資料集、國家研發及運算資源，訓練可自動化研究、加速科學發現之AI模型，強化國家安全、提高勞動生產力及研發投資報酬率，鞏固美國AI技術領導地位。 行政命令重點如下： （1）權責分配：由能源部長（Secretary of Energy）確保將執行創世紀任務所需資源統一整合至AI平臺，並訂定安全計畫。由總統科學技術助理（Assistant to the President for Science and Technology, APST）領導，透過國家科學技術委員會（National Science and Technology Council, NSTC）協調所有參與之行政部門。 （2）AI平臺之運作：提供能源部國家實驗室超級電腦、安全雲端運算環境等高效能運算資源、AI建模與分析框架、運算工具、各學科領域基礎模型，並在適法前提下，提供聯邦政府所管理之資料集、開放科學資料集或能源部生成之合成資料集。 （3）識別國家科學技術挑戰：能源部長應提交創世紀任務優先應對之國家重要科學技術挑戰清單，涵蓋先進製造、生物科技、關鍵原物料、核能、量子資訊科學、半導體與微電子學領域，經APST審查並與NSTC參與成員研議後定案。 （4）跨部門協調及外部參與：召集相關部門參與，訂定資源配置計畫整合各部門可用資料與基礎設施。提供獎補助，鼓勵私部門參與符合任務目標之AI驅動科學研究。設立研究獎學金、實習與學徒制計畫，提供AI平臺使用權及AI賦能科學發現培訓。在維護聯邦研究資產安全及公共利益最大化之前提下，建立標準化合作夥伴機制，與擁有先進AI、資料、運算能力或科學專業知識之外部夥伴合作。 行政命令就前述事項設定執行時程，且明定自發布之日起1年內及此後每年，能源部長應向總統提交報告，說明各事項之運作情況與達成成果。
美國通過《非自願私密影像移除法》 以遏止利用AI深偽技術之性犯罪2025年5月19日美國總統川普簽署《非自願私密影像移除法》（Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act, TAKE IT DOWN Act），該法散播未經同意之親密影像，如深偽色情（deepfake porn）和報復性色情（revenge porn）視為犯罪行為。 長久以來非自願私密影像（Non-Consensual Intimate Image, NCII）所造成的傷害一直無法被有效處理，AI深偽技術出現之後讓問題變得更加複雜。美國目前僅有20個州對深偽影像設有專法，但各州對 NCII 的定義、刑責與處理方式差異甚大，受害者亦難以在第一時間快速將影像移除，導致二次創傷。 為解決前述問題，共和黨與民主黨展現高度共識，眾議院於2025年4月28日以409票同意、2票反對，壓倒性通過《非自願私密影像移除法》，並於同年5月19日獲川普總統簽署生效，此為眾議院首部管理人工智慧引發危害的重大立法。 《非自願私密影像移除法》重點與相關討論整理如下。 一、散布未經同意的私密影像屬刑事犯罪 依據《非自願私密影像移除法》，任何人若透過互動式電腦服務（interactive computer service）故意揭露或威脅散布可辨識個人之親密影像即構成刑事犯罪。親密影像包含真實私密影像（Authentic intimate visual depictions）或數位偽造影像（Digital forgeries）兩種情形，後者係指透過軟體、機器學習、人工智慧，或任何其他電腦產生或技術方式所創建之親密影像，包括改編、修改、操弄或變造真實影像，且從整體上來看，一般人難以與真實影像區分者。 二、受規範平台（covered platforms）應即時協助受害者移除相關影像 受規範平台係指係向公眾提供服務之網站、線上服務或行動應用程式，且該服務主要是提供一個平台，讓用戶得以分享其自行產製之內容（user-generated content），如訊息、影像、音訊、遊戲等；若該服務涉及發布、策劃、託管或提供未經同意的私密影像，亦屬本法所規範之平台。 受規範平台應自《非自願私密影像移除法》頒布日起一年內，建立一套機制供受害者或其代理人申請移除未經同意散布的私密影像。平台在收到移除請求後，應於48小時內移除該影像，並在合理範圍內努力搜尋並刪除所有明顯為該影像之複製品。若平台未能遵守此一規範，會被視為違反《聯邦貿易委員會法》（Federal Trade Commission Act）所定義之「不公平或欺騙性商業行為」，並適用該法的相關處罰機制，例如民事懲罰（civil penalty）等。 三、執法單位是否能有效執行是關鍵 《非自願私密影像移除法》授權聯邦貿易委員會（Federal Trade Commission, FTC）作為執法單位，然而由於川普政府近期大幅刪減聯邦機構的開銷與人力，FTC能否在48小時內移除相關私密影像備受質疑；亦有論者擔憂這項機制被濫用，恐成為政府打壓言論自由的政治工具，川普總統即公開表示他會利用這部法律來審查批評者的言論。此外，《非自願私密影像移除法》未設立反濫用條款，任何人都可要求平台刪除影像內容，加上平台有時間壓力可能會預防性刪除內容而非實質審查，形同變相限縮言論自由的空間。 《非自願私密影像移除法》是一部試圖回應數位性暴力與AI深偽技術新興威脅的里程碑式立法，反映出立法者對於保障隱私與防止科技濫用的高度共識。然而，該法利益良善但仍需面臨現實端的檢驗，能否公正且有效率的執法將成為成敗的關鍵。