日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國3月發布AI國家政策框架 資訊工業策進會科技法律研究所 2026年06月05日 美國白宮於2026年3月發布AI國家政策（National Policy Framework for Artificial Intelligence，下稱AI框架），提出與AI相關之立法建議。該框架不具強制性，亦非創立新規範，僅係提供國會就聯邦AI立法給予立法建議，以協助國會考慮聯邦層級之AI監管方案。 壹、政策背景 川普政府自2025年上任後即撤銷前總統拜登政府時期強調風險控管與偏見防範之14110號行政命令，並於三天後簽署14179號行政命令，《消除美國AI領導障礙》(Eliminating Obstacles to American Leadership in AI)，內容確立應維持並強化美國AI於全球之領導地位。同年7月，川普政府發佈「美國AI行動計畫」(AI Action Plan)，政策重心著重於AI監管鬆綁及創新驅動；後於12月簽署《確保AI國家政策框架》(Ensuring A National Policy Framework For Artificial Intelligence)行政命令，核心目標係排除地法對國家AI政策之影響，確保聯邦法規於AI治理上之優先，避免政府政策碎片化。而2026年3月發布之AI框架延續先前之政策路線，並具體化為立法建議，包含兒童保護、智慧財產權保障、AI打詐、民生能源確保等。於組織運作上，AI框架主張不增設新AI專門單位，而是透過現有機構依其專業領域彈性管理，同時亦要求建立聯邦層級之AI法規，制定全國一致之標準。 貳、重點說明 AI框架並未涵蓋所有AI相關議題，僅針對政府認為應作為聯邦AI立法核心之7個領域給予立法建議，針對兒童、創作者及社區提供保障，並於創新、競爭力及國家安全間取得平衡。 1.保護兒童並強化家長權能 該部分係強調對於兒童在AI相關風險上之保護，要求AI服務及平台應採取保護兒童之措施，並且賦予家長管控兒童之權力。框架建議國會應持續深化兒童保護相關之修立法，強制平台建立年齡驗證機制及降低性剝削或自傷風險之防禦措施。同時，應確保現行兒童隱私法規能適用於AI系統，並且應避免模糊之內容標準及開放性責任。並且應尊重各州對於兒童保護之一般性法規。 2. 保障及強化美國社區 AI框架呼籲國會應簡化AI基礎建設之聯邦許可程序，以加速AI基處建設發展，並且同時顧及民生能源，確保一般居民不因AI資料中心建設發展之電費成本而負擔較高電費。另應加強打擊AI詐騙及詐欺，並確保國安機構對AI模型之掌握及風險控管能力；對於中小企業應提供AI資源協助，普及AI於產業中之部署。 3. 尊重智慧財產權並支持創作者 AI框架強調對創作者之保障，同時亦不應損害合法創新及言論自由。框架中強調，國會應尊重法院對於AI模型利用著作權作品進行訓練之合理使用裁決。並呼籲國會考慮建立授權框架或集管機制，以保障著作權人與AI供應商間之協商管道；同時呼籲應建立對數位複製品之保護措施，避免如聲音或肖像等個人可辨識特徵被未經授權轉為AI商用。 4. 防止審查與保護言論自由 AI框架中強調，聯邦政府須保障言論自由，並防止AI系統被用以壓制或審查合法之政治表達或異議。呼籲國會應防止美國政府強迫科技廠商，包含AI供應商，基於政黨或意識形態禁止、更改或強制內容。並應針對政府於AI平台之審查提供有效救濟方式。 5.促進創新並確保美國AI之主導地位 為推動美國於AI之領先地位，國會應建立監管沙盒鼓勵創新，並將聯邦資料庫轉化為AI可讀形式供產學界之模型訓練。在監管上，應避免建立新的監管機關，而是透過現有專業機構及產業主導標準進行分業監管，確保AI發展能於現有法規框架與產業實務下穩定成長。 6. 教育民眾並培養具備AI能力之勞動力 AI框架中強調青年培訓以及新工作機會之重要性。呼籲國會應採取非監管手段，將AI納入現有教育及職訓計畫中，制定精準的人才扶持政策，並強化贈地大學(Land-grant institutions)之AI技術支援能力。 7. 建立聯邦政策框架，避免繁瑣的州級AI法規 聯邦政府須建立聯邦層級之AI政策框架，透過聯邦優先原則取代各州不一之法律，以減輕企業合規成本並維護國家競爭力。應禁止各州干預具跨州、外交及國安特性之AI技術研發，亦不得因第三方非法行為而懲罰AI開發者；但仍須尊重傳統之州警察權力，尊重地方政府之基礎建設規畫及州政府內部使用AI規範之自主權。 參、事件評析 美國AI框架延續川普政府自上任以來之AI政策，強調監管鬆綁，並欲降低對AI之嚴格管制，促進創新及強化美國競爭力。此次框架法建議係建議國會建立聯邦層級之AI規範標準，但核心並非推動單一、全面性之法規改革，而是針對各特定領域給予立法建議，透過各領域機構之既有專業進行分業監管。 相較於歐盟透過AI Act 建立統一且具法律拘束力之AI風險分級管理制度，美國AI框架則是傾向透過既有法律體系及主管機關進行管理。雖近年來美國部分州政府已陸續推動AI相關立法，然AI框架強調建立聯邦層級之一致性政策，未來聯邦與州之間之法律及政策適用仍有爭議產生之可能。整體而言，美國AI框架透過分散式法律制度、分業監管方式處理AI相關風險，而非建立全面性總括之AI專法或專責機構。惟該框架目前僅屬白宮向國會提出之立法建議，未來國會如何將該些建議具體落實於各部會之聯邦法案中，以及是否能有效平衡監管及創新需求，仍有待後續觀察。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
軟體安全性缺失成為買賣標的瑞士的網路安全公司WSLabi於2007年7月9日宣佈一項訊息，未來將在線上公開交易或交換一些軟體的安全性漏洞和弱點予軟體相關研究人員、安全代理商和軟體公司，價格從數百美元至數萬美元不等。而此意謂拍賣軟體瑕疵的新興市場即將被打開。 WSLabi公開拍賣軟體弱點與漏洞的作法引起了很大的爭論。以往軟體安全業者於發現軟體的弱點後，會與軟體開發者合作修補安全性弱點和漏洞，待修補完成後再公開宣佈修補軟體安全性弱點之相關訊息。但該公司的新作法將導致軟體公司未來可能因為無法及時修補弱點而商譽受損。因此該項計畫雖尚未實行，卻引起了不同看法的爭辯：支持者表示，此一計畫將有助於改善軟體弱點及安全漏洞的問題，並可鼓勵對於軟體的弱點的深入研究；然反對者卻認為，如果軟體的弱點和安全漏洞因而落入有心人的手中，利用於犯罪或幫助他人犯罪，將會對資訊安全形成極大威脅。再者，把其他公司開發的軟體弱點在市場上交易，可能也會引發道德與合法性的問題。 WSLabi於瞭解這項做法可能引起侵害著作權(重製、散布、販賣軟體等行為)、營業秘密與犯罪防治等法律上的爭議及國家安全的問題後表示，他們將會審慎地過濾選擇買主，不會將研究之結果出售予犯罪者或敵國政府。雖然如此，他們的說法仍引起質疑，畢竟判斷買主是否為善意或確定身份並非易事。
Google關鍵字廣告服務，遭澳洲政府起訴澳洲「競爭和消費者委員會」（Australian Competition and Consumer Commission；以下簡稱ACCC）在今年7月對Google及其廣告主Trading Post Australia提起訴訟，指控Google及Trading Post使所用的關鍵字廣告系統不實誤導網路使用者，構成了欺詐性的商業行為。 Trading Post為澳洲當地知名的汽車經銷商，在2005年時，Trading Post向Google購買了名為Kloster Ford和Charlestown Toyota的關鍵字廣告；然而，Kloster Ford和Charlestown Toyota正是Trading Post的競爭對手，當網路使用者在Google的搜尋引擎中鍵入Kloster Ford或Charlestown Toyota文字時，搜尋結果頁面即自動導向Trading Post的網站。 ACCC認定Trading Post此種利用競爭對手名稱設定為自身廣告關鍵字之行為，已違反澳洲在1974年頒布的「商業行為法」（Trade Practices Act 1974）第52條及第53條d款規定；ACCC同時認為，Google並未善盡努力在消費者鍵入關鍵字進行搜尋時，將付費廣告鏈結（sponsored links）從基本的搜尋結果頁面中將加區隔，亦有違該法第52條之規定。 在ACCC對Google提出控訴之前，Google事實上在各國早已面臨多起類似的訴訟；其中，去年由法國知名品牌Louis Vuitton提起的訴訟中，Google即遭到敗訴。
奈米級化粧品的安全尚待評估近年來，越來越多的化粧品標榜與奈米科技結合，其 業者表示，奈米顆粒較傳統化粧品為小，可由深層肌膚吸收 ， 進而達到 強化保養的功能。不過 ，美國食品藥物管理局（ FDA ）及英國皇家學會則持相對保留的態度，認為奈米顆粒對於人體的長期風險還不明確，有待進一步研究 ， 特別是針對細小微粒進入人體細胞或滲入血液時 ，對人體 可能產生的影響。 為了確保奈米級化粧品的安全性 ， FDA 曾考慮針對此類產品建立一套類似製藥體系的實驗與許可證制度 ，並積極從事相關研究，以求增加此方面的知識進而 評估風險。此外 ， 英國皇家學會也表示，目前仍不清楚這些微粒是否真能深入肌膚，以及是否會對血液產生長期影響。雖然 ， 至今無人能夠證實奈米科技對於人體的危害，但卻有人相當擔心，它可能和基改一樣有利有弊。 目前化妝品市場平均每年成長百分之十，若干業者更深信奈米科技能夠協助製造新一代產品。由於看好奈米級化粧品的一片榮景 ， 目前國際知名的化妝品公司紛紛投入此類產品的開發 ， 我國相關產業似乎也躍躍欲試 。面對越來越多的業者投入奈米級化粧品的開發與生產， 我國衛生署則提醒，奈米科技在化妝品上的運用是否成熟還需要觀察，其效果與安全性也有待進一步評估 ， 因而民眾選購時應審慎判斷。