日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
歐盟資訊社會和媒體委員會委員Viviane Reding女士，2007年6月1號在希臘一場和寬頻議題相關的演講說中建議，當歐洲電視類比頻段逐漸淘汰時，這些超高頻段頻譜（Ultra High Frequency）應該分派給寬頻網路技術（例如：WiMax）之用。 WiMax是Worldwide Interoperability for Microwave Access的縮寫，一般中譯為「全球互通微波存取」，是一種新興的無線通訊技術，其傳輸速度最高可達70Mbps，傳輸範圍最廣可達30英哩，對個人、家庭與企業的行動化將有很大助益。由於WiMax目前頻譜規劃限制在5.7FHz和3.4GHz區段裡，如果安排在500到800MHz超高頻段上，那WiMAX基地台涵蓋的範圍將提高，並能大大地減低成本。 Viviane Reding女士在該演說中提到，「無線寬頻技術的出現，是克服偏遠或農村地區數位落差現象的重要要素，且是處理數位落差的唯一世代機會。因此，需要一個頻譜的政策框架，釋放這種潛力。」她同時也提到，如果期望以低價擁有更大幅度的無線寬頻速度，則需要釋出具高傳輸性的頻譜。簡言之，決策者應仔細探究從類比轉換成數位化後所產生的數位落差問題，同時思考有無可能在UHF開拓出空間給無線寬頻。
德國向歐盟提交《人工智慧白皮書-歐洲卓越與信任概念》及《人工智慧，物聯網和機器人技術對安全和責任之影響報告》意見德國聯邦政府於2020年6月29日，針對歐盟執委會於2020年2月19日公布的《人工智慧白皮書-歐洲卓越與信任概念》(Weißbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen)及《人工智慧，物聯網和機器人技術對安全和責任之影響報告》(Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung) 提交意見，期能促進以負責任、公益導向、以人為本的人工智慧開發及使用行為，並同時提升歐盟的競爭力及創新能力。 歐盟執委會所發布的人工智慧的白皮書及人工智慧對安全和責任的影響報告，一方面可促進人工智慧使用，另一方面則藉此提醒相關風險。本次意見主要集結德國聯邦經濟與能源部、教育與研究部、勞動與社會事務部、內政、建築及社區部以及司法與消費者保護部之意見。德國政府表示，投資人工智慧為重要計畫之一，可確保未來的創新和競爭力，以及應對諸如COVID-19疫情等危機。最重要的是，可透過人工智慧的應用扶持中小型公司。然而在進行監管時，必須注意應促進技術發展而非抑制創新。 在《人工智會白皮書-歐洲卓越與信任概念》中指出，人工智慧發展應在充分尊重歐盟公民的價值觀和權利的前提下，實現AI的可信賴性和安全發展之政策抉擇，並於整體價值鏈中實現「卓越生態系統」（Ökosystem für Exzellenz），並建立適當獎勵機制，以加速採用AI技術為基礎之解決方案。未來歐洲AI監管框架將創建一個獨特的「信任生態系統」（Ökosystem für Vertrauen），並確保其能遵守歐盟法規，包括保護基本權利和消費者權益，尤其對於在歐盟營運且具有高風險的AI系統更應嚴格遵守。此外，應使公民有信心接受AI，並提供公司和公共組織使用AI進行創新之法律確定性。歐盟執委會將大力支持建立以人為本之AI開發方法，並考慮將AI專家小組制定的道德準則投入試行階段。德國政府指出，除了要制定並遵守歐洲AI的監管政策外，應特別注重保護人民之基本權，例如個人資料與隱私、消費者安全、資料自決權、職業自由、平等待遇等，並呼籲國際間應密切合作，運用人工智慧技術克服疫情、社會和生態永續性等挑戰。另外，德國政府亦支持將人工智慧測試中心與真實實驗室（監理沙盒場域）相結合，以助於加速企業實際運用，也將帶頭促進AI在公部門之運用。 在《人工智慧，物聯網和機器人技術對安全和責任之影響報告》中則指出，歐洲希望成為AI、IoT和機器人技術的領導者，將需要清楚、可預測的法律框架來應對技術的挑戰，包括明確的安全和責任框架，以確保消費者保護及企業合法性。AI、IoT和機器人技術等新數位技術的出現，將對產品安全性和責任方面出現新挑戰，而在當前的產品安全法規上，缺乏相關規範，特別是在一般產品的安全指令，機械指令，無線電設備指令等，未來將以一致地在各框架內針對不同法律進行調修。在責任方面，雖然原則上現有法令尚仍可應對新興技術，但人工智慧規模的的不斷變化和綜合影響，將可能增加對受害者提供賠償的困難度，導致不公平或效率低下的情形產生，為改善此一潛在不確定性，可考慮在歐盟層級調修產品責任指令和國家責任制度，以顧及不同AI應用所帶來的不同風險。德國政府除了支持歐盟作法，在創新與監管取得平衡，更強調應不斷檢視產品安全和產品責任法是否可滿足技術發展，尤其是對重要特定產業的要求，甚至修改舉證責任。並可透過標準化制定，加速人工智慧相關產品與服務的開發。另外，應依照風險高低擬定分類方法，並建議創建高風險AI系統之註冊與事故報告義務，以及相關數據保存、記錄及資料提供之義務，針對低風險AI應用則採自願認證制度。
新加坡與東協八國智財局簽署合作協議，加速特定領域專利申請流程以推動東協轉型工業4.0新加坡智慧財產局（IPOS）於2019年8月28日2019年新加坡智財週活動（IP Week @ SG 2019）中，宣布與東協（ASEAN）八國智財局簽署合作協議，新加坡與八個東協成員國智財局將推動在金融科技、網路安全、機器人等關鍵新興科技領域的專利加速審查與許可時程，在為期兩年的試辦計畫當中，企業與研發者最快將可以在提出申請後6個月獲得專利許可，以加速東協國家在推動轉型工業4.0相關基礎建設與製造的進程（Acceleration for Industry 4.0 Infrastructure and Manufacturing，簡稱AIM），並有助於東協國家掌握工業4.0為全球所帶來預計高達1.2兆至3.7兆美元的龐大商機。 根據國際知名管理顧問公司麥肯錫公司（McKinsey & Company）的統計，工業4.0將能為東協國家帶來至少2160億至6270 億的巨大製造業商機，除了前述加速關鍵新興科技領域專利審查的AIM試辦計畫外，包含新加坡在內的九個合作國智財局將擴大合作範圍至專利合作條約（Patent Cooperation Treaty，簡稱PCT），在為期三年的試辦期間內，專利申請人將可選擇透過取得東協國際檢索局（ISA）與國際初步審查局（IPEA）的PCT報告，以加速專利申請人在其他東協國家的專利申請。新加坡透過與東協國家、世界各國的智財合作，積極推動新加坡與全球創新社群（global innovation community）的連結，不僅為全球創新趨勢提供更多價值，亦同時鞏固新加坡作為創新中心的國際地位與經濟成長動能。
全球首批奈米標章得獎名單出爐！經濟部於去（2005）年12月20日正式舉行「全球首批」奈米標章的授證儀式，本次獲得授證廠商共有6家，分別為：和隆興業股份有限公司（奈米級光觸媒抗菌陶瓷面磚）、冠軍建材股份有限公司（奈米級光觸媒抗菌陶瓷面磚）、尚志精密化學股份有限公司（奈米級光觸媒脫臭塗料）、新美華造漆廠股份有限公司（奈米級光觸媒脫臭塗料）、中國電器股份有限公司（奈米級光觸媒抗菌燈管）、台灣日光燈股份有限公司（奈米級光觸媒抗菌燈管），由於國外尚無奈米產品認證制度，這是國內也是全球首批獲證的奈米產品。 經濟部工業局有鑒於市面上奈米產品真偽莫辨，於九十三年特別委託工業技術研究院推動「奈米產品驗證體系」，目的在保護消費者權益、建立消費者的正確認知，並鼓勵優良廠商永續經營進而提升我國奈米產品之國際競爭力。目前奈米標章開放申請項目訂定的原則，是以該項產品在國內是否有市售商品、製造商及具能力的測試機構與相關之技術專家，以及國內外是否有測試方法可參考為前提，而基於安全性考量，有關健康、環境風險者，目前暫不開放，但對於尚未開放項目，可由廠商自行提出申請。