日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
所謂「離崗創業」係指中國大陸允許國立的研究開發機構、大學院校科技人員於履行職責、完成本職工作的前提下，經徵得單位同意得保留職位至企業或自行創業從事研發成果運用活動之研發人員激勵措施。 中國大陸於2012年時首次提出「創新驅動發展戰略」之國家政策，該政策的主要涵義包括了未來的發展要靠科技創新驅動，而不是傳統的勞動力以及資源能源驅動；以及創新的目的是為了驅動發展，而不是為了發表高水準論文。 在實施該戰略政策之前提下，中國大陸於2016年2月發布了《實施〈中華人民共和國促進科技成果轉化法〉若干規定》，於該文件中，為激勵研發人員創新創業，開放國立研究開發機構、大學院校科技人員於履行職責、完成本職工作的前提下，經徵得單位同意得保留職位至企業或自行創業從事研發成果運用活動。該文件並要求國立研究開發機構及大學院校應建立相關規範，或與研發人員約定留職從事研發成果運用活動期之間和期滿後的權利和義務，以及規定研發人員依該規定留職者，其期間以3年為限。
澳洲政府提案立法強制要求跨國科技公司協助解密通訊APP訊息澳洲政府2017年07月14日宣布提案立法新資安法規，強制要求跨國科技公司如社群網站Facebook與設備製造廠商Apple等，需配合法院命令，協助解鎖通訊APP的加密訊息，利於政府監控攔截犯罪嫌疑人的加密訊息。澳洲政府同時宣布會在2017年11月前提案，預期在幾個月內通過。 澳洲總理Turnbull表示相關提供加密語音及訊息的APP已在日常生活中使用，根據法案，前述相關網路科技公司，將與電信公司負有相同義務協助執法單位解讀加密訊息。Turnbull表示，儘管政府已成功阻止部分激進份子案例，但由於訊息加密技術日益發展，執法機構愈來愈難取得諸如恐怖分子、販毒者與戀童癖的聯絡訊息，執法單位需要更多支援，以確保網路不會成為犯罪溫床。 澳洲預期成為首個立法監管網路加密語音及訊息APP的國家，目前英國與法國皆在研擬監管加密語音及訊息的法規，同時美國、英國、加拿大、澳洲與紐西蘭組成的「Five Eyes」情報共享聯盟，也在2017年07月將相關議題列入討論。 Facebook表示將抵制Turnbull政府的反加密立法，認為現行已有與安全部門共同合作機制，該法案並無實際用途，在無配套措施的情況，該法也無法實施。Apple執行長Tim Cook 則堅定回應，排除任何可能損及產品安全性的政府合作關係。
印度對TK( Traditional Knowledge傳統知識 )保護提出的建議修正案近年來許多先進國家的藥廠或是生技公司紛紛到生物資源豐富的國家從事生物探勘活動，希望可以尋找合適的生技產品候選者 (candidate) ，也因此產生許多不當佔有的生物盜竊 (biopiracy) 事件。 由於印度本身在 2002 年專利法修正時，特別規定生技發明之專利申請者若使用生物物質 (biological material) ，應揭露其地理來源 (source of geographical origin) ，未揭露其來源地或提供錯誤資訊者，則構成專利撤銷之理由； 2005 年的專利法修正的重點之一為「加強專利授予前異議 (pre-grant opposition) 機制」，意即未揭露生物物質之來源地或提供錯誤資訊者，或者申請專利之權利內容含有傳統知識者，可提出異議之事由。 目前國際間針對是否應強制規定申請人應揭示其來源地等仍無共識。從 2001 年的杜哈發展議程的談判會議結果即可知，由於該談判採取 「單一承諾（ Single Undertaking ）」模式且可從不同議題間相互掛勾，加上開發中及低度開發會員採取結盟方式來壯大談判立場，在某些關鍵議題與美國、歐盟等主要會員國形成抗衡局面。 開發中國家對於 TRIPs 第 27 條第 3 項 b 款的審議特別在乎，認為 TRIPs 協定應該修訂應納入上述的揭露需求外，還必須提供事先告知且同意 (prior informed consent) ，以及因該專利而獲取的利益與來源地分享之證明。 因此，印度提出修正 TRIPs 協定的建議，強制會員國必須改變內國法律，規定專利申請者必須揭露其發明所使用的生物物質來源，並希望能在今年 12 月香港部長會議裡討論。
日本個人資料保護法修正案允許變更利用目的引發各界議論日本國會於本會期（2015年1月）中，進行個人資料保護法修正草案（個人情報保護法の改正案）的審議。修正草案研擬之際，歷經多次討論，IT總合戰略本部終於在2014年6月公布修正大綱，後於同年12月公布其架構核心。 本次修正，主要目標之一，是使日本成為歐盟（EU）所認可之個人資料保護程度充足的國家，進而成為歐盟所承認得為國際傳輸個人資料的對象國；為此，此次修正新增若干強化措施，包含（1）設立「個人資料保護委員會」;（2）明訂敏感資料（包含種族、病歷、犯罪前科等）應予以嚴格處理；（3）明訂資料當事人就其個人資料得行使查詢或請求閱覽等權利。 本次修正的另一個目標，則是促進個人資料利用及活用的可能性。2014年中，日本內閣府提出「有關個人資料利活用制度修正大綱」，提倡利用、活用個人資料所帶來的公共利益，並指出，過往的法規僅建構於避免個人資料被濫用的基礎，已不符合當今需求，且易造成適用上的灰色地帶，應透過修法予以去除；未來應推動資料的利用與活用相關制度，來提升資料當事人及公眾的利益。本次修正因此配合鬆綁，允許符合下述法定條件下，得變更個人資料之利用目的：（1）於個人資料之蒐集時，即把未來可能變更利用目的之意旨通知資料當事人；（2）依個人資料保護委員會所訂規則，將變更後的利用目的、個人資料項目、及資料當事人於變更利用目的後請求停止利用的管道等，預先通知本人；（3）須使資料當事人容易知悉變更利用目的等內容；（4）須向個人資料保護委員會申請。 目標間的兩相衝突，使得該案提送國會審議時，引發諸多爭議。論者指出：允許在特定條件上變更個人資料的利用目的，雖顧全資料利用的價值，但似不符合歐盟個人資料保護指令對於個人資料保護的基準，恐使日本無法獲得歐盟認可成為資料保護程度充足的國家，亦徹底喪失此次修正的最重要意義。