日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國「聯邦通訊委員會」（Federal Communications Commission，FCC）於2010年12月21日表決通過「網路中立性」（Net Neutrality）規則，確保網際網路的自由開放，限制網路服務提供者（ISP）不得針對網路流量與內容進行不合理的管制，保障消費者權益、意見表達的自由、網路服務的競爭與創新。 網路中立性爭議由來已久，自2005年FCC公布網際網路政策聲明以來，對於管制機關是否介入ISP對於網際網路流量與內容之管理，一直爭執不斷。網路上服務與內容的創新驅動寬頻網路的發展，寬頻網路的普及又促進更多的創新與投資，在此時，寬頻網路壅塞的問題也日益嚴重，寬頻ISP為了確保競爭優勢，開始針對網路的流量進行管理，投入新技術建立網路流量的優先權與過濾機制中。 為了避免ISP管理網路的行為影響網路的競爭與創新發展，FCC自2009年開始探討網路中立性之管理規則。 本次公布之網路中立性規則包含五個部分： 1. 透明度（Transparency）： ISP應公開揭露關於網路管理的資訊，包含網路接取服務之管理措施、商業條款，提供消費者及上下游業者做出適當的選擇。 2. 禁止封鎖（No Blocking）行為： 不得任意封鎖使用者及其他網路服務或內容提供者合法使用、接取網路的權利，凡是合法的內容、服務、應用等，皆不得被阻止。 3. 禁止不合理差別待遇（No Unreasonable Discrimination）： 不得無故對於消費者接取網路之內容與流量進行差別待遇。 4. 定義合理的網路管理行為（Reasonable network management）： 合理的網路管理包括：確保網路的安全與完整、解決網路壅塞的狀況、基於消費者自願的控制與過濾機制。 5. 區分無線行動網路與特殊服務 考量無線行動網路在速度、容量上與固定網路的差異，FCC制訂相關量測的規範，在合理網路管理的條件上，無線行動網路與固定網路將有不同的管制密度。 而FCC也將區分網路特殊服務，有別於單純的寬頻接取服務，特殊服務是在基礎網路上提供主要專業用途的服務，例如VOIP或視訊服務（IPTV），以促進更多元的私人網路投資與更創新的網路服務發展。 新的網路中立性規則仍然受到許多的批評，倡議者認為FCC宣示的管制強度太低，ISP有可能以各種手段迴避管制，公眾利益團體亦認為FCC未禁止「付費優先權」（Pay for priority），將使網際網路出現「高速/慢速」的不公平狀況；而反對者則認為FCC的管制將影響網路的創新服務發展，不利未來的投資。然而無論如何，這仍是在Comcast案受挫後，FCC維護網際網路的開放性所重新邁出之重要一步。
澳洲提出《2023年法定聲明修正法案》，將正式認可數位化法定聲明的效力澳洲眾議院在2023年9月提出了《2023年法定聲明修正法案》（Statutory Declarations Amendment Bill 2023），法定聲明（statutory declaration）是大英國協法體系中的一種法律行為，效力相當於宣誓，以確認聲明人聲明內容為真。如受雇者可以法定聲明的方式聲明自己的工作經歷屬實，以做為受雇資料不全時的補充。該修正案將使數位方式（digital execution）進行的法定聲明和傳統書面形式具有相同效力。 澳洲政府在Covid-19期間，為了因應疫情對於整個社會的衝擊，在實體接觸困難的社會環境下導入大量臨時措施，但是這些臨時措施將會於2023年12月31日時效到期後失去效力。 本次的修正案除了將允許電子簽名（electronic signature）和視訊見證（video-link witnessing）等數位形式作為進行法定聲明的方式外，亦進一步規定只有在經過核可並且授權的數位平臺（如myGov）才可以進行有效的數位法定聲明。除此之外，使用者也需通過這些線上平臺的身分驗證（如myGovID）後才能使用這一服務，以確認法定聲明發表人的身份並確保該聲明之效力。 為了確保透明和釐清平臺的責任歸屬，該法案除了對數位平臺進行隱私、資安和防詐騙的規範外，亦禁止數位平臺儲存或保留使用者法定聲明的副本，因為這些法定聲明可能都含有高度敏感的個人資訊。 該法案的目的並非要完全取代傳統書面紙張在法定聲明中的地位，而是為了澳洲人民在做成法定聲明時提供另一個不受到地理、實體限制的選擇，這種改變讓個人和企業藉由數位化平臺快速且不受實體距離影響完備所需的法律文件，使他們能夠便捷的享有那些需要法定聲明的政府服務。 澳洲政府為了因應社會變遷及數位時代的來臨，在法律體系中賦予數位形式明確效力，並且嘗試建立起可信賴的數位平臺與路徑，其制度設計及後續影響，可以作為我國推動國家數位轉型時的參考。
澳洲2020年5月全國數位經濟與科技會議會後聲明澳洲產業、科學、能源及資源部（Department of Industry, Science, Energy and Resources）於2020年5月15日舉行全國數位經濟與科技會議，並於會後發表「2020年5月全國數位經濟與科技會議會後聲明」。本次會議由澳洲產業科學能源及資源部部長擔任主席，邀集各州、領地地方政府的創新或科技部門首長，以視訊方式研商COVID-19疫情後如何整合澳洲企業的數位能量，並使澳洲在2030年成為全球數位經濟的領先者。 聲明中首先肯定澳洲數以萬計的企業在面對COVID-19疫情時所展現的危機應對能力與提出各式數位科技解決方案，用以支持員工、服務消費者、提出資源供應的替代方案、溝通利害關係人等，有效地提升了營運與財務上的效率。而政府則藉由提供各式財務、社會保險與稅務上的支援措施，並持續針對個別情況規劃最適的支援方案。 聲明指出根據研究，數位工具將能協助小型企業每週節省約10小時的工時，並提升約27%的營收；若乘上澳洲全國小型企業的總數，等於每週可省下約2200萬小時的工時，並可年增約3850億元的營收。企業在疫情期間所採取的數位科技解決方案是未來推動營運模式數位轉型的契機，因此在疫情後整合澳洲官方與民間的數位能量，將是疫情後經濟復甦與未來經濟成長的關鍵。 聲明指出與會聯邦及地方政府相關首長已達成共識，將組成「數位經濟與科技資深官員小組」（Digital Economy and Technology Senior Officials Group），專責整合聯邦政府與地方政府的數位政策。本小組將提出數位經濟政策與企業所需的支援措施，用以加速數位轉型與COVID-19疫情後的經濟復甦，包含完成人工智慧及自主系統能力地圖（Artificial Intelligence and Autonomous Systems Capability Map），來找出尚待強化的能力與可加強合作的契機。 此外本小組將合作推動數位與資通安全工作、關鍵技術法規鬆綁，以協助減少企業法遵障礙並支持數位經濟成長。COVID-19疫情下揭示澳洲推動數位轉型的重要性，期許本小組能有效整合數位能量並填補數位落差，未來將每年召開三次全國數位經濟與科技會議，追蹤澳洲數位經濟與科技生態系的推動情形，並聽取資深官員小組的定期工作報告。
美國對於聯網環境中「關鍵基礎設施」之資訊安全議題展開行動面對境外網路安全的風險，美國歐巴馬總統於2013年2月12日，正式簽署「改善關鍵基礎設施之網路安全」行政命令（Executive Order 13636–Improving Critical Infrastructure Cyber security），據該行政命令第二款，將「關鍵基礎設施」定義為，「對於美國至關重要，而當其無法運作或遭受損害時，將削弱國家安全、經濟穩定、公共健康或安全之有形或虛擬系統或資產」，遂採取相對廣義之解釋。該行政命令第七款，亦指示美國商務部「國家標準技術研究所」（National Institute of Standard and Technology, NIST），將研議ㄧ個提升關鍵基礎設施資通訊安全之架構（Framework to Improve Critical Infrastructure Cybersecurity），將美國聯邦憲法所保障的企業商業機密、個人隱私權和公民自由等法益納入考量。 針對關鍵基礎設施引發重要之法制議題，美國副司法部長Mr. James M. Cole表示，由於關鍵基礎設施影響所及者，乃人民在法律下的權益，公部門政府將在該項議題上與私部門共同合作（partnership），且未來將研議通過立法途徑（legislation），將隱私權和公民權保護（the incorporation of privacy and civil liberties safeguards）納入關鍵基礎設施資通訊安全法制之全盤考量，相關趨勢殊值注意。