日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議（23 Asilomar AI Principles, ACR-215），此決議表達加州對於「23條Asilomar人工智慧原則」之支持，以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標，並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下： （1）於研究原則上，人工智慧之研究應以建立對於人類有利之人工智慧為目標。 （2）於研究資助上，人工智慧之研究資助應著重幾個方向，如：使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。 （3）於科學政策之連結上，人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。 （4）於研究文化上，人工智慧研究者應保持合作、互信、透明之研究文化。 （5）於安全性上，人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。 （6）人工智慧系統應該於服務期間內皆具備安全性及可檢視性。 （7）人工智慧系統之編寫，應可使外界於其造成社會損失時檢視其出錯原因。 （8）人工智慧系統如應用於司法判斷上，應提供可供專門人員檢視之合理推論過程。 （9）人工智慧所產生之責任，應由設計者以及建造者負擔。 （10）高等人工智慧內在價值觀之設計上，應符合人類社會之價值觀。 （11）高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。 （12）對於人工智慧所使用之資料，其人類所有權人享有擷取、更改以及操作之權利。 （13）人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。 （14）人工智慧之技術應盡力滿足越多人之利益。 （15）人工智慧之經濟利益，應為整體人類所合理共享。 （16）人類對於人工智慧之內在目標應享有最終設定權限。 （17）高等人工智慧所帶來或賦予之權力，對於人類社會之基本價值觀應絕對尊重。 （18）人工智慧所產生之自動化武器之軍備競賽應被禁止。 （19）政策上對於人工智慧外來之發展程度，不應預設立場。 （20）高等人工智慧系統之研發，由於對於人類歷史社會將造成重大影響，應予以絕對慎重考量。 （21）人工智慧之運用上，應衡量其潛在風險以及可以對於社會所帶來之利益。 （22）人工智慧可不斷自我循環改善，而可快速增進運作品質，其安全標準應予以嚴格設定。 （23）對於超人工智慧或強人工智慧，應僅為全體人類福祉而發展、設計，不應僅為符合特定國家、組織而設計。
法國國家資訊自由委員會將推出符合GDPR的人工智慧操作指引（AI how-to sheets）法國國家資訊自由委員會（CNIL）於2023年10月16日至11月16日進行「人工智慧操作指引」（AI how-to sheets）（下稱本指引）公眾諮詢，並宣布將於2024年初提出正式版本。本指引主要說明AI系統資料集建立與利用符合歐盟一般資料保護規則（GDPR）之作法，以期在支持人工智慧專業人士創新之外，同時能兼顧民眾權利。 人工智慧操作指引主要內容整理如下： 1.指引涵蓋範圍：本指引限於AI開發階段（development phase），不包含應用階段（deployment phase）。開發階段進一步可分為三階段，包括AI系統設計、資料蒐集與資料庫建立，以及AI系統學習與訓練。 2.法律適用：當資料處理過程中包含個人資料時，人工智慧系統的開發與設計都必須確定其適用的法律規範為何。 3.定義利用目的：CNIL強調蒐集及處理個資時應該遵守「明確」、「合法」、「易懂」之原則，由於資料應該是基於特定且合法的目的而蒐集的，因此不得以與最初目的不相符的方式進一步處理資料。故明確界定人工智慧系統之目的為何，方能決定GDPR與其他原則之適用。 4.系統提供者的身分：可能會是GDPR中的為資料控管者（data controller）、共同控管者（joint controller）以及資料處理者（data processor）。 5.確保資料處理之合法性：建立AI系統的組織使用的資料集若包含個人資料，必須確保資料分析與處理操作符合GDPR規定。 6.必要時進行資料保護影響評估（DIPA）。 7.在系統設計時將資料保護納入考慮：包含建立系統主要目標、技術架構、識別資料來源與嚴格篩選使用…等等。 8.資料蒐集與管理時皆須考慮資料保護：具體作法包含資料蒐集須符合GDPR、糾正錯誤、解決缺失值、整合個資保護措施、監控所蒐集之資料、蒐集之目的，以及設定明確的資料保留期限，實施適當的技術和組織措施以確保資料安全等。 對於AI相關產業從事人員來說，更新AI相關規範知識非常重要，CNIL的人工智慧操作指引將可協助增強AI產業對於個資處理複雜法律問題的理解。
美國專利商標局就研發成果商業化議題徵集公眾意見美國專利商標局（United States Patent and Trademark Office, USPTO）於2024年3月15日至5月14日間，就促進研發成果商業化之方法徵集公眾意見；本次議題包括： （1）在研發成果商業化的過程（尤其是利用智慧財產制度以進行技術移轉時），所遇到的最大挑戰及機會各為何？以及希望USPTO提供何種協助？ （2）在進行綠色和氣候技術、關鍵和新興技術移轉時，有無遇到任何智慧財產相關的挑戰及機會，以及希望USPTO提供何種協助？ （3）請列出可促進研發成果運用、綠色和氣候技術及關鍵和新興技術移轉的政策與作法； （4）請列出各利害關係人在界定潛在被授權人及進行技術移轉時，所面臨的智慧財產相關挑戰，以及現行制度有無需要改變，以減少這些挑戰； （5）請就USPTO於新冠肺炎疫情期間所推動，一用於媒合新冠肺炎治療技術供需雙方之「Patent 4合作夥伴平台計畫」（The Patents 4 Partnerships platform）進行評論，包含促成合作關係之作法； （6）請就USPTO於2022年7月參與之「世界智慧財產權組織（WIPO）綠色計畫」（WIPO GREEN）進行評論，包含USPTO可如何促進計畫的成功與擴大影響力； （7）請列出USPTO可協助特定人士、技術、產業、公司，降低研發成果運用過程中面臨挑戰之可能作法； （8）請列出USPTO可協助「代表性不足群體」（underrepresented group）、個體發明者、中小企業提升研發成果運用認知，及克服現行挑戰的作法； （9）請列出USPTO可協助少數群體服務機構（Minority Serving Institutions, MSIs）、傳統黑人大學（Historically Black Colleges and Universities, HUCUs）擴大其研發成果商業化的機會； （10）USPTO在促進研發成果商業化上，可以發揮的其他作用； （11）其他國家可更促進研發成果商業化的作法。
英國、韓國共同簽署資料適足性協議，以期促進資料經濟商機英國數位文化傳媒和體育部（Department for Digital, Culture, Media & Sport, DCMS）於2022年11月23日發布新聞稿，宣布英國與韓國共同簽署的資料橋接規則（The Data Bridge Regulation）於同年12月19日正式生效。在此之前，英國於2022年7月5日已與韓國個人資料保護委員會（Personal Information Protection Commission, PIPC）簽署資料適足性協議（Data Adequacy Agreement），以促進兩國未來進行資料傳輸。這也是英國在脫歐後，首次與其他國家簽訂的資料協議，而依據過往兩國的數位貿易統計資料，本次協議預估將帶來超過14.8億英鎊的商機。 英國DCMS部長更進一步表示，未來將積極與其他國家的戰略夥伴，開展資料經濟商機。英國於聲明中強調參與全球跨境隱私規則論壇（Global CBPR Forum）的決心，以加速資料共享、促進創新與產學研究，聲明摘要如下： 1、本協議為加強英國與韓國資料共享的里程碑，其宗旨為創建更值得信賴的資料共享環境，以及共創更安全的資料傳輸方式。 2、本協議耗時約一年完成討論與擬訂，並期待能透過該協議，深化並擴展英國與韓國之間的資料夥伴關係。 3、英國與韓國政府承諾將促進資料在國際商業、創新及研究等領域的發展。在加強個人資料保護的前提下，促進資料的合理利用。 4、在資料自由傳輸的基礎上，本協議將提供更完善且可持續推動的全球資料生態系統。雙方政府承諾共同改進數位時代下個資料保護框架，如英國發布國家資料戰略（National Data Strategy）、修訂UK GDPR相關規範，以及韓國PIPC提出個人資料保護法部分條文修正案等具體措施。 英國政府肯認應與其他戰略合作夥伴開展多邊倡議，如參與全球跨境隱私規則論壇（Global CBPR Forum）及經濟合作暨發展組織（OECD），共同推動可信賴之政府存取資料（Trusted Government Access to Data）的目標。