日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
新加坡於2012年10月15日通過該國第一個消費者個人資料保護法案，該法案主要規範私人機關蒐集、利用以及揭露個人資料之行為，將於2013年1月正式施行。 該法案亦成立新加坡個人資料保護委員會（Personal Data Protection Commission, 以下簡稱PDPC），並成立拒絕來電登記處（Do-Not-Call Registry），該處由PDPC進行維運。PDPC將是新加坡主要掌管個人資料保護的主管機關，而且也負責推動個人資料保護法案以及被賦予增進新加坡人民個人資料保護認知之任務。 於該法案之規劃中，資料當事人可以在拒絕來電登記處註冊其位置在新加坡之電話號碼，以防止私人機關為了商業行銷之理由而進行電話行銷。假設資料當事人已完成相關登記卻持續收到行銷電話時，可以向PDPC進行申訴。 除此之外，私人機關於蒐集、儲存個人資料前，必須尋求消費者之同意，而且必須通知當事人資料蒐集之目的。私人機關於傳輸個人資料至新加坡境外時，也必須確保以提供相對安全的個人資料保護作法，例如透過契約或者協議之簽訂等。 違反個人資料保護法規之公司，每一個違反事件可能被科以最高美金820,000元之罰鍰，對於每一個消費者最高可能必須負上美金8200元之賠償責任。法律施行後，企業被賦予18個月的法規遵循準備期間，而停止打來登記處預計將於2014年年中設置完成。
日本內閣府發布「綜合創新戰略2024」為應對日益嚴峻的國際情勢，並避免研究能力下降、生態系進展緩慢對經濟、社會發展造成衝擊，日本內閣府於2024年6月4日發布「綜合創新戰略2024」（統合イノベーション戦略2024），提出三大強化措施與三大發展主軸，綜整未來科技與創新的重要發展方向。具體內容整理如下： 1.強化措施 (1)關鍵技術綜合戰略 開發核心技術，在各戰略領域如人工智慧、機器人、物聯網等，透過產官學界合作推進技術融合與研究開發、推動人才培育，並促進新創發展。 (2)加強國際合作 從全球視角積極運用資源進行策略性協作，並以促進開發利用、確保安全性為主要目標，主導、參與重要技術相關之國際規則制定。 (3)強化人工智慧領域競爭力並確保安全性 包含創新研發人工智慧之應用，及利用人工智慧加速創新速度等。 2.發展主軸 (1)推進先進科技戰略 針對各重要領域如人工智慧、核融合能源、量子科技、生物科學、材料科學、半導體與通訊技術（6G）推展研究；確保大學與研究機構之研究安全性與倫理，並為設立智庫強化研究機能預做準備；同時綜合運用各領域的知識創造價值，為整體社會提供自動化、省力化、防災減災之科學技術。 (2)研究能力與人才培育 透過補助優秀大學與研究費用、扶植區域核心及具有特色的研究型大學、強化國家研究設施並促進設施間之合作性發展研究基礎；以及推動開放政府資助研究之資料與學術論文。 (3)營造創新生態系 透過SBIR計畫（Small Business Innovation Research，小型企業創新研發計畫）補助，並促進新創企業之政府採購；藉由產官學合作推展創新；以及擴大政府與民間研發投資規模，促進人才、技術、資金在大企業與新創公司間流動等。 日本政府認為，核融合能源與量子科技等關鍵技術將為新產業發展的開端，本戰略亦將成為未來日本新一期科學技術與創新基本計畫（科学技術・イノベーション基本計画）開展之基礎。我國於半導體、量子科技等關鍵科技發展皆緊跟國際腳步，因此相關戰略措施後續之推動與落實，亦值得我國持續關注、參考。
美國司法部與聯邦貿易委員會聯合發布新「垂直合併指引」美國司法部 （Department of Justice, DOJ）與聯邦貿易委員會（The Federal Trade Commission, FTC）於2020年6月30日發布新的「垂直合併指引（Vertical Merger Guidelines）」，其為美國司法部與聯邦貿易委員會首次針對垂直合併所發布之共同指引，且為自司法部1984年「非水平合併指引（Non-Horizontal Merger Guidelines）」頒布以來，首次針對垂直合併之重大修正，內容旨在概述聯邦反托拉斯主管機關如何評估垂直合併之競爭效應、以及該等合併是否符合美國反托拉斯法。 本指引所適用之合併態樣包括嚴格垂直合併（於相同供應鏈之不同階段的公司或資產之合併）、斜向合併（diagonal mergers）（於競爭供應鏈之間之不同階段的公司或資產之合併）、以及於互補合併（mergers of complements）時所會產生之垂直議題。其描述主管機關用於判斷垂直合併之反競爭與促進競爭效果之分析架構。 於反競爭效果分析之單方效果方面，其提出可能之類型包括封鎖與提高競爭對手成本（Foreclosure and Raising Rivals’ Costs）、影響競爭之敏感資訊的近用（Access to Competitively Sensitive Information）；於反競爭效果分析之共同效果方面，其指出垂直合併可能會透過鼓勵合併後相關市場中各公司間之協調互動（coordinated interaction）來減少競爭並傷害消費者。 於促進競爭效果分析方面，其著重於針對消除雙重邊際化（elimination of double marginalization, EDM）之分析，因垂直合併通常透過EDM使消費者受益，而傾向於可減少對競爭造成損害之風險。主管機關可以獨立依一切可得之證據來量化EDM之效果，其通常會檢驗被併購後可自給自足之效果，相較於若未被併購時需從獨立供應商購買之情況下所可能節省之成本，作為對於EDM效果之驗證。 藉由此指引之發布，可為主管機關對於垂直合併之評估與分析方式提供了透明度，而有助於為企業界、律師界、與執法者提供更多之可預測性。
日本成立供應鏈資通安全聯盟（Supply Chain Cybersecurity Consortium）日本經濟產業省（下稱經產省）於2020年6月12日發布其國內產業資通安全現況與將來對策（昨今の産業を巡るサイバーセキュリティに係る状況の認識と、今後の取組の方向性）報告，指出近期針對供應鏈資通安全弱點企業所展開的攻擊，有顯著增長趨勢。為此，該報告建議共組供應鏈的企業間，應密切共享資訊；於關鍵技術之相關資訊有外洩之虞時，應向經產省提出報告；若會對多數利害關係人產生影響，並應公開該報告。遵循該報告之建議要旨，同年11月1日在各產業主要的工商團體引領下，設立了「供應鏈資通安全聯盟（原文為サプライチェーン・サイバーセキュリティ・コンソーシアム，簡稱SC3）」，以獨立行政法人資訊處理推進機構（独立行政法人情報処理推進機構，IPA）為主管機關。其目的在於擬定與推動供應鏈資通安全之整體性策略，而經產省則以觀察員（オブザーバー）的身分加入，除支援產業界合作，亦藉此強化政府與業界就供應鏈資通安全議題之對話。 只要贊同上述經產省政策方向與聯盟方針，任何法人或個人均得參加SC3。針對產業供應鏈遭遇資安攻擊的問題，經產省與IPA已有建構「資通安全協助隊（サイバーセキュリティお助け隊）」服務制度（以下稱協助隊服務），邀集具相關專長之企業，在其他企業遭遇供應鏈資安攻擊時，協助進行事故應變處理、或擔任事故發生時之諮詢窗口。而SC3則規畫為這些參與提供協助隊服務的企業建立審查認證制度。其具體任務包含擬定認證制度的審查基準草案、以及審查機關基準草案，提供IPA來建構上述基準。依該制度取得認證的企業，將獲授權使用「資通安全協助隊」的商標。同時在業界推廣協助隊服務制度，讓取得認證的中小企業得以之為拓展其業務的優勢與宣傳材料。