日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
美國行政管理預算局（United States Office of Management and Budget, OMB）於2020年1月發布「人工智慧應用監管指南（Guidance for Regulation of Artificial Intelligence Applications）」備忘錄草案。該備忘錄草案係基於維護美國人工智慧（AI）領導地位之目的，而依據美國總統川普（Donald John Trump）於2019年2月簽署之「維持美國人工智慧領導地位（Maintaining American Leadership in Artificial Intelligence）─行政命令13859號」，並在啟動美國人工智慧計畫後180天內，經OMB偕同科技政策辦公室（Office of Science and Technology Policy, OSTP）、美國國內政策委員會（United States Domestic Policy Council）與美國國家經濟委員會（National Economic Council）與其他相關機構進行協商，最後再由OMB發布人工智慧應用監管指南備忘錄草案，以徵詢公眾意見。 該備忘錄草案不僅是為了規範新型態AI應用技術，更希望相關的聯邦機構，在制定AI應用產業授權技術、監管與非監管方法上，能採取彈性的制定方向，以避免過度嚴苛的規定，反而阻礙AI應用的創新與科技發展，繼而保護公民自由、隱私權、基本權與自治權等價值。同時，為兼顧AI創新與政策之平衡，應以十大管理原則為規範制定之依據，十大管理原則分別為： 培養AI公眾信任（Public Trust in AI）； 公眾參與（Public Participation）； 科學研究倫理與資訊品質（Scientific Integrity and Information Quality）； AI風險評估與管理（Risk Assessment and Management）； 獲益與成本原則（Benefits and Costs）； 彈性原則（Flexibility）； 公平與反歧視（Fairness and Non-Discrimination）； AI應用之揭露與透明化（Disclosure and Transparency）； AI系統防護與措施安全性（Safety and Security）； 機構間之相互協調（Interagency Coordination）。 此外，為減少AI應用之阻礙，機構制定AI規則時，應採取降低AI技術障礙的方法，例如透過聯邦資料與模型方法來發展AI研發（Federal Data and Models for AI R&D）、公眾溝通（Communication to the Public）、自發性共識標準（Voluntary Consensus Standards）之制定及符合性評鑑（Conformity Assessment）活動，或國際監管合作（International Regulatory Cooperation）等，以創造一個接納並利於AI運作的環境。
發展奈米 應避開專利地雷美國知名研究機構雷克斯研究公司 ，九月底 應經濟部邀請，在國際招商論壇上，以「奈米科技的創新與創投」為題，發表專題演講。其副總裁挪登馬修（ Matthew M.Nordan ）指出，奈米科技的重要性，在於其未來將應用到各個產業上，改變各個產業原有風貌。從創投業者立場，所選擇投資對象，是要能以奈米科技來促進原有產品功能，或能大幅降低原有產品成本。此外，如何避開專利地雷，亦將是各企業在投入奈米科技時，必須正視的問題。 挪登表示，二○○三年全球在奈米科技的相關研究經費約為八十六億美元，其中只有二億美元來自於創投基金，創投業界對奈米科技的投入如此保守，除受到網路經濟泡沫衝擊，主要是因為奈米科技的商品化，還有一段很長的路要走，加上創投業者多半對材料工業比較陌生，業界過去又傳出多起投資失敗的案例，均讓創投業者不敢對奈米科技有大手筆投入。相對於創投業者的保守態度 ， 如何判斷優質的奈米科技投資案更形重要 。 其表示，除企業必須提出如何能避開國際已有的「專利地雷」，或取得國際專利的交互授權外，更重要的是，投資人必須瞭解，奈米科技的應用，並不是要開發出一個全新的「奈米產品」，或者應用奈米科技就能帶來超額的利潤，而是能對現存產業，帶來功效的提升或成本的降低。
歐洲藥物管理局「臨床試驗資料公開與近用政策」(草案)之定案日期將延後歐洲藥物管理局（European Medicine Agency，EMA）於今年六月下旬起至九月底止，開放接受公眾針對該局所擬「臨床試驗資料公開與近用政策」草案（draft policy on publication and access to clinical-trial data）提出回饋意見。所有公眾建言都將由EMA加以檢視，並將成為上述政策草案正式定案前之參考。原本EMA預計在2013年年底即對上述政策草案拍版定案，然而，由於歐洲藥物管理局收到超過一千則來自四面八方、不同立場之公眾回饋意見，為求妥適、深入檢視、分析這些意見，EMA原訂之定案時程將被迫遞延。新的定案時間表最慢將於十二月中上旬公布。 根據上述「臨床試驗資料公開與近用政策」草案之現行版本（亦即提供公眾評論並回饋意見之版本），原則上，EMA所持有之臨床試驗資料，將依其類型之差異而適用不同的公開或近用標準。依照EMA之分類，試驗資料將被區分為（1）「公開後不會導致個資保護疑慮之試驗資料」、（2）「如經公開，可能產生個資保護疑慮之試驗資料」、（3）「內含商業機密資訊之試驗資料」等三大類。上述第三類之「內含商業機密資訊之試驗資料」不會受到此一政策草案之影響，第二類資料將有限制的公開與提供近用，至於第一類資料，則將公開於EMA網站上供公眾下載。
數位創作透過非同質化代幣（NFT）交易之智財侵權風險數位創作藉由區塊鏈轉化為具獨特性之加密貨幣─非同質化代幣（non-fungible token，後稱NFT），仿佛數位創作者對創作成品簽名落款或標示出處來源，NFT也因此解決數位創作成品之來源與真偽驗證等問題，使其有如傳統的藝術作品更具收藏價值也更有利於在市場中交易，然而在此數位創作成為新型態數位收藏標的之同時，潛藏的智慧財產議題也衍生而出。 儘管NFT解決數位創作之產出來源等驗證問題，卻無法確保該NFT交易標的是否抄襲其他擁有著作權保護之創作。當收藏者轉售購入之數位創作時，便有可能構成販售侵權作品，根據美國著作權法第504條（c）項所列之賠償金額在750美元以上至3萬美元以下，甚至故意侵權賠償15萬美元。因此，如同一般傳統藝術交易，在NFT投資或收藏交易前，建議先對創作者或藝術家進行相關調查，甚至可諮詢法律顧問以確保交易標的智財狀況；此外，當交易標的屬戲謔創作時，則建議評估相對應之投資風險。 而數位創作之形式相當多元，除了數位影像、數位相片外，也含括社群媒體產出之網路迷因（meme）、虛擬圖片影像等，過去因為易於大量複製流傳而無法追溯原始創作者，如今在區塊鏈技術轉化下使前述類型之數位創作產出皆可能成為NFT交易標的。例如，今（2021）年三月美國數位藝術家Beeple於佳士得拍賣透過NFT將其作品〈每天：最初的五千天〉（Everydays: The First 5000 Days）以超過6,900萬美元的價格售出；Twitter共同創辦人Jack Dorsey以290萬美元透過NFT售出其第一則推文；此外，2011年在Youtube爆紅的像素影片〈彩虹貓〉（Nyan Cat）與2007年的英國小兄弟生活紀錄〈查理咬我的手指〉（Charlie Bit My Finger）等也透過NFT分別以超過50萬美元與超過76萬美元的金額售出。此外，根據比特幣交易所CoinDesk統計，NFT銷售額在今年上半年達到24.7億美元，反觀去年同期的1,370萬美元，NFT成了難以忽視的活絡產業。