日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
隨著人工智慧快速發，各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題，應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」（Everyday Ethics for Artificial Intelligence）手冊，其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範，該手冊提供了問責制度、價值協同、可理解性等關注點，以促進社會對人工智慧的信任。 一、問責制度（Accountability） 由於人工智慧的決策將作為人們判斷的重要依據，在看似客觀的演算系統中，編寫演算法、定義失敗或成功的程式設計人員，將影響到人工智慧的演算結果。因此，系統的設計和開發團隊，應詳細記錄系統之設計與決策流程，確保設計、開發階段的責任歸屬，以及程序的可檢驗性。 二、價值協同（Value Alignment） 人工智慧在協助人們做出判斷時，應充分考量到事件的背景因素，其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員，應協同應用領域之價值體系與經驗，並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時，設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀，使演算系統與使用者之行為準則相符。 三、可理解性（Explainability） 人工智慧系統的設計，應盡可能地讓人們理解，甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大，其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解，並針對人工智慧結論或建議，進而有所反饋的重要關鍵；並使用戶面對高度敏感決策時，得以據之檢視系統之背景數據、演算邏輯、推理及建議等。 該手冊提醒，倫理考量應在人工智慧設計之初嵌入，以最小化演算的歧視，並使決策過程透明，使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊，應視為影響數百萬人甚至社會生態的核心角色，應負有義務設計以人為本，並與社會價值觀和道德觀一致的智慧系統。
加拿大運輸部發布2025無人機方案，提出建立無人機交管系統等優先項目加拿大運輸部（Transport Canada）於2021年3月22日發布「2025無人機方案」（Transport Canada’s Drone Strategy to 2025），概述其對無人機的願景及方案，並提出其至2025年前所應優先關注之項目，以確保無人機安全地整合進現代化航空系統並進入空域中。 為因應無人機產業發展帶來新挑戰及機會，加拿大運輸部列出五點事項做為對總體政策及優先事項之考量，包括： （一）透過安全規範支持創新：相關方案包含為偏鄉地區操作較低風險之視距外操作制定規範、為中度風險視距外操作核發飛行操作許可、在實際操作環境中測試技術，以及核准相關試行計畫，以提供中度風險之視距外操作更多的政策規劃資訊。 （二）建立無人機交通管理系統：包括建立無人機飛行計畫、空域使用請求系統、通訊、導航及空域監管系統、自2021年於偏鄉地區進行無人機交通管理實驗、探索「數位牌照」（digital license plate）用於遠端識別無人機的選項，以作為無人機交通管理系統基礎。 （三）無人機的安全風險：與利益相關人合作釐清機場保安的角色與職責、通訊傳輸協定及突發事件回應期間的工作協調、評估機場威脅及漏洞以了解風險、探索反無人機技術、對未經授權無人機的侵入進行偵測及追踪，以及導入驅逐未經授權無人機的安全框架。 （四）創新推動經濟發展：促進短、中期研發計畫、對先進無人機研發活動尋求合作機會、尋求能為加拿大氣候環境與操作提供資料的優先研發項目、制定方案使新型無人機技術更容易被國際市場接受、針對無人機之營運框架及產業目標進行評估、擬定產業合作策略並促進現有航空經濟框架現代化。 （五）建立民眾對無人機的信任：為增進民眾對無人機的認識及接受度，制定行動計畫、與地方政府共同規劃營運、鼓勵更多的社群參與，並與執法單位持續合作執行安全無人機操作規則。 加拿大運輸部將對本方案定期進行評估並於2025年前完成總體檢視，並公布2025-2030年的無人機發展方案。
日本企業陸續向開發中國家提供環保技術援助應中國鋼鐵工業協會（以寶山鋼鐵為首）之請，日本鋼鐵聯盟擬提供中國削減溫室氣體的環保技術。中國雖不在京都議定書約束的國家之列，急遽的經濟成長所造成的空氣污染已帶來嚴重的環境問題，日本鐵鋼聯盟於24日的委員會上正式決定技術援助的計劃，近期內將與中國討論相關細節。 日本鋼鐵業界自1990年度起，平均每年投注1200億日圓開發該產業的環保技術，目前業界「回收熔爐熱能轉供發電等能源節約技術」已經領先全球。日本鋼鐵業界2003年度換算成二氧化碳的溫室氣體排放量雖然已較1990年度減少6.4%，仍然未能達到京都議定書中要求減量10%的目標。 利用京都議定書的「彈性機制」，業界也可藉由跨國的技術援助，將國外減少的溫室氣體額度直接計入本國的額度之內。目前為止由日本政府核可的「彈性機制」計劃共15件，今年一月甫通過鹿島建設公司將馬來西亞廢棄物處理場的沼氣轉為電能的計劃，除此之外，東京電力公司和住友商事都分別在智利和印度有相關的環保計劃。
美國上訴法院推翻FCC對廣電節目猥褻言論之認定美國紐約第二巡迴法院上訴法院於2007年6月5日做出判決，認定FCC對於廣電節目是否違反猥褻言論規範之判斷標準為恣意專斷(arbitrary and capricious)的決定。此一案件起因於福斯電視台轉播2002年及2003年音樂告示排行榜頒獎典禮(Billboard Music Awards)時，歌手Cher及名人Nicole Richie分別在典禮中說出不雅言詞，事後FCC認定福斯電視台之轉播違反廣電節目之猥褻言論相關規範。福斯電視台對於FCC之認定不服，因而向法院提起訴訟。 依照過去FCC對猥褻言論之認定標準來看，「瞬間之咒罵言詞」(fleeting expletives)並不屬於猥褻言論，廣電節目中播出相關內容並不違反猥褻言論之管制規範。但自2003年起，FCC改變認定標準，認為所有不雅言詞均不可避免地帶有性暗示之內涵，因此廣電節目中凡涉及不雅言論之內容都是猥褻言論。 根據紐約第二巡迴法院上訴法院之判決指出，FCC的決定毫無疑問地改變了對於廣電節目是否違反猥褻言論規範之認定標準，且FCC對於改變認定標準一事所提出的理由並不具有說服力；FCC於訴訟過程中亦承認，即便在決定改變認定標準前，也沒有證據顯示廣播電視台曾密集播送充滿咒罵言論之內容。因此，紐約第二巡迴法院上訴法院認為，FCC改變認定標準一事乃是恣意專斷的決定，從而撤銷FCC對於福斯節目之認定。對於法院之判決，FCC主席Kevin Martin表示遺憾以及難以置信，將會委請律師研議是否繼續上訴最高法院。