日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。 隨著生成式AI的登場,日常生活以及執行業務上,利用AI的機會逐漸增加。另一方面,濫用或誤用AI等行為,可能造成網路攻擊、意外事件與資料外洩事件的發生。然而,利用AI時可能的潛在威脅或風險,尚未有充分的對應與討論。 本調查將AI區分為分辨式AI與生成式AI兩種類型,並對任職於企業、組織中的職員實施問卷調查,以掌握企業、組織於利用兩種類型之AI時,對於資料外洩風險的實際考量,並彙整如下: 1、已導入AI服務或預計導入AI服務的受調查者中,有61%的受調查者認為利用分辨式AI時,可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。 2、已導入AI利用或預計導入AI利用的受調查者中,有57%的受調查者認為錯誤利用生成式AI,或誤將資料輸入生成式AI中,有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。 日本調查報告顯示,在已導入AI利用或預計導入AI利用的受調查者中,過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務,或未來預計導入AI服務之我國企業,如欲強化AI資料的可追溯性、透明性及可驗證性,可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範;如欲避免使用AI時導致營業秘密資料外洩,則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範,以降低AI利用可能導致之營業秘密資料外洩風險。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw)
FDA發佈人工智慧/機器學習行動計畫美國食品藥物管理署(U.S. Food & Drug Administration, FDA)在2021年1月12日發布有關人工智慧醫療器材上市管理的「人工智慧/機器學習行動計畫」(Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan)。該行動計畫的制定背景係FDA認為上市後持續不斷更新演算法的機器學習醫療器材軟體(Software as Medical Device, SaMD),具有極高的診療潛力,將可有效改善醫療品質與病患福祉,因此自2019年以來,FDA嘗試提出新的上市後的監管框架構想,以突破現有醫療器材軟體需要「上市前鎖定演算法、上市後不得任意變更」的監管規定。 2019年4月,FDA發表了「使用人工智慧/機器學習演算法之醫療器材軟體變更之管理架構—討論文件」(Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback)。此一諮詢性質的文件當中提出,將來廠商可在上市前審查階段提交「事先訂定之變更控制計畫」(pre-determined change control plan),闡明以下內容:(1)SaMD預先規範(SaMD Pre-Specification, SPS):包含此產品未來可能的變更類型(如:輸入資料、性能、適應症)、變更範圍;(2)演算法變更程序(Algorithm Change Protocol, ACP):包含變更對應之處理流程、風險控制措施,以及如何確保軟體變更後之安全及有效性。 根據「人工智慧/機器學習行動計畫」內容所述,「事先訂定之變更控制計畫」構想被多數(包含病患團體在內)的利害關係人肯認,並於相關諮詢會議當中提出完善的細部建言。FDA將根據收到的反饋意見,於2021年以前正式提出有關人工智慧/機器學習上市後監管的指引草案(Draft Guidance),並持續研究提高演算法透明度、避免演算法偏見的方法。
Ofcom對市內用戶迴路接取批發市場發布管制措施並徵求各界意見固定通信網路(以下稱固網)寬頻、電話服務通常倚賴市內電話交換機(local telephony exchange)與住宅或商辦間的固網連接才得以運作,而在多數區域,這樣的連接服務僅由一或兩個實體網路業者所提供。有鑑於此,英國通訊管理局(The Office of Communications,Ofcom)遂對市內用戶迴路接取批發(wholesale local access, WLA)市場的規範發布三份諮詢文件,其目的除希望能促進光纖網路的投資外,也要保障消費者免於支付高額的使用費。 為了達成這樣的願景,Ofcom要求英國電信(British Telecom, BT)旗下提供WLA服務之子公司Openreach需允許寬頻競爭業者得以使用其網路銷售寬頻服務予人民或企業。Openreach提供數種傳輸速率的服務方案,並依不同方案對服務提供者收取不同的批發價格。根據Ofcom的分析結果,Openreach在高速寬頻服務(superfast broadband service)各項方案中,最具影響力的即為提供下載速率40Mbps/上傳速率10Mbps之服務方案。截至目前為止,受限於人民可選擇較便宜的寬頻服務當作替代方案,故BT對於服務方案價格的調漲有限。然而,這樣的限制隨著人們對網速的需求與連線品質的日益增加而日趨式微,Openreach顯然有足夠的誘因對服務方案的價格進行操作。因此,Ofcom責成Openreach需就其40/10Mbps之服務方案逐年調降向服務提供者收取之費用,由2017年的每年88.80英鎊至2020/21年降為每年52.77英鎊。藉由對服務提供者營運成本的逐年遞減,達到消費者服務使用費也隨之降低的目的;對40/10Mbps方案設下價格上限(price cap)的做法,長遠來看,也提供BT的競爭對手有投資建設其自有超高速網路(ultrafast network)的誘因。 此外,Ofcom對於WLA連線過程中,屬於Openreach維護範圍之故障排除或線路建置時間等服務品質(quality of service)的要求也更趨嚴格,包括: 於收到通知後1至2個工作天內完成93%的報修(現為80%); 6至7個工作天內完成97%的報修; 於收到新線路建置通知後10個工作天內安排90%的新線路建置預約(現為12個工作天內安排80%的新線路建置預約); 於Openreach與電信供應商協議之日期前完成95%的連線建置(現為90%)。以上要求皆需於2020/21年完全實現。 Ofcom這些管制措施是WLA market諮詢文件的一部份,確切施行期間為2018年4月至2021年3月,意見諮詢預計於2017年6月9日結束。Ofcom預計於2018年初發表其最終決定,而定調後的規範將於2018年4月生效。
美國法院將考慮命Google提交相關資料美國布希政府為捍衛1998兒童線上保護法(1998 Child Online Protection Act),要求法院命Google提交有關民眾使用該公司之搜尋引擎所輸入之關鍵字資料,以證明透過搜尋引擎,兒童使用電腦連結到色情網站並非不易。但是,Google主張此將會危及其使用者個人的隱私以及其營業秘密。 一名負責審理此案的法官於日前表示,其將會考量政府蒐集此等資料的需求以及Google之使用者的隱私保護議題,且其可能會允許司法部 (Justice Department) 可以接近使用 (access) 一部分由Google所建立的網站連結目錄,但並不是Google使用者所輸入的關鍵字資料。