歐盟執委會於2020年12月16日針對未來十年歐盟數位發展,提出《歐盟數位十年網路安全戰略》(The EU's Cybersecurity Strategy for the Digital Decade),以支持塑造歐盟的數位未來(Shaping Europe's Digital Future)、歐洲復甦計畫(Recovery Plan for Europe)和歐洲安全聯盟(EU Security Union Strategy)。該戰略說明應如何加強歐盟共同抵禦面對網路攻擊的應變能力,並確保民眾及企業都能在可信賴的數位服務中受益。 由於COVID-19大流行,加速工作模式的變化,2020年歐盟約有40%的民眾遠距辦公,而同年網路犯罪對全球經濟造成的影響估計達到5.5億歐元。因此,為維護全球開放網路的穩定運作,在保護網路安全的同時,亦應保護歐盟的共同價值觀與人民的基本權利,在監管、投資與政策上提出三點建議: 韌性、技術主權和領導(Resilience, Technological Sovereignty and Leadership):根據網路與資訊系統安全指令(Directive on Security of Network and Information Systems, NIS Directive)修訂更嚴格的監管措施,改善網路和資訊系統的安全。並建立由AI推動的資安監控中心(AI-enabled Security Operation Centres),及時避免網路攻擊。 建立防禦、嚇阻和應變能力(Building Operational Capacity to Prevent, Deter and Respond):逐步建立歐盟聯合網路安全部門,加強歐盟各成員國之間的合作,以提高面對跨境網路攻擊時的應變能力。 透過加強合作促進全球開放網路空間(Advancing a Global and Open Cyberspace):希望與聯合國等國際組織合作,透過外部力量共同建立全球網路安全政策,以維護全球網路空間的穩定及安全。
美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括: 1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。 2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。 3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。 4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。 5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。 6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。 7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。 8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。 9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。 10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。 11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。 12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。 為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。
日本內閣府公布最新科學技術基本計畫草案,期以智慧聯網服務平台實現超智能社會日本內閣府2015年12月10日於「綜合科學技術創新會議」上公布最新「科學技術基本計畫」草案,預計將投入26兆日圓,約占GDP1%的資金。該計畫之法源基礎係1995年公布之《科學技術基本法》第9條第1項,要求政府自1996年開始制定以五年為期,整體、宏觀且跨部會之科技發展計畫,目前最新之「第五期科學技術基本計畫」將於2016年開始施行。 「第五期科學技術基本計畫」共計七章,作為本期計畫核心之第二至第五章,揭櫫四大原則及相應規畫: 一、 以未來產業創新及社會變革為方向創造新價值(第二章) 旨在發展對未來產業創新及社經變遷具有前瞻性之技術及服務,如智慧聯網、巨量資料、人工智慧等,並以此為基礎實現領先世界之「超智能社會」。 二、 因應經濟社會新課題(第三章) 1. 確保能源、資源及糧食供應穩定。 2. 因應超高齡化、人口減少等問題,打造永續發展的社會。 3. 提高產業競爭力及地區活力。 4. 確保國家安全及國民安全。 5. 因應全球範圍內發生的社經問題,並對世界發展做出具體貢獻。 三、 強化科技創新基礎能力(第四章) 企圖打破產官學界間障壁,加速人才流動及人才多樣化,對造成障礙之制度進行改革,此外,將增加青年及女性研究者比例,及提升學術論文品質。 四、 構築人才、知識、資金三要素的良性循環制度以朝向創新發展(第五章) 將透過產官學界合作,打造創新人才培育及適其發展之環境,強化國際知識產權及標準化之運用,並依國內各區域特性推動相關創新措施。 在這當中,「實現超智能社會」為本期計畫最重要之發展目標,由於資通訊技術高度發展帶動生產、交通、醫療、金融、公共服務等各方面之巨大變革,創造出新產品、新服務,卻也相應帶來新挑戰及社會問題,日本政府計畫打造「智慧聯網服務平台」(IoTサービスプラットフォーム),將內閣府2015年6月19發布之「科學技術創新綜合戰略2015」中所列舉的11個系統分階段完成串連整合,以推動跨系統間之數據應用,達成各科學領域巨量資料之流通使用,同時兼顧資訊安全保障的「超智能社會」。
歐盟公布資料保護相關指令適用意見書由歐盟二十七個會員國資料保護主管機關組成的第二十九條資料保護工作小組(The Article 29 Working Party)最近公布其應適用何國資料保護法規之意見書。 歐盟資料保護指令(EU Data Protection Directive)第四條對於蒐集或處理個人資料所應適用之法規有所規範,依該條規定,機構必須依其成立之國別適用該國資料保護法規;機構若於其他國家裝置設備處理資料,則須遵守設備所在地之法令。 隨著全球化的趨勢與新興科技的發展,目前處理資料機構之運作方式已與當初制定指令時有所不同,許多機構在世界各國設置營運點,向全球各地提供各類型服務,尤其是網際網路的發展,使得遠端服務及在虛擬環境下分享個人資訊更為容易,但同時也增加辨識資料處理所在地之困難度,因此工作小組提出該意見書,希望藉此釐清資料保護指令第四條之適用。 工作小組於該意見書中指出,資料保護指令所指的應適用法規,並非資料控制者(data controller)所在地之法規,而是附屬於該資料控制者並實質進行資料處理之機構的所在地法規。蓋因同一資料控制者可能在數國成立附屬機構,在此種狀況下判別適用法規的標準,應視實際上相關資料處理活動的發生地,亦即處理資料機構所在地。 而針對處理個人資料所使用之設備,工作小組表示,即使處理資料之機構並未擁有設備,而使用該設備處理個人資料時,亦可適用指令第四條之規定,需遵守設備所在地之相關法規;但工作小組同時特別釐清,以電信電纜或郵政服務等方式傳輸資料並不會落入資料保護法規之範疇。