英國與美國為人工智慧安全共同開發簽署合作備忘錄
英國技術大臣（U.K. Secretary of State for Science）蜜雪兒·多尼蘭（Michelle Donelan）和美國商務部長（U.S. Secretary of Commerce）吉娜·雷蒙多（Gina Raimondo）於2024年4月1日在華盛頓特區簽署一份合作備忘錄（MOU），雙方將共同開發先進人工智慧（frontier AI）模型及測試，成為首批就測試和評估人工智慧模型風險等進行正式合作之國家。
此備忘錄之簽署，是為履行2023年11月在英國的布萊切利公園（Bletchley Park）所舉行的首屆人工智慧安全峰會（AI Safety Summit）上之承諾，諸如先進AI的急速進步及濫用風險、開發者應負責任地測試和評估應採取之適當措施、重視國際合作和資訊共享之必要性等等，以此為基礎羅列出兩國政府將如何在人工智慧安全方面匯集技術知識、資訊和人才，並開展以下幾項聯合活動：
1.制定模型評估的共用框架（model evaluations），包括基礎方法（underpinning methodologies）、基礎設施（infrastructures）和流程（processes）。
2.對可公開近用模型執行至少一次聯合測試演習（joint testing exercise）。
3.在人工智慧安全技術研究方面進行合作，以推進先進人工智慧模型之國際科學知識，並促進人工智慧安全和技術政策的一致性。
4.讓英、美兩國安全研究所（AI Safety Institute）間的人員互相交流利用其團體知識。
5.在其活動範圍內，依據國家法律、法規和契約規定來相互共享資訊。
換言之，兩國的機構將共同制定人工智慧安全測試之國際標準，以及適用於先進人工智慧模型設計、開發、部署、使用之其他標準。確立一套通用人工智慧安全測試方法，並向其他合作夥伴分享該能力，以確保能夠有效應對這些風險。就如英國技術大臣蜜雪兒·多尼蘭強調的，確保人工智慧的安全發展是全球性問題，只有通過共同努力，我們才能面對技術所帶來的風險，並利用這項技術幫助人類過上更好的生活。
- The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK
- U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce
- Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024
林允中
法律研究員 編譯整理
The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK, https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023 (last visit June 30, 2024).
U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce, https://www.commerce.gov/news/press-releases/2024/04/us-and-uk-announce-partnership-science-ai-safety (last visit June 30, 2024).
Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024, https://questions-statements.parliament.uk/written-statements/detail/2024-04-16/hcws409 (last visit June 30, 2024).
歐盟執委員會於2018年5月17日公布第三套安全，清潔和聯網式行動議程，該套行動也是最後一套實現歐洲運輸系統現代化的措施。 在2017年9月的國情咨文中，歐盟主席容克提出歐盟產業成為創新，數位化和低碳化均能領先於全球地位的目標。基於此原因，在交通領域執委會2017年5月和11月的提出兩套歐洲行動措施，其目標係讓所有歐洲人都能從享受更安全的交通，更少污染的車輛和更先進的技術解決方案，並同時加強歐盟產業業的競爭力。為此，本次議程聚焦包括未來車輛和基礎設施安全措施綜合政策;重型車輛的二氧化碳標準; 歐洲發展和製造電池的戰略行動計畫以及關於車聯網和自駕車的前瞻性戰略。 而歐洲能源聯盟表示：交通正到跨越一個新的技術前沿，透過能源聯盟的最終提案，將可幫助我們相關產業保持領先地位，並透過大規模研發關鍵技術解決方案，包括潔淨能源之電池技術和建置相關充電基礎設施，以解決碳排放，行車擁堵和降低事故發生。 歐盟氣候行動與能源專員亦表示：所有部門都必須為實現巴黎協議之氣候承諾做出貢獻，這就是為什麼歐盟在有史以來第一次訂定提提高燃油效率標轉和減少碳排放的標準，也為歐洲工業鞏固當前在創新技術領域的領導地位。 歐盟交通運輸專員亦表示：過去一年，執委會在通領域提出許多重大舉措，以提升未來交通安全、乾淨及聯網性。所有措施皆以乾淨且智慧的交通工具目標前進，並尋求各成員國和歐洲議會能支持該雄心壯志。 歐盟內部市場，產業，創業和中小企業專員表示：90％的道路交通事故係出於人為錯誤，目前提出新的強制性安全功能將減少事故的數量，並有利車聯網及自駕車技術發展。 本次議程內容簡介如下 交通安全 從2001年至今道路死亡人數減少已了一半以上，然2017年歐盟境內仍有25,300人交通事故身亡，及13.5 萬人受重傷。因此，歐盟執委會建議新型車輛應配備先進的安全功能，例如用於汽車的先進緊急煞車和車距保持輔助系統或卡車對於周遭行人和用路人之檢測系統。此外，委員會將幫助成員國能在危險路段進行系統性改善建設投資。預計將可挽救多達10,500人的生命，並在2020-2030年期間避免接近6萬人的嚴重受傷，從而為歐盟實現2050年接近零死亡和重傷的長期目標做出貢獻。 交通能源清潔性 歐盟執委會將提出有史以來第一個重型車輛的二氧化碳排放標準來完成低排放交通系統的計畫。此外，2025年，新卡車的二氧化碳平均排放量必須比2019年低15％。2030年，新卡車與2019年相比，必須達到至少30％的減排目標。該目標符合可協助歐盟於巴黎協議所作的承諾，並將使運輸公司（主要是中小企業）透過降低油耗（5年25,000歐元）節省大量成本。為了進一步減少二氧化碳排放，委員將會促進更多的先進低汙染的車輛（例如：改善汽車動力學、輪胎等零件）。此外，委員會將提出一個全面的行動計畫，將有助於在歐洲建立一個具有競爭力和永續性發展的電池生態系統。 車聯網及自駕車 目前越來越多地車輛已配備駕駛員輔助系統，並朝完全自動駕駛車輛目標邁進。因此，該戰略將著眼於道路使用者之間的新協同操作，此將為整個交通系統帶來巨大的利益。運輸將變得更安全，更清潔，更便宜，並使老年人和行動不便的人更方便。此外，執委會建議建立一個全數位化的貨運資訊交換環境，以促進物流運作的數位資訊流。
英國政府制定監管計畫以應對科技巨頭帶來的問題英國政府於2022年5月6日宣布將針對大型企業（major firms）壟斷市場的情況制定新的監管計畫。該監管計畫將重新平衡大型與中小企業和消費者的關係，以利中小企業和消費者受到更好的保護，並使市場競爭環境更為公平。 該監管計畫針對的大型企業，即是國際市場上的科技巨頭（tech giants），如Google and Facebook。此類科技巨頭擁有並控制大量用戶的網路資料，並將該資料應用在特定應用程式與瀏覽器的搜尋演算法上，以確保其市場壟斷地位，使潛在的競爭者難以進入市場，進而影響市場的公平競爭以及消費者的自由選擇權。為解決前揭問題，英國預計透過修法賦予競爭和市場管理局下的「數位市場部門」（Digital Markets Unit, DMU）法定權力與監管權限，並搭配措施與作法如下： 強化市場公平性：英國政府預計提出價格糾紛解決機制，平衡內容提供商（如媒體業與廣告業）與科技巨頭間的議價能力，以確保更為公平、透明的市場。此外，科技巨頭亦應將其演算法之資訊分享給一般公司，避免科技巨頭濫用其市場力量。 增進消費者權益：科技巨頭必須確保消費者在使用資訊設備或服務時有充分的自主權與選擇權。例如，於手機的IOS和 Android 系統之間轉換或是社交軟體帳戶之間的資訊移轉時不會喪失其資料和訊息。DMU也將限制公司預先安裝瀏覽器、社交軟體等APP，讓消費者在APP上有更多選擇權。而隨著新業者進入市場，智慧型手機用戶將可以有更多搜尋引擎和社交平台選擇。此外消費者亦可選擇退出具有針對性的個人化廣告發送，以達成讓消費者擁有更多的資料自主權。 為能有效落實上述措施，DMU將有權指定特定企業為具有「戰略市場地位」（strategic market status）的公司。指定標準將依公司的營業額、對消費者的影響力、對市場活動的影響力、公司的活躍程度與規模等綜合評估，檢視其是否達到強大且根深蒂固的力量（substantial and entrenched market power）。DMU並將針對少數主導數位市場的企業應如何公平對待其用戶和其他公司提出行為準則。被指定的公司若違反相關規範，將面臨全球年營業額最高10%的罰款，如果連續違反，則可被處以全球每日營業額5%的額外罰款。 英國政府期待透過新的監管計畫及未來的修法介入市場競爭，促使市場環境更為公平且適於創新，同時讓消費者擁有更多選擇權。英國新監管計畫之實施情形，值得持續關注。
歐盟個資保護委員會對英國個資傳輸適足性認定之意見英國自2020年1月31日正式脫離歐盟後，即成為歐盟跨境傳輸的「第三國」。能否持續和歐盟國家進行個資傳輸，就須視歐盟對英國跨境資料保護方式和《一般資料保護規範》（General Data Protection Regulation，GDPR）有無認定雙方具有本質上相同的保護程度，又稱為「適足性」（adequacy）的認定。目前，歐盟給予英國跨境傳輸過渡期到2021年7月，在此之後若希望持續不受限制的交流，就須經歐盟執委會（European Commission, EC）通過適足性認定後才得以進行。 2021年2月19日，歐盟執委會提出草案，認為英國的個資保護標準與歐盟的「GDPR」、「執法機關資料保護指令」（Law Enforcement Directive，LED）有適足性之適用。又在4月14日，歐盟個資保護委員會（European Data Protection Board, EDPB）針對歐盟執委會於2月19日所做的認定草案提出兩項意見： 一、肯認英國現行國內資料保護的核心架構中有關個資保護、處理及控制者的要件及處理方式和GDPR的保護程度並駕其驅。另，肯定英國「2018年資料保護法」（Data Protection Act 2018）中有關GDPR及LED的適用及對「英國資訊委員辦公室」（Information Commissioner’s Office, ICO）所賦予的權利及義務。 但同時，EDPB也向歐盟執委會提出以下幾點注意事項： 英國政府若發展獨立的個資保護政策，將可能與歐盟的保護架構分歧，造成個資保護程度降低。 「2018年資料保護法」中的「移民豁免」政策，讓資料控制者在處理移民相關資料時有廣泛的例外，得免於遵循GDPR之義務。 從英國將歐盟成員的資料傳給「第三國」時，該「第三國」本身需要具有基本上等同於GDPR的資料保護程度，才得允許傳輸。 針對英國政府出於國家安全目的，將個人資料傳輸到英國境內，而有義務免除或特殊情狀時，歐盟執委會應進一步了解或審核。 二、 認為英國法律框架中的核心要件實質上與LED的基礎原則具有高度一致性。因此建議歐盟執委會引入四年的日落條款（four-year sunset clause）方式，並密切觀察英國資料保護的發展，在必要時得以要求修改或終止LED適足性的決定。 針對以上問題，歐盟執委會希望能在6月底前廣納各國意見並做出決定。屆時，若通過適足性認定，其效期將延續4年，之後再進行適足性評估。並可能在英國開始制定相關的適足性及資料保護架構時，歐盟執委會得將其納入定期審查的項目中，以確保歐盟的個資跨境傳輸進入英國後，仍受適當的保護。
歐盟網路與資訊安全局發布「行動支付與電子錢包安全防護」報告為因應探討並強化網路安全環境，歐盟網路與資訊安全局（European Union Agency for Network and Information Security , ENISA）2016年12月發布「行動支付與電子錢包安全防護」研究報告（Security of Mobile Payments and Digital Wallets）。歐盟網路與資訊安全局ENISA主要係因，近來行動支付興起，利用行動支付方式買賣貨品，係象徵著朝向數位化轉換趨勢，消費者希望透過更便捷的方式購物避免帶著實體錢包和一堆卡片，增加購物的不便。但是使用電子錢包和行動支付並非全然沒有安全疑慮，根據2015年的一項調查，有百分之20的美國消費者對於行動支付的過程中可能遭到有心人士擷取個人資料，這就表示此乃使用行動支付的主要擔心重點，有13%使用者擔心自己的電話遭到駭客入侵。此外根據另一項調查，針對九百名資安專家所做的調查顯示，僅有23%的的人員認為目前現有的安全機制足以防範個資外洩，但有47%的人員認為現有的機制缺乏安全性，但當中也有百分之30的回覆認為現在的安全機制是否安全不能確定。因此，目前而言，安全防護可謂是消費者最關心的重點，且對於安全的疑慮亦使得行動支付沒有辦法大量推行採用。 因此歐盟網路與資訊安全局ENISA於此報告提出了目前經確認的主要威脅有： 行動用戶的安全威脅：任意裝設惡意軟體、釣魚軟體、社交工程軟體。 行動設備威脅：行動設備遭竊或遺失與不當近用。 行動支付與電子錢包威脅：逆向工程、竄改支付軟體、使用在滲透到系統之後，會隱藏登錄項目、檔案或處理序等資源的一種軟體。 消費者威脅：POS惡意軟體、MiTM、重放攻擊。 付款服務提供者威脅：付款系統與資料連結崩潰的疑慮。 支付網路提供者威脅：代碼服務崩潰、拒絕服務。 發行商威脅：付款授權流程崩潰與代碼資料崩潰。 行動支付軟體提供者威脅：機敏個資外洩、雲端客戶資訊管理遭到入侵、代碼服務拒絕。 因此有鑑於行動支付產業目前仍在新興階段，欠缺明確標準，業者間的自主管理顯得相當重要，所以網路與資訊安全局ENISA提出了一些得以遵循的建議與標準： 消費者在使用行動支付的服務軟體時，必須採取多項最低安全防護措施。 行動主機提供業者應該確保軟體定時更新，並且修補安全上的漏洞，針對安全性與近用用戶資料的可能性部分加強。 行動支付的應用程式提供者，應該再提供服務給消費者時，同時提供消費者資訊，本應用軟體做了何種安全防護，供消費者知悉。 行動支付業者應當建立詐騙監控機制。 網路與資訊安全局ENISA提出上述建議與標準，主要係希望業者採用這樣的標準或好習慣的建議後，可以對於消費者、零售商、銀行等業者產生益處。