英國與美國為人工智慧安全共同開發簽署合作備忘錄
英國技術大臣（U.K. Secretary of State for Science）蜜雪兒·多尼蘭（Michelle Donelan）和美國商務部長（U.S. Secretary of Commerce）吉娜·雷蒙多（Gina Raimondo）於2024年4月1日在華盛頓特區簽署一份合作備忘錄（MOU），雙方將共同開發先進人工智慧（frontier AI）模型及測試，成為首批就測試和評估人工智慧模型風險等進行正式合作之國家。
此備忘錄之簽署，是為履行2023年11月在英國的布萊切利公園（Bletchley Park）所舉行的首屆人工智慧安全峰會（AI Safety Summit）上之承諾，諸如先進AI的急速進步及濫用風險、開發者應負責任地測試和評估應採取之適當措施、重視國際合作和資訊共享之必要性等等，以此為基礎羅列出兩國政府將如何在人工智慧安全方面匯集技術知識、資訊和人才，並開展以下幾項聯合活動：
1.制定模型評估的共用框架（model evaluations），包括基礎方法（underpinning methodologies）、基礎設施（infrastructures）和流程（processes）。
2.對可公開近用模型執行至少一次聯合測試演習（joint testing exercise）。
3.在人工智慧安全技術研究方面進行合作，以推進先進人工智慧模型之國際科學知識，並促進人工智慧安全和技術政策的一致性。
4.讓英、美兩國安全研究所（AI Safety Institute）間的人員互相交流利用其團體知識。
5.在其活動範圍內，依據國家法律、法規和契約規定來相互共享資訊。
換言之，兩國的機構將共同制定人工智慧安全測試之國際標準，以及適用於先進人工智慧模型設計、開發、部署、使用之其他標準。確立一套通用人工智慧安全測試方法，並向其他合作夥伴分享該能力，以確保能夠有效應對這些風險。就如英國技術大臣蜜雪兒·多尼蘭強調的，確保人工智慧的安全發展是全球性問題，只有通過共同努力，我們才能面對技術所帶來的風險，並利用這項技術幫助人類過上更好的生活。
- The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK
- U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce
- Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024
林允中
法律研究員 編譯整理
The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK, https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023 (last visit June 30, 2024).
U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce, https://www.commerce.gov/news/press-releases/2024/04/us-and-uk-announce-partnership-science-ai-safety (last visit June 30, 2024).
Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024, https://questions-statements.parliament.uk/written-statements/detail/2024-04-16/hcws409 (last visit June 30, 2024).
歐盟「人工智慧法」達成政治協議， 逐步建立AI準則 資訊工業策進會科技法律研究所 2023年12月25日 隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。 壹、發佈背景 歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。 歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。 貳、內容摘要 AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下： 臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。 臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。 考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。 臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。 參、評估分析 在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。 此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。 面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023). [2]European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023). [3]Artificial intelligence act,P5-7,https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023). [4]GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023). [5]General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2(last visited December 25, 2023).
《加州隱私權法（California Privacy Rights Act, CPRA）》現在備受關注；CCPA修正案2020年11月3日，加州於其大選中以公投方式批准通過第24號提案（Proposition 24），該提案頒布《加州隱私權法》（California Privacy Rights Act，以下簡稱CPRA）。CPRA對加州消費者隱私保護法（California Consumer Privacy Act 2018，以下簡稱CCPA）所規定之隱私權進行重要修正，改變了加州的隱私權格局。 CPRA賦予加州消費者新的隱私權利，並對企業施加新的義務，例如消費者將有權限制其敏感性個人資料（例如財務資料、生物特徵資料、健康狀況、精確的地理位置、電子郵件或簡訊內容及種族等）之使用與揭露；消費者有權利要求企業更正不正確的個人資料；CPRA同時修改現有的CCPA的「拒絕販售權」，擴張為「拒絕販售或共享權」，消費者有權拒絕企業針對其於網際網路上之商業活動、應用或服務而獲得的個人資料所進行之特定廣告推播。CPRA亦要求企業對各類別之個人資料，按其蒐集、處理、利用之目的範圍及個人資料揭露目的，設定預期的保留期限標準。 CPRA另創設「加州隱私保護局」（California Privacy Protection Agency）為隱私權執行機構，該機構具有CPRA之調查、執行和法規制定權，改變了CCPA 係由加州檢察長（California Attorney General）負責調查與執行起訴的規定，並規定加州隱私保護局應於2021年7月1日之前成立。 CPRA將在2022年7月1日之前通過最終法規，且自2023年1月1日起生效，並適用於2022年1月1日起所蒐集之消費者資料，隨著CPRA的通過，預期可能促使其他州效仿加州制定更嚴格之隱私法，企業應持續關注有關CPRA之資訊，並迅速評估因應措施。
Like or Not！德國地方法院針對facebook「讚」按鈕功能之判決日前有新聞報導，google將推出「+1」按鈕功能，用戶可以點擊該按鈕，向好友推薦特定的搜尋結果，市場上普遍預測google新增此「+1」按鈕功能，主要是用來跟facebook「讚」按鈕（Like Button）競爭。facebook「讚」按鈕功能已成為時下潮流新用語，諸如「給你一個讚」；而且還可以將facebook「讚」按鈕安裝在個人的部落格網頁、文章中。惟facebook的這項功能，一直以來也存在著侵害用戶個人隱私之疑慮。 德國柏林地方法院於今年（2011）03月14日針對facebook「讚」按鈕功能作出一則判決（LG Berlin, Beschluss vom 14.03.2011 - 91 O 25/11）。本案被告經營一項與原告相同的電子商務業務，並在其線上商店網頁中，安裝facebook「讚」按鈕（Gefällt-mir-Button）功能。判決中指出，安裝facebook「讚」按鈕，須運用facebook內建框架（iframe）語法，一旦安裝後，只要是登錄facebook的用戶，同時瀏覽被告網頁時，即使未點擊被告網頁上的「讚」按鈕，用戶的使用記錄都會回傳至facebook。但被告網頁上並未刊登任何有關提醒用戶注意該項資料蒐集、回傳之訊息。 原告因而主張，被告未盡到告知用戶有關個人資料蒐集、加工資訊之義務，已經違反電信服務法（Telemediengesetz，以下簡稱TMG）第13條規定，因而構成不正競爭防止法（Gesetz gegen den unlauteren Wettbewerb，以下簡稱UWG）第4條第11款規定之不允許交易行為。UWG第4條第11款規定「違反本質上涉及交易相對人（Marktteilnehmer）之利益的市場行為（Marktverhalten）有關之法律規定，亦屬於不允許的交易行為（unlautere geschäftliche Handlungen）。」 柏林地方法院認為，TMG第13條本質上係與個人資料保護有關之規定，與涉及交易相對人之利益的市場行為無關，故本案無UWG第4條第11款規定之情形，與不正競爭行為無關，原告之主張因欠缺請求權基礎而敗訴。 然而，值得注意的是，本案法院並未進一步針對被告行為是否違反TMG第13條「有關個人資料保護」之規定提出其見解。TMG第13條係依據「歐盟1995年個人資料保護指令」轉換而來，TMG第13條規定，若網站涉及個人資料的蒐集、加工行為，電信服務提供者（Diensteanbieter）有義務明確告知用戶相關訊息（包括明確告知用戶其可隨時撤回許可相關資料蒐集之表示等）。 爰此，被告於個人網頁安裝facebook「讚」按鈕功能，卻未告知用戶個人資料蒐集、加工之相關訊息，是否違反TMG第13條規定之告知義務，尚有待上級審加以定奪。而判決出爐後，也有專家建議，為避免有侵害個人資料之虞，在社群網站安裝facebook「讚」按鈕時，宜加註個人資料處理、保護之相關聲明。
歐盟執委會發布「再生能源：歐洲能源市場的重要角色」產業推動報告歐盟執委會於2009年4月23日發布再生能源指令（DIRECTIVE 2009/28/EC），目標在2020年達成20%的再生能源利用；並於2011年1月31日發布「再生能源：邁向2020目標」（Renewable Energy: Progressing towards the 2020 target）通訊報告，檢視歐洲再生能源產業概況及所面對的挑戰，透過與「歐洲及國家再生能源領域之財務檢視」（Review of European and national financing of renewable energy in accordance with Article 23(7) of Directive 2009/28/EC）、「運輸領域使用生質燃料及其他再生燃料的發展及技術評估」（Recent progress in developing renewable energy sources and technical evaluation of the use of biofuels and other renewable fuels in transport in accordance with Article 3 of Directive 2001/77/EC and Article 4(2) of Directive 2003/30/EC）及「生質燃料及生質燃油永續計畫報告」（Report on the operation of the mass balance verification method for the biofuels and bioliquids sustainability scheme in accordance with Article 18(2) of Directive 2009/28/EC）等三份報告的結合，瞭解再生能源領域發展所須的支出、確保其品質、運用最有效率及最具經濟效益的手段，架構歐洲再生能源利用之2020年目標。 為達此一目標，各會員國自行採取相關措施加以推動，每年投入的資金呈倍數的成長；然在2020年之後，卻未見相關政策規劃。為持續發展再生能源，執委會於2012年6月6日發布「再生能源：歐洲能源市場的重要角色」（Renewable Energy: a major player in the European energy market）通訊報告，呼籲各會員國在相關計畫的建立與改革採取更協調一致的措施，提升會員國間再生能源的交易，並探討2020年之後再生能源的發展框架。此一通訊報告包含兩部分：第一、為達2020年的再生能源發展目標，指出四個須加速推動的領域；第二、開始思考2020年後之規劃框架。 針對應加速推動以達成2020年發展目標的四大領域，包括（1）能源市場、（2）支援計畫（support schemes）、（3）合作機制、（4）地中海區能源合作計畫。歐盟執委會堅持達成境內能源市場的整合，並認為有必要提供投資獎勵，以順利進行。對於相關支援計畫，應鼓勵降低成本並避免過度補貼；由於支援計畫多由各國政府主導，而各國可能有缺乏透明度、突然終止、甚至補助差異，造成市場運作模式的阻礙，因此執委會呼籲透過跨國的合作來解決。此外，執委會鼓勵增加合作機制，使會員國間能透過再生能源的交易、降低成本，以達成再生能源利用目標。針對地中海區的能源合作計畫，執委會建議改善其管理框架，並著重於整合馬格里布地區（Maghreb）的市場，將有助於大規模投資，進口再生能源電力。 針對2020年後之發展，則應兼顧創新與降低成本，促進對再生能源的投資。依據歐洲「2050能源路徑圖」（Energy Roadmap 2050）之規劃，開始探討邁向2030的發展策略，主要仍以溫室氣體排放、再生能源及能源效率為政策目標。執委會強調，儘速確定2030年的發展規劃至關重要，此規劃並應使再生能源業者在能源市場上提升其競爭力。