歐盟GDPR保護適足性審核與因應作為
資訊工業策進會科技法律研究所
法律研究員 吳柏凭
2018年04月10日
壹、事件摘要
歐盟於 1995 年頒布個人資料保護指令(95/46/EC)[1],對歐洲各國甚至全世界個人資料保護法制發展有極大影響力。然隨著資通訊技術發展變化迅速,網際網路與各項應用興起,既有歐盟個人資料保護指令面對這些變化已經難以為繼,歐盟執委會(European Commission) 出新的資料保護規則(General Data Protection Regulation, GDPR),於2016年4月27日通過,5月4日公布,正式成為歐盟第2016/679號規則(Regulation (EU) 2016/679)[2]。由於歐盟原則上禁止個人資料跨境傳輸,只有在被認可具有保護適足性(Adequate level of protection)的國家或地區才能例外許可傳輸,因此如何獲得歐盟保護適足性認可,就成為能否跨境傳輸歐盟個資的關鍵。
貳、重點說明
一、個人資料保護指令保護適足性審查規定
1995年的個人資料保護指令,就有禁止會員國將個人資料跨境傳輸至對資料保護不具有保護適足性之國家[3]。在第25條第2項中,對於保護適足性的審查,包括資料的性質、處理目的和期間、資料的發生地及最終目的地、該國家施行的普通法及特別法規範、以及安全措施等,透過個案綜合判斷是否具有保護適足性[4]。而關於具體的判斷標準,則依照第29條規定資料保護工作小組(Article 29 Data Protection Working Party)的指導文件[5],其中對於法律規範審查,除了內容外,更重視個資保護的執行面。
二、GDPR保護適足性審查規定
GDPR延續了個人資料保護指令的規定,原則上禁止資料跨境傳輸至對資料保護不具有適足性之國家[6]。根據第45條第2項規定,適足性的評估包括以下要素:
以上規定與個人資料保護指令最大不同在於將保護適足性的判斷標準明文化,同時補充個人資料向第三地再傳輸應注意的規範、具有獨立性監管機關等規定,填補原本個人資料保護指令的漏洞。
三、保護適足性認可程序與現況
保護適足性認可的程序[7]為:
縱然取得認可,之後也會每四年檢驗一次[8],如果被判定不具保護適足性,則仍會取消原本的認可[9]。
現階段已通過保護適足性審核的國家地區包括:安道爾、阿根廷、加拿大(民間機構)、法羅群島、根西島、以色列、馬恩島、澤西島、紐西蘭、瑞士及烏拉圭,另有美國限於「隱私盾」框架(Privacy Shield framework)方可傳輸。
參、事件評析
(一)保護適足性認可的效益
除了取得適足性認可外,個別企業可以透過1.標準契約條款(Standard Contractual Clauses, SCC);2.拘束企業準則(Binding Corporate Rules, BCR);或3.取得同意方式進行跨境傳輸[10]。但是取得適足性認可不但可以節省企業在個資跨境傳輸的成本,減輕企業負擔,同時也有助於整體產業突破歐盟貿易壁壘。
(二)通過保護適足性審核的困難
雖然現行通過適足性審核的國家地區有11個,惟需注意的是,根西島、馬恩島、以及澤西島都是英國屬地,法羅群島是丹麥屬地,而安道爾和瑞士都是在歐洲境內,這些國家地區的法規範本來就與歐盟差距不大,加上美國及加拿大國家本身不被認可具適足性,實際上不屬於歐盟法體系而通過適足性審核的國家地區非常有限。而且包括以色列、烏拉圭或紐西蘭在申請認可都花超過三年的時間,因此也不能作為短期的因應措施。
此外,在要件方面,規範上雖然我國個資保護規範與GDPR未有極大歧異,但只要存有差異,要取得認可就有極高困難度,這些都需要與歐盟執委會溝通。而在監管機關要求方面,雖然沒有要求單一機關,但對於機關的「獨立性」仍有要求。關於機關的獨立性目前歐盟並沒有明確的標準,但在歐盟法院判決中,有因為德國的州對州層級的資料監管機關進行調查的權力,而被認為不具獨立性[11]。
(三)通過適足性審核的具體作為
以日本為例,為了取得歐盟適足性認可,在2015年9月就其個人資料保護法(個人情報保護法)進行修正,其中設立個人資料保護委員會(個人情報保護委員会)即是為了符合適足性要求中「獨立監管機關」規定,而第24條跨境傳輸的規定更是重要。
日本個人資料保護委員會在2016年就與歐盟執委會溝通三次[12],同時在2017年發出共同聲明[13]。在不修正法律的狀況下,日本個人資料保護委員會頒布一指導方針來消除差異,並於於2018年2月9日先揭示調適方向[14],包括:
肆、結語
歐盟GDPR已施行在即,如何因應以突破其跨境傳輸的限制將不只是單純避免業者受罰,更是跨越歐盟貿易壁壘的重要關鍵,而在眾多例外許可跨境傳輸的方法中,又以取得保護適足性認可為最根本因應之道。雖然現在取得認可的難度極高,但仍有許多能努力的空間,目前我國也著手申請適足性認可的準備,未來能得到何種程度的回應,值得後續觀察。
[1] Directive 95/46/EC of the European Parliament and of the Council of 24 October 1995 on the Protection of Individuals with regard to the Processing of Personal Data and on the Free Movement of Such Data.
[2] Reform of EU data protection rules, European Commission, http://ec.europa.eu/justice/data-protection/reform/index_en.htm (last visited Apr.10, 2018).
[3] Data Protection Directive, art. 25(1).
[4] Data Protection Directive, art. 25(2).
[5] European Commission, Working Party on Protection of Individuals with regard to the Processing of Personal Data, Working Documents Transfers of personal data to third countries: Applying Articles 25 and 26 of EU data protection directive, July 24, 1998.
[6] General Data Protection Regulation, art. 45.
[7] Adequacy of the protection of personal data in non-EU countries, https://ec.europa.eu/info/law/law-topic/data-protection/data-transfers-outside-eu/adequacy-protection-personal-data-non-eu-countries_en (last visited Apr.10, 2018).
[8] General Data Protection Regulation, art. 45(3).
[9] General Data Protection Regulation, art. 45(5).
[10] General Data Protection Regulation, art. 46.
[11]European Commission v. Federal Republic of Germany(C-518/07).
[12]個人情報保護委員会,個人情報保護委員会の国際的な取組について,https://www.kantei.go.jp/jp/singi/keizaisaisei/miraitoshikaigi/4th_sangyokakumei_dai2/siryou3.pdf (last visited Apr.10, 2018).
[13]JETRO,個人データ保護の「十分性認可」取得の好機に-日EU首脳が共同声明-,https://www.jetro.go.jp/biznews/2017/07/845f14ec50674c94.html (last visited Apr.10, 2018).
[14]個人情報保護委員会,EU 域内から十分性認可により移転を受けた個人データの取扱いに関するガイドラインの方向性について ,https://www.ppc.go.jp/files/pdf/300209_siryou1.pdf (last visited Apr.10, 2018).
美國消費者權益律師事務所Hagens Berman於2014年5月1日向美國加州北區聯邦地方法院(U.S. District Court for the Northern District of California)針對Google提出一項全國性反壟斷的集體訴訟,控告Google運用市場影響力,要求Android行動裝置製造商祕密簽署「行動應用程式散布協議」(Mobile Application Distribution Agreements,以下簡稱MADA),使競爭者難以進入Android手機,阻礙市場競爭,非法壟斷美國網路行動搜尋市場。 MADA原屬於機密文件,因Google與甲骨文(Oracle)的專利訴訟而曝光。該協議規定所有Android行動裝置中必須內建其應用程式,例如Google Search、YouTube、Google Maps、Gmail、Google Play與Google Talk等APP,並把Google Search設為預設搜尋引擎。原告律師Steve Berman表示,「很明顯地,Google能獨占行動搜索市場並非透過良好的搜尋引擎,而是藉由不正當的競爭手段操控市場實現的。並以此抬高Samsung Electronics和HTC手機裝置價格,要求應判賠償金給權益受損的消費者。行動裝置製造商倘若能選擇其他廠商的服務,將能改善行動搜索品質。」 Google則聲明:「任何人都可以在沒有Google的情況下使用Android系統,相對的,也可以在沒有Android系統的情況下使用Google,兩者是可獨立使用的服務。自從Android推出以來,智慧型手機市場競爭愈來愈激烈,讓消費者有更多平價的選擇。」雖然Google並未阻止製造商在Android手機上安裝第三方應用程式,但這份協議明顯已經抑制市場競爭。
澳洲2020年5月全國數位經濟與科技會議會後聲明澳洲產業、科學、能源及資源部(Department of Industry, Science, Energy and Resources)於2020年5月15日舉行全國數位經濟與科技會議,並於會後發表「2020年5月全國數位經濟與科技會議會後聲明」。本次會議由澳洲產業科學能源及資源部部長擔任主席,邀集各州、領地地方政府的創新或科技部門首長,以視訊方式研商COVID-19疫情後如何整合澳洲企業的數位能量,並使澳洲在2030年成為全球數位經濟的領先者。 聲明中首先肯定澳洲數以萬計的企業在面對COVID-19疫情時所展現的危機應對能力與提出各式數位科技解決方案,用以支持員工、服務消費者、提出資源供應的替代方案、溝通利害關係人等,有效地提升了營運與財務上的效率。而政府則藉由提供各式財務、社會保險與稅務上的支援措施,並持續針對個別情況規劃最適的支援方案。 聲明指出根據研究,數位工具將能協助小型企業每週節省約10小時的工時,並提升約27%的營收;若乘上澳洲全國小型企業的總數,等於每週可省下約2200萬小時的工時,並可年增約3850億元的營收。企業在疫情期間所採取的數位科技解決方案是未來推動營運模式數位轉型的契機,因此在疫情後整合澳洲官方與民間的數位能量,將是疫情後經濟復甦與未來經濟成長的關鍵。 聲明指出與會聯邦及地方政府相關首長已達成共識,將組成「數位經濟與科技資深官員小組」(Digital Economy and Technology Senior Officials Group),專責整合聯邦政府與地方政府的數位政策。本小組將提出數位經濟政策與企業所需的支援措施,用以加速數位轉型與COVID-19疫情後的經濟復甦,包含完成人工智慧及自主系統能力地圖(Artificial Intelligence and Autonomous Systems Capability Map),來找出尚待強化的能力與可加強合作的契機。 此外本小組將合作推動數位與資通安全工作、關鍵技術法規鬆綁,以協助減少企業法遵障礙並支持數位經濟成長。COVID-19疫情下揭示澳洲推動數位轉型的重要性,期許本小組能有效整合數位能量並填補數位落差,未來將每年召開三次全國數位經濟與科技會議,追蹤澳洲數位經濟與科技生態系的推動情形,並聽取資深官員小組的定期工作報告。
FDA對於食品製程中應用奈米科技者發布產業指引草案FDA於今年(2012年)4月12日分別發布了兩項有關於評估應用奈米科技於化妝品及食物影響之產業指引草案(draft guidance)。其中就奈米科技應用於食品(以下簡稱奈米食品)之影響,FDA於「產業指引草案:評估包括使用新興科技在內之重要製程,改變對食品原料、與食品接觸物質及食品色素安全性及法規狀態之影響」(Draft Guidance for Industry: Assessing the Effects of Significant Manufacturing Process Changes, Including Emerging Technologies, on the Safety and Regulatory Status of Food Ingredients and Food Contact Substances, Including Food Ingredients that are Color Additives,以下簡稱新興科技衍生食品產業指引草案)中,對於食品製造商應採取哪些步驟以證明使用奈米科技之食品及食品包裝之安全性,有較為具體之說明。 於新興科技衍生食品產業指引草案中,明確表示奈米科技為此文件之涵蓋範圍,惟其聲明將奈米科技納入文件並不代表FDA認定所有內含奈米物質之產品皆屬有害,僅說明FDA認為依據奈米食品之特性,應進行特別的安全性評估以確保安全。文件中也強調,FDA對於食品製程中應用奈米科技所作之考量,與應用其他科技於食品製程者無異,並認為應用奈米科技所產出之最終產品,在原定用途之使用下,其特性及安全性與傳統製程產出者相同。 針對奈米食品之安全性評估,新興科技產業指引草案中指出,應就該食品所使用物質於奈米尺寸下之特性為其判斷基礎,而有可能必須進一步檢驗此等特性之影響,例如該物質對於生物可利用率及其於器官間運輸之影響等。此外,文件中亦提及FDA於過去針對食品添加物、色素及與食物接觸物質之化學及技術數據所作成之產業指引,於此應同樣被遵守,而將奈米食品所涉及與安全性相關之文件提供給主管機關。而FDA也將持續地向產業提供諮詢服務,以確保產品之安全性。 由FDA所發布之相關產業指引觀察,縱使FDA仍秉持美國對於奈米科技不具危害性之基本立場,其仍透過強化安全評估之科學工具及方法,以審慎之態度來取得大眾對於此類產品安全之信任。
促進數位資產流通機制建立之法制初探促進數位資產流通機制建立之法制初探 資訊工業策進會科技法律研究所 2021年2月3日 現代社會中,數位資產已無處不在,並很大程度地在經濟社會活動中佔有一席之地。舉凡非有體物形式財產[1];或個人有權利或利益之電子形式紀錄[2];抑或所有可儲存在伺服器、電腦或其他電子設備上的事物,包括社群網站帳號、照片、網站、線上銀行帳戶、比特幣、線上音樂、網域和數位財產相關之任何智慧財產權皆可歸為[3]數位資產範疇。在此些數位資產中,除資料、智慧財產等無形資產外,有部分係奠基於網路服務業者所提供服務,進而在使用者利用過程中衍生其價值之數位資產(如社群媒體帳號、線上遊戲寶物、數位代幣等),如能有效就此類數位資產加以流通活用,預料將可促進數位經濟成長並厚植競爭實力。 欲流通、活用前開數位資產,首先面臨的挑戰是如何釐清數位資產[4]內涵。蓋其未必具有實體,似難認其具有民法上物權性質,且亦非法律上已給予明確定位之智慧財產權,或依其性質已由主管機關訂其適用法律之證券型代幣發行(Security Token Offering),實難就該等數位資產之內涵給予法律上評價與定論。是故,網路服務業者與使用者間就該等數位資產的使用,遂回歸私法自治精神,由雙方當事人以契約之私法關係約定。但此作法卻易造成具有優勢地位的網路服務業者慣於藉契約限制或排除使用者轉讓、贈與甚至是繼承數位資產之可能性,對使用者權利的保障似仍無足堪用;其次,相比實體資產,數位資產於交易上,未如動產以占有、不動產以占有加登記、智慧財產權以註冊或法律明文保護方式具體化公示外觀,交易當下難確知數位資產是否真實存在、交易對造是否有權處分等,影響經濟活動信任基礎之建立。 鑒於數位資產已逐漸顯露在經濟活動中的重要性,卻仍無足堪適用之法律促進流通並保障相應權利。是以,實有觀察國際間應對數位資產流通困境措施之必要,以為我國推行數位資產流通機制之借鏡。 壹、事件摘要 誠如前言,數位資產縱已是現代生活不可或缺之一步,但就數位代幣、線上遊戲寶物、社群媒體帳號等數位形式存在之標的,在法律上仍難以明確可茲適用法律,致使使用者在權利保障上未能周全。同時,因數位資產並無公示外觀表彰權源,亦無可形構數位信任基礎之制度,而難活絡數位資產流通市場。 對應於此,美國懷俄明州(State of Wyoming)於2019年7月1日施行《數位資產法》(Digital assets-existing law, NO. SF0125[5]),就數位資產嘗試給予法律定位,並建立銀行提供數位資產託管服務的法律基礎。在數位資產法律定位上,框定以電腦可讀格式存儲具有經濟價值、專有的或存取的權利(economic, proprietary or access rights)為數位資產,並明定數位資產具懷俄明《統一商業法典》(Uniform Commercial Code)所稱財產之性質。同時,也進一步將數位資產劃分為數位消費資產(Digital Consumer Assets)、數位證券(Digital Securities)、虛擬貨幣(Virtual Currencies)三者[6]。數位消費資產是指符合統一商法典中所稱一般無形資產(General Intangibles[7])之個人無形資產,主要用於消費、個人或家庭目的之數位資產譬如開放式區塊鏈代幣(Open Blockchain Token)、如線上遊戲寶物、社群媒體帳號等;而數位證券乃指符合統一商法典所稱證券或投資財產(Investment Property[8])定義之數位資產;至於虛擬貨幣[9],則是指用做交易媒介、帳戶單位或價值儲存的數位資產。另方面,在構築數位資產可信賴性之作為上,懷俄明州授權數位資產具有擔保權益[10],並建立銀行提供數位資產託管服務(Custodial Services)的法律框架[11] ,將被納入懷俄明州統一商法典「財產」範疇下的數位資產,允許銀行為其提供託管服務,同時,根據懷俄明州統一信託法(Uniform Trust Code)進行數位資產的控制和保護。由此觀察,顯見美國個別州已有意識地逐步為數位資產流通環境創設有利發展的監管環境。 無獨有偶,俄羅斯同樣積極地以法律手段回應數位資產活用、流通的需求。俄羅斯在2019年3月提出聯邦民法典修正案-數位權利法案,在民法第128條民事權利客體增設「數位權利」,並於第141.1條指出「數位權利」發生的條件,係當數位標的被存放於符合一定法定標準之資訊系統(即以區塊鏈技術運作之系統),即賦予其民事權利客體地位,將之納入民事權利關係中,擴展數位資產發展的法律空間。換言之,未來,俄羅斯數位資產如欲受到數位權利之保障,必須是在分散式資訊系統(Decentralised Information System)內運作,並且,該系統必須可使有權存取數位資產之人,可以在任何時間知悉該資產的狀態;同時,僅有在資訊系統內才可行使轉讓、擔保和數位權利其他形式之負擔行為,且不需經第三方之介入。除非法律另有規定,否則數位權利持有者(Owners)是唯一有權根據相關資訊系統規則處分(Dispose)此類權利的人,並且,應由他人就數位資產權利歸屬進行驗證。值得注意的是,數位貨幣和加密貨幣已被排除在適用範圍之外[12]。 貳、重點說明 承續觀察美國懷俄明州以及俄羅斯等國際間應對數位資產之見,具有以下特色: 一、嘗試為數位資產明確其適用法律 由於數位資產在法律上未必有特別規定,形成實務上多以私法契約關係約定數位資產使用權現象。當數位資產在當今社經發展下漸顯其重要性時,如仍一概以私法契約關係約定雙方當事人權利義務似有所不足。 因此可發現美國懷俄明州和俄羅斯分別尋思不同路徑,嘗試為數位資產提供明確的法律地位。美國懷俄明州就數位資產類型化為數位消費資產、數位證券、虛擬貨幣三者。藉此敘明,在基於《統一商業法典》擔保交易之目的下,數位消費資產應直接適用統一商法典下的一般無形資產相關規定;數位證券則是適用統一商法典下有關證券及投資財產相關規範;虛擬貨幣則被視為是貨幣,適用與貨幣相關法令,受讓人應擔保相關財產權[13];俄羅斯則是在其既有的民事權利客體體系下,增設數位權利。換言之,當數位資產在符合民法所定義的環境中運作時,俄羅斯將賦與該等數位資產數位權利地位而受民法保障。 二、試圖構築數位資產信任基礎 除上述(權利)定性問題外,數位資產另一困境係缺乏形構數位信任的相應作為,而亟待尋求建立數位信任的解方。 是以,美國懷俄明州利用其銀行體系作為構築數位信任的工具。透過《數位資產法》闡明銀行作為數位資產託管服務提供者的標準及程序[14],擬藉由託管數位資產方式,由銀行負責管理,並受託管人指示進行數位資產交易。經由託管人指示進行數位資產交易後,銀行將代表客戶進行數位資產之購入或售出,讓數位資產交易可以獲得安全且可靠的銀行服務;俄羅斯則直接以民法明文規定數位資產流通環境之標準與規則,並明確指出在該等環境中,數位資產所可主張之權利包含支配權、排他權等,並且,得在不經由第三方協助下,直接執行與管理數位權利,包含轉讓、擔保等。換言之,俄羅斯企以法定標準方式,導引業者共同形塑安全資訊系統環境,在該等環境中,數位資產之狀態得以固化與被驗證,並具有準物權性質和得公示之外觀,突破數位資產流通與活用最根本的信任問題。 參、事件評析 美國懷俄明州、俄羅斯嘗試將法律作為調節數位資產與社會關係的重要工具,客觀地從數位資產內涵以及數位資產交易之信任構築著手,形塑數位資產流通與活用基礎,極具參考價值。 面對數位資產浪潮,我們可觀察到兩類因應取徑。美國懷俄明州採取數位資產與周邊產業關係的再形塑,針對數位資產在特定交易目的下的應用,以《數位資產法》闡明其適用法令,並為當地金融業開展新形態服務建立框架,由此擴大金融業經營業務範圍,藉金融體系作為公正可信賴第三方者促進數位資產流通,促成產業與消費者雙贏,帶動產業生態系的成形;俄羅斯則著眼於數位資產流通環境的建設,企圖以數位基礎建設構築一可固定數位資產狀態,並形成可公示外觀與提供數位資產所有者支配權、排他權之環境,以此促進數位資產在該等環境下的流通與活用,進而預先為未來智慧合約等更新穎的數位資產應用準備。 對照於此,何以擘劃我國數位資產流通與活用政策,或可融鑄美國與俄羅斯之見,為數位資產內涵與適用法律給予明確地位,避免業者藉由私法手段片面限制數位資產的流通。換言之,或許宜進一步思考當數位資產具有經濟效益且已有長期反覆慣行交易行為,被人民確信其法律效力者,是否可認其已有民法第757條所稱之習慣,而具有物權內涵,可為流通與交易而不受業者單以(債權)契約約定;其次,建議考量是否借鏡俄羅斯創設數位權利,法定化數位資產流通環境之資訊系統,或如美國借力具提供數位資產管理、處分能力業者,共構數位資產流通環境基礎建設與驗證標準,通過技術手段具體化數位資產權利外觀,以確實解消流通環境安全問題並建立數位信任。 [1] 盛雅、陳芳鑫,〈數字信號代碼是否可以繼承?〉,《法治天地》,第8期,頁54(2019)。 [2] American Bar Association[ABA], Digital and Digitized Assets: Federal and State Jurisdictional Issues, (2019), https://www.americanbar.org/content/dam/aba/administrative/business_law/buslaw/committees/CL620000pub/digital_assets.pdf (last visited Jan. 1, 2020). [3] Thomson Reuters/Tax and Accounting Gross Estate, Key Issue 8J: Digital Assets, 706/709 Deskbook Key Iss 8J 1-3 (25th ed, 2019). [4] 本研究以下所討論之數位資產範圍,僅限於網路服務業者所提供服務,進而在使用者利用過程中衍生其價值之數位資產(如數位代幣、線上遊戲寶物、社群媒體帳號等)。 [5] Digital assets-existing law, SF0125 WY §§34‑29‑101- 13-2-101 (2019), https://www.wyoleg.gov/Legislation/2019/SF0125 (last visited Mar. 24, 2019). [6] Digital assets-existing law, Section 1, §34‑29‑104, Digital asset custodial services, “(a) A bank may provide custodial services consistent with this section upon providing sixty (60) days written notice to the commissioner. The provisions of this section are cumulative and not exclusive as an optional framework for enhanced supervision of digital asset custody. If a bank elects to provide custodial services under this section, it shall comply with all provisions of this section.”, https://www.wyoleg.gov/Legislation/2019/SF0125 (last visited Mar. 12, 2019). [7] "General intangible" means any personal property, including things in action, other than accounts, chattel paper, commercial tort claims, deposit accounts, documents, goods, instruments, investment property, letter-of-credit rights, letters of credit, money and oil, gas or other minerals before extraction. The term includes payment intangibles and software. [8] "Investment property" means a security, whether certificated or uncertificated, security entitlement, securities account, commodity contract or commodity account. [9] Digital assets-existing law, Section 1, §34‑29‑102 (a), “ (iii) Virtual currency is intangible personal property and shall be considered money, notwithstanding W.S. 34.1‑1‑201(b)(xxiv), only for the purposes of article 9 of the Uniform Commercial Code, title 34.1, Wyoming statutes. ”, https://www.wyoleg.gov/Legislation/2019/SF0125 (last visited Mar. 12, 2019). [10] Wyo. Stat. § 34-29-103 [11] Wyo. Stat. § 34-29-104 [12] Global Legal Insights, Blockchain & Cryptocurrency Regulation 2020 Russia (2019), https://www.globallegalinsights.com/practice-areas/blockchain-laws-and-regulations/russia (last visited Jan. 16, 2020) [13] Uniform Commercial Code§ 9-332. TRANSFER OF MONEY; TRANSFER OF FUNDS FROM DEPOSIT ACCOUNT. [14] Supra note 12.