網際網址(internet address)在技術上被稱為網域名稱(domain name),若沒有此網域名稱,電腦使用者就需要記住一串又臭又長的數字,例如"165.1.59.220" 而非"ap.org."。 從1984年以來,全球一般通用的網際網址字尾(suffix)多半以”.com”作結尾,但日前全球網域名稱管理機構「分配網域名稱與網址之網際網路管理組織」(Internet Corporation for Assigned Names and Numbers, ICANN)在新加坡召開會議,決議通過開放網際網址字尾不再限於”.com”,未來將可以任何品牌、嗜好、城市等名稱命名。這項決定堪稱是網際網址系統有史以來最大的變革。 ICANN表示,ICANN一直以來都希望能擴張網際網址字尾的數目,然而在商標侵權爭議、出現淫穢字眼等考量下,擴展網際網址字尾的進展顯得緩慢。終於在花費長達六年時間協商討論網際網址字尾之命名及運用,完成撰擬網際網址字尾指導原則(guidelines),並決議通過網際網址字尾新的命名規則。 ICANN將從明年1月12日起開始接受申請,為期3個月,申請費用為185,000美元,每年維護使用(maintain)費為25,000美元。若申請案未遭他人以商標侵權、道德風俗等理由申請異議,將可很快取得核准。若有異議情形,申請案將進行進一步的審議(包括仲裁程序)。若當有兩個以上申請人皆有正當理由申請同一名稱時,ICANN希望雙方能先進行和解,若仍未達成協議,ICANN將會以競標方式決定由誰取得該名稱。 此項消息公佈後,外界揣測備受矚目的娛樂事業、專門販售消費者商品的公司、金融服務業者,將可能紛紛以其品牌或商標名稱,申請註冊新的網際網址字尾。例如相機及印表機大廠Canon Inc.,已計畫申請”.canon”,幾個由銀行及金融服務業者組成的貿易組織也正在評估共同申請”.bank”、”.insure”、”.invest”供其會員日後使用;另有環保團體目前亦評估申請”.eco”作為其網際網址的字尾。 網際網址字尾的大幅開放後,各公司皆可以其品牌、熱銷商品名稱等琅琅上口詞彙,作為其網站的網址,此舉將為公司帶來許多推廣、行銷品牌之機會,可預見明年網際網址字尾的申請熱潮將席捲而來。
我國法制對於AR/VR發展之影響評估我國法制對於AR/VR發展之影響評估 資策會科技法律研究所 法律研究員 王凱嵐 105年06月14日 隨著科技的進步,同時在大數據、物聯網及可穿戴式裝置發展下,未來AR/VR技術可運用之層面相當廣泛,諸如遊戲、視訊娛樂、醫療保建、教育、醫療保建等,具有成為繼智慧型手持裝置後另一重要軟硬體平台之潛力。 所謂AR即擴增實境,指將虛擬資訊擴增到現實空間中的技術。這並不是完全取代現實之空間,而是在現實生活中融合虛擬資訊,藉由攝影機的辨識技術與電腦程式的結合,使虛擬資訊得以正確的疊加或輔助式出現於現實空間中。另一方面,所謂VR即虛擬實境,指利用電腦技術模擬出一個立體、高擬真的3D空間。當使用者穿戴特殊顯示裝置,會產生身處不同於當下環境之空間,而在此虛擬的空間中,使用者得透過控制器(如搖桿)或鍵盤移動或互動。 根據Digi-Captial的預估,到2020年AR加上VR總市場規模可達1,500億美元[1]。由此可知此產業具有非常大的市場規模,未來無論在各個領域中,AR、VR技術將突破過往的模式,將所想像的事物或空間呈現於使用者/消費者眼前。除了提供新型態技術的服務體驗,同時業者也能在成本或資源有限的情況下,突破原有限制,提高產能。以下配合未來假設技術運用上之情境,進行我國法規範之盤點,標示可能涉及或衝突的現行規範,評估其影響並給予建議。 壹、應用領域 根據跨國投資銀行高盛集團針對AR、VR之發展趨勢、潛在應用領域進行分析和預測[2],其中包含遊戲、視訊娛樂、教育及醫療保健四項。 一、 遊戲:遊戲產業為當前在VR發展上最為成功的消費者市場。該技術運用在遊戲上,將給予遊戲玩家沉浸式的虛擬世界,提高遊戲體驗。而在未來VR結合網咖,提供不同的遊戲體驗。此種傳統的連線功能電腦遊戲附上VR虛擬實境的裝置,是否會出現全新的產業或遊戲類別,值得日後持續觀察。 二、 視訊娛樂:除遊戲產業外,視訊娛樂是另一個發展核心。使用者得穿戴VR眼鏡或頭盔,結合影音聲效觀看電影。未來若使用在電影院中,不同於傳統的3D眼鏡,VR給予使用者一全封閉式之虛擬環境,可不再被場地所侷限。惟拍攝此類電影或視訊畫面,須使用全景攝影機設備,造成製作成本較難以預測。 三、 教育:未來學校可運用此技術加強師生間之互動或提升學生學習意願。在遠距教學之運用,突破過去因距離或傳統教學的環境限制,提高整體教育品質。另一方面,在考證照(例如汽車駕訓)時也可透過虛擬實境完成,可不再被場地侷限(例如汽車教練場)。 四、 醫療保健:在醫療運用上,AR、VR的技術能幫助恐懼症或輔助醫學治療。而在遠距治療、診斷或照護行為上,得根據不同之情況提供不同的技術服務。在病患的身體狀況或居住環境,VR技術將給予相關醫護人員更好的判斷依據,增加正確及準確的治療、診斷及照護行為。 貳、涉及法規 一、 遊戲:當VR眼鏡運用在具連線功能之電腦遊戲上,則可能涉及「資訊休閒業管理自治條例」[3]提供場所及設備以連線或非連線方式結合資料儲存裝置,供不特定人從事遊戲娛樂之營利事業(例:網咖使用VR設備),在場所設置範圍上,將受到相關地方自治條例之限制規範。 而在個人或家用透過VR眼鏡與軟體遊結合,針對該遊戲內容,我國「遊戲軟體分級管理辦法」 之規定,對所有數位遊戲軟體發行上市皆須送審核並登錄分級等規範。除遊戲軟體業者須自律分級進行分級登錄,產品包裝與展示露出皆須標示分級。 二、 視訊娛樂:若未來將VR技術結合電影產業,在以營業為目的之電影播放場所使用VR眼鏡觀看電影。目前我國「電影法」[5]對於電影內容及相關行業有作出規範,惟透過穿戴式眼鏡或頭盔僅可視為電影放映之平台或載具。本法目前對於此技術之運用尚無限制。在非電影院之場地運用VR穿戴眼鏡播放電影,若符合電影法第三條電影片映演業定義,應遵守本法之規定。若僅附屬服務(例如民宿、飯店提供婦放映電影免費服務),若符合相關著作權[6]之規範,應無適用問題,仍得視為電影放映之平台或載具。 三、 教育:運用在遠距教學按現行法規之規定,應可視為符合互動方式之擴充服務,在取得學分問題上,並無疑慮。另一方面,若運用在汽車駕訓考試,目前我國「道路交通安全規則」第65條[7],駕駛執照考試應考科目為筆試及路考,單以駕駛訓練為目的則不會有影響。惟在取得駕駛執照的考試,並無法透過VR取得駕駛執照。 四、 醫療保健:在遠距醫療運用上,「醫師法」第十一條[8]中關於遠距診斷僅限於特定情況下方可行之,透過VR技術模擬實地效果之遠距治療或診斷,將受到法規上之限制。 參、結論建議 根據以上法規之彙整,首先在遊戲上與AR、VR技術的導入最具關聯性,不僅在內容上具備多元性且可獨立存取於顯示裝置外,與一般大型機台之儲存設備不同。其營業模式,可藉由出租顯示裝置及其周邊設備,供使用者連接各種平台上之各種內容或應用程式,類似資訊休閒業。 然而目前資訊休閒業者所提供或使用之遊戲軟體,必須依遊戲分級管理辦法規定,其內容須符合分級級別、登錄分級。未來建議可針對遊戲機類別可參考「遊戲軟體分級管理辦法」做出區分標準,將呈現內容由內容分級法令規範。同時藉此修法契機得釐清與「資訊休閒業」(目前無中央法規,僅各地方以自治條例形式進行規範)之認定關係(例如由中央增訂資訊休閒業專法)。 另在遠距治療、診斷、照護法規上,「醫師法」僅開放符合特定條件下(如偏遠地區或特殊急迫情形)以通訊方式詢問病情或診察。為避免日後認定上可能產生違法疑慮,得建議中央主管機宜用行政函釋之方式,釐清模糊空間利於相關產業之發展。未來AR/VR的技術運用層面上,是否排除在法規之特定條件下方可適用之規定?此點仍須考量該技術上發展能進展到何地步。 最後,在技術驗證上運用VR(例如汽機車駕駛訓練或考試),根據我國「道路交通安全規則」駕駛執照考試應考科目為筆試及路考。建議可透過行政函釋釐清路考得否透過虛擬實境為之,並可在訓練時加進虛擬實境項目,提升學員在考照前、通過後更好的準備。利用行政函釋得消除法規適用上之疑義。 透過分析未來新科技運用所產生出的法制障礙,預先設想可能對該產業造成之影響。AR/VR技術未來勢必會帶給人們新的社會生活型態,相關的技術廠商也不斷推層出新。而台灣不可在這個領域錯失先機,故在法規與運用上須取得平衡點,用以增進未來我國在虛擬實境產業上發展之實力。 [1] 鉅亨網,<VR產品迎密集上線潮 虛擬現實產業全球盛宴開啟>,2016/03/01,http://news.cnyes.com/Content/20160301/20160301160032997491410.shtml (最後瀏覽日期:2016/05/27) [2] VREYES,<vr來了,行業標準今年形成?>,2016/03/18,http://www.vreyes.cn/observation/topics/4341.html(最後瀏覽日期:2016/05/30) [3] 目前僅部分地方政府針對資訊休閒業制定專法。 [4] 遊戲軟體分級管理辦法第十條「發行或代理遊戲軟體之人於其遊戲軟體上市前,應依本辦法之規定標示分級資訊。但非由前述之人所供應之遊戲軟體,應由實際供應者依本辦法之規定負分級義務。前項之人應將遊戲軟體分級級別及情節登錄於中央目的事業主管機關之資料庫,供分級查詢。遊戲軟體產品包裝及遊戲軟體說明、下載或起始網頁之內容,不得逾越該遊戲軟體之分級級別。」 [5] 電影法第九條「申請電影片、電影片之廣告片審議分級者,應填具申請書,並檢附相關文件、資料,報中央主管機關核准。電影片、電影片之廣告片非經中央主管機關審議分級並核准者,不得映演。但教育行政機關主管之教學電影片,不在此限。電影審議分級不得逾越比例原則。為辦理電影片之審議分級業務,中央主管機關應組成電影片分級審議會,其成員應包括政府機關代表、各相關領域具有學術或實務經驗之學者、專家。前項電影片之審議分級業務,中央主管機關得委託民間專業團體辦理。電影片分級審議會之審議結論應予公開,並逐項具體敘明理由。」 [6] 著作權法第25條「著作人專有公開上映其視聽著作之權利。」 [7]道路交通安全規則第六十五條「申請汽車駕駛執照考驗者,其應考科目為筆試及路考。筆試不及格者,不得參加路考,但依第六十九條核准在原訓練機構辦理考驗者,其結業學員得先參加路考,及格後再行筆試。」(節錄) [8]醫師法第十一條「醫師非親自診察,不得施行治療、開給方劑或交付診斷書。但於山地、離島、偏僻地區或有特殊、急迫情形,為應醫療需要,得由直轄市、縣 (市) 主管機關指定之醫師,以通訊方式詢問病情,為之診察,開給方劑,並囑由衛生醫療機構護理人員、助產人員執行治療。前項但書所定之通訊診察、治療,其醫療項目、醫師之指定及通訊方式等,由中央主管機關定之。」
美國加州「Asilomar人工智慧原則決議」美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議(23 Asilomar AI Principles, ACR-215),此決議表達加州對於「23條Asilomar人工智慧原則」之支持,以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標,並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下: (1)於研究原則上,人工智慧之研究應以建立對於人類有利之人工智慧為目標。 (2)於研究資助上,人工智慧之研究資助應著重幾個方向,如:使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。 (3)於科學政策之連結上,人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。 (4)於研究文化上,人工智慧研究者應保持合作、互信、透明之研究文化。 (5)於安全性上,人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。 (6)人工智慧系統應該於服務期間內皆具備安全性及可檢視性。 (7)人工智慧系統之編寫,應可使外界於其造成社會損失時檢視其出錯原因。 (8)人工智慧系統如應用於司法判斷上,應提供可供專門人員檢視之合理推論過程。 (9)人工智慧所產生之責任,應由設計者以及建造者負擔。 (10)高等人工智慧內在價值觀之設計上,應符合人類社會之價值觀。 (11)高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。 (12)對於人工智慧所使用之資料,其人類所有權人享有擷取、更改以及操作之權利。 (13)人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。 (14)人工智慧之技術應盡力滿足越多人之利益。 (15)人工智慧之經濟利益,應為整體人類所合理共享。 (16)人類對於人工智慧之內在目標應享有最終設定權限。 (17)高等人工智慧所帶來或賦予之權力,對於人類社會之基本價值觀應絕對尊重。 (18)人工智慧所產生之自動化武器之軍備競賽應被禁止。 (19)政策上對於人工智慧外來之發展程度,不應預設立場。 (20)高等人工智慧系統之研發,由於對於人類歷史社會將造成重大影響,應予以絕對慎重考量。 (21)人工智慧之運用上,應衡量其潛在風險以及可以對於社會所帶來之利益。 (22)人工智慧可不斷自我循環改善,而可快速增進運作品質,其安全標準應予以嚴格設定。 (23)對於超人工智慧或強人工智慧,應僅為全體人類福祉而發展、設計,不應僅為符合特定國家、組織而設計。
機關實體安全維護現行法制與實務運作之研析(上)機關實體安全維護現行法制與實務運作之研析(上) 科技法律研究所 2013年08月25日 機關實體安全維護,其主要內涵在於維護實體設施、設備、及辦公環境之安全性,確保機關業務不會因天災、刻意人為事故或意外而中斷運作,以及保障出入人員的人身安全。另就機關實體安全維護之任務,我國實務與通說均認其屬不涉及機密及公權力行使之一般業務,故極大的比例均是委由民間保全業者為之。 針對機關實體安全之規範,我國在法制設計上稍嫌不足,且對於保全業的管制寬鬆,參國外立法政策如英國、美國、澳洲,雖亦為求提升政府效能並合理運用預算,亦多將安全維護執行任務委外,但並不因此將責任全權轉嫁與保全業者,在法制設計上有相當嚴謹的政策、程序、細節性的機制與文件範本供各機關遵循,再藉由機關委外之法律規範、招標文件與契約設計,來規範民間保全業者;且對於保全業之工作,訂有證照制度、評鑑制度及豐富紮實的教育訓練等法制設計,因此保全人員之素質相較於我國,可謂已經嚴格之篩選。本文將從我國機關安全維護法制結構切入,並以澳洲之立法例為借鏡,最後提出我國現行待解決之問題,期能改善我國機關對於機關實體安全維護之概念。 壹、機關實體安全維護現行法制與運作 一、現行法制設計 機關可能遭遇的安全威脅來自於人為刻意或疏失及天災之危害。例如,辦公場所未列訂管制區或未有效率的把關,使具不同權限的內部人員或來訪的訪客,可輕易的接近、取走具敏感性的文件紙本,或以拍照、錄音的方式取得機密資訊;又或者,委外的資訊廠商、保全人員或清潔人員也能藉由職務上之便利進行側錄、側拍或安裝資料竊取裝置,爾後利用得來之消息販售獲利。另外,開放式機關和辦公場所位於商辦大樓內而與民間企業共構之機關,對於安全維護措施僅有參與權而無主控權,除出入人口複雜,對於火災、斷電等意外事故之預防控制,更是難以掌握。除了人為惡意破壞,單一意外事故亦能導致機關業務嚴重中斷或癱瘓。 目前機關安全維護責任是由各機關之政風機構所執掌[1],主要係依「政風機構預防危害或破壞本機關事業作業要點」[2]及行政院所發佈之「安全管理手冊」[3]為依循,均屬行政規則之法位階。另外相關規定包括:各級警察機關安全防護工作實施要點[4]、屏東縣政府消防局機關安全維護作業要點[5]、行政院國家科學委員會維護機關安全工作作業要點[6]和臺中市稅捐稽徵處加強機關安全維護值日員工應確實遵守事項[7]。 二、實務運作現況 (一)駐警人力不再,委外保全成為趨勢 相較於採用駐衛警察擔任機關安全維護的角色,機關傾向委外給保全業者[8],主因不外乎為預算考量,蓋依「各機關學校團體駐衛警察設置管理辦法」第10及11條[9],駐衛警察之待遇可比照駐在單位職員之支給,且其訓練、保險、退職、資遣、撫慰、服裝等各項費用均由駐在單位負擔。政府為精簡人事預算,對於駐衛警一職採取「只退不補」的政策[10],可預見未來機關對於委外安全維護的需求係不減反增。根據警政署的統計[11],至99年止臺灣已共有594家保全公司,可見保全業市場之蓬勃。 (二) 保全業相關法制與運作 肩負安全維護任務的工作者,除專業能力外,身家清白、忠誠度與品格更屬必要條件,故依保全業法第10之1條及第10之2條對保全人員定有消極資格,包括年齡限制、不得有特定犯罪前科紀錄及職前培訓與在職訓練[12]。惟主管機關對保全人員之資格與專業能力僅負消極查核義務,相關事項之執行與落實係由保全業者自主管理。目前保全業的中央主管機關為內政部、業務主管機關為警政署;地方主管機關為縣(市)政府、業務主管機關為縣(市)警察局[13],負責協助培訓的為警政署[14]。 基於政府與民間對於保全人力的益加倚賴,對其專業素質及品德操守的要求亦越發重視講究,警政署於95年起陸續邀集專家學者、相關行政機關及直轄市、縣(市)警察局代表研議保全業法的修正,但相關建議如證照制度、專業經營、分級管理、評鑑制度、排除旋轉門條款、落實嚴格監督管理、修正保全服務契約、輔導優秀軍警人員轉任保全與規範保全業越區經營範圍及報備制等規定均未列入現行法內[15]。 三、小結 承前,未來可預見現有駐衛警人力全部退休的情形下[16],除非機關編列預算將駐衛人力編制進組織內,否則委外保全業者全權負責機關安全乃不可逆之趨勢。 我國有明確的機關實體安全維護規範方針,不過在實際執行面向及科技技術應用面向上,較欠缺細節性規定與技術性標準。又除少數機關配有駐衛警、而得由駐衛警負擔內部具機密性、私隱性高之部分外,整體的安全維護任務,包括外圍之交通、門禁管制、夜間巡邏、監視系統監看及警民通報聯防等,不可避免的均係由保全業者擔任[17]。 然而,我國現行保全業法制規範上稍嫌不足,實務運作上之弊病亦非一日之寒,包括保全人員因待遇及前景上難以吸引素質佳的人才但又缺工嚴重[18],導致從業者素質良莠不齊且流動率極高;政府無統一職前培訓計畫與專業訓練輔導;另主管機關的定期查核流於形式等[19]。 針對保全業現況與法制研究,考量到文章主軸及囿限於篇幅關係,本文對此不再贅述。當務之急應係由機關本身有所警醒,對於實體安全維護的具體作法應建置更明確、細節的規範;其次是與保全業者的契約約定上,範本似有再修正及細緻化之空間。以下將介紹澳洲實體安全維護及委外服務安全管理之機制與作法。 [1]政風機構人員設置管理條例第4條;政風機構設置管理條例施行細則第10條;政風機構預防危害或破壞本機關事件作業要點。 [2]最後修訂日期:100年7月6日。 [3]發布日期:94年6月29日。 [4]發布日期:86年5月13日。 [5]發布日期:98年7月14日。 [6]發布日期:85年10月12日。 [7]發布日期:79年4月19日。 [8]如財政部各相關單位、交通部公路總局、郵局、台電、核電廠、中油、各級學校等均採委外保全。法務部調查局(2007,12月27日)‧政府部門委託民間保全辦理機關安全維護問題探討調查專報‧取自http://lkk73700.myweb.hinet.net/good/new_page_43.htm (最後瀏覽日:2013年6月4日)。 [9]最後修正日期:100年9月1日。 [10]筆者親自訪談台北榮民總醫院政風室(2013年,5月30日),台北榮民總醫院,石牌路二段201號。 [11]經濟日報(2010,1月28日)‧中華民國保全商業同業公會全國總會,開啟臺灣保全業嶄新里程碑‧取自http://edn.udn.com/article/view.jsp?aid=230903&cid=16''' (最後瀏覽日:2013年6月4日)。 [12]保全業法第10條之1: 「有下列情形之一者,不得擔任保全人員。但其情形發生於本法中華民國九十二年一月二十二日修正施行前且已擔任保全人員者,不在此限: 一、未滿二十歲或逾六十五歲。 二、曾犯組織犯罪防制條例、肅清煙毒條例、麻醉藥品管理條例、毒品危害防制條例、槍砲彈藥刀械管制條例、貪污治罪條例、兒童及少年性交易防制條例、人口販運防制法、洗錢防制法之罪,或刑法之妨害性自主罪章、妨害風化罪章、第二百七十一條至第二百七十五條、第二百七十七條第二項及第二百七十八條之罪、妨害自由罪章、竊盜罪章、搶奪強盜及海盜罪章、侵占罪章、詐欺背信及重利罪章、恐嚇及擄人勒贖罪章、贓物罪章之罪,經判決有罪,受刑之宣告。但受緩刑宣告,或其刑經易科罰金、易服社會勞動、易服勞役、受罰金宣告執行完畢,或判決無罪確定者,不在此限。 三、因故意犯前款以外之罪,受有期徒刑逾六個月以上刑之宣告確定,尚未執行或執行未畢或執行完畢未滿五年。 四、曾受保安處分之裁判確定,尚未執行或執行未畢。 五、曾依檢肅流氓條例認定為流氓或裁定交付感訓。但經撤銷流氓認定、裁定不付感訓處分確定者,不在此限。 保全業知悉所屬保全人員,有前項各款情形之一者,應即予解職。」 [13]臺北市政府警察局辦理保全業務作業要點第3點。 [14]以台北市保全商業同業公會為例,公會自主辦理「保全人員訓練護照」由中華保全協會策劃並請市警局督勤,另委請刑事警察局辦理「種子教官」訓練,解決各保全公司教育人員之不足。取自台北市保全商業同業公會網站(無日期)‧取自http://www.sca.org.tw/home/link1.asp?h=link1-45 (最後瀏覽日:2013年6月6日)。 [15]傅美惠、呂秉翰(2009,12月)‧保全業立法、修法與政策評析‧吳鳳學報,18,667-686。 [16]以台北榮民總醫院為例,現行駐衛警從原58名降為29名,平均年齡為60歲,可謂相當高齡化。筆者親自訪談台北榮民總醫院政風室(2013年,5月30日),台北榮民總醫院,石牌路二段201號。 [17]以台北榮民總醫院為例,醫院內部的1400顆監視鏡頭是由駐衛警負責監看,另保全公司所有的監控系統只負責醫院大門及停車場的部分,且會牽線至駐警室進行統一監看管理,不過夜間的巡邏及監看,因人手不足,需保全業者協力配合。筆者親自訪談台北榮民總醫院政風室(2013年,5月30日),台北榮民總醫院,石牌路二段201號。 [18]奇摩新聞(2013,2月2日)‧年前缺四成保全業全年徵人‧取自:http://tw.news.yahoo.com/%E5%B9%B4%E5%89%8D%E7%BC%BA%E5%9B%9B%E6%88%90-%E4%BF%9D%E5%85%A8%E6%A5%AD%E5%85%A8%E5%B9%B4%E5%BE%B5%E4%BA%BA-213000681.html (最後瀏覽日:2013年6月4日)。 [19]傅美惠、呂秉翰(2009,12月)‧保全業立法、修法與政策評析‧吳鳳學報,18,667-686。