IBM公司在2日拉斯維加斯舉行世界夥伴(PartnerWorld)會議時,宣布提倡開放原始碼創新的新措施,包括成立求職應徵者資料庫,以及一項電子學習計畫。這座資料庫預定今年第三季推出,屆時會把具有開放原始碼技術的大學生所投的履歷表一一編列成目錄。想被納入資料庫的資格,包括曾經參加IBM校園人才培訓計畫(Academic Initiative)中級程度以上,並通過IBM開放原始碼專業資格考試的人士。該資料庫提供IBM的企業客戶與商業夥伴檢索。起初,此資料庫只涵蓋北美洲地區,但IBM打算將來擴大推廣到世界其他地區。
該公司也將透過提供IBM校園人才培訓計畫,提供各校所需的中介軟體及硬體,而Hubs計畫本身不打算收費,或只酌收少許費用。第一座這種中心預定春季在德州A&M大學成立。
IBM另外在PartnerWorld宣布,計劃今年與商業夥伴共同成立100座新的「創新中心」( innovation centers)。藍色巨人先前已承諾投資1.5億美元開辦這類中心,讓系統整合業者、獨立軟體公司、附加價值流通業者以及解決方案服務提供者藉此取得IBM的技術與設備,以協助他們測試並最佳化自家產品。其構想是協助這些夥伴加速產品上市,並降低產品開發費用。自2004年推出以來,IBM已在北美和歐洲成立大約40座這種中心。
本文為「經濟部產業技術司科技專案成果」
英國政府由數位文化媒體與體育大臣(Secretary of State for Digital, Culture, Media and Sport)與商業能源與工業策略大臣(Secretary of State for Business, Energy and Industrial Strategy)代表,於2022年7月18日提交予國會一份「人工智慧監管規範政策報告」(AI Regulation Policy Paper)。內容除定義「人工智慧」(Artificial Intelligence)外,並說明未來政府建立監管框架的方針與內涵。 在定義方面,英國政府認為人工智慧依據具體領域、部門之技術跟案例有不同特徵。但在監管層面上,人工智慧產物則主要包含以下兩大「關鍵特徵」,造成現有法規可能不完全適用情形: (1)具有「適應性」,擅於以人類難以辨識的意圖或邏輯學習並歸納反饋,因此應對其學習方式與內容進行剖析,避免安全與隱私問題。 (2)具有「自主性」,擅於自動化複雜的認知任務,在動態的狀況下持續判斷並決策,因此應對其決策的原理原則進行剖析,避免風險控制與責任分配問題。 在新監管框架的方針方面,英國政府期望所提出的監管框架依循下列方針: (1)針對技術應用的具體情況設計,允許監管機構根據其特定領域或部門制定和發展更詳細的人工智慧定義,藉以在維持監管目標確定與規範連貫性的同時,仍然能實現靈活性。 (2)主要針對具有真實、可識別與不可接受的風險水準的人工智慧應用進行規範,以避免範圍過大扼殺創新。 (3)制定具有連貫性的跨領域、跨部門原則,確保人工智慧生態系統簡單、清晰、可預測且穩定。 (4)要求監管機構考量更寬鬆的選擇,以指導和產業自願性措施為主。 在跨領域、跨部門原則方面,英國政府則建議所有針對人工智慧的監管遵循六個總體性原則,以保障規範連貫性與精簡程度。這六個原則是基於經濟合作暨發展組織(OECD)的相關原則,並證明了英國對此些原則的承諾: 1.確保人工智慧技術是以安全的方式使用 2.確保人工智慧是技術上安全的並按設計運行 3.確保人工智慧具有適當的透明性與可解釋性 4.闡述何謂公平及其實施內涵並將對公平的考量寫入人工智慧系統 5.規範人工智慧治理中法律主體的責任 6.釋明救濟途徑 除了「人工智慧監管政策說明」外,英國政府也發布了「人工智慧行動計畫」(AI Action Plan)文件,彙整了為推動英國「國家人工智慧策略」(National AI Strategy)而施行的相關行動。前述計畫中亦指出,今年底英國政府將發布人工智慧治理白皮書並辦理相關公聽會。
南韓個資保護委員會發布人工智慧(AI)開發與服務處理公開個人資料指引南韓個資保護委員會(Personal Information Protection Commission, PIPC)於2024年7月18日發布《人工智慧(AI)開發與服務處理公開個人資料指引》(인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서)(以下簡稱指引)。該指引針對AI開發與服務處理的公開個人資料(下稱個資)制定了新的處理標準,以確保這些資料在法律上合規,且在使用過程中有效保護用戶隱私。 在AI開發及服務的過程中,會使用大量從網路上收集的公開資料,這些公開資料可能包含地址、唯一識別資訊(unique identifiable information, UII)、信用卡號等個資。這些公開的個資是指任意人可藉由網路抓取技術自公開來源合法存取的個資,內容不限於個資主體自行公開的資料,還包括法律規定公開的個資、出版物和廣播媒體中包含的個資等。由於公開資料眾多,在現實中很難在處理這些公開個資以進行AI訓練之前,取得每個個資主體的單獨同意及授權,同時,南韓對於處理這些公開個資的現行法律基礎並不明確。 為解決上述問題,PIPC制定了該指引,確認了蒐集及利用公開個資的法律基礎,並為AI開發者和服務提供者提供適用的安全措施,進而最小化隱私問題及消除法律不確定性。此外,在指引的制定過程中,PIPC更參考歐盟、美國和其他主要國家的做法,期以建立在全球趨勢下可國際互通的標準。 指引的核心內容主要可分為三大部分,第一部分:應用正當利益概念;第二部分:建議的安全措施及保障個資主體權利的方法;及第三部分:促進開發AI產品或服務的企業,在開發及使用AI技術時,注意可信任性。 針對第一部分,指引中指出,只有在符合個人資料保護法(Personal Information Protection Act, PIPA)的目的(第1條)、原則(第3條)及個資主體權利(第4條)規定範圍內,並滿足正當利益條款(第15條)的合法基礎下,才允許蒐集和使用公開個資,並且需滿足以下三個要求:1.目的正當性:確保資料處理者有正當的理由處理個資,例如開發AI模型以支持醫療診斷或進行信用評級等。2.資料處理的必要性:確保所蒐集和利用的公開資料是必要且適當的。3.相關利益評估:確保資料處理者的正當利益明顯超越個資主體的權利,並採取措施保障個資主體的權利不被侵犯。 而第二部分則可區分為技術防護措施、管理和組織防護措施及尊重個資主體權利規定,其中,技術防護措施包括:檢查訓練資料來源、預防個資洩露(例如刪除或去識別化)、安全存儲及管理個資等;管理和組織防護措施包括:制定蒐集和使用訓練資料的標準,進行隱私衝擊影響評估(PIA),運營AI隱私紅隊等;尊重個資主體權利規定包括:將公開資料蒐集情形及主要來源納入隱私政策,保障個資主體的權利。 最後,在第三部分中,指引建議AI企業組建專門的AI隱私團隊,並培養隱私長(Chief Privacy Officers, CPOs)來評估指引中的要求。此外,指引亦呼籲企業定期監控技術重大變化及資料外洩風險,並制定及實施補救措施。 該指引後續將根據PIPA法規修訂、AI技術發展及國際規範動向持續更新,並透過事前適當性審查制、監管沙盒等途徑與AI企業持續溝通,並密切關注技術進步及市場情況,進而推動PIPA的現代化。
落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制, 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。 貳、重點說明 首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]。 其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。 其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
韓國政府提升企業營業秘密保護之措施介紹-以營業秘密保護中心為核心韓國政府提升企業營業秘密保護之措施介紹-以營業秘密保護中心為核心 科技法律研究所 法律研究員 陳聖薇 2014年10月09日 壹、前言 韓國政府為提高其國內中小企業及中堅企業因應智財權侵權與紛爭之能力,今(2014)年度由國家智慧財產委員會[1]為首,與文化體育觀光部、專利廳、法務部等相關行政部會共同組成「智慧財產權保護政策協商會議[2]」,討論如何提高政府面對專利、商標、著作權及營業秘密等智財侵權之因應效率,研提各部會配合推動之智財保護政策。 韓國檢討企業營業秘密保護現況,認為營業秘密雖然是企業的生命,但其企業的普遍想法卻是「技術外流、營業秘密保護與我們公司無關」[3]。為促使韓國能夠朝智財強國邁進並防止營業秘密與尖端技術外流,韓國決定由韓國專利資訊院[4]成立營業秘密保護中心[5],主要任務為推廣營業秘密管理體制、改善營業秘密保護制度以及提高營業秘密管理意識。據此,營業秘密保護中心規劃「企業營業秘密現況診斷」、「營業秘密標準管理系統」與「營業秘密正本證明制度」等措施,以下簡要介紹之。 貳、措施重點說明 一、營業秘密現況診斷與營業秘密標準管理系統 為協助韓國企業了解本身營業秘密管理現況[6]與問題點,並據以提出專家建議與建議改善方向。營業秘密保護中心首先規劃一系列診斷諮詢措施,診斷項目分為組織政策管理、文件權限管理、人員管理、物理管理、資訊技術管理五大類,共計32項子題。就每一子題另設計細部問題,了解企業是否具備相關規範、有否確實遵守,若違反規範時,是否有相關處置措施。舉例來說:在企業內外網路是否分開的提問中,便要求檢視是否有將內部營業秘密保管之網路與外部網路完全阻隔,還是僅採行認證措施,或完全沒有任何作為。整體而言,診斷流程概述如下: 1.準備階段:本項措施是透過問卷方式,針對公司現職員工進行詢問,掌握內部個別部門基本業務現況與確認經營者是否有改善想法,進而推導各部門營業秘密管理問題點。 2.診斷階段:進行營業秘密管理現況綜合評估,以得知目前企業對於營業秘密管理之水準與缺失。 3.規劃改善階段:依據診斷結果,針對該企業營業秘密管理所在問題提出相對應之改善方案。 4.執行階段:以評比為基準,提供階段別處理建議事項,為改善實際營業秘密管理環境提出對策。 等 級 狀 態 A等級 (81分以上, 優良) 具備營業秘密管理體系且運作良好 B等級 (71~80分, 普通) 營業秘密外洩時, 雖能得到法律保護,但對於外洩防止的對策屬普通 C等級 (61~70分, 弱) 營業秘密外洩時, 於法律保護上或有漏失,且管理系統微弱有需要管理體制 D等級 (41~60分, 危險) 營業秘密外洩時, 對於法律保護上有困難,且有外洩危險急需管理體制 F等級 (40分以下, 無心) 常態性營業秘密外洩的危險 資料來源:韓國營業秘密保護中心,https://www.tradesecret.or.kr/info/diagnosisIntro.do;jsessionid=1E2C5CE5980184D7E87F1B9EF350A530 表1、營業秘密診斷等級化 營業秘密保護中心會定期檢視與提供企業員工相關教育訓練,以期在公司管理系統層次、組織文化層次以及員工個人層次皆能有明確成效,包括: 1.公司管理層面 (1)防止重要資料外洩; (2)系統化紛爭解決與資料認證程序。 2.組織文化層面 (1)傳達企業重要資料的保全觀念; (2)減少為保護重要資料所造成部門間不協調之問題; (3)確立營業秘密保護文化,進而改善組織文化。 3.員工個人層面 (1)提供長期營業秘密管理職務能量教育; (2)提升企業員工營業秘密管理能量。 透過此諮詢過程,期望營業秘密能成為企業重要無形資產,維持其競爭優勢,甚至是活用特定核心技術,進行後續授權、增加收入。 二、營業秘密標準管理資訊系統 韓國除了提供企業營業秘密現況之診斷外,針對營業秘密保護尚未成熟之企業,韓國營業秘密保護中心並進一步提供「營業秘密標準管理資訊系統」的建置服務。此一系統包含營業秘密登記、區分等級、可接觸之人力及其權限、人力管理、契約安全管理、正本證明服務等資訊系統。目標在營業秘密紛爭發生前,協助進行營業秘密管理履歷之生產、保管。在紛爭發生時,協助提出營業秘密事實的認證資料,並保證營業秘密僅可由持有者與管理人經手之事實。藉由此系統可達成下列效益: 1.營業秘密管理效率化:節省企業人力、費用與時間成本,使營業秘密相關資料能為有效率之管理。 2.提高企業員工營業秘密保護意識:經由此系統融入一般工作流程中,使員工對於營業秘密具有警覺心並提高營業秘密運用概念。 3.連結機密文件正本證明服務:證明營業秘密正本存在、持有時間點,作為後續訴訟攻防上證據使用(如專利法上優先權主張等)。 4.連結其他資安解決方案:如與韓國中小企業廳[7]控管營業秘密與阻斷外部流出之各種資訊安全方案[8]進行連結。 三、營業秘密正本保護制度 前述提及,營業秘密標準管理系統一大重點在於與「營業秘密正本證明制度」之連結。營業秘密正本證明制度是韓國為保護營業秘密,責成專利廳於2010年開始針對由個人或企業保管的營業秘密資料,透過技術擷取識別資訊作為電子指紋予以保存,在不致使秘密外洩的前提下,提供後續證明該營業秘密正本之存在、以及其存在時點證據之機制。 此服務於今(2014)年則更進一步予以法制化[9],於韓國「不當競爭防止暨營業秘密保護法」中新增第9條之2至第9條之7[10],明文規範營業秘密正本證明制度之登記與證明、正本證明機關選定方式。在執行面則交由韓國專利廳公告指定計畫,凡具備專門人才3位以上且具備必要設備之團體,可申請成為「營業秘密正本證明機構」。現階段僅有韓國專利資訊院提出申請[11]並成為專利廳指定之機關團體。 作法上,「營業秘密正本證明制度」具備以下幾項特色: 1.根本阻絕營業秘密外洩機會 此一制度最主要的特點,就是不需要提出包含營業秘密內容之電子文書檔案,僅需提出該檔案之電子指紋與公認認證機關確認之時間即可。在此制度之前,雖有將持有營業秘密之事實資料交由第三方保管之方法[12],然而企業依然擔心會有外洩之危險。此一制度可以大幅度減少企業的擔憂。 2.可使用各種電子文件 本制度可支援電腦文書處理檔案、圖檔、影片等數位儲存方式儲存之電子檔案,如此可包含企業之各種創作資料、研究筆記、設計藍圖、交易實況、財務資料、市場銷售資料、顧客資訊、契約書等資訊。 3.具有公信力之認證單位 企業之新創意、研究筆記、設計藍圖、財務與投資資料、重要電子信件等,多樣化的資訊皆有外洩可能性且無可避免之方法。因此企業在保護、管理營業秘密之情況,韓國已提供具有公信力之認證單位來認證。 4.跟隨機密內容變化更新認證內容 當韓國企業有設計圖產出時,即可向營業秘密正本證明機關韓國專利資訊院申請該設計圖為營業秘密之正本登錄,取得確認書。後續有修改時,也可同步針對更正之設計圖請求正本登錄。當發生營業秘密紛爭時,可請求營業秘密正本證明機關核發營業秘密正本證明,提供法院正本存在與時間點證明之用。且隨著「營業秘密正本證明機構」法制化,希望於營業秘密紛爭出現時,提交法院之營業秘密正本持有與時間點之證據資料能夠更具證據力[13]。 參、結語 綜上所述,本文簡單介紹韓國營業秘密保護中心針對營業秘密保護各類支援,從提供中小企業「企業營業秘密現況診斷」以瞭解其營業秘密保護現況,進而根據診斷結果提供「營業秘密標準管理系統」作為改善方案,健全企業對於營業秘密保護。再者,更提供了法制化之「營業秘密正本證明制度」提供了發生營業秘密外洩之企業可減緩舉證責任之事先預防。對機密管理能力的提升、機密爭議的有效舉辦,可說提供一完整、具效率之營業秘密管理體制。此一努力過程值得我國借鏡與參考。 [1] 韓國國家智慧財產委員會,依據智慧財產基本法第6條設立,屬於大統領直接管轄機關,目的為實現智財強國需要一個專責機關,進行國家策略之擬定以及相關政策之審議、調整與驗證。http://www.ipkorea.go.kr/index.do(最後瀏覽日:2014/08/28)。 [2] 지식재산권보호정책 협의회.此一協商會議推動之法律依據為智慧財產基本法第23條。 參韓國國家智財委員會,http://www.ipkorea.go.kr/notification/press_view.do#none;(最後瀏覽日:2014/09/10)。 [3] 韓國營業秘密保護中心介紹,https://www.tradesecret.or.kr/center/greeting.do (最後瀏覽日:2014/09/10)。 [4] 韓國專利資訊院依據韓國民法所成立之財團法人,負責韓國專利資訊之生產與普及,主要業務為執行韓國專利廳之業務。其組織內營業秘密保護組主要業務有二:一為保護策略,為營業秘密保護之負責單位;二為管理營業秘密正本證明制度、宣傳行銷標準管理系統與營業秘密保護中心之網站營運。詳見韓國專利資訊院組織圖與各部門業務,(最後瀏覽日:2014/09/10)。 [5] 韓國營業秘密保護中心,https://www.tradesecret.or.kr/main.do(最後瀏覽日:2014/09/10)。 [6] 企業營業秘密現況自我診斷表,分成15產業,包含蓄產業、漁業、礦業、製造業、電機、建築業、批發零售修理業、民宿與飲食業、運輸倉管通信業、金融保險業、不動產、教育服務業、保健業、其他公共社會個人服務業、家事服務業。韓國營業秘密保護中心,https://www.tradesecret.or.kr/info/autodiagnosis.do(最後瀏覽日:2014/09/10)。 [7] 韓國中小企業廳http://www.smba.go.kr/kr/index.do,與韓國專利廳一同為產業通商資源部之下之單位。 [8] 與韓國中小企業廳之中小企業技術守護中心(중소기업기술지킴센터)連結,提供企業安全管制分析與資訊安全事故預防服務與防止內部資料外洩之服務。 [9] 營業秘密正本證明服務雖已於2010年提供企業針對保護其非專利之技術或專利技術前階段之技術保護或創新研究,但是即使取得正本證明,在沒有可推定其資訊有效之法規的前提下,難以取得認可。因此,希望透過立法來取得法定推定效力,以提供企業更完善的營業秘密保護。 [10] 不當競爭防止暨營業秘密保護法於今(2014)年增設第9條之2至第9條之7關於營業秘密正本證明制度。 [11] 專利廳,2014年7月29日公告依據「不當競爭防止與營業秘密保護法」第9條第3項之1以及同法施行令第3條第3項指定韓國專利資訊院為正本證明制度之時間點認證機關並公告之。 [12] 例如技術臨置服務,意即大企業與中小企業協議將核心技術資料交與第三方中小企業協力財團之技術資料臨置中心保管之服務。詳細可參考기술자료임치센터,http://www.kescrow.or.kr/(最後瀏覽日:2014/09/10)。 [13] 韓國營業秘密保護中心於2014年5月28日舉辦之營業秘密外洩事例與強化管理能量方案研討會資料,專利廳報告之<01營業秘密保護政策>中指出,外洩事實認證困難,大部分企業無法舉證,僅能提出警告信。根據2013年專利廳統計,營業秘密外洩時,無任何處置佔31.1%、發送警告信佔27%。研討會相關文件請參考韓國營業秘密保護中心之公開資料,https://www.tradesecret.or.kr/bbs/referenceView.do(最後瀏覽日:2014/09/10)