英國Royal Free國家健康服務基金信託與Google DeepMind間的資料分享協議違反英國資料保護法
英國資訊委員辦公室（Information Commissioner’s Office, ICO）於2017年7月公告Royal Free國家健康服務基金信託（Royal Free London NHS Foundation Trust）與Google人工智慧研究室DeepMind之間的資料分享協議，違反資料保護法（Data Protection Act）。
該協議之目的在使DeepMind利用Royal Free所提供的醫療資料，開發一款名為Streams的應用程式，透過人工智慧系統分析得知病患惡化之情況，並以手機警示方式通知臨床醫生。由於涉及病患的可識別個人資料且人數多達160萬人，協議的合法性，尤其在資料分享是否經病患同意方面，受到質疑。
Royal Free與DeepMind主張因應用程式是直接對病患進行醫療照護，具有病患默示同意（implied consent）之正當基礎，且資料經加密後才傳給DeepMind。惟經ICO調查結果如下：
- 就資料將被使用作為應用程式測試一事，病患未獲充分告知亦無合理期待；
- 雖執行隱私影響評估，惟僅於資料傳給DeepMind後才進行，無法發揮事前評估作用；
- 應用程式尚在測試階段，無法說明揭露160萬病患紀錄的必要性與手段合理性。
目前Royal Free已承諾改進以確保其行為合法性。ICO之認定突顯創新不應以「減損法律對基本隱私權保障」作為代價。
- Information Commissioner’s Office [ICO], Royal Free-Google DeepMind Trial Failed to Comply with Data Protection Law (July 3, 2017)
- Elizabeth Denham, Four Lessons NHS Trusts Can Learn from the Royal Free Case, ICO Blog (July 3, 2017)
- Sam Shead, Google DeepMind is Giving the NHS Free Access to Its Patient Monitoring App, BUSINESS INSIDER UK, June 24, 2017
張腕純
組長 編譯整理
Information Commissioner’s Office [ICO], Royal Free-Google DeepMind Trial Failed to Comply with Data Protection Law (July 3, 2017),https://ico.org.uk/about-the-ico/news-and-events/news-and-blogs/2017/07/royal-free-google-deepmind-trial-failed-to-comply-with-data-protection-law/ (last visited July 13, 2017).
Elizabeth Denham, Four Lessons NHS Trusts Can Learn from the Royal Free Case, ICO Blog (July 3, 2017), https://iconewsblog.wordpress.com/2017/07/03/four-lessons-nhs-trusts-can-learn-from-the-royal-free-case/ (last visited July 13, 2017).
Sam Shead, Google DeepMind is Giving the NHS Free Access to Its Patient Monitoring App, BUSINESS INSIDER UK, June 24, 2017, http://uk.businessinsider.com/nhs-discloses-how-much-its-paying-google-deepmind-2017-6 (last visited July 13, 2017).
人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。 歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。 在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件： 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。 歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。
英國資訊委員辦公室提出人工智慧（AI）稽核框架人工智慧（Artificial Intelligence, AI）的應用，已逐漸滲透到日常生活各領域中。為提升AI運用之效益，減少AI對個人與社會帶來之負面衝擊，英國資訊委員辦公室（Information Commissioner’s Office, ICO）於2019年3月提出「AI稽核框架」（Auditing Framework for Artificial Intelligence），作為確保AI應用合乎規範要求的方法論，並藉機引導公務機關和企業組織，評估與管理AI應用對資料保護之風險，進而建構一個可信賴的AI應用環境。 AI稽核框架主要由二大面向所構成—「治理與可歸責性」（governance and accountability）以及「AI特定風險領域」（AI-specific risk areas）。「治理與可歸責性」面向，係就公務機關和企業組織，應採取措施以遵循資料保護規範要求的角度切入，提出八項稽核重點，包括：風險偏好（risk appetite）、設計階段納入資料保護及透過預設保護資料（data protection by design and by default）、領導管理與監督（leadership management and oversight）、政策與程序（policies and procedures）、管理與通報架構（management and reporting structures）、文書作業與稽核紀錄（documentation and audit trails）、遵循與確保能力（compliance and assurance capabilities）、教育訓練與意識（training and awareness）。 「AI特定風險領域」面向，則是ICO特別針對AI，盤點下列八項潛在的資料保護風險，作為風險管理之關注重點： 一、 資料側寫之公平性與透明性（fairness and transparency in profiling）； 二、 準確性（accuracy）：包含AI開發過程中資料使用之準確性，以及應用AI所衍生資料之準確性； 三、 完全自動化決策模型（fully automated decision making models）：涉及人類介入AI決策之程度，歐盟一般資料保護規則（General Data Protection Regulation, GDPR）原則上禁止無人為介入的單純自動化決策； 四、 安全性與網路（security and cyber）：包括AI測試、委外處理資料、資料重新識別等風險； 五、 權衡（trade-offs）：不同規範原則之間的取捨，如隱私保護與資料準確性； 六、 資料最少化與目的限制（data minimization and purpose limitation）； 七、 資料當事人之權利行使（exercise of rights）； 八、 對廣泛公共利益和權利之衝擊（impact on broader public interests and rights）。 ICO將持續就前述AI特定風險領域，進行更深入的分析，並開放公眾討論，未來亦將提供相關技術和組織上之控制措施，供公務機關及企業組織進行稽核實務時之參考。
日本內閣網路安全中心發布網路安全協議會營運報告日本內閣網路安全中心（内閣サイバーセキュリティセンター）依據於2018年底新修正之網路安全基本法（サイバーセキュリティ基本法，以下稱基本法），於今年1月30日發布網路安全協議會的營運報告（以下稱營運報告）。 基本法修法原因在於網路攻擊日趨複雜，若組織受到網路攻擊，並非每個組織都有能力因應，如此將導致組織運作受到衝擊。因此於基本法第17條新增設立「網路安全協議會」（サイバーセキュリティ協議会，以下稱協議會）。日本內閣網路安全中心於前揭發布之營運報告中說明協議會之運作模式及招募成員情形。 運作模式上，協議會設有秘書處、營運委員會及總會，秘書處由內閣網路安全中心擔任，營運委員會由各機關首長組成，總會則由所有協議會成員組成並且定期召開會議；協議會將成員分成第一類成員、第二類成員及一般成員。第一類成員與第二類成員組成特別工作小組（タスクフォース），小組成員間會交換不對外公開且尚未確認的機密資訊，一般成員則依循特別工作小組提供的資訊及因應對策，加以實際運用。經營運報告統計，自協議會成立（2019年4月1日）至同年年底，一共發生33起網路攻擊事件，皆透過協議會促使各政府機關、私人組織迅速掌握網路攻擊資訊。 招募成員方面，協議會於去年5月加入第一期91名成員；同年10月，再加入64名第二期成員，目前為止共計155名；第三期成員已於今年三月開放申請加入，預計五月確定第三期成員。此外，營運報告中列有協議會成員名簿，成員包含內閣官房首長、資訊處理推進機構（情報処理推進機構）、宮城縣網路安全協議會、NTT DOCOMO電信公司、成田國際機場公司、石油化學工業協會、富士通、三菱電機等產、官、公協會組織單位。日本藉由設立協議會，期許透過政府與民間協力合作，共同維護政府公部門及產業之基礎網路安全。