英國衛生部提出健康照護科技行為準則，以增進資訊安全以及新技術操作品質
英國近來透過電子醫療紀錄的應用，以智慧演算法（intelligent algorithms）開發結合數位技術的創新醫療科技，這些成果多是以國民健保署（National Health Service, NHS）的資料做為基礎，因此關於資訊保障等議題也開始受到政府之重視。
2018年9月5日，英國衛生部（Department of Health and Social Care）在NHS健康與護理創新博覽會（NHS Health and Care Innovation Expo Conference 2018）中公布「以資料導向的健康照護科技之行為準則」（Code of Conduct for Data-driven Health and Care Technology）。此準則主要鼓勵研發公司在設計產品時，將患者的資訊安全以及新技術的操作品質列入考量。
此行為準則的目的主要在於改善整體研發環境，內容包含十項原則，分別為：界定使用者、界定價值（value proposition）、對使用的資料保持合理（fair）、透明（transparent）以及當責（accountable）的立場、符合一般資料保護規則（General Data Protection Regulation, GDPR）的資料最小化原則（data minimisation principle）、利用公開之標準、公開被使用的資料以及演算法的極限、在設計中內建合適的安全性設定、界定商業策略、展示技術使用上的有效性、以及公開演算法的類型、開發原因、與操作過程的監控方式。
官方期望接下來能廣納相關人員的建議，以增進此指引在產業運作上的適用性，並預期於2018年12月公布更新的版本。
本文為「經濟部產業技術司科技專案成果」
謝易昕
法律研究員 編譯整理
Department of Health and Social Care, New guidance to help NHS patients benefit from digital technology, Sep. 5, 2018, https://www.gov.uk/government/news/new-guidance-to-help-nhs-patients-benefit-from-digital-technology (last visited Sep. 10, 2018)
Department of Health and Social Care, Code of conduct for data-driven health and care technology, Sep. 5, 2018, https://www.gov.uk/government/publications/code-of-conduct-for-data-driven-health-and-care-technology (last visited Sep. 10, 2018)
青少年間的打架尋仇事件會因為照相手機的誕生而變本加厲嗎？ 發源於英國流行於青少年之間的一種犯罪活動「 happy slapping 」 ( 藉由公開掌摑不認識之被害人，並由加害人之一以手機全程拍攝，並將照片以手機傳送或上網流傳之犯罪行為 ) ，目前已逐漸蔓延於整個歐洲，且犯行甚至包括重傷害或是性侵案件，引起各國當局高度重視。在法國甚至發生一起學生攻擊教師並以手機拍照的案件，使得警方對於此種原本被單純視為是青少年間挑釁尋仇行為，已重新定義為「預謀暴力犯罪」；法國教育部長更公開表示希望能夠禁止學生在教室內使用手機。 至於歐洲其他國家也針對此種暴力犯罪行為採取進一步行動。德國巴伐利亞省及愛爾蘭許多學校已明令禁止學生在教室內使用手機；今年四月初，丹麥法院則針對兩名青少年學生傷害路人之行為做出有罪判決；而在荷蘭也傳出類似案例。在英國甚至有受辱的學生，因無法承受外界異樣眼光而上吊自殺的個案。 照相手機因為其強大傳輸、上網及存證功能，成為激發青少年逞血氣之勇並滿足個人英雄慾望之工具，這樣的發展途徑恐怕是照相手機原創者始料所未及。台灣目前似乎尚未受到此股歪風影響，但是，如何灌輸青少年正確享受科技進步的便利，似乎是相關當局應該關注的議題。
義大利個資保護機關裁罰遠距大學使用臉部辨識系統違反GDPR義大利資料保護主管機關（Garante per la protezione dei dati personali, GPDP）於2026年1月29日決定，對遠距大學 Università Telematica e-Campus（下稱 e-Campus）處以5萬歐元罰鍰，理由為其於線上課程中使用臉部辨識系統違反《一般資料保護規則》（General Data Protection Regulation, GDPR）及義大利個人資料保護法。 本案中，e-Campus 為進行學生身分驗證與出席確認，要求學生事先上傳臉部影像與身分證件，建立生物特徵模型，並於課程期間透過網路攝影機即時拍攝影像方式，進行隨機抽查比對。校方會將臉部辨識資料保存12個月，以及系統會將課堂影像保存至口試日，且校方主張該影像資料處理係以學生同意作為適法依據。 經GPDP調查認定該臉部辨識作業存在多項違法情形： 一、適法依據不足： GPDP指出於義大利法制下，私立大學與公立大學均被視為追求公共利益之機構，相關資料處理應依GDPR第6條第1項(c)、(e)及第9條第1款（g）相關規定，以法定義務或公共任務為依據。儘管校方主張依據GDPR的同意為合法事由，但GPDP指出學生不同意即無法參與課程或取得資格，顯示雙方存在明顯權力不對等，因而該同意無效。 再者，在以公共利益為目的處理敏感資料（包括生物特徵資料）時，應以國內法為依據。惟校方援引之國家大學與研究體系評估機構指引（ANVUR），因其性質不被GDPR及其他法律認定為國內法律，亦不構成GDPR所要求之法律依據。因而認定有違反GDPR第6條第1款（c）及（e）、第9條第1款（g）之情形。 二、違反資料最小化與保存限制原則： 校方將臉部辨識資料保存長達12個月，超出出席確認目的所必要之期間。並且縱使辨識失敗，亦可即時改以人工方式檢核，無須長期保存相關資料。此外，後續系統將課堂影像保存至口試日，亦被認定缺乏必要性而違反GDPR第5條及第25條。 三、未妥適進行資料保護影響評估（DPIA）： 本案涉及大量學生（每班級約400至500人）之生物特徵資料處理，屬高風險情形，依法應事前進行DPIA。然而校方未於處理前完成評估，調查中提出之文件亦僅為無日期與簽名之電子試算表，被認定未履行相關義務而違反GDPR第35條。 綜上所述，考量資料屬性敏感、影響人數規模龐大等因素；同時亦考量校方於調查期間已停止使用該系統並展現配合態度，作為減輕處罰之因素，最終GPDP對 e-Campus 處以5萬歐元罰鍰，並命其將裁決公告於官方網站。
歐盟執委會通過關於《人工智慧責任指令》之立法提案歐盟執委會（European Commission）於2022年9月28日通過《人工智慧責任指令》（AI Liability Directive）之立法提案，以補充2021年4月通過之《人工智慧法》草案（Artificial Intelligence Act）。鑑於人工智慧產品之不透明性、複雜性且具自主行為等多項特徵，受損害者往往難以舉證並獲得因人工智慧所造成之損害賠償，《人工智慧責任指令》立法提案即為促使因人工智慧而受有損害者，得以更容易獲得賠償，並減輕受損害者請求損害賠償之舉證責任。 《人工智慧責任指令》透過引入兩個主要方式：（一）可推翻之推定（rebuttable presumptions）：人工智慧責任指令透過「因果關係推定（presumption of causality）」來減輕受損害者之舉證責任（burden of proof）。受損害者（不論是個人、企業或組織）若能證明人工智慧系統因過失或不遵守法規要求之義務，致其受有損害（包括基本權利在內之生命、健康、財產或隱私等），並且該損害與人工智慧系統之表現具有因果關係，法院即可推定該過失或不遵守義務之行為造成受損害者之損害。相對的，人工智慧之供應商或開發商等也可提供相關證據證明其過失不可能造成損害，或該損害係由其他原因所致，以推翻該損害之推定。（二）證據揭露機制（disclosure of evidence mechanism）：若受害者之損害涉及高風險人工智慧時，得要求自該供應商或開發商等處獲取證據之權利。受害者透過證據揭露機制能夠較容易地尋求法律賠償，並得以找出究責的對象。 歐盟執委會認為以安全為導向的《人工智慧法》，為人工智慧訂定橫向規則，旨在降低風險和防止損害，但仍需要《人工智慧責任指令》之責任規定，以確保損害風險出現時，相關賠償得以被實現。但歐盟執委會仍選擇了較小的干預手段，《人工智慧責任指令》針對過失之責任制度進行改革，並未採取舉證責任倒置（a reversal of the burden of proof）之作法，而是透過「可推翻之推定」，一方面減輕受損害者之舉證責任，使受損害者得對影響人工智慧系統並產生過失或侵害行為之人提出損害賠償；另一方面賦予人工智慧之供應商或開發商等有機會推翻前揭造成損害之推定，以避免人工智慧系統之供應商或開發商面臨更高的責任風險，可能阻礙人工智慧產品和服務創新。
OECD發布「促進人工智慧風險管理互通性的通用指引」研究報告經濟合作發展組織（Organisation for Economic Co-operation and Development，下稱OECD）於2023年11月公布「促進AI風險管理互通性的通用指引」（Common Guideposts To Promote Interoperability In AI Risk Management）研究報告（下稱「報告」），為2023年2月「高階AI風險管理互通框架」（High-Level AI Risk Management Interoperability Framework，下稱「互通框架」）之延伸研究。 報告中主要說明「互通框架」的四個主要步驟，並與國際主要AI風險管理框架和標準的風險管理流程進行比較分析。首先，「互通框架」的四個步驟分別為： 1. 「定義」AI風險管理範圍、環境脈絡與標準； 2. 「評估」風險的可能性與危害程度； 3. 「處理」風險，以停止、減輕或預防傷害； 4.「治理」風險管理流程，包括透過持續的監督、審查、記錄、溝通與諮詢、各參與者的角色和責任分配、建立問責制等作法，打造組織內部的風險管理文化。 其次，本報告指出，目前國際主要AI風險管理框架大致上與OECD「互通框架」的四個主要步驟一致，然因涵蓋範圍有別，框架間難免存在差異，最大差異在於「治理」功能融入框架結構的設計、其細項功能、以及術語等方面，惟此些差異並不影響各框架與OECD「互通框架」的一致性。 未來OECD也將基於上述研究，建立AI風險管理的線上互動工具，用以協助各界比較各種AI風險管理框架，並瀏覽多種風險管理的落實方法、工具和實踐方式。OECD的努力或許能促進全球AI治理的一致性，進而減輕企業的合規負擔，其後續發展值得持續追蹤觀察。