「亞馬遜公司（amazon）」積極向美國政府機關推動其所開發的人臉辨識軟體“Rekognition”，將可能造成隱私權的重大侵害
亞馬遜公司所開發的“Rekognition”軟體可以進行照片中的人臉辨識識別，單張圖片中可辨識高達一百人，同時可以圖片進行分析及比對資料庫中的人臉長相。目前亞馬遜公司積極向政府機關推銷這套軟體。可能造成的風險是，公權力機構可透過使用“Rekognition”軟體來辨識或追蹤任何個人，警察機關可以隨時監控人民的行為，各城市的政府機關也可能在無合理理由的狀況下隨時查看人口居住狀況，尤有甚者，美國移民及海關執法局（Immigration and Customs Enforcement, ICE）可以使用該軟體來監控移民的狀況，即使是無任何犯罪疑慮的狀況下亦可進行，將政府打造成巨大的監控系統，有造成隱私權嚴重侵害的疑慮。因此無論亞馬遜公司內外都有反對將“Rekognition”軟體推銷給政府機構的聲浪，尤其美國公民自由聯盟（American Civil Liberties Union, ACLU）更是發起多項連署抗議。
支持政府使用“Rekognition”軟體的意見則認為，使用“Rekognition”軟體將可以更有效率地辨識人臉，在尋找失蹤兒童或在公共中辨識出恐怖份子可以發揮更大的作用，不啻是保護公眾法益的進步。
佛羅里達的奧蘭多市警察機構曾經使用“Rekognition”軟體後因契約到期而一度停止使用，於7月9日與亞馬遜公司續約繼續測試使用該軟體，奧蘭多市警察機構宣稱以目前測試階段將不會使用一般民眾的照片進行測試，將不會造成人民的隱私權侵害。
- Amazon Teams Up With Government to Deploy Dangerous New Facial Recognition Technology
- Amazon Rekognition official site
- Facial recognition technology: The need for public regulation and corporate responsibility
- Despite privacy outcry, Orlando will use Amazon's facial recognition software again
- ACLU asks Amazon to stop selling surveillance technology to governments
- Amazon and Orlando Cops’ Controversial Face Recognition Pilot Isn't Over
- Orlando police decide to keep testing controversial Amazon facial recognition program
- Amazon's controversial facial recognition program dropped by city of Orlando
- 「亞馬遜人臉識別噩夢」貝索斯將AI武器化遭大規模抗議
蕭永蔚
法律研究員 編譯整理
1. Amazon Teams Up With Government to Deploy Dangerous New Facial Recognition Technology https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazon-teams-government-deploy-dangerous-new (最後瀏覽日:2018/07/27)
2. Amazon Rekognition official site https://aws.amazon.com/tw/rekognition/ (最後瀏覽日:2018/07/27)
3. Facial recognition technology: The need for public regulation and corporate responsibility https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/ (最後瀏覽日:2018/07/27)
1. Despite privacy outcry, Orlando will use Amazon's facial recognition software again https://mashable.com/2018/07/13/orlando-rekognition-amazon-surveillance/#yPB_tmNg.mqp (最後瀏覽日:2018/07/27)
2. ACLU asks Amazon to stop selling surveillance technology to governments https://mashable.com/2018/06/18/aclu-amazon-surveillance-rekognition/#EBP596qA.PqA (最後瀏覽日:2018/07/27)
3. Amazon and Orlando Cops’ Controversial Face Recognition Pilot Isn't Over https://gizmodo.com/amazon-and-orlando-cops-controversial-face-recognition-1827483145 (最後瀏覽日:2018/07/27)
4. Orlando police decide to keep testing controversial Amazon facial recognition program https://www.usatoday.com/story/tech/2018/07/09/orlando-police-decide-keep-testing-amazon-facial-recognition-program/768507002/ (最後瀏覽日:2018/07/27)
5. Amazon's controversial facial recognition program dropped by city of Orlando https://www.usatoday.com/story/tech/talkingtech/2018/06/25/amazons-controversial-facial-recognition-program-dropped-city-orlando/732090002/ (最後瀏覽日:2018/07/27)
6. 「亞馬遜人臉識別噩夢」貝索斯將AI武器化遭大規模抗議 https://tw.news.yahoo.com/「亞馬遜人臉識別噩夢」貝索斯將ai武器化遭大規模-013810014.html (最後瀏覽日:2018/07/27)
日本公平交易委員會（公正取引委員会）於2021年6月25日發布關於資料市場競爭政策檢討會（データ市場に係る競争政策に関する検討会）報告書。所謂資料市場，不僅指資料從產出、蒐集、整理儲存（蓄積）、加工、分析到利用等各階段的交易，尚包含向終端使用者提供相關商品或服務。其類型包含企業經營所產出的「產業資料」（産業データ），以及與個人相關的「個人資料」（personal data，原文為パーソナルデータ）。近年來，數位平台型業者參與資料市場、活用資料經營相關商業活動的情形漸增。同時，資料不同於傳統交易客體，具備以下特徵：（1）技術上容易複製；（2）無法建立排他性佔有；（3）需透過累積與解析方能創造其價值；（4）可藉由累積使用資料持續優化產品機能。而累積大量資料的數位平台業者，亦可能藉此形成獨占、寡占、排除其他競爭者等。 基此，本報告書針對此一競爭秩序現況，提出以下建議： 建構鼓勵新業者加入資料市場的機制：應充分考量各潛在參與者之需求，同時留意利用資料之事業退出市場經營時，不應對使用該事業服務的個人造成不利益。 針對產出資料之行為建立獎勵機制，同時促進業界自由且易於取用資料。 區分各企業經營共通事項之協調領域、以及企業間各自專業化經營之競爭領域。就前者提供共通性指引與開放行政保有資料供利用，對後者則須管制妨害公平競爭之行為。 確保資料可攜性，與不同系統間的互通性（interoperability，原文為インターオペラビリティ），讓使用者容易轉換其所利用的平台服務。 優化關於個資利用的說明義務內容，尤其針對平台在不知情下蒐集資料的情形，應額外規範業者採取相應配套措施，避免造成當事人不利益。 就數位平台形成的市場寡占與資料獨占蒐集問題，可考量採取令其他業者能公平取用資料之措施。
美國發表網路安全框架2014年2月12日，美國發表「網路安全框架(Cybersecurity Framework)」，該框架係由美國政府、企業及民間機構花費一年的時間共同發展而成，其蒐集了全球現有的標準、指引與最佳實務作法，最後由國家標準技術局（National Institute of Standard and Technology, NIST）彙整後所提出。 本框架主要可分成三大部份： 1.框架核心（Framework Core） 框架核心包括辨識(Identify)、保護( Protect)、偵測( Detect)、應變( Respond)、與復原( Recover)等五項功能。這五項功能組成網路安全管理的生命週期，藉由這五項功能的要求項目與參考資訊的搭配運用，可使組織順利進行網路安全管理。 2. 框架實作等級（Framework Implementation Tiers） 共分成局部（Partial）、風險知悉（Risk Informed）、可重複實施（Repeatable）、合適（Adaptive）四個等級。組織可以透過對風險管理流程、整合風險管理計畫以及外部參與等三個面向的觀察，瞭解組織目前的安全防護等級。 3. 框架側寫（Framework Profile） 框架側寫係組織依照本框架實際操作後所產出的結果，可以協助組織依據其企業需求、風險容忍度，決定資源配置的優先順序，進一步調整其網路安全活動。 此一安全框架旨在提供整體規劃藍圖予尚未建立網路安全架構的組織參考，而針對已有建立網路安全架構者，該框架並未意圖取代組織原先的風險管理程序和網路安全計畫，而係希望協助公、私部門改善資通訊科技和工業控制系統風險管理的能力。
歐盟執委會通過關於《人工智慧責任指令》之立法提案歐盟執委會（European Commission）於2022年9月28日通過《人工智慧責任指令》（AI Liability Directive）之立法提案，以補充2021年4月通過之《人工智慧法》草案（Artificial Intelligence Act）。鑑於人工智慧產品之不透明性、複雜性且具自主行為等多項特徵，受損害者往往難以舉證並獲得因人工智慧所造成之損害賠償，《人工智慧責任指令》立法提案即為促使因人工智慧而受有損害者，得以更容易獲得賠償，並減輕受損害者請求損害賠償之舉證責任。 《人工智慧責任指令》透過引入兩個主要方式：（一）可推翻之推定（rebuttable presumptions）：人工智慧責任指令透過「因果關係推定（presumption of causality）」來減輕受損害者之舉證責任（burden of proof）。受損害者（不論是個人、企業或組織）若能證明人工智慧系統因過失或不遵守法規要求之義務，致其受有損害（包括基本權利在內之生命、健康、財產或隱私等），並且該損害與人工智慧系統之表現具有因果關係，法院即可推定該過失或不遵守義務之行為造成受損害者之損害。相對的，人工智慧之供應商或開發商等也可提供相關證據證明其過失不可能造成損害，或該損害係由其他原因所致，以推翻該損害之推定。（二）證據揭露機制（disclosure of evidence mechanism）：若受害者之損害涉及高風險人工智慧時，得要求自該供應商或開發商等處獲取證據之權利。受害者透過證據揭露機制能夠較容易地尋求法律賠償，並得以找出究責的對象。 歐盟執委會認為以安全為導向的《人工智慧法》，為人工智慧訂定橫向規則，旨在降低風險和防止損害，但仍需要《人工智慧責任指令》之責任規定，以確保損害風險出現時，相關賠償得以被實現。但歐盟執委會仍選擇了較小的干預手段，《人工智慧責任指令》針對過失之責任制度進行改革，並未採取舉證責任倒置（a reversal of the burden of proof）之作法，而是透過「可推翻之推定」，一方面減輕受損害者之舉證責任，使受損害者得對影響人工智慧系統並產生過失或侵害行為之人提出損害賠償；另一方面賦予人工智慧之供應商或開發商等有機會推翻前揭造成損害之推定，以避免人工智慧系統之供應商或開發商面臨更高的責任風險，可能阻礙人工智慧產品和服務創新。
英國發布人工智慧網路資安實務守則英國政府於2025年1月31日發布「人工智慧網路資安實務守則」（Code of Practice for the Cyber Security of AI，以下簡稱「實務守則」），目的是提供人工智慧（AI）系統的網路資安指引。該實務守則為英國參考國際上主要標準、規範後所訂定之自願性指引，以期降低人工智慧所面臨的網路資安風險，並促使人工智慧系統開發者與供應商落實基本的資安措施，以確保人工智慧系統的安性和可靠性。 由於人工智慧系統在功能與運作模式上與傳統網路架構及軟體有明顯的不同，因此產生新的資安風險，主要包含以下： 1. 資料投毒（Data Poisoning）：在AI系統的訓練資料中蓄意加入有害或錯誤的資料，影響模型訓練結果，導致人工智慧系統產出錯誤推論或決策。 2. 模型混淆（Model Obfuscation）：攻擊者有意識地隱藏或掩飾AI模型的內部運作特徵與行為，以增加系統漏洞、引發混亂或防礙資安管理，可能導致AI系統的安全性與穩定性受損。 3. 輸入間接指令（Indirect Prompt Injection）：藉由輸入經精心設計的指令，使人工智慧系統的產出未預期、錯誤或是有害的結果。 為了提升實務守則可操作性，實務守則涵蓋了人工智慧生命週期的各階段，並針對相關角色提出指導。角色界定如下： 1. 人工智慧系統開發者（Developers）：負責設計和建立人工智慧系統的個人或組織。 2. 人工智慧系統供應鏈（Supply chain）：涵蓋人工智慧系統開發、部署、營運過程中的的所有相關個人和組織。 實務守則希望上述角色能夠參考以下資安原則，以確保人工智慧系統的安全性與可靠性： 1. 風險評估（Risk Assessment）：識別、分析和減輕人工智慧系統安全性或功能的潛在威脅的過程。 2. 資料管理（Data management）：確保AI系統整個資料生命週期中的資料安全及有效利用，並採取完善管理措施。 3. 模型安全（Model Security）：在模型訓練、部署和使用階段，均應符合當時的技術安全標準。 4. 供應鏈安全（Supply chain security）：確保AI系統供應鏈中所有利益相關方落實適當的安全措施。 「人工智慧網路資安實務守則」藉由清晰且全面的指導方針，期望各角色能有效落實AI系統安全管控，促進人工智慧技術在網路環境中的安全性與穩健發展。