奧克蘭市（Oakland）成為美國第三個禁止公部門使用人臉辨識技術的城市
近年來，人臉辨識（Face recognition）技術迅速發展，增加便利性的同時，也伴隨了種種隱憂，如：對隱私權的侵害、公部門權力濫用等，是以加州舊金山市（San Francisco）和麻薩諸塞州薩默維爾市（Somerville）分別在今年（2019）5月和6月發布公部門使用人臉辨識技術的相關禁令，加州奧克蘭市（Oakland）並於7月16日跟進，成為美國第三個禁止公部門使用人臉辨識技術的城市。
2018年麻省理工學院曾針對人臉辨識技術的正確率做過研究，其研究結果報告顯示黑人女性辨識錯誤率超過30%，遠不如白人男性；美國公民自由聯盟（American Civil Liberties Union, ACLU）也針對Amazon人臉辨識軟體Rekognition做過測驗，結果該系統竟誤將28名美國國會議員顯示為嫌疑犯，這兩項研究顯示，人臉辨識技術存有極高錯誤率且對種族間存有很大的偏見與歧視。對此奧克蘭市議會主席卡普蘭（Rebecca Kaplan）一項聲明中表示：「當多項研究都指出一項新興技術具有缺陷，且造成寒蟬效應的時候，我們必須站出來」。
卡普蘭並表示：「建立社區和警察間信任與良好關係以及導正種族偏見是很重要的，人臉辨識技術卻反而加深此問題」、「對於隱私權和平等權的保護是最基本的」，故奧克蘭市通過禁止公部門使用人臉辨識技術的法令，原因如下：
- 人臉辨識系統所依賴的資料集，具高度不準確性。
- 對於人臉辨識技術的使用與共享，尚缺乏標準。
- 這項技術本身具有侵犯性，如：侵犯個人隱私權。
- 政府如果濫用該技術所得之資訊，可導致對弱勢族群的迫害。
雖然目前美國僅有三個城市通過政府機關禁止使用人臉辨識技術的法令，但依照目前的發展狀態，其他的城市甚至州在未來也可能會跟進頒布禁令。
- Oakland bans city use of facial recognition software
- Oakland becomes third U.S. city to ban police use of facial recognition
- Oakland bans use of facial recognition technology, citing bias concerns
- ORDINANCE AMENDING OAKLAND MUNICIPAL CODE CHAPTER 9.64 TO PROHIBIT THE CITY OF OAKLAND FROM ACQUIRING AND/OR USING FACE RECOGNITION TECHNOLOGY
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
許新連
副法律研究員 編譯整理
1. Christine Fisher, Oakland bans city use of facial recognition software - It’s now the third US city to do so, engadget, Jul, 17, 2019, https://www.engadget.com/2019/07/17/oakland-california-facial-recognition-ban/. (last visited Jul. 23, 2019)
2. ALISTAIR CHARLTON, Oakland becomes third U.S. city to ban police use of facial recognition, salon, Jul, 21, 2019, https://www.salon.com/2019/07/21/oakland-becomes-third-us-city-to-ban-police-use-of-facial-recognition_partner/. (last visited Jul. 23, 2019)
3. Sarah Ravani , Oakland bans use of facial recognition technology, citing bias concerns, San Francisco Chronicle, Jul, 17, 2019, https://www.sfchronicle.com/bayarea/article/Oakland-bans-use-of-facial-recognition-14101253.php. (last visited Jul. 23, 2019)
4. ORDINANCE AMENDING OAKLAND MUNICIPAL CODE CHAPTER 9.64 TO PROHIBIT THE CITY OF OAKLAND FROM ACQUIRING AND/OR USING FACE RECOGNITION TECHNOLOGY, https://drive.google.com/file/d/1kSGQnEDBvuhW0T-OW-GGzexSVA7VCyA_/view. (last visited Jul. 23, 2019)
歐盟執委會人工智慧高級專家小組（High-Level Expert Group on Artificial Intelligence）於2019年4月8日公布「具可信度之人工智慧倫理指引」（Ethics Guidelines For Trustworthy AI）。該指引首先指出，具可信度之人工智慧需具備三個關鍵特徵：（1）合法（Lawful）：應遵守所有適用於人工智慧之法規；（2）合乎倫理（Ethical）：確保人工智慧符合倫理原則與價值；（3）健全（Robust）：自技術與社會層面觀之，避免人工智慧於無意間造成傷害。 該指引並進一步指出人工智慧應遵守以下四項倫理原則： (1) 尊重人類之自主權（Respect for Human Autonomy）：歐盟之核心價值在於尊重人類之自由與自主，與人工智慧系統互動之個人，仍應享有充分且有效之自我決定空間。因此，人工智慧之運用，不應脅迫、欺騙或操縱人類，人工智慧應被設計為輔助與增強人類之社會文化技能與認知。 (2) 避免傷害（Prevention of Harm）：人工智慧不應對人類造成不利之影響，亦不應加劇既有的衝突或傷害。人工智慧之系統運行環境應具備安全性，技術上則應健全，且確保不會被惡意濫用。此外，弱勢族群應於人工智慧運用中受到更多關注，並被視為服務對象。 (3) 公平（Fairness）：人工智慧系統之開發、布建與利用，必須具備公平性。除了透過實質承諾與規範，進行平等與公正之利益與成本分配外，亦須透過救濟程序確保個人或特定族群不受到歧視與偏見之侵害，並可對人工智慧之自動化決策結果提出質疑，且獲得有效之補救。 (4) 可解釋性（Explicability）：人工智慧應盡量避免黑箱（Black Box）決策，其系統處理程序須公開透明，並盡可能使相關決策結果具備可解釋性，分析特定訊息可能導致之決策結果，此外亦需具備可溯性且可接受審核。
美國國防部「人工智慧國防運用倫理準則」美國國防部（Department of Defense）於2020年2月採納由美國國防創新委員會（Defense Innovation Board, DIB）所提出之「人工智慧國防運用倫理準則（AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense）」，以衡平倫理與人工智慧於國防帶來之增益。 美國國防創新委員會為美國聯邦政府下之獨立委員會，設置目的在於依美國新創科技，提供意見予美國國防部，與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣，美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」，以因應人工智慧於國防之應用所產生之問題。 倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」，對於「人工智慧」之定義，倫理準認為人工智慧並無精確之範疇，只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」，皆為本準則下之人工智慧。倫理準則指出，「人工智慧」與美國國防部3000.09指令下之「自動化武器系統（Autonomous Weapon System）」之定義不同，但有可能重疊，而所謂「自動化武器系統」為「一經人類選擇啟動，即可在無人類監督之情形下，自動針對目標進行鎖定或進行攻擊之自動化武器系統」。 美國國防創新委員會表示，該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下，融入現代化對於人工智慧之要求，如國際公約中之戰爭法（Law of War）即為本準則之傳統標準之一，舉例而言，如人工智慧被裝置於武器中，其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。 除此之外，準則亦包含以下現代化對於人工智慧之要求：（1）人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務，且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任；（2）對於目標之選擇或分類，應維持公平性，且不得有歧視性；（3）對於人工智慧之設計、應用以及使用，應有明確之工程標準以及資料保存程序，此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善；（4）「戰爭或非戰爭用途之人工智慧」應有明確之應用領域，且完善之檢測、維修，應適用於該人工智慧之全部生命週期。
複製牛肉即將上桌？－複製動物作為食品之歐盟規範觀察 中國大陸重新開放電子遊戲遊藝設備生產銷售中國大陸重新開放電子遊戲遊藝設備生產銷售 科技法律研究所 專案經理 劉得正 法律研究員 丘瀚文 104年08月03日 在2000年中國大陸國務院發布「國務院辦公廳轉發文化部等部門關於開展電子遊戲經營場所專項治理意見的通知」禁止遊戲遊藝設備在陸進行銷售、流通以來，歷經15年黑暗期後，終於在2015年6月24日中國大陸文化部發佈「文化部關於允許內外資企業從事遊戲遊藝設備生產和銷售的通知」重新開放電子遊戲遊藝設備生產銷售後，迎來主機遊戲產業復甦的曙光。以下本文將簡介中國大陸對於遊戲遊藝設備的規範歷程，以及本次開放重點： 一、2000年－中國大陸全面管制電子遊戲經營場所與遊戲遊藝設備 中國大陸國務院2000年發布「國務院辦公廳轉發文化部等部門關於開展電子遊戲經營場所專項治理意見的通知」起，明白表示自通知發布之日起：1.禁止新設電子遊戲經營場所；2.現有電子遊戲經營場不得增添或更新任何類型電子遊戲遊藝設備；3.除加工出口外，嚴格限制任何電子遊戲遊藝設備及其零、附件生産、銷售。自此宣示中國大陸境內，不論任何企業或個人，均不得從事境內之電子遊戲裝置及零件生產、銷售活動，以避免傷害社會秩序以及妨礙青少年身心發展成長，此一禁令造成家用主機的販售進入地下化，水貨主機與盜版遊充斥市場。 二、2013年－上海自貿區區域開放電子遊戲遊藝設備生產銷售 在主機遊戲產業因上述禁令進入黑暗期的同時，中國大陸數位遊戲市場結構產生了莫大變化。頁遊、手遊取代了主機遊戲成為市場主流，而伴隨著中國官方對外國遊戲內容審批的嚴格落實，中國大陸本地遊戲開發商逐漸累積了開發遊戲的經驗與能力。有論者認為[1]，現今本地商已具備相當實力進入主機遊戲開發市場，而此也成為中國大陸重新開放遊戲遊藝設備生產銷售的契機。從而，在2013年9月、12月分別發佈的「中國(上海)自由貿易試驗區總體方案」與「國務院關於在中國(上海)自由貿易試驗區內暫時調整有關行政法規和國務院檔規定的行政審批或者准入特別管理措施的決定」規範下，自由貿易區內暫時停止實施關於電子遊戲遊藝設備相關禁止規定。至此，自由貿易區內遊戲遊藝設備銷售、生產已完全開放。 三、2015年6月－全面開放電子遊戲遊藝設備生產銷售 在2013年於上海自貿區開放試點後，微軟、索尼便先後與大陸本地公司合資於上海設立公司，並在歷經2年試行下，如今中國大陸文化部於今(2015)年6月24日發佈「文化部關於允許內外資企業從事遊戲遊藝設備生產和銷售的通知」，正式全面重新開放電子遊戲遊藝設備，以下簡介規範重點： (一)規範廣泛適用於各類遊戲遊藝設備（街機、家用主機、掌機） 遊戲遊藝設備定義指通過專用設備向消費者提供遊戲內容和遊戲過程的電子、機械類裝置，包括營業場所使用的電子遊戲遊藝設備、與電視接收機設備配套使用的電子遊戲遊藝設備及手持類電子遊戲遊藝設備等。 (二)遊戲內容主題仍有限制 儘管對於主機已為開放，中國大陸仍不改以往作法的是，對於內容仍持高度管制的態度。配合此次主機開放，文化部另行制定了「遊戲遊藝設備內容審核管理辦法」，禁止違反善良風俗、煽動民族仇恨、破壞國家安全[2]以及賭博性遊戲[3]內容發行，違反者則由省級文化行政部門責令改正，未改正的，由省級文化行政部門將其列入文化市場經營異常名單。 (三)審批決定原則由省級部門於受理申請20日內作成 對應前述內容限制，遊戲遊藝設備內容審核管理辦法便規定由省級文化行政部門負責遊戲遊藝設備內容審核工作，並應在行政審批服務大廳及有關政務網站，公佈遊戲遊藝設備內容審核的法規依據、實施機關、審核條件、審核程式、審核時限、聯繫方式等資訊服務。 省級文化行政部門自受理申請日[4]起20日應作出決定，審核通過者，即可獲得「遊戲遊藝設備內容審核批准單」，並可向全國銷售遊戲遊藝設備，異地之文化行政部門不可重複審核。內容之審核，省級文化部門可自行由公安、文化部門、行業專家、協會組織評審專家委員會審核。若對內容難以界定者，可向文化部申請覆審，覆審期間不列入20日之計算。 (四)強制建立遊戲內容自我審查制度 遊戲遊藝產業應建立遊戲內容自我審查制度，並加強對審核人員培訓。從事遊戲遊藝設備生產和銷售的內外資企業，未建立內容自審制度者，省級文化行政部門可以將其列入文化市場經營異常名錄。 四、結論-對於台灣業者的挑戰 管制鬆綁對於業者多半可解讀為利多，然此次電子遊戲遊藝設備的開放，對於台灣業者乃至於全球各地遊戲業者而言，是否等同開啟前進中國遊戲市場的大門，仍有待進一步觀察： (一)直接受惠者非屬台灣業者擅長之主機遊戲 主機遊戲市場長期受到微軟、任天堂、索尼三大主機開發商所把持，台灣業者除非具備主機遊戲的開發能力並調整遊戲開發方向，否則難以從中直接獲利。 (二)主機開發商仍須與中國本地公司合作 自上海自貿區開放遊戲主機生產銷售以來，微軟、索尼進入中國市場便是採合資模式。之所以如此，主要在於網路服務仍屬高度管制業務，須取得資料中心業務和機上盒業務等牌照。回顧近十年遊戲產業發展，未具備連線功能的單機版遊戲已逐漸式微，取而代之的是搭配社群服務乃至於線上對戰功能之連線遊戲，而本次開放按照「遊戲遊藝設備內容審核管理辦法」第六條第二項規定，涉及網路下載和網路服務功能者，該遊戲產品仍應通過「網絡遊戲管理暫行辦法」內容審查或者備案。故外資主機開發商策略上仍須與中國本地網路服務業者合作，以確保主機功能與遊戲內容得以完整。某種程度上，也給予中國本地業者學習主機遊戲開發、經營的空間與機會。 (三)主機遊戲審批程序得否落實有待實證研究 按照本次遊戲遊藝設備內容審核管理辦法規定，即便遊戲本身並未涉及網路服務功能，仍應完成內容審核後始得上市。即使該管理辦法所規範之審核程序已縮短時限（文化行政部門自受理申請日起20日應作出決定），但仍有模糊空間，例如20日的起算係以提出申請時起算，抑或是申請文件備齊時起算。由於審查係以各省文化行政部門為主體，各地方審查作業是否能落實一致，仍有待後續的實證研究。 整體而言，本次管制鬆綁對於中國遊戲市場的發展仍具正面意義，業者可適時構思搶進市場之時點與策略作法。不過，除了評估上述規範風險外，如何改變長期以來習慣於「低價」甚至「免費」網路遊戲的中國玩家的消費習慣，商業模式的策略規劃，亦是不可忽略的根本問題。 更多中國大陸數位內容法令可參考<中國大陸數位內容法令彙編>APP Android版： https://play.google.com/store/apps/details?id=com.sdt.legal iOS版： https://itunes.apple.com/us/app/zhong-guo-da-lu-shu-wei-nei/id938015717?mt=8%20。 [1] 北京電子報，〈15年重生曙光 游戏机重返“地上”前途几何〉，2015年04月14日，http://epaper.ynet.com/html/2015-04/14/content_126904.htm?div=-1，最後瀏覽日期：2015年7月29日。 [2] 遊戲遊藝設備內容審核管理辦法第4條：「面向國內生產和銷售的遊戲遊藝設備禁止含有下列內容： （一）違反憲法確定的基本原則的； （二）危害國家統一、主權或者領土完整的； （三）危害國家安全，或者損害國家榮譽、利益的； （四）煽動民族仇恨、民族歧視，傷害民族感情或者侵害民族風俗、習慣，破壞民族團結的； （五）違反國家宗教政策，宣揚邪教、迷信的； （六）宣揚淫穢、賭博、暴力以及與毒品有關的違法犯罪活動，或者教唆犯罪的； （七）違背社會公德或者民族優秀文化傳統的； （八）侮辱、誹謗他人，侵害他人合法權益的； （九）法律、行政法規禁止的其他內容。」 [3]遊戲遊藝設備內容審核管理辦法第5條：「面向國內生產和銷售的遊戲遊藝設備的外觀、遊戲內容、遊戲方法說明應當使用我國通用語言文字，不得具有退幣、退分、退鋼珠等賭博功能。」 [4]審核條件依遊戲遊藝設備內容審核管理辦法第6條，申請人應檢附下列六款資料：（一）《遊戲遊藝設備內容審核申請表》；（二）企業營業執照影本，經營範圍應當含有遊戲遊藝設備生產或者銷售；（三）遊戲遊藝設備內設遊戲內容全過程的視頻檔或者軟體的視頻演示（DEMO）檔；（四）能夠反映產品整體外觀並與實際銷售產品一致的電子圖片。其中一張正面圖，兩張側面圖，格式統一為“*.JPG”，圖片解析度不低於1280X720；（五）遊戲遊藝設備使用的音訊檔、名稱清單和歌詞的電子文本。電子文本應當是遊戲遊藝設備中使用的全部背景音樂、歌曲的名稱清單、音訊檔和歌詞文本，如為外文歌曲須提供中外文對照文本；（六）遊戲遊藝內容中對白、旁白、描述性文字以及操作說明文本，如涉及外文的應當提交中外文對照文本。