奧克蘭市（Oakland）成為美國第三個禁止公部門使用人臉辨識技術的城市
近年來，人臉辨識（Face recognition）技術迅速發展，增加便利性的同時，也伴隨了種種隱憂，如：對隱私權的侵害、公部門權力濫用等，是以加州舊金山市（San Francisco）和麻薩諸塞州薩默維爾市（Somerville）分別在今年（2019）5月和6月發布公部門使用人臉辨識技術的相關禁令，加州奧克蘭市（Oakland）並於7月16日跟進，成為美國第三個禁止公部門使用人臉辨識技術的城市。
2018年麻省理工學院曾針對人臉辨識技術的正確率做過研究，其研究結果報告顯示黑人女性辨識錯誤率超過30%，遠不如白人男性；美國公民自由聯盟（American Civil Liberties Union, ACLU）也針對Amazon人臉辨識軟體Rekognition做過測驗，結果該系統竟誤將28名美國國會議員顯示為嫌疑犯，這兩項研究顯示，人臉辨識技術存有極高錯誤率且對種族間存有很大的偏見與歧視。對此奧克蘭市議會主席卡普蘭（Rebecca Kaplan）一項聲明中表示：「當多項研究都指出一項新興技術具有缺陷，且造成寒蟬效應的時候，我們必須站出來」。
卡普蘭並表示：「建立社區和警察間信任與良好關係以及導正種族偏見是很重要的，人臉辨識技術卻反而加深此問題」、「對於隱私權和平等權的保護是最基本的」，故奧克蘭市通過禁止公部門使用人臉辨識技術的法令，原因如下：
- 人臉辨識系統所依賴的資料集，具高度不準確性。
- 對於人臉辨識技術的使用與共享，尚缺乏標準。
- 這項技術本身具有侵犯性，如：侵犯個人隱私權。
- 政府如果濫用該技術所得之資訊，可導致對弱勢族群的迫害。
雖然目前美國僅有三個城市通過政府機關禁止使用人臉辨識技術的法令，但依照目前的發展狀態，其他的城市甚至州在未來也可能會跟進頒布禁令。
- Oakland bans city use of facial recognition software
- Oakland becomes third U.S. city to ban police use of facial recognition
- Oakland bans use of facial recognition technology, citing bias concerns
- ORDINANCE AMENDING OAKLAND MUNICIPAL CODE CHAPTER 9.64 TO PROHIBIT THE CITY OF OAKLAND FROM ACQUIRING AND/OR USING FACE RECOGNITION TECHNOLOGY
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
許新連
副法律研究員 編譯整理
1. Christine Fisher, Oakland bans city use of facial recognition software - It’s now the third US city to do so, engadget, Jul, 17, 2019, https://www.engadget.com/2019/07/17/oakland-california-facial-recognition-ban/. (last visited Jul. 23, 2019)
2. ALISTAIR CHARLTON, Oakland becomes third U.S. city to ban police use of facial recognition, salon, Jul, 21, 2019, https://www.salon.com/2019/07/21/oakland-becomes-third-us-city-to-ban-police-use-of-facial-recognition_partner/. (last visited Jul. 23, 2019)
3. Sarah Ravani , Oakland bans use of facial recognition technology, citing bias concerns, San Francisco Chronicle, Jul, 17, 2019, https://www.sfchronicle.com/bayarea/article/Oakland-bans-use-of-facial-recognition-14101253.php. (last visited Jul. 23, 2019)
4. ORDINANCE AMENDING OAKLAND MUNICIPAL CODE CHAPTER 9.64 TO PROHIBIT THE CITY OF OAKLAND FROM ACQUIRING AND/OR USING FACE RECOGNITION TECHNOLOGY, https://drive.google.com/file/d/1kSGQnEDBvuhW0T-OW-GGzexSVA7VCyA_/view. (last visited Jul. 23, 2019)
為了讓業者間服務不受干擾，政府在規劃頻段時，皆會設置護衛帶(Guard Band)，以維持服務品質。不過，隨著科技的進步，業者彼此干擾程度降低，頻譜的使用也較過去有效率，導致頻段常有閒置的情況。是故，FCC在2008年正式公告開放閒置頻譜(white space)，透過業者無須取得執照，以增加頻譜的活用與增加民眾網路接取。美國在2009年完成無線電視數位化後，亦從700MHZ較低頻段留下成對5*5MHz，期望透過該頻段覆蓋率高特性，增加業者投資偏遠地區，使當地民眾享有網路帶來的便利性。 閒置頻譜的開放利用，雖可增加公益性與頻譜使用性，但亦存有干擾無線麥克風、行動電話與廣播服務等服務之虞。FCC為了兼顧各業者服務品質與頻譜有效運用，透過地理位址功能(geo-location capability)，輔以成立數據資料庫的方式，藉由資訊透明減少頻譜開放後的互相干擾。今年FCC閒置頻譜的發展，3月允許全國可建置TV Band Devices，期以迅速活化頻譜利用；5月公告低功率的電台須登記資訊於數據資料庫，以避免服務受到干擾。6月，FCC宣佈Google通過測試，成為美國第三家數據資料庫業者，增加服務競爭性。部分輿論則是認為Google在擁有地圖與數據資料庫後，將會更致力在偏遠地區使用無需執照頻譜(Unlicensed Spectrum)，此舉無疑是增加Google服務影響力。 政府具有規劃性開放的結果，已直接影響民間投入閒置頻譜的利用。目前，Google與微軟相繼於非經濟地區，建置「閒置頻譜」設備，期以將網路服務滲入美國各角落。西維吉尼亞大學(West Virginia University)宣佈將開發校園與周邊地區的閒置頻譜，已提供鄰近區域免費Wi-Fi服務。除此之外，亦有部分企業透過策略聯盟發展「圖書館Gigabit網路」計畫，期以透過無線電視頻段具備高涵蓋與穿透力之特性，使圖書館與附近地區皆可享受免費無線網路。該聯盟已於五月宣布選擇堪薩斯城(Kansas City)公共圖書館為試點區， 且持續公開徵求自願參與之圖書館。 綜上所敘，在業者服務彼此不受干擾為前提下，閒置頻譜的開放確實可活化使用效率與增加網路接取性。並且，輔以無線電視空白頻段之優勢，可以預見未來Wi-fi無論是網速亦或是穩定度，其品質將更為提升，使無所不在網路落實於社會每個角落。
歐盟執委會以濫用獨占地位處罰斯洛伐克電信及其母公司德意志電信經過深入的調查後，歐盟執委會以違反歐洲聯盟運作條例(TFEU)第102條之禁止濫用獨占地位課處斯洛伐克電信(Slovak Telekom a.s.)及其母公司德意志電信(Deutsche Telekom AG)總計38,838,000歐元之罰金。 斯洛伐克電信以超過五年之濫用獨占地位之策略，阻擋其他來自斯洛伐克市場之競爭者提供寬頻服務，因而違反歐盟反托拉斯法。尤其，執委會認為其拒絕提供開放之用戶迴路(unbundled access to its local loops)予其競爭者，因而導致其他經營者之利潤擠壓。其母公司德意志電信對於其子公司之行為有責；因此，應連帶負擔斯洛伐克電信之罰款。此外，德意志電信於2003年已經因為在德國寬頻市場的利潤擠壓而被罰款，該公司亦被課處額外之罰款共31,070,000歐元，以確保嚇阻及制裁其反覆的濫用行為。 2005年8月，斯洛伐克電信公布在某些條件下，允許其他經營者使用其開放用戶迴路(ULL)。此外，斯洛伐克電信亦不正當地阻擋用戶迴路開放的必要網路資訊；單方面地減少規範中所要求其開放迴路之義務的範圍，以及，在每一個取得開放用戶迴路所需之步驟上，設定不公平的條款和條件(例如搭配、資格、和銀行擔保)。因而延後或阻止其他經營者進入斯洛伐克零售寬頻服務市場。 此外，當其他競爭者以斯洛伐克電信訂定之零售價格販賣寬頻服務予零售消費者時，將產生利潤擠壓而導致虧損；在此種情況下，其他經營者將無法進入斯洛伐克市場。
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
德國資料倫理委員會針對未來數位化政策之資料運用發布建議報告德國資料倫理委員會（Datenethikkommission, DEK）於2019年10月針對未來數位化政策中的重點議題發布最終建議報告；包括演算法產生預測與決策的過程、人工智慧和資料運用等。德國資料倫理委員會是聯邦政府於2018年7月設置，由多位學者專家組成。委員會被設定的任務係在一年之內，制定一套資料倫理標準和指導方針，作為保護個人、維持社會共存（social coexistence）與捍衛資訊時代繁榮的建議。 最終建議報告內提出了幾項資料運用的指導原則，包含： 以人為本、以價值為導向的技術設計 在數位世界中加強數位技能和批判性思考 強化對個人人身自由、自決權和完整性的保護 促進負責與善意的資料使用 實施依風險調整的監管措施，並有效控制演算法系統 維護並促進民主與社會凝聚力 使數位化戰略與永續發展目標保持一致 加強德國和歐洲的數位主權