奧克蘭市（Oakland）成為美國第三個禁止公部門使用人臉辨識技術的城市
近年來，人臉辨識（Face recognition）技術迅速發展，增加便利性的同時，也伴隨了種種隱憂，如：對隱私權的侵害、公部門權力濫用等，是以加州舊金山市（San Francisco）和麻薩諸塞州薩默維爾市（Somerville）分別在今年（2019）5月和6月發布公部門使用人臉辨識技術的相關禁令，加州奧克蘭市（Oakland）並於7月16日跟進，成為美國第三個禁止公部門使用人臉辨識技術的城市。
2018年麻省理工學院曾針對人臉辨識技術的正確率做過研究，其研究結果報告顯示黑人女性辨識錯誤率超過30%，遠不如白人男性；美國公民自由聯盟（American Civil Liberties Union, ACLU）也針對Amazon人臉辨識軟體Rekognition做過測驗，結果該系統竟誤將28名美國國會議員顯示為嫌疑犯，這兩項研究顯示，人臉辨識技術存有極高錯誤率且對種族間存有很大的偏見與歧視。對此奧克蘭市議會主席卡普蘭（Rebecca Kaplan）一項聲明中表示：「當多項研究都指出一項新興技術具有缺陷，且造成寒蟬效應的時候，我們必須站出來」。
卡普蘭並表示：「建立社區和警察間信任與良好關係以及導正種族偏見是很重要的，人臉辨識技術卻反而加深此問題」、「對於隱私權和平等權的保護是最基本的」，故奧克蘭市通過禁止公部門使用人臉辨識技術的法令，原因如下：
- 人臉辨識系統所依賴的資料集，具高度不準確性。
- 對於人臉辨識技術的使用與共享，尚缺乏標準。
- 這項技術本身具有侵犯性，如：侵犯個人隱私權。
- 政府如果濫用該技術所得之資訊，可導致對弱勢族群的迫害。
雖然目前美國僅有三個城市通過政府機關禁止使用人臉辨識技術的法令，但依照目前的發展狀態，其他的城市甚至州在未來也可能會跟進頒布禁令。
- Oakland bans city use of facial recognition software
- Oakland becomes third U.S. city to ban police use of facial recognition
- Oakland bans use of facial recognition technology, citing bias concerns
- ORDINANCE AMENDING OAKLAND MUNICIPAL CODE CHAPTER 9.64 TO PROHIBIT THE CITY OF OAKLAND FROM ACQUIRING AND/OR USING FACE RECOGNITION TECHNOLOGY
- 零售業個資法遵實務與資訊安全說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 【北部場1】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場2】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場3】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場4】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【南部場】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【中部場】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 製程工業AI應用與規範研討會
許新連
副法律研究員 編譯整理
1. Christine Fisher, Oakland bans city use of facial recognition software - It’s now the third US city to do so, engadget, Jul, 17, 2019, https://www.engadget.com/2019/07/17/oakland-california-facial-recognition-ban/. (last visited Jul. 23, 2019)
2. ALISTAIR CHARLTON, Oakland becomes third U.S. city to ban police use of facial recognition, salon, Jul, 21, 2019, https://www.salon.com/2019/07/21/oakland-becomes-third-us-city-to-ban-police-use-of-facial-recognition_partner/. (last visited Jul. 23, 2019)
3. Sarah Ravani , Oakland bans use of facial recognition technology, citing bias concerns, San Francisco Chronicle, Jul, 17, 2019, https://www.sfchronicle.com/bayarea/article/Oakland-bans-use-of-facial-recognition-14101253.php. (last visited Jul. 23, 2019)
4. ORDINANCE AMENDING OAKLAND MUNICIPAL CODE CHAPTER 9.64 TO PROHIBIT THE CITY OF OAKLAND FROM ACQUIRING AND/OR USING FACE RECOGNITION TECHNOLOGY, https://drive.google.com/file/d/1kSGQnEDBvuhW0T-OW-GGzexSVA7VCyA_/view. (last visited Jul. 23, 2019)
日本經濟產業省於2020年7月13日發布「創新治理：實現Society5.0的法規與結構設計（GOVERNANCE INNOVATION: Society5.0の実現に向けた法とアーキテクチャのリ・デザイン）」報告書。其作成背景係依據日本在去（2019）年G20峰會時，基於大阪框架（大阪トラック、Osaka Track）下的「可資信任的資料自由流通機制（Data Free Flow with Trust（DFFT））願景，所提出的創新治理目標。該目標指出，過往的治理模式主要依靠法律規範，但明顯已追趕不及數位化與創新的快速步伐，致生新型態風險無法獲得有效控管、法律可能阻礙創新等問題，因而有必要革新治理模式，以掃除創新活動的障礙。基此，就上述創新治理模式的必要性與方式，日本召集國內外法律、經濟、科技、經濟等各界專家徵求意見進行討論，彙整後作成本報告書。 本報告書主張，應擺脫法規範的設計、法遵與執行，均由國家主導的傳統模式，建立提高企業參與規範擬定與實施程度的治理型態。具體主要包含以下作法： （1）法規範制定層面：規範之制定方向，改以作成價值決定的目的導向為主。至於細節性的行為義務，包含企業如何在數位化的虛擬場域內，透過程式語言等途徑落實上述法目的，則應由該些企業、以及在虛擬場域活動的社群或個人等利害關係人共同參與擬定相關的指引或標準。 （2）法遵層面：如上（1）所述，未來法規範制定將轉為形塑價值與目的為主，不會明確訂定企業的行為義務，而交由企業來擬訂。企業所制定之行為規範能否達成法規範目的，則須仰賴企業主動揭露其法遵方法，供外界檢視。因此，除企業應採用創新手法達成法目的、並對內落實法遵事項的說明外，應運用各種內外部查核機制來控管風險。同時，應著手研發相關技術或措施，讓利害關係人得取用企業之即時資料，以隨時確認企業所採取方法有無達成法遵，實現有效監督。 （3）執法層面：政府應以企業之行為對社會產生影響的程度，作為執法標準。若遭遇AI參與決策而衍生的事故，不應歸責於個人，而應建立獎勵機制，鼓勵企業積極協助究明事故原因。另一方面，亦應推動訴訟與訴訟外紛爭解決機制的線上化（Online Dispute Resolution, ODR），例如共享經濟平台服務的認證機制與標準、就電商平台上發生的小額消費糾紛由平台透過公告罰則等方式抑止與處理糾紛。
新加坡科技與研究局針對未來工廠提出研究規劃及方向新加坡科技與研究局（Agency for Science, Technology and Research）於2017年7月26日提出未來工廠（Toward the factories of the future）概念及相關研究方向，自動化（Automation）、機器人（robotics）、先進電腦輔助設計（advanced computer-aided design）、感測和診斷技術（sensing and diagnostic technologies）將徹底改變現代工廠，可製造的產品範圍廣泛，從微型車乃至於飛機皆可生產。積層製造（Additive Manufacturing），又稱3D列印（3D printing），可使用單一的高科技生產線來創造許多不同的產品項目，而不需要傳統大規模生產的設計限制和成本，伴隨未來高效能電腦和感測技術之進步，積層製造速度也會隨之加快。而智慧工廠（smart factories）將與物聯網（IOT）、雲端計算（cloud computing）、先進機器人（advanced robotics）、即時分析（real-time analytics）與機器學習（machine learning）等技術與積層製造技術結合，將大為提升生產速度及產量。 為加速及改善積層製造的製程，最重要的方法之一，是使用材料物理學的基本原理來模擬製造過程，而近期更引進跨學科之研究，「模擬」最終產品化學成分和機械性能的微觀結構。因積層製造是一個複雜又困難的過程，透過變化既有規則之模擬（Game-Changing simulations），若建立完成模型且模擬成功，將成為積層製造的殺手級技術。在未來的五到十年，我們將看到更多的零件從積層製造技術生產出來，而且這種技術有機會成為未來工廠的生產基礎。由於現行材料及製造流程與機器必須配合一致，些許的差異皆會生產出不同品質之產品，故未來積層製造工廠的結果穩定重現性（repeatability）和標準化（standardization），將是產品商業化的主要障礙與挑戰。
德國「真實實驗室」德國政府意識到伴隨數位化發展的創新科技和商業模式雖然提供了許多機會，但往往容易對消費者、產業和社會產生顛覆性影響，此類影響通常難以在短期內權衡利弊，從而不易對其訂出具體合適的規範，例如德國新創公司Lilium、奧迪子公司Italdesign、以及歐洲航空巨擘Airbus都有意發展的空中計程車計畫，雖有無限想像空間，但卻很難在短期內評估出可能隨之而來的安全、（空氣或噪音）汙染、就業等方面的不利影響，進而制定出寬嚴適中的規範。有鑑於此，德國聯邦經濟及能源部（Bundesministerium für Wirtschaft und Energie, BMWi）於2018年12月10日提出「真實實驗室戰略」（Reallabore Strategie），旨在營造一個前瞻、靈活、可支持創新想法自由發揮的法規環境，同時也希望藉由在真實實驗室運作所得之經驗數據，了解創新的機會和風險，進而找到正確的監管答案。 「真實實驗室」（Reallabore）係指允許在特定時間及真實環境範圍內，進行創新科技與商業模式發展測試，而無需擔心與現行監管規範有所牴觸的創新試驗制度，其與「生活實驗室」（Living Labs）和「實驗場域」（Experimentierräume）、「沙盒」（Sandbox）、「領航計畫」（Pilot Project）等概念類似，與我國「金融科技創新實驗」及「無人載具科技創新實驗」之制度規範亦有異曲同工之趣，但更著重在探索未來的監管方向，簡而言之，「真實實驗室」就是一個創新想法與監管規範的試驗空間，德國聯邦經濟及能源部（BMWi）為具體傳達其概念，對其特徵作了如下描述：（1）可以進行數位創新試驗的特定時空環境（2）可以支持創新想法自由發揮的法規環境（3）可以從中進行監管學習並確定未來監管方向與具體細節。
新加坡國家研究基金會推出AI.SG計畫，促進人工智慧技術發展新加坡國家研究基金會（National Research Foundation，以下簡稱NRF）於2017年5月3日宣布AI.SG倡議，並將啟動國家級AI計畫。NRF將於五年內投資新加坡幣1.5億元，整合NRF，智慧國家與數位政府辦公室（Smart Nation and Digital Government），經濟發展委會（Economic Development Board），資通訊媒體發展局（Infocomm Media Development Authority），新加坡創新機構（SGInnovate）及整合健康資訊系統（Integrated Health Information Systems）等數個政府部門，以及位於新加坡的研究機構、AI新創公司與發展AI產品的企業等共同投入。計畫三大目標如下： 利用人工智慧來解決影響社會和產業的重大挑戰 這些應用包括利用人工智慧解決交通尖峰時段壅塞問題，或應付人口老齡化帶來的醫療保健挑戰。IHiS執行長兼衛生部資訊長Mr.Bruce Liang表示：「醫療照護是需要高度知識及人性化的行業。多年來從新加坡在醫療照護數位化的發展中，可預見AI未來對於提升新加坡人民健康有很大幫助。例如在疾病預防、診斷、治療計畫、藥物治療、精準醫療、藥品開發等方面皆可發揮作用。醫護人員再加上AI工具，可以更完善解決未來對於醫療照護需求的增加。」 投入並深化技術能力，以掌握下一波科技創新 其中包括可展現更多人類學習能力的下一代「可解釋的人工智慧」 (Explainable Artificial Intelligence，XAI），以及相關技術，例如電腦系統架構（軟體、韌體、硬體整合）和認知科學(Cognitive Science）。NRF獎助金和研究計畫將會支持相關科學活動。當地人才也將透過參與AI深度功能的開發進行培訓。 擴大產業對於AI和機器學習的使用 AI.SG將與公司合作，利用AI來提高生產力，創造新產品，並輔導相關解決方案從實驗室進入市場。目標將支持100個AI研發項目和概念驗證，以利用戶能快速解決實際問題。並預計針對金融，醫療照護和城市管理解決方案領域具有特殊的潛力者先著手進行。 AI.SG計畫此項推動工作，未來不僅將可激發新加坡的研究人員和用戶利用AI解決社會重大問題，也將影響全世界渴望利用人工智慧技術帶來更便利的生活，值得我國相關機關推動政策之參考依據。