梵諦岡與IBM、微軟聯合呼籲對臉部辨識等侵入性技術進行監管
2020年2月28日梵諦岡教宗與兩大科技巨頭IBM及微軟聯合簽署「羅馬呼籲AI倫理道德」文件，支持制定人工智慧(AI)發展倫理與道德規範，並特別呼籲應針對臉部辨識等侵入性技術進行監管。在聯合文件上特別提及臉部識別技術潛在之濫用風險，例如警察會使用臉部辨識系統調查犯罪行為、《財富》500強公司使用AI審查求職者，這兩個例子均具有潛在且高度之風險，使用不正確或是具有偏見之AI判斷均可能會造成傷害。誠如方濟各在致辭中說：「人工智慧記錄個人資料，並使用於商業或政治目的，而且通常是在個人不知情之情況下，這種不對稱，將使少數人了解我們的一切，但我們卻對他們一無所知，這將使批判性思維和對自由的自覺變得遲鈍，不平等現象急遽擴大，知識和財富在少數人手中累積，將對民主社會構成重大風險。」
此次會議希望在國家與國際層面上共同努力促進AI道德規範，並根據以下原則來發展和使用人工智慧。第一，良好的創新：人工智慧系統必須是可理解得，並且在包容性方面必須考慮到所有人的需求，以便每個人都能受益。第二，責任：設計和實施人工智慧者必須承擔責任和保持透明度。第三，公正性：避免根據偏見進行創造或採取行動，從而維護人類平等和尊嚴。第四，可靠性：人工智慧系統必須能夠可靠的運行。第五，安全和隱私：人工智慧系統必須安全運行並尊重用戶的隱私。
目前尚不清楚其他技術公司是否會簽署該文件，以及簽署人將如何實施，但教宗與兩大科技巨頭史無前例的合作，為人工智慧未來發展方向提供遠見卓識，能更加深入的去思考AI的道德意涵以及它將如何與人類更好的合作、互動，互利共生，相輔相成。
蘇偉綸
副法律研究員 編譯整理
1. Philip Pullella, Jeffrey Dastin, Vatican joins IBM, Microsoft to call for facial recognition regulation, Reuters, Feb. 28, 2020, https://www.reuters.com/article/us-vatican-artificial-intelligence/vatican-joins-ibm-microsoft-to-call-for-facial-recognition-regulation-idUSKCN20M0Z1 (last visited May 2, 2020).
2. Jen Copestake, AI ethics backed by Pope and tech giants in new plan, BBC, Feb. 28, 2020, https://www.bbc.com/news/technology-51673296 (last visited May 2, 2020).
3. Rome Call for AI Ethics, Rome Call, https://romecall.org/2020/02/28/rome-call-for-ai-ethics/ (last visited May 2, 2020).
英國上議院人工智慧專責委員會（Select Committee on Artificial Intelligence）2018年4月18日公開「AI在英國：準備、意願與可能性？（AI in the UK: ready, willing and able?）」報告，針對AI可能產生的影響與議題提出政策建議。 委員會建議為避免AI的系統與應用上出現偏頗，應注重大量資訊蒐集之方式；無論是企業或學術界，皆應於人民隱私獲得保障之情況下方有合理近用數據資訊的權利。因此為建立保護框架與相關機制，其呼籲政府應主動檢視潛在英國中大型科技公司壟斷數據之可能性；為使AI的發展具有可理解性和避免產生偏見，政府應提供誘因發展審查AI領域中資訊應用之方法，並鼓勵增加AI人才訓練與招募的多元性。 再者，為促進AI應用之意識與了解，委員會建議產業應建立機制，知會消費者其應用AI做出敏感決策的時機。為因應AI對就業市場之衝擊，建議利用如國家再訓練方案發展再訓練之計畫，並於早期教育中即加入AI教育；並促進公部門AI之發展與布建，特別於健康照顧應用層面。另外，針對AI失靈可能性，應釐清目前法律領域是否足以因應其失靈所造成之損害，並應提供資金進行更進一步之研究，特別於網路安全風險之面向。 本報告並期待建立AI共通之倫理原則，為未來AI相關管制奠定初步基礎與框架。
何謂「循環經濟」？循環經濟（Circular Economy）不僅是資源回收或廢棄物利用，循環經濟強調的核心概念是創造資源利用的最大效益，有別於傳統經濟模式在資源利用上「開採、製造、使用、丟棄」的線性歷程，循環經濟加入了減少廢棄物產生、資源重覆與有效利用的概念，讓資源利用與產品的生成不再是有去無回的單向線性歷程。 循環經濟的概念能夠套用到所有產品的生命歷程當中，自產品設計、生產、物流、銷售、使用、回收，到投入新的產品生命歷程，以環型的資源利用歷程，加入各種資源再利用的方式，並盡可能減少真正廢棄物的生成。與此相關聯的包含新興科技如大數據、物聯網之應用，到創新商業模式的生成，都可以是循環經濟的一部分。 循環經濟所揭示的概念，是讓產業發展與環境保護能攜手同行，創造資源利用的最大效益。在歐盟「展望2020計畫」（Horizon 2020）當中，也同樣把循環經濟列為計畫的重要領域之一，循環經濟時代來臨所揭櫫的不僅僅是在資源回收、或是幾種廢棄物再利用的技術，而是對經濟體系當中資源運用歷程的重新形塑，與新興科技及商業模式創新均密不可分。
美國各州逐步研議透過立法豁免企業資安事件賠償責任美國各州逐步研議透過立法豁免企業資安事件賠償責任 資訊工業策進會科技法律研究所 2024年06月10日 為鼓勵企業採用資安標準與框架，美國已有幾州開始透過立法限縮企業資安事件賠償責任，企業若能舉證證明已符合法令或遵循業界認可之資安框架和標準，則於資安攻擊事件所致損害賠償訴訟中，將無需承擔賠償責任。 壹、事件摘要 為避免有心人士於未取得經授權下近用網路和敏感資料，企業往往投入大量資源打造資安防護架構，惟在現今網路威脅複雜多變的環境下，仍可能受到惡意資安攻擊，導致資料外洩事件發生，導致企業進一步面臨訴訟求償風險，其中多數指控為未實施適當的資安措施。為此美國佛羅里達州和西維吉尼亞州研議透過立法限縮企業之資安事件賠償責任，以鼓勵企業採用資安標準、框架與資安相關法令。 貳、重點說明 繼美國俄亥俄州[1]、猶他州[2]和康乃狄克州[3]相繼頒布法令，讓已實施適當安全維護措施之企業，豁免資安攻擊所致資料外洩之損害賠償責任，佛羅里達州和西維吉尼亞州近期亦提出相似法案，以下介紹兩州法案之重點： 一、佛羅里達州 美國佛羅里達州於2023年11月公布《資安事件責任法案》 （H.B 473: Cybersecurity Incident Liability）[4]，法案納入「安全港條款」（Safe Harbor），當企業遭受資安攻擊致生個資外洩事件，如可證明已遵循產業認可的資安標準或框架，實施適當的資安措施與風險控管機制，則可免於賠償責任，以鼓勵企業採納資安標準或框架。 為適用安全港條款，企業須遵循佛羅里達州資訊保護法（The Florida Information Protection Act），針對資料外洩事件，通知個人、監管機關和消費者，並建立與法案內所列當前產業認可的資安標準、框架，或是特定法令規範之內容具一致性的資安計畫（Cybersecurity Programs）： （一）當前產業認可的資安標準、框架 1. 國家標準暨技術研究院（National Institute of Standards and Technology, NIST）改善關鍵基礎設施資安框架（Framework for Improving Critical Infrastructure Cybersecurity）。 2. NIST SP 800-171－保護非聯邦系統和企業中的受控非機密資訊。 3. NIST SP 800-53 和 SP 800-53A－ 資訊系統和企業的安全和隱私控制/ 評估資訊系統和企業中的安全和隱私控制。 4. 聯邦政府風險與授權管理計畫（Federal Risk and Authorization Management Program, FedRAMP）安全評估框架。 5. 資安中心（ The Center for Internet Security, CIS）關鍵安全控制。[5] 6. ISO/IEC 27000系列標準。 7. 健康資訊信任聯盟（The Health Information Trust Alliance, HITRUST）通用安全框架（Common Security Framework）[6]。 8. 服務企業控制措施類型二（Service Organization Control Type 2, SOC 2）框架。 9. 安全控制措施框架（Secure Controls Framework）。 10. 其他類似的產業標準或框架。 （二）特定法令規範 企業（entity）如受以下法令規範，亦得適用安全港條款，如法令有修訂，企業應在發布修訂後的一年內更新其資安計畫： 1. 健康保險可攜與責任法（The Health Insurance Portability and Accountability Act, HIPAA）之安全要求。 2. 金融服務現代化法（The Gramm-Leach-Bliley Act）第五章。 3. 2014 年聯邦資訊安全現代化法（The Federal Information Security Modernization Act of 2014）。 4. 健康資訊科技促進經濟和臨床健康法（The Health Information Technology for Economic and Clinical Health Act, HITECH）之安全要求。 5. 刑事司法資訊服務系統 （The Criminal Justice Information Services, CJIS）安全政策。 6. 州或聯邦法律規定的其他類似要求。 該法案雖於2024年3月5日經佛羅里達州參議院三讀通過，但於2024年6月26日遭州長否決[7]，其表示法案對於企業的保障範圍過於廣泛，如企業採取基礎的資安措施與風險控管機制，便得主張適用安全港條款，將可能導致消費者於發生個資外洩事件時，無法受到足夠的保障。州政府鼓勵利害關係人與該州網路安全諮詢委員會（Florida Cybersecurity Advisory Council）合作，探求法案的替代方案，以保護消費者資料。 二、西維吉尼亞州 美國西維吉尼亞州於2024年1月29日提出眾議院第5338號法案[8]，修訂西維吉尼亞法典（Code of West Virginia），增訂第8H章資安計畫安全港條款（Safe Harbor for Cybersecurity Programs），如企業符合業界認可的資安標準、框架或依特定法令建立與實施資安計畫，包含個人資訊和機敏資料的管理、技術和企業保障措施，將能夠於侵權訴訟中，主張適用避風港條款。 法令內明列評估企業所建立的資安計畫規模和範圍是否適當之要素，包含： 1. 企業的規模和複雜性； 2. 企業的活動性質和範圍； 3. 受保護資訊的敏感性； 4. 使用資安防護工具之成本和可用性； 5. 企業可運用的資源。 （一）當前產業認可的資安標準、框架 除與佛羅里達州法案所列舉業界認可的資安標準之前六項相同，另增加： 1 NIST SP 800-76-2個人身分驗證生物辨識規範（Biometric Specifications for Personal Identity Verification）[9]。 2. 資安成熟度模型認證（The Cybersecurity Maturity Model Certification, CMMC）至少達到第2級，並經外部驗證（external certification）。 （二）特定法令規範 除與佛羅里達州法案所列舉特定法令之前四項相同，另增加：由聯邦環境保護局（Environmental Protection Agency, EPA）、資安暨基礎設施安全局（Cybersecurity and Infrastructure Security Agency, CISA）或北美可靠性公司（North American Reliability Corporation）[10]所採用任何適用於關鍵基礎設施保護的規則、法規或指南。 惟目前法案已於2024年3月27日被西維吉尼亞州長否決[11]，其表示透過安全港條款鼓勵企業實踐資安框架雖立意良好，但也可能遭濫用而帶來不當影響，例如TikTok等大型國際企業，如在違背公民意願情況下共享個人資料時，將免於訴訟，恐有損其公民權益，未來州政府將與利害關係人持續進行協商。 參、事件評析 佛羅里達州和西維吉尼亞州近期同步公布有關限制企業於資安事件之責任相關法案，內容亦為相似，西維吉尼亞州之法案目前已遭否決，主要係擔心該豁免條款遭到不當濫用；佛羅里達州之法案亦因對於企業保障過廣與無法保障消費者個資安全考量，而遭州長否決。 法案中明列受產業普遍認可的資安標準、框架與政府所頒布特定法令，有助企業明確遵循與採納，建立與實施資安計畫，惟如何舉證所建立之資安計畫或實施之資安措施，與法案所列之資安標準、框架，或是特定法令規範，具有實質上的一致性，仍不明確，將可能阻礙企業於訴訟上行使抗辯與主張責任豁免權。未來美國如何權衡產業穩健發展與民眾個資保障，仍有待持續觀察。 [1] Chapter 1354 - Ohio Revised Code, Ohio Laws, https://codes.ohio.gov/ohio-revised-code/chapter-1354 (last visited May 24, 2024). [2]Part 7 Cybersecurity Affirmative Defense Act, Utah StateLegislative, https://le.utah.gov/xcode/Title78B/Chapter4/78B-4-P7.html (last visited May 24, 2024). [3]Frederick Scholl, Connecticut’s New Breach Notification and Data Security Laws: Carrots and Sticks, Quinnipiac University, July,1,2021,https://www.qu.edu/quinnipiac-today/connecticuts-new-breach-notification-and-data-security-laws-2021-07-01/ (last visited May 24, 2024). [4]CSHB 473-Cybersecurity Incident Liability, The Florida Senate,https://www.flsenate.gov/Session/Bill/2024/473 (last visited Jun. 28, 2024). [5]資安中心（ The Center for Internet Security, CIS）為美國非營利組織，負責推動CIS Controls，針對實際發生的資安攻擊行為提供防禦建議，作為企業保護 IT 系統和資料時可參考之最佳實務作法。資料來源：About us, Center for Internet Security, https://www.cisecurity.org/about-us (last visited Jun. 6, 2024). [6]What is HITRUST?, Schneider Downs,https://schneiderdowns.com/cybersecurity/what-is-hitrust/ (last visited May 24, 2024). [7]Governor of Florida, Vote letter for House Bill 473(2024), https://www.flgov.com/wp-content/uploads/2024/06/Veto-Letter_HB-473.pdf (last visited Jun. 28, 2024). [8]2024 REGULAR SESSION ENROLLED Committee Substitute for House Bill 5338, WEST VIRGINIA LEGISLATURE,https://www.wvlegislature.gov/Bill_Status/bills_text.cfm?billdoc=hb5338%20sub%20enr.htm&yr=2024&sesstype=RS&i=5338 (last visited May 24, 2024). [9]NIST SP 800-76-2 Biometric Specifications for Personal Identity Verification, National Institute of Standards and Technology, https://csrc.nist.gov/pubs/sp/800/76/2/final (last visited May 24, 2024). [10]北美電力可靠性公司（North American Electric Reliability Corporation, NERC），為一家非營利機構，致力推動關鍵基礎設施保護相關標準，以強化北美大規模電力系統（亦即電網）的可靠性和安全性，資料來源：https://www.nerc.com/Pages/default.aspx (last visited May 24, 2024). [11]Governor of West Virginia, Enrolled Committee Substitute for House Bill 5338(2024),https://www.wvlegislature.gov/Bill_Text_HTML/2024_SESSIONS/RS/veto_messages/HB5338.pdf (last visited May 24, 2024).
美國加密法案隨潮流再起緣起於2016年的加密法案（ENCRYPT Act），由於今年發生了臉書劍橋分析事件，以及歐盟GDPR的影響，本此法案再提的聲勢如浪潮襲來，不僅眾多議員附和，連企業（如：電子前線基金會Electronic Frontier Foundation，EFF）都予以支持。 加密法案的主要內容係以兩方面進行加密應用之保護， 各州州政府不得授權或要求產品或服務的製造商、開發商、銷售商或供應商，（A）設計或更改產品或服務中的安全功能，以供其進行監視或允許其進行實體搜索；（B）使其有能力解密或便於理解加密應用後的內容。 各州州政府不得禁止加密或類似安全功能的產品或服務，進行製造、銷售或租賃、提供銷售或租賃, 或向公眾提供覆蓋的產品或服務。此外，法案亦針對相關服務或產品的定義作了明確的說明。 本法案的主要提案者美國眾議員Ted Lieu指出，與加密或資料存取相關的問題，皆應在聯邦政府的層級進行討論，而就其本身電腦科學的專業，指出在各州間保有不同的加密應用執法標準，對資安、消費者、創新，以及執法本身都是不利的，引此本法案的推動旨在強化州際商業和經濟安全，以及網路安全問題，希望能對加密應用議題作全國性的討論，而不會損害使用者在過程中的安全性。