梵諦岡與IBM、微軟聯合呼籲對臉部辨識等侵入性技術進行監管
2020年2月28日梵諦岡教宗與兩大科技巨頭IBM及微軟聯合簽署「羅馬呼籲AI倫理道德」文件，支持制定人工智慧(AI)發展倫理與道德規範，並特別呼籲應針對臉部辨識等侵入性技術進行監管。在聯合文件上特別提及臉部識別技術潛在之濫用風險，例如警察會使用臉部辨識系統調查犯罪行為、《財富》500強公司使用AI審查求職者，這兩個例子均具有潛在且高度之風險，使用不正確或是具有偏見之AI判斷均可能會造成傷害。誠如方濟各在致辭中說：「人工智慧記錄個人資料，並使用於商業或政治目的，而且通常是在個人不知情之情況下，這種不對稱，將使少數人了解我們的一切，但我們卻對他們一無所知，這將使批判性思維和對自由的自覺變得遲鈍，不平等現象急遽擴大，知識和財富在少數人手中累積，將對民主社會構成重大風險。」
此次會議希望在國家與國際層面上共同努力促進AI道德規範，並根據以下原則來發展和使用人工智慧。第一，良好的創新：人工智慧系統必須是可理解得，並且在包容性方面必須考慮到所有人的需求，以便每個人都能受益。第二，責任：設計和實施人工智慧者必須承擔責任和保持透明度。第三，公正性：避免根據偏見進行創造或採取行動，從而維護人類平等和尊嚴。第四，可靠性：人工智慧系統必須能夠可靠的運行。第五，安全和隱私：人工智慧系統必須安全運行並尊重用戶的隱私。
目前尚不清楚其他技術公司是否會簽署該文件，以及簽署人將如何實施，但教宗與兩大科技巨頭史無前例的合作，為人工智慧未來發展方向提供遠見卓識，能更加深入的去思考AI的道德意涵以及它將如何與人類更好的合作、互動，互利共生，相輔相成。
蘇偉綸
副法律研究員 編譯整理
1. Philip Pullella, Jeffrey Dastin, Vatican joins IBM, Microsoft to call for facial recognition regulation, Reuters, Feb. 28, 2020, https://www.reuters.com/article/us-vatican-artificial-intelligence/vatican-joins-ibm-microsoft-to-call-for-facial-recognition-regulation-idUSKCN20M0Z1 (last visited May 2, 2020).
2. Jen Copestake, AI ethics backed by Pope and tech giants in new plan, BBC, Feb. 28, 2020, https://www.bbc.com/news/technology-51673296 (last visited May 2, 2020).
3. Rome Call for AI Ethics, Rome Call, https://romecall.org/2020/02/28/rome-call-for-ai-ethics/ (last visited May 2, 2020).
.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 美國商務部工業暨安全局（Bureau of Industry and Security, BIS）於2024年9月23日公布「確保聯網車輛資通訊技術及服務供應鏈安全」（Securing the Information and Communications Technology and Services Supply Chain: Connected Vehicles）法規預告（Notice of Proposed Rulemaking, NPRM），旨在透過進口管制措施，保護美國聯網車供應鏈及使用安全，避免國家受到境外敵對勢力的威脅。 相較於BIS於2024年3月1日公布的法規制定預告（Advanced Notice of Proposed Rulemaking, ANPRM），NPRM明確指出受進口管制的國家為中國及俄國，並將聯網車輛資通訊技術及服務之定義，限縮於車載資通訊系統、自動駕駛系統及衛星或蜂巢式通訊系統，排除資訊洩漏風險較小的車載操作系統、駕駛輔助系統及電池管理系統。NPRM定義三種禁止交易型態：（1）禁止進口商將任何由中國或俄國擁有、控制或指揮的組織（下稱「中俄組織」）設計、開發、生產或供應（下稱「提供」）的車輛互聯系統（vehicle connectivity system, VCS）硬體進口至美國；（2）禁止聯網車製造商於美國進口或銷售含有中俄組織所提供的軟體之聯網整車；（3）禁止受中俄擁有、控制或指揮的製造商於美國銷售此類整車。 NPRM亦提出兩種例外授權的制度：在特定條件下，例如年產量少於1000輛車、每年行駛公共道路少於30天等，廠商無須事前通知BIS，即可進行交易，然而須保存相關合規證明文件；不符前述一般授權資格者，可申請特殊授權，根據國安風險進行個案審查。其審查重點包含外國干預、資料洩漏、遠端控制潛力等風險。此外，為提升供應鏈透明度並檢查合規性，BIS預計要求VCS硬體進口商及聯網車製造商，每年針對涉及外國利益的交易，提交符合性聲明，並附軟硬體物料清單（Bill of Materials, BOM）證明。BIS針對此規範是否有效且必要進行意見徵詢，值得我國持續關注。
我國生物與遺傳資源權利歸屬及管理思維初探 新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施： （1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。 （2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。 （3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。 （4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。 （5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。 CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
英國Ofcom宣布改善消費者轉換服務業者之流程英國電信管制機關Ofocm於2013年8月宣布了新的措施，目的在幫助消費者轉換其電話和寬頻服務業者時，更加輕鬆與方便。 當消費者計畫轉換其寬頻服務業者時，時常面臨著必須許多不同業者的手續、流程，包含轉換與被轉換的業者，以及中介服務的業者。如此複雜的轉換過程造成混亂，也容易讓消費者認為轉換服務業者是很麻煩的，某種程度上阻礙消費者選擇較佳服務業者的機會。 Ofcom的研究指出，在轉換業者的過程中，最大的阻礙在於，消費者有時覺得不好意思向目前提供服務的業者提出轉換的申請，在這樣的過程中，現在的業者有很多的主導權，例如對於轉換過程的遲延或服務的中斷，均導致消費者承受不必要的拖累。 為了解決這些問題，Ofcom決定，未來當消費者計畫轉換服務業者時，只需要遵循一個單一的轉換程序，由新的服務業者代表消費者進行此一過程。 這個「由遷入供應商主導（gaining provider led，GPL）」的過程中，已廣泛的是用於電話和寬頻服務之轉換程序，消費者將不再需要聯繫他們現有的服務業者、收到一個編號，以轉換業者。 Ofcom還設置了額外的措施，以幫助防止消費者在轉換的過程中遭遇服務的中斷、或是有未經消費者同意的轉換。 一個明確的和改進的切換過程中，以幫助消費者。 Ofcom在既有GPL程序的基礎上進行改善，制訂單一的流程，強化流程的監督，為消費者提供增值收益。 根據Ofcom初步制訂的單一轉換流程，服務業者必須遵守以下指示： ‧留存每一位消費者轉換服務的相關同意記錄，以保護消費者在不知情之下，被轉換到不同的業者； ‧防止消費者轉換時出現服務的空窗期，特別是電話和寬頻服務的轉換； ‧給消費者提供關於業者服務品質的資訊，如提前終止服務時，可能需負擔的額外費用變化，使消費者可以做出明智的決定。 Ofcom計畫於2014年初將細部程序制訂並執行，並可能提出下一階段的工作，涵蓋兩個關鍵領域： ‧持續與業者溝通，確保消費者得到更好的保護； ‧進一步改進電話、不同類型的寬頻服務、不同類型的網路之間的轉換（例如Cable網路）