梵諦岡與IBM、微軟聯合呼籲對臉部辨識等侵入性技術進行監管
2020年2月28日梵諦岡教宗與兩大科技巨頭IBM及微軟聯合簽署「羅馬呼籲AI倫理道德」文件，支持制定人工智慧(AI)發展倫理與道德規範，並特別呼籲應針對臉部辨識等侵入性技術進行監管。在聯合文件上特別提及臉部識別技術潛在之濫用風險，例如警察會使用臉部辨識系統調查犯罪行為、《財富》500強公司使用AI審查求職者，這兩個例子均具有潛在且高度之風險，使用不正確或是具有偏見之AI判斷均可能會造成傷害。誠如方濟各在致辭中說：「人工智慧記錄個人資料，並使用於商業或政治目的，而且通常是在個人不知情之情況下，這種不對稱，將使少數人了解我們的一切，但我們卻對他們一無所知，這將使批判性思維和對自由的自覺變得遲鈍，不平等現象急遽擴大，知識和財富在少數人手中累積，將對民主社會構成重大風險。」
此次會議希望在國家與國際層面上共同努力促進AI道德規範，並根據以下原則來發展和使用人工智慧。第一，良好的創新：人工智慧系統必須是可理解得，並且在包容性方面必須考慮到所有人的需求，以便每個人都能受益。第二，責任：設計和實施人工智慧者必須承擔責任和保持透明度。第三，公正性：避免根據偏見進行創造或採取行動，從而維護人類平等和尊嚴。第四，可靠性：人工智慧系統必須能夠可靠的運行。第五，安全和隱私：人工智慧系統必須安全運行並尊重用戶的隱私。
目前尚不清楚其他技術公司是否會簽署該文件，以及簽署人將如何實施，但教宗與兩大科技巨頭史無前例的合作，為人工智慧未來發展方向提供遠見卓識，能更加深入的去思考AI的道德意涵以及它將如何與人類更好的合作、互動，互利共生，相輔相成。
蘇偉綸
副法律研究員 編譯整理
1. Philip Pullella, Jeffrey Dastin, Vatican joins IBM, Microsoft to call for facial recognition regulation, Reuters, Feb. 28, 2020, https://www.reuters.com/article/us-vatican-artificial-intelligence/vatican-joins-ibm-microsoft-to-call-for-facial-recognition-regulation-idUSKCN20M0Z1 (last visited May 2, 2020).
2. Jen Copestake, AI ethics backed by Pope and tech giants in new plan, BBC, Feb. 28, 2020, https://www.bbc.com/news/technology-51673296 (last visited May 2, 2020).
3. Rome Call for AI Ethics, Rome Call, https://romecall.org/2020/02/28/rome-call-for-ai-ethics/ (last visited May 2, 2020).
經產省為了在智慧家庭領域創造新事業，整備相關資料活用環境，蒐集共有及分析從多種多樣機器及服務所實際產出之資料，於2017年8月開始實施實證實驗。在實施前，為了使參加實證之民間公司間，得為資訊合作而完備相關規則及保安對策，於5月24日召開「智慧家庭資料活用環境整備推進事業」檢討會。因物聯網（IoT）的擴大得以蒐集龐大資料，以及現在人工智慧（AI）解析能力提高下，期待在各種領域提高生產效率及創造新的事業模式。特別是在智慧家庭領域，其在「新產業構造願景的中間整理」（2016年4月27日、產業構造審議會新產業構造部會）中，為有力重要領域。因此，以IoT技術等使家庭內機器網路化，活用此一資料，除了使既存事業模式發生變革或創造新事業模式外，也期待可以透過把握製品之使用資訊，而提高產品回收（recall）率，並促進資源回收以及家庭部門節能化等相關社會課題解決上。為此，本事業係以對於家庭內機器網路化及透過此而創造新事業為目標，整備事業環境與社會課題及各主題新事業服務創造相連結，因應每個人的生活模式而使得生活空間客製化成為可能，實現智慧家庭之社會目標。
美國聯邦上訴法院判決，加州政府禁止販賣暴力電玩予未成年人之法案，係屬違憲美國聯邦第九區巡迴上訴法院，於2009年2月20日判決中維持下級審見解，認定『禁止暴力電玩法案』係違反憲法所保護的言論自由。系爭法案於2005年由加州國會通過，並由州長Arnold Schwarzenegger所簽署批准。根據該法案規定，禁止販售或出租所謂『特別殘酷、極端邪惡或道德敗壞（especially heinous, cruel or depraved）』的暴力電玩給未滿18歲的未成年人；符合法條所描述之暴力電玩並應該在包裝盒上加註除現行ESRB分級標誌以外的特別標示（18禁）；且賦予零售商於販賣暴力電玩時，有檢查顧客年齡之義務，違者將可處1000美元罰款。 聯邦法院法官認為，被告（加州政府）無法證明『暴力電玩』會影響青少年心理及精神方面的健康，或者出現反社會或激進的行為舉止；被告也無法證明透過立法禁止的手段，能有效達到法案所宣稱保護未成年人的立法目的；法院也認為，系爭條文規定過於模糊，並未能說明暴力電玩之判斷標準。 原告Video Software Dealers Association 和Entertainment Software Association表示，要達到加州政府所宣稱的保護未成年人的立法目的，應從加強既有ESRB分級制度的教育宣導、落實零售商遵守分級制度以及透過父母的管教監督等方式著手，而非增加不適當的內容審查機制。然而，支持該法案者則主張，禁止暴力電玩如同禁止對未成年人散佈色情內容一樣（最高法院認為政府禁止對未成年人散佈色情內容並未違憲），本案被告加州州長Schwarzenegger也表示將上訴到底。 日前在德國也出現修正刑法，將販賣或散佈暴力電玩入罪之提議，在暴力電玩分級制度所引起的爭議日益擴大之際，各國相關作法及其所引起之爭議，或許值得我國主管機關重新檢討「電腦軟體分級辦法」之借鏡參考。
美國眾議院提出「深度偽造究責法案」隨著人工智慧（AI）視覺處理技術愈發進步，圖片及影像的篡改也更加普遍，甚至使人難以分辨其真偽，例如一款應用程式（App）－DeepNude便是運用此技術，將人穿著衣服的照片改作為裸體圖像；此種AI技術因對於社會及被偽造之當事人權益影響重大，進而引起美國立法者的極度重視。 日前維吉尼亞州為了遏止如DeepNude此類的應用程式，便於該州之《復仇式色情法》（Revenge porn law），擴大復仇式色情的涵蓋範圍，使其包括利用機器學習技術偽造他人照片或影像等深度偽造（Deepfake）行為。 但該深度偽造技術之應用，實際上並不僅侷限於情色領域，故美國紐約州眾議員伊薇特．克拉克（Yvette Clarke）於本年度（2019年）6月即提出了《深度偽造究責法案》（Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019., DEEP FAKES Accountability Act.）草案，本草案令人關注之處除配合現今科技發展特性為規定外，另針對實務上曾衍生的爭議問題，特別將外國勢力或其代理人（foreign power or an agent thereof）介入美國國內政治行為，如意圖影響美國國內公共政策辯論(domestic public policy debate)、選舉或其他不得合法從事的行為等納入規範。 依該草案之內容，其所規範者包含視聽紀錄、視覺紀錄及錄音紀錄；意即任何人使用任何技術或設備製作假冒他人名義（false personation）的紀錄，並於網路或其他知識傳播管道發布者，應有浮水印、口頭陳述或是於文本中有簡要說明等揭露，以使他人得清楚知悉該紀錄並非真實，如行為人有違反該揭露規定並利用深度偽造1.意圖羞辱或騷擾(包含性內容)；2.意圖造成暴力、身體傷害、煽動暴亂、外交衝突或干預選舉；3.詐欺犯罪等，將可處5年以下有期徒刑，或科或併科罰金。另若行為人修改或刪除他人揭露之資訊而有上述意圖或犯罪行為者，亦可處以同等罰責。