德國社群媒體管理草案交付立法程序
德國總理梅克爾（Angela Merkel）所領導的內閣於2017年4月5日通過社群媒體管理草案(Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken)，該法案要求社群媒體必須積極管理使用者散布的仇恨言論及假消息，未善盡義務的社群媒體最高可裁罰5千萬歐元。
德國早於2015年12月已與Facebook、Google及Twitter等知名社群網站達成協議，必須在24小時內刪除網站上的不實或違法言論。但根據jugendschutz.net組織公布的數據，Facebook刪除了39％違法內容、Twitter只刪除了1％違法訊息，而Google的Youtube則需要以其他工具進行實測。由於社群媒體自我管理的效果不彰，促使德國政府認為在業者自律之外，必須要制定法律與罰則讓社群媒體負起責任，積極管理網站上使用者的不實與違法言論。
本草案重點包括：
- 適用範圍：本草案適用於電信媒體服務提供商，且該提供商之網路平台係以營利為目的，允許使用者與其他使用者共享訊息或對大眾分享任何資訊。
- 社群媒體必須設立24小時受理案件之投訴管道。
- 接到投訴後，社群媒體必須在24小時內刪除「明顯違法」之內容，其他有爭議的內容必須在7天內確認並刪除違法內容。
- 社群媒體必須定期提供主管機關其投訴之處置報告。
本草案已送交德國立法機關進行立法程序，但反對者認為一旦通過立法，可能會對言論自由產生不良影響，並抑制網路言論的發表。德國對於社群媒體之管理，值得持續關注。
- Emelina Perez, Germany cabinet approves bill requiring social networks to remove hate speech, JURIST LEGAL NEWS
- Natasha Lomas, German cabinet backs €50M hate speech fines for social media firms, TECHCRUNCH
- Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken, BUNDESMINISTERIUM DER JUSTIZ UND FÜR VERBRAUCHERSCHUTZ
吳采薇
法律研究員 編譯整理
Emelina Perez, Germany cabinet approves bill requiring social networks to remove hate speech, JURIST LEGAL NEWS, http://www.jurist.org/paperchase/2017/04/germany-cabinet-approves-bill-requiring-social-networks-to-remove-hate-speech.php (last visited Apr. 13, 2017)
Natasha Lomas, German cabinet backs €50M hate speech fines for social media firms, TECHCRUNCH, https://techcrunch.com/2017/04/05/german-cabinet-backs-e50m-hate-speech-fines-for-social-media-firms/ (last visited Apr. 13, 2017)
Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken, BUNDESMINISTERIUM DER JUSTIZ UND FÜR VERBRAUCHERSCHUTZ, http://www.bmjv.de/SharedDocs/Gesetzgebungsverfahren/DE/NetzDG.html (last visited Apr. 13, 2017)
歐盟執委會（European Commission，下稱執委會）於2020年底提出數位服務法（Digital Services Act，DSA）以及數位市場法（Digital Market Act，DMA），而歐洲議會（European Parliament）最終於2022年7月5日以壓倒性的多數決通過上述法案，待歐盟理事會（Council of the European Union）核准通過後，法案將在公告於歐盟官方公報（EU Official Journal）後20天生效，並分別依規定時間開始適用。歐盟理事會已於2022年7月18日率先核准通過DMA，並正進行登載公報相關程序，DMA將於生效日起六個月後開始適用。以下將簡述兩法案主要內容： 1.數位服務法（DSA）：主要係處理線上非法內容、不實資訊以及其他社會風險等散播問題。依DSA，數位服務提供者於其服務或交易平台應針對涉及侵害基本權之非法內容即時採取反制措施、強化平台交易者之查核並提高可追溯性、增加平台的透明度及有責性，並應禁止具誤導性及部分特定類型之定向廣告，如針對兒童的廣告或以敏感資訊為基礎的廣告等。 2.數位市場法（DMA）：要求大型的主流線上平台於數位市場擔任「守門人」（gatekeeper），以確保消費者有公平的交易環境。守門人應與第三方交互使用服務，並使商業用戶得存取於其平台所生之資料，且不得：在其平台的檢索（index）與索引（crawl）相關排名中自我偏好（self-preferencing）自身產品及服務、令使用者難以卸載預先安裝之軟體或應用程式、以廣告為目的利用使用者個資。值得注意的是，執委會得對違反DMA規定之守門人處以其最高全球總營收10%的罰鍰，累犯者之罰鍰上限將提高至年度營收的20%。
美國最高法院裁定暫停執行環保署「清潔電力計畫」美國最高法院在2016年2月9日，以暫時處分裁定美國環保署在「清潔電力計畫」（Clean Power Plan）下所擬訂的「對固定污染源的碳排指引：電業發電單位」（ Carbon Pollution Emission Guidelines for Existing Stationary Sources: Electric Utility Generating Units ），在北新（Basin）電力公司等對其所提起訴訟期間，暫緩實施。 所謂環保署「清潔電力計畫」（Clean Power Plan），係為因應氣候變遷，在2015年8月由美國總統在演說中公布，並於同年10月由美國環署公布「對固定污染源的碳排指引：電業發電單位」最終內容。該計畫的具體目標乃以2005為標準，在2030減少碳排32%，各州並得自行訂訂計畫；預期的計畫效果則包含：保護一般的美國家庭、促進經濟，與協助一般美國家庭節省費用。 由於該案涉及大規模以天然氣、風力與太陽能取代燃煤電廠，2015年的10月23日至11月5日間，由北新與其他近60家電業向聯邦哥倫比亞特區上訴法院（United States Court of Appeals for the District of Columbia Circuit）提出申請暫緩實施之聲請。2016年1月21日 該上訴法院駁回聲請，同月26日原本提出聲請的電業再向最高法院提出暫緩實施之聲請。 在向最高法院的聲請中，業者主張：因系爭指引所規範排放限制量為任何現行發電業者（Electricity Generating Units, EGUs）無法透過現行科技或流程改善單獨達成，將迫使整個電力產業作出轉變。業者並指出，由於淘汰既有電廠與建立新的再生能源計畫皆須長時間的努力來執行，若欲在2022年達成相關目標，電業必須現在就展開行動。 而最高法院也認同業者的主張，指出：因訴訟曠日廢時，若不暫緩實施系爭指引，立即、無法回復、且特別重大的損害將持續發生；且美環署仍將取得該計畫所欲取得之效果，縱使系爭指引最終被廢止。 基於上述理由，最高法院以暫時處分裁定系爭措施暫緩實施。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
巴西政府公布個人數據保護法草案巴西政府於2015年1月28日公布個人資料保護法草案（Regulation Of The Brazilian Internet Act And Bill Of Law On Personal Data Protection），該草案適用於個人和通過自動化方式處理個人資料的公司，惟前提是（1）處理行為發生在巴西或（2）蒐集個人資料行為發生在巴西。該草案將強加規範企業處理其在巴西的個人資料，包括資料保護義務和要求： 一、企業必須使資料當事人能夠自由的、直接的，具體的使當事人知悉並取得人同意以處理個人資料。 二、除了在有限的例外情況下，禁止處理敏感個人資料。例如資料當事人已被告知處理敏感個人資料的相關風險，並有具體的同意。敏感的個人資料包括，種族和民族淵源，宗教，哲學或道德信仰，政治觀點，健康和性取向資料，以及遺傳數據。 三、資料外洩時有義務立即報告主管機關。 四、當個人資料是不完整，不準確或已經過期時，允許資料當事人查詢他們的個人資料並更正之。 五、不得提供個人資料給資料保護水平不相似的國家。 六、有義務依比例原則採取安全保障措施以處理個人數據，防止未經授權的訪問，破壞，丟失，篡改，通訊或傳播資料。