德國聯邦資訊技術，電信和新媒體協會針對AI及自動決策技術利用提出建議指南
德國聯邦資訊技術，電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南（Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen），旨在提升企業數位化與社會責任，並提升消費者權益保護。 本份指南提出六項建議：
- 促進企業內部及外部訂定相關準則
例如規定公司在利用演算法和AI時，必須將影響評估列入開發流程，並列為公司應遵守的道德倫理守則，以確保開發的產品或服務符合公平及道德。 - 提升透明度
使用者如有興趣了解演算法及其含義，企業應協助調查並了解使用者想獲知的訊息，並透過相關訊息管道提升產品及服務透明度。因此，企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下，可能會增加理解性和可追溯性難度，但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中，應特別關注並進一步討論。另外，透過教育及使用說明協助及控制功能，教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段（演算法，機器學習，AI）。除了解釋使用那些技術來改進產品和服務外，應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外，例如透過幫助頁面，儀表板或部落格，解釋發生什麼以及如何做出某些影響深遠的自動化決策，使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施，使用戶理解是否及如何使用相關演算法，此可能包括使用自動化決策，使用特定資料組和使用技術的目的，亦即使用戶對演算法，機器學習或AI支持的決策有基本的了解。 - 為全體利益使用相關技術
人工智慧等新技術之重要性不應被低估，目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言，將可帶來巨大的利益，因此應該充分利用。例如，人工智慧可降低語言障礙，幫助行動不便的人可更加獨立自主生活，改善醫療診斷，提升能源供應效率，甚至是交通規劃和搜索停車位，都只是人工智慧偉大且已被使用的案例。為促進技術發展，應公平地利用其優勢並預留商業應用模式的空間，同時充分解決涉及的具體風險。產業特定的解決方案十分重要，但應兼顧受影響者的利益，並與廣大公眾利益找出妥協平衡點，且應排除不適當的歧視。建議在使用決策支持技術時，應事先檢查相關後果並與其利益比較。例如，可以在資料保護影響評估的框架進行。作為道德準則的一部分，必須確保演算法盡可能量準確地預測結果。 - 開發安全的資料基礎
資料係人工智慧支援決策的基礎。與人為決策者相同，資料不完整或錯誤，將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭，如果可能的話，只有匯總或非個人資料可用於分析或分類用戶群組。因此，確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況，特別是在自我學習系統中資料引入的標準，並根據錯誤來源進行檢查，且儘可能全面記錄，針對個人資料部分更應謹慎處理。 - 解決機器偏差問題
應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法，機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要，在開發預期用途的演算法時必須納入考量，對員工應針對道德影響進行培訓，並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題，並特別注意資料饋送，以及開發用於檢測模式的內、外部測試流程。 - 適合個別領域的具體措施和文件
在特別需要負責的決策過程，例如在車輛的自動控制或醫療診斷中，應設計成由責任主體保留最終的決策權力，直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任，並非透過對方法的無條件追踪來實現，而是經過仔細測試，學習和記錄來實現
本文為「經濟部產業技術司科技專案成果」
潘俊良
高級法律研究員 編譯整理
Bitkom e.V. ,Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen, https://www.bitkom.org/Bitkom/Publikationen/Empfehlungen-fuer-den-verantwortlichen-Einsatz-von-KI-und-automatisierten-Entscheidungen-Corporate-Digital-Responsibility-and-Decision-Making.html
Bundesministerin der Justiz und für Verbraucherschutz, Impulspapier zur Konferenz am Safer Internet Day 2018 „Künstliche Intelligenz – Dein Freund und Helfer?“, https://www.bmjv.de/SharedDocs/Downloads/DE/News/Artikel/020618_SaferInternetDay_Impulspapier.pdf?__blob=publicationFile&v=1
美國司法部（Department of Justice, DOJ）於2025年1月8日發布「防止受關注國家或個人近用美國敏感個人資料與政府相關資料」（Preventing Access to U.S. Sensitive Personal Data and Government-Related Data by Countries of Concern or Covered Persons）之最終規則。該規則旨在避免特定國家或個人獲取大量國民敏感個人資料及政府相關資料，以降低國安威脅。 最終規則指出，去識別化敏感個人資料若經大量蒐集，仍可能被重新識別，因此原則上禁止或限制任何美國人在知情的情況下，與受關注的國家或個人進行該等資料的大量交易。其將敏感個人資料定義為社會安全碼、精確地理位置、車輛遙測資訊（vehicle telemetry information）、基因組以及個人健康、財務資料或其他足資識別個人之資料，並定義禁止及限制交易的型態。同時，最終規則除設有若干豁免交易類型外，也定有一般及特別許可交易規定，並授權司法部得核發、修改或撤銷前述許可。一般許可交易的類型將由總檢察長另行公布；特別許可則由總檢察長依個案酌情例外核准。 該規則課予交易方持續報告（reporting）、盡職調查（due diligence）、稽核（audit）、紀錄留存（recordkeeping）等義務，並針對涉及政府相關資訊或美國國民大量敏感個人資訊之商業交易，例如投資、雇傭、資料仲介（data brokerage）及供應商契約，提出資安要求，以降低受關注國家或個人獲取該類特定資訊的風險。最後，該規則定有民事罰款（37萬美金以下）、刑事處罰（100萬美金以下或20年以下徒刑），並設立申訴之救濟措施。
iTrip 在英國即將合法在喜愛使用民用電台的狂熱份子和那些想在汽車音響使用iPod的民眾的推波助瀾下，英國電訊局Ofcom計畫在2006年秋天鬆綁其對低功率FM傳輸器的管制。 在英國，利用像iTrip這樣調頻傳輸的小裝置，插在iPod、MP3 player、汽車音響或者其他無線電接收設備上來收聽FM廣播是不合法的。為了廣播系統不被干擾，英國1949年的無線電信法（UK Wireless Telegraphy Act of 1949）規定，唯有拿到FM廣播頻率執照者才有權使用該頻寬。不過，這項對低功率FM傳輸器的管制即將解除。 1949年的無線電信法是過時的。英國電訊局發現，只有極少數未經英國政府許可執照的廣播電台因違法被起訴，因為低功率的傳輸器會干擾廣播系統的可能性極低，當初制定該法的目的幾乎不會被影響。廣大消費者希望能透過車上立體音響來使用iPod聽音樂的需求也遽增，這都是促使Ofcom計畫開放原先限制的理由。 一份Ofcom的聲明指出了其鬆綁的目的：「任何降低法律負擔的目的，都是為了鼓勵創新廣播技術和應用發展。其中一個方式就是開放收聽廣播的設備的使用，解除有使用頻譜需求而需要申請執照的限制。」
英國將修法廢除非營利團體合理使用錄音著作相關規定英國的1988年智慧財產權法（The Copyright, Designs and Patents Act of 1988）長久以來，對於慈善及非營利團體在公開場合或活動中播放音樂，一直給予合理使用的空間。然當相關團體受惠於此一規定時，創作人跟表演人卻不樂見此情形。因此，英國主管機關針對此一合理使用規範，在2008年對相關團體進行了意見徵詢。 在2008年10底截止的意見徵詢中，對於改變錄音著作與表演人權利的公開演播合理使用空間，提供了下列三個選項： 一、 完全廢除此一合理使用空間 二、 縮小適用的團體範疇 三、 廢除合理使用空間，但權利人只能以對雙方都公平的費率收取權利金 近日，英國政府宣布根據前述的意見徵詢結果，將廢除慈善與非營利團體的合理使用規定，從2010年4月開始這些團體將必須負擔一個固定的年費，才能在活動或公開場合中使用音樂，但截至目前為止，使用的費率為何尚未確定，但主管機關表示，希望一年不超過100英鎊。 主管機關接下來將對費率部分開始徵詢意見，對於1988年智慧財產權法也預期會進行修正，並於2010年4月開始落實相關規範。這樣的改變對於慈善團體而言固然感到失望，相關團體也以未來在活動場合中，不播放音樂或不付權利金來做為要脅，但整體發展仍有待後續觀察。
世界衛生組織發布人工智慧於健康領域之監管考量因素文件，期能協助各國有效監管健康領域之人工智慧世界衛生組織（World Health Organization, WHO）於2023年10月19日發布「人工智慧於健康領域之監管考量因素」（Regulatory considerations on artificial intelligence for health）文件，旨在協助各國有效監管健康領域之人工智慧，發揮其潛力同時最大限度地降低風險。本文件以下列六個領域概述健康人工智慧之監管考量因素： （1）文件化與透明度（Documentation and transparency） 開發者應預先規範（pre-specifying）以及明確記錄人工智慧系統（以下簡稱AI系統）之預期醫療目的與開發過程，如AI系統所欲解決之問題，以及資料集之選擇與利用、參考標準、參數、指標、於各開發階段與原始計畫之偏離及更新等事項，並建議以基於風險之方法（Risk-based approach），根據重要性之比例決定文件化之程度、以及AI系統之開發與確效紀錄之保持。 （2）風險管理與AI系統開發生命週期方法（Risk management and AI systems development lifecycle approaches） 開發者應在AI系統生命之所有階段，考慮整體產品生命週期方法（total product lifecycle approach），包括上市前開發管理、上市後監督與變更管理。此外，須考慮採用風險管理方法（risk management approach）來解決與AI系統相關之風險，如網路安全威脅與漏洞（vulnerabilities）、擬合不足（underfitting）、演算法偏差等。 （3）預期用途、分析及臨床確效（Intended use, and analytical and clinical validation） 開發者應考慮提供AI系統預期用途之透明化紀錄，將用於建構AI系統之訓練資料集組成（training dataset composition）之詳細資訊（包括大小、設定與族群、輸入與輸出資料及人口組成等）提供給使用者。此外，可考慮透過一獨立資料集（independent dataset）之外部分析確效（external analytical validation），展示訓練與測試資料以外之效能，並考慮將風險作為臨床確效之分級要求。最後，於AI系統之上市後監督與市場監督階段，可考慮進行一段期間密集之部署後監督（post-deployment monitoring）。 （4）資料品質（Data quality） 開發者應確認可用資料（available data）之品質，是否已足以支援AI系統之開發，且開發者應對AI系統進行嚴格之預發布評估（pre-release evaluations），以確保其不會放大訓練資料、演算法或系統設計其他元素中之偏差與錯誤等問題，且利害關係人還應考慮減輕與健康照護資料有關之品質問題與風險，並繼續努力創建資料生態系統，以促進優質資料來源之共享。 （5）隱私與資料保護（Privacy and data protection） 開發者於AI系統之設計與部署過程中，應考慮隱私與資料保護問題，並留意不同法規之適用範圍及差異，且於開發過程之早期，開發者即應充分瞭解適用之資料保護法規與隱私法規，並應確保開發過程符合或超過相關法規要求。 （6）參與及協作（Engagement and collaboration） 開發者於制定人工智慧創新與部署路線圖之期間，需考慮開發可近用且具有充足資訊之平台，以於適合與適當情況下促進利害關係人間之參與及協作；為加速人工智慧領域實務作法之進化，透過參與及協作來簡化人工智慧監管之監督流程即有必要。