歐盟提出人工智慧法律框架草案
歐盟執委會於2020年2月公布《人工智慧白皮書》（AI White Paper）後，持續蒐集各方意見並提出新的人工智慧規範與行動。2021年4月針對人工智慧法律框架提出規範草案（Proposal for a Regulation on a European approach for Artificial Intelligence），透過規範確保人民與企業運用人工智慧時之安全及基本權利，藉以強化歐盟對人工智慧之應用、投資與創新。
新的人工智慧法律框架未來預計將統一適用於歐盟各成員國，而基於風險規範方法將人工智慧系統主要分為「不可接受之風險」、「高風險」、「有限風險」及「最小風險」四個等級。「不可接受之風險」因為對人類安全、生活及基本權利構成明顯威脅，故將被禁止使用，例如：政府進行大規模的公民評分系統；「高風險」則是透過正面例舉方式提出，包括：可能使公民生命或健康處於危險之中的關鍵基礎設施、教育或職業培訓、產品安全、勞工與就業、基本之私人或公共服務、可能會干擾基本權之司法應用、移民與庇護等面向，而高風險之人工智慧在進入市場之前須要先行遵守嚴格之義務，並進行適當風險評估及緩解措施等。「有限風險」則是指部分人工智慧應有透明度之義務，例如當用戶在與該人工智慧系統交流時，需要告知並使用戶意識到其正與人工智慧系統交流。最後則是「最小風險」，大部分人工智慧應屬此類型，因對公民造成很小或零風險，各草案並未規範此類人工智慧。
未來在人工智慧之治理方面，歐盟執委會建議各國現有管理市場之主管機關督導新規範之執行，且將成立歐洲人工智慧委員會（European Artificial Intelligence Board），推動人工智慧相關規範、標準及準則之發展，也將提出法規沙盒以促進可信賴及負責任之人工智慧。
吳佳琳
高級法律研究員 編譯整理
EC, Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence, Apr. 21, 2021, available at https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682 (last visited Apr. 26, 2021).
世界經濟論壇（World Economic Forum, WEF）於2022年6月29日發布《人工智慧公平性和包容性藍圖》白皮書（A Blueprint for Equity and Inclusion in Artificial Intelligence），說明在AI開發生命週期和治理生態系統中，應該如何改善公平性和強化包容性。根據全球未來人類AI理事會（Global Future Council on Artificial Intelligence for Humanity）指出，目前AI生命週期應分為兩個部分，一是管理AI使用，二是設計、開發、部署AI以滿足利益相關者需求。 包容性AI不僅是考量技術發展中之公平性與包容性，而是需整體考量並建立包容的AI生態系統，包括（1）包容性AI基礎設施（例如運算能力、資料儲存、網路），鼓勵更多技術或非技術的人員有能力參與到AI相關工作中；（2）建立AI素養、教育及意識，例如從小開始開啟AI相關課程，讓孩子從小即可以從父母的工作、家庭、學校，甚至玩具中學習AI系統對資料和隱私的影響並進行思考，盡可能讓使其互動的人都了解AI之基礎知識，並能夠認識其可能帶來的風險與機會；（3）公平的工作環境，未來各行各業需要越來越多多元化人才，企業需拓寬與AI相關之職位，例如讓非傳統背景人員接受交叉培訓、公私協力建立夥伴關係、提高員工職場歸屬感。 在設計包容性方面，必須考慮不同利益相關者之需求，並從設計者、開發者、監督機關等不同角度觀察。本報告將包容性AI開發及治理整個生命週期分為6個不同階段，期望在生命週期中的每個階段皆考量公平性與包容性： 1.了解問題並確定AI解決方案：釐清為何需要部署AI，並設定希望改善的目標變量（target variable），並透過制定包容性社會參與框架或行為準則，盡可能實現包容性社會參與（特別是代表性不足或受保護的族群）。 2.包容性模型設計：設計時需考慮社會和受影響的利益相關者，並多方考量各種設計決策及運用在不同情況時之公平性、健全性、全面性、可解釋性、準確性及透明度等。 3.包容性資料蒐集：透過設計健全的治理及隱私，確定更具包容性的資料蒐集路徑，以確保所建立之模型能適用到整體社會。 4.公平和包容的模型開發及測試：除多元化開發團隊及資料代表性，組織也應引進不同利益相關者進行迭代開發與測試，並招募測試組進行測試與部署，以確保測試人群能夠代表整體人類。且模型可能隨著時間發展而有變化，需以多元化指標評估與調整。 5.公平地部署受信任的AI系統，並監控社會影響：部署AI系統後仍應持續監控，並持續評估可能出現新的利益相關者或使用者，以降低因環境變化而可能產生的危害。 6.不斷循環發展的生命週期：不應以傳統重複循環過程看待AI生命週期，而是以流動、展開及演變的態度，隨時評估及調整，以因應新的挑戰及需求，透過定期紀錄及審查，隨時重塑包容性AI生態系統。 綜上，本報告以包容性AI生態系統及生命週期概念，期望透過基礎設施、教育與培訓、公平的工作環境等，以因應未來無所不在的AI社會與生活，建立公司、政府、教育機構可以遵循的方向。
日本內閣通過AI研發及活用推進法草案日本內閣於2025年2月28日通過並向國會提出《人工智慧相關技術研究開發及活用推進法案》（人工知能関連技術の研究開発及び活用の推進に関する法律案，以下簡稱日本AI法），旨在兼顧促進創新及風險管理，打造日本成為全球最適合AI研發與應用之國家。規範重點如下： 1. 明定政府、研究機構、業者與國民之義務：為確保AI開發與應用符合日本AI法第3條所定之基本原則，同法第4至第9條規定，中央及地方政府應依據基本原則推動AI相關政策，研發法人或其他進行AI相關研發之機構（以下簡稱研究機構）、提供AI產品或服務之業者（以下簡稱AI業者）及國民則有配合及協助施政之義務。 2. 強化政府「司令塔」功能：依據日本AI法第15條及第17至第28條規定，日本內閣下應設置「AI戰略本部」，由首相擔任本部長，負責制定及推動AI基本計畫，統籌推動AI技術開發與應用相關政策，並促進AI人才培育、積極參與國際交流與合作。 3. 政府調查及資訊蒐集機制：為有效掌握AI開發、提供及應用狀況，防止AI應用侵害民眾權益，日本AI法第16條規定政府應蒐集、分析及調查國內外AI技術研發及應用趨勢，並得基於上述結果，對研究機構或AI業者採取指導、建議或提供資料等必要措施。
日本發布《首席AI長指引》與《實務手冊》，強化資料來源可溯，引導企業將AI風險納入資料治理框架2026年3月1日，日本人工智慧（AI）安全研究所（Japan AI Safety Institute, J-AISI）發布《首席AI長指引 1.00版》（Chief AI Officer Guidebook (Version 1.00)，下稱指引）與《首席AI長設置與AI治理實施實務手冊 1.00版》（Practical Manual for Establishing a Chief AI Officer and Implementing AI Governance (Version 1.00)，下稱實務手冊）。兩份文件旨於促進AI時代下的永續企業經營（sustainable business operations），提升產品與服務品質、建立客戶與使用者的信任。 一、指引與實務手冊概覽 指引內容包含設立「首席AI長」（Chief AI Officer, CAIO）職位之目的、職責。實務手冊內容則進一步指出一種組織模式，其中首席AI長為獨立的高階主管，直接向執行長匯報，並在首席AI長下設立AI治理辦公室，以及建議設立一個「跨部門AI指導委員會（Company-wide AI Steering Committee）」，成員包括首席AI長、首席資料長、首席資訊長、首席技術官、首席資訊安全官、法律合規部門、資料保護官、人力資源部門以及關鍵業務部門。各業務部門與系統所有者應依照既有標準運作，並向人工智慧治理辦公室和資料治理組織提供必要資訊。 二、將AI特定風險納入資料治理框架：降低幻覺與偏見之具體作法 在AI系統的生命週期中，資料品質影響決定模型效能、可解釋應與透明度。 首席AI長的職責為整合AI、資料與技術策略，於確保企業信任與風險管理之基礎下，驅動企業創新與數位轉型，並最大程度提升企業價值。因此，首席AI長應與首席資料長、法務部門協調，規範資料的生命週期、設定品質指標（Quality Metrics），並嚴格核實第三方素材授權（licenses for third-party materials）。 以下介紹文件建議之AI資料生命週期（資料蒐集）之管理作法： （一）區分資料用途：針對每個使用案例與模型，區分（1）AI模型訓練用資料；（2）AI訓練完成後，用於驗證與評測模型產出品質的評估資料（evaluation data），此類資料不參與模型的優化調整，僅客觀確認模型的準確度；（3）於AI模型運行過程中，使用者輸入的資料（data entered during inference），包含提示詞、上傳的文件及系統日誌（Logs）。 （二）資料分類：企業應依資料機敏程度進行分類，如機密、個資、內部及公開資訊等分類，以便加以定義資料之蒐集方式、儲存方式、資料遮罩要求（masking requirement，包含去識別化），以及控管資料傳輸至外部AI服務之權限。 （三）落實可追溯性與透明度文件：應透過實務手冊18.3之資料表（Datasheets）進行標準化記錄，包含 1. 基本資訊，如資料及名稱與版本；資料所有者；資料建立日期、最後更新日期等。 2. 目的與使用範圍，如資料集的用於訓練、評估、優化等；資料使用範圍限內部，或可對外提供等。 3. 組成與範圍，如記錄資料筆數與特徵概況；目標期間、區域與族群，如年齡、產業；資料格式，如文字/影像/音訊等。 4. 資料來源與蒐集方法，包含資料來源（內部系統、客戶提供的資料、公開資料、供應商提供的資料等）；資料蒐集方法（日誌、調查、網路爬蟲等）；是否取得資料主體同意等。 5. 資料品質與預處理（preprocessing），包含：紀錄去識別化等資料轉換流程；規範資料標記之品質管理機制。 6. 代表性與偏見，如列出AI預期使用情境與目標客群的一致性；特定性別、年齡、地區是否存在代表性不足的偏差等。 7. 隱私與法源依據，如資料是否包含個人資料或敏感資訊；資料處理之法律依據，如資料主體同意、契約等；採取之隱私保護措施，如去識別化等。 8. 授權、權利與資料反覆使用之條件：使用條件，如授權條款、是否允許商業使用等。 9. 安全性與存取控制：儲存位置，如資料中心、雲端或本地以及是否加密；資料之存取權限，如控管檢視、編輯、匯出等權限。 10. 資料保存與銷毀：記錄訓練資料、評估資料、輸入資料等不同類型資料之儲存期限，並規定如儲存期限過後，需以不可回復之方式銷毀資料，或必要時，應匿名後歸檔等規定。 三、接軌國內實務：企業可參考EDGS規範健全AI風險管理需求 面對AI資料生命週期管理，建議我國企業可參考資策會科法所創意智財中心發布之《重要數位資料治理暨管理制度規範（EDGS）》。EDGS同樣強調數位資料歷程管理，從資料生成、保護到維護的管理流程，有效強化資料的完整性。透過導入EDGS，企業不僅能提升內部創新、數位轉型，更能在面對AI糾紛時，提供歷程紀錄，從源頭端落實首席AI長所要求的循證治理目標。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
美國修法通過，未來必要時可強制旅客接受AIT掃描近來美國運輸安全管理局（Transportation Security Administration, TSA）修訂隱私衝擊評估(Privacy Impact Assessment, PIA) 規章，規定機場安全檢查於必要時，可以針對某些特殊旅客強制進行AIT掃描。 美國運輸安全管理局根據航空運輸安全法(Aviation and Transportation Security Act, ATSA) 負責運輸之安全、評估威脅及強制執行安全相關的規定和要求，並且確保機場等交通設備是否有充足的安全措施。 由於國際恐怖攻擊行動頻傳，美國運輸安全管理局於2013年開始採行AIT掃描技術以強化旅客通關之安全檢查，並將會顯示出近乎裸照的3D透視影像全身掃描機器（body scanning machines）淘汰。 所謂的AIT（Advanced Imaging Technology）掃描技術，即係高階圖像技術，可偵測旅客是否有攜帶危險性、威脅性物品，它所顯示出來的影像僅係一個大致輪廓，如有違禁品則會在該部位產生色塊，警告安檢人員應採行進一步檢查措施。 一般而言，雖然旅客可拒絕AIT掃描，選擇讓海關人員進行身體檢查，但是為確保運輸安全，近來運輸安全管理局更新隱私衝擊評估(Privacy Impact Assessment, PIA) 規章，規定於必要時可以針對某些特殊旅客強制進行AIT掃描，旅客不再有拒絕之權利。 此一政策施行，勢必遭受侵害「隱私權」之質疑，運輸安全局表示，AIT掃描係採用「自動目標辨識」 (Automatic Target Recognition , ATR) 軟體，亦即非直接顯示個人影像，僅顯示特殊物體在一般影像上的所在位置，發出警訊後再由安檢人員進行詳細檢查。現今AIT掃描技術已提升，掃描出的人體圖像會被模糊處理，且掃描後機器不會儲存任何可識別個人之資訊，更加確保旅客的隱私權不受侵害。