德國聯邦資訊技術，電信和新媒體協會針對AI及自動決策技術利用提出建議指南
德國聯邦資訊技術，電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南，旨在提升企業數位化與社會責任，並提升消費者權益保護。
德國司法及消費者保護部次長Gerd Billen於會議中指出，無論技術細節和具體應用如何發展，法律和消費者保護政策應確保人工智慧安全性，且不因此受歧視，以及盡可能確保技術利用透明度。而隨著人工智慧的發展，應設法解決使用人工智慧產生的法律問題。
例如，如何在製造商，供應商和消費者之間公平分配責任歸屬問題？在家庭，物流和手術室等領域已有越來越多具備自我學習的機器人被應用，相關權利是否會有所不同？如果機器出現不明原因故障，會發生什麼情況及如何處置？當機器透過在製造時尚未完全預定的環境感官認知做出具體決定時，該自動行為所生效力為何？
本份指南則提出六項建議：
- 促進企業內部及外部訂定相關準則
- 提升產品及服務透明度
- 使用相關技術應為全體利益著想
- 決策系統的可靠性仍取決資料的準確性。
- 重視並解決解決機器偏差問題
- 在特別需要負責的決策過程，應設計成由責任主體保留最終的決策權力，直到AI的控制品質已達到或高於所有參與者水平。
本文為「經濟部產業技術司科技專案成果」
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段： 1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。 2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。 3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。 4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
良好的隱私權實踐工作有助於強化企業競爭力當含有大量個人敏感性特質個資之郵件不小心發送到陌生人的電子信箱時，將可能對當事人帶來無法預估的損害。加拿大隱私委員Daniel Therrien在國際隱私日時（1/28）提醒各企業，不要忽略隱私控管工作對企業競爭力帶來之影響。然這樣的理念不僅僅只適用在大型的企業，加拿大有98%的企業員工少於100人，對於這些成千上萬的小規模企業而言更是重要。 Daniel Therrien說：「我能理解資源有限的小規模企業每天面臨高壓的業務需求，但就相關反饋資料顯示，加拿大當地居民較傾向與具有良好隱私實踐工作之企業進行交易。」因此，良好的隱私實踐工作不僅是有助於消費者，更可協助企業符合加拿大個人資料保護與電子文件法（Personal Information Protection and Electronic Documents Act）之規定。 為協助小規模企業採取積極措施，以保障消費者資料及隱私不被外洩，提高競爭力，加拿大提供相關關鍵步驟供企業參考：(1)不逾越產品或服務目的之資料蒐集；(2)提供顧客清晰易懂之隱私權政策，以便顧客了解資料為何被蒐集，及如何處理、利用；(3)了解蒐集哪些資料、資料儲存期間及方式、有權限接觸之人及刪除方式； (4)對員工進行隱私保護教育訓練；(5)除非必要，否則請避免蒐集如健康狀況、財務資訊等具敏感性之資料；(6)企業應設置窗口或指定專人，針對顧客權利主張或提出與隱私有關之疑問時進行回應。
資通安全法律案例宣導彙編 第2輯