德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南

  德國聯邦資訊技術,電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南(Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen),旨在提升企業數位化與社會責任,並提升消費者權益保護。 本份指南提出六項建議:

  1. 促進企業內部及外部訂定相關準則
    例如規定公司在利用演算法和AI時,必須將影響評估列入開發流程,並列為公司應遵守的道德倫理守則,以確保開發的產品或服務符合公平及道德。
  2. 提升透明度
    使用者如有興趣了解演算法及其含義,企業應協助調查並了解使用者想獲知的訊息,並透過相關訊息管道提升產品及服務透明度。因此,企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下,可能會增加理解性和可追溯性難度,但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中,應特別關注並進一步討論。另外,透過教育及使用說明協助及控制功能,教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段(演算法,機器學習,AI)。除了解釋使用那些技術來改進產品和服務外,應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外,例如透過幫助頁面,儀表板或部落格,解釋發生什麼以及如何做出某些影響深遠的自動化決策,使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施,使用戶理解是否及如何使用相關演算法,此可能包括使用自動化決策,使用特定資料組和使用技術的目的,亦即使用戶對演算法,機器學習或AI支持的決策有基本的了解。
  3. 為全體利益使用相關技術
    人工智慧等新技術之重要性不應被低估,目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言,將可帶來巨大的利益,因此應該充分利用。例如,人工智慧可降低語言障礙,幫助行動不便的人可更加獨立自主生活,改善醫療診斷,提升能源供應效率,甚至是交通規劃和搜索停車位,都只是人工智慧偉大且已被使用的案例。為促進技術發展,應公平地利用其優勢並預留商業應用模式的空間,同時充分解決涉及的具體風險。產業特定的解決方案十分重要,但應兼顧受影響者的利益,並與廣大公眾利益找出妥協平衡點,且應排除不適當的歧視。建議在使用決策支持技術時,應事先檢查相關後果並與其利益比較。例如,可以在資料保護影響評估的框架進行。作為道德準則的一部分,必須確保演算法盡可能量準確地預測結果。
  4. 開發安全的資料基礎
    資料係人工智慧支援決策的基礎。與人為決策者相同,資料不完整或錯誤,將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭,如果可能的話,只有匯總或非個人資料可用於分析或分類用戶群組。因此,確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況,特別是在自我學習系統中資料引入的標準,並根據錯誤來源進行檢查,且儘可能全面記錄,針對個人資料部分更應謹慎處理。
  5. 解決機器偏差問題
    應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法,機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要,在開發預期用途的演算法時必須納入考量,對員工應針對道德影響進行培訓,並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題,並特別注意資料饋送,以及開發用於檢測模式的內、外部測試流程。
  6. 適合個別領域的具體措施和文件
    在特別需要負責的決策過程,例如在車輛的自動控制或醫療診斷中,應設計成由責任主體保留最終的決策權力,直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任,並非透過對方法的無條件追踪來實現,而是經過仔細測試,學習和記錄來實現

本文為「經濟部產業技術司科技專案成果」

相關連結
※ 德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=7985&no=55&tp=1 (最後瀏覽日:2026/01/31)
引註此篇文章
你可能還會想看
歐盟支付服務指令修正案(PSD2)於2016年1月12日生效

  2012年歐洲議會發表的綠皮書「邁向信用卡、網路以及手機支付的整合歐洲市場(Towards an integrated European market for card, internet and mobile payments)」,並進行廣泛的公眾意見徵詢,舉辦公聽會,最後決議進行現有歐洲支付法制架構的修正。歐盟支付服務指令修正案(revised Payment Service Directives, PSD2)於2013年7月由執委會提出,2015年10月歐洲議會通過,今年1月12日生效,預期英國、保加利亞、丹麥、德國、奧地利以及法國將會率先修正原有的支付服務法制完成轉換。產業界一致對於修正案表示歡迎,因為本次修正將會大幅提升支付創新應用的發展可能,尤其是行動支付。   PSD2之重大修正包含針對支付服務的內容作出修正,新增第三方支付服務提供人(third party payment service provider,簡稱TPP)為支付服務之內容(附件一第7項)。TPP的內涵為透過對於其它支付服務提供者的支付帳戶的存取,提供包含支付發動服務(payment initiation services)以及帳戶資訊服務(account information services)。依照第58條規定,TPP服務提供者具備下列義務: 1.確保支付服務使用者的個人化安全資訊不會被其它人取得。 2.以明確的方式向帳戶之支付服務提供者認證自己的身分。 3.不儲存支付服務使用者的敏感支付資訊或個人化安全憑證。   除此之外,PSD2明確將純粹的技術服務提供者排除於支付機構之範圍,無需適用支付服務指令。   PSD2亦授權EBA發布相關規定制定技術門檻,包含強力的客戶身分認證以及通訊資訊標準。

印度民航局發布無人機規則草案

  印度民航局(Directorate General of Civil Aviation,以下簡稱DGCA)在禁止公眾使用無人機多年後,終於在2017年11月1日發布無人機使用規則(草案),並於網站上公開徵求意見。民航局部長P Ashok Gajapathi Raju表示,草案將於接下來的30日內,與所有利益相關者進行交流,一旦協商完成,將會確定無人機監管框架。預計今年12月底前完成訂定無人機使用管理規範,包含商業用途無人機。   根據規則草案,無人機依照最大起飛重量將其分為五類,分別為: 奈米(nano)無人機:重量小於250克; 微型(micro)無人機:重量在250克和2公斤之間; 迷你無人機(mini):重量介於2公斤至25公斤; 小型無人機:重量25公斤至150公斤; 大型無人機:重量150公斤以上。   除了飛行能力不超過50英尺高度的奈米無人機,所有無人機必須依照DGCA規定取得識別碼(Unique Identification Number)。針對2公斤以上的無人機需有無人機操作員許可證(Unmanned Aircraft Operator Permit),任何無人機的遙控飛行員必須年滿18歲,且需受過規定的培訓。   另,基於安全考量,草案規定禁止飛行無人機之區域,例如:機場範圍半徑5公里內、國際邊界50公里範圍內、戰略區域500公尺以內的國家重地、人口稠密地區、影響公共安全或正在進行緊急行動的地區、移動式平台(如:汽車、飛機或輪船)、及國家公園和野生動物保護區等生態敏感區域(eco-sensitive areas)等,違規者將依印度刑法之規定起訴。

英國政府公布醫療器材之「未來法規施行」規劃

英國藥物及保健產品管理局(Medicines and Healthcare Products Regulatory Agency, MHRA)在2024年1月9日針對醫療器材(下稱醫材)提出「未來法規施行」(Implementation of the Future Regulations)規劃,旨在提升病人安全,並且確保英國市場對醫療技術創新者來說仍具有吸引力。本次內容主要包含2024年度規劃公告的重大法案,以及2025年後預計實施的核心政策,以下節錄相關說明: 1.預計於2024年實施的法規及政策 MHRA擬定了幾個重要法規及政策的公告時程表,主要包含名為「AI-Airlock」的監理沙盒 (AI-Airlock regulatory sandbox)及數則醫材軟體監管指引,主題有「醫材開發地圖的優良機器學習實踐」(Good machine learning practice for medical device development mapping)、「人工智慧醫材開發和部署的最佳實踐」(AI as a Medical Device(AIaMD) development and deployment best practice)及「資料驅動醫材軟體的研究、發展及治理」Data-driven SaMD research, development and governance);另外,因應世界貿易組織(World Trade Organization, WTO)於2023月7月26日發佈的 《上市後監督要求之行政立法性文件草案》(draft Post-market Surveillance Requirements Statutory Instrument, PMS SI),英國政府也打算在 2024 年引入相關立法,以加強醫材上市後的監管要求。 2. 未來核心政策規劃 MHRA已選定數個醫材管理核心主題,並預計從2024年上半年開始與利害關係人啟動相關討論會議,以利於2025年後制定更詳細的施政草案。管理議題明確包含對植入式醫材的風險分類進行升級、增加醫材軟體的分類、加強對醫材之品質管理系統與加強技術文件、推行專屬識別碼(Unique Device Identifiers, UDI)、更新臨床試驗施行措施、引入國際承認框架,使已獲得類似監管機構批准的醫材更快進入市場,以及促使英國對於醫材軟體網路安全等基本管理要求持續與歐盟接軌。 以上施政規劃,反映出英國政府為確保民眾安全,欲持續加強醫材品質的風險管理力道,以及隨著搭載AI技術的智慧醫材在各國快速發展,英國政府有意將此類的醫材朝向細緻化管理的布局。此外,英國於2020年脫歐後,歐盟的醫療器材法規在英國已不再適用,故MHRA近年積極發布更適合英國體質的醫材監管政策,以確保國內醫材市場保持國際競爭力,也避免醫材供應鏈發生短缺之情形。

電子商務應用與解釋之不易,提高法院裁判難度

由於電子商務的應用往往涉及一些技術層面概念,當法律的適用遇到這些應用與解釋時,不免提高法院在裁判上的困難度。   以美國馬里蘭州上訴法院在五月初進行的 Beyond Systems Inc. v. Realtime Gaming LLC. 案件言詞辯論為例,由於該案涉及網路與法院管轄權之爭議,審理該案的數位法官均坦承對於律師在言詞辯論過程中所提到的一些技術名詞解釋感到理解上有些困難。該案是由位在馬里蘭州的原告指控位於喬治亞州發展互動軟體的公司,聲稱在 2003 年底自被告收到 240 封垃圾電子郵件,違反該州的反垃圾郵件法。馬里蘭州的地方法院駁回原告的訴訟,乃因現有證據很難判斷被告與馬里蘭州之間有地源上的關聯性,故該法院對於被告沒有管轄權。在上訴法院的言詞辯論中,原告指稱,從新墨西哥州所寄發的電子郵件內附有被告的網站連結;而被告則表示其並未寄發大量垃圾郵件給原告,此外,光是網站的存在以及在網際網路上提供資訊並不能做為法院主張管轄權的依據。   儘管雙方律師在法庭上互執己見就該案從不同角度進行辯論,但兩邊律師皆表示,要在現階段於法庭上對電子商務及電子通訊提出定義及解釋都不是容易的事,尤其在網際網路這塊領域中,要認清誰是行為主體是難度很高的事。

TOP