德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南

  德國聯邦資訊技術,電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南(Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen),旨在提升企業數位化與社會責任,並提升消費者權益保護。 本份指南提出六項建議:

  1. 促進企業內部及外部訂定相關準則
    例如規定公司在利用演算法和AI時,必須將影響評估列入開發流程,並列為公司應遵守的道德倫理守則,以確保開發的產品或服務符合公平及道德。
  2. 提升透明度
    使用者如有興趣了解演算法及其含義,企業應協助調查並了解使用者想獲知的訊息,並透過相關訊息管道提升產品及服務透明度。因此,企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下,可能會增加理解性和可追溯性難度,但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中,應特別關注並進一步討論。另外,透過教育及使用說明協助及控制功能,教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段(演算法,機器學習,AI)。除了解釋使用那些技術來改進產品和服務外,應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外,例如透過幫助頁面,儀表板或部落格,解釋發生什麼以及如何做出某些影響深遠的自動化決策,使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施,使用戶理解是否及如何使用相關演算法,此可能包括使用自動化決策,使用特定資料組和使用技術的目的,亦即使用戶對演算法,機器學習或AI支持的決策有基本的了解。
  3. 為全體利益使用相關技術
    人工智慧等新技術之重要性不應被低估,目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言,將可帶來巨大的利益,因此應該充分利用。例如,人工智慧可降低語言障礙,幫助行動不便的人可更加獨立自主生活,改善醫療診斷,提升能源供應效率,甚至是交通規劃和搜索停車位,都只是人工智慧偉大且已被使用的案例。為促進技術發展,應公平地利用其優勢並預留商業應用模式的空間,同時充分解決涉及的具體風險。產業特定的解決方案十分重要,但應兼顧受影響者的利益,並與廣大公眾利益找出妥協平衡點,且應排除不適當的歧視。建議在使用決策支持技術時,應事先檢查相關後果並與其利益比較。例如,可以在資料保護影響評估的框架進行。作為道德準則的一部分,必須確保演算法盡可能量準確地預測結果。
  4. 開發安全的資料基礎
    資料係人工智慧支援決策的基礎。與人為決策者相同,資料不完整或錯誤,將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭,如果可能的話,只有匯總或非個人資料可用於分析或分類用戶群組。因此,確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況,特別是在自我學習系統中資料引入的標準,並根據錯誤來源進行檢查,且儘可能全面記錄,針對個人資料部分更應謹慎處理。
  5. 解決機器偏差問題
    應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法,機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要,在開發預期用途的演算法時必須納入考量,對員工應針對道德影響進行培訓,並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題,並特別注意資料饋送,以及開發用於檢測模式的內、外部測試流程。
  6. 適合個別領域的具體措施和文件
    在特別需要負責的決策過程,例如在車輛的自動控制或醫療診斷中,應設計成由責任主體保留最終的決策權力,直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任,並非透過對方法的無條件追踪來實現,而是經過仔細測試,學習和記錄來實現

本文為「經濟部產業技術司科技專案成果」

相關連結
※ 德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=7985&no=55&tp=1 (最後瀏覽日:2026/02/21)
引註此篇文章
你可能還會想看
加拿大電信主管機關發布新的電信監管政策

  加拿大廣播電視和電信委員會(Canadian Radio-television and Telecommunications Commission, 以下稱CRTC)於去(2016)年12月21日發布電信監管政策(Telecom Regulatory Policy CRTC 2016-496, 以下稱Policy 496),該政策除聲明寬頻連網服務(broadband Internet access services)是基本電信服務(basic telecommunications service, 以下稱BTS)外,同時也透過新基金的設立,矢志達成目標。   新基金欲達成的普及服務目標(universal service objective)為:「所有加國國民,不論在都市、市郊與偏遠地區,都能透過固定通信綜合網路業務(以下稱固網)與行動通信網路業務(以下稱行網)近用語音及寬頻連網服務(Canadians, in urban areas as well as in rural and remote areas have access to voice and broadband Internet access services, on both fixed and mobile wireless networks.)」。Policy 496的發布,顯示CRTC監管架構的重點從原先的有線語音服務(wireline voice services),移轉到寬頻服務(broadband service, 以下稱BS)。因此,新制的BTS定義即含括此兩種服務模式;同時,CRTC也訂定了下列標準以驗證普及服務目標的達成狀況: 1. 加國家用與商用之固網寬頻服務訂戶至少可近用下載速率50Mbps/上傳速率10Mbps之網路(此指實際傳輸速率)。 2. 加國家用與商用消費者,於申辦固網寬頻服務時,有數據用量不受限(unlimited data allowance)的方案可供選擇。 3. 最新部署的行網技術(現為長期演進技術,Long Term Evolution)應不只可於家用、商用用戶端使用,也應盡可能擴及加國主要交通幹道。   新基金除預計為那些尚未符合上述標準之地區(通常為偏遠或落後地區)的相關計畫,於前五年給予總計七億五千萬加幣的資金挹注外,同時也會和現行及未來的公有基金、私人投資互補,並由第三方單位獨立、公平管理。   雖然CRTC於新的電信監管政策訂定的固網下載速率標準較多數國家為高(美國、澳洲25M;歐洲平均設在30M;德國為50M),但截至2015年為止,加國全境已有82%的民眾可接取傳輸速率達50M/10M之固網寬頻服務;因此CRTC主席Jean-Pierre Blais表示,這樣的標準設定其實相當實際。儘管Policy 496的釋出表達了CRTC將以合適的方式達成其政策目標的立場,但BS的普及狀況與偏遠地區的連網障礙是否確實排除,所有利害關係人都扮演重要的角色。

JST(日本科學技術振興機構)發表關於大學智財的政策建言

  於回顧過去10多年來在大學智慧財產相關的政策措施以後,日本科學技術振興機構(JST)智慧財產戰略中心於7月5日就「政策建言-回首長達十多年的大學智財相關政策措施並探求今後的發展」總結作出發表。根據外識學者專家所組成的JST智慧財產戰略委員會所作成的研議,其就大學智財此後所追求的目標願景,以及為達成該願景各個部門(政府、大學、技轉中心與JST)各自所應扮演的角色提出了整體的建議。   在建言中提到,大學智財的目標願景乃在於「以未來運用為導向擬定智財策略」與「確保研究成果轉化智慧財產,積極回饋國民社會」,並列舉各部門為達成目標願景所應執行之任務。   建言中主要提到的各部門任務如下所述: 【日本政府的任務】 ‧對於大學的智財評價,不應只限授權金收入,也應考慮共同研究、創新育成(由大學孕育而生的新創企業)的創出效果。 ‧應建構於獲得革新性的研究成果時,能夠搶先取得基礎專利、強化週邊專利的策略性的、機動性的強而有力的智財支援體制。 【日本大學、技轉中心的任務】 ‧為創造強勢的專礎專利,應能確保具備優秀判斷力的人材,與應進行充分的先前技術檢索。 ‧應以大學成果的早期實用化為導向,推進與中小、新創企業的合作關係。 ‧思考大學間、技轉中心間多樣而有效果的合作形態,積極謀求提升技轉機會。 ‧強化對學生與研究者的智財教育與智財進修。 【JST的任務】 ‧研析早期而積極的智財發掘與迅速而機動的資金投入等等主動性的支援模式。 ‧進行熟悉海外技術移轉的專業人材的配置與培育,且就對大學專利之權利侵害提供設置諮詢窗口等的支援措施。 ‧促進大學閒置專利的海外技術移轉。 ‧研議於鉅額資金投入而有多數大學、企業參與之特定大型計劃的場合,不受日本版the Bayh-Dole Act條款的限制,而由特定公共的機關等執行專利的管理。

歐盟執委會公布《可信賴的AI政策及投資建議》

  歐盟執委會於2018年6月成立人工智慧高級專家組(The High-Level Expert Group on Artificial Intelligence, AI HLEG),主要負責兩項工作:(1)人工智慧倫理準則;(2)人工智慧政策與投資建議。並於2019年4月8日提出《可信賴的人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI),2019年6月公布之《可信賴的AI政策及投資建議》(Policy and Investment Recommendations for Trustworthy Artificial Intelligence)則是人工智慧高級專家組所交付之第二項具體成果。   該報告主要分為兩大部分,首先第一部分是要透過可信賴的人工智慧建立對歐洲之正面影響,內容提及人工智慧應保護人類和社會,並促進歐洲公司各部門利用人工智慧及技術移轉,而公部門則扮演人工智慧增長及創新之催化劑,以確保歐洲具有世界一流之研究能力;第二部分則是影響歐洲各成員國建立可信賴之人工智慧,內容則提及將發展人工智慧相關基礎設施、教育措施、政策規範及資金投資,同時合法、有道德的使用各項數據。   在本報告中關於法規面的建議則是進一步制定政策和監管框架,確保人工智慧在尊重人權、民主及創新下發展,因此將建立人工智慧政策制定者、開發者及用戶間的對話機制,若是遇到將對社會或是人類產生重大影響之敏感性人工智慧系統,除透過歐洲人工智慧聯盟(The European AI Alliance)進行對話之外,也需要在尊重各成員國之語言及文化多樣性下展開協調機制。另外,報告中也特別提到如果政府以「保護社會」為由建立一個普遍的人工智慧監督系統是非常危險的作法,政府應該承諾不對個人進行大規模監視,並在遵守法律及基本權利下進行人工智慧系統之發展。

英國民眾請願禁止使用DRM

  超過1400位英國民眾共同連署後,於英國政府電子請願網站上,請求英國政府禁止「數位版權管理」(digital rights management, DRM)之使用。該項請願中引用去年英國國會獨立組織-All Party Parliamentary Internet Group(APIG)所發表之調查結果。該項調查結果中指出,為避免如2005年Sony所使用之數位版權管理程式般具有侵入性的科技侵害人民權利,應針對此類科技建立消費者保護機制。   除此之外,該份請願亦主張,數位版權管理使得消費者無法自由在CD或數位下載等不同競爭產品間自由選擇。而在不久之前,蘋果電腦之執行長Steve Jobs亦曾提倡無數位版權管理之合法數位音樂下載,Steve Jobs認為若能提供無數位版權管理之合法數位音樂下載,將可增加不同業者所提供音樂下載服務的相容性,進而促使數位音樂下載市場更為蓬勃發展。   不過對於該項請願,英國政府回應中認為數位版權管理不僅透過科技保護措施扮演著警察的角色,同時亦使得內容提供業者得以各種消費者期望的方式提供數位內容服務。因此,數位版權管理的存在仍有其貢獻,不應加以廢除。當然在使用數位版權管理的同時,亦應注意消費者權益之保護,合理的方式乃是在消費者購買產品前,清楚告知產品所提供之服務內容、消費者購買後可被允許之使用方式和各種使用限制。

TOP