德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南

  德國聯邦資訊技術,電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南(Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen),旨在提升企業數位化與社會責任,並提升消費者權益保護。 本份指南提出六項建議:

  1. 促進企業內部及外部訂定相關準則
    例如規定公司在利用演算法和AI時,必須將影響評估列入開發流程,並列為公司應遵守的道德倫理守則,以確保開發的產品或服務符合公平及道德。
  2. 提升透明度
    使用者如有興趣了解演算法及其含義,企業應協助調查並了解使用者想獲知的訊息,並透過相關訊息管道提升產品及服務透明度。因此,企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下,可能會增加理解性和可追溯性難度,但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中,應特別關注並進一步討論。另外,透過教育及使用說明協助及控制功能,教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段(演算法,機器學習,AI)。除了解釋使用那些技術來改進產品和服務外,應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外,例如透過幫助頁面,儀表板或部落格,解釋發生什麼以及如何做出某些影響深遠的自動化決策,使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施,使用戶理解是否及如何使用相關演算法,此可能包括使用自動化決策,使用特定資料組和使用技術的目的,亦即使用戶對演算法,機器學習或AI支持的決策有基本的了解。
  3. 為全體利益使用相關技術
    人工智慧等新技術之重要性不應被低估,目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言,將可帶來巨大的利益,因此應該充分利用。例如,人工智慧可降低語言障礙,幫助行動不便的人可更加獨立自主生活,改善醫療診斷,提升能源供應效率,甚至是交通規劃和搜索停車位,都只是人工智慧偉大且已被使用的案例。為促進技術發展,應公平地利用其優勢並預留商業應用模式的空間,同時充分解決涉及的具體風險。產業特定的解決方案十分重要,但應兼顧受影響者的利益,並與廣大公眾利益找出妥協平衡點,且應排除不適當的歧視。建議在使用決策支持技術時,應事先檢查相關後果並與其利益比較。例如,可以在資料保護影響評估的框架進行。作為道德準則的一部分,必須確保演算法盡可能量準確地預測結果。
  4. 開發安全的資料基礎
    資料係人工智慧支援決策的基礎。與人為決策者相同,資料不完整或錯誤,將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭,如果可能的話,只有匯總或非個人資料可用於分析或分類用戶群組。因此,確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況,特別是在自我學習系統中資料引入的標準,並根據錯誤來源進行檢查,且儘可能全面記錄,針對個人資料部分更應謹慎處理。
  5. 解決機器偏差問題
    應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法,機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要,在開發預期用途的演算法時必須納入考量,對員工應針對道德影響進行培訓,並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題,並特別注意資料饋送,以及開發用於檢測模式的內、外部測試流程。
  6. 適合個別領域的具體措施和文件
    在特別需要負責的決策過程,例如在車輛的自動控制或醫療診斷中,應設計成由責任主體保留最終的決策權力,直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任,並非透過對方法的無條件追踪來實現,而是經過仔細測試,學習和記錄來實現

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=7985 (最後瀏覽日:2024/04/19)
引註此篇文章
你可能還會想看
何謂瑞士種子資金投資競賽(Venture Kick)

  瑞士為縮短新創公司走向市場時間,成立種子資金投資競賽(Venture Kick),透過階段競賽方式,擇選具發展潛力之高科技創新創業團隊,並提供國內外創業輔導資源與資金,促成瑞士創新成果產業化運用之目標。Venture Kick共分為三個階段的競賽:第一階段係針對創新構想(business idea)作評分,每月選出8個團隊作創新構想的報告,另從中取4個團隊進入第二階段,並獲取獎金1萬元;第二階段會就進一步的商業模式作評選,包括經營策略、目標客戶以及策略夥伴等,進入第二階段的3個月內,各團隊藉由專家指導,發展適合之商業模式與經營策略,另再選出一半的團隊進入第三階段評選和獲取獎金2萬,最後階段之評選,擇以協助競賽團隊設立新創公司為目標,競賽團隊應於進入第三階段6個月後完成進入市場準備與提出完整商業營運計畫,最後會從2個團隊中選出1個具發展潛力之競賽團隊給予10萬元之創業基金。截至目前,受到贊助新創公司高達250家,總金額超過1500萬瑞士法郎

歐洲理事會( European Council ) 通過「菸草製品指令」修正案(Revision of the Tobacco Products Directive)

  歐洲理事會( European Council ) 於今年度(2014)3月14日通過「菸草製品指令」修正案(Revision of the Tobacco Products Directive),並預計於5月公布生效。指令生效後,歐盟各會員國應於指令公告歐盟官方公報後兩年內,將本指令內容納入其內國法體系中。   該項指令為降低菸草製品對未成年人吸引力,針對菸草製品包裝及成分管制達成共識,並將電子菸納入本次修法規範,指令主要規範內容如下: (一)警示文字和圖示應同時呈現 嚴格規範菸草產品需標示有礙健康的訊息和警語,並以圖示與文字呈現。除涵蓋外包裝正面與背面的65%外,側邊應標記妨害健康之警示。例如:「尼古丁會上癮,可能有害健康」或,「受損肺部圖片」。 (二)菸草產品成分與添加物之管制 菸草產品的外部包裝與內容物部份,需讓消費者清楚瞭解,購買的菸草產品有危害健康之疑慮。例如:不得將菸草產品以糖果、或香水化妝品等樣式包裝之;並嚴禁添加水果口味,薄荷或香草等添加物抑制菸草刺激氣味。 (三)全面禁止電子菸品廣告之播放 本次修正案更規定歐盟各會員國將於2016年起禁止撥放任何有關電子菸品銷售或販賣之廣告。   日前,我國衛福部食品藥物管理署公布市售電子煙檢驗報告,其中市售電子菸尼古丁檢出率達86%。我國有關單位除應提高我國菸品查緝管制強度外,實可借鏡歐盟新近管理作法,強化我國電子菸、菸品標示與相關管制規範。

WiMAX頻譜開放 攪亂一池春水

iTrip 在英國即將合法

  在喜愛使用民用電台的狂熱份子和那些想在汽車音響使用iPod的民眾的推波助瀾下,英國電訊局Ofcom計畫在2006年秋天鬆綁其對低功率FM傳輸器的管制。 在英國,利用像iTrip這樣調頻傳輸的小裝置,插在iPod、MP3 player、汽車音響或者其他無線電接收設備上來收聽FM廣播是不合法的。為了廣播系統不被干擾,英國1949年的無線電信法(UK Wireless Telegraphy Act of 1949)規定,唯有拿到FM廣播頻率執照者才有權使用該頻寬。不過,這項對低功率FM傳輸器的管制即將解除。 1949年的無線電信法是過時的。英國電訊局發現,只有極少數未經英國政府許可執照的廣播電台因違法被起訴,因為低功率的傳輸器會干擾廣播系統的可能性極低,當初制定該法的目的幾乎不會被影響。廣大消費者希望能透過車上立體音響來使用iPod聽音樂的需求也遽增,這都是促使Ofcom計畫開放原先限制的理由。 一份Ofcom的聲明指出了其鬆綁的目的:「任何降低法律負擔的目的,都是為了鼓勵創新廣播技術和應用發展。其中一個方式就是開放收聽廣播的設備的使用,解除有使用頻譜需求而需要申請執照的限制。」

TOP