德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南

  德國聯邦資訊技術,電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南(Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen),旨在提升企業數位化與社會責任,並提升消費者權益保護。 本份指南提出六項建議:

  1. 促進企業內部及外部訂定相關準則
    例如規定公司在利用演算法和AI時,必須將影響評估列入開發流程,並列為公司應遵守的道德倫理守則,以確保開發的產品或服務符合公平及道德。
  2. 提升透明度
    使用者如有興趣了解演算法及其含義,企業應協助調查並了解使用者想獲知的訊息,並透過相關訊息管道提升產品及服務透明度。因此,企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下,可能會增加理解性和可追溯性難度,但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中,應特別關注並進一步討論。另外,透過教育及使用說明協助及控制功能,教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段(演算法,機器學習,AI)。除了解釋使用那些技術來改進產品和服務外,應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外,例如透過幫助頁面,儀表板或部落格,解釋發生什麼以及如何做出某些影響深遠的自動化決策,使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施,使用戶理解是否及如何使用相關演算法,此可能包括使用自動化決策,使用特定資料組和使用技術的目的,亦即使用戶對演算法,機器學習或AI支持的決策有基本的了解。
  3. 為全體利益使用相關技術
    人工智慧等新技術之重要性不應被低估,目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言,將可帶來巨大的利益,因此應該充分利用。例如,人工智慧可降低語言障礙,幫助行動不便的人可更加獨立自主生活,改善醫療診斷,提升能源供應效率,甚至是交通規劃和搜索停車位,都只是人工智慧偉大且已被使用的案例。為促進技術發展,應公平地利用其優勢並預留商業應用模式的空間,同時充分解決涉及的具體風險。產業特定的解決方案十分重要,但應兼顧受影響者的利益,並與廣大公眾利益找出妥協平衡點,且應排除不適當的歧視。建議在使用決策支持技術時,應事先檢查相關後果並與其利益比較。例如,可以在資料保護影響評估的框架進行。作為道德準則的一部分,必須確保演算法盡可能量準確地預測結果。
  4. 開發安全的資料基礎
    資料係人工智慧支援決策的基礎。與人為決策者相同,資料不完整或錯誤,將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭,如果可能的話,只有匯總或非個人資料可用於分析或分類用戶群組。因此,確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況,特別是在自我學習系統中資料引入的標準,並根據錯誤來源進行檢查,且儘可能全面記錄,針對個人資料部分更應謹慎處理。
  5. 解決機器偏差問題
    應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法,機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要,在開發預期用途的演算法時必須納入考量,對員工應針對道德影響進行培訓,並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題,並特別注意資料饋送,以及開發用於檢測模式的內、外部測試流程。
  6. 適合個別領域的具體措施和文件
    在特別需要負責的決策過程,例如在車輛的自動控制或醫療診斷中,應設計成由責任主體保留最終的決策權力,直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任,並非透過對方法的無條件追踪來實現,而是經過仔細測試,學習和記錄來實現

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=7985&no=55&tp=1 (最後瀏覽日:2026/07/14)
引註此篇文章
你可能還會想看
日本政府內閣於今年3月提出個人資料保護法修正草案

  為因應2016年正式上路實施之社會保障與納稅人識別號碼制度(社会保障・税番号制度)對於個人資料保護所產生之影響,日本政府內閣於2015年3月10日於國會提出個人情報保護法之修正案。   此次修正案主要分有六大重點,包含個資定義擴充與明確化、確保個資文件內容之正確性、強化個資保護規範內容、設立個人情報保護委員會、個資情報處理全球化,以及其他修正事項如未得當事人同意之第三人使用個資條件嚴格化等。   其中主要有兩項係與社會保障與納稅人識別號碼制度相關。首先是強化個資保護規範內容部分,由於社會保障與納稅人識別號碼制度將遇有個資資料庫使用情況,故新增個資資料庫之相關規範與罰則,行為人於未經授權或不當使用個資資料庫時,將可處1年以下拘役併科日幣50萬元以下之罰金,亦即當行為人違反個資法有關個資資料庫規定時,不但須支付罰金也須負刑事責任。   其次,擬設立直屬內閣總理大臣所轄之個人情報保護委員會,其委員組成人選須經參眾兩議院同意後,由內閣總理大臣任命之。委員會主要任務在於專責監督與監測政府各機關以及民間個資處理事業對於個資的傳遞、處理,並適時提出指導意見或建言。

韓國未來創造科學部推出「K-ICT戰略」並制定2016實施計畫

  韓國未來創造科學部於2015年8月31日發表「2016活化振興與應用情報通信產業之實施計畫」,以因應現代技術的進步及市場現況,並正式宣佈推出「K-ICT戰略」,於計畫目標中具體呈現連結韓國ICT產業,促進相關發展。   為加速推動相關政策,未來創造科學部所推出「K-ICT戰略」,主要係規劃四大推動領域及策略,分述如下: (一) 九大產業育成:5G;智慧裝置;IoT;雲端;Big Data;情報安全;UHD(超高清);軟體產業;數位內容產業。此領域預計規劃投資規模為5957億韓元。 (二) 十大領域(將ICT擴大應用於一般產業):醫療、金融、教育、交通、都市建設、智慧家庭、文化觀光、能源、農漁畜產業以及傳統產業。此領域預計規劃投資規模為5751億韓元。 (三) ICT基礎建設:為具體化超連結社會,建設基礎裝置;ICT革新據點建設;OPEN DATA開放與促進活用;情報文化的組成。此領域預計規劃投資規模為863億韓元。 (四) 改善產業體質與加強國際出口:未來創意人才養成;創業環境的建立與海外出口支援;R&D革新、智財權保護體制的確立;國際合作與標準化。此領域預計規劃投資規模為6755億韓元。   綜上所述,韓國未來創造科學部為促進推動「K-ICT戰略」,將投資1兆9千億韓元,投入ICT重點發展產業,並積極落實「2016活化振興與應用情報通信產業之實施計畫」之推動目標。

聯合國推動「全球綠色新政」並倡導各國促進綠色投資及研發活動

  聯合國環境規劃署(UNEP)正式發表「全球綠色新政」(Global Green New Deal)報告,建議各國投入GDP1%(約7,500億美元)資助綠色環境建設及發展,除期使更落實綠色經濟倡議(Green Economy Initiative)內容外,並希望以此帶動綠領就業(Green Collar Job)及促進綠色研發活動蓬勃。     聯合國UNEP於2009年2月對外發表全球綠色新政報告,並倡導五大重要投資領域,包括以下: (1) 提昇各新舊建築物能源使用效率領域之投資。 (2) 再生能源(包括太陽能、風力、地熱能、生質能等)領域之投資。 (3) 永續交通運輸環境(包括氫能汽車、高速鐵路、快速捷運系統等)領域之投資。 (4) 全球性生態構成(包括潔淨水、森林、土壤等)基礎環境領域之投資。 (5) 永續農業(包括有機農產品)領域之投資。     聯合國UNEP並於研究報告中強調:綠色經濟轉向之根本驅動力在於導入相關綠色科技之解決方案,包括各種清潔生產製程、污染防治技術,以及管末和監控技術,涵蓋know-how、流程、商品、服務、設備、組織和管理等,均為綠色經濟蓬勃發展之關鍵環節。     而世界各國關於推動綠色新政投資之規劃行動,如歐盟於2008年11月29日通過經濟振興方案,總預算為2000億歐元(1.5%EU的GDP),方案內容涵蓋4大優先領域,亦即為民眾(people)、商業(business)、基礎建設及能源(infrastructure and energy)、研究與創新(research and innovation),歐盟也呼籲各國應多投入綠色科技研發活動。     而美國2009年2月通過之復甦與再投資法案(American Recovery and Reinvestment Act),亦將綠色新政涵蓋其中,其中編列61.3 billion美元投入「清潔、效率能源方案」,主要係投資於提升能源效率、發展潔淨能源及交通效率及科技研發等。     以外,日本政府於2009年2月亦指示著手研擬「綠色新政」規劃,,預計於6月後向首相提出建議書,以因應氣候變遷及經濟危機威脅等危機。而南韓則是於2009年1月宣布未來4年將投入50兆韓元推動「綠色新政」,並以此投資行動,刺激創造更多的綠色就業機會。

歐盟執委會接受英國電子書出版商 Penguin提出的協議內容

  2010年,蘋果(Apple Inc.)與法商Hachette、美商HarperCollins、美商Simon & Schuster、英商Penguin與德商Holtzbrinck/Macmillan等五家主要出版商訂定協議,改變電子書過往在市場上的銷售模式。過去電子書係由零售商(通常是網路書店)自行訂定銷售價格,而今蘋果與五家出版商透過協議,改由出版商決定電子書在網路書店的銷售價。   歐盟執委會於2011年3月對此展開反競爭(anti-competition)調查,認為這五家書商聯合蘋果公司限制零售書商定價的行為有違反競爭法之虞。根據歐盟運作條約(Treaty on the Functioning of the European Union, TFEU))第101條規定,事業間協議與一致性行為足以影響歐體會員國間交易,且以妨礙、限制或扭曲歐體共同市場競爭為效果或目的者,與共同市場不相容,應予禁止。   2012年9月,除Penguin外,其中四家出版商皆提出和解方案,承諾將終止與蘋果簽訂的代理協議,不再干涉電子書零售商調整電子書零售價格,此外,並同意未來五年內排除「最惠國(Most-Favoured-Nation, MFN)」條款的適用,該條款規定出版商與其他電子書銷售商如亞馬遜的訂價不得低於與蘋果的訂價。排除最惠國條款的適用意味著,未來出版商和零售商協議的電子書價格將能低於蘋果訂價。   英商Penguin日前與歐盟執委會達成協議,決定終止與蘋果公司關於電子書定價的契約,其承諾條件如下: 一、Penguin公司將終止和零售書商間的代理契約。 二、未來兩年內零售書商可自訂電子書價格與折扣,包含Penguin公司出版的書籍。 三、Penguin公司和零售書商的契約也將適用禁止價格最惠國條款,期限5年。   歐盟執委會接受Penguin公司所提出之承諾,並認為此舉將有助於恢復市場的有利競爭環境。本案終能落幕。

TOP