德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南

  德國聯邦資訊技術,電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南(Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen),旨在提升企業數位化與社會責任,並提升消費者權益保護。 本份指南提出六項建議:

  1. 促進企業內部及外部訂定相關準則
    例如規定公司在利用演算法和AI時,必須將影響評估列入開發流程,並列為公司應遵守的道德倫理守則,以確保開發的產品或服務符合公平及道德。
  2. 提升透明度
    使用者如有興趣了解演算法及其含義,企業應協助調查並了解使用者想獲知的訊息,並透過相關訊息管道提升產品及服務透明度。因此,企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下,可能會增加理解性和可追溯性難度,但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中,應特別關注並進一步討論。另外,透過教育及使用說明協助及控制功能,教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段(演算法,機器學習,AI)。除了解釋使用那些技術來改進產品和服務外,應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外,例如透過幫助頁面,儀表板或部落格,解釋發生什麼以及如何做出某些影響深遠的自動化決策,使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施,使用戶理解是否及如何使用相關演算法,此可能包括使用自動化決策,使用特定資料組和使用技術的目的,亦即使用戶對演算法,機器學習或AI支持的決策有基本的了解。
  3. 為全體利益使用相關技術
    人工智慧等新技術之重要性不應被低估,目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言,將可帶來巨大的利益,因此應該充分利用。例如,人工智慧可降低語言障礙,幫助行動不便的人可更加獨立自主生活,改善醫療診斷,提升能源供應效率,甚至是交通規劃和搜索停車位,都只是人工智慧偉大且已被使用的案例。為促進技術發展,應公平地利用其優勢並預留商業應用模式的空間,同時充分解決涉及的具體風險。產業特定的解決方案十分重要,但應兼顧受影響者的利益,並與廣大公眾利益找出妥協平衡點,且應排除不適當的歧視。建議在使用決策支持技術時,應事先檢查相關後果並與其利益比較。例如,可以在資料保護影響評估的框架進行。作為道德準則的一部分,必須確保演算法盡可能量準確地預測結果。
  4. 開發安全的資料基礎
    資料係人工智慧支援決策的基礎。與人為決策者相同,資料不完整或錯誤,將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭,如果可能的話,只有匯總或非個人資料可用於分析或分類用戶群組。因此,確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況,特別是在自我學習系統中資料引入的標準,並根據錯誤來源進行檢查,且儘可能全面記錄,針對個人資料部分更應謹慎處理。
  5. 解決機器偏差問題
    應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法,機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要,在開發預期用途的演算法時必須納入考量,對員工應針對道德影響進行培訓,並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題,並特別注意資料饋送,以及開發用於檢測模式的內、外部測試流程。
  6. 適合個別領域的具體措施和文件
    在特別需要負責的決策過程,例如在車輛的自動控制或醫療診斷中,應設計成由責任主體保留最終的決策權力,直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任,並非透過對方法的無條件追踪來實現,而是經過仔細測試,學習和記錄來實現

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=7985&no=55&tp=1 (最後瀏覽日:2026/07/16)
引註此篇文章
你可能還會想看
中國大陸改組成立「國家新聞出版廣播電影電視總局」簡評與說明

中國大陸改組成立「國家新聞出版廣播電影電視總局」簡評與說明 科技法律研究所 法律研究員 劉得正 102年03月12日 壹、背景說明:組成依據與目的   中國大陸在第十八屆二中全會審議通過「國務院機構改革和職能轉變方案」(以下簡稱方案)後,日前(3/10)由國務院正式提交方案於第十二屆全國人民代表大會第一次會議審議[1]。預計通過後,除辦公廳外,國務院設置部門將縮編為25個。   其中將整併現有之國家新聞出版總署、國家廣播電影電視總局兩大機構,組成「國家新聞出版廣播電影電視總局」,並加掛「國家版權局」機關名稱,承接原國家新聞出版總署負責之著作物管理工作業務。   彙整中國大陸官方針對方案說明可知[2],本次整併兩大機構之目的,係為統籌規劃新聞出版、廣播、電影、電視事業等產業之發展方向,集中監督、管理相關機構、業務及其作品內容。   其主要原因在於隨著數位科技、資訊技術的進步,不同媒體間相互結合,已衍生出許多非傳統之新媒體。在此等媒體多元發展之趨勢下,勢必須整合新聞出版總署、廣電總局的業務,始能避免管理權責疊床架屋,提高管理效率,進而有利於推動新媒體發展與整合,提高文化傳播力與競爭力。 貳、事件簡評 一、政府組織面-邁向文廣新合併   中國大陸長久以來針對文化推動、廣電影視、新聞出版三者間的管理工作,早有整併之呼籲。特別是地方上,基於組織編制考量與事件性質認定問題,由縣到省、市間,已有不少將三者工作合併於單一單位管理之實例。相對於地方發展,中國大陸中央政府卻仍以文化部、廣播電影電視總局、新聞出版總署分頭管理,造成「單一下級機關需同時對三個上級機關負責」之不合理情況[3]。因此,隨著中國國務院之組織調整,可視為解決此不合理情況的第一步。   考量廣播電影電視與新聞出版在內容性質與管制對象上較為相近,業務合併之可行性較高,因此,本次合併在影響最小之前提下,先試圖將國家新聞出版總署與廣電總局予以整併,組成「國家新聞出版廣播電影電視總局」,以期至少解決一部份重疊管制之問題。另一方面,也將透過國家新聞出版總署與廣電總局合併工作之歷程,可作為將來與中國文化部合併之借鏡,達成中央與地方文廣新組織編制一致之目標。 二、產業面-透過管制、審批程序簡化,幫助產業推動   根據方案之說明文件,除對於組織裁併(包括新聞出版總署與廣播電影電視總局合併)之理由作出個別說明外,針對國務院整體組織職能改變,更提出十大措施,作為未來改造方向、原則和重點,包括[4]:「(一)减少和下放投资审批事项;(二)减少和下放生产经营活动审批事项;(三)减少资质资格许可和认定;(四)减少专项转移支付和收费;(五)减少部门职责交叉和分散;(六)改革工商登记制度;(七)改革社会组织管理制度;(八)改善和加强宏观管理;(九)加强基础性制度建设;(十)加强依法行政。」   由此可知,「國家新聞出版廣播電影電視總局」之組成,除達到集中管理、避免行政資源浪費外,對於產業界更重要的意義在於,未來將配合方案所列目標,針對現有之相關審批程序進行整併、簡化,藉以降低企業進入市場門檻,及提高產業更新之動能。   因此,對於中國大陸國務院本次組織改造方案,後續應持續關注陸方對相關審批程序的調整方向,掌握數位內容相關審批規範、流程是否會有對應的調整,以利協助我國業者赴大陸投資之法律風險評估。 附件、「新聞出版總署」、「廣播電影電視總局」現行權責介紹 ●國家廣播電影電視總局主要職責介紹[5] (一) 擬訂廣播電影電視宣傳、創作的方針政策,把握正確的輿論導向和創作導向。 (二) 起草廣播電影電視和資訊網路視聽節目服務的法律法規草案,擬訂相關技術標準和部門規章,推進廣播電影電視領域的體制機制改革。 (三) 組織推進廣播電影電視領域的公共服務,組織實施廣播電影電視重大工程,扶助老少邊貧地區廣播電影電視建設和發展,指導、監管廣播電影電視重點基礎設施建設。 (四) 制訂廣播電影電視事業、產業發展規劃,指導、協調廣播電影電視事業、產業發展,管理全國性重大廣播電影電視活動。 (五) 負責廣播電影電視、資訊網路視聽節目服務機構和業務的監管並實施准入和退出管理,指導對從事廣播電影電視節目製作民辦機構的監管工作。 (六) 監管廣播電影電視節目、資訊網路視聽節目和公共視聽載體播放的視聽節目,審查其內容和品質。 (七) 指導廣播電影電視和資訊網路視聽節目服務的科技工作,負責監管廣播電影電視節目傳輸、監測和安全播出。 (八) 指導、管理廣播電影電視對外及對港澳臺的交流與合作,負責廣播電影電視節目的進口和收錄管理。 (九) 領導中央人民廣播電臺、中國國際廣播電臺和中央電視臺,對其宣傳、發展、傳輸覆蓋等重大事項進行指導、協調和管理。 (十) 承辦黨中央、國務院交辦的其他事項。 ●新聞出版總署(國家版權局)主要職責介紹[6] (一) 起草新聞出版、著作權管理的法律法規草案,擬訂新聞出版業的方針政策,制定新聞出版、著作權管理的規章並組織實施。 (二) 制定新聞出版事業、產業發展規劃、調控目標和產業政策並指導實施,制定全國出版、印刷、複製、發行和出版物進出口單位總量、結構、佈局的規劃並組織實施,推進新聞出版領域的體制機制改革。 (三) 監管出版活動,組織查處嚴重違規出版物和重大違法違規出版活動,指導對從事出版活動的民辦機構的監管工作。 (四) 負責對新聞出版單位進行行業監管,實施准入和退出管理。 (五) 負責出版物內容監管,組織指導黨和國家重要文件文獻、重點出版物和教科書的出版、印製和發行工作,制定國家古籍整理出版規劃並承擔組織協調工作。 (六) 負責對互聯網出版活動和開辦手機書刊、手機文學業務進行審批和監管。 (七) 擬訂出版物市場“掃黃打非”計畫並組織實施,組織查處非法出版物和非法出版活動的大案要案。 (八) 擬訂出版物市場的調控政策、措施並指導實施,指導對出版物市場經營活動的監管工作。 (九) 負責全國新聞單位記者證的監製管理,負責國內報刊社、通訊社分支機搆和記者站的監管,組織查處重大新聞違法活動。 (十) 負責印刷業的監管。 (十一) 負責著作權管理工作,組織查處有重大影響的著作權侵權案件和涉外侵權案件,負責處理涉外著作權關係和有關著作權國際條約應對事務。 (十二) 組織開展新聞出版和著作權對外交流與合作的有關工作,負責出版物的進口管理工作,協調、推動出版物的進出口。 (十三) 承辦黨中央、國務院交辦的其他事項。 [1]參照「關於國務院機構改革和職能轉變方案的説明—2013年3月10日在第十二屆全國人民代表大會第一次會議上國務委員兼國務院秘書長馬凱」,http://big5.gov.cn/gate/big5/www.gov.cn/2013lh/content_2350848.htm ( 最後瀏覽日:2013/03/12)。 [2]「中央編辦負責人就國務院機構改革和職能轉變答記者問」,http://news.xinhuanet.com/2013lh/2013-03/10/c_114967850.htm ( 最後瀏覽日:2013/03/12)。 [3]「新聞出版總署與廣電總局合併增強文化整體實力」,京華時報報導,2013年3月11日,http://www.chinadaily.com.cn/micro-reading/dzh/2013-03-11/content_8460858.html ( 最後瀏覽日:2013/03/12)。 [4]「国务院机构改革和职能转变方案(提交十二届全国人大一次会议审议)」,http://news.xinhuanet.com/2013lh/2013-03/10/c_114968104_2.htm ( 最後瀏覽日:2013/03/12) [5]中華人民共和國國家廣播電視電影總局網站,http://www.chinasarft.gov.cn/articles/2008/08/07/20070919194959740037.html ( 最後瀏覽日 2013/03/12) [6]中華人民共和國新聞出版總署(國家版權局)網站,http://www.gapp.gov.cn/govpublic/65/81278.shtml ( 最後瀏覽日 2013/03/12)

澳洲規劃研修「國家重型車輛法」並探討科技設備檢測疲勞駕駛相關規範

  澳洲國家交通委員會(National Transport Commission)與警覺、安全、生產力合作研究中心(Cooperative Research Centre for Alertness, Safety and Productivity ,Alertness CRC)於2016年12月攜手研究重型車輛駕駛員之疲勞駕駛影響,並特別探討科技設備檢測及因應的可行性,並著手研析重型車輛疲勞駕駛管理相關規範之評估規劃。   依據澳洲國家重型車輛法(Heavy Vehicle National Law,HVNL)規定,設有國家重型車輛管理獨立機構(The National Heavy Vehicle Regulator,NHVR)針對總重4.5噸之重型車輛進行規範監管。依國家重型車輛疲勞管理規則【Heavy Vehicle (Fatigue Management) National Regulation】規定針對1.超過12噸總重額(Gross Vehicle Mass,GVM)之重型車輛2. 車輛及聯結物超過12噸者3.超過4.5噸可乘載12名成人(包含司機)之巴士4.超過12噸總重額定值之卡車及聯結車,其附接工具或機械者,必須進行疲勞管制,其他對於有軌電車、工具機械車輛(例如:推土機、拖拉機)、露營車等則不在此管制對象。該法針對重型車輛工作和休息時間、工作及休息時間之紀錄、疲勞管理豁免(Fatigue management exemptions),及公司、負責人、合夥人、經理等的連帶責任,訂有相關規範。疲勞管理規則的規範核心在於駕駛員不能在疲勞的情況下行駛重型車輛,故即使符合工作和休息限制,駕駛員也可能因疲勞而受影響。   目前,因有限的證據表明工作安排對於重型車輛駕駛員疲勞的影響程度,亦很少有研究使用客觀和預測技術測量駕駛員的警覺性和疲勞,另對於駕駛員睡眠的質量和時間最低要求的資訊亦不足。因此,現行法律規範對重型車輛駕駛員疲勞的影響將受到挑戰。故警覺、安全、生產力合作研究中心將採取更精準的警報檢測方法和睡眠監測設備,進行相關研究測試,以作為未來國家重型車輛疲勞管理規則修訂之依據。   駕駛疲勞所引發的交通事故時有耳聞,往往造成重大危害與耗費社會成本。目前實務上已有利用科技設備偵測是否有疲勞駕駛情形,然而更重要的是,應落實行車前的疲勞管制,及相對應的解決方案,並加強公司及相關管理者之監督義務及連帶責任,才能有效降低疲勞駕駛肇事率,確保道路安全。

何謂「三螺旋理論」

  三螺旋理論,又稱三螺旋創新模型理論(Triple Helix Theory),主要研究大學、產業以及政府以知識經濟為背景之創新系統中之型態關係,由Etzknowitz與Leydesdorff於1995年首次提出。   因應知識經濟時代來臨,三螺旋理論著重於政府、學術界與產業界(即為產、官、學)三者在創新過程中互動關係的強化。該理論探討如何協調產業、政府、學界三方於知識運用和研發成果產出上的合作;當社會動態產生改變,過去單一強大的領域將不足以帶動創新活動,推動創新也非單一方的責任,此時產業、政府、學界的三螺旋互動便隨之發生:大學透過創新育成機構孕育企業創新,而產業則扮演將研發成果商業化之要角,政府則透過研發相關政策、計畫或法規制定,鼓勵企業和大學間研究發展合作。   有別於早期經濟合作暨發展組織(OECD)將「產業」作為主要研發創新主體,三螺旋理論更重視產業、政府、學界三大主體均衡發展,三方主體各自獨立發展,且同時與其他方維持相互協力合作,共同推進經濟與社會之創新發展。   在三螺旋理論下,產、官、學因其強弱不等的互動狀態,形成不同的動態模型(例如國家干預模型、自由放任模型、平衡配置模型等等),這些動態模型被認為是產生創新的主要動力來源,對未來新知識和科技創造與擴散的能力以及績效具有決定性的影響力。

英國資訊委員辦公室(ICO)發布當事人近用請求權實務準則

  英國資訊委員辦公室(Information Commissioner’s Office, ICO)於2013年8月8日發布當事人近用請求權實務準則(subject access code of practice),以協助資料控制者遵循1998年資料保護法(Data Protection Act 1998,DPA)有關當事人行使近用權(access right)之規定。   根據DPA,任何資料主體都有權利接觸、查詢其被資料控制者擁有之個人資料,即當事人向資料控制者請求近用其個人資料之權利。當事人近用請求權實務準則闡明資料主體的查閱請求權、製給複製本請求權等權利,與資料控制者回應當事人近用請求權的責任,該項權利允許當事人查詢其信用卡紀錄、健康紀錄等資料,資料控制者一旦收到當事人請求,必需於40天內回覆。   ICO同時發布10項簡易步驟,以協助資料控制者衡量回應當事人近用請求權。內容包括:1.確認當事人提出之請求是否為當事人近用請求權;2.確保有足夠資訊可識別請求者的身分;3.若需要更多資訊以釐清請求者之需求,立即向請求者提出;4.若需收費,及時向請求者提出;5.確認是否有請求者需求的資訊;6.即使紀錄不正確或令人尷尬,都不要試圖更改該紀錄;7.衡量紀錄中是否含有他人資訊;8.確認是否有提供資訊之義務;9.確認能解釋資訊中的複雜名詞;10.於適當的情形下,永久保存回覆當事人資訊的副本。   這項實務準則將協助資料控制者更即時且有效地處理當事人對其資料近用請求之相關事項,同時證明資料控制者係以公開且透明之方式妥善管理其所蒐集之顧客資料。

TOP