德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南

  德國聯邦資訊技術,電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南(Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen),旨在提升企業數位化與社會責任,並提升消費者權益保護。 本份指南提出六項建議:

  1. 促進企業內部及外部訂定相關準則
    例如規定公司在利用演算法和AI時,必須將影響評估列入開發流程,並列為公司應遵守的道德倫理守則,以確保開發的產品或服務符合公平及道德。
  2. 提升透明度
    使用者如有興趣了解演算法及其含義,企業應協助調查並了解使用者想獲知的訊息,並透過相關訊息管道提升產品及服務透明度。因此,企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下,可能會增加理解性和可追溯性難度,但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中,應特別關注並進一步討論。另外,透過教育及使用說明協助及控制功能,教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段(演算法,機器學習,AI)。除了解釋使用那些技術來改進產品和服務外,應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外,例如透過幫助頁面,儀表板或部落格,解釋發生什麼以及如何做出某些影響深遠的自動化決策,使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施,使用戶理解是否及如何使用相關演算法,此可能包括使用自動化決策,使用特定資料組和使用技術的目的,亦即使用戶對演算法,機器學習或AI支持的決策有基本的了解。
  3. 為全體利益使用相關技術
    人工智慧等新技術之重要性不應被低估,目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言,將可帶來巨大的利益,因此應該充分利用。例如,人工智慧可降低語言障礙,幫助行動不便的人可更加獨立自主生活,改善醫療診斷,提升能源供應效率,甚至是交通規劃和搜索停車位,都只是人工智慧偉大且已被使用的案例。為促進技術發展,應公平地利用其優勢並預留商業應用模式的空間,同時充分解決涉及的具體風險。產業特定的解決方案十分重要,但應兼顧受影響者的利益,並與廣大公眾利益找出妥協平衡點,且應排除不適當的歧視。建議在使用決策支持技術時,應事先檢查相關後果並與其利益比較。例如,可以在資料保護影響評估的框架進行。作為道德準則的一部分,必須確保演算法盡可能量準確地預測結果。
  4. 開發安全的資料基礎
    資料係人工智慧支援決策的基礎。與人為決策者相同,資料不完整或錯誤,將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭,如果可能的話,只有匯總或非個人資料可用於分析或分類用戶群組。因此,確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況,特別是在自我學習系統中資料引入的標準,並根據錯誤來源進行檢查,且儘可能全面記錄,針對個人資料部分更應謹慎處理。
  5. 解決機器偏差問題
    應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法,機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要,在開發預期用途的演算法時必須納入考量,對員工應針對道德影響進行培訓,並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題,並特別注意資料饋送,以及開發用於檢測模式的內、外部測試流程。
  6. 適合個別領域的具體措施和文件
    在特別需要負責的決策過程,例如在車輛的自動控制或醫療診斷中,應設計成由責任主體保留最終的決策權力,直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任,並非透過對方法的無條件追踪來實現,而是經過仔細測試,學習和記錄來實現

本文為「經濟部產業技術司科技專案成果」

相關連結
※ 德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=7985&no=55&tp=1 (最後瀏覽日:2026/04/02)
引註此篇文章
你可能還會想看
日本數位廳發布資料治理指引,協助企業運用資料提升企業價值

日本數位廳發布資料治理指引,協助企業運用資料提升企業價值 資訊工業策進會科技法律研究所 2025年09月05日 隨著AI迅速普及已成為不可逆轉的趨勢,經濟與社會產生重大變革,手機、家電及各種智慧裝置大量蒐集資料,似已成為維持經濟與社會運作不可或缺的重要要素,在國際上已出現如歐洲共同資料空間(Common European Data Space)等先進的資料運用案例,日本亦開始推動企業跨領域資料運用,藉此提升企業生產力與附加價值[1]。 壹、事件摘要 日本數位廳(デジタル庁)於2025年6月20日發布資料治理指引(データガバナンス・ガイドライン),以企業經營者為適用對象,歸納總結資料治理之必要性、應採取之做法,與實踐治理過程中應留意之要點,協助企業推動數位轉型,發揮資料最大效用,持續提升企業價值,並進一步實現超智慧社會[2](Society 5.0)願景[3]。 貳、指引重點 本指引歸納總結實踐資料治理的四大支柱,概述如下: 一、設計符合跨境傳輸資料實際狀況之業務流程 資料共享與協作的主要目的是推動數位轉型與提升企業價值,因此,運用跨境資料時,需要調查當地國家或地區法規,釐清國際規範,並預測後續法規動向,克服法規限制。為評估運用跨境資料之潛在風險,則須透過如顧問公司、諮詢公司等第三方外部機構進行調查與監控,採取適當風險因應措施。為明確責任,須事先與資料共享之利害關係人,將瑕疵擔保責任透過契約與相關規定明文化。在修改業務流程時,亦須與相關組織及利害關係人共享資訊,確保資料在生命週期中的可追溯性[4]。 二、確保資料安全(データセキュリティ) 以資料生命週期為基礎,掌握運用跨境資料可能產生之風險,並依照相關組織與利害關係人值得信賴之程度,進行風險分析制定因應策略。針對業務流程中取得的資料,應限制在資料產生者允許之範圍內,始得進行運用,以維護資料使用正當性。此外,亦須特別留意資料完整性,確保資料來源值得信賴且未受到偽冒,以及資料內容未遭到竄改或洩漏[5]。 三、提升資料成熟度(データマチュリティ) 制定並推動可提升資料成熟度[6]之方針,持續改善流程,將資料價值最大化,並將風險最小化,提升企業綜合能力。資料長(Chief Data Officer, CDO)須發揮領導能力,建立能迅速因應變化的體制,明確各組織相關負責人與其角色,並推動具備資料相關技能之人才培育招聘計畫。資料長亦須分析導入如AI等先進技術之費用效益,向經營者提出建議。除了公司自身狀況會影響資料成熟度外,亦可能受到資料共享與協作之利害關係人的資料成熟度水準影響。因此,公司亦須將採取之具體措施與相關資訊分享予利害關係人,並向社會公開公司目前資料成熟度水準,持續強化企業與利害關係人及社會之間的相互信賴程度[7]。 四、制定並定期檢討AI等先進技術運用行動方針 為使AI等先進技術發揮最大力量,並降低對社會與個人可能造成的負面影響,企業應參考經濟產業省(経済産業省)於2025年3月28日發布之AI業者指引第1.1版[8](AI事業者ガイドライン第1.1版),並考量個人資料保護、機敏資料保護、透明度、可問責等重要因素,針對涉及資料運用的各種實務運用場景,由CDO主導制定運用AI等先進技術運用行動方針(AIなどの先端技術の利活用に関する行動指針),並適時檢討持續改善內容[9]。 參、事件評析 當資料留存在企業內部未被有效運用時,不僅會成為企業和產業發展之阻礙,也將導致社會整體效率低落。本指引歸納總結實踐資料治理的四大支柱。為達成協助企業運用資料推動數位轉型,提升企業價值之目標,除了需要企業管理階層主導,亦須獲得公司內部與利害關係人之理解與支持。企業應積極與其他企業、組織和機構進行資料共享與協作,積極參與資料治理,提高產品與服務價值及企業聲譽,進而促進社會永續性發展[10]。 隨著國際上已出現先進資料運用案例,我國亦須關注資料運用國際趨勢推動創新發展,日本推動企業跨領域運用資料之做法,亦可為我國未來實踐資料治理提供借鏡。 [1]〈データガバナンス・ガイドライン〉,デジタル庁,頁2-3,https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/71bf19c2-f804-488e-ab32-e7a044dcac58/b1757d6f/20250620_news_data-governance-guideline_01.pdf (最後瀏覽日:2025/09/02)。 [2]〈Society 5.0〉,内閣府,https://www8.cao.go.jp/cstp/society5_0/index.html (最後瀏覽日:2025/09/02)。 [3]前揭註1。 [4]同前註,頁13。 [5]同前註,頁15-16。 [6]資料成熟度係指企業根據其戰略或經營需求,有效運用資料的能力。可參閱同前註,頁5。 [7]同前註,頁18-19。 [8]〈AI事業者ガイドライン〉,経済産業省,https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html (最後瀏覽日:2025/09/02)。 [9]前揭註1,頁20-23。 [10]同前註,頁24-25。

歐盟公布「朝向現代化著作權架構行動計畫」,研議推動措施及規範調修規劃

  歐盟執委會在2015年12月9日提出歐盟朝向現代化著作權架構行動計畫(Towards a modern, more European copyright framework),目的為落實歐盟數位單一市場策略(Digital Single Market Strategy),對於創意產業能夠激勵投資,並且打造公平的競爭環境。行動計畫分為四項重點:   一、放寬歐盟地區內容取得服務: 歐盟已針對線上服務內容如影音、遊戲等,提出草案,未來將允許線上服務內容可以跨境取得,不受地區性之限制,範圍僅限於歐盟會員國地區。歐盟亦將利用創意歐洲計畫持續鼓勵創意產業發展,增加更多使用服務之民眾。   二、放寬著作權相關免責規範之適用: 未來歐盟將修正規範,使研究人員就資料內容之取得與利用更為便利。此外,教育為另外一項重點,例如應訂有明確使用線上內容做為教學之規範。在身障者保護部分,則亦應設立規範。   三、創造公平市場: 歐盟將評估線上作品之使用與分享是否為公平授權,且未來將首先針對新聞服務業者進行檢討,對於使用者在網路上單純分享作品連結者,將視為合理使用。另外,針對作者與表演者報酬部分,歐盟未來將有一致性之政策規範標準。   四、打擊盜版: 歐盟認為,新政策的執行將使著作物能經過合理管道使用,因此可抑制盜版行為。而在2016年預計進行之“follow the money”計畫,預計與使用者及權利人相互配合,阻斷盜版所產生之資金流動。   未來,歐盟預計於六個月內將此架構願景轉換為草案或政策推動方針,其中在允許線上服務內容可以跨境取得之草案規範部分,歐盟執委會則希望於2017年能正式生效施行。

美國最高法院在Bilski v. Kappos案中仍然留下對於商業模式的可專利性做下模糊的判決

  美國最高法院於2010年6月28日對Bilski v. Kappos案作出5比4的拉距判決。原告Bilski為一家能源產品公司,其就一種讓買家或賣家在能源產品價格波動時,可用來保護、防止損失或規避風險的方法申請商業方法專利(Business Method Patent)。但美國商標專利局審查人員以此發明只是一種解決數學問題,而為抽象而無實體呈現的想法為理由而拒絕。經該公司於專利上訴委員會上訴無效後,繼續上訴至聯邦巡迴法院與最高法院。   最高法院拒絕適用前審以美國專利法第101條(35 U.S.C. §101),創造發明是否為有用的、有形的及有體的結果作為認定方法專利的標準。而最高法院多數意見係採用「機械或轉換標準」(machine or transformation test)為專利法第101條可專利性之標準,認定如果創造發明的方法能與機械器具或配件相結合或轉換為另外一種物品或型態時,即認定此方法具可專利性。惟經法院適用此標準後,仍認定原告的商業方法不具可專利性。   一些批評認為,目前「方法」和「轉換」等關鍵字的定義還不清楚,而該判決並沒有澄清這些爭議,甚至帶來更多的疑惑。美國律師Steven J. Frank認為,雖然最高法院的意見放寬了可專利性的標準,但是並沒有提及認定可專利性的其他標準。   該判決亦未明確指出商業方法究竟要符合哪些實質要件,方具有可專利性。相當多的電子商務中所使用的「方法」都有專利,最有名的大概就是亞馬遜公司的「一鍵購買(one-click)」的網路訂購方法,還有Priceline公司「反向拍賣」(reverse auction)的方法等。許多電子商務、軟體及財務金融相關業者在這個判決之後,對於商業方法的可專利性也感到相當的困惑。如果有方法專利的存在,那麼擁有這些專利的公司就可以放心了;但是,如果方法沒有可專利性,那麼對於現在擁有方法專利的權利人不啻是一個很壞的消息。是否一些比較不抽象的方法就具有可專利性,而比較抽象的方法就專利性,判定的標準又在哪裡,對此,法院並沒有加以說明,在法院明訂出更明確的標準之前,目前仍留給美國商標專利局來判定。

美國通過最新的電子醫療紀錄之隱私與安全標準

  美國衛生部隸屬之醫療資訊科技標準委員會(Health IT Standards Committee)為了因應「2009年經濟復甦暨再投資法」(America Recovery and Reinvestment Act, “ARRA”)的通過,制定了新的電子醫療紀錄的隱私、安全標準,以擴大保護電子醫療紀錄的使用安全。     這次制定的電子醫療紀錄的隱私、安全標準,將透過具有足夠防護能力的醫療資訊科技系統標準,來保護電子醫療紀錄的交換,並且擴大適用範圍到醫療照護廠商與提供者,要求其必須在2011年前達到幾項資訊的使用控制標準,包括「醫療保險可攜與責任法」(Health Insurance Portability and Accountability Act, “HIPAA”)與「加密促進標準」(Advanced Encryption Standard)之相關規定,以完備個人電子醫療資訊的保護網。     在此次訂立的標準之下,任何人員或是應用程式欲使用與接近電子醫療紀錄,應符合法律所授予的接近與使用之要件。同時,處理個人醫療資訊的系統,也必須具備對個人醫療資訊加密與解密的能力,以保障個人醫療資訊的安全與完整。除了以上的要求,這些標準也要求相關的適用機構,必須在2013年以前完成符合病歷交換格式(HL7)的使用接近控制、安全宣示標記語言(Security Assertion Mark-up Language, “SAML”)、網路服務認證(Web Service Trust, “WS-Trust”)以及促進資訊標準建置組織(Organization for the Advancement of Structured Information Standards, “OASIS”)的機制,以保障醫療資訊的安全。

TOP