德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南

  德國聯邦資訊技術,電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南(Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen),旨在提升企業數位化與社會責任,並提升消費者權益保護。 本份指南提出六項建議:

  1. 促進企業內部及外部訂定相關準則
    例如規定公司在利用演算法和AI時,必須將影響評估列入開發流程,並列為公司應遵守的道德倫理守則,以確保開發的產品或服務符合公平及道德。
  2. 提升透明度
    使用者如有興趣了解演算法及其含義,企業應協助調查並了解使用者想獲知的訊息,並透過相關訊息管道提升產品及服務透明度。因此,企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下,可能會增加理解性和可追溯性難度,但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中,應特別關注並進一步討論。另外,透過教育及使用說明協助及控制功能,教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段(演算法,機器學習,AI)。除了解釋使用那些技術來改進產品和服務外,應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外,例如透過幫助頁面,儀表板或部落格,解釋發生什麼以及如何做出某些影響深遠的自動化決策,使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施,使用戶理解是否及如何使用相關演算法,此可能包括使用自動化決策,使用特定資料組和使用技術的目的,亦即使用戶對演算法,機器學習或AI支持的決策有基本的了解。
  3. 為全體利益使用相關技術
    人工智慧等新技術之重要性不應被低估,目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言,將可帶來巨大的利益,因此應該充分利用。例如,人工智慧可降低語言障礙,幫助行動不便的人可更加獨立自主生活,改善醫療診斷,提升能源供應效率,甚至是交通規劃和搜索停車位,都只是人工智慧偉大且已被使用的案例。為促進技術發展,應公平地利用其優勢並預留商業應用模式的空間,同時充分解決涉及的具體風險。產業特定的解決方案十分重要,但應兼顧受影響者的利益,並與廣大公眾利益找出妥協平衡點,且應排除不適當的歧視。建議在使用決策支持技術時,應事先檢查相關後果並與其利益比較。例如,可以在資料保護影響評估的框架進行。作為道德準則的一部分,必須確保演算法盡可能量準確地預測結果。
  4. 開發安全的資料基礎
    資料係人工智慧支援決策的基礎。與人為決策者相同,資料不完整或錯誤,將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭,如果可能的話,只有匯總或非個人資料可用於分析或分類用戶群組。因此,確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況,特別是在自我學習系統中資料引入的標準,並根據錯誤來源進行檢查,且儘可能全面記錄,針對個人資料部分更應謹慎處理。
  5. 解決機器偏差問題
    應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法,機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要,在開發預期用途的演算法時必須納入考量,對員工應針對道德影響進行培訓,並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題,並特別注意資料饋送,以及開發用於檢測模式的內、外部測試流程。
  6. 適合個別領域的具體措施和文件
    在特別需要負責的決策過程,例如在車輛的自動控制或醫療診斷中,應設計成由責任主體保留最終的決策權力,直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任,並非透過對方法的無條件追踪來實現,而是經過仔細測試,學習和記錄來實現

本文為「經濟部產業技術司科技專案成果」

相關連結
※ 德國聯邦資訊技術,電信和新媒體協會針對AI及自動決策技術利用提出建議指南, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=7985&no=55&tp=1 (最後瀏覽日:2025/12/08)
引註此篇文章
你可能還會想看
中國非法移民認罪按北韓指示從美國違法出口軍用品及敏感技術

美國司法部於2025年6月9日公布,一名中國非法移民(Sheng Hua Wen,下稱被告)就其違反聯邦刑事法律,非法將槍械、彈藥及其他軍事物資出口至北韓之行為,以及擔任外國政府非法代理人等罪名認罪。 被告犯罪行為係在北韓政府官員指示下進行,後者並匯款200萬美元給被告作為採購費用。被告於2023年期間,透過提交虛假報告,陸續將槍械彈藥等軍用品藏匿於自美國加州長堤港(Port of Long Beach)出口的貨櫃內,並透過中國中轉至北韓;被告亦被發現取得約6萬發9毫米子彈以及含敏感技術之產品,計畫輸出至北韓。本案宣判日期已訂於2025年8月18日,最終量刑將由聯邦地方法院法官依據《美國聯邦量刑指南》(The U.S. Sentencing Guidelines)及其他法定因素決定。 依據《國際緊急經濟權力法》(International Emergency Economic Powers Act,以下簡稱IEEPA),凡故意從事、故意企圖從事、故意共謀從事,或協助、教唆他人從事違反依IEEPA所頒布之任何許可、命令、法規或禁止事項者,均屬違法,最高可處20年有期徒刑。另依據18 U.S. Code § 951,任何人,除外交或領事官員或隨員外,於美國境內充任外國政府代理人,且未依規定向司法部長事先通報者,即屬違法,最高可處10年有期徒刑。

稻米基因定序大功告成,有助解決全球糧食問題

  由十個國家的科學家共同努力完成的「國際水稻基因組定序計畫( IRGSP )」,其研究成果刊登於最新一期的 Nature 期刊。科學家們共同解讀水稻 12 條染色體的基因密碼,未來將根據這些密碼來控制水稻的生長和結穗,可望有助解決全球糧食問題。   依聯合國統計資料顯示,水稻是全球人口 20% 的食物能量來源,而在全球人口持續擴增之情況下, 2025 年必須提高 30% 的水稻產量,才能擁有足夠糧食。   自1998 年起,本計畫即在日本主導之下,與中華民國、韓國、英國、加拿大、美國、巴西、印度、法國與中國等國之定序實驗室進行分工、共享,定序後的 DNA 序列將放在公開序列資料庫,供研究人員使用;而本計畫已在 2002 年底完成草圖,並陸續完成彌補空隙與基因註解工作。本計畫之成果於近幾年來,已陸續協助辨識數個影響重要農藝性狀的基因,例如,影響植物生長勢、提高水稻產量的基因、改變水稻光週期、使優良栽培種得以擴展種植面積的基因、控制植株高度的基因等。  水稻基因組定序工作之完成宣告後基因組時代的正式來臨,而完成此一世紀任務之際,善用相關經驗與新知,以投入水稻的深入研究工作,將能台灣水稻及其他作物的遺傳育種研究提供實際幫助。

良好的隱私權實踐工作有助於強化企業競爭力

  當含有大量個人敏感性特質個資之郵件不小心發送到陌生人的電子信箱時,將可能對當事人帶來無法預估的損害。加拿大隱私委員Daniel Therrien在國際隱私日時(1/28)提醒各企業,不要忽略隱私控管工作對企業競爭力帶來之影響。然這樣的理念不僅僅只適用在大型的企業,加拿大有98%的企業員工少於100人,對於這些成千上萬的小規模企業而言更是重要。   Daniel Therrien說:「我能理解資源有限的小規模企業每天面臨高壓的業務需求,但就相關反饋資料顯示,加拿大當地居民較傾向與具有良好隱私實踐工作之企業進行交易。」因此,良好的隱私實踐工作不僅是有助於消費者,更可協助企業符合加拿大個人資料保護與電子文件法(Personal Information Protection and Electronic Documents Act)之規定。   為協助小規模企業採取積極措施,以保障消費者資料及隱私不被外洩,提高競爭力,加拿大提供相關關鍵步驟供企業參考:(1)不逾越產品或服務目的之資料蒐集;(2)提供顧客清晰易懂之隱私權政策,以便顧客了解資料為何被蒐集,及如何處理、利用;(3)了解蒐集哪些資料、資料儲存期間及方式、有權限接觸之人及刪除方式; (4)對員工進行隱私保護教育訓練;(5)除非必要,否則請避免蒐集如健康狀況、財務資訊等具敏感性之資料;(6)企業應設置窗口或指定專人,針對顧客權利主張或提出與隱私有關之疑問時進行回應。

日本第52次知的財產戰略本部會議決議—推動著作權資訊橫向跨域查找平台

日本第52次知的財產戰略本部會議決議—推動著作權資訊橫向跨域查找平台 資訊工業策進會科技法律研究所 2023年09月01日 創作內容的流通利用是發揮文化經濟力的核心關鍵,但數位時代的來臨,造成內容流通利用面臨創作資訊分散難找、權利歸屬識別困難,以致內容無法有效利用的問題。此問題並非個別企業、機構可以解決,而需要政府出面橋接既有創作資料庫,匯集散落於各處的內容創作資料及創作人資訊。 壹、事件摘要 日本岸田首相於2023年6月9日在官邸召開第52次知的財產戰略本部會議,針對「知的財產推進計畫2023」進行討論並決定[1]。日本基於為了活化日本的創新並實現持續的經濟增長,將社會轉變為最大限度發揮知的財產價值的社會的目的,提出2023知的財產推進計畫的三大重點,包括:第一,強化新創企業和大學的知的財產生態系統,透過新創企業等管道迅速實現大學研究成果的社會應用循環;第二,促進負責任和可信賴的AI,兼顧促進AI技術應用和維持知的財產創造的激勵,同時對風險採取必要的措施;第三,發揮內容產業力量推動內容產業的強化和結構改革,進行政府和民間的合作促進內容創作;從促進內容的創作和使用循環的角度出發,建立簡單而統一的權利處理窗口機構,並推進跨領域的權利資訊搜索系統的建立。 貳、重點說明 目前網路上的業餘創作者等創作的內容越來越多,但此類內容使用的可行性因權利者資訊不明確,造成獲得許可所需的成本過高,成為便利的數位時代造成的不便利後遺症。日本「知的財産推進計畫」於2022即已針對著作權制度進行改革方向,開始推動實現簡單且一體化的權利處理,加速內容的流通和創作者的報酬回饋,力圖實現簡潔統一的權利處理制度,以促進內容的「創作」和「利用」循環[2]。 日本注意到隨著內容的主要流通轉向網絡播送,對於業者而言,實現內容差異化,包括對留在手上的播送內容檔案再利用,對強化競爭至關重要。但涉及多個權利持有人的內容,其權利處理成為取得授權的瓶頸,導致內容的利用無法推進。基於簡便化權利處理和報酬支付的政策想法,日本於今(2023)年提出修改著作權法,創建新的作品使用法定授權申請制度,並在同年5月修改法案獲得通過[3]。依據此新通過的授權申請制度,日本文化廳可以針對未授權集體管理或權利人提供利用意願不明的著作,裁定可由利用人支付補償金以順利實現對這些作品於特定時間內的利用。 除建立授權意願不明的利用授權法令依據外,日本亦擬在實務上建立配套機制,即透過數位化、一體化的流程設計,規劃建立能夠跨領域尋找著作權資料的資料庫,以利確認權利資訊和使用許可的意願表示。而針對橫向跨域的權利資訊資料庫的構建,日本特別成立研究小組,於2022年12月「跨域權利資訊資料庫研究報告」。該報告提出連接各領域資料庫來檢索資訊的「領域橫向權利資訊檢索系統」的規劃。依該規劃,日本文化廳將與保有各領域資料庫的相關利害關係人合作,推進系統的設計和開發在新著作權法的實施期間,建立並運營「領域橫向權利資訊檢索系統」,以連接各領域資料庫[4]。 該系統將力求實現數位化程度最高的設計,除了與各領域資料庫連接外,還將包括設置統一的窗口組織來執行新的授權利機制,設法使未在現有資料庫中收錄的內容(如僅在網絡上創作的內容、未集中管理的著作等)能夠順利登錄,並提供確認權利資訊和使用許可意願表示的功能。為了簡化流程和加快速度,這些窗口組織(機構)將由經文化廳長官認可的單位擔任,負責申請受理、審議確認和(應支付的使用)報酬審定等程序。另外,對於擬取得無期限的授權使用的利用人,可以利用不明著作授權制度,並可透過這些窗口組織簡化相關授權程序[5]。 參、事件評析 日本已考慮到數位時代的資訊變化速度,認為應該在著作權制度和相關政策改革方面,推動公私協力尋找權利者、確認使用可行性的合作,規劃建立跨領域權利資訊檢索系統,以利最大限度地實現新裁定授權制度的簡化和迅速處理,以實現其戰略綱領持續著力的內容「創作」和「利用」循環的加速。 而促進內容「創作」和「利用」循環加速的做法,日本不只是建立法令依據,是透過資訊科技與認證適格單位,用完整而全面性的配套措施進行推動。顯見日本已注意到資訊科技可以降低、便利權利資訊的登錄,讓權利人不會因為登錄作業麻煩而意願欠缺;而與既有資料的串接,則可在不會喪失保有各自資料庫的保障下,快速建立資料完整的檢索查詢平台。因此日本預計2023年將首先確定要優先合作的資料庫、研究合作方式、建立檢索介面的概念;同時對未集中管理的著作等內容的權利資訊登記方法進行需求調查和探討,預計於2024年度將研析該系統應具備的細部功能規格[6]。 而既有除了系統工具外,為促進新的權利處理制度的實現,由於資料分散在不同地方,相較於單一的官方登錄或受理平台,多元的受理窗口更能便利的登錄、受理做法,日本考慮與數位/網路出版等網上內容流通的中介者共同協作,更能以適應數位時代的速度為基礎與先進技術的應用,順利實現新制度的準備和持續營運。 我國原創文化內容的流通利用面臨與日本智財戰略綱領相同的議題,也已經在文化部的計畫支持下建置「文化內容流通利用服務網(Copyright Hub)」受理著作的自主登錄與權利資訊查詢,同時規劃透過認證、指定的方式,建立類似日本智財戰略綱領規劃的多元登錄受理代理窗口,與既有內容平台或特定文創領域專業法人合作,以利串接大量既有資訊;並預計逐步於文創獎補助中納入登錄著作權利資訊的要求,以促進資訊的完整。 然本次文創法送立法院修法的草案,並未納入原已新增的流通利用草案條文,不僅欠缺日本賦予的授權機制,以及資料庫、認證適格窗口的推動法令依據,也無法立即促成獎補助中納入登錄著作權利資訊的要求。我國「文化內容流通利用服務網(Copyright Hub)」早於日本起步,期待即便無法如同日本建立法令依據,亦可在文創獎補助連結的加持下快速推展,讓我國文化內容的流通利用推動持續領先,成為其他國家之參考標竿。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]〈知的財産戦略本部総理の一日〉,首相官邸ホームページ,令和5年6月9日,https://www.kantei.go.jp/jp/101_kishida/actions/202306/09chizai.html。 [2]〈知的財産推進計畫2023〉,頁77,https://www.kantei.go.jp/jp/singi/titeki2/230609/siryou2.pdf (最後瀏覽日:2023/08/22)。 [3]〈令和5年通常国会 著作権法改正について〉,文化庁,https://www.bunka.go.jp/seisaku/chosakuken/hokaisei/r05_hokaisei/ (最後瀏覽日:2023/08/22)。 [4]同前註2。 [5]同前註2,頁78。 [6]同前註2,頁78。

TOP