什麼是「日本Connected Industries」？
Connected Industries為日本產業的未來願景，透過人、機器與科技的跨界連接，創造出全新附加價值的產業社會，以達到Society5.0理想目標。例如，物與物的連接形成物聯網(IoT)、人與機器合作拓展智慧與創新、跨國企業合作解決全球議題、跨世代的人與人連繫傳承智慧與技術、生產者與消費者接觸解決商業與社會問題等。
隨著第四次產業革命到來，IoT、大數據及 AI人工製會等技術革新，日本藉由高科技、技術人才及應變能力等優勢與數據技術相結合，目標是邁向以人類為中心、解決問題的新產業社會。Connected Industries的三大支柱分別為：
一、新數據社會（New Digital Society）
消除人與機械系統的對立，實現全新的數位化社會。解決新興科學技術如AI及機器人運用上的困難，並積極活用該技術幫助並強化人類解決問題的能力。
二、多層次合作（Multilevel Cooperation）
區域、世界及全球未來面臨複雜的挑戰，必須透過企業間、產業間及國與國間的連繫合作解決課題。
三、人力資源發展（Human Resource Development）
以人類為中心做思考，積極推展數據技術的人才養成，邁向智慧與技術的數據化時代。
本文為「經濟部產業技術司科技專案成果」
許祐寧
專案經理 編譯整理
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國能源部發布「電力資料自願行為守則」保護消費者資料與隱私權利美國能源部（Department of Energy, DOE）所屬之電力傳輸與能源可靠度辦公室（Office of Electricity Delivery and Energy Reliability, OE）與聯邦智慧電網工作小組（Federal Smart Grid Task Force）對於由智慧電網技術所生之資料相關隱私保護問題，經過一系列包括相關業者在內的公眾意見徵集與專家學者討論後，於2015年1月12日所發布之「自願行為守則」（Voluntary Code of Conduct, VCC），係屬美國總統歐巴馬同日宣示政策，公布對於強化消費者安全、處理身分盜用（identity theft）、並促進線上隱私保護之總體策略方向中的重要部份。 「自願行為守則」的適用對象是供電業者與第三方，目的在於保護包括能源使用資訊（energy usage information）在內的電業消費者資料，並提高消費者的隱私意識與相關資料在提供與近用上所須行使的同意與控制。「自願行為守則」揭示其三大目標，包括：（一）於鼓勵創新的同時，適切地保護消費者資料的隱私與機密性，並提供可靠與不致於無法負擔之電業與能源相關服務；（二）提供消費者對其自身資料的適當近用（appropriate access）；以及（三）不生違反或取代任何聯邦、州、或地方主管機關之法令或管制措施之效果。 而為求取前揭目標之達成與實現，「自願行為守則」訂有五大步驟。此五大步驟包括：（一）「消費者之注意與意識」：透過相關規定向消費者解釋資料蒐集的相關政策與程序，並聚焦於消費者的選擇與責任，藉以讓消費者了解其所必須行使之同意；（二）「消費者之選擇與同意」：透過相關規定讓消費者能為非原始目的（Secondary Purposes）——例如向數個第三方為差別化之近用授權、限制近用之期間、留存資料釋出之記錄、取消授權、以及於授權終止或不再需要相關資料時之資料處置或去識別化等——對其資料之近用進行相關管控、確認有哪些類型的資料與揭露無須消費者同意、以及要求特定資料應直接由消費者處取得；（三）「消費者資料近用」：透過相關規定允許消費者近用其資料、確認可能的錯誤、以及要求更正的相關程序，其中包括在特定情況下就非常態性要求收取費用的可能性；（四）「資料的完整性與安全性」：透過相關規定規範網路安全管理計畫，以及聚合性資料（Aggregated Data）或匿名性資料的建立方式；（五）「自發性執行、管理、與矯正」：透過相關規定對自願採納本「自願行為守則」之服務提供者的行動作出規範，以確保其遵守行為守則。「自願行為守則」雖屬自律規範，但其制定過程有包括電力業者在內之利害關係人的充分參與，並經充分之專家與公民意見徵集，被預期在公布之後將有相當程度之約束力量，並能令因智慧電網與能源資通訊技術所生之相關隱私權保護問題得到更進一步的解決。
韓國以「生成式人工智慧著作權指引」提醒著作權侵權風險韓國以「生成式人工智慧著作權指引」提醒著作權侵權風險 資訊工業策進會科技法律研究所 2024年05月15日 創作內容的流通利用是發揮文化經濟力的核心關鍵，但大數據和機器學習技術的快速發展，人工智慧（以下簡稱AI）已成功應用於許多內容生成，大幅推進圖像、影音、文本的識別、處理、分析、甚至生成等創作成本，但從實現生成式AI而建立基礎模型開始，到AI產出物的生成，均存在可能侵權或被侵權的風險。如何衡平考慮著作權人和使用者立場，促進人工智慧技術發展和相關產業發展，同時努力營造尊重人類創作活動的著作權生態系統，已成為各國必須思考因應重要課題。 壹、事件摘要 韓國文化體育觀光部的著作權委員會於2024-01-16發布「生成式人工智慧著作權指引（생성형 AI저작권안내서）」[1]，這份指引的目的是希望對涉及生成式人工智慧（Generative AI）產出過程中的各方（AI業者、著作權人、AI使用者）提供有關著作權的注意事項。因為韓國文化與著作權主管機關認為，雖然隨著人工智慧技術的迅速發展，在各個領域的應用為經濟和社會利益產生許多助益，但也出現了一個無法預測的環境，影響到著作權產業和創作活動的各個方面；有人將生成式AI用作創作工具，同時也有人擔心生成式AI可能帶來的經濟損失和就業威脅等問題。因此，韓國著作權委員會成立了由學界、法界和技術界專家以及利害關係人組成的「AI-著作權制度改善工作小組」，於2023年2月成立，以審查生成式AI引發的著作權問題並尋找應對方法，並根據該工作小組的討論而編寫提出該指引[2]。 貳、重點說明 該指引從實現生成式AI而建立基礎模型開始，到AI產出物的生成，聚焦於可能引發法律爭議的數據學習和AI產出物生成部分，從現行著作權法的角度說明AI業者、著作權人和AI使用者需要了解的內容。同時為幫助理解，亦納入介紹目前提供的生成式AI案例以及相關的國內外立法趨勢。但該指引特別說明其發布並非為提供其國會正在討論的著作權法修訂方向，而是為了在未來通過進一步的討論、研究和意見徵求過程等，制定出合理的解決方案，並透過制定衡平考慮著作權人和使用者立場的著作權法律制度，促進人工智慧技術發展和相關產業發展，同時努力營造尊重人類創作活動的著作權生態系統[3]。 該指引架構主要分為五大主題[4]，同時提供問答集與附錄參考資料。五大主題分別為： 一、生成式AI技術與著作權（생성형 AI 기술과 저작권）[5]：從著作權角度看生成式AI技術，說明生成式AI技術的意義和應用案例。 二、對AI經營者的指導（AI 사업자에 대한 안내사항）[6]：包括生成式AI的學習階段的風險、AI產出物的生成階段的風險、建議採取防範措施以區別AI產出物與人類創作物。例如人工智慧業務經營者在提供相關服務時，確保不會產生與現有作品相同或相似的人工智慧輸出；該指引並建議參酌韓國2023 年 5 月提出的《內容產業振興法》修正提案（法案編號2122180）[7]規定，於人工智慧產出內容中應標示係採用人工智慧技術製作[8]。 三、對著作權所有人的指導（저작권자에 대한 안내사항）[9]：在AI學習階段應考慮的事項、防止AI產出物侵犯著作權的建議。該指引特別建議如果著作權人不希望其作品用於人工智慧學習，可以透過適當方式表達反對，以防止作品被用於人工智慧學習；即使著作權人後來得知自己的作品被用於人工智慧學習，亦可適當地採取技術手段來防止，以避免放任使用產生默許的問題。包括使用例如“Glaze”、“Photo Guard”等此類新的防止技術。 四、對AI使用者的指導（AI 이용자에 대한 안내사항）[10]：提醒注意生成式AI使用可能涉及的著作權侵犯情況，並說明在研究、教育、創作等領域的倫理和政策考慮。例如，提醒使用者將現有作品原樣輸入提示視窗或輸入誘導創作相同或相似作品的文字，從而創建與現有作品相同或相似的人工智慧輸出，然後將其發佈到平台上的方法，將存有侵權風險。即使是用人工智慧學習歌手聲音而重新創作或產生現有歌手的歌曲，也會涉及重製或輸入侵權資料的疑慮。同時，對學術研究或投稿，該指引特別建議在論文等中引用生成人工智慧撰寫的文章之前檢查其來源，並標註特定段落是以什麼人工智慧工具與指令所生成。 五、AI產出的著作權登記（AI 산출물과 저작권 등록）[11]：與AI產出物相關的著作權爭議、AI產出物是否可以登記著作權、有關AI產出物著作權登記的國內外案例、登記時應注意的事項等。該指引強調對於不能被視為在任何表達行為中做出人類創造性貢獻的人工智慧輸出，不可能進行著作權註冊。但在人類以創意方式進行修改、增加等“額外附加工作”（추가 작업）的情況下，該額外工作的部分才會被認定為具有著作權屬性，可以進行著作權登記。但是，著作權註冊的效果僅限於附加的部分（추가 작업한 부분）[12]。 另該指引在問答集中主要釋疑相關疑義，例如：為什麼AI的學習會涉及著作權問題？如果無法確定AI學習所使用的作品的權利人，AI業者如何獲得合法使用權？個別提示用於製作AI產出物也受著作權保護嗎？AI產出物是否無法受到著作權法保護？等等韓國文化與著作權主管機關認為常見或已出現爭議的案例，並依其現行法令或見解趨勢，提供主管機關的看法或解答。 此外，為協助其讀者更深入了解人工智慧的原理、爭議與國際發展趨勢，該指引並精要的整理出下述主題，包括：使用人工神經網絡進行學習的過程、生成式AI相關訴訟和著作權爭議、國內外AI相關應對情況、國內廣播公司和新聞機構有關AI學習資料取得的政策條款等補充明，做為該手冊的附錄資料。特別是其所整理之政策條款，顯示韓國新聞媒體已著手因應被用於AI訓練、學習與內容產生的風險。 參、事件評析 綜觀韓國文化體育觀光部的著作權委員會發布「生成式人工智慧著作權指引」可以看出，韓國認為生成式人工智慧在文創領域的議題，目前較為迫切需要處理的是創作人的著作權於AI訓練時被侵權，與創作時運用AI的侵害他人權利的風險，以及AI生成內容的識別與可保護範圍的界定，但促進人工智慧技術發展和相關產業發展，均為韓國關切議題；AI在未來如何衡平考慮著作權人和使用者立場尚待研析建立共識並透過國會立法修正著作權法律制度。 因此，該手冊除提供AI的技術背景說明外，並強調該指引並非修法政策的官方說明，同時以如何降低風險與維護權益的角度，提醒生成式人工智慧（Generative AI）產出過程中的AI經營者、著作權人、AI使用者，提供有關著作權的注意事項與例如防制技術運用、標註AI生成等預防措施。同時為再進一步幫助理解，除風險說明外並以問答方式強化重點提示，並舉相關媒體的AI訓練資料提供政策實例供參考，內容本身精要但附錄細節說明詳盡，但對於未必了解著作權法令的文創領域從業人員而言，內容簡明且建議措施直接具體，值得我國主管機關訂定相關指引之參考。 [1]「生成型人工智慧著作權指引(생성형 AI저작권안내서)」，檔案下載https://www.copyright.or.kr/information-materials/publication/research-report/view.do?brdctsno=52591#(最後瀏覽日：2024/05/25）。 [2]詳前註指引之前言，頁6~7。 [3]同前註。 [4]其中尚有第六主題說明未來的法令整備規劃，此部分較屬政策措施方向，較非指引重點，故本文此處未予列入說明重點。 [5]同前註指引，頁7。 [6]同前註指引，頁15。 [7]去年5月，國會文化體育觀光委員會委員長李相憲提出了《內容產業振興法》的部分修正案，其中包括對人工智慧製作的內容強制貼上人工智慧標籤。該修正案目前正在國民議會審議中。https://www.4th.kr/news/articleView.html?idxno=2056520，(最後瀏覽日：2024/05/25）。 [8]同前註1指引，頁21。 [9]同前註1指引，頁23。 [10] 同前註1指引，頁29。 [11]同前註1指引，頁39。 [12]同前註1指引，頁41。
德國發布國家資料戰略─《透過資料利用取得進展》2024年德國預計制訂或修正多部法規，以達成2023年8月公布的德國資料戰略《透過資料利用取得進展》（Fortschritt durch Datennutzung）文件中所設定的目標。該戰略由內政部、經濟與氣候行動部、數位與交通部聯合訂定，規劃德國資料政策與法規的工作進程，以期打破資料封閉的現狀、拓展資料應用的範圍。 德國資料戰略目標與重點摘要如下： 1.更多的資料： (1)公部門資料：藉由統整跨部門的資料增加資料的可近用性，並透過新訂法規提升資料近用機會，包括《交通資料法》（Mobilitätsdatengesetz）確保交通資料的品質和使用規則、《聯邦透明度法》（Bundestransparenzgesetz）作為取得政府資料的法源依據、《研究資料法》（Forschungsdatengesetz）簡化科研資料的取得，以及為增加健康資料二次利用起草的《健康資料利用法》。 (2)私部門資料：德國政府將訂定並提供資料共享之契約範本，以降低資料的交易、操作成本，並評估增修公平競爭相關法規來協助企業間的資料合作。另將新訂《員工資料保護法》（Beschäftigtendatenschutzgesetz），重整散於歐洲人權法院及德國國內與員工資料相關之規範。 2.更好的資料：德國將積極參與國際資料標準訂定與遵循，確保資料的品質、互操作性，以及標準化的資料描述。相關工作包括草擬關於業者使用cookie等數位追蹤技術如何取得使用者同意的管理規範，並將依歐盟準則評估是否訂定不法重新識別之刑責；另外預計建立文化、農業等主題資料室用以協助政府決策。 3. 資料利用和資料文化：為使資料可持續地利用與發展，政府機關方面將設置資料專責人員，並在以政府資料訓練大型語言模型技術時由新設的資料諮詢中心協助。公民數位能力方面，將於STEM 2.0教育計畫中規劃培育資料概念，促進未來社會發展出更多樣的資料應用機會。 德國資料戰略涉及政府、企業、研究單位和公民各層面，顯示資料的重要性逐漸成為德國重大的課題，亦是我國在建立資料治理時如何確保資料品質、交換義務與使用規則的參考方向。