北美證券管理協會發佈新興金融科技對投資者之威脅之相關報告
北美證券管理協會（North American Securities Administrators Association，簡稱：NASAA）與會成員，針對使用新興科技之不當行為人，於2018年10月10日發佈正式報告（NASAA 2018 Enforcement Report），報告指出不當行為人試圖使用新興金融商品刺激市場，使市場呈現活絡狀態。例如：炒作比特幣，該產品從2017年7月約2,364塊美元至同年12月大幅提高至2萬美元，同一時間於市場中加密貨幣市值飆漲超過5千億美元。因各種數據指標不正常的起伏，相關執法單位開始進行實際執法行動，並且特別針對加密貨幣部分進行調查。
該報告指出，部分合法企業也會透過加密貨幣和區塊鏈等，衍生性金融商品募集資本，亦即以首次代幣發行（Initial Coin Offering，簡稱ICO）之方式籌措資金。而NASAA也於監管時發現未經登記之企業，也利用此種方式進行籌資。惟，監管機構無法針對未經登記之公司進行有效之監管行為，以致，投資市場中詐欺事件層出不窮。因此，就涉嫌以ICO和加密貨幣等衍生性金融商品，進行群眾募資的未經合法登記之公司，NASAA也開始採取必要法律措施，以保護投資大眾免於受害。
一、 德州證券委員會與國家執法單位合作，於2017年12月20日對Usi-Tech Limited採取了緊急行動，此執法行動主要係因該公司以詐欺之方式欺騙投資消費者，此為國家執法單位，首次針對市場詐欺行為所進行之強制手段。
二、 北卡羅來納州證券部門以及德州證券委員會，調查BitConnect’s對加密貨幣貸款計畫之投資。該機構向投資者承諾，購買加密貨幣貸款計劃的投資將使他們有權在指定期限內獲取每月超過40％的利息，並且額外每日計算利率給予投資者。 調查後，監管機構發現，該公司未依證券交易法，以及證券經銷商相關註冊之規定，進行募資行為。以致北卡羅來納州證券部門以及德州證券委員會，隨即發佈停止運作之命令。
報告顯示，合法企業以及未經登記之企業，都得以使用ICO方式進行籌資。惟監督機構僅能就合法企業進行監管，無法有效監督未經登記之企業，為避免投資大眾因資訊不透明或資訊不對等之情況發生，導致投資人因此遭受到詐欺行為而受害。有關當局也已展開實際執法行動，仍請投資大眾多加注意。
盧怡寧
法律研究員 編譯整理
NASAA 2018 Enforcement Report - http://www.nasaa.org/wp-content/uploads/2018/10/2018-Enforcement-Report-Based-on-2017-Data-FINAL.pdf (last visited Oct. 18, 2018)
State Securities Regulators Step Up Scrutiny of Cryptoassets and ICOs - https://www.natlawreview.com/article/state-securities-regulators-step-scrutiny-cryptoassets-and-icos (last visited Oct. 18, 2018)
日本經濟產業省（METI）2024年2月16日於官網公布，內閣已審議通過《產業競爭力強化法》（Act on Strengthening Industrial Competitiveness）、《投資事業有限合夥契約法》（Limited Partnership Act for Investment, LPS法）等法律修正案。修法目標係為驅動企業投資新創、促進新創事業發展，其中允許創業投資基金（Venture Capital Fund, VC）得持有加密資產（crypto assets）即為本次修法亮點之一。 根據本次《投資事業有限合夥契約法》修正案，加密資產將被增列到「投資事業有限合夥」（Investment limited partnership, Investment LPS）得收購和持有的資產清單中。實務上日本創投基金多依《投資事業有限合夥契約法》規定，採投資事業有限合夥之組織型態存在。故若修正案最終能落實，將使新創事業得以透過向創業投資基金發行加密資產之方式進行籌資，可以大幅提高「加密貨幣與區塊鏈領域」之Web3新創獲得國內創業投資基金投資的機會，有助於日本建立更強大的區塊鏈技術（Blockchain Technology）和去中心化金融（decentralized finance, DeFi）市場。 日本本次修法，同時兼顧保護投資者利益與金融創新，頗值得我國借鏡。我國金管會雖已相繼公布「虛擬通貨平台及交易業務事業防制洗錢及打擊資恐辦法」以及「管理虛擬資產平台及交易業務事業（VASP）指導原則」，惟相關規範尚未完成細節。金管會主委今年初（2024年1月30日）表示，將朝設置專法強化投資人保障及管理之方向進行委外研究，草案預計今年9月出爐。面對區塊鏈技術暨加密資產快速發展帶來的監理挑戰，我國應持續積極關注國際組織及各國主管機關之監理發展方向，以研擬合適之法制規範。
Hasbro以40億美金收購「佩佩豬」母公司eOne，擴大其品牌智財價值美國知名玩具娛樂商「孩之寶」（後稱Hasbro）日前宣布以40億美金收購知名卡通「佩佩豬」之加拿大母公司「娛樂一體」（Entertainment One Ltd，後稱eOne），Hasbro將藉著eOne所擁有的學齡前動畫資產，透過相關智財組合與品牌布局，再度擴大其在玩具娛樂市場中之優勢地位。 eOne旗下擁有《佩佩豬》（或譯為粉紅豬小妹；Peppa Pig）、《睡衣小英雄》（PJ Masks）、《瑞奇衝衝衝》（Ricky Zoom）、《小杯與小龍：萬能服務》（Cupcake & Dino: General Services）等知名動畫品牌，以及強大的故事主導特質與家庭導向故事述說能力，Hasbro表示該些優勢將吸引遊戲玩家、動畫粉絲與家庭等多元視聽者與消費者，以至將該些動畫拓展至全球。 而Hasbro已擁有許多知名玩具品牌，包括彩虹小馬（My Little Pony）、培樂多黏土（Play-Doh）等，經過本收購交易將能擴大其品牌智財之授權營收，並將該些新增動畫之智財，朝向玩具、遊戲、影片、電視、音樂及家庭品牌等多面向之全球性經營。 目前eOne董事會於10月17日以99.9%之票數同意該交易案，並已獲得美國與德國等相關監管單位之認可，尚待加拿大官方同意。期待後續Hasbro與eOne共同藉著品牌建立、創造力與故事述說等優勢能力，創造更多品牌智財之可能性。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
對AI下達複雜、反復修改指令不算創作行為? —美國著作權局發布AI著作權報告第2部分：可受著作權保護性.Pindent{text-indent: 2em;} .Noindent{margin-left: 22px;} .NoPindent{text-indent: 2em; margin-left: 38px;} .No2indent{margin-left: 54px;} .No2Pindent{text-indent: 2em; margin-left: 54px} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 對AI下達複雜、反復修改指令不算創作行為? —美國著作權局發布AI著作權報告第2部分：可受著作權保護性 資訊工業策進會科技法律研究所 2025年02月10日 由於生成式AI是根據使用者輸入的提示或稱指令（prompts），依機率分布推算生成出最有可能出現的結果，因此有人戲稱AI在每次生成時都是在隨機進行「擲骰子」，即便相同的提示也可能會得到有差異的輸出結果。為應對AI回應的不確定性和多樣性，如何下達提示，有效使用AI，為必須學習的課題。因此，有人說訓練不了人工智慧？我們可以訓練自己，但用心思考精準有效指令，費心對AI生成結果進行反復修改，就能取得著作權保護嗎?美國著作權局提出的看法，或許與大家的期待不同。 壹、事件摘要 美國著作權局今（2025）年1月發布AI著作權報告的「第2部分：可受著作權保護性（Part 2: Copyrightability）」[1]。為幫助評估AI著作領域的立法或監管措施是否必要，該局於2023年8月即發布「著作權與人工智慧議題徵詢通知（Copyright Office Issues Notice of Inquiry on Copyright and Artificial Intelligence）」，對外尋求對包括涉及使用受著作權保護的作品來訓練AI模型的問題、適當的透明度與揭露程度受著作權保護的作品的使用以及AI生成內容的法律定位等問題的意見[2]。在分析AI引發的著作權法與政策問題的意見徵詢結果後，美國著作權局於2024年7月31日，以數位複製物（digital replicas）主題，發布「著作權與人工智慧分析人工智慧引發的著作權法和政策議題」（Copyright and Artificial Intelligence analyzes copyright law and policy issues raised by artificial intelligence）報告的第1部分[3]，並隨後於今（2025）年1月發布報告的「第2部分：可受著作權保護性（Part 2: Copyrightability）」[4]。 此報告指出現有的法律原則可根據個案判斷是否具有足夠的人為貢獻，有足夠的彈性足以解決關於AI生成內容是否具有著作權的問題，並不需要修法；當人工智慧被用作工具，且人類能夠決定作品的表達元素時，對AI生成結果的創意選擇、協調或安排，以及對生成結果的創意修改，都可獲得著作權保護；但目前使用者即使給予AI詳細的提示，也無法控制AI如何生成內容，不足以使其成為「作者」；著作保護仍須以人為創意投入，既有法令已足以激勵AI發展，沒有理由為AI生成的內容提供額外的著作權或特殊權利保護。 貳、重點說明 一、AI系統的輸出存在不可控制性[5] 當前生成式AI系統的輸出可能包括未指定的內容，在有數十億個參數的模型構建的複雜AI系統下，特定提示或其他輸入對於AI生成內容的影響存在不確定性，即使是專家研究人員在理解或預測特定模型行為的能力方面也受到限制。不僅AI生成的內容會因請求而異，而且即使具有相同的提示也是難以預測的，即使有AI系統例如Midjourney允許使用者控制生成一致的結果，在重複相同的提示時收到幾乎相同的圖像，然而即使如此也無法保證完美的一致性。 二、有辛勤努力、指示建議不等於有創造性貢獻 （一）無法僅因時間和努力而獲得著作權保護，它需要原創性 （originality），無論原創性有多麼低微 美國的著作權保護限於人類的創作（human authorship） 沒有任何法院承認非人類創造（non-human creation）的著作權。當然在使用AI的大多數情況下，人類將參與創作過程（creation process），並且在他們的貢獻符合創作資格的範圍時，能使其作品具有著作權。美國上訴法院（Supreme Court）明確表示，需要的是原創性 （originality），而不僅僅是時間和努力。在「Feist Publications, Inc. v. Rural Telephone Service Co.」案中，法院否定僅憑「血汗」（sweat of the brow）就足以獲得著作權保護的主張，但法院也認為絕大多數作品都很容易達到標準，因為所需的創造力水平極低；即使是很小的量、無論多麼粗糙、卑微或顯而易見都無妨（no matter how crude, humble or obvious’ it might be.）[6]。 （二）使用機器作為工具並不會否定著作權保護，如果作品已包含足夠的人類創作表達元素（human-authored expressive elements） 對於AI工具的使用是否影響著作權保護，美國著作權局提及在「Burrow-Giles Lithographic Co. v. Sarony」案中，法院將「作者」定義為「任何事物起源的人、創始人、製造者、完成科學或文學作品的人。（he to whom anything owes its origin; originator; maker; one who completes a work of science or literature.）」。法院確定了即使是使用照相機，攝影師也有許多創造性貢獻，包括將主題置於相機前，選擇和安排服裝、窗簾與其他各種配件、安排主題以呈現優雅的輪廓，以及喚起其所需的表情[7]。因此能否受保護的重點不在於有無使用工具，而是創造性投入的有無。 （三）「作者」必須是實際創作作品，即將想法轉化為有形呈現的表達的人，不包括只是提供詳細的建議和指示或做無實質改變轉換的人 美國著作權局在報告中指出，上訴法院在「Community for Creative Non-Violence v. Reid, "CCNV"」案中，認為：繪製設計草圖和以有形的表達媒介實現創意，使藝術家成為作者。該案的哥倫比亞特區巡迴法院明確表示，委託雕塑並提供詳細的建議與指示是不夠的，因為此類貢獻構成不受保護的想法，其不能因此成為雕塑的共同作者。而第三巡迴上訴法院在「Andrien v. Southern Ocean County Chamber of Commerce」案中， 認為原告「明確指示了副本的準備工作的具體細節」，因此「編譯只需要簡單的轉錄即可實現最終的有形形式」。因為印刷商「沒有實質改變原告的原始表達（original expression）」，法院裁定原告是「作者」[8]。 因此，該局認為儘管人工智慧生成內容不能被視為使用者與人工智慧系統的共同作品（joint work），但對於是否貢獻足夠的表達以被視為作者，提供有用的類比—僅僅向作者（AI）描述委託作品應該做什麼或看起來像什麼的人，並不是著作權法意義上的共同作者。 三、AI的創作輔助使用 美國著作權局同意，使用人工智慧作為輔助創作作品的工具與使用人工智慧作為人類創造力的替代品之間存在重要區別。雖然增強人類表達的輔助使用不會限制著作權保護，但認為需要進一步分析下列三種使用方式的差異： （1）指示人工智慧系統產生輸出的提示（prompts）； （2）可以在人工智慧生成內容中感知到的表達性輸入（expressive inputs） （3）對人工智慧生成內容進行修改或安排（modifications or arrangements）。 （一）指示人工智慧系統產生輸出的提示（prompts） 由於欠缺對生成結果的控制能力，使用者即使輸入複雜的提示指令亦無法讓其成為「作者」[9]。提示本質上是傳達不受保護的思想，雖然高度詳細的提示可以包含使用者所需的表達元素，但目前的AI技術無法僅靠提示即能給予使用者足夠的人工控制，所以AI 系統的使用者無法成為生成內容的「作者」。雖然在輸入提示可以被視為類似於向受委託創作的藝術家提供指導，但在人與人之間的合作，委託者能夠監督、指導與理解受委託的人類藝術家的貢獻，但這情況目前不存在於人與AI的合作。或許將來可允許使用者對AI的生成內容取得完全的控制權，讓AI的貢獻變成固定或機械化（rote or mechanical）。 由於提示與結果輸出之間的差距，以及相同的提示可以生成多個不同生成內容的事實，進一步表明使用者缺乏對將他們想法轉換為固定表達的控制。而反覆修改提示不會改變、也無法為取得著作權提供足夠的依據，因為著作權保護的是作者身份，而不是辛勤工作。而且美國著作權局認為輸入修改後的提示與輸入單個提示在作用上似乎沒有實質性區別，對過程的控制程度都沒有改變。 不過，有些評論意見舉自然攝影作品做類比，認為即使攝影家無法控制野生動物何時進入畫面，這些作品也可能有資格獲得著作權保護。但美國著作權局認為，這與AI生成不同—攝影家的創作過程並沒有結束於他對作品的想法，其在照相機中控制角度、位置、速度和曝光的選擇，且可能進行作品的後製調修。該局指出「從（AI系統）提供的選項（生成結果）中進行選擇」不能被視為受著作權保護的作者身份， 因為「單一輸出的選擇本身並不是一種創造性的行為」。但該局也表示有時提示可以充分控制AI生成內容中的表達元素，如果AI技術進一步為使用者提供表達元素的更多控制，則結論可能會不同。 （二）富有表現力的輸入（Expressive Inputs）[10]與純粹指令不同 目前AI 系統接受以文本、圖像、音訊、視頻或這些內容形式的輸入，而可以將輸入保留成生成內容的一部分，例如修改或翻譯受著作權保護的作品。這類型的輸入，雖然亦可視為不同形式的提示，但與僅僅是傳達預期結果的提示不同。它所給的不僅是一個概念，更重要的是它限制了AI生成內容的「自主性」。因此可能提供了「更具說服力的人工干預」，而不是簡單的「將提示應用於未知的起點」。美國著作權局認為一個人輸入自己受著作權保護的作品，如果該作品在生成的內容中是可察覺的（perceptible），那麼他至少是該部分生成內容的「作者」。此類 AI 生成輸出的著作權將涵蓋可察覺的人類表達，包括可能涵蓋到作者對作品素材（material）的選擇、協調和安排。 （三）修改或安排（Arranging）AI生成的內容仍可受保護[11] 美國著作權局於報告中指出，使用 AI 生成內容通常是一個初始或中間步驟，如同其AI 註冊指引的說明—「人類可以以足夠創造性的方式選擇或安排 AI 生成的內容，以使最終作品整體構成一個作者的原創作品（the resulting work as a whole constitutes an original work of authorship）」。人類可以藉由修改AI生成的內容，使其達到符合著作權保護標準的程度，如果人類作者以創造性的方式選擇、協調和安排 AI 生成的內容，應該能夠主張著作權。例如：Midjourney 提供「Vary Region and Remix Prompting」，允許使用者使用提示來指定生成圖像的區域。美國著作權局認為此類可以讓使用者控制各個創意元素的選擇與放置的修改，是否達到最低原創性標準雖將取決於具體個案情況。但其認為就生成的內容位置可控制的案例，與純粹提示（prompts alone）情況不同，生成的內容應該受著作權保護。 參、事件評析 在美國著作權局公布其該報告之後，有網路媒體[12]以「美國著作權局定調：光靠提示詞的純AI生成圖片無法享有著作權保護，無論你下多複雜的提示詞都沒有」的標題，詮釋該報告的主旨。確實美國著作權局於該報告中，特別指出下達複雜與反復的提示，並不會影響著作權保護的取得與否的判斷。但關鍵點不在於提示本身，而是對AI生成結果的「可控制」（或可說是AI對生成結果的自主）程度。 對於AI生成結果的著作權保護，經濟部智慧財產局曾以電子郵件1070420號函指出：「著作必須係以自然人或法人為權利義務主體的情形下，其所為的創作始有可能受到著作權的保護。據了解，AI（人工智慧）是指由人類製造出來的機器所表現出來的智慧成果，由於AI並非自然人或法人，其創作完成之智慧成果，非屬著作權法保護的著作，原則上無法享有著作權。但若其實驗成果係由自然人或法人具有創作的參與，機器人分析僅是『單純機械式的被操作』，則該成果之表達的著作權由該自然人或法人享有。」，但何謂「單純機械式的被操作」?以複雜與反復的提示再擇取AI符合所需的AI修改結果，是否屬之?在目前AI工具朝向「自動化」發展的趨勢下，使用者下達提示後，多只須被動的對單一的生成結果，決定是否接受或重新下達指令，使用者只是以指令提出需求，實際的「創作行為」主體其實是AI而非人類。因此，美國著作權局於此報告中更進一步的說明使用者即使有複雜與反復的提示且有意的選擇特定結果，並不能就認定為「對結果有控制權」的創作。必須其結果可為使用者主導、控制，而非被動決定是否接受。 相對而言，在創作的保護實務上，美國著作權局告訴我們的是，人類仍然可以藉由在使用過程提高對AI生成結果的控制程度，以及生成內容的後製，使結果符合著作權保護標準。AI使用者應該盡量使用有提供具體修改控制功能的AI工具，只要有人為的事後修改，或使用過程中能具體主導AI生成的結果，我們仍然可以透過複雜與反復的提示AI，取得受著作權保護的生成結果。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]U.S. Copyright Office Copyright and Artificial Intelligence, Part 2: Copyrightability, https://www.copyright.gov/ai/Copyright-and-Artificial-Intelligence-Part-2-Copyrightability-Report.pdf [2]US Copyright Office, Copyright Office Issues Notice of Inquiry on Copyright and Artificial Intelligence, https://www.copyright.gov/newsnet/2023/1017.html (last visited Feb. 10, 2025). [3]US Copyright Office, Copyright Office Releases Part 1 of Artificial Intelligence Report, Recommends Federal Digital Replica Law, https://www.copyright.gov/newsnet/2024/1048.html (last visited Feb. 10, 2025). [4]U.S. Copyright Office Copyright and Artificial Intelligence, supra note 1. [5]詳前註1，頁5~7。 [6]詳註1，頁8。 [7]詳註1，頁9。 [8]詳註1，頁9。 [9]詳註1，頁18~21。 [10]詳註1，頁22~24。 [11]詳註1，頁24~27。 [12]電腦王，美國著作權局定調：光靠提示詞的純AI生成圖片無法享有著作權保護，無論你下多複雜的提示詞都沒有，https://www.techbang.com/posts/121184-the-us-copyright-office-has-set-the-tone-that-purely（最後瀏覽日：2025/02/10）。
歐盟執委會發布《受禁止人工智慧行為指引》歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]： 1. 不可接受風險（Unacceptable risk） 2. 高風險（High risk） 3. 有限風險，具有特定透明度義務（Limited risk） 4. 最低風險或無風險（Minimal to no risk） AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 （二）禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。 2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。 3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。 二、AI Act本文第5條1（c）－社會評分行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為 （一）概念說明 本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。 4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。 四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為 （一）概念說明 本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。 五、AI Act本文第5條1（f）－情緒辨識行為 （一）概念說明 本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該系統係用於推斷情緒。 3.因果關係：該行為發生於職場或教育訓練機構。 4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。 六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為 （一）概念說明 本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。 4.因果關係：前述分類依據為其生物辨識資訊。 5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。 七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為 （一）概念說明 本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 （二）禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的：使用目的須為執法需要。 3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。 4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).