美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署
美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。
美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下：
（1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。
（2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。
（3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
本文為「經濟部產業技術司科技專案成果」
劉心妍
副法律研究員 編譯整理
U.S. Department of Homeland Security, 2024 Artificial Intelligence Roadmap, Mar. 17, 2024, https://www.dhs.gov/sites/default/files/2024-03/24_0315_ocio_roadmap_artificialintelligence-ciov3-signed-508.pdf (last visited May 7, 2024).
陳政陽，〈日本公布設立AI安全研究所與著手訂定AI安全性評鑑標準〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9157〈最後瀏覽日：2024/5/7〉。
周晨蕙，〈日本經產省和總務省共同發布AI業者指引草案，公開徵集意見〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9146〈最後瀏覽日：2024/5/7〉。
吳彬詣，〈歐盟執委會發布人工智慧創新政策套案〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9143〈最後瀏覽日：2024/5/7〉。
科法觀點
歐盟醫療器材（Medical Devices Regulation, MDR）和體外診斷醫療器材法規（In Vitro Diagnostic Medical Devices Regulation, IVDR）自2021年5月26日及2022年5月26日生效以來加強了醫療器材的安全監管。然而法規要求嚴格、第三方驗證機構（notified bodies, NB）認證能力有限、認證程序不具預測性、各國執行標準不一、法規與風險不成比例，導致製造成本及行政負擔過高，甚至取消或延後產品上市。為此，歐盟執委會（European Commission）於2025年12月16日正式提出MDR/IVDR修正草案，旨在簡化監管流程、減輕廠商與NB負擔，同時維持公共健康。 該修正案重點如下： 1.簡化與比例原則：確保法規要求與實際風險成正比，放寬中低風險或成熟技術的過度監管。 2.減輕行政負擔：減少重複性的文書作業、過於頻繁報告更新。 3.特定病患群體或情境的創新與產品可及性：確保利基型、創新或危急時所需的醫材能快速進入市場。 4.認證程序的可預測性與成本效益：提升NB審查透明度、效率，並降低資金門檻。 5.去中心化系統內的協調與治理：解決各成員國及各NB之間解釋法規不一致的問題，強化中央協調。 6.推動數位化：推動無紙化與電子化合規工具。 7.促進國際合作：促進全球法規協調，減少多重市場認證。 整體而言，此次修正草案預期可降低遵循成本與行政負擔，並提高監管制度可預測性與作業效率，讓認證與監管流程更為順暢。再者，透過風險導向與數位化管理，維持高水準之公共健康保障，對中小企業與創新醫材而言，有助於於提升醫材研發與上市誘因。
網路業者呼籲美國政府進行電子通訊隱私法之修正以Google及微軟為首等網路業者，及名為「資訊正當法律程序」協會的數個成員，呼籲美國聯邦政府對於儲存於雲端或第三人資料儲存系統的私人電子郵件或電子資料之取得，應進行相關法律修正。 由於1986年開始施行的「電子通訊隱私法（Electronic Communications Privacy Act, ECPA）」，係立法者基於當時資通訊技術水準所制定，然近年來諸如電子郵件、雲端運算、網路社群活動及行動通訊等科技之興起，使得該法已不足因應當今狀況，故有制定更為透明、簡單且明瞭的資料取得標準之需要。尤其是現今電子資訊儲存於第三人資訊系統內情形之普遍，更讓此等資訊取得行為是否適用該法，產生相當的模糊。 此等模糊性，讓現今的司法部門認為僅需使用傳票（subpoena）或取得法院命令（court order），便可要求第三人提供客戶的資料。但是，上述這些團體希望政府應修正既有法律以與現時社會相符，確保須透過更為嚴謹的程序，始能要求第三人提供客戶的私人資訊，例如需申請「令狀」(warrant)。蓋因資料儲存於私人電腦內，需透過令狀以命其揭露，而若儲存於第三人處，理論上亦應該透過令狀以命第三人揭露該等資訊；再者，「美國人權法案（Bill of rights ）」要求政府機關除非具特定理由，否則不得對他人住宅進行無搜索令之搜索，同樣的，在電腦資訊之取得，亦不應降低保護人民之標準。 該團體揭示之四項標準為： ．政府僅能在出示正當理由，並取得搜索令（search warrant）的情況下，才能對任何受ECPA規範的實體（無線或電子通訊服務的提供者，或遠端電腦服務提供者）要求揭露未能輕易由公眾取得之資訊。且不受通訊時代，儲存工具及狀態，或提供者的權限及其通常商業活動的通訊使用所影響。 ．政府僅能在獲得具有正當理由之搜索令下，才得要求任何受ECPA規範的實體，提供行動通訊裝置的地點資訊。 ．政府僅能在獲得司法審查，及透過法院認為其已具備第2703(d)條之情形，才能要求任何受ECPA規範的實體提供撥打電話號碼的資訊，往來電子郵件、及該實體藉由電子記錄器和追蹤設備所記錄的資訊或數據。 ．政府單位經「Stored Communications Act」之授權取得傳票，其取得資訊之範圍僅得針對特定帳號或個人。其他非特定的要求，皆須司法同意後始得進行。
營業秘密管理概要 中國大陸法院認定AI創作可受著作權法保護中國大陸法院認定AI創作可受著作權法保護 資訊工業策進會科技法律研究所 2023年12月05日 近期生成式AI的工具運用，無論是生成文字的ChatGPT、生成圖像的Midjourney及生成影片的Pictory，技術一日千里，蓬勃發展；其應用已逐漸進入一般人的生活領域網，而且產生AI產出的侵權爭議，滋生運用AI創作的生成內容是否可主張著作權之疑義。我國經濟部智慧財產局於今(112)年6月以經授智字第11252800520號令 函指出--「AI利用人如係單純下指令，並未投入精神創作，由生成式AI模型獨立自主運算而生成全新內容，該AI生成內容不受著作權法保護。」採取否定見解 。不過其前提係「單純下指令，並未投入精神創作」，適於日前中國大陸北京互聯網法院於11月27日以(2023)京0491號民初11279號民事判決 認為如可認定屬「非機械性智力成果」，運用AI生成的圖片仍可受著作權保護。 壹、事件摘要 本案起因於原告將其使用開放原始碼的Stable Diffusion以輸入提示詞的方式，生成「春風送來了溫柔」之少女人像圖，並發布於網路平台。原告於事後發現，被告將該圖原有的原告署名浮水印(平台所發予的用戶編號)截除，並使用於其在網路上發布的文章中使用該圖做為插圖。原告因此提起姓名表示權與網路傳輸權的侵權訴訟。 被告主張系爭圖片具體來源為網路取得，已無法識別來源與浮水印，並不能確定原告是否享有圖片之權利；而且其所發布的主要內容為原創詩文，並非系爭圖片，亦未做為商業用途，並無侵權故意。 原告於本案中提出生成過程的影片佐證資料，北京互聯網法院認定呈現下列具體生成(取捨、選擇、安排與設計)步驟： 一、選擇前述軟體程式提供的模型，初步決定畫面最終生成的可用素材，決定作品的整體風格、類型。 二、為展現一幅在黃昏的光線條件下具有攝影風格的美女特寫所需，輸入有關類型、主體、環境、構圖、風格的提示詞，包括：「超逼真照片」與「彩色照片」類型；「日本偶像」主體並詳細描繪臉部皮膚、眼睛、辮子等細節；「外景」、「黃金時間」與「動態燈光」之環境提示；「機前瀏覽(眼看鏡頭)」、「酷姿勢」為構圖提示；「底片紋理、膠卷仿真」等風格提示。另並進行輸入反向指令提示，包括：繪畫、卡通、動漫等要求，以避免此類風格出現於生成內容。 三、進行相關參數設定，以及多次試驗的調整，包括採樣方法、清晰度、圖形比例等不同參數設置。 貳、重點說明 北京互聯網法院根據原被告的陳述與提供的證據資料，認定原告的AI生成圖構成作品(受著作權保護)，且原告享有該作品之著作權： 一、法院首先提出四個認定是否構成作品的判斷要件：1.是否屬文學、藝術、科學領域；2.是否具有獨創性(原創性)；3.是否具有一定的表現形式；4.是否屬於智力成果。同時認為本案須審酌的重點在於獨創性與是否屬於智力成果。 二、關於「是否屬於智力成果」，法院認為從原告構思圖片到最終圖片選定為止，原告進行了一定的智力投入，例如設計人物的呈現方式、選擇提示詞、安排提示詞的順序、設置相關的參數、選擇符合預期的生成內容，已具備本要件。 三、至於「是否具有獨創性」，法院認為非有智力投入的都具有獨創性，如「按照一定的順序、公式或結構完成的作品，不同的人會得到相同的結果」，則屬「機械性的智力成果」，並不具有獨創性。但運用AI生成過程若能「提出的需求與他人越具有差異性，對畫面元素、布局構圖描述越明確具體」就越能呈現人作者的個性化表達。因此，法院認定原告雖然AI創作沒有使用畫筆，也與過去使用繪圖軟體不同，但原告對於人物及其呈現方式透過提供進行設計，並透過反覆的修改參數、調整修正，這過程呈現原告的審美觀，而亦可見不同人使用該AI工具可以自行生成不同的內容，故該作品「係由原告獨立完成、體現了原告的個性化表達」。 四、針對原告是否享有該圖作品的著作權，法院採肯定看法認為： 1.雖原告使用AI工具的行為類如委託他人設計，於委託時該是受託人為創作人，但委託與AI工具區別在於委託人具有自主意志，AI工具本身並沒有，不是自然人或法人等民事主體，依法(中國大陸著作權法)該AI工具本身無法成為作者而享有著作權。 2.事實上仍是人以工具進行創作，而工具的設計者亦已於GitHub論壇的授權條款中揭示該工具的授權人並不對使用者所生成的內容主張權利。 3. AI工具的設計者本身並沒有創作該圖的意願，亦無預先設定後續生成內容，未參與創作的生成過程，其訓練雖然是投入相當大的心力，但投入的是在工具的創建而非特定內容的生成。 參、事件評析 本案最終由原告獲得勝訴，法院認定被告侵害其姓名權與公開傳輸權，雖然法院認為使用AI工具的行為類如委託他人設計，於委託時該是受託人為創作人，但也認為AI工具本身並沒有自主意志，不是可享有著作權利的主體，依法(中國大陸著作權法)該AI工具的使用本質仍是人以工具進行創作，而工具的設計者並沒有生成內容的意思與投入，故應由多次修改呈現其個人表達念的使用者取得著作權。本文認為可以從此判決中獲得下述啟示： 一、對初次生成結果進行修改指令是取得原始性的重點：現今AI工具的使用，如要求程度不高，其實只須簡單的指令，例如生成一個xx的圖片，即可產生一張可用的圖片，但此時AI生成的內容僅是「按照一定的順序、公式或結構完成的作品，不同的人會得到相同的結果」，屬「機械性的智力成果」，將不具有獨創性。 二、反覆修改、調整參數呈差異化，即便是AI生成亦獲保護：運用AI生成過程應力求與他人的使用具有差異性，對畫面元素、布局構圖描述越明確具體，越能呈現人個性化表達，始能取得著作權保護。而反覆的修改參數，例如視線角度、光影呈現方式、表情姿勢要求等圖片的細節呈現，強化呈現個人化的思想、表達、創作投入，即可獲得著作權保護。 三、AI生成世代的著作保護更須重視創作歷程的存證：本案原告取得勝訴的重要關鍵，在其於本案中提出生成過程的影片佐證資料，證明其使用過程的需求(在黃昏的光線條件下具有攝影風格的美女特寫)、取捨(輸入反向指令提示，包括：繪畫、卡通、動漫等)、選擇(「日本偶像」主體並詳細描繪臉部皮膚、眼睛、辮子等細節)、安排與設計(「機前瀏覽(眼看鏡頭)」、「酷姿勢」等構圖)步驟呈現其多次試驗的調整的事實證明，若無此佐證影片，單依生成結果難以證明其創作投入，訴訟結果可能會變成敗訴。 四、AI生成工具的使用須注意生成結果的權利歸屬約定：即便本案針對原告使用AI生成工具的生成結果可受著作權保護，但原告是否享有該圖作品的著作權，法院再次確認工具的設計者的授權條款並沒有對使用者所生成的內容主張權利，若該條款約定使用者不依法可享有的內容權利，使用者的權益將受影響，是必須特別要注意的事情。 如同北京互聯網法院在判決中提及的，在照相機出現之前，人們需要高度的繪畫技術才能再現物體形象，但即便出現智慧型手機亦不影響我們運用它產生有獨創性的作品而構成攝影著作。可預見的未來AI技術會越發達，人的投入會越少，但這並不影響著作權制度鼓勵作品創作的立法意旨，只要有創作性的投入，即便只是反復的指令下達，也仍是受著作權法保護的獨特的個人作品。 [1]詳見臺灣智慧財產局頒布函釋說明生成式AI之著作權爭議，理慈國際科技法律事務所，https://www.leetsai.com/%E8%91%97%E4%BD%9C%E6%AC%8A/interpretation-released-by-taiwans-ipo-to-clarify-copyright-disputes-regarding-generative-ai?lang=zh-hant，最後瀏覽日期2023/12/04。該文提及的智慧財產局令函，本文未能於於該局之著作權函釋系統中檢索到。 [2]該局111-10-31以電子郵件1111031號令函提及有關人工智慧(AI)的創作，如是「以人工智慧為工具的創作」，也就是人類有實際的創意投入，只是把人工智慧(例如：繪圖軟體)當作輔助工具來使用，在這種情形依輔助工具投入創作者的創意而完成的創作成果仍可以受著作權保護，著作權則由該投入創意的自然人享有，除非有著作權法第11條及第12條之情形。 [3]判決全文詳見https://mp.weixin.qq.com/s/Wu3-GuFvMJvJKJobqqq7vQ，最後瀏覽日期2023/12/04。