新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本數位廳（デジタル庁）與內閣府智慧財產戰略推進事務局（内閣府知的財産戦略推進事務局）於2022年3月4日公布「平台資料處理規則實務指引1.0版」（プラットフォームにおけるデータ取扱いルールの実装ガイダンス ver1.0，簡稱本指引）。建構整合資料提供服務的平台，將可活用各種資料，並創造新價值（如提供個人化的進階服務、分析衡量政策效果等），為使平台充分發揮功能，本指引提出平台實施資料處理規則的六大步驟： 識別資料應用價值創造流程與確認平台角色：掌握從產生資料，到分析資料創造使用價值，再進一步提供解決方案的資料應用價值創造流程，以確認平台在此流程中扮演的角色。 識別風險：掌握利害關係人（如資料提供者與使用者等）顧慮的風險（如資料未妥適處理、遭到目的外使用等疑慮）。 決定風險應對方針：針對掌握的風險，決定規避、降低、轉嫁與包容等應對方針。 設定平台資料處理政策與對利害關係人說明之責任（アカウンタビリティ）：考量資料處理政策定位，擬定內容，並向利害關係人進行說明。 設計平台使用條款：依據「PDCA循環」重複執行規則設計、運作與評估，設計平台使用條款。 持續進行環境分析與更新規則：持續分析內部與外部因素可能面臨的新風險，並更新平台資料處理規則。
德國汽車製造商擁有德國境內大部分的自駕車專利根據德國專利商標局（Deutsches Patent- und Markenamt）2017年度報告，德國該年境內發明專利申請量達67,707件，僅較2016年下降0.3％（2016年專利申請量達歷年新高），主要領域在交通；而新型專利和設計專利申請量卻持續下降。歷年申請量如下表： （件數） 2017 2016 2015 2014 2013 2012 2011 發明 專利 67,706 67,907 66,898 65,963 63,177 61,361 59,612 新型 專利 13,299 14,030 14,271 14,741 15,470 15,531 16,038 設計 專利 44,297 57,057 58,017 60,837 56,944 55,250 53,197 資料來源：德國專利商標局 其中，德國汽車公司投資在電動汽車、輔助系統和自動駕駛等領域數十億元的成果在發明專利中被充分反映出來。根據德國專利商標局2017年度報告，該年自動駕駛專利申請數量有2,633件，較2016年增加14％，是2013年的兩倍。 在德國4,810件自動駕駛專利中，德國汽車公司就擁有超過2,006件，占42％，日本為28％，美國為11％。僅2017一年，德國汽車公司就取得325件自動駕駛專利，較日本公司259件、美國公司112件和法國公司的41件還多。其中絕大多數被Audi、Toyota和Volkswagen所擁有。 此外，德國境內電動汽車專利申請也增加10％，總數達到3,410件，超過三分之一是用於蓄電池和燃料電池，德國汽車公司高居專利申請量榜首，其中以Bosch和Schaeffler為最。 事實上，除了在德國境內，全球自動駕駛專利幾乎一半亦為德國汽車公司所擁有，截止至2017年底，占了48.8％，其中Bosch排名第一，共擁有1,101件專利。前十名專利擁有者如下圖： 單位：件 資料來源：德國經濟研究所（Institut der deutschen Wirtschaft） 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
法國憲法委員會宣告《打擊網路仇恨言論法》違憲法國憲法委員會於今（2020）年6月18日宣告今年5月甫通過之《打擊網路仇恨言論法》（Lutte contre la haine sur internet, Fighting Hate on the Internet，又稱Avia Law）違憲，認該法侵害人民言論自由之權利。 為打擊網路上日益嚴重之仇恨性言論，法國國民議會於今年5月13日通過《打擊網路仇恨言論法》，該法旨在課予網路社交平台之責任，在其使用者提出檢舉後，平台應於24小時期限內移除明顯的不法言論，包含歧視、仇恨、暴力、煽動犯罪、涉及恐怖主義或兒童色情等，尤以，若該訊息涉及兒童色情或煽動恐怖主義者，則平台刪除該訊息之期限將縮短為1小時內。倘平台若未於期限內刪除之，面臨之罰緩最高達125萬歐元；如經法國高等視聽委員會（Conseil superieur de l'audiovisuel, CSA）審核，發現該平台之內容審查系統存在嚴重且反覆之缺陷者，則最高可對該平台處以其全球收入4%之罰鍰。 該法原定於今年7月1日施行，但經法國憲法委員會審查後，認該法如前述之多項條款要求私人企業判斷使用者之言論是否為明顯涉及非法，將鞏固私人審查權，高額罰款恐將促進平台積極刪除平台上之言論，違反憲法保障之言論自由，因而宣告該條款違憲無效。目前尚不確定法國政府是否會如期施行其餘條款，惟由該法即可看出，法國傾向授權CSA於對網路平台採取更嚴格監管之態度，然是否能有效抑制仇恨性言論，後續尚值得密切觀察。
德國營業秘密保護法之鑑古推今德國營業秘密保護法之鑑古推今 資訊工業策進會科技法律研究所 李莉娟 副法律研究員 2019年12月24日 儘管國際間已有TRIPS協議[1]（Agreement on Trade Related Aspects of Intellectual Property Rights），但歐盟各成員國就營業秘密保護立法仍存在重大差異，如各成員國內國法對於營業秘密定義或非法獲取、使用或揭露營業秘密之行為定義、對營業秘密被害人之民事上補救措施等規範不一致，甚至部分成員國並無營業秘密的保護專法。 事實上早在2013年時，歐盟執委會即已針對歐盟內部市場營業秘密保護現況進行相關實證研究，研究結果顯現歐盟零散的營業秘密保護制度可認定是削弱歐洲工業發展的癥結點[2]。為彌補這些差異並在不侵害言論及資訊使用自由前提下，歐盟於2016年6月8日通過關於保護營業秘密的指令EU 2016/943，主要立法方向為[3]： 一、明文化歐盟成員國間一致的營業秘密定義與營業秘密侵害方式 二、在刑事制裁外，增訂了被害人可尋求的民事保護手段： （一）停止非法使用以及進一步揭露非法侵占之營業秘密的行為 （二）將非法取得營業秘密所製成的產品自市場中下架 （三）因他人非法使用或揭露營業秘密之損害的賠償請求權 壹、立法背景及法規重點 依據前述指令，歐盟成員國必須於2018年6月9日之前完成國內立法任務。身為歐盟最大經濟體、但原先並無營業秘密保護法的德國，經過了近兩年的討論後，於2018年4月提出「營業秘密保護法(Gesetz zum Schutz von Geschäftsgeheimnissen，GeschGehG)」草案，並於 2019年4月26日登於聯邦公報正式生效，同年月刪除不正競爭防止法(Gesetz gegen den unlauteren Wettbewerb, UWG)中營業秘密保護相關條文。 本次德國新營業秘密保護法於法規中明文營業秘密定義、提供被害人多種民事保護機制，以及營業秘密不當獲取手段排除以逆向工程、獨立衍生或相關其他合法方法取得等立法方式，同於美國保護營業秘密法(Defend Trade Secrets Act，DTSA)之立法框架與精神，而新法的出現不僅在營業秘密保護制度上達到法安定性之目的，對權利人而言亦有不少權利保障上、訴訟程序上之益處，以下本文將逐一探討。 貳、修法前德國營業秘密保護制度介紹 修法前的德國對營業秘密並無統一定義，多以聯邦憲法法院之判決[4]唯是，所謂營業秘密定義指： 一、為特定企業所有 二、僅為少數人所知 三、基於經濟利益而必須受到保密 四、維持保密對企業而言具有明顯的合法利益 在修法前，營業秘密的保護以不正競爭防止法第17條至第19條為依據。其立法目的在於保護競爭者、消費者及其他市場參與者免於受不正當交易行為影響、保護公眾在未經扭曲之競爭上的利益。並以刑罰作為規制手段，存有未遂犯、預備犯之明文，且當於境外遭營業秘密侵害時，可準用德國刑法第5條第7款[5]，得依該法處理。再者，雖為告訴乃論之罪，但基於法規保護客體涉及重要公共利益特性，司法機關可依職權介入處理。 不正競爭防止法所保護的客體為「交易行為」及「營業秘密」。前者之定義指有利自己或其他事業於交易締結前、締結時與締結後的一切行為，與促進銷售、或促進商品或服務之購買、或與商品或服務契約之進行客觀上具有關連；後者之定義則並無於不正競爭防止法中具體明文而是依據聯邦法院就個案認定，並且採取推定方式認定。 就營業秘密保護主要適用對象為：任職於事業者、就交易行為中受託保管、使用原型（特別為草稿、模型、模板、剖面以及配方）或技術性資料者。所謂任職於事業者指公司雇員；而就交易行為受託被交付原型或技術性規定者，所指為事業單位所委託之製造業者、設計業者等人。 不正競爭防止法規範的不法行為如，未經允許而將營業秘密告知他人；將營業秘密以技術工具、以有體化方式重現後加以製作，或以取走含營業秘密的實體物方式未經允許取得或備份營業秘密；就受託保管、使用之原型或技術性資料未經允許利用或告知他人；以及教唆或期約方式進行前述三類不法行為[6]。 但如屬特別保護客體、法益、特定職業人員或特定不法行為時，另適用不同法規，如： 一、民法第242條，關於員工基於普通善意履行原則，需對雇主之營業秘密負起保密義務[7] 二、刑法第203條，針對專門職業人員、公職人員獲知資訊後無故洩漏資訊，而妨害私人之秘密或業務秘密或經營秘密罪[8] 三、刑法第355條，關於公務員於行政程序、查核程序、稅法訴訟程序、稅法犯罪刑事訴訟程序、稅務罰鍰程序，其他相關金融局通知程序中，獲知資訊後無權公開或利用之違反稅務保密罪[9] 四、財政法第30條第2項，公職人員在執行稅收業務時，基於職務上取得資訊而非法披露、或使用之妨害營業秘密罪[10] 因此，德國於營業秘密保護法施行前針對營業秘密的保護並無統一專法規範。 參、德國營業秘密保護法重點介紹 德國營業秘密保護法(以下稱新法)的誕生除了履行歐盟成員國的立法義務，更重要的是保護營業秘密，防止未經授權的獲取、使用與揭露，並且將原先已受到保護的「營業秘密」以專法提高保護力及法安定性[11]。尤其是關於營業秘密之定義[12]，必須符合以下要件： 一、一般處理該等資訊者，既無法輕易了解也不會獲知資訊整體、確切組成與排序內容 二、資訊具有經濟價值 三、資訊所有權人有採取合理保密措施 四、對該資訊合理保密具有正當合法利益 適用對象包含雇員、代理人、管理人、其他侵權行為人（自然人及法人）[13]；行為類型包含無法律授權取得、使用、揭露，或違反保密義務，及違反營業秘密使用限制義務之行為[14]。而營業秘密使用限制義務屬於誠實商業慣例[15]，新法特此將該行為明文規制，屬於具重要性的新法特色。不過，若是以獨家技術發現、製造營業秘密，以公開取得的方法觀察、拆解、測試產品或物品以得知營業秘密，或以前述方法由未受營業秘密權限限制之觀察、測試、調查人員得知營業秘密；行使員工合法的參與權限與資訊權限；法律上或合法交易允許獲取、使用或披露營業秘密時，以上為新法所允許的情況[16]。 再者，亦規範營業秘密所有權人可對侵權人提起民事求償[17]，並且提供多種求償、補救以及賠償機制，如：訴訟前禁制令(如，禁止侵權人繼續製造產品)、合乎比例原則下請求實際損害賠償或請求被害人之預期利益、要求銷毀本案相關營業秘密並交由法院人員處理[18]。 再者，新法規定於訴訟程序證據保密令，只要與本案相關的部分或全部營業秘密，於訴訟程序開始時到訴訟結束前當事人可向法院提出保密令的要求；在法院同意後，則僅在該案相關文件中營業秘密無法被識別的情況下，才可向第三人提供該案相關營業秘密文件[19]。而當事人的保密義務將持續到訴訟程序終結後[20]，但如案件資料秘密性遭法院推翻或被公眾周知時，則不在此限[21]。如於司法程序中違反保密義務者，得處以最高10萬歐元罰鍰，或6個月以下拘留，並立即執行[22]。 肆、代結論—新法評析 今（2019）年4月下旬甫施行的德國營業秘密保護法，對企業而言無不感到衝擊，特別是以往企業多無盤點營業秘密並予以保密措施的習慣，在新法通過後不可避免的第一步必須先盤點內部可能的營業秘密，並施以適當保護措施以符合新法規定，保護自身利益；但新法對於營業秘密權利人而言無須再就被侵害之權利是否符合營業秘密定義舉證證明、可於訴訟程序開始前聲請禁制令預防侵權風險擴大、訴訟程序開始時即可聲請證據保密令且效力可持續到訴訟程序結束後、損害賠償額可納入比例原則衡量等正面效益。但新法也明文了數種非屬侵害營業秘密之例外情狀，故企業在新法施行後，將更需要在保密措施、與內外部利害關係人之間的商業相關合約、協議多加琢磨。 另外，尚有以下三點值得關注： 一、營業秘密保護法應用於舊案之情形 由於新法中無過渡條款，導致舊案之處理在新法施行後無所適從，特別是關於營業秘密所有權人可出於避免權利再次受害或遭侵權的風險向法院聲請禁制令使侵權者不得繼續生產或製造產品等要求[23]，該規範於不正競爭防止法(以下稱舊法)第8條同有明文，但新法多了比例原則的折衷考量。 舊法之不法行為，在證明符合新法第3條規定允許之情況下，可援引並作為免除禁制令的依據。在實務上，禁制令的決定取決侵權事實帶來的風險以及第一審法院最後一次言詞辯論後之評估，即使是針對舊法行為提出的禁制令或不作為令，仍有新法第二章損害賠償合理性及比例原則考量的適用，此點對企業於訴訟程序上有一定實益，避免被索求過多金錢賠償超乎原先侵權範圍，且新法已明文出法官在權衡之際可納入考量之要件[24]，同樣可降低企業在訴訟攻防上的不確定風險。 二、允許逆向工程明文化 新法第3條明文允許以「逆向工程[25]」方式獲取營業秘密。以往舊法並未規範，我國營業秘密法實務應用上雖允許逆向工程，但法規上亦無類似明文。 因此企業必須注意，應透過契約、調整保密政策或以更精進的保密技術來防止該類法所「允許」之情形發生，並調整其保護策略以求在保護秘密以及取得智財權間取得平衡[26]，此點亦非常值得我國企業特別關注。 三、英美法系懲罰性或懲戒性賠償金制度引進之可能 懲罰性或懲戒性賠償金制度為英美法系民事損害賠償制度底下的賠償措施之一，與歐陸法民事損害賠償法理，屬「損害填補性賠償」性質之「有損害，始有賠償」原則不同[27]。 但近年來德國學界採取開放態度認為在例外情況下可承認適用懲罰性賠償金，例如：尊重懲罰性賠償金之市場機能、對被告程序保障足夠、懲罰性賠償金數額納入比例原則之考量，且德國聯邦最高法院對此制度亦持友善立場，認為符合特定情況下懲罰性賠償金適用是合法的，以預留未來制度借鏡之可能[28]。 因此可肯定者為，依據德國民事損害賠償法理及實務見解，賠償數額必須符合比例原則之要求，而目前德國營業秘密保護法雖不同於我國並未納入懲罰性或懲戒性賠償金，但未來是否將引進制度或適用於判決中，亦值得關注[29]。 [1]TRIPS屬於與貿易有關之智慧財產權協定，但對各成員並無強制力，成員國可在內國法律制度中以適當方式實踐該協定規定之方法。 [2]Protection of trade secrets and know-how in the European Union: the EU Trade Secrets Directive (EU) 2016/943,ip-iurisdictio, Aug,20,2019, https://ip-iurisdictio.org/protection-of-trade-secrets-and-know-how-in-the-european-union-the-eu-trade-secrets-directive-eu-2019-943/#_ftn4(last visited Nov. 4,2019) [3]Council Directive 2016/943, Whereas (6),2016( L 157/1). [4]BVerfG vom14.3.2006, BvR 2087/03. [5]§5 Abs.7 StGB. [6]林易典教授譯，德國不正競爭防止法(Gesetz gegen den unlauteren Wettbewerb, UWG) 2017年新法，2017年8月 [7]§242 BGB. [8]§203 StGB. [9]§355 StGB. [10]§30 Abs.2 AO. [11]§1 GeschGehG. [12]§2 GeschGehG. [13]§2 GeschGehG. [14]§4 GeschGehG. [15]Friedrich Scheele, Germany’s New Trade Secret Laws,https://www.ratnerprestia.com/2018/06/21/germanys-new-trade-secret-laws/ (last visisted Sep.24,2019)，所謂誠實商業慣例常指契約約定、市場交易慣例，如誠實信用原則。 [16]§3 GeschGehG.但在此並非「例外」情形，「例外」情形規範於第5條中，專指為了保護合法利益而獲知、使用或披露營業秘密時，即排除第4條所禁止之情形。 [17]Abschnitt 2 GeschGehG. [18]Bird&Bird Trade Secret Directive Tracker，https://www.twobirds.com/en/in-focus/trade-secrets/trade-secrets-directive-tracker/germany (last visisted Dec.23,2019) [19]§16 GeschGehG. [20]我國營業秘密保密令之申請時間，依照智財案件審理法第11條第一項規範：「當事人或第三人就其持有之營業秘密，經釋明符合下列情形者，法院得依該當事人或第三人之聲請，對他造當事人、代理人、輔佐人或其他訴訟關係人發秘密保持命令：一、當事人書狀之內容，記載當事人或第三人之營業秘密，或已調查或應調查之證據，涉及當事人或第三人之營業秘密。二、為避免因前款之營業秘密經開示，或供該訴訟進行以外之目的使用，有妨害該當事人或第三人基於該營業秘密之事業活動之虞，致有限制其開示或使用之必要。…」於訴訟審理階段可向法官聲請，且依照條文內容應指已提出書狀後，但如在書狀提出前即有保密之急迫性應亦可提出，似於法無違。而保密令失效規範於第14條，情形如喪失第11條第一項申請要件時、保密令聲請原因嗣後已消滅，或他造當事人、代理人、輔佐人或其他訴訟關係人，在聲請保密令前已以第11條第一項第一款規定之書狀閱覽或證據調查以外方法，取得或持有該營業秘密時。 [21]§18 GeschGehG. [22]§17 GeschGehG. 對應我國智財案件審理法第35條秘密保持令罰則，我國違反秘密保持令者處三年以下有期徒刑、拘役或科或併科新臺幣十萬元以下罰金；並採告訴乃論之方式起訴。 [23]Daniel Hoppe&Preu Bohlig&Dr. Axel Oldekop,&Preu Bohlig, Behandlung von Unterlassungsansprüchen für Altfälle nach dem Gesetz zum Schutz von Geschäftsgeheimnissen (GeschGehG), GRUR-Prax,324(2019) [24]§9 GeschGehG，如營業秘密之價值、權利人採取之保密程度、侵權人揭露或使用或獲知營業秘密行為嚴重程度，或其他公共利益之考量。 [25]對他人產品或服務進行解構以獲知其設計方法等重要資訊，或直接從產品、服務中擷取資訊。 [26]Dr. Henrik Holzapfel，New german law on the protection of trade secrets, https://www.mwe.com/insights/new-german-law-protection-trade-secrets/ (last visisted Sep.25,2019). [27]陳聰富，美國法上之懲性賠償金制度，臺大法學論叢第31 卷第5 期，164 頁(2002)。 [28]陳聰富、陳忠五、沈冠伶、許士宦，《美國懲罰性賠償金判決之承認與執行》，新學林文化事業有限公司，頁195-197(2004)。 [29]Friedrich Scheele, Germany’s New Trade Secret Laws,https://www.ratnerprestia.com/2018/06/21/germanys-new-trade-secret-laws/ (last visisted Sep.24,2019)