新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
因應國際法規變動趨勢的營業秘密管理建議 資訊工業策進會科技法律研究所 2024年06月24日 因應技術進步導致資訊的存取與分享更加容易，營業秘密侵權爭議也隨之增長，綜觀國際政策推動或許多跨國智財專家均逐漸重視營業秘密爭議相關議題，並論及營業秘密相關法規趨勢、訴訟經驗、建議企業可執行的營業秘密管理做法等，以下將綜整相關趨勢與專家觀點並提出我國企業建議。 壹、法規變動趨勢 從國際趨勢以觀，各國針對「競業禁止」規定，有逐漸對其嚴格審查與進行法規監管的趨勢，而這也使得透過限制性條款避免機密資訊外洩的難度提高，企業多轉而透過營業秘密管理來加強防護。 一、競業禁止 本文列舉了近期美國與英國對於競業禁止法規監管的趨勢。 （一）美國將從聯邦層級禁止「競業禁止」條款 美國聯邦貿易委員會（Federal Trade Commission，下稱FTC）於今年，2024年4月23日推出一項最終規定「Non-Compete Clause Rule[1]」，該規則將針對除了高級管理人員以外之員工，使僱主與員工之間已簽訂競業禁止協議無效，並禁止未來僱主與員工簽訂競業禁止合約。 （二）英國擬立法限制「競業禁止」之最高法定期限 英國目前的競業禁止相關限制係基於英美法，以法院的個案判決及既判例來執行。英國政府於2020年12月4日至2021年2月26日期間向公眾進行諮詢，並就諮詢意見之政府回覆於2023年發布報告[2]，英國政府在該報告中提出，就目前國際實務上競業禁止條款之執行期間除了美國部分州已直接被禁止外，多半未進行太多限制，如德國最高為24個月、義大利最長可達三至五年，而英國政府提出其擬將在議會時間允許的情況下提出立法領先引入「最多三個月[3]」之上限，對於競業禁止條款進行限制。 二、合理保密措施 承上所述，基於「競業禁止」條款的效力可能因為政策、法規變動或在不同國家的規定不同而導致已簽署之競業禁止條款失去效力、尚未簽署之契約禁止再簽署競業禁止條款或只允許在受有限制之情況下簽署等，企業透過此類限制性條款來避免機密資訊外洩的難度提高，使的企業多轉而透過其他日常營業秘密管理措施來加強防護，及證明企業有落實營業秘密的「合理保密措施」之法律要件。 以美國加州為例，該州多年前就禁止「競業禁止」約定，故當地企業早已轉往透過建置營業秘密政策和保護措施來加強防護。 貳、具體營業秘密管理措施之建議 一、合理保密措施之目的 合理保密措施除了作為補足無法使用限制性條款（競業禁止條款）之替代管制措施具有「預防營業秘密洩漏之效果」以外；更具有在營業秘密侵權發生後，訴訟上舉證之用。許多智財實務專家表示，無論是在哪一國法規的管轄下，權利人共通性的困難多在於訴訟的舉證上，因此專家建議企業應留存營業秘密管制措施之執行紀錄以作為將來涉訟時舉證之用。 二、營業秘密管理之具體作法 參照實務上專家的建議，本文彙整將實務上被推薦之具體營業秘密管理做法[4]羅列如下： （一）確立並可以識別營業秘密範圍 對於企業而言，首先應識別並記錄出營業秘密（機密）範圍，才能明確管制措施的範圍，並透過機密的標示（例如浮水印）來使員工能夠認知到接觸的資訊為公司重要的營業秘密。 （二）監控 針對下載、複印、數據傳輸行為或者其他可能包含機密資訊之公司設備等行為公司應進行監控。 （三）使用行為管制 公司應限縮傳播範圍（包含禁止員工通過電子郵件將資訊發送到個人電子郵件或將機密文件攜出公司等）；並於不使用時妥善存放保管並上鎖或設置密碼管控。 （四）人員管制 員工作為營業秘密管控機制重要的一環，專家建議應對員工進行教育訓練（告知營業秘密重要性或提供有關如何識別和保護機密資訊的培訓）；與相關人員（員工、承包商、合作單位）簽署保密契約（confidentiality agreements）明確定義機密資訊之範圍以及禁止未經授權的使用與揭露；設立離職員工管控機制（包含離職面談、保存相關設備、甚至如果員工可能進入競爭對手工作，企業可評估是否進一步請合格第三方進行鑑識或取證員工身上是否攜帶機密資訊等，以作為未來若涉訟之舉證）等。 參、評析 綜上所述，企業或許已經理解建立合理保密措施並留存作為訴訟時舉證之證據的重要性，並了解些許零散的管理做法，但可能產生管理措施如何才算是完善的疑問，為了提供企業更全面的管理建議，資策會科法所創意智財中心以其在智財領域之研究與實務經驗的積累發布「營業秘密保護管理規範」[5]（下稱管理規範）將管理措施透過十個單元建立PDCA管理循環。 經查，上述國際法規變動下實務專家討論之營業秘密管理措施均包含在管理規範內，如「（一）確立並可以識別營業秘密範圍」會對應到管理規範第4單元「營業秘密的確定」章節；「（二）監控」會對應到管理規範之第5單元「營業秘密的使用管理」及第7單元「網路與環境設備管理」；「（三）使用行為管制」會對應到管理規範之第5單元「營業秘密的使用管理」；「（四）人員管制」會對應到管理規範之第6單元「員工管理」與第8單元「外部活動管理」。 管理規範除了提供更加多元完善的管理做法（如定義出的營業秘密應進行機密分級、設定保密期限建立管理清單；除了管制流通、複製行為，後端的銷毀或使用紀錄留存、預警措施之建立也很重要；對於員工的管控不僅是離職時，更是從入職時就有風險需要管控；或者更後端的爭議處理機制、監督與改善機制之建立等）以外，更重要的是，管理規範納入了企業應考量的相關法律風險，以「（二）監控」之建議為例，管理規範第6.3.2條進一步要求應對員工進行「宣導」，告知員工「會監控其使用營業秘密行為並保存相關電磁紀錄」，此規定對於企業而言十分重要，因為若未進行告知，可能會因為侵害員工的隱私權，違反刑法妨害秘密罪以及通訊保障及監察法之違法監察通訊罪，而使雇主被判刑。 由此可知，企業在建立營業秘密合理保密措施之相關機制時，亦需要注意措施的完善與合法性，企業除了可參考管理規範系統性建立營業秘密管理機制外，亦可以此管理規範做為檢視自身管理措施符合性之依據，進而促進企業有效落實營業秘密管理。 [1]Federal Trade Commission, FTC Announces Rule Banning Noncompetes (2024), https://www.ftc.gov/news-events/news/press-releases/2024/04/ftc-announces-rule-banning-noncompetes (last visited May 15, 2024). [2]Consultation outcome Measures to reform post-termination non-compete clauses in contracts of employment, GOV.UK, https://www.gov.uk/government/consultations/measures-to-reform-post-termination-non-compete-clauses-in-contracts-of-employment#full-publication-update-history (last visited Jun. 19, 2024). [3]同前註，引述原文：「The government will introduce a statutory limit on the length of non-compete clauses of 3 months and will bring forward legislation to introduce the statutory limit when parliamentary time allows.」。 [4]Q&A: Trade secret disputes, Financier Worldwide Magazine, Financier Worldwide Magazine, https://www.financierworldwide.com/qa-trade-secret-disputes (last visited Jun. 05, 2024). [5]<營業秘密保護管理規範>，財團法人資訊工業策進會科技法律研究所網站，https://stli.iii.org.tw/publish-detail.aspx?no=72&d=7212（最後瀏覽日：2024/06/14）。
英國建置著作數位著作授權平台(Copyright Hub)，為數位時代增添授權管道英國建置著作數位著作授權平台(Copyright Hub)，為數位時代增添授權管道 科技法律研究所 2013年06月28日 壹、背景說明 英國智慧局於今年(2013)3月底時宣布投入15萬英鎊（約683萬元台幣）啟動一項名為數位著作授權平台(Copyright Hub)的建置計畫[1]。所謂的數位著作授權平台的概念，係來自於2012年英國卡迪夫大學(Cardiff University)經濟系教授Hargreaves在2011年5月發表的一篇研究報告[2]，報告內容指出英國目前在多樣化的數位著作授權市場中，已經跟不上數位時代腳步。包括授權費用過高（授權過程繁複）、利用人不易取得作品之著作權、數位著作權交易不夠透明等，導致數位著作授權市場過小，並阻礙創意產業新的數位商業模式發展等，該文並指出若解決上開問題，在2020年後英國每年將可增加220萬英鎊的收入（約1億新台幣）。 Hargreaves教授認為要解決當前的困境，可以成立一個具有自動的電子商務媒合網站（automated e-commerce website），或是網絡系統（network of websites）的單一平台，來解決權利人、利用人、以及市場等關於著作權的授權事宜，此平台稱為數位著作權交易中心（Digital Copyright Exchange），此概念隨後再經英國智慧局委託Richard Hooper教授進行評估研究，正式將該平台命名為「數位著作授權平台」（Copyright Hub），並於今年3月底正式啟動建置計畫。 貳、數位著作授權平台（Copyright Hub）初步構想 Hooper教授受託針對數位著作權交易中心（Digital Copyright Exchange）的可行性進行研究[3]，原則上贊同此種平台的概念，但其另外強調該平台的性質應是一個由產業界主導的非營利組織（industry-led and non-profit），並應搭配以下措施： 一、數位內容作品識別認證 建立數位內容物件識別認證機制，釐清數位內容之權利人與利用人(被授權者)之關係，以加速數位著作之流通以及侵權之防止。例如，以數位圖像而言，其互通的內容識別碼、以及作為數位圖像內容識別碼的後設資料（metadata）[4]容易被移除或變更，以至於無法辨識該圖像的權利人與被授權者為何，同時真正權利人無法收取著作利用的權利金，進而阻礙圖像授權產業的發展。又如以數位音樂為例，目前採行的國際標準碼（ISAN或EIDR），可由業者自行決定，而不同的國際標準碼也應該能夠互相轉換或辨識。 二、降低孤兒著作之利用成本 有關孤兒著作之運用，利用人通常要證明已盡一切努力之辛勤搜尋（diligent search），方能進行該孤兒著作的加值利用。Hooper教授於該研究報告中建議，當利用人透過此數位著作交易平台蒐尋著作權人未果時，便符合已盡一切努力之辛勤搜尋[5]，以符合數位時代的搜尋態樣，降低利用人搜尋的成本。 三、減低數位作品合法取得之落差 目前在數位世界中，權利人與利用人間，就合法取得著作之可能性存在高度落差（Repertoire Imbalance ）[6]。舉例而言，在現實世界中如欲購得知名畫作，對於消費者來說，通常可預期相關交易資訊，包括購得管道、價格等。但在網路世界中，目前不但未發展出明確之交易管道，同時亦有為數不少的非法著作在網路上流竄。因而對於消費者來說，其自然而然以非法著作為其消費標的。從而對著作權利人而言，自然對於數位化的環境保有保障不夠充分之印象。進而降低著作權利人投入資源將著作予以數位化的意願；或縱使數位化後，對於投入數位交易市場，進行授權或銷售亦有所顧忌。因此Richard Hooper認為「數位著作交易平台（Digital Copyright Exchange, DCE)」的概念，除提供線上交易管道外，也須搭配其他技術、措施，以降低非法著作物的複製、流通。 參、由官方成立團隊協助建置數位著作授權平台（Copyright Hub） 英國智慧局聽從Hooper報告之建議，於當年(2012)11月成立「授權推進團隊」（Copyright Licensing Steering Group），由前英國國家廣播公司（British Broadcast Company, BBC）商務授權部主任James Lancaster擔任計畫主持人，下設六個工作小組，以針對Hooper報告所提出的各項主題進行研議，並找出可行之解決方案[7]。六個工作小組分別為： 1.數位著作授權平台籌設小組(Copyright Hub Launch Group) 2.數據轉換小組（Data Building Blocks） 3.數位授權解決方案小組（Digital Licensing Solutions） 4.圖像與後設資料小組（Images and Metadata） 5.教育推廣小組（Education Licensing） 6.音樂聯合授權小組（Joint Music Licensing） 從以上各工作小組定位觀察，不難發現「數位著作授權平台籌設小組」係整個授權推薦團隊的主要核心，其他小組的角色為配合研擬該平台的授權業務相關措施。 圖1：授權推進團隊組織圖 資料來源：http://www.clsg.info/uploads/CLSG_Organisation_Chart.pptx 肆、數位著作授權平台（Copyright Hub）之基本定位與功能 至於數位著作授權平台的定位為何，，根據該平台籌設小組所提出的營運方針[8]，初步觀察該平台的定位與功能可歸納出三項特點： 一、平台定位為連結利用端與權利端之入口門戶（Portal）[9] 該匯轉平台的定位為連結（connect）利用端與權利端的入口門戶，屬於一種著作權資訊匯集中心；另外該平台之建置應由產業界所主導的非營利的組織並採自願加入的性質。只要涉及著作權以及著作臨接權相關的內容作品，都可以加入此平台，不限於數位形式的內容作品。平台並非要取代現有的市場機制，而係在促進現有的集體管理團體、作品登記單位（Registry）以及跨領域之間有關著作權之交流。 二、平台的主要功能在於媒合權利端與利用端[10] 平台主要提供的服務內容為協助利用端找尋合適的內容以及權利資訊，降低其在海量的數位世界裡搜尋的成本。此外，該平台也具備媒合功能，即利用人也可以透過該平台向權利人提出授權申請，或是由權利人向不特定或潛在的利用者提出授權的邀約，平台僅作為第三方的媒合者，協助兩端進行相關授權事務。另外，透過平台的資訊彙整機制，也可降低授權的爭議，例如專屬授權的重疊，以及授權範圍的疑義等等。 三、平台須借重數位權利資訊管理工具以達成目的[11] 目前數位作品透過數位權利管理資訊系統（Copyright Management System）已蔚為趨勢，因此該平台希望藉由多媒體識別網絡（Multimedia Identifier Network），在每一個數位作品加入一個管理碼，用以管理作品的權利資訊（包括授權內容等訊息）。此外，平台未來也會建立識別不同國際標準碼的機制，讓使用不同國際標準碼之作品在此平台上都能夠互相轉換或辨識。 伍、事件評析 從英國智慧局啟動成立數位著作授權平台的計畫，可以看出英國政府有意希望透過一個入口的網站來提供作品權利資訊，亦即由一個「節點」(Hub)[12]連結到各個相關著作權資訊的資料庫或管理團體，目前主要先進國家對於數位著作權彙集管理似乎有此種趨勢，例如日本的著作權資訊集中處理機構（著作権情報集中処理機構）[13]也是採用此種著作權彙集管理方式，不過其定位僅在於資訊提供。成立這些機構的國家，實際上都有良善且歷史悠久的著作權集體管理團體，同時也建立了相當數量的著作權相關數據，因此當要建置此類平台或入口網站時，馬上可擁有相當規模的平台資料庫。 我們也不難觀察到，該平台不斷強調其性質應該是非營利的組織，同時不會涉及相關的授權與交易（但提供協助），也不干預市場既有的商業機制，亦即政府只要擔任輔導或是初期研究建置的角色即可，所有的授權、交易都應該由民間自行運作，也不應該強迫其他產業加入，應由產業自行決定。儘管該平台的理想模式是如此，但該平台實際上尚未運作，是否可能達成每年增加一億台幣的產值也有待觀察。 不過從英國智慧局投入資金啟動數位著作授權平台此一動作，不難發現英國政府的企圖心，欲透過此一平台媒介進一步將英國的音樂、圖像、影音透網絡推廣到世界。從文化層面來說，係希冀透過該媒介再傳遞或散布英倫三島的文化，進而透過間接或直接產生經濟上的價值反饋。至於英國的作法於我國是否有可參考之處？實際上本文認為，由於我國的民主自由開放，所孕育出來文化能量，足以堪稱華語世界之翹首，富有蓬勃發展的音樂產業、出版產業、以及近來興起的影音產業，在華語世界或是亞洲等，競爭力不亞於其他國家，甚至近來流行文化已經深入擴散到鄰近國家當中[14]，我們如何透過科技媒介整合文創產業，進而增加經濟上的產值，英國的此種思維脈絡足堪借鏡。 [1] Government gives £150,000 funding to kick-start Copyright Hub(2013.03.25), http://www.ipo.gov.uk/about/press/press-release/press-release-2013/press-release-20130325.htm [2] Digital Opportunity - A review of Intellectual Property and Growth, http://www.ipo.gov.uk/ipreview-finalreport.pdf [3] Copyright Works: streamlining copyright licensing for the digital age, http://www.ipo.gov.uk/dce-report-phase2.pdf. [4] 後設數據(Metadata)，又稱元數據、中介資料，為描述數據的數據(data about data)，主要是描述數據屬性（property）的資訊，用來支援如指示儲存位置、歷史資料、資源尋找、檔案紀錄等功能。元數據算是一種電子式目錄，為了達到編製目錄的目的，必須在描述並收藏數據的內容或特色，進而達成協助數據檢索的目的。See Kai M. Hüner, Boris Otto, Hubert Österle, Collaborative management of business metadata, International Journal of Information Management, 31(4), 305, 305-308 (2011). [5] Hooper & Lynch, supra note 115, at 31. [6] 參考Hooper & Lynch, supra note 115, at 34. [7] Creative Industries Drive Momentum to Streamline Copyright Licensing in the Digital Age, http://www.clsg.info/uploads/Copyright_Hub__Press_Release.pdf [8] The Copyright Hub: Operating Policies, Version 1.0, November 21 2012, available at http://www.copyrighthub.co.uk/uploads/Copyright_Hub_Operating_Policies_-_Version_1.0_Nov_2012.doc [9] Ibid, P.2 [10] Ibid , P.3-4 [11] Ibid , P.5-6 [12] 此處的hub根據上下語義翻為節點為宜。 [13] 著作権情報集中処理機構，http://www.cdc.or.jp/ [14] 邱莉玲，〈台味指數 8成日本人哈台〉，工商時報，2013-03-08，http://money.chinatimes.com/express/express-content.aspx?id=14435&cid=7
虛擬的永恆與往生者個人資料運用逝者已矣，已不再是定律。2020年2月，韓國文化廣播公司（MBC）播放了一部紀錄片，紀錄了電視台製作團隊實現一位母親以虛擬現實VR（virtual reality）與已逝女兒重逢的過程，製作團隊透過動態捕捉技術，錄下一位兒童演員的動作，用以塑造往生者的行為動態，並重現還原往生者的聲音，製作出往生者的的三維虛擬影像。葡萄牙Henrique Jorge公司建立一個名為ETER9的社交網路，將每位用戶與AI進行配對，AI會學習複製該用戶於社交網路之行為，並可代其發表回覆與評論，即使其用戶已往生，AI仍持續運行。現今許多科技新創公司正著手研究「數位來生」，使往生者於數位中重生。 牛津網際網路研究所（Oxford Internet Institute）的一項最新研究顯示，估計約50年後，Facebook內往生者的帳號數量將超過存活者的帳號數量。而FaceBook可視為現今人類物種歷史上最大的人類行為資料庫，曾經創建過個人資料的用戶都不復存在，但他們的數位資訊卻永存於網際網路中，但在多數國家，往生者的資料並不是個人資料保護法令所含括的保護客體，往生者個人資料之運用勢必成為道德與法律上的重要課題。 英國阿斯頓大學的Harbinja教授表示，或可由遺囑中有無處置往生者個人資料之指示作為參考，但其亦表示在某些國家存在無法保證遺囑可得完全兌現的問題，例如，在英國遺囑中決定了個人資料的處理方式，仍可能僅被視為是個人意願，類似遺囑中選擇火葬的決定仍可能被執行者和繼承人推翻，且無法強制執行。 我國個人資料保護法施行細則第2條規定：「本法所稱個人，指現生存之自然人。」，所保護的個人資料對象是指「現生存有生命」的自然人，並不包括「往生者」，而歐洲部分國家允許繼承人行使被繼承人之個人資料保護相關權利，例如匈牙利規定本人可指定特定人或由直系親屬行使本人往生後之權利、西班牙則規定繼承人有權行使GDPR第15條資料查詢權、第16條更正權和第17條刪除權，而義大利則規定親屬代表可基於保護家庭之因素行使往生者於GDPR第15條至第22條之權力。ETER9便可讓用戶設置死後停止AI代替回覆的功能，也可以指定授權往生後的帳號負責人。在數位來生的議題中，我國應可參酌部分歐洲國家運用GDPR規定從而規範往生者個人資料權利之方式，進而探討我國對往生者個人資料運用之相關議題。
英國推出《藥品和醫療器材法》草案英國政府於2020年2月13日發布了《藥品和醫療器材法》（Medicines and Medical Devices Bill）草案。根據英國國民保健署（NHS）的聲明，新法草案修改以及補充了現有的英國藥品、醫療器材、臨床試驗監管框架，確保英國能夠開發具有開拓性的醫療技術。 本次草案的提出原因之一為英國計劃自2020年12月31日起退出歐盟，過去英國藥品與醫療器材法律乃援引歐盟相關指令與規則（例如：歐盟醫療器材法規，Medical Device Regulation, (EU) 2017/745），一旦脫歐過渡期結束，英國將無法再透過1972年《歐洲共同體法》（ECA 1972）援用歐盟的規定來規範與更新藥品、醫療器材與臨床試驗法律。 本次法案另有幾項新增重點： 醫療器材主管機關英國藥品和醫療產品監管署（Medicines and Healthcare Products Regulatory Agency）成為唯一有權簽發執行通知書（enforcement notices）的機關。 草案第23條明確指出哪些違反英國《2002年醫療器材法規》（Medical Devices Regulations 2002）的行為可能導致刑事犯罪。 草案第26條針對違反英國《2002年醫療器材法規》的人有新的民事制裁（civil sanctions）規範框架。例如在本法草案附表1（Schedule 1）中提及將賦予內閣大臣權力，得對違反《2002年醫療器材法規》之個人處以罰款（monetary penalty）。 草案第34條賦予內閣大臣權力向公眾分享有關醫療器材的資訊，例如受個資法保護或屬商業機密的醫療器材安全的資訊。 目前法案草案在國會二讀階段。