新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國最高法院於2021年11月8日聽取了Unicolors v. H&M案的口頭辯論，該案上訴法院認為著作權法§411所規定的註冊無效情況，並不以著作權人登記註冊時有主觀的詐欺意圖為限，應擴及到對錯誤事實有認知就足以使著作註冊無效，此一見解打破了先例判決。 依美國著作權法規定，著作權登記雖非取得著作權保護的要件，但著作權人須向官方進行註冊登記，才得以在美國提出著作權侵害的民事訴訟，使登記成為在美國主張著作權利之要件。 本案原告Unicolors主張被告H&M銷售之產品侵害其著作權，被告H&M主張原告Unicolors著作登記所涵蓋的31種面料設計並非同一天出版，不符合同一出版作品的要求，依美國著作權法§411規定，若申請註冊之資訊不正確，該錯誤資訊有導致該著作註冊無效的可能性，被告H&M此主張被上訴法院—第九聯邦巡迴法院所接受，法院認為著作權法§411所規定的註冊無效情況，並不以著作權人登記註冊時有主觀的詐欺意圖為限，應擴及到對於該錯誤有概括性了解就足以使著作註冊無效。 原告Unicolors於今（2021）年初向最高法院提交請願書，認為第九聯邦巡迴法院此一認定打破了先例判決。原告Unicolors主張，要使著作註冊無效，必須著作權人登記時有主觀上的重大錯誤，不能僅因著作權人對於法律或事實的誤解所產生的錯誤，就使得著作註冊無效。而被告H&M則再次強調該法條使用”knowledge”一詞，表示著作權人僅須對該錯誤事實有認知即可，解讀該法條時不應侷限於詐欺的主觀要件。 美國最高法院於日前聽取了Unicolors與H&M針對「著作註冊含有錯誤資訊」是否足以導致註冊無效的口頭辯論，目前預計於明（2022）年6月作出判決，若最高法院採認第九聯邦巡迴法院的見解，將有可能造成許多美國著作註冊無效的結果，值得業界留意。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」
Smart City的進化：Super City日本內閣為實現「Super City」的構想，於2020年2月4日通過《國家戰略特別區域法》部分條文修正案並提交國會審議，擬透過自駕車、無人機物流、遠距醫療等結合社區總體營造，以因應高齡化社會和解決人力不足等課題為目標。 「Super City」係指充分活用第四次工業革命中，人工智慧及大數據等各項最先進技術，領先實現未來生活方式的「完全的未來都市」。不僅在複數領域的智慧化措施中導入管制革新，同時也於生活中實踐，旨在解決社會中的各項課題。「Super City」可說是較早推動的「Smart City」進化版。Smart City具體推動範圍侷限於能源、交通等個別領域的尖端技術實證，而Super City則是以未來都市的整體創建為目標。即Super City的推動至少會同時涵蓋5個領域以上的生活中各項智慧科技，如物流、支付、行政、醫護、教育、環境、防災等；不僅有技術上的實證，更看重先行於未來社會的生活中實現；最重要的是會從居民的角度，而非從技術開發端、供給端，來追求理想的未來社會。 不過現行法規對於Super City的實現是有所侷限的，目前日本雖可依《國家戰略特別區域法》，由國家指定特定地區並實施管制鬆綁、制度改革等特例措施，但在推動管制革新以執行各種近未來技術之實證方面，尚需個別與相關主管機關協商，因此經常耗費數月至數年的時間成本。本次修法將強化各相關主管機關的合作，將制定基本方針明定具體的合作程序，而城市間的合作強化則將會整備開放API（Open Application Programming. Interface）規則及法規；另外Super City的實現需要蒐集、整理各領域之資料，因此擬將「資料協作基盤整備事業」列為法定計畫，且事業實施主體可要求國家及地方政府提供其所擁有的資料；由於Super City的推動將會同時涵蓋多個不同領域，為使各領域的管制革新具整體性且能同時實現，修正案中也規範Super City事業計畫的認定程序。
產學合作的推動-以株式會社東京大學TLO為例-產學合作的推動 -以株式會社東京大學TLO為例- 資策會科技法律研究所 法律研究員 林思妤 105年07月12日 壹、前言 我國政府日漸重視產學合作，各部會也相繼推出各項產學合作研究計畫及提供各式獎補助金方案，供學研單位及產業界申請，期能使學界的研發成果符合產業界的需求，產業界再將該研發成果的運用發揮至最大效益，成為國家經濟發展的潛能[1]。當中，大學的育成、技轉中心扮演著重要角色，其業務包含協助新創事業的成立以及管理研發成果的授權與移轉。而鄰近於我國的日本，以東京大學為例，其不僅有校內的產學協創推進本部（The Division of University Corporate Relations，DUCR）（以下簡稱DUCR）[2]，支持著東京大學與企業之間的共同研究，也有因應文部科學省（相當於我國教育部）推動國立大學法人化相關政策[3]而設立的株式會社東京大學TLO（Technology Licensing Organization）（以下簡稱東大TLO），促進東京大學研發成果的商品化[4]，在這樣校內、外組織長期合作下，東大TLO及DUCR皆對大學的研發成果有著深入的認識，針對每種研發成果安排合適的運用方式，使東京大學在研發成果商業化上有著亮眼的成績。本文將介紹東大TLO的組織及業務範圍，以供我國相關單位參考。 貳、株式會社東京大學 TLO的發展與運作 日本大學所設立的技術移轉中心TLO是根據1998年10月所制定的「大學技術移轉促進法」（「大学等における技術に関する研究成果の民間事業者への移転の促進に関する法律」）所設立的[5]。該法明定TLO為法人組織[6]，可為股份有限公司型態，對外公開發行股票，TLO主要工作為：研發成果之技術評鑑、接受國有研發成果之專屬授權、向經濟產業省的特許廳（相當於我國智慧財產局）提出專利等智慧財產權申請、提供技術資訊予私人企業、回饋一定比例之技術移轉效益予原研發單位。此外，推動大學、研究單位之創新公司（Start-up Company）或衍生公司（Spin-off Company），促使大學、研究機構設立創業育成中心（Incubator），提供新設公司必要資金，擴展研究機構與私人企業間之合作計畫等，皆屬TLO的重要任務[7]。 一、東京大學百分之百持股的技術控股股份有限公司 1998年8月3日，東京大學根據「大學技術移轉促進法」的宗旨自發性合資，以2000萬日圓的資本額成立「先端科学技術インキュベーションセンター」（Center for Advanced Science and Technology Incubation，CASTI）[8]，而CASTI就是東京大學的TLO，係屬法人組織，負責東京大學技術授權的對外窗口。2004年以前，因為日本國立大學不具法人身份，故校內研發人員的研發成果，歸私人而非校方所有，如何運用該研發成果校方難以干涉。2004年4月，因應「國立大學法人法」[9]的制定，CASTI保留股份有限公司的身份，正式編納入東京大學組織中，更名為株式會社東京大學TLO（TODAI TLO. Ltd.）[10]，是東京大學唯一百分之百持股的技術控股股份有限公司[11]。東大TLO藉由技術移轉扮演著學術界以及產業界間仲介橋樑任務，將大學及研究人員之研發成果進行智慧財產權信託[12]與專利申請等事務，將東大本身擁有的技術移轉至民間企業。透過技術移轉開創新產業目標，並將所得之收入再投入研發資金並回饋予大學，使大學之研發成果成為知識循環以及創新原動力[13]。 二、東大TLO的業務範圍 國立大學法人化後，教授的研發專利權歸屬校方而非教授本人，東大TLO會先與校方簽約，再代表東京大學與產業界洽談專利授權事宜。東大TLO一方面協助東大申請校內研發成果的專利權，依校方立場，判斷其是否具申請價值，並引導研發人員修整其專利申請方向，另一方面主動向企業界推銷校方公佈的專利，並將企業提出的需求意見整理供校內人員參考。 詳言之，東京大學研發產出之專利申請、取得及授權係由校外組織的東大TLO與校內組織DUCR協同運作完成，其處理流程為：（一）東京大學研究人員提出發明揭露給DUCR 作初步審查；（二）初步審查通過後發明揭露由DUCR轉給東大TLO；（三）東大TLO 與研究人員面談研議發明內容之專利性（Patentability）與市場性（Marketability）；（四）與研究人員面談後，東大TLO針對發明內容之專利性與市場性自為調查；（五）東大TLO 根據面談與調查結果提出專利申請建議給DUCR；（六）DUCR 決定是否續行專利申請；（七）東大TLO再聘請外部專利事務所進行專利申請；（八）專利申請提出後，東大TLO 即可著手進行授權作業[14]。東大TLO目前共有25位成員負責其業務。 另外，校內發明人創立新事業的過程中，資金的來源、人員的組成或創立的地點，東大TLO不會介入。但是涉及使用校內研發技術的部分，就必須透過東大TLO協助申請專利之後，再授權給發明人所開創的新事業[15]。 三、東大TLO享有的特別措施 日本的技術移轉中心TLO，因TLO本身「是否歸屬大學」分為承認型TLO以及認定型TLO。承認型TLO為大學所創設的技術移轉中心，係由大學同時向文部科學省及經濟產業省提出申請[16]。承認型TLO具申請獎補助金之資格，得接受政府各類獎助措施，且研發成果所有權移轉至TLO。認定型TLO則不屬大學機構所有，無法提出部分獎補助金之申請，但協助技術移轉之角色不變。再者，承認型TLO又根據其「存在方式」分為校內及校外TLO[17]；東大TLO即是承認、校外型的TLO。 而承認型TLO在「大學技術移轉促進法」、「產業技術力強化法」[18]以及「國立大學法人法」的規定下，有多項特別措施[19]，亦即東大TLO享有的特別措施。例：專利費用的減免[20]、專利處分的自主[21]、可獲國立大學法人出資[22]、信託業務的實施[23]及資金借款債務保證[24]，相信這樣的特別措施是有助於東大TLO將研發成果商業化的。 東大TLO自1998年運作至今，已完成了3,549件的技術移轉契約，達到約61億日圓的收入[25]，特別是2013年時，因為PeptiDream Inc.上市（藥物研發公司），使得該年度授權金收入達到將近7億日圓[26]。 參、評析 由東大TLO的運作發展觀之，可了解到產學合作的推廣，要注重學研單位及產業界之間的訊息流通，研發成果才有商品化的潛力。執行上，東京大學藉由校內DUCR對研發成果做出初步審查，佐以校外東大TLO對於技術移轉市場的專業判斷力，扮演著媒合的角色，使授權案件數量持續增長。更重要的是，政府對於設置TLO的支持與鼓勵，不僅放寬了限制，還給予多項特別措施，讓日本TLO有著穩定的發展，目前日本共有37個享有特別措施的承認型TLO[27]。 反觀我國，縱使根據經濟部於今年4月發佈的函釋[28]，國立大學可以擔任公司發起人，可以設置像東大TLO這樣的智慧財產研發成果管理公司，但卻受「國立大學校務基金設置條例」的規定，校方必須以自籌收入作為設立的資金來源[29]，無法將其從政府獲得的補助用於成立該類型公司。再者，若一國立大學將其因政府補助而取得的技術，固定交由其自身設立的TLO，是否仍適用現行的政府採購法等。總而言之，我國國立大學已有資格設立像東大TLO這樣的技術控股公司，但是相關的配套措施、因應機制及相關規範的調適仍待政府引領規劃。 [1] 經濟部中小企業處在各大專院校以及研究機構成立中小企業創新育成中心；科技部在各校成立技術移轉中心；教育部推出產學合作中心，為的都是促進產學合作。 [2] 日本東京大學産学協創推進本部DUCR，http://www.ducr.u-tokyo.ac.jp/（最後瀏覽日：2016/05/05）。 [3] 日本文部科學省國立大學法人化相關政策簡介，http://www.mext.go.jp/a_menu/koutou/houjin/03052704.htm，(最後瀏覽日：2016/06/27)。 [4] 株式會社東京大學TLO(TODAI TLO Ltd.)，http://www.casti.co.jp/en/#sect01 （最後瀏覽日：2016/05/04）。 [5] 「大學技術移轉促進法」（Act to Facilitate Technology Transfer from Universities to the Private Sector ），1998年，http://www.japaneselawtranslation.go.jp/law/detail/?ft=2&re=02&dn=1&yo=universities&x=0&y=0&ia=03&ky=&page=2 （最後瀏覽日：2016/5/4）。 [6] 日本「大學技術移轉促進法」第二條明定多項技術意轉組織成立方式，包含資金規模與公司人數（條文全文請參考前註連結）。 [7] 李素華，「日本施行大學及研究機構技術移轉促進法」，科技法律透析，1999年5月15日。 [8] Taking new challenges-RCAST historical Facts，http://www.rcast.u-tokyo.ac.jp/about/history/index_en.html（最後瀏覽日：2016/5/4） [9]国立大学法人法，2003年7月16日， http://law.e-gov.go.jp/htmldata/H15/H15HO112.html （最後瀏覽日：2016/06/29）。 [10] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁3（肆、案例分析）。 [11]株式會社東京大學TLO(TODAI TLO Ltd.)，“TLO stands for Technology Licensing Organization, and TODAI TLO, the only wholly-owned subsidiary of the University of Tokyo, acts as a contact point for industry to access technologies developed at the University of Tokyo.” http://www.casti.co.jp/en/，（最後瀏覽日：2016/06/28）。 [12] 根據日本信託業法第52條，承認型TLO(東大TLO)得為信託業者。 [13]有鑒於TLO之特殊性，其不僅在組織型態上不限於股份有限公司，也不要求其必須使用商號，同時對於董事之兼職或主要股東之限制等規定亦均無適用餘地。（李智仁，「從日本經驗談智慧財產權信託與技術移轉問題」，銘傳大學法學論叢，7期，2007年6月，頁98。） [14] 經濟部中小企業處，「行政院所屬機關科長級以上跨領域科技管理研習國外專題報告」，日本東京大學智財管理、技轉與產學合作模式，2013年11月，頁27-28，http://goo.gl/jzEviM（最後瀏覽日：2016/5/5）。 [15] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁10（肆、案例分析）。 [16]「特定大学技術移転事業の実施に関する計画承認実施要綱」（2008年最後修訂）第2條第1項：「法第四条第一項の規定に基づき実施計画の承認を受けようとする事業者は、様式第一による申請書を文部科学大臣及び経済産業大臣に提出するものとする」。 [17] 林秉毅，論文「日本大學與研發機構之技術移轉辦公室促進研發成果商品化研究」，2003年，頁35~37。 [18]「産業技術力強化法」Industrial Technology Enhancement Act(Tentative translation)，2000年4月發佈，http://www.japaneselawtranslation.go.jp/law/detail/?ft=2&re=02&dn=1&yo=%E5%BC%B7%E5%8C%96&x=0&y=0&ia=03&ky=&page=3 （最後瀏覽日：2016/06/29）。 [19] 日本特許廳，特許料等の減免制度，http://www.jpo.go.jp/tetuzuki/ryoukin/genmensochi.htm (最後瀏覽日：2016/5/4)。 [20] 大學等技術移轉促進法第8條，承認TLO第1年到第10年的專利費得減免二分之一。 [21] 產業技術力強化法第19條，政府委託研究成果由大學取得之專利權，讓售（讓與）或授權他人實施時，不必經過國家認可。 [22] 國立大學法人法蒂22條，承認TLO可從國立大學法人獲得出資。 [23] 信託業法蒂52條，承認TLO實施信託業務時，不需要取得內閣總理大臣之執照。 [24] 大學技術移轉促進法蒂6條，承認TLO所需要的資金借款，可受到獨立行政法人中小企業基礎整備機構的債務保證。 [25] 株式會社東京大學TLO(TODAI TLO Ltd.)，Licensing Track Record，http://www.casti.co.jp/en/about/results.html (最後瀏覽日：2016/06/29)。 [26] 科技部中部科學園區管理局盧科員素璧日本考察報告，日本筑波科學城、相模原育成中心招商及產學合作研討會，2015年4月7日。 [27] 日本特許廳，承認、認定TLO（技術移轉機關）一覽，https://www.jpo.go.jp/kanren/tlo.htm（最後瀏覽日：2016/06/29）。 [28]經濟部函釋，國立大學可以擔任公司發起人，2016年4月19日，https://gcis.nat.gov.tw/elaw/query/ConSearchRLT.jsp?CONS_CD=8793 （最後瀏覽日：2016/06/29）。 [29]國立大學院校校務基金設置條例第10條第1項：「為確保校務基金永續經營，並提升其對校務發展之效益，國立大學校院於提出年度投資規劃並經管理委員會審議通過後，得投資下列項目：一、存放公民營金融機構。二、購買公債、國庫券或其他短期票券。三、投資於與校務發展或研究相關之公司及企業，除以研究成果或技術作價無償取得股權者外，得以自籌收入作為投資資金來源。四、其他具有收益性及安全性，並有助於增進效益之投資。」
德國制定衛星資料保護專法，約束衛星地理資料商業性的利用今年年初德國聯邦政府向參議會提出「衛星資料保護法（SatDSiG）草案」，為國家以外的衛星資料利用，制定明確的規範。該草案將是歐洲第一個針對此議題所提出的草案。 該草案指出，利用「地表遙感偵查系統（Erdfernerkundungssystem）」所得資料或其所衍生的產品，不僅對國家軍事、外交安全帶來威脅，也可能造成個人隱私權的侵害。 該草案其他內容包括，所有「地表遙感偵查系統」的經營均須經過政府許可且受公權力監督。業者在接受客戶委託時，須特別注意是否有任何危害到德國國家安全的可能。其中判斷的標準如，所得資料涉及的內容、委託者身分、受委託偵測的地區、受委託的時間。如經衡量有涉及國家安全，則該資料的散佈須得政府的同意。 草案所稱衛星資料衍生產品例如照片、雷達資料以及其他經數位化商品如手機定位系統服務。違反者將面臨最高5年徒刑或50萬歐元罰金。 德國國會經濟委員會在9月10日針對該草案舉辦公聽會。會中隱私權保護團體也表達支持制定該法，各界亦贊同以專法約束具商業性的衛星資料取得利用，以保護個人隱私權。隱私權團體進一步表示，所有的衛星資料都涉及到地理資料，當衛星地理資料與其他可供識別個人身分的資料結合，則威脅到個人隱私權，而這些資料不當使用對於公眾人物格外敏感。 Google則表示，該草案適用客體應明確排除如搜索引擎等服務，且Google針對搜尋結果的圖片上網前，均會檢查其內容是否不當或違法。