新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本厚生勞動省、經濟產業省和總務省共同於2021年2月19日公布「有關民間個人健康紀錄（Personal Health Record, PHR）業者蒐集、處理、利用健康資料之基本指引」（民間PHR事業者による健診等情報の取扱いに関する基本的指針）草案，檢討民間PHR業者提供PHR服務之應遵守事項，希望建立正確掌握和利用個人、家族健康診斷或病例等健康資料之電子紀錄制度。 本指引所稱之「健康資料」，係指可用於個人自身健康管理之敏感性個人資料，如預防接種、健康診斷、用藥資訊等；而適用本指引之業者為蒐集、處理、利用上開健康資料並提供PHR服務之業者。根據指引規定，PHR業者應針對資訊安全對策、個人資料處理、健康資料之保存管理和相互運用性及其他等4大面向採取適當措施。首先，在資訊安全對策部份，業者需取得風險管理系統之第三方認證（如資訊安全管理系統制度（ISMS））；其次，針對個人資料，業者應制定隱私政策和服務利用規約，並遵守個資法規定；然後，為確保健康資料之保存管理和相互運用性，系統應具備雙向資料傳輸之功能；最後，本指引提供檢核表供業者自行檢查，業者亦應在網站上公佈自行檢查結果。
美國合夥團體近期發展報告—由近10年有限合夥等團體資產與數量走勢談起美國合夥團體近期發展報告—由近10年有限合夥等團體資產與數量走勢談起 科技法律研究所 法律研究員 劉得正 101年4月26日 壹、前言 根據美國最新 (2011) 公布「國內稅收收入統計報告書」 (Internal Revenue Service Statistics of Income Bulletin Fall 2011 Washington, D.C. )[1]顯示，2000年至2009年間，美國有限合夥（Limited Partnership，LP）等合夥團體在數量與資產分佈上，有重大改變，簡要分析說明如下。 貳、美國有限合夥發展現況 一、各類合夥團體[2]總體數量呈現穩定成長 查美國國稅局最新 (2011) 發表之統計資料發現，至目前為止合夥團體仍就受到投資者的青睞。至2009年為止，以合夥身分報稅之企業，共計[3]3,168,728家，合夥人總數達21,141,979人，其申報擁有之總資產 (assets) 則達到約18.8兆美元。相對於2008年[4]，合夥團體數量成長約2萬餘家，成長幅度0.7%；合夥人總數增加184萬餘人，成長幅度9.5%。值得注意的是，這是在2008年次級房貸風暴發生後，第二年成長幅度在1%左右，在2000年至2007年間，合夥數量成長幅度在3.6%-8.5%間。 數據顯示資產在1億美元以上的合夥團體，共有1萬8千餘家，占合夥團體申報資產72.3%，表示在美國合夥團體絕非僅受中小企業的偏愛。另外，若從行業別來看[5]，金融保險業之合夥團體申報資產占全體54.4%，位居第一；其次為不動產相關業，占全體之23.7%。 二、有限合夥數量持平而獲利維持優勢 在所有以合夥身分報稅之團體中，有限合夥LP此種合夥形式，仍表現十分亮眼。在盈利 (Profits) 表現上，有限合夥2009年盈利金額[6]約達1393億美元，占全部合夥團體盈利34%。事實上自2000年起，有限合夥LP盈利金額占合夥團體總獲利比例，始終維持在31%-39%間。 至於在數量上，有限合夥LP則表現持平。2000年至2005年間，有限合夥數量以和緩幅度上升，2006年起則略微下降；以2008年至2009年間為計[7]，有限合夥LP數量別為411,698家與396,611家，占總數12.5%。 三、有限責任公司（Limited Liability Company, LLC）數量大幅成長 相對於有限合夥LP在盈利上的表現，有限責任公司LLC則在數量上有驚人表現。2009年間有限責任公司LLC數量達到1,969,446家，占合夥團體總數62.2%[8]。與2008年相比，成長幅度達到3.8%[9]，遠高於合夥團體總成長幅度0.7%。事實上自1995年起，有限責任公司LLC的數量每年皆有大幅度成長。2009年與1995年相比，有限責任公司LLC數量成長達15倍以上。且自2002年起，有限責任公司LLC數量便占合夥團體總數量50%以上[10]。 至於在盈利 (Profits) 方面，有限責任公司2009年則達到約889億美元。相較於有限責任公司LLC在數量上占總數62.2%，獲利量則僅占所有合夥團體21.6%[11]，主要原因為其損失比例過高所致[12]。惟值得注意的是，在2008年發生次級房貸風暴前，有限責任公司LLC盈利占全體合夥團體比例亦約在3成左右，與有限合夥相近。但在2008年有限責任公司盈利則下降為11%左右[13]。 四、普通合夥（ General Partnership, GP）數量快速萎縮 另一項常見的合夥團體，為全體合夥人負無限責任之普通合夥GP。觀察本次統計發現，在2009年間，普通合夥GP數量為624,086家，相較於2008年669,601家，下降6.8%。且與1995年1,167,036家相比，更下降53.5%。顯見普通合夥GP在數量上呈現快速萎縮之趨勢，而逐漸不受到美國投資者的青睞[14]。至於在盈利表現上，除2009年約為621億美元外，2000年至2009年間皆在700-900億美元間起伏。 參、趨勢分析 針對上述針對美國近期合夥團體發展之歸納，本文提出下列看法： 一、稅制改變造成有限責任公司LLC數量成長 依據美國稅法規定，一般公司（Corporation）與合夥團體最大的差異在於，一般公司（Corporation）具備課稅主體地位，而公司在課稅後 尚須就股東個人所得再次課稅，形成雙重課稅（Double Taxation）。反之，合夥團體採單層課稅（Pass Through Taxation）方式[15]，多半情況下納稅價額較低。因此，有限合夥LP等相關合夥組織過去十分受到投資人喜愛。 相較下，有限責任公司（LLC）之定位究竟屬於一般公司法人（C corporation）或是合夥，在發展初期並不明確，而未受到投資者廣泛運用。但此情況在1996年改採「勾選原則」（Check The Box Rule）後有了改變。在勾選原則下，除權益得公開交易之企業必須以一般公司法人（C corporation）方式課稅外，容許非公司型組織（unincorporated entities）可以自由選擇稅制[16]。此稅制上的改變，使得有限責任公司LLC得排除雙重課稅的不利，而享有合夥團體單層課稅之優惠。本文推測，1996年起有限責任公司 LLC 在數量上大幅度的成長，應係與此有關。 二、有限合夥LP在金融投資相關行業的運用未受影響 從數據上看來，相較於有限責任公司LLC數量的大幅提升，有限合夥LP則未出現明顯的排擠效益。有限合夥LP數量持續維持在40萬家左右。且如前述所提，有限合夥LP擁有相當高的獲利能力 ( 高達1393億美元 ) ，而深入觀察可發現，當中包括創業投資等「其他金融投資活動」 (Other financial investment activities)[17]獲利高達716億美元[18]。顯見 有限合夥LP在金融投資相關產業仍具有關鍵重要性。 從本次美國所提出的稅收統計報告可以發現，毋論是有限合夥LP抑或是有限責任公司LLC之組織形態，在未來都將具有相當重要性。面對如此之發展，我國實應思考立法開放此等新型態商業組織之可能。因唯有商業組織多元化的發展，才有機會使更多投資者找到符合其個人需求之投資模式，將資金投入市場，進而促進資金的流通與經濟的發展。在面對全球化的今日，各國間無不為吸引資金進入，爭相採取不同開放手段的此刻，謹慎而適度地開放商業組織政策，將能為國家競爭力帶來深遠的助益。 [1]Nina Shumofsky & Lauren Lee, Partnership Returns, 2009 , Internal Revenue Service Statistics of Income Bulletin Fall 2011 Washington, D.C. 68 (2011). [2]此處合夥團體是指依據美國國內稅法 (Internal Revenue Code, IRC) Subchapter K納稅之企業。依據IRC規定，商業團體報稅時，需依據其組織性質不同，分別按Subchapter C、Subchapter S、Subchapter K進行報稅。原則上一般公司 (Corporation) 應依據Subchapter C申報；符合Subchapter S條件之公司 (Corporation) 則可依Subchapter S申報，亦即俗稱之S公司；至於其他非公司 (Corporation) 之企業，則可依據「勾選原則」（Check The Box Rule）選擇依Subchapter C 或 Subchapter K進行報稅，包括有限合夥、普通合夥、有限責任公司、有限責任合夥、有限責任有限合夥。其中有限責任合夥是指在普通合夥基礎下，使普通合夥人無需為其他合夥人不當或過失行為負責之組織；如是在有限合夥基礎下，賦予普通合夥人此有限責任範圍，則為有限責任有限合夥。 See Internal Revenue Code, 26 U.S.C. §§ 1-9834. (2012) [3]Nina Shumofsky & Lauren Lee ,supra note 1, at 84. [4]id., at 70. [5]id., at 72. [6]惟其金額卻由2008年約1782億美元，下降為1393億美元，Id., at 156-7. [7]Id., at 156-7. [8]Id., at 73. [9]Id., at 68. [10]Id., at 73. [11]Id., at 75. [12]Id., at 151. [13]Id., See Figure I, at 75. [14]至於以普通合夥為基礎所衍生的有限責任合夥，在數量上至2009年間僅達到117,660家，並未因普通合夥下降而大幅提升。See id ., at 157. [15]參見羅怡德，〈美國「有限合夥」之介紹與討論〉，《社經法制論叢》，第6期，頁193以下(1990)。 [16]Robert W. Hamilton著，齊東祥譯，《美國公司法（The Law of Corporations）》，法律出版社，第5版，頁26-27 (2007）。 [17]依據北美行業分類系統 (The North American Industry Classification System, NAICS) 定義，「其他金融投資活動」 (Other financial investment activities) 係指:1.除銀行、證券商、商業契約經銷商外，其他買賣金融契約之主體；2.除證券商、商業契約經紀人外，其他買賣金融契約之代理人或經理人；3.除證券商或商業契約經銷商外，提供其他投資服務，包括投資組合管理、投資諮詢、信託、保管服務等。available at http://www.census.gov/cgi-bin/sssd/naics/naicsrch?code=5239&search=2007%20NAICS%20Search (last visited 04/18,2012) [18]supra note 1, at 156.
德國公布最新DiGA指引，針對「系統數據分析」作補充說明德國聯邦藥品暨醫療器材管理署（Bundesinstitut für Arzneimittel und Medizinprodukte, BfArM）於2022年3月18日發布3.1版《數位健康應用程式指引》（Digitale Gesundheitsanwendungen(DiGA) Leitfaden），主要針對3.0版未詳盡之「系統數據分析」（Systematische Datenauswertung）部分作補充說明（參考資料四，頁152以下）。 德國於2019年12月即透過《數位化創新醫療服務法》（Digitale-Versorgung-Gesetz, DVG）修訂《社會法典》第五編（Sozialgesetzbuch Fünftes Buch, SGB V）關於法定健康保險之規定，賦予數位療法（Digital Therapeutics, DTx）納保給付的法律基礎，BfArM並透過《數位健康應用程式管理辦法》（Digitale Gesundheitsanwendungen-Verordnung – DiGAV）建構處方數位療法（Prescription Digital Therapeutics, PDT）的管理架構並發布DiGA指引，使數位療法得以快速被納入法定健康保險給付範圍。 開發商之數位健康應用程式取得歐盟醫療器材規則（Medical device regulation, MDR）CE Mark I & IIa級認證之後，得向BfArM提交申請，若該應用程式「符合法規要求」（Anforderungen），並具有「積極醫療效果」（Positive Versorgunseffekte），則該應用程式最快可以在三個月取得永久許可，通過許可將被列入DiGA目錄（DiGA-Verzeichnis）當中；而若僅「符合法規要求」則會被暫時收錄，需在十二個月內補上「積極醫療效果」的證據或報告，以取得永久許可，否則會從DiGA目錄中刪除。DiGA目錄中的應用程式（包含臨時許可）會納入單一支付標準（Einheitlicher Bewertungsmaßstab, EBM），法定健康保險將依該標準表列之金額給付給製造商。 目前DiGA目錄上共有36款應用程式，當中13款取得永久許可、19款取得臨時許可、另有4款被刪除；三分之一的應用程式係用於治療焦慮或憂鬱等精神疾病，其他尚包括治療耳鳴或肥胖症等疾病。病患近用DiGA目錄中之應用程式的途徑有二：透過醫師開立處方，或是依照醫師診斷之病症自行在DiGA目錄中查找對應的應用程式後提交處方申請。法定健康保險將會依照該應用程式被使用之次數，對照EBM所列之價額後，給付費用予開發商。 本文同步刊載於stli生醫未來式網站（https://www.biotechlaw.org.tw）
歐盟設立歐洲研究院（European Research Council）對前瞻性研究提供經費補助歐盟最近宣布其新設立的歐洲研究院（European Research Council, ERC)，自2月底開始運作。ERC是依據歐盟第七期研發綱要計畫（Seventh Framework Programme for Research and Technological Development, FP7）下之子計畫－”理念”計畫（"Ideas" programme）所設立。2006年底通過的歐盟第七期研發綱要計畫，揭示歐盟在2007至2013年間的科技研發政策、研發投入的重點領域與經費挹注情形。與PF6相較，PF7經費大幅成長，每年平均成長至少達40％，單是2013年一年，經費成長更高達75％。 ERC是第一個泛歐的經費補助機構，設立目的是為了贊助前瞻科學領域的研究活動。在設立第一年，歐盟挹注於ERC的經費即高達3億歐元，在FP7計畫的七年期間，ERC總計取得7.5 billion的經費。隨著ERC的設立，歐盟首度有了專為前瞻性研究量身訂作的經費補助運作機制，亦即交由歐洲科學界菁英，也就是由22位聲譽卓著的科學界菁英所組成的科學諮詢會（Scientific Council）自主管理，官僚系統不得對之表示意見。 歐盟希望藉由ERC的設立，促使科學界得以對最具有原創性的科學想法深入研究，以突破當前之知識界線，進而協助解決歐盟在社會、環境、經濟面所面臨之挑戰。