新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美司法部於2008年介入Google與Yahoo網站上進行的搜尋動作提供相關廣告的合作案後，再次針對Google公司的網路版圖擴張動作，是否造成阻礙公平競爭採取調查行動，這次的目標是Google與書籍作者與出版商之間的圖書、文章數位化和解協議。 事實上Google 去年已與美國書籍作者與出版協會取得和解共識，前者願支付 1.25 億美元和解金，後者則撤銷其違反著作權的指控。但「無主」(orphan)的著作物，像是絕版書或不明著作的書籍作者必須在5月5日最後期限前選擇退出Google的計畫，否則就會被納入和解案。 不過，有七位作者上周向法院要求把5月5日截止期限再延長四個月，理由之一是提議的和解案太複雜。為讓Google有更多的時間，與其它作者商議和解協議，美國紐約聯邦法庭已將和解的期限延至 9 月4 日。Google表示會再花六十天的時間找到作者，並說服他們就Google線上書籍搜尋服務一案達成和解。如果Google的和解計畫順利完成，在其「Google Book Search service」搜尋服務中，將可找到數百萬件的作品。
美國將修法全力圍堵政府資料外洩美國國會於今年（2009）11月18日提出「聯邦檔案安全分享法案（Secure Federal File Sharing Act）」，內容主要是限制所有政府部門員工（包含約聘制人員），在未經官方正式同意之前，不得下載、安裝或使用任何點對點傳輸（Peer to Peer, P2P）軟體。期望藉由該法案的通過實施，徹底防堵政府及相關個人機敏資料的外洩。 該法案的制定，最初來自於政府部門對其財務資料保護的要求，早於2004年白宮管理及預算辦公室（The White House Office of Management and Budget）即已建議聯邦政府的各個單位應禁止其職員使用P2P軟體，以防止資料外洩。而於將近一個月前，國會道德委員會取得多位國會議員的財務狀況、經歷及競選贊助金額，並作成調查報告，未料一位新進職員將該份未經加密保護的報告存於自家裝有前述P2P軟體的電腦硬碟中，從而導致該份報告內容全部外洩。此一事件立即對向來注重政府及個人資料保護的美國投下了震撼彈，也促使該法案正式浮出檯面。 歐此項法案的提出毫無意外地得到視聽娛樂產業界的正面支持。主因來自多數人藉由此種軟體在網際網路上分享音樂、影片或其他應用軟體，時常侵害他人的智慧財產權，而法案的內容則是要求政府部門員工無論是在工作或是家中使用P2P軟體都須取得官方授權，無疑是直接限制了上述的分享行為。娛樂業者更進一步指出，P2P軟體對資訊安全的危害在於多數人無法明確知道該軟體的運作方式，而無法對其做正確的設定，使得軟體一旦被啟動，電腦內的所有資料：包含個人的社會安全卡號碼、醫療及退稅紀錄等，就立即暴露於網際網路之中！對此，除了推動此項法案的官員大聲疾呼：「用個人自律的方式防止資料外洩已經失敗，證明國會應該有所行動。 美國錄音產業協會（Recording Industry Association of America）則是預測前述國會調查報告的外洩，將會是資安法案重整的強力催化劑。
英國發布「人工智慧:機會與未來決策影響」政策報告，並聚焦人工智慧運用及管理英國科學辦公室於2016年11月9日，發布一份政策報告：「人工智慧:機會與未來決策影響(Artificial intelligence: opportunities and implications for the future of decision making)」，介紹人工智慧對於社會及政府的機會和影響，此份政策報告並提出以下各項重要建議： （一）關於人工智慧及應用界定與發展 人工智慧是指由人工製造系統所表現出來的智慧。不僅是將現有的流程自動化，還包含制定目標，並利用電腦程式實現這些目標，常見案例包括線上翻譯、語音辨識、搜尋引擎篩選排序、垃圾郵件過濾、透過用戶回饋改善線上服務、預測交通流量、環境或社會經濟趨勢發展觀察等。 （二）未來對社會及政府利益及衝擊 人工智慧針對提高生產力有巨大的潛力，最明顯的就是幫助企業或個人更有效地運用資源，並簡化大量資料的處理，例如Ocado 及 Amazon這樣的公司正充份利用人工智慧改善倉儲及銷售網路系統，使得客戶可便利快速購得網購商品。 目前，政府也日益增加相關技術的運用，以提高公共服務效率，使資源達到最佳化分配；減少決策者被誤導的可能；使政府決策透明化；確保各部門更了解人民的意見。然政府在利用人工智慧及巨量資料時，應遵守倫理使用指南，並遵守英國資料保護法及歐盟一般資料保護規則等相關法規。 在巨量資料、機器人、自動系統對於勞動市場的衝擊一直都是關注的議題，對於面臨未來工作結構的轉型及相關技術人員的進修及培養，應及早規劃，以適應未來的轉變。 （三）關於相關道德及法律風險管理課題 人工智慧可能潛在相關道德倫理問題。許多專家認為政府應積極管理並降低風險發生可能性，可從以下兩個面向思考： (1)研究機器學習與個人資料運用結合時，對個人自由、隱私和同意等概念的影響。 (2)調適由人工智慧作決策行為時的歸責概念和機制。 有關實際案例之研究，則包括，執法單位在應用預測技術時，應避免以種族、國籍、地址作為標準，並嚴守無罪推定原則，以防止民眾受到歧視或不公平的指控；透過人工智慧可從公開資料推測出某些私人訊息或其親朋好友的消息，此訊息即可能超出原先個人同意披露的內容；原先匿名化及去識別化的訊息，因人工智慧功能加強，導至可能被重新識別，故須定期檢視該保護措施是否足夠。另外，人工智慧的演算偏差可能導致偏見的風險，為了降低這種風險，技術人員應採取對應措施。 針對責任及疏失的判斷，目前尚無太多的實務案例，但為保持對使用人工智慧的信任，仍需有明確的歸責制，可能有必要讓首席執行長或高級主管對人工智慧做出的決策負最終責任。許多專家也建議，部分技術內容須保持透明度，以確定技術使用時是否有盡到相關注意義務。 人工智慧已成為未來發展趨勢之一，對於社會整體層面影響將越來越深，新的技術除了可提升生產力，帶來便利的生活，同樣也會帶來衝擊。為促進相關產業發展及推展新技術的使用，應打造技術發展友善環境，並對於公眾安全進行相關風險評估，如果風險屬於現有監管制度範圍，應評估是否可充分解決風險，或是須要做相對應的調適。另外，在人工智慧融入現實世界同時，相關業者應注意相關產品安全性、隱私權保護和從業人員的倫理教育，以提高大眾對新技術的接受及信賴，並確保對於未來挑戰及轉變已做好萬全準備。
美國合夥團體近期發展報告—由近10年有限合夥等團體資產與數量走勢談起美國合夥團體近期發展報告—由近10年有限合夥等團體資產與數量走勢談起 科技法律研究所 法律研究員 劉得正 101年4月26日 壹、前言 根據美國最新 (2011) 公布「國內稅收收入統計報告書」 (Internal Revenue Service Statistics of Income Bulletin Fall 2011 Washington, D.C. )[1]顯示，2000年至2009年間，美國有限合夥（Limited Partnership，LP）等合夥團體在數量與資產分佈上，有重大改變，簡要分析說明如下。 貳、美國有限合夥發展現況 一、各類合夥團體[2]總體數量呈現穩定成長 查美國國稅局最新 (2011) 發表之統計資料發現，至目前為止合夥團體仍就受到投資者的青睞。至2009年為止，以合夥身分報稅之企業，共計[3]3,168,728家，合夥人總數達21,141,979人，其申報擁有之總資產 (assets) 則達到約18.8兆美元。相對於2008年[4]，合夥團體數量成長約2萬餘家，成長幅度0.7%；合夥人總數增加184萬餘人，成長幅度9.5%。值得注意的是，這是在2008年次級房貸風暴發生後，第二年成長幅度在1%左右，在2000年至2007年間，合夥數量成長幅度在3.6%-8.5%間。 數據顯示資產在1億美元以上的合夥團體，共有1萬8千餘家，占合夥團體申報資產72.3%，表示在美國合夥團體絕非僅受中小企業的偏愛。另外，若從行業別來看[5]，金融保險業之合夥團體申報資產占全體54.4%，位居第一；其次為不動產相關業，占全體之23.7%。 二、有限合夥數量持平而獲利維持優勢 在所有以合夥身分報稅之團體中，有限合夥LP此種合夥形式，仍表現十分亮眼。在盈利 (Profits) 表現上，有限合夥2009年盈利金額[6]約達1393億美元，占全部合夥團體盈利34%。事實上自2000年起，有限合夥LP盈利金額占合夥團體總獲利比例，始終維持在31%-39%間。 至於在數量上，有限合夥LP則表現持平。2000年至2005年間，有限合夥數量以和緩幅度上升，2006年起則略微下降；以2008年至2009年間為計[7]，有限合夥LP數量別為411,698家與396,611家，占總數12.5%。 三、有限責任公司（Limited Liability Company, LLC）數量大幅成長 相對於有限合夥LP在盈利上的表現，有限責任公司LLC則在數量上有驚人表現。2009年間有限責任公司LLC數量達到1,969,446家，占合夥團體總數62.2%[8]。與2008年相比，成長幅度達到3.8%[9]，遠高於合夥團體總成長幅度0.7%。事實上自1995年起，有限責任公司LLC的數量每年皆有大幅度成長。2009年與1995年相比，有限責任公司LLC數量成長達15倍以上。且自2002年起，有限責任公司LLC數量便占合夥團體總數量50%以上[10]。 至於在盈利 (Profits) 方面，有限責任公司2009年則達到約889億美元。相較於有限責任公司LLC在數量上占總數62.2%，獲利量則僅占所有合夥團體21.6%[11]，主要原因為其損失比例過高所致[12]。惟值得注意的是，在2008年發生次級房貸風暴前，有限責任公司LLC盈利占全體合夥團體比例亦約在3成左右，與有限合夥相近。但在2008年有限責任公司盈利則下降為11%左右[13]。 四、普通合夥（ General Partnership, GP）數量快速萎縮 另一項常見的合夥團體，為全體合夥人負無限責任之普通合夥GP。觀察本次統計發現，在2009年間，普通合夥GP數量為624,086家，相較於2008年669,601家，下降6.8%。且與1995年1,167,036家相比，更下降53.5%。顯見普通合夥GP在數量上呈現快速萎縮之趨勢，而逐漸不受到美國投資者的青睞[14]。至於在盈利表現上，除2009年約為621億美元外，2000年至2009年間皆在700-900億美元間起伏。 參、趨勢分析 針對上述針對美國近期合夥團體發展之歸納，本文提出下列看法： 一、稅制改變造成有限責任公司LLC數量成長 依據美國稅法規定，一般公司（Corporation）與合夥團體最大的差異在於，一般公司（Corporation）具備課稅主體地位，而公司在課稅後 尚須就股東個人所得再次課稅，形成雙重課稅（Double Taxation）。反之，合夥團體採單層課稅（Pass Through Taxation）方式[15]，多半情況下納稅價額較低。因此，有限合夥LP等相關合夥組織過去十分受到投資人喜愛。 相較下，有限責任公司（LLC）之定位究竟屬於一般公司法人（C corporation）或是合夥，在發展初期並不明確，而未受到投資者廣泛運用。但此情況在1996年改採「勾選原則」（Check The Box Rule）後有了改變。在勾選原則下，除權益得公開交易之企業必須以一般公司法人（C corporation）方式課稅外，容許非公司型組織（unincorporated entities）可以自由選擇稅制[16]。此稅制上的改變，使得有限責任公司LLC得排除雙重課稅的不利，而享有合夥團體單層課稅之優惠。本文推測，1996年起有限責任公司 LLC 在數量上大幅度的成長，應係與此有關。 二、有限合夥LP在金融投資相關行業的運用未受影響 從數據上看來，相較於有限責任公司LLC數量的大幅提升，有限合夥LP則未出現明顯的排擠效益。有限合夥LP數量持續維持在40萬家左右。且如前述所提，有限合夥LP擁有相當高的獲利能力 ( 高達1393億美元 ) ，而深入觀察可發現，當中包括創業投資等「其他金融投資活動」 (Other financial investment activities)[17]獲利高達716億美元[18]。顯見 有限合夥LP在金融投資相關產業仍具有關鍵重要性。 從本次美國所提出的稅收統計報告可以發現，毋論是有限合夥LP抑或是有限責任公司LLC之組織形態，在未來都將具有相當重要性。面對如此之發展，我國實應思考立法開放此等新型態商業組織之可能。因唯有商業組織多元化的發展，才有機會使更多投資者找到符合其個人需求之投資模式，將資金投入市場，進而促進資金的流通與經濟的發展。在面對全球化的今日，各國間無不為吸引資金進入，爭相採取不同開放手段的此刻，謹慎而適度地開放商業組織政策，將能為國家競爭力帶來深遠的助益。 [1]Nina Shumofsky & Lauren Lee, Partnership Returns, 2009 , Internal Revenue Service Statistics of Income Bulletin Fall 2011 Washington, D.C. 68 (2011). [2]此處合夥團體是指依據美國國內稅法 (Internal Revenue Code, IRC) Subchapter K納稅之企業。依據IRC規定，商業團體報稅時，需依據其組織性質不同，分別按Subchapter C、Subchapter S、Subchapter K進行報稅。原則上一般公司 (Corporation) 應依據Subchapter C申報；符合Subchapter S條件之公司 (Corporation) 則可依Subchapter S申報，亦即俗稱之S公司；至於其他非公司 (Corporation) 之企業，則可依據「勾選原則」（Check The Box Rule）選擇依Subchapter C 或 Subchapter K進行報稅，包括有限合夥、普通合夥、有限責任公司、有限責任合夥、有限責任有限合夥。其中有限責任合夥是指在普通合夥基礎下，使普通合夥人無需為其他合夥人不當或過失行為負責之組織；如是在有限合夥基礎下，賦予普通合夥人此有限責任範圍，則為有限責任有限合夥。 See Internal Revenue Code, 26 U.S.C. §§ 1-9834. (2012) [3]Nina Shumofsky & Lauren Lee ,supra note 1, at 84. [4]id., at 70. [5]id., at 72. [6]惟其金額卻由2008年約1782億美元，下降為1393億美元，Id., at 156-7. [7]Id., at 156-7. [8]Id., at 73. [9]Id., at 68. [10]Id., at 73. [11]Id., at 75. [12]Id., at 151. [13]Id., See Figure I, at 75. [14]至於以普通合夥為基礎所衍生的有限責任合夥，在數量上至2009年間僅達到117,660家，並未因普通合夥下降而大幅提升。See id ., at 157. [15]參見羅怡德，〈美國「有限合夥」之介紹與討論〉，《社經法制論叢》，第6期，頁193以下(1990)。 [16]Robert W. Hamilton著，齊東祥譯，《美國公司法（The Law of Corporations）》，法律出版社，第5版，頁26-27 (2007）。 [17]依據北美行業分類系統 (The North American Industry Classification System, NAICS) 定義，「其他金融投資活動」 (Other financial investment activities) 係指:1.除銀行、證券商、商業契約經銷商外，其他買賣金融契約之主體；2.除證券商、商業契約經紀人外，其他買賣金融契約之代理人或經理人；3.除證券商或商業契約經銷商外，提供其他投資服務，包括投資組合管理、投資諮詢、信託、保管服務等。available at http://www.census.gov/cgi-bin/sssd/naics/naicsrch?code=5239&search=2007%20NAICS%20Search (last visited 04/18,2012) [18]supra note 1, at 156.