新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
東京大學活用有限合夥組織制度扶植新創 資策會科技法律研究所 法律研究員 朱啟文 104年08月28日 為鼓勵創投業挹注資金，扶植科技等新創事業，發展諸如電影、舞台劇等文創產業，經濟部參考英、美、新加坡等國家制度，制定「有限合夥法」，希望吸引國外資金來台投資，健全創新創意環境。立法院於2015年6月5日三讀通過「有限合夥法」草案[1]，創投與電影、舞台劇等文創產業，可允許以信用、勞務或其他利益出資，讓「創意」成企業資產一部分，培育更多吳寶春、李安或是科技新創事業。 有限合夥制度採投資者與經營者分離，由普通合夥人與有限合夥人共同組成。普通合夥人提供創意或技術，是實際經營業務者，對有限合夥的債務負無限責任；有限合夥人提供資金，但不實際參與經營，僅就出資額負有限責任。日本關於有限合夥制度已經施行近20年，東京大學亦採用此制度協助新創企業，在初期孵化階段取得種子資金，能夠順利發展逐漸茁壯，其實際如何管理運用有限合夥資金，是未來「有限合夥法」上路後，我國學研機關可以學習參考的方向。 壹、日本「投資事業有限合夥法」 日本於1997年制定了「中小企業投資有限合夥法」（中小企業投資有限責任組合契約に関する法律），並於2004年放寬投資事業之客體，不限於未公開上市之中小企業，同時更名為「投資事業有限合夥法」（投資事業有限責任組合契約に関する法律[2]）。而依「投資事業有限合夥法」規定，由普通合夥人及有限合夥人所共同組立之合夥組織即為「投資事業有限合夥」（投資事業有限責任組合）。該法中包括有限合夥人僅以出資為限對合夥債務負清償責任，以及普通合夥人於各事業年度經過後三個月內，必須準備各項財務報表資料供其他合夥人及合夥之債權人查閱等規定，均有效提高了投資事業有限合夥募集資金的效果。 貳、東大尖端創投公司（株式会社東京大学エッジキャピタル） 2004年日本國立大學法人化改革正式開展，除使大學能掌握其產出之研發成果外，更促使大學授權其研發成果來成立衍生新創企業。此改革承續美國拜杜法案的立法精神，將研發成果由政府下放至大學，促使大學積極利用自有之智慧財產權。東京大學在該時空背景下，設置了校內單位產學連攜本部DUCR及東大技轉TODAI TLO、東大尖端創投UTEC二個獨立公司，彼此合作推廣相輔相成，是東大產學合作的黃金三角。東京大學將三個組織辦公室均設在東京大學產學連攜廣場大樓（University Corporate Relation Plaza），集中辦公讓業務上合作更為便利。東京大學另於2007年6月完竣的「企業家廣場孵化室[3]」，則作為提供創業支援、知識產權戰略管理及產學合作計畫協助之場所。 東大尖端創投公司[4]（The University of Tokyo Edge Capital Co., Ltd.，以下簡稱「UTEC」）成立於2004年4月1日，係由「一般社團法人東京大學產學合作支援基金」投資所成立之創投公司（資本額1,000萬日元），為獨立於東京大學的私法人機構，其成員目前有5位董事、1位監察人及10名正式員工。2004年起UTEC管理運作的資金計有285億日幣，這些資金主要用來中長期投資與東京大學相關的新創項目，包括人才活用、共同研究、智財運用等，投資目的希望能實現將學術成果及人才還原給社會、提升創新及收益，形成良性的經濟活力循環。 負責營運UTEC 的專業成員[5]包括有創投家、政策制定者及博士等。UTEC優勢在於有東京大學作為其後盾，擁有全日本最頂尖研發技術與人才供其篩選。復以日本願意投資早期階段之創投公司不多，使得UTEC在此領域有傑出績效表現。2007年10月開始UTEC 辦理在校創業家EIR 計畫（Entrepreneur In Residence Program），對東京大學內部產生的商業構想概念實施創業育成輔導工作，提供包括辦公空間（企業家廣場孵化室）、創業資金及聘請專家協助修正營運計畫書（Business Plan）等服務。 UTEC在經營上勇於承擔投資創新技術所可能帶來的風險，也願意在新創公司的早期階段（Seed / Early Stages）投入資金換取公司股份，秉持「日本最先進風險投資公司」的經營理念，希能建立早期支援的風險投資模式，將校園研發成果進行商業化實踐。投資策略上UTEC主動介入投資事業有限合夥所出資的公司，並指派投資經理人與投資公司建立長期承諾，而UTEC 亦會積極參與公司成長後續階段之投資。截至2014年4月止，UTEC已經投資了51家新創企業，其中有9家IPO和7家接受併購（M&A）。 參、「投資事業有限合夥」資金管理模式 UTEC的資金不只來自於東京大學，而是透過另外成立3個[6]「投資事業有限合夥」，接納外部投資家之投資作為基金進行營運。具體架構上，UTEC在「投資事業有限合夥」中扮演普通合夥人[7]（業務執行者），而有限合夥中的其他出資者則擔任有限合夥人（投資家）之角色。此架構與國外私募股權基金常見作法雷同[8]。對於東京大學而言，好處在於其可透過UTEC此一有限責任公司擔任普通合夥人方式形成屏障，與其自身現有的資產作風險隔離，避免普通合夥人的無限責任直接影響東京大學本身之財務。 UTEC成立的第一個投資事業有限合夥，是2004年7月1日的「UTEC 1號投資事業有限合夥（ユーテック一号投資事業有限責任組合）」，規模為83億400萬日元存續期間至2014年12月31日止（最多得延展1年）；第二個是2009年7月31日成立的「UTEC 2號投資事業有限合夥（UTEC2号投資事業有限責任組合）」，規模為71億4800萬日元，更新投資期間至2014年7月30日，存續期間至2019年6月30日止（最多得延展2年）；目前最新成立、金額也最高的是2013年10月15日成立的「UTEC 3號投資事業有限合夥（UTEC3号投資事業有限責任組合）」，規模為145億7400萬日元，更新投資期間至2018年10月14日，存續期間至2023年12月31日止（可得延展）。 肆、評析 在創投資金方面以美國為例，「天使」與「創投」可被視為好的「創業種子」的篩選者，是美國經濟發展的火車頭。經由天使與創投的活動，學研單位的研發成果才有商品化及產業化的契機。依2014年資料，美國每年創投資金大約為新臺幣6千億元，中國大陸於2011年為新臺幣8千億元，但我國目前每年創投資金大約僅有新臺幣20億元[9]。我國的創業天使大多為創業者的親朋好友，專業度往往不足，國際創投對臺灣新創事業的關注也有限，而我國的科研經費在無豐沛的海外資金支援下，我國的新創事業在早期階段經常無法取得成長所需的資金。 對此，今年度我國「有限合夥法」的通過，為新創事業資金不足問題的解決帶來了契機。然而，從前揭東京大學UTEC「投資事業有限合夥」的操作及管理模式觀之，我國若要完整援用此等操作架構，除了「有限合夥法」外，尚有待其他配套法令跟進鬆綁。詳言之，應考慮鬆綁大學出資設立企業的相關限制，開放國立大學可以校務基金捐助成立獨立於學校外部「產學營運中心」，並透過該中心投資成立創投公司擔任普通合夥人角色。如此一來，可在兼顧財務風險下，以更為彈性之獎勵與人才聘僱制度，吸引具有專業經驗投資經理人或相關人才投入校園新創，取得更多國內外資金挹注新創事業之發展。 [1]周志豪，〈有限合夥法三讀 創意將成企業資產〉，聯合新聞網，財經焦點，2015/06/06，http://udn.com/news/story/ (最後瀏覽日：2015/09/10)。 [2]投資事業有限責任組合契約に関する法律（ＬＰＳ法），http://www.meti.go.jp/policy/economy/keiei_innovation/sangyokinyu/kumiaihou.htm(最後瀏覽日：2015/09/10)。 [3]東京大学アントレプレナープラザ，http://www.ducr.u-tokyo.ac.jp/jp/venture/entre_plaza.html (最後瀏覽日：2015/09/10)。 [4]株式会社東京大学エッジキャピタル，http://www.ut-ec.co.jp/cgi-bin/WebObjects/1201dac04a1.woa/wa/read/1201e8150e4_0/(最後瀏覽日：2015/09/10)。 [5] UTEC チーム & ファーム理念，http://www.ut-ec.co.jp/cgi-bin/WebObjects/1201dac04a1.woa/wa/read/1201e782b5b_0/(最後瀏覽日：2015/09/10)。 [6] UTEC 運営ファンド，http://www.ut-ec.co.jp/cgi-bin/WebObjects/1201dac04a1.woa/wa/read/1201e815110/(最後瀏覽日：2015/09/10)。 [7]「普通合夥人」雖然負責管理執行私募股權基金業務，但實務上幾乎都會另外委任投資經理人來提供投資建議，投資經理人直接對普通合夥人負責。由於普通合夥人對外負無限責任，委任投資經理人能夠把從普通合夥人收取到的報酬隔離於無限責任範圍外，而保留在投資經理人手中。事實上，多數的股權私募基金真正的發起人就是投資經理人，普通合夥人只是投資經理人為了發起私募股權基金另外設立的新實體。 [8]許杏宜，〈有限合夥法最新草案之評析-兼談私募股權基金之運作〉，《全國律師》，第19卷第3期，頁40-51 (2015)。 [9]丁靜雯，〈從實驗室到市場—我國科技創新政策之探討〉，《科技部自行研究計畫成果報告》，頁44 (2014)。
歐盟公布智慧運輸系統指令授權規則歐盟執委會於2019年3月13日針對清潔，聯網和自動化移動戰略，公布智慧運輸系統指令授權規則（Commission Delegated Regulation of 13.3.2019 supplementing Directive 2010/40/EU of the European Parliament and of the Council with regard to the deployment and operational use of cooperative intelligent transport systems），該授權規則（Delegated Regulation）係歐盟執委會為執行智慧運輸系統指令（ITS Directive）所制訂之相關細則，其目的使執委會與會員國合作提出指導分針，進一步讓各國能夠對自動及聯網化駕駛車輛進行型式認可，以加速相關創新運輸技術於歐洲協同式智慧運輸系統（C-ITS）之發展。其創新技術包含使車輛間可相互「交談」，或與道路基礎設施以及其他道路使用者「交談」，可應用在例如危險情況，道路施工和掌控交通號誌時間，將使公路運輸更安全，更清潔，更高效率。授權規則將符合容克委員會（Juncker Commission），即現任歐盟執委會主席容克領導的執政團隊，其所提出的清潔移動提案（ Proposals on clean mobility），是歐盟移動現代化的另一步驟，也為本世紀下半葉的氣候中和（climate neutral）目標，即達到溫室氣體排放總量為零之目標作準備，並持續達到歐盟2050年交通事故近零死亡或零嚴重傷害的目標。 歐盟移動及運輸專員Violeta Bulc表示：「此決定將為車輛製造商，道路營運者和其他人提供一個法源依據，以便於歐洲開始大規模發展C-ITS服務，同時對新技術和市場發展持開放態度。此將極力促進我們實現我們對道路安全的願景，並作為實現聯網化和自動化移動性的重要基礎。」 車輛，交通號誌和高速公路在裝配合規之聯網技術裝置後，可向周圍的所有交通使用者發送標準化之訊息，此將是實現車間通訊的重要里程碑。該授權規則將確保不同系統間擁有協同工作能力，使所有配備該技術的站點能在開放網路中安全地與任何其他站點交換資訊，並讓系統可順利運行，透過車輛間以及車輛和交通基礎設施之間的連接，也能幫助駕駛員做出正確的決策並視交通狀況來改善道路安全性、交通效率及舒適性。
英國寬頻競爭概況為了提高市場競爭，Ofcom於2006年時允許BT集團將旗下網路接取部門獨立為Openreach公司。當時，英國政府希望透過市話迴路細分化(local loop unbundling)，並讓所有寬頻網路提供者得以於無差別待遇取得銅絞線網路(copper phone network)批發價，減少不公平競爭產生。在BT分拆多年後，根據Ofcom今(2013)年的統計，原細分化出租之線路從過去的12萬3千條，提升至900萬條，較過去成長70倍。銅絞線批發價公開、合理，亦促使民眾享有比過往更低的資費與更多元的服務，使社會福利成長。 除此之外，市話迴路細分化不僅促進既有固網市場競爭，使消費者僅用一半的價格取得相同服務，亦間接加速業者投資意願，提高英國「高速寬頻」(superfast broadband，30M)的發展。目前，BT光纖建置速度每星期達10萬用戶可接取，輔以Ofcom2010年要求BT光纖基礎設施開放與虛擬細分化(virtual unbundling)，使英國已有80家以上業者透過光纖提供網路，增加民眾選擇的權力。是故，在高速網路接取率逐步提高下，致使英國在2012年年底時，已有13%的家戶採用高速寬頻，其成長幅度亦是過往兩倍。 雖然，英國高速網路發展逐步進入軌道，但亦仍有發展之隱憂。首先，有別於銅絞傳輸寬頻網路市場競爭，民眾在選擇高速寬頻網路商時，多數僅願意採用BT與Virgin，造成市場競爭失衡。此外，BT取得政府非商業區光纖建設之多數補助，這是否會造成不競爭，仍後續觀察。最後，BT雖允諾開放其於業者租用光纖線路，但已有多家ISP業者申訴BT利用「價格擠壓」的方式，增加市場優勢。 英國為了在2015年能成為全歐洲寬頻發展最為優秀的國家，近期已宣布將重新檢視現有固網接取市場的管制架構，藉由兼顧市場競爭與基礎建設加速投資，促使網路能普及於英國。
因應2020年社會實現自動駕駛，日本訂定自動駕駛制度整備大綱日本IT綜合戰略本部及官民資料活用推進本部於4月17日公佈「自動駕駛制度整備大綱」。大綱設定2020年至2025年間，日本社會實現自動駕駛下，所需檢討修正之關連法制度。 本大綱中，係以2020年實現自動駕駛至等級4為前提（限定場所、速度、時間等一定條件下為前提，系統獨自自動駕駛之情形），以在高速公路及部分地區之道路實現為條件設定。社會實現自動駕駛有以下課題需克服： 道路交通環境的整備：以自駕系統為行駛，一般道路因為環境複雜，常有無法預期狀況發生，導致自駕車的電腦系統無法對應。 確保整體的安全性：依據技術程度，設定一般車也能適用之行駛環境、設定車輛、自動駕駛之行駛環境條件以及人之互相配合，以達成與一般車相同之安全程度為方針下，由關係省廳間為合作，擬定客觀之指標。此一指標，並非全國一致，應就地方之特性，設定符合安全基準及自動駕駛行駛環境條件，建構整體確保安全之體制。 防止過度信賴自駕系統：訂定安全基準，使日本事件最先端自動車技術擴及於世界，訂定包含自駕系統安全性、網路安全等自動駕駛安全性要件指針。 事故發生時之法律責任：自動駕駛其相關人為駕駛人、系統製造商、道路管理者等多方面，其法律責任相對複雜化。現在係以被害人救濟觀點，至等級4為止之自動駕駛，適用自動車損害賠償責任險（強制責任險）方式，但是民法、刑法及行政法等法律全體之對應，仍為今後之課題，必須為早期快速處理。為了強化民事責任求償權行使、明確刑事責任之因果關係、並實現車輛安全性確保、避免所有人過度負擔等，車輛行駛紀錄器之裝置義務化、事故原因究明機制等，關係機關應合作為制度檢討。 本大綱最後並提出，在自動駕駛技術快速發展下，就其發展實際狀況應為持續半年1次召開會議檢討檢討。