新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國之「國家製造創新網絡智慧財產指南」(Guidance on Intellectual Property: National Network for Manufacturing Innovation) 係由先進製造國家計畫辦公室（Advanced Manufacturing National Program Office, AMNPO）於2015年3月公布。本指南係就智財策略之擬定，向製造創新之機構提供相關原則與彈性的框架，並同時釐清關鍵之智慧財產權利。此所稱之製造創新機構，係指2014年復甦美國製造與創新法(Revitalize American Manufacturing and Innovation (RAMI) Act of 2014)第34條(c)項所界定之機構，亦即為因應先進製造相關挑戰並協助製造業保持與擴展工業產品與就業機會之公私合營機構。 「國家製造創新網絡智慧財產指南」大別為9類共14項原則：(1)機構層級之智慧財產管理；(2)專案層級之智慧財產管理；(3)智慧財產所有權；(4)機構研發之智慧財產(Institute-Developed Intellectual Property, IDIP)權利；(5)非機構研發之智慧財產權利；(6)基礎智慧財產；(7)資料權利與管理；(8)出版權；(9)政府權利。以資料權利與管理為例，該類之下的第一項原則要求機構應研擬符合出口管制法規之資料計畫，並在計畫中界定與區分機構內部資料之類型，以及為維持機密性與網路安全所需之資料近用與管控。 我國於2015年9月公布「行政院生產力4.0發展方案」，發展方案於「掌握關鍵技術自主能力」之主策略下，由經濟部技術處主政推動成立「台灣生產力4.0研發夥伴聯盟(Taiwan Productivity 4.0 Partnership)」，透過政府民間之合作提升關鍵技術自主能力的同時，智慧財產權利相關配套措施自屬重要。
2016年生物支付技術將可能取代傳統支付型態根據美國公共電視台在2016年1月6日的新聞，指出生物支付將可能成為新興支付工具。生物支付之定義為利用生物辨識(biometric)技術驗證個人生物特徵，諸如：指紋、虹膜等進行支付。採用生物支付技術，未來將無須使用信用卡或行動裝置，僅需要個人生物特徵之辨識即可完成交易。此轉變將使未來交易更加快速、便利，但同時，生物支付的安全性卻也不無疑義。 即便生物辨識屬於高層級的資訊安全保護機制，但水能載舟，亦能覆舟。生物辨識利用生物不可變之特性進行身分識別，涉及高度個人隱私，為妥善保護個人資訊安全，需訂立生物辨識相關規範加以管制，否則將衍生許多法律問題。 例如：在2015年6月，美國線上出版商Shutterfly公司被控訴違法蒐集個人資料。原告稱其並非Shutterfly公司之註冊使用者，也從未同意其生物辨識資訊被該公司蒐集，但其面紋(Face print)卻被上傳至該公司網站，並標註姓名，儲存在自動針對相片標記臉部辨識系統之資料庫。 依據BIPA針對生物辨識定義及蒐集規範： 1.第10條： 生物辨識之態樣，包含視網膜、虹膜掃描、指紋或是手部、臉部外觀之掃描，但不包括簽名、照片、用於科學檢測之人體樣本、頭髮顏色等。 2.第15條(a)： 規定公司蒐集個人生物特徵資訊應有相關規範供公眾查閱，並應提供生物辨識資訊之保管及銷毀日期及相關資訊。 3.第15條(b)(1)： 蒐集生物辨識資訊應告知當事人。 Shutterfly公司提出要求法院不受理之抗辯，主張BIPA規定之臉部外觀，其文意解釋應為物理上個人親自接受掃描所得之資訊，並非原告所主張以照片辨識之臉部外觀，但法院認為Shutterfly之主張並不合理，因此同意受理此案。 觀察該案可發現，儘管生物辨識提高資訊安全之保護，但相關法規範解釋仍待實務完備。另一方面，生物特徵資訊極易被他人蒐集，因此，如何建置蒐集個人辨識資訊及完善相關措施，也是推行生物支付措施所需突破的關口。
從AT&T併購時代華納反思我國通傳產業併購法制從AT&T併購時代華納反思我國通傳產業併購法制 資訊工業策進會科技法律研究所 108年10月 隨著數位化科技、網際網路相關技術之發展與普及化，帶動數位匯流（Digital Convergence）加速進展，相關產業間原本獨立的界線逐漸模糊，進而形成一個整合寬頻系統（Integrated Broadband System），也加速數位匯流相關事業的跨業經營及互相整併。在這樣的趨勢下，原本在媒體產業供應鏈上分屬不同領域之企業開始進行合作或跨業融合，也使得原本被認為對於侵害較小的垂直合併開始受到關注。 美國最大的固網電話服務供應商及行動電話服務供應商AT&T於2016年10月宣佈併購知名內容供應公司時代華納(Time Warner)，交易價格約854億美元，此交易消息一出美國司法部反壟斷司即介入調查，並於2017年11月以合併後將損及競爭和形成壟斷，向法院提起反壟斷訴訟，但司法部之主張遭到法院否決，最後AT&T與時代華納完成併購。此案例為電信業者併購內容業者，雙方在媒體產業供應鏈上，占據不同的位置，為垂直合併之案例，本案重點在於司法部及法院如何看待其合併後是否構成壟斷而違反反托拉斯法，相關討論則可作為我國近年在通傳產業中垂直併購的審查參考。 壹、事件摘要 一、系爭併購公司介紹 併購方AT&T為全美最大的電信公司，主要提供包括行動、寬頻、固網及相關通信服務；而AT&T在2015年7月併購美國最大衛星電視供應商DirecTV後，獲得超過2100萬的收視客戶，也成為全美最大的有線電視訊號傳輸商（Multichannel Video Programming Distributor, MVPD）；被併購方時代華納則為大眾媒體與娛樂事業集團，主要業務為內容製作與內容整合，旗下事業包括透納（Turner）廣播電視系統(包括TBS、CNN、HeadLine News、Cartoon Network、)、HBO頻道、及負責電影和電視制作的華納兄弟公司等[1]。 二、併購過程 2016年10月AT&T宣佈收購時代華納後，美國司法部反壟斷司即介入調查，並於2017年11月以合併後將損及競爭和形成壟斷，以違反克萊頓法(the Clayton Act)第7條[2]提起反壟斷訴訟[3] 。 2018年6月聯邦法院認為司法部未能提供足夠證據證明本案會損及競爭或消費者，允許本合併案進行，其後司法部於2018年7月基於「審查中決定的實質影響」和「延遲將造成不可挽回的傷害」，認為法院未考量DOJ提出的槓桿理論提出上訴[4]。 2019年2月26日哥倫比亞特區聯邦巡迴上訴法院拒絕司法部針對此併購案永久禁制令(Permanent Injunction)之請求，維持初審法院之判決，也就是允許AT&T併購時代華納[5]。司法部不再上訴，嗣後AT&T與時代華納正式完成交易，而時代華納也更名為華納媒體(Warner Media)成為AT&T旗下一員。 貳、重點說明 一、司法部主張違法之主要理由[6] (一)垂直合併將阻礙競爭 1.提高頻道授權金額 AT＆T與DirecTV是全美最大的有線電視訊號傳輸商，而時代華納則擁有許多受歡迎電視頻道，包括：CNN、TBS、TNT、Cartoon Network、HBO、Cinemax，以及大量運動節目轉播權等。故本件雖為垂直合併模式，AT＆T仍可能將取得的流行節目作為阻礙競爭的武器，利用購得之相關頻道向其他有線電視訊號傳輸商或線上影音業者(例如：Netflix、Amazon Prime)要求更高之授權金額與更優惠之條款以降低對手競爭力，而競爭對手為了平衡高授權費之收益將有可能增加消費者所付出的費用，而使消費者不利。 2.將可能產生客戶移轉效應 誠如上述AT＆T併購時代華納將取得相關頻道所有權，若AT＆T提高頻道授權價格，則將會使競爭對手拒絕與時代華納合作並取消相關頻道。雖然AT＆T可能會失去原本授權頻道的收益，但因消費者無法從其他競爭對手方取得相關影視服務，使得消費者可能轉向擁有頻道之AT＆T以取得服務，進而削弱對手競爭力，並從消費者端補回收益。 (二)合併將可能阻礙其他業者發展創新模式 近年來，Netflix 和Amazon Prime等線上影音平台因為價格較低、不須綁約也不需安裝機上盒，吸引許多消費者，而AT＆T若透過前述說明之手段提高頻道授權金，將有可能降低業者競爭力並阻礙創新。 二、法院判決允許合併理由[7] (一)垂直合併損及競爭之證據不足 AT&T和時代華納為垂直整合的投資整併案，並非在同一市場營運的公司，故本合併案不會立即改變集中度，且司法部也未提供明確證據與判例說明本案結合會損及競爭，而相關經濟理論也未能明確指出垂直合併可能造成之影響。進一步而言，HBO頻道採取無廣告之方式進行內容播送，其主要收益並非來自廣告商，而是透過提升收視率與觸及消費者。HBO頻道這樣的收益方需要多觸及消費者，因此合併後AT&T應該不會隨意調漲價格阻礙其他業者播送HBO而降低消費者之觸及率。 司法部認為本案最主要會損及競爭之理由為提高頻道授權將會使費用轉嫁給消費者，但司法部並未考量消費者也可能因為合併後之產業效能而受惠，進而取得較低之價格。 (二)司法部提出阻礙創新之證據不足 司法部認為另一個損及競爭的理由是可能阻礙線上影音平台業者之創新發展。但是目前線上影音業者透過網路傳輸影音內容，且提供方式是由消費者自己選擇想看的內容並且從頭開始播放，與傳統有線頻道提供業者提供固定節目表之服務內容並不相同。而這樣的服務模式也不適合大型體育賽事之即時轉播，因此有許多運動賽事轉播權的時代華納並不會影響線上影音平台業者。而線上影音平台業者也因為這樣的創新模式使越來越多消費者放棄裝設有線電視，轉由線上影音平台。 參、事件評析 近年來，我國在通傳產業上也有許多垂直併購的案例，如同樣是有線電視系統業者併購內容產業的案例有：2017年3月台灣數位光訊科技股份有限公司（台數科）向公平會申請併購東森電視，公平交易委員會（公平會）雖附負擔同意[8]，但同年5月，國家通訊傳播委員會（通傳會）考量本案垂直整合規模顯著，對產業發展及言論市場影響甚鉅，並且台數科曾有不法移頻作為而涉有限制競爭疑慮，對公共利益造成相當不利之影響等理由，不同意併購案[9]，最後本案併購交易未能完成。而本案也顯示了我國通傳產業常見的幾個問題，以下簡要說明之： 一、主管機關間之分工機制 通傳會作為通訊傳播事業主管機關，依廣電三法及相關法規，通訊傳播事業結合需經NCC審核並同意；另視結合之一方可能涉及公平會等其他主管機關權責者，則需要另向他主管機關申報。依據目前實務作法，二機關在審核上之分工，依法得同時進行審理，也未有區分前後程序，而與傳統行政法上二階段行政處分之處理模式有所不同。 但這樣的作法卻在許多通傳產業的併購案上造成困擾，如同前述台數科併購東森之案例，公平會雖附負擔同意，但通傳會卻不同意而導致併購交易未能完成。若能參照他國在通傳產業併購之處理架構，由單一主管機關主責，並且平行溝通他主管機關之意見，不但可明確審核程序，並且能蒐集所有相關資訊，使業者得以確知主管機關審核進度與方向，而避免產生不同機關不同意見而增加業者之交易成本。 二、主管機關之審查標準 在台數科併東森案中，通傳會不同意之主要理由之一為「本案垂直整合規模至為顯著，對產業發展及言論市場影響甚鉅，交易標的包含收視率常年居於新聞頻道第3大之新聞台，結構集中恐不利言論多元發展。」並未就垂直合併所可能產生之影響進行量化分析，雖不同市場其產生之競爭效果較難以數據呈現，但在AT&T併購時代華納之案例，司法部與法院仍然試圖用數據進行合併之後的細部效益評估。過去多年來美國反托拉斯法之主責機關從未成功否決過任何產業間的垂直合併，主要原因在於根據美國司法部的併購審查指引(Non-Horizontal Merger Guidelines)[10]所提出之相關指引標準，垂直合併可能傷害消費者利益的風險，遠不及敵意併購或水平合併[11]，但仍是提供併購雙方較為明確且具體的指引與標準。 主管機關針對跨產業之共通審查項目以及針對個別產業之審查項目，主要以法規中所提及：（1）確保通訊傳播市場公平有效競爭（2）保障消費者及尊重弱勢權益（3）促進多元文化均衡發展，作為審查標準，而這三項標準多為不確定法律概念，未來主管機關可參酌相關國家所關注之重點審查項目並提出更具體且細緻之審查標準，使通傳產業中之併購交易能夠更順利進行。 [1] Justice Department Challenges AT&T/DirecTV’s Acquisition of Time Warner , Department of Justice, https://www.justice.gov/opa/pr/justice-department-challenges-attdirectv-s-acquisition-time-warner (last visited July 26, 2019). [2] 15 U.S.C. § 18. [3] United States of America v. AT&T INC, DirecTV Group holdings, llc, Time Warner inc, No. 1:17-cv-02511(THE DISTRICT OF COLUMBIA Nov. 20, 2017) available at: https://assets.documentcloud.org/documents/4254868/AT-amp-T-Time-Warner-Complaint.pdf (last visited July 26, 2019). [4] Motion Of The United States To Expedite Consideration Of The Appeal, Department of Justice, https://www.justice.gov/atr/case-document/file/1081836/download (last visited July 26, 2019). [5] United States of America v. AT&T INC, DirecTV Group holdings, llc, Time Warner inc, No. 18-5214, available at: http://business.cch.com/ald/UsvATTInc2262019.pdf (last visited July 26, 2019). [6] Supra note 3. [7] United States v. AT&T Inc., Civil Case No. 17-2511 (RJL) (D.D.C. Jun. 12, 2018). [8]公平交易委員會結合案件決定書公結字第106001號，https://www.ftc.gov.tw/uploadDecision/f6739a33-ecca-4720-8aec-70314821641a.pdf （最後瀏覽日：2019/08/11）。 [9]國家通訊傳播委員會第750次委員會議紀錄，https://www.ncc.gov.tw/chinese/files/17060/67_37488_170607_1.pdf （最後瀏覽日：2019/08/11）。 [10] 請參見https://www.justice.gov/atr/page/file/1175141/download。 [11] Larry Downes, Why Mergers Like the AT&T-Time Warner Deal Should Go Through, Harvard Business Review, Nov. 17 2017.
歐盟執委會規劃制訂新世代智慧電網規範，及研擬共通性評估要項工具歐盟執委會（European Commission）於去（2011）年10月公布一份「建立共通性智慧讀表功能要項及影響因素（Set of Common Functional Requirements of the Smart Meter）」調查報告，對於各會員國發出問券，調查對於建設智慧讀表（智慧電網SmartGrid系統首要基礎）之經濟評估要項，藉此瞭解各國於推動建立，所考量之優先因素及差異性，並藉此彙整出「成本效益評估項目（Cost Benefit Assessments , CBAs)」，建立歐盟層級之共通性功能要項，以利後續其他會員國援用導入之政策工具。 以及，歐盟執委會所屬聯合研究中心（Joint Research Centre , JRC），於去（2011）年7月亦公布一份「歐盟智慧電網關鍵挑戰及發展趨勢（Smart Grids: New Study Highlights Key Challenges and Trends in the EU）」研究報告，指出歐盟各會員國現今已投入219個智慧電網計畫，總經費達5.5兆歐元以上，並設立展示（Showcases）網站，供外界瞭解推動進度；此研究報告並指出，要健全智慧電網發展，除了大規模投入經費資源建設外，更應重視各會員國對於原既有能源管制規範之體檢審視；該報告呼籲各會員國應積極建立新世代智慧電網規範，因為於現有管制規範下，常導向各國推動實務，多僅強調可降低系統運作支出成本，而不是直接朝向升級為智慧性整合體系而發展，於現有監管模式（Current Regulatory Models）下，縱使眾多投資於智慧電網，亦無法出現突破性發展。該報告並倡議，新世代管理規範，至少應建立服務平台運作原則及遵守規範，並導引效益之公平分享。 此外，歐盟執委會於去（2011）年4月間，關於智慧電網發展重要法制政策之關鍵議題，亦曾發布「智慧電網創新發展（Smart Grids: From Innovation to Deployment）」政策文件，其中明列發展智慧電網，首要應重視資料隱私及安全性議題（Addressing data privacy and security issues），亦必須建立共通性標準（Developing common European Smart Grids standards），及提供優惠政策措施，並且應確保消費者資料接取（Access）權利，保證維持公開競爭市場並鼓勵增進消費者利益之各項發展。