新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
近年來中國大陸政府為了資安考量，制訂相關法規要求外國科技公司進入中國大陸市場時必須提供程式原始碼，避免他方非法(例如利用病毒)透過電腦軟體進入中國大陸的系統和資料。 IBM公司近日發表聲明，允許特定國家在其嚴格的監控下，檢視其部份產品的軟體原始碼，確保產品沒有資訊安全的漏洞，中國大陸也在這些特定國家之列。這是美國重要的科技大廠，首次公開同意遵守中國大陸政府對於外國技術的資訊安全審查，然而此舉讓美國政府與其他矽谷科技公司頗有微詞。 IBM開放檢視其程式碼的對象為中華人民共和國工業與信息化部。IBM在聲明中表示，原始碼的檢視必須在IBM公司內，於無網路連線並受IBM安全應用程式監控的環境下進行，並保證這些軟體原始碼不會被釋出、被複製，或以任何方式改作。在嚴格的環境和時間限制下，IBM不會讓中國大陸政府有機會接觸其客戶資料庫，也不會涉及後門程式(back door)。至於會提供哪些產品的原始碼檢視，或中國大陸官方可檢視的時間有多長，IBM尚無明確說明。事實上IBM並非唯一提供程式碼的科技公司，微軟公司早在2003年即允許中國大陸、俄國、英國等國家檢視微軟Windows部分產品的原始碼。 有市場分析公司指出，IBM為降低智慧財產權被複製的風險，所釋出的原始碼可能只涉及基本功能，不包含專有的演算碼，且像IBM此類的公司，應該擁有閉源軟體(closed-source)或特別的軟體以嚴密地維護底層的原始碼，避免中國大陸政府藉由檢視原始碼執行反向工程(Reverse Engineering)。 IBM公司願意提供中國大陸政府檢視部分產品原始碼，目的在於展示其產品安全性，試圖擴展IBM在中國大陸的商業版圖。IBM旗下的雲端運算平台Bluemis未來將與中國大陸的數據中心服務公司—北京世紀互聯寬帶數據中心有限公司合作。該公司同時也是微軟在中國大陸的合作夥伴。
黑莓機服務中斷數日，RIM面臨用戶集體求償全球商務人士最喜愛使用的智慧型手機「黑莓機」，在今年（2011）10月中旬出現全球大當機，手機用戶無法上網及收發簡訊，影響範圍從歐洲擴及北美與世界各地。手機製造商Research In Motion (RIM)的首席執行長Mike Lazaridis在官網上以視訊公開向全球用戶道歉，並提出可免費下載100美元的應用軟體作為補償。然而此舉無法平息用戶的怒火，許多使用者正打算對RIM提出訴訟求償，因為中斷服務害他們錯失許多訊息與會議時間。 加拿大魁北克的高等法院就收到使用者對RIM要求經濟補償的集體訴訟，因為RIM所提出的補償措施根本無法彌補中斷服務數天的損失。若法院認同訴訟主張，RIM遭求償的總額或許很高，不過使用者提出的訴求是中斷服務的1.5天，他們無法使用月付25元加幣的無線網路服務，因此按比例分攤每件可能僅1.25元。而在美國的消費訴訟律師，則考慮對RIM提出違約訴訟或是消費詐欺，前者是以RIM未依約盡到其提供服務的責任為主張；而後者消費詐欺的重點則是著眼於，RIM導致消費者誤信黑莓機的可靠性。然而使用者所面臨的困難是，要如何證明他們所受到的損害，高於原本應獲得的服務，而且因為是全區域的服務中斷，在跨州的集體訴訟中還有各州法律適用的問題。有法律專家言明，要證明因為不能使用智慧型手機的功能而造成的實際損害非常困難，畢竟在緊急時刻，溝通（communicate）還有其他選擇方式。
美國聯邦巡迴上訴法院就Myriad案判決人體基因具可專利性2011年7月29日美國聯邦巡迴上訴法院針對Myriad Genetics公司之單離去氧核糖核酸（isolated DNA）專利無效上訴案作出判決，認定人體基因具有可專利性。 本案緣起於Myriad Genetics公司利用單離DNA BRCA1及BRCA2兩項基因，發展出一套乳癌風險檢測技術，並成功取得7項專利。未料2009年時，美國公民自由聯盟（American Civil Liberties Union，ACLU）及美國公共專利基金會（Public Patent Foundation，PUBPAT）以「授予單離DNA專利權係違反專利法第101條規定」為由，向紐約南區聯邦地方法院提起確認專利無效之訴，並獲致勝訴判決後，全案便上訴至聯邦巡迴法院。 美國專利法第101條（35 U.S.C §101）雖規定：「任何人發明或發現新而有用的方法、設備、製品或物之組合，或新而有用的改良，皆可依本法所定條件取得專利。」但標的若屬自然產物（product of nature）者，則不應授予專利。因此，本案關鍵問題在於：單離DNA是否屬於自然產物？ 針對此一問題，巡迴法院以1887年聯邦最高法院於Hartranft v. Wiegmann案中所闡明的「人為介入（human intervention）是否已賦予發明物與自然產物明顯不同的特質」原則為判斷標準，認定單離DNA雖取自於原生DNA（native DNA），但其經化學處理後可釋放出特定分子，已與人體內之原生DNA有顯著不同，故具有可專利性。此外，法院更指出，美國專利局（The US Patent and Trademark Office，USPTO）自80年代迄今已釋出40,000件以上與DNA分子相關之專利，其中有20%為人類基因，此種長年行政慣例即便有誤，亦應由國會加以變更，而非法院。 本案受矚目之處，在於Myriad公司上訴時，美國司法部即透過法庭之友建議書（friend of the court briefs），向巡迴法院表明其否認人類基因具有可專利性的立場，因此本案判決結果等同於對司法部見解之否決。美國生技業者則認為單離基因專利（isolated gene patent）是生技產業的基石，此判決結果符合專利局一貫的專利政策，而此政策正是過去催生美國生技產業的推手；惟外界預料本案極可能再上訴至聯邦最高法院，屆時將對美國生技產業造成何種影響，值得持續觀察。
法國即將設立新的簽證種類「科技簽證viva tech」面向三類科技人才法國總統馬克宏（Emmanuel Macron）6月15日在法國巴黎舉行開幕的法國創新技術會議（Viva Technology）上，宣布兩項新政策措施：簽證與投資基金。馬克宏宣布，即將設立新的簽證種類「科技簽證viva tech」法國科技簽證面向三類科技人才：創業創始人，員工和投資者，並允許他們在法國生活和工作。其內容如下： 一、 有效期限為四年，並且已可再生做為基礎。 二、 其延伸至直系親屬，且配偶還可獲得居留許可，得在法國生活、工作。 受撫養的孩子也有權在法國居住。 三、 且其不需要額外的工作許可，而來自歐洲經濟區和瑞士的公民則不需要居留許可。 而針對法國科技簽證的資格，有三個，一為企業創始人，二為員工，三為投資者，而三者類型可以透過不同的途徑獲得「科技簽證」。 如：企業創始人要成為法國技術簽證的創業者，其申請條件包括計畫在法國發展經濟創新型的創業項目，始符合申請資格。 若想以僱員身分獲得法國技術簽證的資格，必須擁有研究生學位（碩士以上）、與法國公司有資格通過法國技術簽證招聘的最少3個月的工作合約、年薪總額至少35,526.40歐元（為2017年1月1日法國最低工資的兩倍）。 而針對投資者，該簽證瞄準風險投資家和商業天使投資創業公司，有幾種方法可以獲得法國投資者技術簽證的資格：一家外國風險投資公司在法國開設辦事處、外國投資者由法國的風險投資公司招募、商業天使（通常是成功的企業家）移居法國。而要獲得標有“商業投資者”的人才通行證，須投資至少30萬歐元的固定有形或無形資產。直接或通過您至少擁有30％股權的公司進行投資、至少擁有您所投資公司的10％，並且在投資後的四年內創造或保護工作，而法國風險投資公司招募的外國投資者則不要考慮這些標準。 法國今年夏天推出“法國簽證”項目，使簽證更容易發放，政府部門遵循的程序更加可靠。