新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
新加坡生物道德諮詢委員會五日發表基因檢驗與研究道德準則草案，草案建議政府禁止基因研究者在未獲得同意之下取得基因進行測試與研究，同時也禁止採用基因檢驗來選擇胎兒的性別。新加坡生物道德諮詢委員公布基因檢驗與研究道德準則草案，共提出二十四項建議，希望能在研究人員從事基因研究時，保障人權。 草案建議政府，任何基因測試除非獲得基因所有人同意，否則不得進行。，產前基因篩檢只能限於確保孩子的健康，不要把先天性疾病遺傳給下一代，但不能用在選擇生男或生女。草案規範，研究員或醫生不能把基因研究結果透露給第三者，包括雇主和保險公司知道，以保障個人隱私。 委員會已經把草案公布在網站上供民眾查閱，並分送給一百一十四個機構，徵詢公眾和機構的看法；委員會將在年底向星國生命科學部長級會議提出報告。
舊金山監事會通過決議禁止政府使用臉部辨識美國舊金山監事會（San Francisco Board of Supervisors，編按：監事會是舊金山市的立法部門，性質類似議會）於2019年05月通過停止秘密監察條例（Stop Secret Surveillance Ordinance），並將其訂入行政法規（San Francisco Administrative Code）條文，包括增訂第19B章及修訂第2A.20節、第3.27節、第10.170-1節和第21.07節。根據行政法規第19B章，舊金山政府及執法機構未來將不能使用臉部辨識科技，也不能處理或利用任何自臉部辨識科技取得的資訊。 易言之，在公共場所安裝具備臉部辨識科技的監視器，或暗自使用臉部辨識科技尋找嫌疑犯都構成違法行為。然而，法規的修訂不代表舊金山內所有臉部辨識系統將全面停止。由於舊金山機場及港口屬美國聯邦政府管轄，不受地方政府法律所規範，仍可使用臉部辨識科技；而民眾及私人企業並非修訂條文的規範對象，亦可繼續採用。 此次法規的修訂引發高度關注，各界也熱烈討論。反對者表示，法規的修訂使執法機關打擊犯罪的努力付之一炬，危害民眾安全；贊成者則認為，臉部辨識科技過分侵害人民的隱私權和自由權，應對其有所限制。畢竟，臉部辨識科技並非萬無一失，尤其當受辨識者為女性或深膚色人種時，準確率往往下降許多，而有歧視的疑慮。舊金山首開先例立法，成為全美第一個限制政府使用臉部辨識科技的城市，其他城市或國家未來是否會仿效而相繼立法，值得繼續關注。
掀起網路自由與版權衝突的另一場戰爭－Megaupload事件概述掀起網路自由與版權衝突的另一場戰爭－Megaupload事件概述 科技法律研究所 法律研究員 劉得正 101年06月25日 Megaupload 是著名的線上網路硬碟服務商，提供用戶上傳檔案、藉此分享資料予他人之網路空間。自2005年3月間上線後，迅速累積用戶至1億8千萬，並一度排名全球網站瀏覽量第11名。然而在2012年1月19日卻遭到美國政府強制關閉，相關負責人（包括創辦人KIM DOTCOM）遭到美國司法部起訴，並透過國際合作逕予逮捕。此舉為網路環境投下前所未有之震撼彈。本文以下便針對此一個案提出簡要說明，釐清美國採取行動之依據及考量。 壹、Megaupload起訴依據 根據本案起訴書[1]，司法部本次起訴KIM DOTCOM等，主要是認為其觸犯以下規定： 一、「共謀實施著作權侵權」[2]、「著作權侵權刑事處罰規定」[3]－ 美國司法部認為Megaupload直接藉由複製、散佈盜版物來賺取利潤，構成對著作權之侵權。因其發現，Megaupload獲利來源主要來自網站上商業廣告之瀏覽量。為了提高廣告瀏覽量，Megaupload規定用戶所上傳文件之存續時間，取決於該文件的下載次數，並鼓勵上傳可長期受到使用者青睞下載的文件。換言之，Megaupload獲利與盜版物之散佈具有直接關連。 其次，司法部發現，Megaupload網站上已使用一種「移除程序」來辨認兒童色情內容，但卻未將此技術應用在移除侵權的內容上，或以其他方式使「移除程式」無法搜尋特定盜版物，顯見Megaupload係故意以散佈盜版物來賺取商業利益，並因此無法適用數位千禧年著作權法案中，對於網路服務提供者之「安全港」條款。 二、「共謀詐欺」[4]與「網路詐欺、教唆及幫助網路詐欺」[5]－ 此外，司法部認為，Megaupload網站運作方式，除了構成著作權侵權外，其以組織運作方式進行犯罪，以及透過網路進行犯罪，此等行為已符合「共謀詐欺」及「網路詐欺」 ( Fraud by Wire ) 。同時，Megaupload使用激勵程序來鼓勵用戶上傳「流行」的文件，亦構成教唆及幫助網路詐欺。 三、洗錢防制規定[6]－ 最後，美國司法部認為KIM DOTCOM等Megaupload之負責人，有針對上述不法所得再進行金融交易之行為，因此亦違反洗錢防制規定。 貳、Megaupload案目前發展情況 如前所述，美國司法部係透過國際合作，逮捕相關負責人。以創辦人KIM DOTCOM而言，目前仍在紐西蘭政府監管之下，不過近期內，將依美國司法部之請求，召開引渡聽證會，討論是否引渡KIM DOTCOM至美國受審。至於在犯罪調查方面，紐西蘭法院已下令允許美國FBI可從Kim Dotcom電腦中拷貝超過150TB的資料，以作為美國司法部指控Megaupload之訴訟證據[7]，相信對於是否得以引渡Kim Dotcom，將帶來一定影響。 參、代結論 Megaupload案之所以造成如此大的風波，主要可從對用戶之影響與對整體網路環境之影響看起。在用戶方面，首要原因在於Megaupload擁有廣大用戶，美國查封Megaupload之結果，造成眾多付費用戶之權益受損，此部分將如何求償，將會是相當大的難題。其次，如前所述，本次紐西蘭法院已容許美國FBI拷貝Megaupload。其中將涉及用戶資料之探知，對此是否有適當的保護措施保障用戶隱私，將是考驗美國政府之另一難題。 至於對整體網路環境面而言，此一事件是首次針對網路平台業者 ( 網路硬碟服務商 ) ，所進行之大規模跨國查緝行動。眾多網民多形容此舉象徵著作權凌駕網路言論自由的時代已經來臨，未來網路服務業者間勢必將出現所謂的寒蟬效益。然而，有待觀察的是，本次美國司法部起訴之主要依據在於，主張Megaupload係故意利用複製、散佈盜版物，以獲取商業利益，對此美國法院是否能接受此一見解，事實上仍是未定之天。因美國司法部需說服法院，Megaupload並無善盡網路服務業者保護著作權之義務。更重要的是，僅是提供平台之Megaupload，能否被解釋侵權行為人，並非毫無疑慮。 [1]USA v Kim DotCom et al, U.S. District Court, Eastern District of Virginia, no. 1:12CR3 [2]18 U.S.C. § 371 - Conspiracy to Commit Copyright Infringement. [3]18 U.S.C. §§ 2,2319;17 U.S.C. § 506 - Criminal Copyright Infringement By Electronic Means & Aiding and Abetting of Criminal Copyright Infringement. [4]18 U.S.C. § 1962(d) - Conspiracy to Commit Racketeering. [5]18 U.S.C. §§2, 1343 - Fraud By Wire & Aiding and Abetting of Fraud by Wire. [6]18 U.S.C. § 1956(h) - Conspiracy to Commit Money Laundering. [7]“FBI told to copy seized Dotcom data”http://www.nzherald.co.nz/technology/news/article.cfm?c_id=5&objectid=10813260 (last visited 2012/06/25)
日本IT總合戰略本部提出數位程序修正法案，簡化行政流程並提高使用便利性日本IT總合戰略本部於2019年3月18日公告提出「數位程序法案（デジタル手続法案）」，本法案係集結多部法律修正案之包裹法案，包含行政程序網路化法（行政手続オンライン化）、居民基本簿冊法（住民基本台帳法）、官方個人認證法（公的個人認証法）、及個人編號法（マイナンバー法）。該法案的目的，在於應用資通訊技術簡化行政運作並提高使用便利性，藉此增進行政效率，因此在相關法令中明文擬定行政數位化的基本原則，增修推動行政程序線上辦理的共通規定與配套措施，賦予行政機關應履行的各項法定義務，同時為落實各領域推展行政數位化的規劃，制定個別具體規範。 於制定行政數位化基本原則、與增訂推動行政程序線上辦理的共通規定與配套措施之部分，主要為修正原「行政程序網路化法」，更名為「數位行政推進法（デジタル行政推進法）」，定位該法目標與功能為促進社會整體數位化，使國家、地方公共團體、民間業者、國民與其他人於從事各種社會活動時，均能享受到資通訊技術帶來的便利性。該法要求的基本原則，包含數位優先（digital first， 藉由數位手段一體化完成各項手續或服務）、免去重複提供資訊（once only，曾提供的資訊得被保留供再次使用）以及一步到位（connected one-step，謀求複數的程序或服務簡化為一步到位）。至於推動行政程序線上辦理的共通規定與配套措施，則包含要求地方公共團體須致力於達成行政程序線上辦理的目標，授權主管機關訂定得辦理網路身分認證與支付手續費等數位化法定程序、要求行政機關提出實現行政程序線上辦理與廢除紙本附件流程的資訊系統整備計畫等。 另一方面，針對各領域推展行政數位化的具體規範，該法案預備修正「居民基本簿冊法」、「官方個人認證法」以及「個人編號法」，主要內容包含：1. 保存個人電子認證資訊等相關官方服務的適用對象擴及旅外國民，同時得發行旅外國民之官方個人認證之電子證明書與個人編號卡，使其得透過網路使用相關的行政電子化服務；2. 長期且確實保存本人過去的居住遷徙紀錄，增設住民票註銷後原有相關記錄仍予以保留的「除票」制度，使國民過去的居住地紀錄，不會因為變更戶籍、依法註銷原戶籍地的住民票而消失；3. 過去使用官方個人認證之電子證明書與個人編號卡時須輸入密碼，官方個人認證法修正案則授權主管機關增設其他不需輸入密碼的使用方式，以呼應擴大電子證明書使用範圍的政策規劃；4. 賦予個人編號IC卡（マイナンバーカード）作為獨立有效之身分證明文件的地位，廢止原依法需和個人編號IC卡併用的紙本通知卡（通知カード）制度，免去個人住所等基本資料變更時，需同步更正通知卡紙本登載資訊的行政程序，減輕主管機關負擔。