新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本政府於2017年9月4日所召開之國家戰略特區區域會議(下稱戰略區域會議)，決定由政府、東京都及愛知縣，共同成立「自駕車實證一站式中心」，協助企業及大學之自駕車相關實證研究。在自動駕駛實驗開始前，中心接受道路交通法等各程序相關諮詢，必要時可將相關程序以其他方式置換，將複數程序整合為一，推動相關實驗。 戰略區域會議並決定將窗口設置於東京都及愛知縣，欲進行實驗之企業可至前述窗口諮詢，東京都及愛知縣應與相關省廳及所管轄之警察、交通部門進行協調，並將所需之資訊彙整後回覆予企業，如此一來，企業可減輕實驗前繁瑣程序所帶來之負擔，進而降低啟動實驗之門檻。 東京都小池百合子知事於會後向記者們表示「自駕系統於汽車產業中，已是國家間之競爭」，且東京都將致力於「沙盒特區」體制之推動，於必要時可暫時停止相關現行法規之限制。愛知縣大村秀章知事則期待「透過實證實驗累積技術，促使愛知縣能維持引領世界汽車產業聚集地之地位」。 針對上述特區的設置，未來實際落實情況以及法規排除作法與範圍，值得我國持續投入關注。
人權組織向法國最高行政法院提交申訴，要求政府停止使用歧視性演算法.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 國際特赦組織（Amnesty International）與法國數位隱私權倡議團體La Quadrature du Net（LQDN）等組織於2024年10月15日向法國最高行政法院提交申訴，要求停止法國國家家庭津貼基金機構（Caisse nationale des allocations familiales，CNAF）所使用的歧視性風險評分演算法系統。 CNAF自2010年起即慣於使用此系統識別可能進行福利金詐欺的對象，該系統演算法對獲取家庭與住房補助的對象進行0至1之間的風險評分，分數越接近1即越可能被列入清單並受調查，政府當局並宣稱此系統將有助於提升辨識詐欺與錯誤的效率。 LQDN取得該系統的原始碼，並揭露其帶有歧視性質。該等組織說明，CNAF所使用的評分演算法自始即對社會邊緣群體如身心障礙者、單親家長，與低收入、失業、居住於弱勢地區等貧困者表現出懷疑態度，且可能蒐集與系統原先目的不相稱的資訊量，這樣的方向直接違背了人權標準，侵犯平等、非歧視與隱私等權利。 依據歐盟《人工智慧法》（Artificial Intelligence Act，下稱AIA），有兩部分規定： 1. 用於公機關評估自然人是否有資格獲得基本社會福利或服務，以及是否授予、減少、撤銷或收回此類服務的人工智慧系統；以及用於評估自然人信用或建立信用評分的人工智慧系統，應被視為高風險系統。 2. 由公機關或私人對自然人進行社會評分之人工智慧系統可能導致歧視性結果並排除特定群體，從此類人工智慧總結的社會分數可能導致自然人或其群體遭受不當連結或程度不相稱的不利待遇。因此應禁止涉及此類不可接受的評分方式，並可能導致不當結果的人工智慧系統。 然而，AIA並未針對「社會評分系統」明確定義其內涵、組成，因此人權組織同時呼籲，歐盟立法者應針對相關禁令提供具體解釋，惟無論CNAF所使用的系統為何種類型，因其所具有的歧視性，公機關皆應立即停止使用並審視其具有偏見的實務做法。
“Cookies”—餅乾或是毒藥？ 以『江蘇科技改革30條』解析中國大陸科研經費改革制度中國大陸近年致力發展其國內技術研究產業，但在基礎研究經費申請制度上，長期存在一些結構問題，如在科研資助、實施和成果傳播三個階段。故自2017年起，中國大陸陸續修正關於科研經費制度，以使科技研究人員得以順利進行科研項目。截至目前，依中國大陸國發〔2018〕25號文為基準，江蘇省推出《關於深化科技體制機制改革推動高品質發展若干政策》(下簡稱『江蘇科技改革30條』)，並出台完整的實用手冊 。 此次江蘇科技改革30條，明確落實中央對科研經費鬆綁及對科研結果獎勵與容錯的改革措施。在科研經費可直接列支項目的直接預算，如設備費、材料費等，從原本九個項目改合併為五個項目，科目經費支出將不再受比例限制；另在無法直接羅列預算項目的間接預算上，如績效支出等費用則精簡列支項目，提高間接費用核定比例。在科研結果獎勵與容錯改革上，建立原創成果獎勵機制、創新補償機制、援助機制及免責機制。 中國大陸科研經費長期採用嚴格預算制，直接預算需按照法律規範羅列，然間接預算部分常使研究人員因不知如何羅列，而導致研究經費中斷或減少。對於較易失敗的基礎研究上，研究人員則擔心在階段性考核中因錯誤致使研發經費無法取得，進而將錯就錯，謊報研究成果。此次江蘇科技改革30條修正，解決了上述科研經費制度的部分問題，並具體規範了實務上的操作。然各部會間如何解決關於監管經費結餘規範之法律衝突，及科研成果容錯機制之評價，仍待後續觀察。