新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國網路購物龍頭業者亞馬遜（Amazon）於2010年3月宣布，肇因於科羅拉多州（Colorado）最新通過的網路稅法，該公司將中止與科羅拉多州當地網路業者之間的合作關係，消息披露後，隨即對4000位以上科羅拉多州民眾之生計產生劇烈影響。 亞馬遜於全美各州均推動所謂的「亞馬遜合夥事業」（Amazon Associates），參加此一合作模式的各州網路業者，只要網路使用者透過業者建置的網路連結而於亞馬遜網站進行消費時，業者便可自亞馬遜收取特定之佣金。而亞馬遜此次選擇退出科羅拉多州前，事實上該公司亦曾因網路課稅問題，而陸續退出北卡羅來納州（North Carolina）與羅得島州（Rhode Island）之網路購物市場。 然而，相較於先前北卡羅來納州與羅得島州網路營業稅課徵之對象，以設籍於該州的網路業者為主；此次科羅拉多州（Colorado）通過的新法，應被徵收營業稅之網路業者，則不以設籍該州為限，凡與該州居民進行交易而設籍於其他州的網路業者，亦須向該州納稅。同時，科羅拉多州當地居民進行網路購物時，將須繳交2.9％之網路消費稅。 亞馬遜表示，新法將使迫使該公司每年上繳約460萬元的稅額，以彌補科羅拉多州現階段13億元之預算赤字。無獨有偶，深受預算赤字所苦的加州，近來亦積極討論應否制定網路稅法，支持者表示新法若順利通過，可望每年為州政府貢獻超過1.5億美元的稅收，有助於彌補該州高達20億美元之預算缺口。
英國提出因應GDPR自動化決策與資料剖析規定之細部指導文件2018年5月，英國資訊專員辦公室（Information Commissioner’s Office, ICO）針對歐盟GDPR有關資料自動化決策與資料剖析之規定，公布了細部指導文件（detailed guidance on automated decision-making and profiling），供企業、組織參考。 在人工智慧與大數據分析潮流下，越來越多企業、組織透過完全自動化方式，廣泛蒐集個人資料並進行剖析，預測個人偏好或做出決策，使個人難以察覺或期待。為確保個人權利和自由，GDPR第22條規定資料當事人應有權免受會產生法律或相類重大效果的單純自動化處理決策（a decision based solely on automated processing）之影響，包括對個人的資料剖析（profiling），僅得於三種例外情況下進行單純自動化決策： 為簽訂或履行契約所必要； 歐盟或會員國法律所授權； 基於個人明示同意。 英國2018年新通過之資料保護法（Data Protection Act 2018）亦配合GDPR第22條規定，制定相應國內規範，改變1998年資料保護法原則上容許資料自動化決策而僅於重大影響時通知當事人之規定。 根據指導文件，企業、組織為因應GDPR而需特別留意或做出改變的事項有： 記錄資料處理活動，以幫助確認資料處理是否符合GDPR第22（1）條單純自動化決策之定義。 倘資料處理涉及資料剖析或重大自動化決策，應進行資料保護影響評估（Data Protection Impact Assessment, DPIA），判斷是否有GDPR第22條之適用，並及早了解相關風險以便因應處理。 提供給資料當事人的隱私權資訊（privacy information），必須包含自動化決策之資訊。 應確保組織有相關程序能接受資料當事人的申訴或異議，並有獨立審查機制。 指導文件並解釋所謂「單純自動化決策」、「資料剖析」、「有法律效果或相類重大影響」之意義，另就可進行單純自動化決策的三種例外情況簡單舉例。此外，縱使符合例外情況得進行單純自動化決策，資料控制者（data controller）仍必須提供重要資訊（meaningful information）給資料當事人，包括使用個人資料與自動化決策邏輯上的關聯性、對資料當事人可能產生的結果。指導文件亦針對如何向資料當事人解釋自動化決策處理及提供資訊較佳的方式舉例說明。
何謂防禦型聯盟（Defensive Patent Aggregator）?其是否為NPE的重要類型?防禦型專利聯盟係為NPE之一種重要類型，主要以抵制NPE侵擾為出發點，防禦型聯盟儘可能搶先攻擊型如NPE者去進行專利的授權或購買，加入防禦型聯盟者則可付出比與NPE進行和解所支付費用較少的金錢，成員其會員以取得不被NPE侵擾的地位。 NPE中屬於防禦型聯盟（Defensive Patent Aggregator）者，RPX（Rational Patent）之運作模式常可作為主要類型化參考對象之一。RPX為上市公司，其主要核心業務在於「緩和其會員被訴之可能」。RPX取得專利之資金主要來自會員年費，而各會員可取得RPX所有專利之「授權」，而收費結構不當然等於獲取專利之成本之分攤，以使會員已低於一般訴訟和解、或取得爭議專利等更為低的代價來防止被訴。在此同時，RPX本身也不會對他人起訴。 RPX所提供的防禦性聯盟策略，先行於其他NPE取得前那些潛在「危險性」的目標專利，甚至有可能向NPE取得專利，必要時，直接於訴訟仍在進行之時去取得專利。而在防禦以外，如其他非會員向會員起訴，會員也可以以RPX所有之專利進行反訴。 目前RPX會費在6萬5千美元至6900萬美元之間，依照會員本身營運規模之不同定之，但「會費等級」（rate card）會自加入之初鎖定不再更動，實際每年繳交費用則可能依據RPX所取得的所有專利價值增加而上昇 。而除此主要運作模式外，RPX也運用其廣泛取得專利之經驗，提供個別企業服務服務，得以較低的躉售價格取得專利（Syndicated Acquisitions），反之企業自行購買專利可能需要付出較高的「零售」價格 RPX的運作模式對於加入成為其「會員」者有兩項優勢：第一，減少「專利蟑螂」可取得的專利數量；其次，因可理解為全體會員合力進行防禦型專利取得故能減低這些專利取得之成本。
我國電子公文法制的最新發展