新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本公平交易委員會於2020年11月27日發布「Startup交易習慣之現況調查報告最終版」（スタートアップの取引慣行に関する実態調査について最終報告），主旨為揭露其國內新創事業於交易市場遭遇不公平競爭行為的調查結果。本報告的作成目的，係基於新創事業發展具備推動創新、活絡國內經濟之潛力，故針對各類型新創事業在參與市場交易時，有無因其與相對人間的不對等地位（因需仰賴相對人提供資金或資源），遭遇不公平競爭的情況進行調查。同時，本報告所公布的調查結果，將會作為未來訂定新創事業與合作廠商間契約指引的參考依據，以圖從制度面改善新創事業參與市場的競爭環境。 本報告書所調查的交易態樣，聚焦於容易出現不公平競爭行為的契約或競爭關係，並分別整理主要的行為態樣如下：（1）新創事業與合作廠商間之契約：要求新創事業揭露營業秘密、約定對合作廠商有利的保密協議條款、無償進行概念驗證（Proof of Concept）、無償提供授權、於共同研究契約中約定智財權僅歸屬合作廠商、延遲給付報酬予新創事業等；（2）新創事業與出資者間之契約：要求新創事業揭露營業秘密、負擔出資者外包業務予第三人之費用、購買不必要的商品或服務、提供片面優惠待遇、限制新創事業的交易對象等；（3）新創事業與其他競爭廠商間之關係：競爭廠商要求交易相對人不得向與其存在競爭關係之新創事業買入競爭性商品；競爭廠商針對特定新創事業設定較高的商品售價，而事實上拒絕與其進行交易等。同時，依據報告書，在與合作廠商或出資者進行交易、或訂定契約的過程中，約有17%的新創事業表示曾遭遇「無法接受的行為」（納得できない行為），且當中有約八成的新創事業妥協接受。其中，若為銷售額未滿5000萬日圓、且公司未配有法務人員的新創事業，遇到無法接受行為的事業家數為銷售額5000萬日圓以上、且公司有法務人員之新創事業的2.5倍。
美國加州《AB-5法》（Assembly Bill No. 5）美國加州於2019年9月通過AB-5法案（Assembly Bill No. 5），預計於2020年1月正式施行，本法目的在於強化零工經濟下非典型勞務提供者（如平台外送員）的權益保護，於加州現行勞動法令之基礎上，增訂關於各類勞務提供者之特別規定。 依本法主要規範，係推定替雇主（hirer）提供服務的工作者為僱傭契約關係下之僱員（employee），就最低工資、失業保險、勞災、醫療保險等面向，業者應對這些工作者提供等同受僱人之相關權益及保障；若要被例外認定為非成立僱傭關係之獨立承包商，則必須滿足不受公司於工作方面的控制指示、從事與公司通常業務範圍無關之業務、以及有實質接案自由等三要件，並要求業者應以上列標準判定其勞務提供者為僱員或獨立承包商，同時需於例外認定為獨立承包商時提出相關證明。 同時，本法亦考量到施行後其效力對既有營業形態之衝擊，分別採取以下措施： 針對例如派報員、商業捕撈（commercial fishermen）等業別，於本法正式施行後一定期間內，豁免前述列舉之特定領域勞務提供者適用本法來認定其與業者間的契約關係。亦即，在法案生效後的短期內，特定業者暫時不需適用該法所定要件來檢視與勞務提供者間之契約關係，避免本法貿然實施可能導致其無法經營日常業務的困境。 對於醫療保健專業人員、持有牌照之律師、建築師、會計師、證券經紀商等法明文列舉之特定職業，排除適用本法判定勞動關係的特別規定，而非暫時豁免適用。
論析各國之企業智慧資產揭露機制 不畏經濟衰退，歐盟企業增加研發經費根據歐盟執委會（European Commission）之聯合研究中心（Joint Research Centre, JRC）於今（2012）年初針對歐盟境內之1000間企業所做的「歐盟產業研發投資趨勢調查」（The EU Survey on R＆D Investment Business Trends）結果指出，目前歐盟境內之頂尖企業期待自2012年至2014年止，以每年平均4％的成長率投注資源於研究發展領域。 儘管目前全球經濟局勢仍不明朗，多數的歐盟企業依舊認為，投注研究發展乃為企業追求未來成長和繁榮的重要關鍵要素。而該現象主要於軟體和電腦服務產業最為明顯。除了企業自身投注研發資源以進行創新研發、市場調查、和新產品的推行等相關活動外，多數的企業亦認為藉由國家補助經費、成立公私部門夥伴合作模式，此類外部激勵方式對於企業創新活動的進行，具有相當之助益。此外，透過簽署各項合作協議，企業與學研機構間得以相互授權合作，進而促進知識分享，此皆目前強調開放式創新（open innovation）概念的具體實踐之例，實值得肯認。然而，歐盟企業亦普遍認為，現行歐盟智慧財產權機制仍有智慧財產權保護申請時程過長，以及申請智慧財產權保護所需費用過於昂貴等不足之處，而該不足之處乃為目前歐盟企業進行創新研發活動時的絆腳石。 如何促進企業之創新研發能力，乃為目前全球各國於規劃推動各項相關策略時之主要討論標的之一。儘管當前歐盟智慧財產機制仍有待改善之處，然就歐盟企業所肯認之跨機關構合作模式、合作協議之簽署、國家經費之補助等措施，仍值得進行進一步的探討與觀察。