新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
加州州長阿諾‧史瓦辛格於 2005 年 10 月 7 日簽署禁止販售暴力影音遊戲 (Violate Video Game) 與未成年人之影音遊戲法案，影音遊戲業者對於此法案之通過表示強烈抗議，主張該法案違反美國憲法修正條文第一條言論自由之保護。 該法案禁止販賣或出租具強烈暴力色彩之影音遊戲與未滿 18 歲之未成年人，同時要求此類遊戲必須於包裝正面依據規定標誌標示明顯之「 18 」字樣，違者將處以 1000 美元以下之罰金。州長史瓦辛格先生指出，這些遊戲多半是為成人所設計，是否讓青少年接觸此類遊戲，應由其家長決定之，故此法案並未限制該未成年人之家長購買或租用該類遊戲提供未成年人使用。 美國「影音軟體業者協會」 (Video Software Dealer Association) 以及「娛樂軟體協會」 (Entertainment Software Association) 等業者代表計畫以訴訟方式爭議此法之合憲性並予以推翻，而美國聯邦法院曾對於華盛頓州之類似法案作出不利之判決，使得此法案之未來仍為一個未知數。值得一提的是，美國其他州亦有類似法案通過，其中包括伊利諾州以及密西根州，目前「娛樂軟體協會」針對此兩州之法案已於聯邦法院提起訴訟。
美國FTC以廣告不實的理由對二款具有診斷功能的醫療app開罰美國FTC於2月23日對於兩款聲稱具有診斷能力的醫療app進行裁罰，理由是這兩款app宣傳不實資訊，故應予下架並裁處罰鍰。 Melapp與Mole Detective兩款app，均係付費app，售價大約在1.99至4.99美元不等，宣稱只要使用者從不同角度拍下自己身上的痣，app就能夠判斷這個痣屬於黑色素瘤（Melanoma，為一種罕見的皮膚癌類型，且惡性程度高）的機率，app將罹患黑色素瘤的風險區分為：高、中、低三級。但FTC認為業者的說法並沒有足夠的臨床依據加以證明，因此涉及廣告不實的行為。截至目前為止，Melapp與Mole Detective的開發業者都已經繳納罰鍰，但發行商L-Health拒絕繳納這項罰款，因此FTC的委員會在經過表決之後，決定在2015年2月23日向北伊利諾州地方法院提起訴訟，請求法院執行此項由FTC作成的裁罰。 具有診斷效果的app在美國其實開發已久，但在此案前，尚未見到行政機關對之積極的加以管制，此次由FTC出面對於廣告不實的部分加以裁罰，而非由主管藥物、醫材的FDA進行裁罰，或許與眾人的想像不同，但從FTC的這個行動，我們也發現美國政府已開始關切此類宣稱具有醫療診斷效果的app，醫療app未來的發展情勢將會如何，特別是本案中將被FTC起訴的L-Health會不會再另行提起其他法律爭訟，以確保其產品在市面上的合法性？毋寧是未來世界各地醫療app發展的重要參考資訊。
日本發布策略性資料使用之資料管理指南，旨在協助企業將資料視為資產與產品，以策略性的運用資料日本獨立行政法人情報處理推進機構於2025年6月11日發布《日本發布策略性資料使用之資料管理指南（下稱《指南》）》，旨在協助企業將資料視為資產與產品，以策略性的運用資料。 《指南》指出，資料管理是指企業針對其所擁有的所有資料，進行有效率的收集、整理、保存、共享、分析與運用的一套系統化流程，其目的是為了透過確保資料品質及正確性，協助業務決策，並確保企業的競爭優勢。 在現代企業經營中，資料具有雙重屬性，亦即資料除了是企業重要的經營資產，同時也是企業的產品之一。作為資產的資料如同設備等一般資產，是可供銷售或提供服務的資產，故為最大化其價值並促進成長，需要進行適當管理與投資。此外，由於資料具有可複製性，因此一經外洩，將會造成廣泛且持續性的影響，因此需進行資料管理以確保資料安全性；作為產品的資料則需要有效的整備及管理，以確保維持其正確性所需的品質。 根據《指南》，資料管理的核心在於其需要貫穿資料生命週期，且隨著數位化的進展，對於資料管理亦產生新的需求，例如針對資料多元運用需求之應對、資料須具備可追溯性、針對機密資料之管理方式、確保資料安全性及資料品質等。 為因應新興資料管理需求，《指南》建議可透過評估自身定位、規劃必要體制、思考資料策略及管理架構、盤點企業既有資料及必要資料、培養及建立企業從決策層到執行層的人員均重視資料的資料文化，以及減少不必要或易出錯的作業流程等六項具體措施，建立企業自身貫穿資料生命週期之資料管理流程。 我國企業如欲逐步建立並落實貫穿資料生命週期的資料管理流程，可參考資訊工業策進會科技法律研究所創意智財中心所發布之《重要數位資料治理暨管理制度規範》，作為資料管理流程設計與實務落實之參考，以強化自身資料管理能力。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
iWatch於各國申請註冊商標的布局與阻礙雖然美國蘋果公司傳聞中之智慧型手錶－iWatch，由於產品設計上仍有許多問題待解決，故迄今仍只聞樓梯響。但為使「iWatch」受到妥善的保護，蘋果公司已積極在日本、墨西哥、俄羅斯、臺灣、土耳其等地申請「iWatch」商標，且可預期蘋果公司未來仍將持續在全球各地進行申請。 然而，為取得「iWatch」之商標，蘋果公司在各國均可能遭遇困難；如美國加州的OMG Electronics公司即主張其擁有「iWatch」商標，且其商品或服務同樣與智慧型手錶裝置有關；在英國及歐盟則有一間網路服務公司Probendi係從2008年即擁有「iWatch」商標，惟其係註冊用於一款可將智慧型手機內的音樂、影片及地點資訊傳送至該公司管理用軟體的app軟體上；此外，在中國則至少有九間公司主張其擁有iWatch之商標，雖則其中僅有三間公司所有商標係註冊用於「電子產品、手錶週邊」，且現均已屬無效。但近似的商標「iWatching」仍可能阻撓「iWatch」在陸申請註冊商標。 蘋果公司曾在中國以6000萬美元天價與唯冠科技就「iPad」商標使用權達成和解，如果申請「iWatch」商標受阻，或業有其他公司搶註「iWatch」，可能類於「iPad」之戲碼將再度上演。 智慧型手錶裝置可能成為智慧型手機之後，下一波市場競爭的焦點，除了蘋果公司即將推出的iWatch外，Microsoft、Google、Samsung、Dell都將發展智慧型手錶裝置，以追趕Sony之腳步。