美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。
依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。
依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。
此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。
最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
National Security Commission on Artificial Intelligence, Final Report, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf (last visited, Sep. 28, 2021).
DeepMind, Request for Information: Artificial Intelligence Risk Management Framework, https://www.nist.gov/system/files/documents/2021/09/17/ai-rmf-rfi-0105.pdf (last visited, Sep. 28, 2021).
Comments Received for RFI on Artificial Intelligence Risk Management Framework, NIST, https://www.nist.gov/itl/ai-risk-management-framework/comments-received-rfi-artificial-intelligence-risk-management (last visited, Sep. 28, 2021).
AI RMF Development & Request for Information, NIST, https://www.nist.gov/itl/ai-risk-management-framework (last visited, Sep. 28, 2021).
〈歐盟提出人工智慧法律調和規則草案〉，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&d=8674（最後瀏覽日期：2021/09/28）。
日本2011年個人資料外洩事件及事故的件數比前年減少為1551件，但洩漏的個人資料筆數卻超過前年一成以上，約有600萬筆個人資料外洩。從數字來看預估的賠償金額是超過1900億日幣。 日本網路資安協會（JNSA）與資訊安全大學研究所的原田研究室及廣松研究室共同針對報紙集網路媒體所報導的個人資料外洩相關事件及事故所進行的調查所做的結論。 新力集團旗下的海外公司雖然發生合計超過1億筆的大規模個人資料外洩的意外，但此一事故並無法明確判別是否屬於個人資料保護法的適用範圍，因此從今年的調查對象裡排除。 在2011年發生的資料外洩事件有1551件，比起前年的1679件減少128件，大約跟2009年所發生的個人資料外洩差不多水準。外洩的個人資料筆數總計約628萬4363筆，與前年相較約增加70萬筆。平均1件約洩漏4238筆個人資料。 將事故原因以件數為基礎來分析，可以發現「操作錯誤」佔全體的34.8％為第一位，其次是「管理過失」佔32％，再接下來是「遺失、忘記帶走」佔13.7％。但以筆數來看，值得注意的是「管理過失」佔37.7％最多，但「操作錯誤」就僅有佔2.3％的少數。 再以佔全體事件件數5％的「違法攜出」就佔了全體筆數的26.9％；在佔全體件數僅有1.2％的「違法存取」卻在筆數佔了20.9％，可以看到平均每一件的受害筆數有開始膨脹的傾向。 再者從發生外洩原因的儲存媒體來看，紙本佔了以件數計算的68.7％的大多數，以USB記憶體為首的外接式記憶體佔了10.1％；但以筆數計算的話，外接式記憶體佔了59.1％、網路佔了25.5％的不同的發生傾向。 從大規模意外來看，金融機關與保險業界是最值得注意，前10件裡佔了7件。從發生原因來看，「違法攜出」及「內部犯罪」所造成的事故10件中有4件，其次是「管理過失」。規模最大的是山陰合同銀行的受委託人將業務所需的165萬7131件個人資料攜出的事故。 依據2011年所發生的事件及事故的預估賠償額是1899億7379萬日幣。遠超過前年的1215億7600萬日幣。平均一起事件預估損害賠償金額有1億2810萬日幣，每人平均預估賠償金額是4萬8533日幣。
歐盟執委會發布新產業策略指導方針，協助企業面對氣候中和及數位領導轉型之挑戰歐盟執委會於2020年3月10日公布產業策略指導方針，名為「因應全球競爭、綠色、和數位歐洲的新產業策略」（A new industrial strategy for a globally competitive, green and digital Europe），以幫助歐洲產業在面臨近年氣候中和及數位領導變遷時，因轉型而產生的過渡期。此次公布的產業策略指導方針，包含三大主題，分別是：（1）新產業策略（A new industrial strategy）、（2）新中小型企業策略（A new SME strategy）以及（3）企業與消費者的單一市場（A single market that delivers for our businesses and consumers）；而其中又以「新產業策略」為該指導方針之重點。 為提升歐洲的產業領導地位，「新產業策略」中論以三個關鍵優先事項，分別為：維持歐洲產業的全球競爭力和公平競爭環境、2050年以前達成氣候中和（climate-neutral）目標，以及塑造歐洲未來數位化。為達成前述優先事項，歐盟執委會提出一系列未來行動： 推行智財權行動計畫（Intellectual Property Action Plan）以保護歐盟技術主權，並採行適合綠色和數位轉型的法規框架； 持續檢討修正歐盟競爭相關法令（EU competition rules），確保法規能適應快速變化的經濟環境； 為維護產業在歐盟境內外的公平競爭環境，執委會將於在2020年中以前出版白皮書，處理歐盟單一市場中因外國補貼而引起的扭曲效應，以及歐盟境內的外國採購和外國資金問題； 推行關鍵原料行動方案（Action Plan on Critical Raw Materials），確保關鍵原物料穩定供應；支持戰略數位基礎設施和關鍵技術發展，增強歐洲產業及戰略自主地位； 其它則有對綠色公共採購進一步立法、發展低碳產業和技術、支持永續型智慧交通產業等。
世界衛生組織公布「人工智慧於健康領域之倫理與治理」指引世界衛生組織（World Health Organization, WHO）於2021年6月底公布「人工智慧於健康領域之倫理與治理」（Ethics and governance of artificial intelligence for health）指引。目前人工智慧於在改善診斷、治療、健康研究、藥物開發及公共衛生等健康領域皆有廣泛之應用與前景，而該指引首先指出人工智慧應用於健康領域中最相關之法律與政策外，並強調相關應用皆須以「倫理」及「人權」作為相關技術設計、部署與使用之核心，最後則提出人工智慧應用於健康領域之六大關鍵原則： 一、保護人類自主性（autonomy）：本指引認為人類仍應該掌有關於醫療保健系統之所有決定權，而人工智慧只是輔助功能，無論是醫療服務提供者或患者皆應在知情之狀態下作決定或同意。 二、促進人類福祉、安全與公共利益：人工智慧不應該傷害人類，因此須滿足相關之事前監管要求，同時確保其安全性、準確性及有效性，且其不會對患者或特定群體造成不利影響。 三、確保透明度、可解釋性與可理解性（intelligibility）：開發人員、用戶及監管機構應可理解人工智慧所作出之決定，故須透過記錄與資訊揭露提高其透明度。 四、確立責任歸屬（responsibility）與問責制（accountability）：人工智慧在醫學中所涉及之內部責任歸屬相當複雜，關於製造商、臨床醫師及病患間相關之問責機制之設計將會成為各國之挑戰，故須存在有效之機制來確保問責，也應避免責任分散之問題產生。 五、確保包容性（inclusiveness）與衡平性（equity）：應鼓勵應用於健康領域之人工智慧能被廣泛且適當地使用，無論年齡、性別、收入及其他特徵而有差別待遇，且應避免偏見之產生。 六、促進具適應性（responsive）及可持續性之人工智慧：人工智慧應符合設計者、開發者及用戶之需求與期待，且能充分具適應性之回應且符合使用環境中之要求。
新加坡物聯網產品網路安全防護之初探新加坡物聯網產品網路安全防護之初探 資訊工業策進會科技法律研究所 2023年06月30日 壹、事件摘要 近年物聯網（Internet of Things，簡稱IoT）產品蓬勃發展，伴隨著資通安全之威脅卻也日益加增，新加坡為此陸續訂定國內法規，以強化保障新加坡人民資訊流通之自由，並確立了網路安全標籤機制，藉以提高消費者對於物聯網產品資安的認識。另一方面，標籤制度能於消費者使用物聯網產品時，將產品受到不同層級之網路安全防護，或有別於一般用途使用等資訊，迅速傳達給消費者。據此，本文觀測新加坡近年主要的物聯網產品驗證制度與相關法規，供我國參考與借鏡。 貳、重點說明 一、新加坡物聯網網路安全法規 新加坡於2015年成立新加坡網路安全局[1]（CSA），陸續為新加坡建立完善之物聯網產品網路安全防護機制，且新加坡於2018年訂定《網路安全法》[2]，法案的第一部分已明示將「網路安全」列為實質保障內涵[3]，並明訂須透過識別與分析威脅，以有效降低網路安全威脅帶來的風險。另為提高物聯網安全性，首先於亞太地區推出物聯網產品等級評估機制，即新加坡網路安全標籤機制[4]（Cybersecurity Labelling Scheme, CLS），致力於保障新加坡的網路空間，並使消費者能夠識別符合網路安全規定之物聯網產品，以利消費者辨認選購。此外，CLS架構下設有驗證中心、通用標準以及標籤分級等措施，以強化物聯網產品資安防護為目的，也能落實《網路安全法》保障新加坡網路安全之精神。 （一）設置網路安全驗證中心[5]（Cybersecurity Certification Centre, CCC）：為驗證資安相關產品與服務之權責機關，透過CSA建置的驗證標準，成為新加坡企業採用資安產品之參考依據。 （二）建立通用標準（Common Criteria, CC）：最初是由加拿大、法國、德國、荷蘭、英國與美國等多個國家安全標準組織聯合提出，以國際標準ISO／IEC 15408（Common Criteria for Information Technology Security Evaluation）作為替代其現有安全評估標準的通用標準。由於通用標準已於國際上受多國承認，資訊服務業者若經過相關驗證時，較易被新加坡企業採用。 （三）建立網路安全標籤機制（Cybersecurity Labelling Scheme, CLS）：CSA針對智慧裝置推出網路安全標籤機制CLS，是以《網路安全法》做為上位精神而訂，但並不具強制力，而是以計畫推行之自願性認驗證機制。新加坡政府將物聯網設備根據其網路安全規定之級別進行評估分級，使消費者能夠識別符合較高等級網路安全規定的產品，並做出明智的決定。CLS共可分為4個等級（Level 1~4），第1級為產品滿足相關之基本要求（如密碼要求、提供軟體更新）；第2級為該產品係使用安全設計原則進行開發（如進行相關之威脅評估、審驗程序）；第3級為該產品經過第三方測試實驗室評估；第4級則經過第三方實驗室之滲透測試。此外，值得注意的是，新加坡亦與德國、芬蘭簽署備忘錄，以相互承認，也因此新加坡CLS網路安全標籤機制與德國的網路安全標籤制度（IT-Sicherheitskennzeichen）、芬蘭的網路安全標籤制度（Finnish Cybersecurity Label），可以進行互通使用。 參、事件評析 新加坡透對於物聯網產品之資安，透過訂定法規、成立權責機關與建立國際通用之標準與標籤機制，針對物聯網產品資安進行不同層次的保障。此外，採「驗證」方式保障人民生活不受網路威脅侵害，同時提高消費者對於物聯網產品資安之意識，可謂一舉數得之作法。而我國於物聯網產品發展以來，有政府以計畫支持「行動應用資安聯盟」提供相關物聯網產品之資安檢測認驗證標章，以供企業或消費者識別，物聯網產品經由實驗室檢測並由行動應用資安聯盟[6]審核通過後，核發合格證書及資安標章，並依照資安風險高低及安全技術實現複雜度，區分三個等級（L1~L3），分為適合一般家庭、商業用途與最高防護強度。於此認驗證機制下，已推出6項產品系列之驗證[7]，並且採消費者導向之標章，足見我國政府同樣致力於提高消費者對於物聯網產品資安防護識別之意識；但此認驗證機制或有優化空間，今後可以參考新加坡作法，擴增可進行驗證的產品項目，持續提升保障消費者選購物聯網產品之資訊知悉權，同時可參酌國際上其他重點國家之風險評估方式，以系統性建置物聯網產品資安之風險評估通用標準，以確保該制度未來有機會被其他國家直接或間接承認，為國際接軌做準備，作為今後精進物聯網產品資安之目標，方可促使我國與國際產業鏈、海外市場逐步銜接，提升產業競爭力。 [1]新加坡網路安全局CSA（Cyber Security Agency），隸屬於總理辦公室（Prime Minister’s Office, PMO），由新加坡通訊暨新聞部（Ministry of Communications and Information）管理，https://www.csa.gov.sg/，（最後瀏覽日：2023/6/30）。 [2]Cybersecurity Act 2018, Singapore Statutes Online, https://sso.agc.gov.sg/Acts-Supp/9-2018/Published/20180312?DocDate=20180312, (last visited June 30, 2023). [3]Cybersecurity Act 2018, Part 1 PRELIMINARY, 2.—(1), (i)providing advice in relation to cybersecurity solutions, including— (i) providing advice on a cybersecurity program; or (ii) identifying and analysing cybersecurity threats and providing advice on solutions or management strategies to minimise the risk posed by cybersecurity threats. [4]Cybersecurity Labelling Scheme (CLS), CSA, https://www.csa.gov.sg/our-programmes/certification-and-labelling-schemes/cybersecurity-labelling-scheme, (last visited June 30, 2023). [5]SINGAPORE CSA, Certification and Labelling Schemes, About the Cybersecurity Certification Centre (CCC), https://www.csa.gov.sg/our-programmes/certification-and-labelling-schemes, (last visited June 30, 2023). [6]行動應用資安聯盟（Mobile Application Security Alliance），關於我們〈推動架構〉，https://www.mas.org.tw/about/background，（最後瀏覽日：2023/6/30）。 [7]包含:影像監控系統、智慧巴士、智慧路燈、空氣品質微型感測裝置、消費性網路攝影機、門禁系統等項目。行動應用資安聯盟（Mobile Application Security Alliance），IoT Q&A〈聯盟負責的物聯網資安檢測認證項目有哪些？〉，https://www.mas.org.tw/iot/questAndAnswer，（最後瀏覽日：2023/6/30）。