經濟合作與發展組織發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段：
1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。
2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。
3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。
4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
許嘉芳
法律研究員 編譯整理
Organisation for Economic Co-operation and Development [OECD], Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI (Feb. 23, 2023), https://www.oecd-ilibrary.org/docserver/2448f04b-en.pdf?expires=1683078463&id=id&accname=guest&checksum=030F1E26850085E4A7AC6B1EB60266A1 (last visited May 3, 2023).
Advancing accountability in AI, Organisation for Economic Co-operation and Development, https://oecd.ai/en/accountability (last visited May 3, 2023).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
張瀠心，〈歐盟執委會通過關於《人工智慧責任指令》之立法提案〉，2023年1月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8958（最後瀏覽日：2023/05/03）。
德國聯邦議會通過電力市場發展法(Gesetze zur Weiterentwicklung des Strommarktes)和能源轉型的數位化法(Gesetze zur zur Digitalisierung der Energiewende)。 本次新制定之電力市場法，是90年代後德國電力市場重大發展。目的在於調適電力市場，以配合當今德國快速成長的再生能源發電比例。為使電力供應繼續保持合理價格和電力供應可靠安全，在確認未來電力市場發展繼續朝向增加越來越多風力發電和太陽能發電之路線的同時，預先架構法制環境，為將來配合運用發電端的彈性、需求端彈性與電力儲存技術，確定電力市場發展方向和框架條件。在上述等規範之下，電力交易商有義務，亦即售電者應該設法建構自身電量儲備作為因應，在電網需要時饋入電網，為供電安全提供必要準備。另外在注重必要容量儲備上之投資外，亦強調電力批發市場上的自由定價原則，維持整體市場所需容量在均衡、平衡之穩定電力供應狀態。 另外，能源轉型數位化法則是使電力部門成為創新之有效制度工具。蓋其作為基礎建設，使新創業模式，例如藉由與消費者持有之再生能源發電設備之連結，發展出新商業獲利模式。修法核心內容係引入智慧量測系統，功能在於作為安全的通訊平台，使電力供應系統能夠配合能源轉型發揮最大功用。 最後，為配合巴黎協定後德國環境政策，在遏止溫室效應氣體的實施具體作為，電力市場法一部份重要內容在於暫時停止褐煤電力電廠發電運轉。配合電網安定的調度需求，僅在指定時間內，使其成為電力安全預備，並最終不再使用褐煤發電，以實現到2020年德國在電力部門的氣候目標。 德國完成電力市場法，結束由“綠皮書”和“白皮書”開始的進程，與鄰國經過廣泛的公眾諮詢和協調會議之後，最終選擇電力市場2.0與市場自由定價的機制，而反對所謂的容量市場。決定性的因素在於，如此一來政策所需花費的成本較另一選項來得低，且更容易使德國融入歐洲電力單一市場架構。依據本法新創建的容量儲備，將與電力市場中其他電力嚴格區分，專門作為應對突發事件額外的安全網。 在「區域合作聯合聲明」中，德國經濟與能源部長於2015年6月8日與11鄰國商討後決定，保證在電力短缺和高電價時，德國側將提供電力的自由定價和跨境交易，如此一來可用更低成本以生產電力，德國和周邊國家的內部單一市場在此看到了巨大的經濟優勢。 與歐洲各國相較，德國在電力供應安全議題上處於領先地位。再加上新的電力市場法，預計未來幾年電力市場能夠達到持續健全發展之目標。
北美證券管理協會發佈新興金融科技對投資者之威脅之相關報告北美證券管理協會（North American Securities Administrators Association，簡稱：NASAA）與會成員，針對使用新興科技之不當行為人，於2018年10月10日發佈正式報告（NASAA 2018 Enforcement Report），報告指出不當行為人試圖使用新興金融商品刺激市場，使市場呈現活絡狀態。例如：炒作比特幣，該產品從2017年7月約2,364塊美元至同年12月大幅提高至2萬美元，同一時間於市場中加密貨幣市值飆漲超過5千億美元。因各種數據指標不正常的起伏，相關執法單位開始進行實際執法行動，並且特別針對加密貨幣部分進行調查。 該報告指出，部分合法企業也會透過加密貨幣和區塊鏈等，衍生性金融商品募集資本，亦即以首次代幣發行（Initial Coin Offering，簡稱ICO）之方式籌措資金。而NASAA也於監管時發現未經登記之企業，也利用此種方式進行籌資。惟，監管機構無法針對未經登記之公司進行有效之監管行為，以致，投資市場中詐欺事件層出不窮。因此，就涉嫌以ICO和加密貨幣等衍生性金融商品，進行群眾募資的未經合法登記之公司，NASAA也開始採取必要法律措施，以保護投資大眾免於受害。 一、 德州證券委員會與國家執法單位合作，於2017年12月20日對Usi-Tech Limited採取了緊急行動，此執法行動主要係因該公司以詐欺之方式欺騙投資消費者，此為國家執法單位，首次針對市場詐欺行為所進行之強制手段。 二、 北卡羅來納州證券部門以及德州證券委員會，調查BitConnect’s對加密貨幣貸款計畫之投資。該機構向投資者承諾，購買加密貨幣貸款計劃的投資將使他們有權在指定期限內獲取每月超過40％的利息，並且額外每日計算利率給予投資者。 調查後，監管機構發現，該公司未依證券交易法，以及證券經銷商相關註冊之規定，進行募資行為。以致北卡羅來納州證券部門以及德州證券委員會，隨即發佈停止運作之命令。 報告顯示，合法企業以及未經登記之企業，都得以使用ICO方式進行籌資。惟監督機構僅能就合法企業進行監管，無法有效監督未經登記之企業，為避免投資大眾因資訊不透明或資訊不對等之情況發生，導致投資人因此遭受到詐欺行為而受害。有關當局也已展開實際執法行動，仍請投資大眾多加注意。
美國專利商標局啟動軟體專利檢視計畫美國專利商標局（United States Patent and Trademark Office, USPTO）最近宣布將運用同儕檢視的概念，啟動名為”Peer Review Pilot”的軟體專利檢視先導計畫（以下簡稱PRP），該計畫並將與紐約大學進行中的專利共同檢視計畫（Community Patent Review Project (CPRP)）合作，以確保軟體專利的品質。 CPRP乃是由紐約大學法學院設置及管理的網站，該網站允許技術專家進一步予以檢視並提供相關資訊的機會，希望專利申請案在經過同儕檢視後，才進一步送交官方審查，藉此縮減審查程序的時間；而UPSTO的PRP也有類似的運作概念，PRP計畫在USPTO開始進行官方的專利審查工作之前，提供ICT領域的技術專家一個針對專利申請書專的權利主張，提出技術之參考註解（annotated technical references）的機會。 USPTO指出，專利審查官員唯有在資訊充分的前提下，才能做出正確的決定，考量專利審查官員必須在有限的時間內找出正確的訊息以對個別案件做出決定，而軟體相關技術的來源碼又不容易取得，也沒有完整的紀錄可供查詢，因此USPTO大膽採用同儕檢視的方法，期能藉此改善軟體專利的審查時間與品質。
美國公布實施零信任架構相關資安實務指引美國公布實施零信任架構相關資安實務指引 資訊工業策進會科技法律研究所 2022年09月10日 美國國家標準技術研究院（National Institute of Standards and Technology, NIST）所管轄的國家網路安全卓越中心（National Cybersecurity Center of Excellence, NCCoE），於2022年8月前公布「NIST SP 1800-35實施零信任架構相關資安實務指引」（NIST Cybersecurity Practice Guide SP 1800-35, Implementing a Zero Trust Architecture）系列文件初稿共四份[1] ，並公開徵求意見。 壹、發布背景 此系列指引文件主要係回應美國白宮於2021年5月12日發布「改善國家資安行政命令」(Executive Oder on Improving the Nation’s Cybersecurity) [2]當中，要求聯邦政府採用現代化網路安全措施（Modernizing Federal Government Cybersecurity），邁向零信任架構（advance toward Zero Trust Architecture）的安全防護機制，以強化美國網路安全。 有鑑於5G網路、雲端服務、行動設備等科技快速發展，生活型態因疫情推動遠距工作、遠距醫療等趨勢，透過各類連線設備隨時隨地近用企業系統或資源進行遠端作業，皆使得傳統的網路安全邊界逐漸模糊，難以進行邊界防護，導致駭客可透過身分權限存取之監控缺失，對企業進行攻擊行動。為此NIST早於2020年8月已公布「SP 800-207零信任架構」（Zero Trust Architecture, ZTA）標準文件[3] ，協助企業基於風險評估建立和維護近用權限，如請求者的身分和角色、請求近用資源的設備狀況和憑證，以及所近用資源之敏感性等，避免企業資源被不當近用。 貳、內容摘要 考量企業於實施ZTA可能面臨相關挑戰，包含ZTA部署需要整合多種不同技術和確認技術差距以構建完整的ZTA架構；擔心ZTA可能會對環境運行或終端客戶體驗產生負面影響；整個組織對ZTA 缺乏共識，無法衡量組織的ZTA成熟度，難確定哪種ZTA方法最適合業務，並制定實施計畫等，NCCoE與合作者共同提出解決方案，以「NIST SP 800-207零信任架構」中的概念與原則，於2022年8月9日前發布實施零信任架構之實務指引系列文件初稿共四份，包含： 一、NIST SP 1800-35A：執行摘要（初稿）（NIST SP 1800-35A: Executive Summary (Preliminary Draft)） 主要針對資安技術長（chief information security and technology officers）等業務決策者所編寫，可使用該指引來瞭解企業於實施ZTA所可能遭遇挑戰與解決方案，實施ZTA所能帶來優點等。 二、NIST SP 1800-35B：方法、架構和安全特性（初稿）（NIST SP 1800-35B: Approach, Architecture, and Security Characteristics (Preliminary Draft)） 主要針對關注如何識別、理解、評估和降低風險的專案經理和中層管理決策者所編寫，闡述風險分析、安全/隱私控制對應業務流程方法（mappings）的設計理念與評估內容。 三、NIST SP 1800-35C：如何操作指引（初稿）（NIST SP 1800-35C: How-To Guides (Preliminary Draft)） 主要針對於現場部署安全工具的IT 專業人員所編寫，指導和說明特定資安產品的安裝、配置和整合，提供具體的技術實施細節，可全部或部分應用指引中所揭示的例示內容。 四、NIST SP 1800-35D：功能演示（初稿）（NIST SP 1800-35D: Functional Demonstrations (Preliminary Draft)） 此份指引主要在闡述商業應用技術如何被整合與使用以建構ZTA架構，展示使用案例情境的實施結果。 參、評估分析 美國自總統發布行政命令，要求聯邦機構以導入ZTA為主要目標，並發布系列指引文件，透過常見的實施零信任架構案例說明，消除零信任設計的複雜性，協助組織運用商用技術來建立和實施可互操作、基於開放標準的零信任架構，未來可預見數位身分將成為安全新核心。 此外，NIST於2022年5月發布資安白皮書－規劃零信任架構：聯邦管理員指引[4] ，描繪NIST風險管理框架（Risk Management Framework, RMF）逐步融合零信任架構的過程，幫助聯邦系統管理員和操作員在設計和實施零信任架構時使用RMF。 我國企業若有與美國地區業務往來者，或欲降低遠端應用的安全風險者，宜參考以上標準文件與實務指引，以建立、推動和落實零信任架構，降低攻擊者在環境中橫向移動和提升權限的能力，與保護組織重要資源。 [1] Implementing a Zero Trust Architecture, NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY, https://www.nccoe.nist.gov/projects/implementing-zero-trust-architecture (last visited Aug. 22, 2022). [2] Executive Order on Improving the Nation’s Cybersecurity, THE WHITE HOUSE, https://www.whitehouse.gov/briefing-room/presidential-actions/2021/05/12/executive-order-on-improving-the-nations-cybersecurity (last visited Aug. 22, 2022). [3] SP 800-207- Zero Trust Architecture, NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY, https://csrc.nist.gov/publications/detail/sp/800-207/final (last visited Aug. 22, 2022). [4] NIST Releases Cybersecurity White Paper: Planning for a Zero Trust Architecture, NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY, https://csrc.nist.gov/News/2022/planning-for-a-zero-trust-architecture-white-paper (last visited Aug. 22, 2022).