美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」
美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括：
1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。
2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。
3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。
4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。
5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。
6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。
7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。
8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。
9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。
10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。
11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。
12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。
為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
許嘉芳
法律研究員 編譯整理
NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY [NIST], NIST-AI-600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, July 26, 2024, https://www.nist.gov/itl/ai-risk-management-framework (last visited Sept. 13, 2024).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
歐盟理事會（Council of the European Union）於2022年5月16日正式通過了資料治理法（Data Governance Act, 簡稱DGA），本法是歐盟執委會（European Commission）於2020年11月提案，經過一年多的意見徵詢與協商，歐盟議會（European Parliament）於今（2022）年4月6日以501票贊成通過，隨後由歐盟理事會通過公布，本法預計將於2023年8月正式生效。 DGA包含幾大面向，除了針對資料中介服務（data intermediation）、資料利他主義（data altruism）、歐盟資料創新委員會（European Data Innovation Board）等機制建立的規定外，在第二章特別針對公部門所持有之特定類別資料的再利用（reuse）進行規定。當公部門持有的資料涉及第三方受特定法律保護的權利時（如涉及第三方之商業機密、智慧財產、個資等），本法規定公部門只要符合特定條件下可將此類資料提供外界申請利用；若為提供符合歐盟整體利益的服務且具有正當理由和必要性的例外情況下，得授予申請對象專有權（exclusive rights），但授權期間不得超過12個月；歐盟應以相關技術確保所提供資料之隱私和機密性。 再者，各會員國應指定現有機構或創建一個新機構擔任提供上述資料類型的單一資訊點（Single Information Point, SIP），以電子方式公開透明地提供資料清單，包含可申請利用之資料的來源及相關描述（至少包含資料格式、檔案大小、再利用的條件等），以提供中小企業、新創企業便利、可信的資料查詢管道。此外，歐盟執委會應建立一個單一近用點（Single Access Point, SAP），提供一個可搜尋公部門資料的電子登記機制（a searchable electronic register of public-sector data），讓使用者得直接搜尋各會員國單一資訊點（SIP）中所提供的資料及相關資訊。 DGA是歐盟2020年2月發布歐盟資料戰略（European Data Strategy）後的第一個立法，歐盟希望透過本法建立一套能提升資料可利用性和促進公私部門間資料共享的機制，以創造歐盟數位經濟的更高價值。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
藥品監管機構負責人組織與歐洲藥品管理局聯合巨量資料指導小組發布2021-2023年工作計畫，提高巨量資料於監管中之效用藥品監管機構負責人組織（Heads of Medicines Agencies, HMA）與歐洲藥品管理局（European Medicines Agency, EMA）聯合巨量資料指導小組（HMA-EMA joint Big Data Steering Group, BDSG）於2021年8月27日發布「巨量資料指導小組2021-2023年工作計畫」（Big Data Steering Group Workplan 2021-2023），將採以患者為焦點（patient-focused）之方法，將巨量資料整合至公衛、藥物開發與監管方法中，以提高巨量資料於監管中之效用。指導小組將利用「資料分析和真實世界訊問網路」（Data Analysis and Real World Interrogation Network, DARWIN EU）作為將真實世界資料整合至監管工作之關鍵手段； DARWIN EU諮詢委員會（Advisory Board）已於2021年建立，DARWIN EU協調中心（Coordination Centre）亦將於2022年初開始運作。 為確保資料品質與代表性，未來工作計畫將與「邁向歐洲健康資料空間–TEHDAS」（Towards A European Health Data Space – TEHDAS）合作，關注資料品質之技術與科學層面，並將於2022年提出第一版「歐洲監管網路資料品質框架」（data quality framework for the EU Regulatory Network）、「真實世界資料來源選擇標準」（criteria for the selection of RWD sources）、「詮釋資料優良規範指引」（metadata good practice guide）、「歐盟真實世界資料公用目錄」（public catalogue of European RWD）等規範。 此外，工作計畫將於2021年底舉辦「學習計劃」（learnings initiative）研討會，討論包括EMA人用藥品委員會（Committee for Medicinal Products for Human Use, CHMP）對於真實世界證據於藥品上市許可申請（Marketing Authorization Application, MAA）、適應症擴張（extensions of indications）之審查，以及過去真實世界資料分析試點於委員會之決策等議題，以利後續指引之修正。 最後，工作計畫預計於2021年底完成「健康照護資料二次使用之資料保護問與答文件」（question and answer document on data protection in the context of secondary use of healthcare data），以指導利益相關者與促進公共衛生研究，並發布由歐盟監管網路（EU Regulatory Network）同意之對於藥品監管（包括巨量資料）之資料標準化戰略。
美國知名運動鞋品牌Converse 控告31家企業商標侵權Converse 一開始僅風靡於運動員、青少年，之後甚至帶動不追求時尚的族群也認得Converse 品牌。Converse早在Nike, Reebok和Adidas等品牌鞋款充滿市場前，以橡膠鞋頭與具識別性的星星圖樣，作為美國的運動鞋品牌，風行一時。 Converse在1917年為籃球運動員製造第一雙運動鞋—All Star，之後更邀請一位極知名的籃球明星Chuck Taylor為代言人，並以其為鞋款命名，引起旋風，成為美國青少年家喻戶曉的品牌，現已於全球累計銷售十億雙。 現在，這間百年鞋類製造商表示，Chuck Taylor鞋款廣泛可被識別的核心要素—黑色條紋和橡膠鞋頭被仿冒，對此，Converse 所屬的Nike公司已於2003年請求損害賠償；復於2008年寄發180封禁止令予販售外觀類似Chuck Taylor鞋款的零售商，藉此保護品牌。然其主要目的在於使仿冒品下架，故，此次，除了於紐約對加拿大、澳洲、義大利、中國與日本等企業提起訴訟，也針對銷售其知名運動鞋款 “Chuck Taylor”仿冒品的大型零售商Wal-Mart 和Ralph Lauren 提起訴訟。另向有權禁止仿冒品進口的美國國際貿易委員會(ITC)申請禁制令，禁止進口、銷售該仿冒鞋款。 Converse 總經理表示感到相當幸運，被公認為美國的流行指標，如此舉動，目的只是在停止仿冒的侵權行為。歡迎公平競爭，但任何公司都沒有權利抄襲Chuck Taylor的商標樣式。
美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。 美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下： （1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。 （2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。 （3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。