美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」
美國國家標準暨技術研究院（National Institute of Standard and Technology, NIST）2024年7月26日發布「人工智慧風險管理框架：生成式AI概況」（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），補充2023年1月發布的AI風險管理框架，協助組織識別生成式AI（Generative AI, GAI）可能引發的風險，並提出風險管理行動。GAI特有或加劇的12項主要風險包括：
1.化學、生物、放射性物質或核武器（chemical, biological, radiological and nuclear materials and agents, CBRN）之資訊或能力：GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術，以設計、開發、生產、使用CBRN。
2.虛假內容：GAI在回應輸入內容時，常自信地呈現錯誤或虛假內容，包括在同一情境下產出自相矛盾的內容。
3.危險、暴力或仇恨內容：GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容，或美化暴力內容。
4.資料隱私：GAI訓練時需要大量資料，包括個人資料，可能產生透明度、個人資料自主權、資料違法目的外利用等風險。
5.環境影響：訓練、維護和運行GAI系統需使用大量能源而影響碳排放。
6.偏見或同質化（homogenization）：GAI可能加劇對個人、群體或社會的偏見或刻板印象，例如要求生成醫生、律師或CEO圖像時，產出女性、少數族群或身障人士的比例較低。
7.人機互動：可能涉及系統與人類互動不良的風險，包括過度依賴GAI系統，或誤認GAI內容品質比其他來源內容品質更佳。
8.資訊完整性：GAI可能無意間擴大傳播虛假、不準確或誤導性內容，從而破壞資訊完整性，降低公眾對真實或有效資訊的信任。
9.資訊安全：可能降低攻擊門檻、更輕易實現自動化攻擊，或幫助發現新的資安風險，擴大可攻擊範圍。
10.智慧財產權：若GAI訓練資料中含有受著作權保護的資料，可能導致侵權，或在未經授權的情況下使用或假冒個人身分、肖像或聲音。
11.淫穢、貶低或虐待性內容：可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加，進而造成隱私、心理、情感，甚至身體上傷害。
12.價值鏈和組件整合（component integration）：購買資料集、訓練模型和軟體庫等第三方零組件時，若零組件未從適當途徑取得或未經妥善審查，可能導致下游使用者資訊不透明或難以問責。
為解決前述12項風險，本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議，期能有助組織緩解並降低GAI的潛在危害。
許嘉芳
法律研究員 編譯整理
NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY [NIST], NIST-AI-600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, July 26, 2024, https://www.nist.gov/itl/ai-risk-management-framework (last visited Sept. 13, 2024).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
有鑒於智慧聯網IoT環境下，許多智慧型手持裝置及行動通訊裝置，大量蒐集消費者資訊之隱私權暨資訊安全考量，美國國會於2013年5月10日提出「應用軟體隱私暨資訊安全保護法草案」（Application Privacy, Protection, and Security Act of 2013, APPS Act of 2013, H.R. 1913）進行審議。「應用軟體隱私暨資訊安全保護法草案」草案針對應用軟體（Application）在蒐集消費者資訊前，如何落實「同意」機制，乃強制行動通訊裝置應用軟體開發商（developer）應：（1）提供使用者個人資料蒐集、使用、儲存及公開之通知（notice），而該通知含括所蒐集個人資料之種類、使用目的、有償公開第三者之類別及資料儲存等；（2）取得使用者之同意（consent）；消費者依據該草案亦有權撤銷其「同意」（withdrawal of consent）。此外，草案乃強制要求該行動通訊裝置應用軟體開發商，就非法近取之個人資料及經去識別化應用軟體蒐集之個人資料，應採取合理及適當之防衛措施（security measures on personal data and de-identified data）。 並且，針對網路環境下隱私權保護議題，更早之前，美國國會於2013年2月28日提出「線上禁止追蹤法草案」（Do-Not-Track Online Act of 2013） 進行審議。「線上禁止追蹤法草案」草案乃要求聯邦貿易委員會（FTC），就透過個人線上活動追蹤，以蒐集、使用個人資料之行為態樣，進行管制。該管制模式謹據以要求如下：（1）被搜集資料個人應收到簡單、明確、並載明資料使用目的之通知（clear, conspicuous and accurate notice and use of such information），而個人就該通知應予明白之同意（affirmative consent）；（2）FTC未來在訂定標準規範時，應（shall）考量所被搜集之資料，是否在匿（隱）名基礎上處理之，遂該資料無法有效被聯結（指認）到特定個人或裝置上；此外，消費者當享有資料不被蒐集的權利（expressed preference by individual not to have personal information collected）。該草案並就違反之個人，設定最高15,000,000美元損害賠償規定。
簡析歐盟「能源效率指令」-- 以建築能源效率為核心 FCC公佈第三次美國寬頻測量報告延續過去兩年針對全國寬頻網路服務進行檢視，FCC在2013年2月公布第三次「美國寬頻測量報告」(Measuring Broadband America)。這份報告有別於過去，將受測技術從DSL、有線電視與光纖，涵蓋至衛星寬頻，使資訊更加多元。此外，網路服務供應商(Internet Service Provider，ISP)在今年尖峰時段(工作日晚間7點至9點)提供寬頻實際速度與網速的契合率達97%，而較2011、2012年進步，因此，這份報告的另一個重點，便是提出寬頻速度與廣告相符的三大關鍵： 1.ISP業者盡力改善網路效能(Network Performance)，而非調降牌告價(Speed Tiers )。 2.民眾接納更快速的網路意願，更甚過往。FCC指出，消費者訂閱網速的層級，逐漸從每秒14.3Mbps ，發展至15.6 Mbps。至於，使用網速低於1Mbps、或是1Mbps到3Mbps的民眾，近年也逐步採用更高速的網路。 3.衛星寬頻的進步：雖然，衛星技術在傳輸上仍有延遲的缺陷，但是，有近90%的民眾於尖峰時段，得到超過業者寬頻廣告速度的140%(業者宣稱具有12Mbps)，使消費者感受不出網路尖峰期。 為使2015年實現50Mbps寬頻網路具有1億家戶可連結，美國逐步發展國家寬頻計畫(National Broadband Plan，NBP)。FCC避免寬頻廣告速度與實際速度不符影響NBP發展，未來將要求ISP業者對於網路牌告負起責任(Accountability)，藉此增加市場競爭性與提高資訊透明度。以「美國寬頻測量報告」為例，藉由委員會、產業與其他利益相關人合作的方式，促進資訊的透明，使消費者在取得訊息後，有能力做出正確的決定，便是一種提高透明度的方式。 雖然，FCC認為寬頻網路進步與民眾採納較高速的網路，對於市場發展是一項利多，但部分輿論卻認為這與2011年12月31日FCC網路接取報告(Internet Access Report)結論相距甚遠。根據報告顯示，美國有高達42%的民眾下載速度不到3 Mbps、上傳速度不到769 kbps，而這與「美國寬頻測量報告」結果，確實大相逕庭。無論如何，可以窺見FCC視民眾使用意願與網路基礎建設同等重要，因此，如何增加消費者選擇較高速的網路，將是市場未來發展的關鍵。
Serenex控訴員工竊取癌症新藥商業機密資料美國公司Serenex，指控兩位離職的舊員工，竊取實驗用癌症藥物，並賣給中國公司。Serenex控訴先前聘僱的化學家黃雲生是國際商業間諜，黃雲生偷竊Serenex的商業機密，並用偷來的資料來提供給海外尋找專利的公司。員工竊取機密已經是個日趨嚴重的問題，尤其是對全球型的企業，以及智慧財產為主的公司。 Serenex擁有30個員工，目前正進行實驗性癌症藥物的人體測試。根據報告Serenex自2001年設立後，所募得的風險資本已從2千6百萬美元提升至8千1百萬美元。為此，Serenex在威克高等法院提起訴訟，同時也將北京國藥龍立科技公司、基爾生物科技公司以及負責人Tongxiang Zhang列為被告。 Serenex的律師Jonathan Sasser表示，Serenex以提出訴訟的方式來保護他們的產品，並且希望調查是被百分之百確信，沒有人會去提出偽造的主張，並在起訴書上陳述，黃雲生在竊取機密後，Serenex於二月時將他解雇，但是黃雲生的律師Walter Schmidlin抗辯說明黃雲生自願離職，並且否認有做任何不法情事。Schmidlin同時表示Serenex並不能提出任何證據證明黃雲生拿了商業機密資料。