美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括: 1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。 2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。 3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。 4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。 5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。 6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。 7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。 8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。 9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。 10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。 11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。 12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。 為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。
德國立法通過反駭客法德國政府為減少官方與民間的電腦受到網路駭客的攻擊,於2007年5月正式立法通過「反駭客法(Antihacker Law)」,並藉此擴大了現行德國法律中網路犯罪的懲處範圍,從僅處罰破壞或攻擊商業或政府機關之電腦系統,擴及至破壞或攻擊個人電腦或DOS系統之犯罪。 依德國「反駭客法」之規定,凡任何個人或團體意圖非法使用而故意製造、散播或購買駭客工具(hacker tools)者,將可能被處十年以上有期徒刑。而所謂的「駭客(hacking)」在新法中則被定義為,凡是侵入電腦系統並獲取資訊者,不論是否有竊取該資訊的行為,均屬之。 上述立法結果,反對人士擔心恐將適得其反,因駭客工具的存在具有一體兩面,研發並利用駭客工具來測試電腦以及網路系統的安全性,在德國已行之有年,如果一旦加以禁止,不但無法達到預期目的,也過於輕視網路駭客者的能力;又將來持有駭客工具者,未來必須在法庭上主張係出於善意持有,亦是增加了持有者的舉證責任。該法已經於2007年8月實施。
美國政府設立Apps.gov網站推動雲端科技運用美國政府在9月15日宣布,為了減少基礎建設的相關費用以及降低政府運算系統的環境衝擊,因此設立Apps.gov網站,展示並提供經政府認可的雲端科技運用。 據美國聯邦政府CIO Vivek Kundra表示,Apps.gov網站是美國政府首度對外發表,針對減少IT花費政策的成果。目前美國政府IT預算幾乎都花費在設立資料中心,單在國家安全部下就設有23個資料中心,而這也造成了聯邦政府的資源消耗在2000年到2006年間增加了兩倍,為了落實減少基礎建設花費的政策,並基於安全性的考量,希望能夠盡量利用現有的系統。 美國政府目前推動的雲端運算倡議計劃有三個主要內容,第一個主要內容即為全新的Apps.gov網站,提供企業一個情報交換平台、社交媒介與雲端IT服務。雖然目前網站尚未完全運作,甚至還曾造成一連串的錯誤訊息,但美國政府當局仍希望該網站最終能成為一次即可滿足的服務商店(one-stop shop),可在一個平台上提供多種類的雲端運算服務。Kundra表示,美國能源部已經開始使用該網站執行部分相關業務。 該計畫的第二個重點則是預算,美國政府在2010年將會致力推動雲端運算領航計畫,並為此編列年度預算,希望能投入更多輕量的工作流程(lightweight workflows)至雲端科技的發展。而在2011年,美國政府則預計會發布相關指導準則至各機關部門。 最後,該計劃亦會配合安全性、隱私及採購等相關政策。Kundra表示,將會確保所有資料都受到完善保護。 Google創辦人之一Sergey Brin也宣佈Google將會投入部份雲端運算系統專供聯邦政府使用,此系統與Google提供給一般企業的系統相似,但會針對政府需求稍做修改。除了Google之外,Microsoft、Facebook、Salesforce.com及Vimeo等公司亦提供雲端運算服務予政府機關使用。
保護、分級與言論(下)