美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括: 1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。 2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。 3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。 4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。 5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。 6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。 7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。 8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。 9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。 10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。 11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。 12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。 為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。
美國通過《地理空間資料法》,明確化地理空間資料管理美國於2018年10月5日,通過《2018年地理空間資料法》(Geospatial Data Act of 2018,下稱《GDA 2018》),並編列入《2018年美國聯邦航空總署重新授權法案》(Federal Aviation Administration Reauthorization Act of 2018)。該法是接續《2017年地理空間資料法》(Geospatial Data Act of 2017,下稱《GDA 2017》),做出進一步的調整。 《GDA 2017》的核心目標就是要根本性地重整管轄權,以順利發展「國家空間資料基礎建設」(National Spatial Data Infrastructure)。要點如下: 原先美國有許多管轄的地理空間資料旁枝機構,工作重疊性高、權責不清,《GDA 2017》指定「聯邦地理空間資料委員會」(Federal Geographic Data Committee, FGDC)作為權責機關,並管理國家空間資料資產(National Geospatial Data Asset)。 指定「國家地理空間資料諮詢委員會」(National Geospatial Advisory Committee, NGAC),提供FGDC建議並進行監督。 擴充「地理空間資料」的定義,把所有量測(Survey)和製圖(Mapping)成果解釋成地理空間資料(Geospatial Data)。 《GDA 2018》進一步提出規範,明確化地理空間資料管理: 回饋報告 要求執行與地理空間相關計畫的聯邦單位,提供年度報告;並要求聯邦地理空間資料委員會(FGDC)按《GDA 2017》所列的職責,對於所有相關單位進行評估報告。這些評估報告會提交給國家地理空間資料諮詢委員會(NGAC)寫成報告,在兩年內提供給國會。 國家空間資料基礎建設 明確設立兩個目標:第一個目標是地理空間資料的隱私管理和安全性保障;第二個目標則是建置全球空間資料基礎建設。 國家空間資料資產 希望FGDC會能夠就各個主題指定專責機構進行管理。
WTO歐盟生技產品案解析(下) 歐盟執委會公布了行動醫療(mHealth)的公眾諮詢結果行動醫療(mHealth)是近期以來歐盟積極發展的目標之一,透過各類的行動裝置搭載應用程式,藉以觀測使用者的生理狀況,進而達到促進健康之目的,特別在綠皮書(Green Paper)提出之後,對於行動醫療的推廣策略,已出現了更為清楚的脈絡。 日前,歐盟執委會針對了行動醫療將可能帶來的各類問題,進行了一次公眾諮詢(public consultation),並在2015年1月公布了調查的結果。此次受訪的對象來自於政府機關、醫療機構、病人組織與網路業者,共計有211名受訪人。在各類的問題上,有97位受訪者認為,行動醫療服務必須具備完整的隱私保全機制,才能夠獲得用戶的信任,此外也有一半的受訪者認為政府應該加強此類資料管理的執法強度;亦有近半的受訪者表示,此類應用程式都應該通過「病人安全」(patient safety)的認證。 相對而言,網路業者則認為此類服務目前還難以進入市場,因為缺乏明確的管理框架。71名受訪者也表示,行動醫療服務的安全性、成效與相關法律責任,都還有待釐清。21名受訪者也認為,行動醫療的成效究竟如何,應該還需要更多的研究證明。 而歐盟委員會將在2015年與相關團體討論未來的政策走向,此法案也將是2015年5月議程中重要的一項議題。