美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。

  依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。

  依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。

  此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。

  最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8727&no=67&tp=1 (最後瀏覽日:2026/11/22)
引註此篇文章
你可能還會想看
中國大陸重新開放電子遊戲遊藝設備生產銷售

中國大陸重新開放電子遊戲遊藝設備生產銷售 科技法律研究所 專案經理 劉得正 法律研究員 丘瀚文 104年08月03日   在2000年中國大陸國務院發布「國務院辦公廳轉發文化部等部門關於開展電子遊戲經營場所專項治理意見的通知」禁止遊戲遊藝設備在陸進行銷售、流通以來,歷經15年黑暗期後,終於在2015年6月24日中國大陸文化部發佈「文化部關於允許內外資企業從事遊戲遊藝設備生產和銷售的通知」重新開放電子遊戲遊藝設備生產銷售後,迎來主機遊戲產業復甦的曙光。以下本文將簡介中國大陸對於遊戲遊藝設備的規範歷程,以及本次開放重點: 一、2000年-中國大陸全面管制電子遊戲經營場所與遊戲遊藝設備   中國大陸國務院2000年發布「國務院辦公廳轉發文化部等部門關於開展電子遊戲經營場所專項治理意見的通知」起,明白表示自通知發布之日起:1.禁止新設電子遊戲經營場所;2.現有電子遊戲經營場不得增添或更新任何類型電子遊戲遊藝設備;3.除加工出口外,嚴格限制任何電子遊戲遊藝設備及其零、附件生産、銷售。自此宣示中國大陸境內,不論任何企業或個人,均不得從事境內之電子遊戲裝置及零件生產、銷售活動,以避免傷害社會秩序以及妨礙青少年身心發展成長,此一禁令造成家用主機的販售進入地下化,水貨主機與盜版遊充斥市場。 二、2013年-上海自貿區區域開放電子遊戲遊藝設備生產銷售   在主機遊戲產業因上述禁令進入黑暗期的同時,中國大陸數位遊戲市場結構產生了莫大變化。頁遊、手遊取代了主機遊戲成為市場主流,而伴隨著中國官方對外國遊戲內容審批的嚴格落實,中國大陸本地遊戲開發商逐漸累積了開發遊戲的經驗與能力。有論者認為[1],現今本地商已具備相當實力進入主機遊戲開發市場,而此也成為中國大陸重新開放遊戲遊藝設備生產銷售的契機。從而,在2013年9月、12月分別發佈的「中國(上海)自由貿易試驗區總體方案」與「國務院關於在中國(上海)自由貿易試驗區內暫時調整有關行政法規和國務院檔規定的行政審批或者准入特別管理措施的決定」規範下,自由貿易區內暫時停止實施關於電子遊戲遊藝設備相關禁止規定。至此,自由貿易區內遊戲遊藝設備銷售、生產已完全開放。 三、2015年6月-全面開放電子遊戲遊藝設備生產銷售   在2013年於上海自貿區開放試點後,微軟、索尼便先後與大陸本地公司合資於上海設立公司,並在歷經2年試行下,如今中國大陸文化部於今(2015)年6月24日發佈「文化部關於允許內外資企業從事遊戲遊藝設備生產和銷售的通知」,正式全面重新開放電子遊戲遊藝設備,以下簡介規範重點: (一)規範廣泛適用於各類遊戲遊藝設備(街機、家用主機、掌機)   遊戲遊藝設備定義指通過專用設備向消費者提供遊戲內容和遊戲過程的電子、機械類裝置,包括營業場所使用的電子遊戲遊藝設備、與電視接收機設備配套使用的電子遊戲遊藝設備及手持類電子遊戲遊藝設備等。 (二)遊戲內容主題仍有限制   儘管對於主機已為開放,中國大陸仍不改以往作法的是,對於內容仍持高度管制的態度。配合此次主機開放,文化部另行制定了「遊戲遊藝設備內容審核管理辦法」,禁止違反善良風俗、煽動民族仇恨、破壞國家安全[2]以及賭博性遊戲[3]內容發行,違反者則由省級文化行政部門責令改正,未改正的,由省級文化行政部門將其列入文化市場經營異常名單。 (三)審批決定原則由省級部門於受理申請20日內作成   對應前述內容限制,遊戲遊藝設備內容審核管理辦法便規定由省級文化行政部門負責遊戲遊藝設備內容審核工作,並應在行政審批服務大廳及有關政務網站,公佈遊戲遊藝設備內容審核的法規依據、實施機關、審核條件、審核程式、審核時限、聯繫方式等資訊服務。   省級文化行政部門自受理申請日[4]起20日應作出決定,審核通過者,即可獲得「遊戲遊藝設備內容審核批准單」,並可向全國銷售遊戲遊藝設備,異地之文化行政部門不可重複審核。內容之審核,省級文化部門可自行由公安、文化部門、行業專家、協會組織評審專家委員會審核。若對內容難以界定者,可向文化部申請覆審,覆審期間不列入20日之計算。 (四)強制建立遊戲內容自我審查制度   遊戲遊藝產業應建立遊戲內容自我審查制度,並加強對審核人員培訓。從事遊戲遊藝設備生產和銷售的內外資企業,未建立內容自審制度者,省級文化行政部門可以將其列入文化市場經營異常名錄。 四、結論-對於台灣業者的挑戰   管制鬆綁對於業者多半可解讀為利多,然此次電子遊戲遊藝設備的開放,對於台灣業者乃至於全球各地遊戲業者而言,是否等同開啟前進中國遊戲市場的大門,仍有待進一步觀察: (一)直接受惠者非屬台灣業者擅長之主機遊戲   主機遊戲市場長期受到微軟、任天堂、索尼三大主機開發商所把持,台灣業者除非具備主機遊戲的開發能力並調整遊戲開發方向,否則難以從中直接獲利。 (二)主機開發商仍須與中國本地公司合作   自上海自貿區開放遊戲主機生產銷售以來,微軟、索尼進入中國市場便是採合資模式。之所以如此,主要在於網路服務仍屬高度管制業務,須取得資料中心業務和機上盒業務等牌照。回顧近十年遊戲產業發展,未具備連線功能的單機版遊戲已逐漸式微,取而代之的是搭配社群服務乃至於線上對戰功能之連線遊戲,而本次開放按照「遊戲遊藝設備內容審核管理辦法」第六條第二項規定,涉及網路下載和網路服務功能者,該遊戲產品仍應通過「網絡遊戲管理暫行辦法」內容審查或者備案。故外資主機開發商策略上仍須與中國本地網路服務業者合作,以確保主機功能與遊戲內容得以完整。某種程度上,也給予中國本地業者學習主機遊戲開發、經營的空間與機會。 (三)主機遊戲審批程序得否落實有待實證研究   按照本次遊戲遊藝設備內容審核管理辦法規定,即便遊戲本身並未涉及網路服務功能,仍應完成內容審核後始得上市。即使該管理辦法所規範之審核程序已縮短時限(文化行政部門自受理申請日起20日應作出決定),但仍有模糊空間,例如20日的起算係以提出申請時起算,抑或是申請文件備齊時起算。由於審查係以各省文化行政部門為主體,各地方審查作業是否能落實一致,仍有待後續的實證研究。 整體而言,本次管制鬆綁對於中國遊戲市場的發展仍具正面意義,業者可適時構思搶進市場之時點與策略作法。不過,除了評估上述規範風險外,如何改變長期以來習慣於「低價」甚至「免費」網路遊戲的中國玩家的消費習慣,商業模式的策略規劃,亦是不可忽略的根本問題。 更多中國大陸數位內容法令可參考<中國大陸數位內容法令彙編>APP Android版: https://play.google.com/store/apps/details?id=com.sdt.legal iOS版: https://itunes.apple.com/us/app/zhong-guo-da-lu-shu-wei-nei/id938015717?mt=8%20。 [1] 北京電子報,〈15年重生曙光 游戏机重返“地上”前途几何〉,2015年04月14日,http://epaper.ynet.com/html/2015-04/14/content_126904.htm?div=-1,最後瀏覽日期:2015年7月29日。 [2] 遊戲遊藝設備內容審核管理辦法第4條:「面向國內生產和銷售的遊戲遊藝設備禁止含有下列內容: (一)違反憲法確定的基本原則的; (二)危害國家統一、主權或者領土完整的; (三)危害國家安全,或者損害國家榮譽、利益的; (四)煽動民族仇恨、民族歧視,傷害民族感情或者侵害民族風俗、習慣,破壞民族團結的; (五)違反國家宗教政策,宣揚邪教、迷信的; (六)宣揚淫穢、賭博、暴力以及與毒品有關的違法犯罪活動,或者教唆犯罪的; (七)違背社會公德或者民族優秀文化傳統的; (八)侮辱、誹謗他人,侵害他人合法權益的; (九)法律、行政法規禁止的其他內容。」 [3]遊戲遊藝設備內容審核管理辦法第5條:「面向國內生產和銷售的遊戲遊藝設備的外觀、遊戲內容、遊戲方法說明應當使用我國通用語言文字,不得具有退幣、退分、退鋼珠等賭博功能。」 [4]審核條件依遊戲遊藝設備內容審核管理辦法第6條,申請人應檢附下列六款資料:(一)《遊戲遊藝設備內容審核申請表》;(二)企業營業執照影本,經營範圍應當含有遊戲遊藝設備生產或者銷售;(三)遊戲遊藝設備內設遊戲內容全過程的視頻檔或者軟體的視頻演示(DEMO)檔;(四)能夠反映產品整體外觀並與實際銷售產品一致的電子圖片。其中一張正面圖,兩張側面圖,格式統一為“*.JPG”,圖片解析度不低於1280X720;(五)遊戲遊藝設備使用的音訊檔、名稱清單和歌詞的電子文本。電子文本應當是遊戲遊藝設備中使用的全部背景音樂、歌曲的名稱清單、音訊檔和歌詞文本,如為外文歌曲須提供中外文對照文本;(六)遊戲遊藝內容中對白、旁白、描述性文字以及操作說明文本,如涉及外文的應當提交中外文對照文本。

世界經濟論壇發布《2022年全球網路安全展望》

  世界經濟論壇(World Economic Forum, WEF)於2022年1月18日發布《2022年全球網路安全展望》(Global Cybersecurity Outlook 2022),以面對因COVID-19大流行所致之遠距辦公、遠距學習、遠距醫療等新形態數位生活模式快速發展,以及日漸頻繁之具破壞性網路攻擊事件。為考量國家應優先考慮擴展數位消費工具(digital consumer tools)、培育數位人才及數位創新,本報告說明今年度網路安全發展趨勢及未來所要面對之挑戰包括如下: COVID-19使得工作習慣轉變,加快數位化步伐:約有87%企業高階管理層計畫透過加強參與及管理第三方的彈性政策、流程與標準,提高其組織的網路韌性(cyber resilience)。 企業資安長(chief information security officers, CISO)及執行長(chief executive officers, CEO)之認知差異主要有三點:(1)92%的CEO認為應將網路韌性整合到企業風險管理戰略中,惟僅55%CISO同意此一作法;(2)由於領導層對網路韌性認知差異,導致安全優先等級評估與政策制定可能產生落差;(3)缺乏網路安全人才以面對網路安全事件。 企業最擔心之三種網路攻擊方式為:勒索軟體(Ransomware attacks)、社交工程(social-engineering attacks),以及惡意內部活動。惡意內部活動係指企業組織之現任或前任員工、承包商或業務合作夥伴,以對組織產生負面影響方式濫用其關鍵資產。 憂心中小企業數位化不足:本研究中有88%之受訪者表示,擔心合作之中小企業之數位化程度不足,導致供應鏈或生態系統中使其網路韌性受阻。 網路領導者認為建立明確有效的法規範,將有助於鼓勵資訊共享與促進合作。

美國最高法院認定警方向通信業者取得嫌犯之通信之基地台位址資訊須持有搜索票

  繼2012年最高法院認為警方在無搜索令的情況下,以GPS追蹤裝置查探犯罪嫌疑人之位置資訊違反憲法第四修正案。最高法院於2017年6月5日,認為警方未持搜索票,而向電信公司取得犯罪嫌疑人過去127天共計12,898筆之行動通信基地台位置資訊(cell-site data)之行為,違反憲法第四修正案。   由於個人利用行動通訊服務時,必須透過基地台進行通訊,因而可藉由該基地台位置,得知每個人所在之區域位置,而此一通訊紀錄過去被電信公司視為一般的商業資訊,因為得知通訊基地台的位置資訊,無法直接得知個人所在的精準位置,僅能得知其概略所在地區。   因此,犯罪調查機關基於1979年 Smith v. Maryland案所建立之原則,即只要該個人資訊屬於企業的一般商業紀錄(normal business record),警方可以在無搜索令的情況下,向企業取得個人資訊, 此一原則又稱為第三方法則(third-party doctrine)。過去在地方法院或上訴法院的審理中,法院對此多持正面見解,認為只要該資料與進行中之犯罪偵查活動有實質關聯(relevant and material to an ongoing criminal investigation),警方即可向業者取得。大法官Sonia Sotomayor早在前述2012年GPS追蹤裝置案的協同意見書中表示,第三方法則不應適用在數位時代,例如用戶撥電話給客服人員,或以電子郵件回覆網路購物的賣方等,無數的日常活動已經大量的向第三方揭露許多資訊。   在數位時代,大量的個人資訊以電磁紀錄的形式掌握在第三方手中,本案最高法院的見解,將會對美國的犯罪調查機關在未持搜索令的情況下,更慎重的判斷向業者取得個人資訊做為犯罪偵查使用時,是否與憲法第四修正案有所違背。

專利戰爭:柯達告蘋果與宏達電 侵犯影像專利

  伊士曼柯達(Eastman Kodak)於1月10日向美國紐約州羅徹斯特(Rochester)聯邦法院與國際貿易委員會(ITC)提起訴訟,控告蘋果、宏達電侵犯5項有關數位相機影像處理之專利,意圖以法律訴訟作為擴大專利權價值的手段。   目前擁有超過1000項影像技術專利的131歲老店柯達,試圖出售1000多項專利權及提出專利訴訟,以挽回面臨破產邊緣的危機。柯達認為蘋果侵犯4項和數位相機影像相關專利(美國專利字號7,210,161、7,742,084、7,453,605、7,936,391),其中包含使用者可直接透過網路或e-mail傳送相機內照片的技術。而宏達電除被控侵犯上述4項專利之餘,柯達亦向國際貿易委員會申訴宏達電侵犯第5項的影像預覽技術專利(美國專利字號6,292,218),之前柯達方以該專利起訴蘋果和RIM。柯達要求蘋果立即停售侵權產品,同時支付3倍損失賠償。相關人士表示,柯達一直在尋找願意買下該公司影像專利的業者,起訴科技龍頭舉動之目的在於尋求好買家。   除此之外,柯達亦宣布進行業務重組,從3個部門合併成為2個部門,雖然對外宣稱乃為節省成本開支、盼能轉虧為盈,不過在可能破產的疑慮下,柯達內部氣氛相當低迷,出售技術專利仍無進展,加上大批主管相繼離職,過去兩周有3位董事辭職,上周四CCO(Chief Communications Officer)Gerard Meuchner宣佈離職之後,開始傳言柯達募資未成,未來數周可能就會宣布破產。

TOP