英國資訊委員辦公室提出人工智慧(AI)稽核框架

  人工智慧(Artificial Intelligence, AI)的應用,已逐漸滲透到日常生活各領域中。為提升AI運用之效益,減少AI對個人與社會帶來之負面衝擊,英國資訊委員辦公室(Information Commissioner’s Office, ICO)於2019年3月提出「AI稽核框架」(Auditing Framework for Artificial Intelligence),作為確保AI應用合乎規範要求的方法論,並藉機引導公務機關和企業組織,評估與管理AI應用對資料保護之風險,進而建構一個可信賴的AI應用環境。

  AI稽核框架主要由二大面向所構成—「治理與可歸責性」(governance and accountability)以及「AI特定風險領域」(AI-specific risk areas)。「治理與可歸責性」面向,係就公務機關和企業組織,應採取措施以遵循資料保護規範要求的角度切入,提出八項稽核重點,包括:風險偏好(risk appetite)、設計階段納入資料保護及透過預設保護資料(data protection by design and by default)、領導管理與監督(leadership management and oversight)、政策與程序(policies and procedures)、管理與通報架構(management and reporting structures)、文書作業與稽核紀錄(documentation and audit trails)、遵循與確保能力(compliance and assurance capabilities)、教育訓練與意識(training and awareness)。

  「AI特定風險領域」面向,則是ICO特別針對AI,盤點下列八項潛在的資料保護風險,作為風險管理之關注重點:

一、 資料側寫之公平性與透明性(fairness and transparency in profiling);

二、 準確性(accuracy):包含AI開發過程中資料使用之準確性,以及應用AI所衍生資料之準確性;

三、 完全自動化決策模型(fully automated decision making models):涉及人類介入AI決策之程度,歐盟一般資料保護規則(General Data Protection Regulation, GDPR)原則上禁止無人為介入的單純自動化決策;

四、 安全性與網路(security and cyber):包括AI測試、委外處理資料、資料重新識別等風險;

五、 權衡(trade-offs):不同規範原則之間的取捨,如隱私保護與資料準確性;

六、 資料最少化與目的限制(data minimization and purpose limitation);

七、 資料當事人之權利行使(exercise of rights);

八、 對廣泛公共利益和權利之衝擊(impact on broader public interests and rights)。

  ICO將持續就前述AI特定風險領域,進行更深入的分析,並開放公眾討論,未來亦將提供相關技術和組織上之控制措施,供公務機關及企業組織進行稽核實務時之參考。

相關連結
你可能會想參加
※ 英國資訊委員辦公室提出人工智慧(AI)稽核框架, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&i=72&d=8249&lv2=72 (最後瀏覽日:2025/07/07)
引註此篇文章
你可能還會想看
從日本農業數據協作平台WAGRI擴建為智慧食物鏈歷程談因應疫情之智慧化措施

從日本農業數據協作平台WAGRI擴建為智慧食物鏈歷程談因應疫情之智慧化措施 資訊工業策進會科技法律研究所 劉宥妤 副法律研究員 2020年10月8日 壹、前言   我國近年積極發展智慧農業,一般農企業或農民發展智慧化過程中,面臨高額的設備建置、維護成本使其卻步,因此創設新的農業數據流通運用商業模式將能降低智慧化門檻,成為智慧農業普及落地之關鍵。本文將研析與我國農情相近之日本推動智慧農業數據流通運用之策略,作為我國智慧農業發展之借鏡。   日本與我國同樣面臨從事農業者高齡少子化以致後繼無人,日本政府於2016年提出Society 5.0概念,期待以資通訊(Information and Communication Technology,ICT)技術帶動發展社會各個領域[1],於農業領域利用農業ICT可使資深農民內隱知識成為外顯化數據而利於經驗傳承。   日本當時民間企業已有開發眾多ICT系統服務技術,不同業者因未進行合作,其提供的系統服務互不相容,ICT系統服務產出之數據格式、標準不一;另一方面,公部門(研究、行政機關)內的資料亦各自分散管理。為促進農業數據整合管理、流通運用,日本農業數據協作平台(WAGRI[2])因而催生。 貳、日本農業數據協作平台WAGRI發展歷程 一、日本首相指示建構數據平台   日本政府於2017年3月24日召開第6回「未來投資會議[3]」,作為主席之首相安倍晉三提到:為了能栽培出安心可口的作物,官方、民間應互相拿出作物生長狀況、氣候、地圖等更新資料,並且於2017年年中建構無論任何人均可簡易利用的資訊協作平台,必要數據須完全公開,交由IT綜合戰略本部[4]將前述平台規劃具體化。   於2017年6月9日召開的第10次未來投資會議中,公布「未來投資戰略2017[5]」,以實現「Society 5.0」為目標,其中提到於農、林、水產業領域,奠基於公部門保有之農業、地圖、氣象等公開化資訊,能夠共有活用各種數據的「日本農業數據協作平台(下稱WAGRI)」將於2017年開始建構。 二、WAGRI試營運   WAGRI由內閣府「策略性創新創造計畫(Strategic Innovation Promotion Program,SIP)」第1期計畫11個課題之一「次世代農林水產業創造技術」[6]支持(管理法人為農研機構[NARO][7]),由慶應義塾大學SFC研究所[8]建置,與參與SIP研究計畫聯盟,包括農業生產法人、農機製造商、ICT供應商、大學與研究機關等(例如日本IT企業NTT [Nippon Telegraph and Telephone Corporation]、富士通[Fujitsu Limited];農機大廠久保田[Kubota Corporation]、洋馬[Yanmar Holdings Co., Ltd.][9])共23個組織一同建置,具備「合作」(打破不同系統隔閡使數據得以相容互換)、「共有」(數據由提供者選定分享方式得以促成數據交換利用商業模式建立)、「提供」(由公私部門提供土壤、氣象等數據得以促成數據取得和後續流通)三大功能之WAGRI,試營使用時已有實作案例指出,活用WAGRI後在數據蒐集與利用上的勞力與時間成本明顯縮減[10]。 三、WAGRI自主營運   2019年4月以農研機構(NARO)為營運主體,正式營運開始原本由SIP計畫支援,轉由農研機構(NARO)正式營運。   今(2020)年4月更新WAGRI平台利用資訊自主營運後,原先不收費方式已變更,欲利用WAGRI之機關依據以下兩種利用平台方式,須繳納不同的費用[11]: 1. 數據利用者(利用WAGRI數據者)、數據利用暨提供者(利用WAGRI數據且提供數據予WAGRI者) 平台利用月費5萬日圓 若利用有償數據時,須另外支付數據使用費 2. 數據提供者(提供數據予WAGRI者) 平台利用月費3萬日圓 但書:若僅提供之數據屬於無償者,原則上不需要繳納平台利用費 參、因應疫情WAGRI擴散之應用   日本SIP第2期計畫12個課題之一「智慧生物產業與農業基礎技術[12]」所支持的「智慧食物鏈聯盟[13]」,將擴張SIP第1期計畫所建置之WAGRI,建構智慧食物鏈平台(簡稱WAGRI-dev),智慧食物鏈聯盟主要任務為建構智慧食物鏈(預計於2025年開始商業化服務),促使食物的加工、流通、銷售、出口相關數據可相互運用,以作為日本生鮮物流之基礎,將架構於WAGRI之基礎擴建為WAGRI-dev。   為因應疫情,今(2020)年4月7日聯合國糧農組織(Food and Agriculture Organization of the United Nations,FAO)和世界衛生組織(World Health Organization,WHO)聯合發佈「針對食品安全監管部門防控新型冠狀病毒肺炎(COVID-19)與食品安全的臨時指南[14]」,由日本SIP計畫課題「智慧生物產業與農業基礎技術」之智慧食物鏈聯盟,基於前述指南制定「新冠肺炎(COVID-19)對應指針」;同樣作為前述課題一環的「日本食品指針協作系統(簡稱WAGRI.info)」[15]為因應疫情而產出相對應的應用。   WAGRI.info,於7月13日開放網站受理食品、農產品相關業者進行食安登錄,不限於符合新冠肺炎對應指針,符合既有之品質・安全管理指針(例如:危害分析重要管制點[Hazard Analysis and Critical Control Points,HACCP])等即可申請登錄,並具備企業檢索功能供一般大眾使用。   WAGRI.info為WAGRI-dev之一環,未來將陸續添加多樣數據協作機能、防止數據竄改與不法入侵等措施。日本政府從原本期待藉由擴張WAGRI打造出從生產,以至加工、流通、銷售、出口等,建構一世界首度智慧食物鏈之外,因應疫情增加相關機能以建構食安資訊網。   我國亦有智慧農業數據相關平台提供OPEN DATA介接功能[16]、開發食安溯源整合應用系統,提供校園午餐食材流向資料,日本WAGRI整合與共享數據的模式可作為我國發展智慧農業活用數據之借鏡外,WAGRI.info之作法亦可供國內因應疫情之食安政策參考。 [1]〈科学技術基本計画〉,內閣府網站,https://www8.cao.go.jp/cstp/kihonkeikaku/index5.html(最後瀏覽日:2020/10/08)。 [2]WAGRI代表的是作為一數據平台 ,由各式的數據與服務連環成一個輪,調和各個社群、促進「和」諧,期待引領農業領域之創新,由WA+AGRI組合而成(WA是和的日文+農業AGRI),WAGRI網站,https://wagri.net/ja-jp/(最後瀏覽日:2020/10/08)。 [3]作為日本政府實施經濟政策與實現成長戰略之指揮總部所設置的日本經濟再生本部,從2016年起約每月召開「未來投資會議」,討論成長戰略與加速社會結構改革以擴大對未來之投資。〈日本経済再生本部〉,首相官邸網站,http://www.kantei.go.jp/jp/singi/keizaisaisei/(最後瀏覽日:2020/10/08)。 [4]日本政府積極展開推動活用IT科技做為解決各領域社會議題之手段,從2000年日本施行IT基本法(高度情報通信ネットワーク社会形成基本法),於隔年依法設立IT戰略本部(高度情報通信網路社会推進戦略本部),2013年依據政府CIO(Government Chief Information Officer)法於内閣官房設立「內閣資訊技術政策局局長(内閣情報通信政策監,簡稱政府CIO)」,IT戰略本部與政府CIO統整為IT綜合戰略本部(高度情報通信ネットワーク社会推進戦略本部,IT総合戦略本部),以迅速推動促成高度資通網路社會的重點政策,打破省廳的縱向斷層,整個政府橫向串聯。〈高度情報通信ネットワーク社会推進戦略本部(IT総合戦略本部)〉,首相官邸網站,https://www.kantei.go.jp/jp/singi/it2/,(最後瀏覽日:2020/10/08)。 [5]許祐寧,〈日本首相官邸舉行第10次未來投資會議,提出日本「未來投資戰略2017」以實現「Society 5.0」為目標〉,資策會科法所網站,2017/08,https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&i=72&d=7844(最後瀏覽日:2020/10/08)。 [6]內閣府聚焦「Society 5.0」重要課題,結合未來投資會議施政重點領域,編列年度科技預算,創設並推動「策略性創新創造計畫(戦略的イノベーション創造プログラム,Strategic Innovation Promotion Program,SIP),SIP第1期計畫為2014年度到2018年度共5年期的計畫。〈戦略的イノベーション創造プログラム(SIP:エスアイピー)〉,內閣府網站,https://www8.cao.go.jp/cstp/gaiyo/sip/index.html(最後瀏覽日:2020/10/08);邱錦田(2017),<日本實現超智慧社會(社會5.0)之科技創新策略>,國家實驗研究院網站,https://portal.stpi.narl.org.tw/index/article/10358(最後瀏覽日:2020/10/08)。 [7]農研機構,日本國立研究開發法人農業・食品產業技術綜合研究機構The National Agriculture and Food Research Organization,簡稱NARO。 [8]位於慶應義塾大學湘南藤澤校區的政策・媒體研究科、綜合政策學系、環境情報學系的附屬研究所,簡稱SFC研究所,為推動日本智農發展之重要學研單位,任職於該所教授神成淳司為WAGRI研究負責人,同時身為內閣官房副政府CIO、IT綜合戰略室長代理,促成「農業情報創成·流通促進戰略」產出,亦身兼WAGRI協議會會長、NARO 農業共通資訊總監之角色,促成WAGRI與日本智慧農業實證計畫串接,其為日本政府推動農業數據流通之重要角色,促進日本智農發展不餘餘力。SFC研究所網站,https://www.kri.sfc.keio.ac.jp/(最後瀏覽日:2020/10/08)。 [9]IoTNEWS,〈マイクロソフト、産官学連携で構築する「農業データ連携基盤」でMicrosoft Azureを活用したデジタル農業を実現〉,2017/05/15,https://iotnews.jp/archives/56366(最後瀏覽日:2020/10/08)。 [10]神成淳司,〈ICTが社会を変える : 農業データ連携基盤の展開と未来図〉,《技術と普及 : 全国農業改良普及職員協議会機関誌》, 12月號,頁24-26(2017);農林水産省技術政策室,〈農業データ連携基盤の構築について〉,2018/09,http://www.affrc.maff.go.jp/docs/smart_agri_pro/attach/pdf/smart_agri_pro-15.pdf (最後瀏覽日:2020/10/08)。 [11]〈農業データ連携基盤(WAGRI)の2019年度以降の利用について〉,2019/4/2,農研機構網站,https://www.naro.affrc.go.jp/project/research_activities/laboratory/rcait/130311.html(最後瀏覽日:2020/10/08);〈農業データ連携基盤(WAGRI)利用申請〉,農研機構網站https://www.naro.affrc.go.jp/laboratory/rcait/wagri(最後瀏覽日:2020/10/08)。 [12]同註6,SIP第2期計畫為2017年度末到2022年度共約5年期的計畫。 [13]智慧食物鏈之建構為該課題的主要研究之一,智慧食物鏈聯盟成員包括:由内閣官房、内閣府、農林水產省等政府組織作為觀察員,由地方自治體、學術研究機關、農業生產法人、批發市場、中盤商、物流業、零售業、製造商、ICT供應商等超過70個組織參與(聯盟代表為慶應義塾大學SFC研究所),參註13;〈「SIP第2期 「スマートバイオ産業・農業基盤技術」シンポジウム2020 -新たなスマートフードチェーンの構築をめざして-」〉,2020/03/10,WAGRI網站,https://wagri.net/ja-jp/News/generalnews/2020/20200310(最後瀏覽日:2020/10/08)。 [14]See FOOD AND AGRICULTURE ORGANIZASTION OF THE UNITED NATIONS [FAO], COVID-19 and Food Safety: Guidance for Food Businesses: Interim guidance (Apr. 7, 2020), http://www.fao.org/family-farming/detail/en/c/1275311/(last visited Oct. 8, 2020).〈聯合國糧農組織和世界衛生組織聯合發佈針對食品安全監管部門防控新冠肺炎(COVID-19)與食品安全臨時指南〉,中國大陸檢驗檢疫科學研究院網站,http://www.caiq.org.cn/kydt/902625.shtml(最後瀏覽日:2020/10/08)。 [15]WAGRI.info 事務局,〈「WAGRI.info(食品ガイドライン連携システム)」のWEBサイト開設、事業者登録受け付け開始〉,2020/07/13,https://kyodonewsprwire.jp/release/202007131927(最後瀏覽日:2020/10/08);日本食品指針協作系統WAGRI.info網站,https://www.wagri.info/(最後瀏覽日:2020/10/08)。 [16]智慧農業共通資訊平台網站,https://agriinfo.tari.gov.tw/(最後瀏覽日:2020/10/08);〈智慧農業4.0共通資訊平台建置(第二期)成果發表會〉,2019/12/12,智慧農業網站,https://www.intelligentagri.com.tw/xmdoc/cont?xsmsid=0J141518566276623429&sid=0J338358950611186512(最後瀏覽日:2020/10/08)。

法國科學家現正積極研究奈米碳管的毒性評估方式

  法國國家研究會議﹙French National Research Council﹙CNRS﹚﹚的科學家,過去三年持續投入奈米碳管的毒性研究,包括奈米管在環境中所引起的污染反應、其對人體的危害,以及如何以較清潔的方式從事奈米碳管的生產製造。這個研究計畫將側重於目前常為產業利用的各式奈米管。   目前,奈米碳管在全球的製造量高達每年數百噸之譜。優越的機械及電子性能,促使奈米碳管被大量運用在平面螢幕及汽車產業當中,甚至利用在運動產品之上。然而,除了擴增的應用領域之外,其對人體健康及環境的影響迄今尚未受到重視。使用奈米管的物質通常被當做一般廢棄物來處理,就其對於環境的影響,人們更是一無所知。   法國CNRS的科學家希望能夠釐清這樣的問題。目前,研究人員的觀察重點將在奈米碳管如何影響水生環境﹙aquatic environments﹚,以及兩棲生物在奈米管流佈的環境中如何生存及反應。此外,科學家們同時觀察奈米材料如何影響人體健康:他們正在觀察及研究巨嗜球﹙macrophage cells﹚如何與奈米碳管互動,以及在這種暴露環境下,實驗用鼠的肺部是否會產生發炎症狀。經由初步的實驗,科學家們發現人體會將奈米管視為異物,進而引發發炎反應。   接下來,CNRS會進一步研究如何以更清潔且對環境友善的方式來製造奈米管。

精神衛生法強制住院侵害身心障礙者自由權-身心障礙者權利公約初次國家報告國際審查

  本文從我國身心障礙者權利公約(以下簡稱身權公約)初次國家報告國際審查結論性意見中,精神衛生法強制住院違反公約規定的評價出發,盤點身權公約對身心障礙者人身自由保護之規範內容,並將其與我國精神衛生法相關規定比較,認為現行規定及研擬中的修法方向皆確有違反身權公約之嫌。本文最後建議,在國際人權公約逐步完成內國法化程序的背景下,我國科學與科技相關法制例修法時,應注重相關人權公約的規範。

歐盟議會發布《可信賴人工智慧倫理準則》

  2019年4月9日,歐盟議會發布《可信賴人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI)。此次內容大致延續歐盟人工智慧高階專家小組(High-level Expert Group on Artificial Intelligence)於2018年12月18日發布的《可信賴人工智慧倫理準則草案》(Draft Ethics Guidelines for Trustworthy Artificial Intelligence)之內容,要求人工智慧須遵守行善(do good)、不作惡(do no harm)、保護人類(preserve human Agency)、公平(be fair)與公開透明(operate transparency)等倫理原則;並在4月9日發布的正式內容中更加具體描述可信賴的人工智慧的具體要件,共計七面向概述如下: 人類自主性和監控(Human agency and oversight):AI係為強化人類能力而存在,使人類使用者能夠做出更明智的決策並培養自身的基礎能力。同時,AI應有相關監控機制以確保AI系統不會侵害人類自主性或是引發其他負面效果。本準則建議,監控機制應可透過人機混合(一種整合人工智慧與人類協作的系統,例如human-in-the-loop, human-on-the-loop, and human-in-command)的操作方法來實現。 技術穩健性和安全性(Technical Robustness and safety):為防止損害擴張與確保損害最小化,AI系統除需具備準確性、可靠性和可重複性等技術特質,同時也需在出現問題前訂定完善的備援計劃。 隱私和資料治理(Privacy and data governance):除了確保充分尊重隱私和資料保護之外,還必須確保適當的資料治理機制,同時考慮到資料的品質和完整性,並確保合法近用資料為可行。 透明度(Transparency):資料、系統和AI的商業模型應該是透明的。可追溯性機制(Traceability mechanisms)有助於實現這一目標。此外,應以利害關係人能夠理解的方式解釋AI系統的邏輯及運作模式。人類參與者和使用者需要意識到他們正在與AI系統進行互動,並且必須了解AI系統的功能和限制。 保持多樣性、不歧視和公平(Diversity, non-discrimination and fairness):AI不公平的偏見可能會加劇對弱勢群體的偏見和歧視,導致邊緣化現象更為嚴重。為避免此種情況,AI系統應該設計為所有人皆可以近用,達成使用者多樣性的目標。 社會和環境福祉(Societal and environmental well-being):AI應該使包含我們的後代在內的所有人類受益。因此AI必須兼顧永續發展、環境友善,並能提供正向的社會影響。  問責制(Accountability):應建立機制以妥當處理AI所導致的結果的責任歸屬,演算法的可審計性(Auditability)為關鍵。此外,應確保補救措施為無障礙設計。

TOP