英國發布《AI保證介紹》指引,藉由落實AI保證以降低AI系統使用風險 資訊工業策進會科技法律研究所 2024年03月11日 人工智慧(AI)被稱作是第四次工業革命的核心,對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目,陸續推動相關發展政策與規範,如歐盟《人工智慧法》(Artificial Intelligence Act, AI Act)、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)、英國「支持創新的人工智慧監管政策白皮書」(A Pro-innovation Approach to AI Regulation)(下稱AI政策白皮書)等,各國期望發展新興技術的同時,亦能確保AI使用的安全性與公平性。 壹、事件摘要 英國科學、創新與技術部(Department for Science, Innovation and Technology,DSIT)於2024年2月12日發布《AI保證介紹》(Introduction to AI assurance)指引(下稱AI保證指引),AI保證係用於評測AI系統風險與可信度的措施,於該指引說明實施AI保證之範圍、原則與步驟,目的係為讓主管機關藉由落實AI保證,以降低AI系統使用之風險,並期望提高公眾對AI的信任。 AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定,五項原則分別為:安全、資安與穩健性(Safety, Security and Robustness)、適當的透明性與可解釋性(Appropriate Transparency and Explainability)、公平性(Fairness)、問責與治理(Accountability and Governance)以及可挑戰性 與補救措施(Contestability and Redress)。 貳、重點說明 AI保證指引內容包含:AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟,以下將重點介紹上開所列之規範內容: 一、AI保證之適用範圍: (一)、訓練資料(Training data):係指研發階段用於訓練AI的資料。 (二)、AI模型(AI models):係指模型會透過輸入的資料來學習某些指令與功能,以幫助建構模模型分析、解釋、預測或制定決策的能力,例如GPT-4。,如GPT-4。 (三)、AI系統(AI systems):係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統,可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統,其使用的AI模型為GPT-4。 (四)、廣泛的AI使用(Broader operational context):係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。 二、AI保證的三大原則:鑒於AI系統的複雜性,須建立AI保證措施的原則與方法,以使其有效執行。 (一)、衡量(Measure):收集AI系統運行的相關統計資料,包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊;以及存取與AI系統設計、管理的相關文件,以確保AI保證的有效執行。 (二)、評測(Evaluate):根據監管指引或國際標準,評測AI系統的風險與影響,找出AI系統的問題與漏洞。 (三)、溝通(Communicate):建立溝通機制,以確保主管機關間之交流,包含調查報告、AI系統的相關資料,以及與公眾的意見徵集,並將上開資訊作為主管機關監理決策之參考依據。 三、AI保證的六項措施:主管機關可依循以下措施評測、衡量AI系統的性能與安全性,以及其是否符合法律規範。 (一)、風險評估(Risk assessment):評測AI系統於研發與部署時的風險,包含偏見、資料保護和隱私風險、使用AI技術的風險,以及是否影響主管機關聲譽等問題。 (二)、演算法-影響評估(Algorithmic-impact assessment):用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。 (三)、偏差審計(Bias audit):用於評估演算法系統的輸入和輸出,以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。 (四)、合規性審計(Compliance audit):用於審查政策、法律及相關規定之遵循情形。 (五)、合規性評估(Conformity assessment):用於評估AI系統或產品上市前的性能、安全性與風險。 (六)、型式驗證(Formal verification):係指使用數學方法驗證AI系統是否滿足技術標準。 四、評測標準:以國際標準為基礎,建立、制定AI保證的共識與評測標準,評測標準應包含以下事項: (一)、基本原則與術語(Foundational and terminological):提供共享的詞彙、術語、描述與定義,以建立各界對AI之共識。 (二)、介面與架構(Interface and architecture):定義系統之通用協調標準、格式,如互通性、基礎架構、資料管理之標準等。 (三)、衡量與測試方式(Measurement and test methods):提供評測AI系統的方法與標準,如資安標準、安全性。 (四)、流程、管理與治理(Process, management, and governance):制定明確之流程、規章與管理辦法等。 (五)、產品及性能要求(Product and performance requirements):設定具體的技術標準,確保AI產品與服務係符合規範,並透過設立安全與性能標準,以達到保護消費者與使用者之目標。 五、建構AI保證的步驟(Steps to build AI assurance) (一)、考量現有的法律規範(Consider existing regulations):英國目前雖尚未針對AI制定的法律,但於AI研發、部署時仍會涉及相關法律,如英國《2018年資料保護法》(Data Protection Act 2018)等,故執行AI保證時應遵循、考量現有之法律規範。 (二)、提升主管機關的知識技能(Upskill within your organisation):主管機關應積極了解AI系統的相關知識,並預測該機關未來業務的需求。 (三)、檢視內部風險管理問題(Review internal governance and risk management):須適時的檢視主管機關內部的管理制度,機關於執行AI保證應以內部管理制度為基礎。 (四)、尋求新的監管指引(Look out for new regulatory guidance):未來主管機關將制定具體的行業指引,並規範各領域實踐AI的原則與監管措施。 (五)、考量並參與AI標準化(Consider involvement in AI standardisation):私人企業或主管機關應一同參與AI標準化的制定與協議,尤其中小企業,可與國際標準機構合作,並參訪AI標準中心(AI Standards Hubs),以取得、實施AI標準化的相關資訊與支援。 參、事件評析 AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定,冀望於主管機關落實AI保證,以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料,並根據國際標準與監管指引所制定之標準,以評測AI系統的安全性與其使用之相關影響風險。 隨著AI的快速進步及應用範疇持續擴大,於各領域皆日益重要,未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引,引導各領域AI的開發、使用與佈署者能安全的使用AI。此外,應持續關注國際間推出的政策、指引或指引等,研析國際組織與各國的標準規範,借鏡國際間之推動作法,逐步建立我國的AI相關制度與規範,帶動我國智慧科技產業的穩定發展外,同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
日本閣議通過《特定數位平台之透明性及公正性提升法案》,以改善電商交易環境日本閣議通過《特定數位平台之透明性及公正性提升法案》,以改善電商交易環境 資訊工業策進會科技法律研究所 2020年05月11日 日本內閣於2020年2月18日通過《特定數位平台之透明性及公正性提升法案》(特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案),並提交國會,期望能在2021年春季施行[1]。本法案將要求特定數位平台(Digital Platform)業者公開其與透過平台供應商品或服務者之間的契約等各項措施,以提高特定數位平台的透明性與公正性,透過推動公平且自由的競爭環境,為促進經濟發展和國民經濟的健全發展做出貢獻。 壹、事件摘要 近年來資通訊技術領域的革命性進展,讓數位平台有效幫助商品與服務供應者更易於進入各商品或服務市場,如大型網路商城透過蒐集分析用戶的購買紀錄、商品瀏覽紀錄、搜尋關鍵字紀錄、位置資訊等,能夠更精準投放廣告至消費者的搜尋頁面,增加賣家商品或服務的曝光機會,減輕新手賣家觸及潛在消費者的負擔。賣家越多、越容易搜尋到所需商品或服務,甚至能同時推薦優惠組合的網路商城,能夠提高消費者的黏著度,賣家對該平台也會更加依賴,使得數位平台產業成為寡占市場。 面對數位平台市場的寡占現象,日本政府於2018年6月15日公布之《未來投資戰略2018》中說明擬透過整備規則以活化競爭環境,因此經濟產業省、總務省及公平交易委員於同年7月組成「數位平台業者交易環境整備檢討會」(デジタル・プラットフォーマーを巡る取引環境整備に関する検討会),將以實現透明性及公正性為目的,進行相關規範之整備,並規劃進行大規模調查,藉此掌握實際交易狀況[2]。 因此公平交易委員會(公正取引委員会)於2019年1月針對大型網路購物商城,如Amazon、Yahoo Shopping、樂天市場等,以及應用程式商店,即App Store、Google Play展開「數位平台業者之交易習慣等相關實態調查」。根據同年4月17日公布的上開調查中間報告(デジタル・プラットフォーマーの取引慣行等に関する実態調査についての中間報告),使用樂天市場及Amazon的賣家中,各有超過72%的賣家被平台單方變更使用條款,且各有超過69%的賣家認為使用條款的改變對其不利,三大網路商城中只有Yahoo Shopping的表現稍佳;大多數的賣家都遇過不明原因被停權或商品被下架的情形,但其中僅有約一半的賣家在解決問題後能夠再上架[3]。應用程式商店方面的調查結果也大同小異[4]。同年10月31日公布的調查報告印證數位平台業者的「未提前說明即變更條款」或「未說明理由即拒絕交易」等行為,以及商品與服務供應者聯繫客服提出意見、申請等機制不夠完善,均有妨礙市場透明性和公正性之疑慮[5]。除此之外,也恐有《獨占禁止法》(私的独占の禁止及び公正取引の確保に関する法律,又稱「独占禁止法」)上不公平競爭之疑慮,如數位平台業者透過變更使用條款提高手續費、強制使用平台新服務等行為,可能適用《獨占禁止法》第2條第9項第5款濫用相對優勢地位之要件;此外,若數位平台業者自行推出與該平台其他賣家同類的商品及服務,由於數位平台業者可得知賣家銷售紀錄、消費者交易紀錄等資訊,容易推出更加吸引消費者的優惠活動,亦可透過更改關鍵字及顯示結果排序等方式,取得較其他賣家優勢之地位,可能適用《獨占禁止法》第2條第9項第5款阻礙競爭對手交易之要件。 除上述狀況外,實務上亦存在其他問題。例如,平台上之賣家因依賴平台且意欲獲取消費者關注,此時面對數位平台業者種種不公平行為,如單方面變更使用條款,或針對相同商品或服務,要求賣家必須設定與其他平台相同或更加優惠價格,賣家多會選擇接受而非改換使用其他數位平台。另一方面,應用程式商店的寡占現象,反倒成為App開發者拓展用戶的一大阻力[6]。 為使數位平台業者自主且積極地提高數位平台上交易透明度與公正性,日本政府認為應在不阻礙創新及尊重自主性的原則下,制定要求數位平台業者公開交易條款、營運狀況等資訊之法規,並進行監督和審查[7]。因此由內閣官房長官主導,與主責IT政策、網路安全戰略、消費者與食品安全、公平交易、個人資料保護等之大臣,以及總務大臣、經濟產業大臣,共同召開數位市場競爭會議(デジタル市場競争会議),根據前述實態調查報告所統整的各項課題,研擬《特定數位平台之透明性及公正性提升法案》[8]。 貳、重點說明 提高數位平台的交易透明度與公正性,除能增進用戶利益,亦有助於提升整體經濟社會活力及永續發展,因此本法案從讓數位平台業者自主且積極提升數位平台透明性與公正性出發,將國家的干預及其他管制的影響降到最低,旨在使數位平台業者可充分發揮其創意及努力,並促進數位平台業者和商品與服務供應者的相互理解[9]。 本法案的規範對象為「特定數位平台業者」(特定デジタルプラットフォーム提供者),數位平台業者係指使用數位科技為「商品與服務供應者」(商品等提供利用者)及「一般利用者」提供網路平台,且其服務具網路效應(Network Effect)的特性[10]。未來法案通過後,經濟產業大臣會先參考來自數位平台的資訊,透過政令區分行業別,並在該業種的範圍內考量各項指標,諸如該數位平台對國民生活及國民影響程度、用戶對該數位平台的使用集中程度、根據交易實際狀況及動向判斷保護商品與服務供應者的必要性、商品與服務供應者對該數位平台其他規範及措施之反應、營業額等。若一數位平台的上述指標超出政令所規定之範圍,經濟產業大臣會將該數位平台之業者指定為「特定數位平台業者」,即特別應盡力提升其數位平台透明性及公正性者[11]。另外,經濟產業大臣在制定或修正政令所需之範圍內,得要求數位平台業者,甚至是商品與服務供應者提出所需資料及說明[12]。 為協助特定數位平台業者採取適當且有效的措施,以促進和商品與服務供應者的相互理解,依本法案規定經濟產業大臣應制定指針供業者遵循,內容中則應說明以下事項︰建立可和商品與服務供應者妥善溝通之機制,如指派國內業務的專責窗口;制定可確保交易公正性的程序及機制;整備爭端處理機制及程序[13]。在交易條件等資訊公開方面,本法案規定特定數位平台業者有義務向用戶公開契約條款且變更條款前應先通知用戶,並規定因安全等理由而無法公開的例外情形[14]。本法案也規定特定數位平台業者應每年向經濟產業大臣提出報告,內容應包含其事業概況,以及自我評估前述指針、資訊公開等規定的遵循狀況,經濟產業大臣會依業者提供之報告進行評定並公布結果,業者則應依該評估結果盡力提高該數位平台的透明性及公正性[15]。 另外,對於有阻礙數位平台的透明性和公正性之行為,以及違反獨占禁止法疑慮之特定數位平台業者,則會交由公平交易委員會依該法之規定及個案具體事實採取措施[16]。 參、事件評析 本法案之制定源於數位平台業者和商品與服務供應者間由於資訊、立場不對等而引發紛爭,但本法案並未選擇從保護賣家權益立場出發,而是期望由業者採取自主措施等方式,達到提升數位平台市場透明性和公正性,以消弭紛爭之目的。又,雖然本法案有由政府評估並公布特定數位平台之營運是否具備透明性及公正性之規定,但該評估是基於特定數位平台業者提出之「自我評估」報告,故官方評估結果是否具實質參考意義有待商榷。 綜觀而言,本法案並未嚴格規範數位平台業者,對應法案內有關增進用戶利益和提升整體經濟社會活力等語,可發現本法案本質上應為一部振興數位平台產業的法案,故是否真能解決平台和商品與服務供應者間因資訊不對等而引發糾紛的問題,將是未來關注的焦點。 我國對網購糾紛之討論主要聚焦於買賣雙方,依循的是「零售業等網路交易定型化契約應記載及不得記載事項」及《消費者保護法》等規範,對於數位平台業者和商品與服務供應者間之權利義務關係則尚未有明確規範。在數位平台業者的透明性規範方面,目前僅有2017年11月20日通過之《數位通訊傳播法草案》,於第11及第12條規範數位通訊傳播服務提供者[17]應以適當方式,公開揭露營業相關資訊,並應依其服務之性質,以得清楚辨識之方式公告其服務使用條款。從規範平台業者之角度出發,雖然日本法令看來稍嫌寬鬆,但從促進產業發展角度而言,不啻為重要參考對象,有助我國在相關法制整備上,於數位經濟產業發展與保障平台用戶權益間取得平衡。 [1]日本經濟新聞,〈巨大IT支配に監視の目 議論進むデジタル規制〉,2020/05/06,https://www.nikkei.com/article/DGXMZO58702670R00C20A5947M00/(最後瀏覽日:2020/05/06)。 [2]〈(令和元年10月31日)デジタル・プラットフォーマーの取引慣行等に関する実態調査(オンラインモール・アプリストアにおける事業者間取引)について〉,公正取引委員会,https://www.jftc.go.jp/houdou/pressrelease/2019/oct/191031_2.html(最後瀏覽日:2020/03/22)。 [3]〈オンラインモール運営事業者の取引実態に関するアンケート調査(詳細)〉,公正取引委員会,https://www.jftc.go.jp/houdou/pressrelease/2019/apr/kyokusou/190417besshi1.pdf(最後瀏覽日:2020/05/19)。 [4]〈アプリストア運営事業者の取引実態に関するアンケート調査(詳細)〉,公正取引委員会,https://www.jftc.go.jp/houdou/pressrelease/2019/apr/kyokusou/190417besshi2.pdf(最後瀏覽日:2020/05/19)。 [5]〈デジタル・プラットフォーマーの取引慣行等に関する実態調査報告書(オンラインモール・アプリストアにおける事業者間取引)(概要)〉,公正取引委員会,https://www.jftc.go.jp/houdou/pressrelease/2019/oct/191031c.pdf(最後瀏覽日:2020/03/22)。 [6]同前註。 [7]〈デジタル市場のルール整備〉,首相官邸,https://www.kantei.go.jp/jp/singi/digitalmarket/kyosokaigi/dai1/siryou1.pdf(最後瀏覽日:2020/03/22)。 [8]〈「デジタル・プラットフォーマー取引透明化法案(仮称)の方向性」に関する意見募集に寄せられた御意見について〉,首相官邸,https://www.kantei.go.jp/jp/singi/digitalmarket/kyosokaigi/dai3/sankou1.pdf(最後瀏覽日:2020/03/22)。 [9]〈「特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案」が閣議決定されました〉,経済産業省,https://www.meti.go.jp/press/2019/02/20200218001/20200218001.html(最後瀏覽日:2020/03/22)。 [10]〈特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案の概要〉,経済産業省,https://www.meti.go.jp/press/2019/02/20200218001/20200218001-1.pdf(最後瀏覽日:2020/05/18)。 [11]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案(第201回閣法第23号)第2条、第4条。 [12]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第15条。 [13]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第7条、第8条。 [14]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第5条、第6条。 [15]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第9条。 [16]特定デジタルプラットフォームの透明性及び公正性の向上に関する法律案第13条。 [17]依數位通訊傳播法草案第二條之規定,數位通訊傳播服務提供者係指提供公眾或他人使用有線、無線、衛星或其他電子傳輸設施傳送數位格式之聲音、影像、文字、數據或其他訊息的服務之自然人、商號、法人或團體。
加州通過氣候變遷計畫加州環保署下的加州空氣資源委員會(California Air Resource Board),在2008年12月通過了加州氣候變遷計畫(Climate Change Scoping Plan),目標是在2020年將州內的溫室氣體減量至1990年的水準,本計畫是依加州州長Schwarzenegger在2006年9月,所簽署的2006全球暖化解決法(the Global Warming Solutions Act of 2006)之要求而提出。加州是美國第一個如此正式訂立一個全面性的、法定的、且包含了每一個經濟層面的關於溫室氣體減量計畫的州。 氣候變遷計畫的原則是,找出最佳策略去減少約百分之三十的溫室氣體排放,同時在乾淨和永續的原則下發展加州經濟。計畫中的一個重點方案是碳總量管制與交易(Cap-and Trade),加州將和「西部氣候行動」聯盟(Western Climate Initiative)合作,此組織包括美國七個州及加拿大四個省份,共同承諾去管制它們的碳排放,並建立一個地方性碳交易市場。計畫中其它重要的方案還包括了,執行加州清淨汽車標準、增加州內乾淨和永續能源的使用、執行低碳燃油標準等。 加州空氣資源委員會主席Mary Nichols指出,本計畫是加州達成更安全與永續經濟的指南,它將會引導資本投資在增加能源效率和發展再生能源,使加州對石油的依賴降低,並給予加州居民數以千萬的工作機會。且身為第一個採取如此綠色行動的州,加州在吸引全球相關投資及發展綠色科技上將維持自己立於一個領導地位,取得並擴大全球綠色市場的需求。加州空氣資源委員會將開始擬定執行所有方案的細節,依法所有的方案必須於2012年前全部生效執行。
新德國包裝法簡介為有效降低包裝廢棄物對環境造成的汙染及不利影響,使製造商履行其B2C(business to customer)產品責任,德國以新的包裝法(Packaging Act, VerpackG)取代現行的規範(Packaging Ordinance,VerpackV),並已於2019年1月1日生效。 新包裝法VerpackG不同於VerpackV之處,在於除要求業者須加入原有的回收系統外,另授權Zentrale Stelle(Stiftung Zentrale Stelle Verpackungsregister,ZSVR)基金會作為新包裝法強制登記制度的執行單位,規範欲在德國銷售產品包裝之所有實體或網路製造商及零售商,有義務於ZSVR的數據資料庫”LUCID”註冊,才能在德國地區進行銷售,並且為全面提升透明度,乃規範於LUCID註冊之商家資訊皆屬可供大眾公開查詢。 依VerpackG規定,於2019年1月1日起未為註冊的商家,其包裝商品不能在德國上市,否則恐將臨100,000歐元之罰款;另未加入回收系統之商家,恐面臨200,000歐元之罰款。而除須註冊與回收系統的加入外,製造商及零售商尚須將以下之包裝相關資訊提供給ZSVR做比對: (一)註冊號碼(商家於資料庫註冊時,由ZSVR所提供之註冊號碼) (二)包裝材料及容積 (三)製造商履行生產者延伸責任(Extended Producer Responsibility)簽訂的包裝方案名稱 (四)與回收公司或回收系統間簽訂之契約期限 資料來源:自行繪製 圖 德國包裝法實施步驟