美國加州「對話機器人揭露法案」

  美國加州議會於2018年9月28日通過加州參議院之對話機器人揭露法案(Bots Disclosure Act, Senate Bill No. 1001)。此一法案於美國加州商業及專門職業法規(Business and Professions Code)第七部(Division)第三篇(Part)下增訂了第六章(Part)「機器人」乙章,擬防範「利用對話機器人誤導消費者其為真人同時並誤導消費者進行不公平交易」之商業模式,本法案將於2019年7月1日正式生效。依此法案,企業如有使用對話機器人,則應揭露此一事實,讓消費者知悉自己是在與對話機器人溝通。

  美國加州對話機器人揭露法案對於「機器人」之定義為全自動化之線上帳戶,其所包含之貼文、活動實質上並非人類所形成。對於「線上」之定義為,任何公眾所可連結上之線上網站、網路應用軟體、數位軟體。對於「人類」之定義為自然人、有限公司、合夥、政府、團體等其他法律上組織或擬制人格。如業者使用對話機器人進行行銷、推銷時,有揭露其為對話機器人之事實,將不被認定違反對話機器人揭露法案,但揭露之手段必須明確、無含糊且合理可讓消費者知悉其所對話之對象為非人類之機器人。值得注意者為,美國加州對話機器人揭露法案,針對「美國本土造訪用戶群在過去12月間經常性達到每月10,000,000人」之網站,可排除此規定之限制。

  本法案僅課予業者揭露義務,至於業者違反本法之法律效果,依本法案第17941條,需參照其他相關法規予以決定。例如違反本法案者,即可能被視為是違反美國加州民法揭露資訊之義務者而需擔負相關民事賠償責任。最後值得注意者為,本法案於第17941條針對「利用對話機器人誤導公民其為真人同時影響公民投票決定」之行為,亦納入規範,亦即選舉人如有利用對話機器人影響選舉結果而未揭露其利用對話機器人之事實時,依本條將被視為違法。

本文為「經濟部產業技術司科技專案成果」

※ 美國加州「對話機器人揭露法案」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8203&no=55&tp=5 (最後瀏覽日:2025/11/23)
引註此篇文章
你可能還會想看
英國發布《AI保證介紹》指引,藉由落實AI保證以降低AI系統使用風險

英國發布《AI保證介紹》指引,藉由落實AI保證以降低AI系統使用風險 資訊工業策進會科技法律研究所 2024年03月11日 人工智慧(AI)被稱作是第四次工業革命的核心,對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目,陸續推動相關發展政策與規範,如歐盟《人工智慧法》(Artificial Intelligence Act, AI Act)、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)、英國「支持創新的人工智慧監管政策白皮書」(A Pro-innovation Approach to AI Regulation)(下稱AI政策白皮書)等,各國期望發展新興技術的同時,亦能確保AI使用的安全性與公平性。 壹、事件摘要 英國科學、創新與技術部(Department for Science, Innovation and Technology,DSIT)於2024年2月12日發布《AI保證介紹》(Introduction to AI assurance)指引(下稱AI保證指引),AI保證係用於評測AI系統風險與可信度的措施,於該指引說明實施AI保證之範圍、原則與步驟,目的係為讓主管機關藉由落實AI保證,以降低AI系統使用之風險,並期望提高公眾對AI的信任。 AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定,五項原則分別為:安全、資安與穩健性(Safety, Security and Robustness)、適當的透明性與可解釋性(Appropriate Transparency and Explainability)、公平性(Fairness)、問責與治理(Accountability and Governance)以及可挑戰性 與補救措施(Contestability and Redress)。 貳、重點說明 AI保證指引內容包含:AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟,以下將重點介紹上開所列之規範內容: 一、AI保證之適用範圍: (一)、訓練資料(Training data):係指研發階段用於訓練AI的資料。 (二)、AI模型(AI models):係指模型會透過輸入的資料來學習某些指令與功能,以幫助建構模模型分析、解釋、預測或制定決策的能力,例如GPT-4。,如GPT-4。 (三)、AI系統(AI systems):係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統,可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統,其使用的AI模型為GPT-4。 (四)、廣泛的AI使用(Broader operational context):係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。 二、AI保證的三大原則:鑒於AI系統的複雜性,須建立AI保證措施的原則與方法,以使其有效執行。 (一)、衡量(Measure):收集AI系統運行的相關統計資料,包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊;以及存取與AI系統設計、管理的相關文件,以確保AI保證的有效執行。 (二)、評測(Evaluate):根據監管指引或國際標準,評測AI系統的風險與影響,找出AI系統的問題與漏洞。 (三)、溝通(Communicate):建立溝通機制,以確保主管機關間之交流,包含調查報告、AI系統的相關資料,以及與公眾的意見徵集,並將上開資訊作為主管機關監理決策之參考依據。 三、AI保證的六項措施:主管機關可依循以下措施評測、衡量AI系統的性能與安全性,以及其是否符合法律規範。 (一)、風險評估(Risk assessment):評測AI系統於研發與部署時的風險,包含偏見、資料保護和隱私風險、使用AI技術的風險,以及是否影響主管機關聲譽等問題。 (二)、演算法-影響評估(Algorithmic-impact assessment):用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。 (三)、偏差審計(Bias audit):用於評估演算法系統的輸入和輸出,以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。 (四)、合規性審計(Compliance audit):用於審查政策、法律及相關規定之遵循情形。 (五)、合規性評估(Conformity assessment):用於評估AI系統或產品上市前的性能、安全性與風險。 (六)、型式驗證(Formal verification):係指使用數學方法驗證AI系統是否滿足技術標準。 四、評測標準:以國際標準為基礎,建立、制定AI保證的共識與評測標準,評測標準應包含以下事項: (一)、基本原則與術語(Foundational and terminological):提供共享的詞彙、術語、描述與定義,以建立各界對AI之共識。 (二)、介面與架構(Interface and architecture):定義系統之通用協調標準、格式,如互通性、基礎架構、資料管理之標準等。 (三)、衡量與測試方式(Measurement and test methods):提供評測AI系統的方法與標準,如資安標準、安全性。 (四)、流程、管理與治理(Process, management, and governance):制定明確之流程、規章與管理辦法等。 (五)、產品及性能要求(Product and performance requirements):設定具體的技術標準,確保AI產品與服務係符合規範,並透過設立安全與性能標準,以達到保護消費者與使用者之目標。 五、建構AI保證的步驟(Steps to build AI assurance) (一)、考量現有的法律規範(Consider existing regulations):英國目前雖尚未針對AI制定的法律,但於AI研發、部署時仍會涉及相關法律,如英國《2018年資料保護法》(Data Protection Act 2018)等,故執行AI保證時應遵循、考量現有之法律規範。 (二)、提升主管機關的知識技能(Upskill within your organisation):主管機關應積極了解AI系統的相關知識,並預測該機關未來業務的需求。 (三)、檢視內部風險管理問題(Review internal governance and risk management):須適時的檢視主管機關內部的管理制度,機關於執行AI保證應以內部管理制度為基礎。 (四)、尋求新的監管指引(Look out for new regulatory guidance):未來主管機關將制定具體的行業指引,並規範各領域實踐AI的原則與監管措施。 (五)、考量並參與AI標準化(Consider involvement in AI standardisation):私人企業或主管機關應一同參與AI標準化的制定與協議,尤其中小企業,可與國際標準機構合作,並參訪AI標準中心(AI Standards Hubs),以取得、實施AI標準化的相關資訊與支援。 參、事件評析 AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定,冀望於主管機關落實AI保證,以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料,並根據國際標準與監管指引所制定之標準,以評測AI系統的安全性與其使用之相關影響風險。 隨著AI的快速進步及應用範疇持續擴大,於各領域皆日益重要,未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引,引導各領域AI的開發、使用與佈署者能安全的使用AI。此外,應持續關注國際間推出的政策、指引或指引等,研析國際組織與各國的標準規範,借鏡國際間之推動作法,逐步建立我國的AI相關制度與規範,帶動我國智慧科技產業的穩定發展外,同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。

英國資訊委員辦公室(Information Commissioner’s Office,ICO)認定英國電子零售業者Carphone Warehouse違反《Data Protection Act 1998》資料保護法

  英國電子零售業者Carphone Warehouse在2015年遭到網路攻擊,造成逾300萬客戶及1000名員工的資料外洩,外洩的資料包括客戶的姓名、地址、電話號碼、出生日期、婚姻狀況及1.8萬名客戶的金融卡資訊。   英國資訊委員辦公室(Information Commissioner’s Office,ICO)認為涉及之個人資料嚴重影響個人隱私,使得個人資料有被誤用的風險。ICO進一步調查後並發現,駭客僅是透過有效的登入憑證,就能藉由WordPress軟體存取系統,此事件亦暴露該組織技術安全措施之不足,因受影響系統中使用的軟件的重要元素已過時,且公司未能執行例行的安全測試。ICO認為,像Carphone Warehouse此類規模龐大的公司,應積極評估其資料安全系統,確保系統穩健而避免類似的攻擊。   據此,ICO判定該公司缺乏妥善的安全措施保障使用者資訊,已嚴重違反《Data Protection Act 1998》資料保護法,判罰40萬英鎊。   從今年5月25日起,隨著GDPR的生效,法律將更加嚴格。對此,ICO亦發布了有用的指導,包括GDPR指南,現在採取的12個步驟和工具包。國家網絡安全中心(NCSC)也為組織為保護自己所採取的步驟提供了有用的指導。

歐盟考慮設立中央網路犯罪防制機構

  歐盟部長理事會(Council of Ministers)已於今(2010)年4月27日要求執委會檢視其網路犯罪防制目標,並調查是否有需要設立一中央機構,以儘速達成下列幾項目標,包括:提高調查人員、檢察官、法官及法院相關人員的專業標準、鼓勵各國警方資訊分享以及協調歐盟27個會員國間打擊網路犯罪所採取之方式。   部長理事會提議由執委會進行設立專責機構之可行性調查研究,擬由該專責機構負責前述目標之達成,亦須評估並監督預防性與調查性措施之實行。該調查研究中應特別考量欲設立專責機構之目的、範圍及可能的經費來源,另外亦需考慮是否將其設置於位於海牙的歐盟刑警組織(European Police Office, Europol)中。考量網路犯罪跨國界之特性,為使打擊網路犯罪之相關措施更有效,必須有良好的國際合作及司法執行互助配合。部長理事會認為藉由專責機構之設立,不僅能夠協助培訓法官、警方及檢察官,亦能做為聯繫網路使用者、受害者組織及其他私部門的常設機構。   本部長理事會將歐盟現有之網路犯罪防制相關計畫分成短、中、長期計畫,要求執委會定期追蹤各項相關計畫之執行情況,亦將設立網路犯罪防制專責機構列入執委會後續四年所持續執行有關犯罪與安全治理的斯德哥爾摩計畫(Stockholm Programme)中。   此外,部長理事會也呼籲歐盟各國追蹤用於網路犯罪之IP位置及網域名稱,同時要求執委會協助建立共通的廢止機制,以進行網路犯罪防制。   位於希臘的歐盟網路與資訊安全機構(European Network and Information Security Agency, ENISA),是現階段歐盟網路犯罪防治的研究機構,其進行資訊安全威脅行為之調查,並提供相關建議,但僅是資訊服務單位,未實際投入打擊犯罪行動。

日本推動數位出版產業之方式與觀察

日本推動數位出版產業之方式與觀察 科技法律研究所 法律研究員 尤騰毅 2014年12月31日 壹、前言   鄰國日本的出版產業,向來以質跟量著稱於世,不過於進入數位匯流時代後,其出版產業也遭遇同樣的問題,市場上電子書數量不足以至於無法帶動日本電子書閱讀的人口,另外,加上美商Amazon大舉進入日本市場,日本出版業界與政府都認知到若不採取措施,將使日本出版產業失去利基[1]。   本文擬就日本政府在2012年提出了三個主要的電子書產業振興政策,包括前述成立「數位出版機構」、以及「內容緊急電子化事業」(コンテンツ緊急電子化事業)、文化廳(文化庁)eBook計畫等進行分析,說明日本政府如何透過計畫政策在短期內增加市場上電子書的數量,以達到經濟規模,提振電子書產業,以便我國政府在未來制定數位出版產業相關政策時之參考。 貳、重點說明 一、紙本書籍數位化之推手:出版數位機構   2011年9月,由出版業者共同成立「株式會社出版數位機構準備會」(出版デジタル機構準備会),於同年4月,透過「產業革新機構」(Innovation Network Corporation of Japan, INCJ)以及日本大型之出版社、印刷公司等共同出資成立「株式會社出版數位機構」(株式会社出版デジタル機構,英文全稱為Digital Publishing Initiatives Japan Co., Ltd,下稱Pubridge),欲藉此一個機構來加速日本電子書產業的整合,並以擴大電子出版商務市場為目標,支援出版品數位化(儲存)、電子書店和電子書仲介等傳輸業務、圖書館窗口相關業務,期能透過整備電子書基礎建設,提供讀者更理想的讀書環境 。   出版數位機構之業務分為四大領域,包括電子書仲介事業、電子書製作、數位文獻系統、讀者平台等。其中,電子書仲介事業的服務名稱為「Pubridge (publish+bridge)」[2],其所提供的服務內容,即是所謂的書籍電子化之單一窗口服務(ワンストップ,英文為One-Stop Service),提供整合服務以降低傳統出版業界進入電子書市場的門檻。所謂的單一窗口服務,即由出版數位機構擔任產業鏈的核心整合角色,將上游端的出版社紙本書籍的數位化,並提供銷售的收益分配等,並且由其提供數位化後的電子書給予電子書店等通路。主要細部的服務包括:制作(協助電子化格式製作)、發行(代為協助發行)、行銷、管理(收益分配計算)等四個面相[3]。亦即出版數位機構的定位係要成為傳統出版社進入電子書市場的中介者或經紀人。其商業模式是由出版社對出版數位機構委託業務、再由該公司傳輸給電子書商店,由電子書商店銷售給讀者;金流則由電子書商店將收取的書籍費用以獲益分享方式(Revenue share)支付費用給出版數位機構,而出版數位機構也以獲益分享方式對出版社支付收益。 二、內容緊急電子化事業   「內容緊急電子化事業」(コンテンツ緊急電子化事業)[4],係指日本經濟產業省在2012年所規劃的一項書籍電子化計畫,預計在一年的期間內(2012年)將6萬冊書籍全數電子化。該計畫之成立背景與目的,係因2011年311東日本大地震後,對東北災區之經濟活動造成嚴重影響,經濟產業省希望透過日本中小出版社所持有與東北相關書籍的電子化,由政府負擔部份電子化費用的形式,在活化萌芽期電子書市場的同時,以促進東北地區資訊向外傳遞、提高該災區知識檢索頻率,並基於鼓勵災區創造新產業,以復興災區及振興日本國內經濟[5]。就本文的觀察,該計畫的另一個目的其實在短期內大量的增加電子書數量,亦可達到活絡電子書市場之效益。 三、日本文化廳eBooks計畫   「eBooks計畫」屬於實證測試性質,主要係從國立國會圖書的館藏數位文獻中選出資料,經過著作權處理手續,從製作電子書到傳送給使用者的實驗,以釐清數位文獻商用化的課題和有效對策,並將結果將提供民間業者和公家機關作為參考。   該實驗結果發現,電子書的總下載次數總計92,517次,以初次透過網路公開電子書而言,已是不錯的成果。根據對讀者調查發現(樣本數126位),使用者特徵上男女比例相當,年齡層20、30、40歲各約1/3,上班族占67%,過去使用過電子書占半數,使用過eBooks服務後近60%會想再次使用,有61%認為能讀到珍貴的資料是這項服務最大的優點,也有30%希望能夠增加文獻數量。而讀者也認為在下載(或購買)書籍時,「摘要」充實的程度是影響下載意願的重要判斷依據,eBooks計畫公開電子書時的詳細說明對提升下載數量也有相當助益。目前國立國會圖書館可透過線點閱的文獻數約45萬件,限館內閱讀的文獻約233萬件。未來公開數位文獻的計畫仍會持續,並實驗付費方式下載的可行性,期能讓稀有資料能更容易被需要者取得,同時該計畫也建議應將國會圖書館等公部門機關,對於其所典藏書籍之著作權處理方式做成指導手冊,以確認著作權處理的標準程序[6]。 參、事件評析   日本從2010年以來為了輔導其國內傳統出版業者進入數位出版領域,所採取相關具體政策措施,本文歸納出以下三點結論與建議,供政府擬定相關政策時參考: 一、數位出版產業之推動應整合各機關共同合作   日本的出版產業其主管機關為中央文化主管部門,即文部科學省的文化廳,不過由於數位出版領域所涉及的不僅僅是文化部門,更牽涉到經濟部門以及電信基礎建設的相關部門。因此日本政府在推動數位出版時,係透過每年的智財推進計畫[7](由直屬首相的智慧財產戰略本部所制定)規劃具體方向,並依據各省廳的業務職掌進行分工,從而各省廳分頭執行發展數位出版等的相關工作。我國出版產業與日本相同,係由文化部主管,然數位出版係分屬經濟部,在推動數位出版方向上,若無統一的戰略主軸,可能會落入多頭馬車或疊床架屋的情況,又出版產業為文創產業與數位內容之源頭,建議政府應將數位出版產業的規劃提至我國每年的智財綱領中,統籌規劃未來我國數位出版產業之方向,交由相關部門執行,以避免部門之間的重工或缺漏。 二、建議透過特定機構間接協助傳統出版業者   日本的出版產業型態以中小型出版社為多,其數位出版程度與網路通路等等,皆不如大型連鎖書,惟透過「出版數位機構」的成立,整合並協助中小型出版業者,可使其更快速的進入電子書市場。我國出版產業與日本近似,以中小型出版社為多,在數位出版程度與網路通路上面臨同樣的困境。除此之外,中小型出版社有許多書籍在著作權也需要專業的法律團隊協助釐清(尤其是授權部分),建議政府可借鏡日本模式,成立特定機構或委由民間具有法律授權與資訊經驗的團隊,協助中小型出版社將既有的紙本書籍數位化,並輔導流通,跨出建立正體中文電子書市場的第一步。我國產業發展主管機關除了著重數位出版的技術層面與硬體設備外,亦可透過部分政策工作,協助傳統紙本書籍,轉成電子版,以建立電子書市場的經濟規模,已達成以軟帶硬、以硬帶軟的正向循環。 三、短期內應儘速增加電子書數量以活絡市場   由於2011年日本東北大地震,為協助民眾可以便利取的東北相關的書籍資料,經濟產業省透過「內容緊急電子化事業」計畫,在一年內完成的8萬本的數位化作業,在短時間內為日本電子書市場注入大筆的品項,除了幫助災區重建外,同時也在極短的時間內擴大日本電子書市場的經濟規模。我國電子書市場尚未成熟,很大的原因係在於傳統紙本電子化的程度不高,造成市場上的電子書數量不足。儘管「內容緊急電子化事業」主要是在協助災區資料數位化,不過其帶動的是短時間內日本電子書的數量,就短期內增加電子書數量的措施與方法,我國不妨可參考之。建議政府可以從透過計畫短期內將政府出版品或政府所擁有的著作權之作品,進行數位化作業,再將其釋放電子書市場,以提高其規模。 [1] 永田豊志,〈「電子書籍の衝撃」の衝撃――出版社の生きる道を「強み」「弱み」「機会」「脅威」で分析してみる〉,Business Media 誠,http://bizmakoto.jp/bizid/articles/1006/07/news023.html(最後瀏覽日:2013/10/20)。 [2] 該公司對外服務的名稱為「pubridge(パブリッジ)」,為pulish與bridge的複合語,參照:〈会社概要〉,株式会社出版デジタル機構,http://www.pubridge.jp/about/(最後瀏覽日:2013/09/17)。 [3] 〈電子書籍取次事業〉,株式会社出版デジタル機構,http://www.pubridge.jp/agency/(最後瀏覽日:2013/10/17)。 [4] 緊デジ:コンテンツ緊急電子化事業特設サイト,http://www.kindigi.jp(最後瀏覽日:2013/05/09)。 [5] 〈緊デジとは〉,緊デジ:コンテンツ緊急電子化事業特設サイト,http://www.kindigi.jp/about/,(最後瀏覽日:2013/05/09)。 [6] 株式会社野村総合研究所,〈電子書籍の流通と利用の円滑化に関する実証実験報告書〉,頁85(2013),http://www.bunka.go.jp/chosakuken/jikken/pdf/h24_hokokusyo.pdf(最後瀏覽日:2013/09/14)。 [7] 根據日本內閣府的網站,目前最新的智財推進計畫已經於2013年6月出爐,相關內容可參考:知的財産戦略本部,〈知的財産推進計画2013〉http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku2013.pdf(最後瀏覽日:2013/09/14)

TOP