歐盟執委會(European Commission)於2023年10月3日公布「關於歐盟經濟安全關鍵技術領域之建議」(Recommendation on Critical Technology Areas for the EU’s Economic Security),以便與各會員國進行經濟安全關鍵技術之風險評估。該建議源自於歐盟於6月發布之「歐盟經濟安全戰略」(European Economic Security Strategy)目的在於地緣政治緊張之局勢下,將最大限度的減少經濟流動所帶來之風險,為歐盟經濟安全制定全面的戰略方針。此「建議」列出十大關鍵技術領域的清單,係根據以下標準進行風險評估:
(1)技術是有促成及轉型之本質(Enabling and Transformative Nature of the Technology)。
(2)民用與軍用融合技術之風險(The Risk of Civil and Military Fusion)。
(3)科技可能被用於侵害人權之風險(The Risk the Technology Could Be Used in Violation of Human rights)。
根據上述標準所列出十個關鍵技術領域後,其中有四個領域項目被認定是最敏感之技術領域,分別有半導體、人工智慧技術、量子技術及生物技術四大類別。
歐盟積極制定此計畫,以確保先進技術不落入敵國手中,減少對於如中國等國家單一供應商之依賴;歐盟預計於今年年底與會員國進行廣泛的風險評估,以確保下一步可能所採取的措施,可能包含出口管制及對外之審查投資,預計於2024年初提案。
本文為「經濟部產業技術司科技專案成果」
美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括: 1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。 2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。 3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。 4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。 5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。 6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。 7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。 8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。 9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。 10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。 11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。 12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。 為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。
三菱電機子公司三菱電機informationsystems公司所研發的圖書館系統發生個資外洩事件三菱電機informationsystems公司所研發用於圖書館的系統封包MELIL/CS造成引進系統的圖書館發生個人資訊外洩與Web館藏檢索系統當機的系統障礙。從2010年7月到9月因系統障礙,總共有3間圖書館,共2971人的姓名、出生日期、住址、電話及圖書名稱等個人資料外洩。 有關個人資料外洩的經過,是因為三菱電機informationsystems公司在研發MELIL/CS系統時,先在引進系統的圖書館進行系統測試,於測試之後再將系統程式帶回公司修改,此時就不知情的將存有個人資料的程式帶回公司,也把這些資料登錄到產品的原始碼上。因此將進行測試的2間圖書館使用人約210人的個人資料登錄於該產品的原始碼上。 但發生個資外洩的直接原因更在於負責三菱電機informationsystems公司產品運作、維修的銷售伙伴千代田興產公司,該公司所設置的伺服器完全沒有設定權限區分,甚至不需密碼就可以連接該公司伺服器存取資料。因此發生第三人進入該公司伺服器,下載3個引進該系統圖書館約3000人的個人資料。 另外對於Web館藏檢索系統當機的發生,是因為圖書館使用人為了獲取圖書館新增加館藏圖書的資訊,以自動蒐集資訊程式直接存取館藏資料庫所發生。三菱電機informationsystems公司當初在設定網路連接圖書館系統,是以一次存取可以連接10分鐘的方式,所以只要以連接頻率高的機械性存取,只要超過資料庫的同時連接數的設定數值,就會發生存取障礙。 對於三菱電機informationsystems公司系統設計失當及千代田興產公司未設定伺服器存取權限所造成個人資料外洩事件,因為這兩家公司都是屬於財團法人日本情報處理開發協會(JIPDEC)的取得隱私標章企業,所以由JIPDEC依據隱私標章營運要領中的「有關賦予隱私標章規約」第14條規定,各處以由2011年1月起3個月的隱私標章停權處分。
日本提出2020年創新願景的期中建言,主張應自未來需求中發掘創新方向日本經濟產業省所屬「研究開發與創新附屬委員會」於2020年5月29日統整了有關2020年創新願景的期中建言並作成報告。本次的願景建言,係著眼於日本於IT等領域無法推動新興產業的現狀,且在原本具有競爭優勢的領域上,又因新興國家崛起導致實質獲益降低,加之新型冠狀病毒疫情使經濟活動停滯等結構性變化,產生全球性的典範轉移等問題。故認為應自長遠觀點出發,視「從未來需求中發掘創新價值」的途徑為創新關鍵,化危機為轉機,並同步觀察國內外的動向,針對企業、大學、政府各界應採取的行動,綜整出2020年的期中建言。 本次期中建言以產業為核心,主要包含以下幾個面向:(1)政策:例如,為積極參與新創事業的企業規劃認證制度;透過修正產學合作指引、簡化〈技術研究組合(為成員針對產業技術,提供人力、資金或設備進行共同研究,並為成果管理運用,且具法人格的非營利組織型態)〉設立與經營程序、擇定地區開放式創新據點等手段深化與落實開放式創新;以「創造社會問題解決方案」與「保護關鍵技術」的研發活動為重心,鬆綁相關管制,並調整計畫管理方式等以協助技術投入市場應用;以2025年與2050年為期,就次世代運算(computing)技術、生化、材料與能源領域提出科技與產業發展的願景;藉由改善人才制度、數位轉型等方式,強化企業研發能量;(2)「從未來需求中發掘創新價值」概念:現行研發與導向商品化的模式,主要以既有的技術、設備等資源為基底,進行線性且單向的創新研發,重視短期收益與效率化,使成果應用未能貼近社會的實際需要,故未來應在此種模式之外,另從創造社會議題解決方案與切合未來需求的觀點出發,結合既有技術資源來擬定長期性的研發創新戰略並加以實踐;(3)產官學研各界角色定位與任務:大學與國立研發法人應強化其研發成果之商轉合作,調整課程內容以削減知識與人才產出不符合社會議題需要的問題;企業的創新經營模式,則應透過ISO56002創新治理系統標準、日本企業價值創造治理行動指針(日本企業における価値創造 マネジメントに関する行動指針)等標準實踐,擴大開放式創新的應用;政府則應採取調整稅制、建置活動據點等方式,建構並提供有利於開放式創新的環境,並針對產業發展願景中的關鍵領域(如感測器等AI應用關聯技術、後摩爾時代(post moore's law)運算技術、生化技術、材料技術、環境與能源技術等)進行投資。
美國音樂授權制度邁向新里程碑:集體授權組織MLC將於後年正式運行!美國「音樂現代化法案」(Music Modernization Act,簡稱 MMA) 於2018年10月由總統川普簽署成為有效法律之後,於今年(2019)9月17日正式對外發布消息,其依照MMA之規定,美國著作權局已於今年7月8日指定由「美國音樂發行協會」(National Music Publishers Association,簡稱NMPA)成立「機械式集體授權組織」(The Mechanical Licensing Collective,簡稱MLC)。NMPA係全美音樂發行商之貿易協會,早於1917年運行至今,現被指定成立MLC,擬於2021年1月正式開始進行全美音樂之「概括授權」(blanket license),並維運前所未有的「透明化資料庫」,期能對接音樂串流平台,促使音樂作品比對相關著作權之權利人,藉以有效率且準確地支付相關授權金給詞曲創作人和發行人,且串流平台業者只要確實遵守MMA之概括授權與MLC之運作方式,即免於侵權責任MLC之組織體編制與人員名單資訊,亦透明地揭示於官網,其設有MLC董事會(由BMG、SONY、華納音樂等背景之人員擔任),以及「無人認領授權金監督委員會」、「爭端解決委員會」、「營運顧問委員會」等三個委員會,各委員均由音樂著作權人或詞曲創作等人擔任。 MMA立法之初,試圖創設一全新、單一窗口非營利組織,並建置符合現代科技的數位資料庫,來解決音樂授權的痛點。而今MLC即將於後年1月正式運行,在數位時代借力科技,帶領音樂授權邁向新里程碑!