歐盟通過經濟安全關鍵技術領域建議，以利會員國進行關鍵技術風險評估
歐盟執委會（European Commission）於2023年10月3日公布「關於歐盟經濟安全關鍵技術領域之建議」（Recommendation on Critical Technology Areas for the EU’s Economic Security），以便與各會員國進行經濟安全關鍵技術之風險評估。該建議源自於歐盟於6月發布之「歐盟經濟安全戰略」（European Economic Security Strategy）目的在於地緣政治緊張之局勢下，將最大限度的減少經濟流動所帶來之風險，為歐盟經濟安全制定全面的戰略方針。此「建議」列出十大關鍵技術領域的清單，係根據以下標準進行風險評估：
（1）技術是有促成及轉型之本質（Enabling and Transformative Nature of the Technology）。
（2）民用與軍用融合技術之風險（The Risk of Civil and Military Fusion）。
（3）科技可能被用於侵害人權之風險（The Risk the Technology Could Be Used in Violation of Human rights）。
根據上述標準所列出十個關鍵技術領域後，其中有四個領域項目被認定是最敏感之技術領域，分別有半導體、人工智慧技術、量子技術及生物技術四大類別。
歐盟積極制定此計畫，以確保先進技術不落入敵國手中，減少對於如中國等國家單一供應商之依賴；歐盟預計於今年年底與會員國進行廣泛的風險評估，以確保下一步可能所採取的措施，可能包含出口管制及對外之審查投資，預計於2024年初提案。
本文為「經濟部產業技術司科技專案成果」
- Commission recommends carrying out risk assessments on four critical technology areas: advanced semiconductors, artificial intelligence, quantum, biotechnologies, European Commission, Oct 3, 2023
- COMMISSION RECOMMENDATION of 3.10.2023 on critical technology areas for the EU's economic security for further risk assessment with Member States, European Commission, Oct 3, 2023
- ANNEX to the Commission Recommendation on critical technology areas for the EU's economic security for further risk assessment with Member States, European Commission, Oct 3, 2023
劉心妍
副法律研究員 編譯整理
Commission recommends carrying out risk assessments on four critical technology areas: advanced semiconductors, artificial intelligence, quantum, biotechnologies, European Commission, Oct 3, 2023, https://ec.europa.eu/commission/presscorner/detail/en/IP_23_4735 (last visited Nov 1, 2023).
COMMISSION RECOMMENDATION of 3.10.2023 on critical technology areas for the EU's economic security for further risk assessment with Member States, European Commission, Oct 3, 2023, https://defence-industry-space.ec.europa.eu/system/files/2023-10/C_2023_6689_1_EN_ACT_part1_v8.pdf (last visited Nov 1, 2023).
ANNEX to the Commission Recommendation on critical technology areas for the EU's economic security for further risk assessment with Member States, European Commission, Oct 3, 2023, https://defence-industry-space.ec.europa.eu/system/files/2023-10/C_2023_6689_1_EN_annexe_acte_autonome_part1_v9.pdf (last visited Nov 1, 2023).
阮韻蒨，〈美國白宮發布「國家安全策略」〉，《科技法律透析》，第35卷第6期，頁4（2023）。
吳彬詣，〈美國《2022保護美國智慧財產權法》之簡析與我國國家核心關鍵技術營業秘密之借鏡〉，《科技法律透析》，第35卷第8期，頁48~72（2023）。
陳奕夫，〈美國歐盟貿易和技術委員會發布第四次聯合聲明，強化高科技技術及貿易安全合作〉，資訊工業策進會科技法律研究所，2023/6，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9019（最後瀏覽日：2023/11/1）。
科法觀點
歐盟「人工智慧法」達成政治協議， 逐步建立AI準則 資訊工業策進會科技法律研究所 2023年12月25日 隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。 壹、發佈背景 歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。 歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。 貳、內容摘要 AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下： 臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。 臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。 考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。 臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。 參、評估分析 在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。 此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。 面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023). [2]European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023). [3]Artificial intelligence act,P5-7,https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023). [4]GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023). [5]General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2(last visited December 25, 2023).
美國第三州！科羅拉多州正式通過《科羅拉多州隱私法》美國科羅拉多州州長於2021年7月正式簽署《科羅拉多州隱私法》（Colorado Privacy Act, CPA）草案，科羅拉多州正式成為美國第三個制定全面性隱私專法的州，該法將於2023年7月1日施行。 隨著全球化及科技快速發展，以及大數據的應用趨勢，資料的蒐集、處理、利用規模及範圍逐漸擴大，全美各地隱私保護規範遍地開花，期待能促使企業在「保護個人資料」與「資料自由流通」及「資料商業運用」中取得平衡。 2018年美國加州首先制定《加州消費者隱私保護法》（California Consumer Privacy Act, CCPA）成為全美第一州級隱私保護專法後，包含華盛頓州、伊利諾州、紐約州等，也都提出各該州級隱私保護法案，而美國維吉尼亞州議會於今年2月通過《消費者資料保護法》（Consumer Data Protection Act, CDPA）法案，並在3月經由州長簽署，正式成為美國第二個擁有隱私保護專法的州，該法預計於2023年1月1日生效。 科羅拉多州於今年6月將CPA草案送交州長簽署後，於7月順利成為第三個通過隱私保護專法的州。一旦CPA生效，消費者除將享有近用權（right of access）、更正權（right of correct）、刪除權（right of delete）、資料可攜權（right of data portability）外；CPA規定在資料控制者對其消費者進行目標式廣告（targeted advertising）、銷售消費者個人資料，或者將對消費者決策產生重大影響時，消費者享有選擇退出權（right to opt out）。 整體而言，儘管 CPA 與CCPA及CDPA規範相似，在隱私保護規範上可能不是特別具有開創性，但CPA反映了美國各州強化隱私保護的趨勢與決心。舉例而言，去（2020）年不僅美國大選結果受矚目，美國各州隱私保護相關公投案，包含《加州第24號提案》、麻州《汽機車機械資料》、密西根州《電子資訊搜索票》及緬因州波特蘭市《臉部辨識禁令》也獲通過。美國在尚未具有統一聯邦隱私保護法下，透過州級隱私立法，保有各州特色並作為各州隱私保護執法依據。
青少年在網路使用安全的議題上需要更多的協助及指引為瞭解兒童及青少年透過行動裝置接取網路不當內容（inappropriate content）之情形，以及父母或監護人如何限制孩子使用網路設備等議題，英國通訊管理局（Office of Communications, Ofcom）委託英國第二大研究機構Ipsos MORI於2009年3-4月間，與797組7-16歲的兒童及青少年進行面對面的親子訪談，並於2009年9月公布該調查之研究結果。 根據該份兒童及青少年接取網路內容訪談的研究報告（Children’s and young people’s access to online content on mobile devices, games consoles and portable media players）顯示，分別有90%及74%的兒童及青少年透過遊戲裝置及行動電話使用接取網路，利用其他多媒體影音裝置上網的則占13%。另外有三分之二透過行動電話上網的使用者，可自由瀏覽及接取網路內容，而無任何內容分級或不當內容接取上的限制。該研究報告同時亦指出，對於使用行動電話上網的兒童及青少年，僅有10%的父母及監護人「非常關心」（major concerns）其瀏覽或接取不當網頁內容的問題；而使用遊戲裝置上網的兒童及青少年中，僅有11%的父母或監護人「非常關心」其對於接取或瀏覽不當內容之問題。對於兒童及青少年利用行動電話上網的管制議題上，父母及監護人多半透過通話及簡訊的使用量來限制兒童及青少年使用行動電話，而非直接要求兒童及青少年禁止其上網瀏覽不當的內容或教導其如何安全的使用網路。此外，就兒童及青少年本身使用網路所遇到的安全性問題上，介於11-16歲的青少年有54%表示，其需要有關如何維護隱私權及個人資料的建議與協助；而28%的青少年則提及，其需要資訊安全的建議，尤其是如何強化密碼及個人識別碼（personal identification numbers, PINs）；至於7-11歲的兒童則多以「不知道」來回答調查問卷上的問題。 藉由該份研究報告數據的公開，英國政府開始針對兒童及青少年透過行動裝置使用網路之安全性問題進行研議，期望透過更多的宣導與教育，使父母及監護人更為關心兒童及青少年網路內容帶來的身心健康影響，並提昇父母、監護人、兒童及青少年對於網路使用的安全意識，以建立兒童及青少年對於網路安全的正確觀念。