英國與美國為人工智慧安全共同開發簽署合作備忘錄
英國技術大臣（U.K. Secretary of State for Science）蜜雪兒·多尼蘭（Michelle Donelan）和美國商務部長（U.S. Secretary of Commerce）吉娜·雷蒙多（Gina Raimondo）於2024年4月1日在華盛頓特區簽署一份合作備忘錄（MOU），雙方將共同開發先進人工智慧（frontier AI）模型及測試，成為首批就測試和評估人工智慧模型風險等進行正式合作之國家。
此備忘錄之簽署，是為履行2023年11月在英國的布萊切利公園（Bletchley Park）所舉行的首屆人工智慧安全峰會（AI Safety Summit）上之承諾，諸如先進AI的急速進步及濫用風險、開發者應負責任地測試和評估應採取之適當措施、重視國際合作和資訊共享之必要性等等，以此為基礎羅列出兩國政府將如何在人工智慧安全方面匯集技術知識、資訊和人才，並開展以下幾項聯合活動：
1.制定模型評估的共用框架（model evaluations），包括基礎方法（underpinning methodologies）、基礎設施（infrastructures）和流程（processes）。
2.對可公開近用模型執行至少一次聯合測試演習（joint testing exercise）。
3.在人工智慧安全技術研究方面進行合作，以推進先進人工智慧模型之國際科學知識，並促進人工智慧安全和技術政策的一致性。
4.讓英、美兩國安全研究所（AI Safety Institute）間的人員互相交流利用其團體知識。
5.在其活動範圍內，依據國家法律、法規和契約規定來相互共享資訊。
換言之，兩國的機構將共同制定人工智慧安全測試之國際標準，以及適用於先進人工智慧模型設計、開發、部署、使用之其他標準。確立一套通用人工智慧安全測試方法，並向其他合作夥伴分享該能力，以確保能夠有效應對這些風險。就如英國技術大臣蜜雪兒·多尼蘭強調的，確保人工智慧的安全發展是全球性問題，只有通過共同努力，我們才能面對技術所帶來的風險，並利用這項技術幫助人類過上更好的生活。
- The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK
- U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce
- Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024
林允中
法律研究員 編譯整理
The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK, https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023 (last visit June 30, 2024).
U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce, https://www.commerce.gov/news/press-releases/2024/04/us-and-uk-announce-partnership-science-ai-safety (last visit June 30, 2024).
Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024, https://questions-statements.parliament.uk/written-statements/detail/2024-04-16/hcws409 (last visit June 30, 2024).
Horizon Europe為歐盟2021-2027年之科技研發架構計畫。科技研發架構計畫（Framework Programmes for Research and Technological Development，依不同期別縮寫為FP1-FP8）為全球最大型的多年期科研架構計畫，今期之Horizon 2020已進入尾聲，2021年起所實施的歐盟科研架構計畫──FP9正式命名為「Horizon Europe」。 為打造歐盟成為創新市場先鋒，延續Horizon 2020計畫成效，Horizon Europe重視投資研發與發展創新，包含強化歐盟的科學與技術基礎、促進歐洲創新能力，以及永續歐洲社會經濟的模式與價值。 Horizon Europe發展方向分為三大主軸，分別為： 卓越科學（Excellent Science）：透過歐洲研究理事會（European Research Council, ERC）、新居禮夫人人才培育計畫（Marie Skłodowska-Curie Actions, MSCA）和研究基礎設施（Research Infrastructures）加強歐盟科學領導力。 全球挑戰與產業競爭力（Global Challenges and European Industrial Competitiveness）：此主軸再分別發展6個子題，以應對歐盟和全球政策並加速產業轉型。該6個子題分別為(1)健康；(2)文化與創造力；(3)社會安全；(4)數位與太空產業；(5)氣候、能源與交通；(6)糧食、生物經濟（Bioeconomy）、自然資源、農業與永續環境。 創新歐洲（Innovative Europe）：促進、培育和部署市場創新，維護友善創新環境之歐洲生態系統（European ecosystems）。 此外，Horizon Europe擬把實驗階段中具備高潛力和前瞻性的技術帶入市場，轉以任務導向協助新創產業設立，推動跨事業多方整合。
論複數決標之廠商競爭關係論複數決標之廠商競爭關係 資訊工業策進會科技法律研究所 108年5月3日 壹、事件摘要 甲機關為共同供應契約採購的訂約機關，負責辦理某財物共同供應契約採購招標事宜。考量廠商供貨能力不同，甲機關將供貨區域區分「全國各公部門」及「特定縣市公部門」，由廠商依其供貨能力擇一型式投標，並在同一採購案之招標程序分為兩個期程辦理。該採購案投標須知重點說明如下： 一、第一期程： 本期程先由供貨予「全國各公部門」的廠商投標，廠商如選擇投標本期程，則不得參與第二期程。由於本採購案採最低標及複數決標，由最低價廠商得標，其餘廠商可選擇是否跟進該最低標併列得標，惟本期程可跟進之廠商有家數限制，依廠商報價由低到高排列，取前80%。 二、第二期程： 本期程待第一期程決標後，再由有意願供貨予「特定縣市公部門」的廠商參與，廠商至多可選擇五個縣市供貨。第一期程之決標品項及該品項的決標金額，為本期程的採購品項及決標金額，故參與本期程之廠商無庸提出報價，選擇欲跟進併列得標之品項即可。廠商如選擇參與本期程，則不得參與第一期程。本期程可跟進之廠商無家數限制。 A廠商及B廠商分別參與本採購案第一期程、第二期程之投標，甲機關審查彼等遞交之投標文件時，發現其上所載聯絡人、傳真、電話號碼相同，投標區域與品項亦有重複，似為同一廠商備標，遂請兩家廠商說明。A廠商及B廠商均表示，兩家廠商為多年合作夥伴，B廠商因廠址遷移致人手不足，而委請A廠商作為聯繫窗口，故記載相同的聯絡資訊。甲機關認為A、B廠商之說明，無法澄清為同一廠商備標疑慮，爰依政府採購法(以下簡稱採購法)第31條第2項第8款、第50條第1項第5款及本案投標須知規定，不決標予A、B廠商，且不予發還押標金。 A、B廠商不服，提起異議及申訴。是本案應探究者為，於同一採購案參與不同期程投標的相異廠商，彼等投標文件所載之聯絡人、傳真、電話號碼相同，甲機關是否可認定屬採購法第50條第1項第5款所訂「不同投標廠商間之投標文件內容有重大異常關聯者」？又，因本案係同一採購案區分兩期程投標，且投標須知規定(1)廠商僅得選擇一個期程投標；(2)第二期程的決標金額係依第一期程決標之結果；(3)未限制第二期程可跟進之廠商家數，則本案廠商無法釐清非屬同一廠商備標時，甲機關之處理是否會有不同？ 貳、重點說明 行政院公共工程委員會(以下簡稱工程會)民國91年11月27日工程企字第09100516820號令[1]曾就前述採購法第50條第1項第5款所稱「重大異常關聯」，說明「機關辦理採購有下列情形之一者，得依政府採購法第五十條第一項第五款『不同投標廠商間之投標文件內容有重大異常關聯者』處理：……四、廠商地址、電話號碼、傳真機號碼、聯絡人或電子郵件網址相同者。五、其他顯係同一人或同一廠商所為之情形者。」故不同投標廠商間之投標文件倘有聯絡資訊相同，顯係同一人或同一廠商所為之情形，即構成投標文件內容有重大異常關聯，屬影響採購公正之違反法令行為。 本案A、B廠商之投標文件有聯絡人、傳真、電話號碼記載相同情形，且該等廠商未能合理說明其緣由，似已符合「重大異常關聯」要件。然採購申訴審議委員會指出本案無採購法第50條第1項第5款規定之適用，其理由為： 一、投標廠商間未有競爭情形存在時，無適用採購法第50條第1項第5款之餘。 採購法第50條第1項第5款規定「投標廠商有下列情形之一，經機關於開標前發現者，其所投之標應不予開標；於開標後發現者，應不決標予該廠商：……五、不同投標廠商間之投標文件內容有重大異常關聯者。」該條款係91年2月6日增訂，依立法院交通委員會審查會通過送院會二讀之條文對照表說明欄記載「第1項增訂第5款，以防止假性競爭行為，例如不同廠商間之投標文件內容筆跡相同、押標金由同一人繳納、掛號信連號、地址相同、電話號碼相同之情形……」，復參工程會96年6月25日96工程企傳字第F961354號函(以下簡稱工程會96年函)揭示「關於政府採購法50條第1項第5款規定，係為防止假性競爭之情形。依來函所述個案採分項決標，且地址、傳真、電話相同之二家廠商各投不同項目，尚非彼此互相競爭，自無上開條款之適用」[2]，是採購申訴審議委員會認為，採購法第50條第1項第5款立法目的係為防止假性競爭之行為，倘投標廠商間無須有競爭情形存在時，即無條款之適用。 二、本案第一期程與第二期程之廠商間，以及第二期程之廠商間無須競爭，故無採購法第50條第1項第5款適用。 採購申訴審議委員會指出，本採購案採二期程招標方式辦理，投標須知規定：「第二期程之招標於第一期程採購決標後再公告」、「曾參加第一期程投標之廠商，不論是否合格或得標或併列得標，均不得參加第二期程之投標」、「第一期程決標品項即為第二期程之採購項目。第一期程採購各項之決標金額即為第二期程採購之決標金額，廠商僅得就招標機關……公告第一期程決標金額及對應之品項中選擇適合者投標(跟進)，不得報列公告之決標金額以外之價格及非屬第一期程所公告之決標品項」、「第一期程決標項目之決標價格及合格品項，俟決標後本局將另行於第二期程之招標文件公告」、「本案競標機制，……以投標廠商最低價者得標並採複數決標，得跟進最低價併列得標之廠商家數依第一期程全區廠商依報價由低至高排列取前80%為上限，第二期程單區廠商不設上限」。 是以，A廠商係參加本案第一期程投標之廠商，不論其是否合格或得標或併列最低標得標，均不得參加第二期程之投標，而參與第二期程之B廠商，係按甲機關公告之第一期程決標品項及金額跟進，且第二期程得標廠商之家數並無限制，故參與第二期程與參與第一期程之廠商彼此間，以及參與第二期程之廠商彼此間，均無須競爭，爰本案無採購法第50條第1項第5款之適用。 參、事件評析 就本案申訴審議委員會提出之理由及所為之結論，筆者以為有下述二點得再為細部討論： 一、本案第二期程雖可跟進最低標併列得標廠商之家數未設上限，惟廠商於履約階段與相同供貨區域之其他得標廠商仍具有競爭關係，自有適用採購法第50條第1項第5款規定必要。 查，採購申訴審議委員會以採購法第50條第1項第5款立法理由，以及工程會96年函內容，認為廠商間有競爭情形始得適用該條款，此見解固屬正確，然採購申訴審議委員會認為B廠商不適用採購法第50條第1項第5款規定，係因第二期程之廠商彼此間無須競爭，實有討論空間。蓋本案爭議應為參與不同期程之廠商間，如彼等投標文件有聯絡資訊記載相同情形，甲機關得否以採購法第50條為處理。故採購申訴審議委員會就本案B廠商不適用上開法條所提理由，似未解決本案爭執之點。 次查，採購申訴審議委員會以採購法第50條第1項第5款立法理由，以及工程會96年函文，似認為僅在投標階段始禁止廠商彼此間假性競爭，而本案投標須知既然未限制第二期程之得標廠商家數，第二期程之廠商彼此間自無競爭問題。惟本案第二期程之廠商間，是否確無競爭關係，以及是否僅需於投標階段討論競爭關係，筆者均認有待商榷。 觀諸採購申訴審議委員會援引之採購法第50條第1項第5款立法理由及工程會96年函文，並未排除履約階段之適用。甚且，由政府採購法第1條規定「為建立政府採購制度，依公平、公開之採購程序，提升採購效率與功能，確保採購品質，爰制定本法」，以及採購法施行細則第33條第1項前段規定「同一投標廠商就同一採購之投標，以一標為限」可知，政府採購各程序均應維持公平、公正之秩序，故無論於投標、開標、決標乃至履約階段，自應防止廠商間有假性競爭可能，廠商不得利用人頭在同一採購案分別投標，以維護各個投標廠商及得標廠商間之平等，始為恰當。 經查，因本案第二期程可跟進最低標併列得標廠商之家數未設上限，當同一採購項目之得標廠商愈多，各廠商於該項目獲得訂單之機會將被稀釋。則某一廠商為了使其有更多適用機關之訂單，而利用多數人頭參與第二期程投標，且均跟進成為得標廠商，自難謂未牴觸政府採購要求之公平及公正。而此競爭關係存在於履約階段，如將之排除於採購法第50條第1項第5款之適用範圍，即可能成為法規漏洞而導致廠商有投機行為，自非採購法所允許。 準此，尚不得以本案可跟進最低標併列得標廠商之家數未設上限，即可逕認第二期程投標廠商間無須競爭，蓋本案第二期程廠商之競爭關係存在於履約階段，為確保採購程序公平、公正秩序，本案第二期程仍應適用採購法第50條第1項第5款規定。 二、參與本案第一期程及第二期程投標廠商間有競爭關係，適用採購法第50條第1項第5款規定。 本案雖區分二種投標型式，然均屬同一採購案；無論是第一期程之「全國各公部門」或第二期程之「特定縣市公部門」，皆允許有二家以上之得標廠商；參與第一期程「全國各公部門」之得標廠商可供貨至全國各縣市，自會與第二期程「特定縣市公部門」之供貨區域重疊，是若第一期程之廠商與第二期程之廠商於本案之投標品項重複時，於彼此相同供貨區域即屬相互競爭關係。 再者，本案針對第一期程「全國各公部門」設有跟進廠商家數上限，復規定參與第一期程投標之廠商不得參與第二期程，是參與第一期程之廠商如為避免無法跟進，或為增加取得適用機關訂單之機會，自有可能與第二期程廠商透過共謀投標文件而營造假性競爭之可能，確保其能進入本採購案。 準此，本案第一期程之A廠商與第二期程之B廠商因供貨區域及投標品項有重複情形，故A、B廠商於履約階段具有競爭關係，倘彼等無正當理由釐清投標文件何以所載聯絡人、傳真、電話號碼相同，投標區域均相同，甲機關自得依採購法第50條第1項第5款規定處理。末查，前述採購法施行細則第33條第1項前段規定同一投標廠商就同一採購以投一標為限，依此法理，自須禁止參與第一期程廠商以人頭方式再參與第二期程投標，以迂迴手法規避上揭規定而於同一採購案投標二次，併此敘明。 [1] 〈行政院公共工程委員會令 工程企字第○九一○○五一六八二○號〉，政府採購法規解釋函令及相關函文，http://plan3.pcc.gov.tw/gplet/mixac.asp?num=1673（最後瀏覽日：2019/04/11）。 [2] 〈行政院公共工程委員會令 96工程企傳字第F961354號〉，政府採購法規解釋函令及相關函文，http://plan3.pcc.gov.tw/gplet/mixac.asp?num=2516（最後瀏覽日：2019/04/11）。
歐盟「人工智慧法」達成政治協議，逐步建立AI準則歐盟「人工智慧法」達成政治協議， 逐步建立AI準則 資訊工業策進會科技法律研究所 2023年12月25日 隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。 壹、發佈背景 歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。 歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。 貳、內容摘要 AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下： 臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。 臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。 考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。 臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。 參、評估分析 在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。 此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。 面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023). [2]European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023). [3]Artificial intelligence act,P5-7,https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023). [4]GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023). [5]General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2(last visited December 25, 2023).