英國與美國為人工智慧安全共同開發簽署合作備忘錄

英國技術大臣(U.K. Secretary of State for Science)蜜雪兒·多尼蘭(Michelle Donelan)和美國商務部長(U.S. Secretary of Commerce)吉娜·雷蒙多(Gina Raimondo)於2024年4月1日在華盛頓特區簽署一份合作備忘錄(MOU),雙方將共同開發先進人工智慧(frontier AI)模型及測試,成為首批就測試和評估人工智慧模型風險等進行正式合作之國家。

此備忘錄之簽署,是為履行2023年11月在英國的布萊切利公園(Bletchley Park)所舉行的首屆人工智慧安全峰會(AI Safety Summit)上之承諾,諸如先進AI的急速進步及濫用風險、開發者應負責任地測試和評估應採取之適當措施、重視國際合作和資訊共享之必要性等等,以此為基礎羅列出兩國政府將如何在人工智慧安全方面匯集技術知識、資訊和人才,並開展以下幾項聯合活動:

1.制定模型評估的共用框架(model evaluations),包括基礎方法(underpinning methodologies)、基礎設施(infrastructures)和流程(processes)。

2.對可公開近用模型執行至少一次聯合測試演習(joint testing exercise)。

3.在人工智慧安全技術研究方面進行合作,以推進先進人工智慧模型之國際科學知識,並促進人工智慧安全和技術政策的一致性。

4.讓英、美兩國安全研究所(AI Safety Institute)間的人員互相交流利用其團體知識。

5.在其活動範圍內,依據國家法律、法規和契約規定來相互共享資訊。

換言之,兩國的機構將共同制定人工智慧安全測試之國際標準,以及適用於先進人工智慧模型設計、開發、部署、使用之其他標準。確立一套通用人工智慧安全測試方法,並向其他合作夥伴分享該能力,以確保能夠有效應對這些風險。就如英國技術大臣蜜雪兒·多尼蘭強調的,確保人工智慧的安全發展是全球性問題,只有通過共同努力,我們才能面對技術所帶來的風險,並利用這項技術幫助人類過上更好的生活。

相關連結
你可能會想參加
※ 英國與美國為人工智慧安全共同開發簽署合作備忘錄, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9207&no=64&tp=1 (最後瀏覽日:2026/01/11)
引註此篇文章
你可能還會想看
歐盟執委會提出「2050低碳經濟策略規劃藍圖」

  為邁向低碳經濟時代,建立歐洲成為具競爭力之低碳經濟體,歐盟執委會(European Commission)於2011年3月8日向歐洲議會(European Parliament)提出「2050低碳經濟策略規劃(A Roadmap for Moving to a Competitive Low-Carbon Economy in 2050)」,並設定2050年低碳總目標,宣示將透過加強低碳技術研究發展、推動能源效率使用等方式,降低對石化燃料依賴,並提昇區域內更多就業機會。   隨著近期中東與北非地區石油危機,原油價格節節高升,已嚴重影響歐洲國家每年能源支出經費,並降低未來各國經濟成長率。歐盟執委會認為,必須積極促進歐洲國家,經由投入科技研發、提昇能源效率,有效抑制不斷提昇的能源成本,推動歐盟邁向低碳經濟社會;並且,所設定目標及推動措施,倘若有所遲緩或推延,越晚投入將導致日後所需投入經費成本更為昂貴,悔不當初。「2050低碳經濟策略規劃」所設定之目標為,規劃透過各種符合成本效率(Cost-Efficient)措施及方法,推動歐盟區域內溫室氣體排放量至2030年降低40%、至2040年降低60%、至2050年降低80%(以1990年排放量為基準),達成低碳經濟願景目標。     歐盟執委會表示,未來應強化推動低碳技術之研究發展,促進未來更廣泛運用,並強調應更全面加強推動策略性能源科技研究計畫(Strategic Energy Technology Plan , SET-Plan),未來10年內歐盟將再額外增加50 billion歐元投資,加強推動能源科技相關研發工作,及未來可供運用之工具措施。   「2050低碳經濟策略規劃」中,詳細規劃推動步驟,並區分各大領域分別施行。以電力部門(Power Sector)領域為例,運用低碳技術、潔淨技術設備所產製電力,至2020年將達到降低45%--60%比例之排放量,到2050年,所有發電技術之溫室氣體排放量更將降低至可接近於0;而對於「工業部門」所設定目標,2050年達成降低80%之目標,對於「家庭及辦公建築」部份,設定2050年可降低90%之目標,而「運輸部門」則設定於2050年達成降低60%之目標。此外,歐盟執委會更指出投資「智慧電網(Smart Grid)」的重要性,將可促使「需求端(Demand-Side)」更具效率性,更廣泛且分散之電力調配中心,以及啟動運輸系統電力化之時代。   低碳經濟社會所帶來福祉,並可降低歐盟每年能源支出,及對於石化燃料進口依賴程度,也促成轉變改以低碳技術產製電力能源,作為可行的替代因應方案;以及,低碳經濟社會型塑推動,除了投入經費研發技術外,相關運用更須透過教育、訓練、推廣,廣泛使大眾接受且樂於使用新興技術,如此未來將可衍生種類與數量均會更多之就業機會,也有助益於經濟成長;此外,推動低碳經濟亦可改善生活品質及健康生活,未來實際效應可改善公共健康、減少醫療費用支出、及降低對生態環境消耗破壞,均屬良善效益。   然而,歐盟執委會這些推動措施,亦傳出有反對聲音。「歐洲商業(Business Europe)」團體就對外表示,他們反對「2050低碳經濟策略規劃」所設定的這些超高標準,他們認為相關推動措施,未來將會嚴重傷害歐盟境內企業發展,因為主要競爭者如中國、日本及美國,相較而言,均未設定這麼高的推動目標。未來歐盟執委會這些規劃藍圖是否落實達成,值得後續觀察。

歐盟研究揭示研發策略新方向 將以氣候變遷、能源、健康與中小企業為主軸

  歐盟執委會於6月公布新的一般策略架構(Common Strategic Framework,CSF),在歐盟第七期研究架構計畫(FP7)於2013年告一段落後,CSF鎖定的研發策略方向仍會繼續,然此同時也引發一些不同的意見。為此執委會於6月間邀集產官學研進行討論,並於6月底揭示了新的計畫—Horizon 2020—。   歐盟執委會早於2011年初即發佈歐盟競爭力白皮書,揭櫫了未來新一期研究架構計畫之政策方向,其對於現有政策結構與資助機制有不小的衝擊。   新的CSF以氣候變遷、能源、健康與中小企業為研發資助之主軸,而為瞭解並蒐集各界包括大學、國有研究機構、各國政府以及企業界的意見,執委會於今年2月間發布了意見徵詢綠皮書以預先蒐集各界意見。根據執委會的規劃,新的CSF除要求教育體系應跟隨業界研發人才需求的腳步外,更鼓勵中小企業未來投入創新活動,因為執委會發現,歐洲的企業研發投資經費總額,僅有日本和南韓的一半。   歐盟執委會表示,氣候變遷、能源、健康與中小企業為未來研究資源資助與投入的方向,以呼應歐洲民眾的期待。此外,針對目前計畫所存在的行政效率不彰、缺乏透明性及計畫遲延等問題,也將列入未來改善重點,為此,歐洲議會已於6月進行FP7期中檢討時通過解決方案,日後將靠各國分別於歐盟及國家層級的計畫執行與管理中落實。   Horizon 2020計畫將於2014至2020年間斥資800億歐元於研發與工作機會的創造,以提升歐盟競爭力,後2013時期(post-2013)歐盟則將致力於化解計畫執行的分歧,確實協調各國投入新計畫的步調一致性。

歐洲藥物管理局「臨床試驗資料公開與近用政策」(草案)之定案日期將延後

  歐洲藥物管理局(European Medicine Agency,EMA)於今年六月下旬起至九月底止,開放接受公眾針對該局所擬「臨床試驗資料公開與近用政策」草案(draft policy on publication and access to clinical-trial data)提出回饋意見。所有公眾建言都將由EMA加以檢視,並將成為上述政策草案正式定案前之參考。原本EMA預計在2013年年底即對上述政策草案拍版定案,然而,由於歐洲藥物管理局收到超過一千則來自四面八方、不同立場之公眾回饋意見,為求妥適、深入檢視、分析這些意見,EMA原訂之定案時程將被迫遞延。新的定案時間表最慢將於十二月中上旬公布。   根據上述「臨床試驗資料公開與近用政策」草案之現行版本(亦即提供公眾評論並回饋意見之版本),原則上,EMA所持有之臨床試驗資料,將依其類型之差異而適用不同的公開或近用標準。依照EMA之分類,試驗資料將被區分為(1)「公開後不會導致個資保護疑慮之試驗資料」、(2)「如經公開,可能產生個資保護疑慮之試驗資料」、(3)「內含商業機密資訊之試驗資料」等三大類。上述第三類之「內含商業機密資訊之試驗資料」不會受到此一政策草案之影響,第二類資料將有限制的公開與提供近用,至於第一類資料,則將公開於EMA網站上供公眾下載。

何謂「證券型代幣發行(STO)」?

  運用區塊鏈技術發行加密貨幣(Cryptocurrency,又稱虛擬貨幣)進行募資,為當前熱門的新創募資手段之一,此種募資方式稱為首次代幣發行(Initial Coin Offering,ICO)。由於ICO過去並未受到監管,其發行也僅有發行人所撰寫的白皮書(Whitepaper)可供參考,投資人與發行人間有相當大的資訊落差,也因此導致以ICO為名的詐騙案件層出不窮。   對此各國監管機關紛紛對ICO進行分類與監管,美國證券交易委員會(SEC)即將加密貨幣區分為效用型代幣(Utility Token)與證券型代幣(Security Token),並將後者納入監管。SEC採用1946年美國聯邦最高法院在SEC v. W.J. Howey Co.案判決中所適用的標準(Howey Test),若「投資人基於對合理報酬的預期,對特定事業進行金錢的投資,且該獲利來自於他方的努力」,即屬於證券型代幣而需要受到監管。   SEC據此對涉及詐欺的ICO案件嚴格執法,並積極輔導非屬詐欺案件依法辦理註冊發行程序。證券型代幣發行(Security Token Offering,STO)即為配合SEC監管規範下,為消除過去對於ICO募資疑慮所產生的法遵解套辦法。對此我國金管會亦積極評估是否將STO的標準引進我國,惟因我國對有價證券之定義與要件,與SEC所採之Howey Test有所不同,而尚在研議當中。

TOP