英國與美國為人工智慧安全共同開發簽署合作備忘錄
英國技術大臣（U.K. Secretary of State for Science）蜜雪兒·多尼蘭（Michelle Donelan）和美國商務部長（U.S. Secretary of Commerce）吉娜·雷蒙多（Gina Raimondo）於2024年4月1日在華盛頓特區簽署一份合作備忘錄（MOU），雙方將共同開發先進人工智慧（frontier AI）模型及測試，成為首批就測試和評估人工智慧模型風險等進行正式合作之國家。
此備忘錄之簽署，是為履行2023年11月在英國的布萊切利公園（Bletchley Park）所舉行的首屆人工智慧安全峰會（AI Safety Summit）上之承諾，諸如先進AI的急速進步及濫用風險、開發者應負責任地測試和評估應採取之適當措施、重視國際合作和資訊共享之必要性等等，以此為基礎羅列出兩國政府將如何在人工智慧安全方面匯集技術知識、資訊和人才，並開展以下幾項聯合活動：
1.制定模型評估的共用框架（model evaluations），包括基礎方法（underpinning methodologies）、基礎設施（infrastructures）和流程（processes）。
2.對可公開近用模型執行至少一次聯合測試演習（joint testing exercise）。
3.在人工智慧安全技術研究方面進行合作，以推進先進人工智慧模型之國際科學知識，並促進人工智慧安全和技術政策的一致性。
4.讓英、美兩國安全研究所（AI Safety Institute）間的人員互相交流利用其團體知識。
5.在其活動範圍內，依據國家法律、法規和契約規定來相互共享資訊。
換言之，兩國的機構將共同制定人工智慧安全測試之國際標準，以及適用於先進人工智慧模型設計、開發、部署、使用之其他標準。確立一套通用人工智慧安全測試方法，並向其他合作夥伴分享該能力，以確保能夠有效應對這些風險。就如英國技術大臣蜜雪兒·多尼蘭強調的，確保人工智慧的安全發展是全球性問題，只有通過共同努力，我們才能面對技術所帶來的風險，並利用這項技術幫助人類過上更好的生活。
- The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK
- U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce
- Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024
林允中
法律研究員 編譯整理
The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK, https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023 (last visit June 30, 2024).
U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce, https://www.commerce.gov/news/press-releases/2024/04/us-and-uk-announce-partnership-science-ai-safety (last visit June 30, 2024).
Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024, https://questions-statements.parliament.uk/written-statements/detail/2024-04-16/hcws409 (last visit June 30, 2024).
E-bay集團旗下的線上付款服務公司PayPal的代表律師Joseph E. Sullivan 於三月二十七日在倫敦舉辦的第五屆國際網路犯罪討論會議( International E-Crime Congress )中，提案要求電子信箱服務提供業者透過封鎖未附有電子簽章(Digital Signature)信件之方式，減少網路釣魚騙局(Phishing)的產生。該提案主要目的在透過電子信箱服務提供業者過濾垃圾郵件篩選系統( Spam Filters)，以防堵看起來幾可亂真的網路釣魚郵件。雖然參與該國際網路犯罪討論會議的業者及政府機構並未對該提案達成共識，但是PayPal公司已和Google公司旗下的電子信箱服務Gmail達成協議，加強過濾垃圾郵件的篩選。 PayPal 是最常被詐騙集團利用偽裝郵件(Spoofing Emails)的受害公司之一，目前詐騙集團以偽裝公司郵件的技術進行網路釣魚，以騙取個人資料或帳號密碼來謀利。Paypal目前已使用數項電子簽章的安全技術，其中包括Yahoo!公司所研發的網域認證鑰匙(DomainKeys），該技術能有效地判斷寄件者的網域（Domain）是否為偽造及寄出信件是否來自偽造的網域。 目前網路釣魚的網站如雨後春筍般地出現，根據一份由國際業者及政府機構聯合提出之「反網路釣魚世界組織」(Anti-Phising World Group)報告指出，統計至今年一月份為止，全世界的詐騙網站已高達兩萬九千九百三十個。故PayPal特別對反制網路詐騙集團利用即可亂真的網路釣魚郵件，將上述提案於國際會議中提出討論 。
日本中小企業廳與特許廳聯合施政，強化中小企業或新創企業智財資源之運用日本於2021年12月27日公布「促進中小企業或新創企業智財運用之行動計畫」，該行動計畫是考量到面臨COVID-19疫情、數位化轉型、氣候變遷等背景下，中小企業或新創企業必須善用企業嶄新的技術或發想，以應對商業環境的變化，而智財權作為企業競爭力的動力來源，顕示出強化智財的管理及運用是不可欠缺的課題。 為了提升中小企業或新創企業的智財運用，日本中小企業廳與特許廳以提供一站式服務整合智財運用支援作為目標，制定行動計畫。施政主要重點如下： 強化與「智財綜合支援窗口」之整合：中小企業廳強化與特許廳聯合INPIT（National Center for Industrial Property Information and Training，獨立行政法人工業所有權情報研修館。主要業務為提供智財資料查詢、諮詢窗口、智財人才培育）共同設立的「智財綜合支援窗口」。促使「智財綜合支援窗口」與既有中小企業廳的商業管理諮詢窗口，共同協助企業以智財運用解決商業管理課題、建構智財戰略，同時也有提供專家派遣協助在地品牌的管理。 優化智財交易：除了加強中小企業廳的商業管理諮詢窗口與智財綜合支援窗口的資訊流通之外，INPIT也搭配說明動畫，提供企業智財相關法規、契約書範本、外包法等與智財交易相關知識，以及幫助企業製作用於金融機構評估企業智財價值時之文件。 海外發展智財支援：中小企業廳與特許廳針對海外發展的企業發放外國智財權申請之補助金、政策施予優惠措施，並由INPIT提供海外發展時，應留意智財權相關風險等專業建議。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
IBM提出「人工智慧日常倫理」手冊作為研發人員指引隨著人工智慧快速發，各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題，應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」（Everyday Ethics for Artificial Intelligence）手冊，其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範，該手冊提供了問責制度、價值協同、可理解性等關注點，以促進社會對人工智慧的信任。 一、問責制度（Accountability） 由於人工智慧的決策將作為人們判斷的重要依據，在看似客觀的演算系統中，編寫演算法、定義失敗或成功的程式設計人員，將影響到人工智慧的演算結果。因此，系統的設計和開發團隊，應詳細記錄系統之設計與決策流程，確保設計、開發階段的責任歸屬，以及程序的可檢驗性。 二、價值協同（Value Alignment） 人工智慧在協助人們做出判斷時，應充分考量到事件的背景因素，其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員，應協同應用領域之價值體系與經驗，並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時，設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀，使演算系統與使用者之行為準則相符。 三、可理解性（Explainability） 人工智慧系統的設計，應盡可能地讓人們理解，甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大，其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解，並針對人工智慧結論或建議，進而有所反饋的重要關鍵；並使用戶面對高度敏感決策時，得以據之檢視系統之背景數據、演算邏輯、推理及建議等。 該手冊提醒，倫理考量應在人工智慧設計之初嵌入，以最小化演算的歧視，並使決策過程透明，使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊，應視為影響數百萬人甚至社會生態的核心角色，應負有義務設計以人為本，並與社會價值觀和道德觀一致的智慧系統。
歐盟宣部推動「展望2020」計劃歐盟在2013年12月3號正式通過「展望2020」(Horizon 2020)計劃，將在未來7年(2014-2020)之間，在10大領域投入770億歐元發展「尖端科學」(Excellent science)、「領導性工業」(Industrial leadership)與「社會挑戰」(Societal challenges)三大項目，以此承繼歐盟第七期科技研發計畫架構(7th research Framework Programme,FP7)所建立的基石。目前，歐盟在三大項目中，在今(2014)年發展項目分別是： 1.「尖端科學」：歐洲理事會將編列30億歐元，資助頂尖的科學家從事相關研究。此外，歐盟亦將透過獎學金的方式，鼓勵優秀的年輕研究者。 2. 「領導性工業」：透過18億的預算資助歐盟在產業領先的項目，包括是通訊技術、奈密、機器人等產業。 3.「社會挑戰」：歐盟將透過28億元解決2020年可能遇到的七個社會挑戰，例如是衛生、農業、海洋、生物科技、能源、交通、氣候行動、環境、與資源利用等領域。 在各大項目當中，因資通訊(ICT)產業占整體經濟4.8%外、且資通訊的研發設計(Research and Development) 又佔企業整體營收約25%。因此，促使歐盟在「展望2020」在ICT領域發展預算編列，高於歐盟FP746%，藉此加速資通訊技術、知識之革新與發展。至於，今(2014)年ICT在「領導性工業」發展項目中，將朝向以下6點發展： 1.下世代零組件與系統(A new generation of components and system)。 2.先進的計算(Advanced Computing)。 3.未來網際網路(Future Internet) 4.內容技術與資訊管理(Content technologies and information management)。 5.機器人(Robotics) 6.微型、奈米科技、與光電(Micro- and nano-electronic technologies, Photonics)。 綜觀上述六點，除了機器人、微型、奈米科技之新穎性，格外受人注目外，在「未來網際網路」與「內容技術與資訊管理」，亦須值得持續追蹤。在「未來的網際網路」發展上，歐盟將「智慧網路與新穎網路體系」(Smart Networks and novel Internet Architectures)、「先近雲端基礎建設與服務」(Advanced Cloud Infrastructures and Services )與「智慧光學與無線網路技術」(Smart optical and wireless network technologies)列為發展方向。 在「內容技術與資訊管理」上，巨量資料的研究(Big data-research)與創新與社群行銷的整合(Big data Innovation and take-up)，則是歐盟未來1年發展項目之一。我國從2010年推動「數位匯流發展方案」(2010-2015年)，其中如何促進新興媒體的發展與增加網路間競爭，一直為我國發展重點。因此，我國除了可透過歐盟所推動的「展望2020」為參考，從中思索是否具有政策盲點外，亦可成為2015年後科技政策進行先導計畫。