歐盟執委會提出「具可信度之人工智慧倫理指引」

  歐盟執委會人工智慧高級專家小組(High-Level Expert Group on Artificial Intelligence)於2019年4月8日公布「具可信度之人工智慧倫理指引」(Ethics Guidelines For Trustworthy AI)。該指引首先指出,具可信度之人工智慧需具備三個關鍵特徵:(1)合法(Lawful):應遵守所有適用於人工智慧之法規;(2)合乎倫理(Ethical):確保人工智慧符合倫理原則與價值;(3)健全(Robust):自技術與社會層面觀之,避免人工智慧於無意間造成傷害。

  該指引並進一步指出人工智慧應遵守以下四項倫理原則:

(1) 尊重人類之自主權(Respect for Human Autonomy):歐盟之核心價值在於尊重人類之自由與自主,與人工智慧系統互動之個人,仍應享有充分且有效之自我決定空間。因此,人工智慧之運用,不應脅迫、欺騙或操縱人類,人工智慧應被設計為輔助與增強人類之社會文化技能與認知。

(2) 避免傷害(Prevention of Harm):人工智慧不應對人類造成不利之影響,亦不應加劇既有的衝突或傷害。人工智慧之系統運行環境應具備安全性,技術上則應健全,且確保不會被惡意濫用。此外,弱勢族群應於人工智慧運用中受到更多關注,並被視為服務對象。

(3) 公平(Fairness):人工智慧系統之開發、布建與利用,必須具備公平性。除了透過實質承諾與規範,進行平等與公正之利益與成本分配外,亦須透過救濟程序確保個人或特定族群不受到歧視與偏見之侵害,並可對人工智慧之自動化決策結果提出質疑,且獲得有效之補救。

(4) 可解釋性(Explicability):人工智慧應盡量避免黑箱(Black Box)決策,其系統處理程序須公開透明,並盡可能使相關決策結果具備可解釋性,分析特定訊息可能導致之決策結果,此外亦需具備可溯性且可接受審核。

本文為「經濟部產業技術司科技專案成果」

你可能會想參加
※ 歐盟執委會提出「具可信度之人工智慧倫理指引」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8236&no=0&tp=1 (最後瀏覽日:2026/10/31)
引註此篇文章
你可能還會想看
RPX公司藉買進大量專利之策略,避開Patent trolls 1 之威脅

  位於舊金山的RPX公司為一積極買進大量專利為目的所成立的新創公司。該公司宣稱自己為“防禦型專利的聚集者”,計畫買進有用專利,以協助保護科技公司遭受專利流氓提出專利訴訟,進而必須付出昂貴專利權利金或授權金。   RPX公司由Kleiner Perkins Caufield & Byers 及Charles Rivers Ventures兩家創投公司共同籌措資金而成立,其執行長為John Amster及Geoffrey Barker,兩位先前皆為另一專門購買專利之企業 Intellectual Ventures的副總裁。   RPX將採會員制方式,依公司營業收入的情況,每年收取固定3萬5千美元到 4百9拾萬美元的費用。會員將可依公司營運需求取得RPX之專利授權。2008年11月The Wall Street Journal 2 刊登出Cisco Systems與IBM已成為RPX的會員成員之一。   RPX公司稱已獲得150件美國專利,並另已提交申請60件美國專利,總價值共4仟萬美元,其領域包括網際網路搜尋(Internet search),無線射頻身分識別(radio frequency identification),以及行動技術(mobile technology)。 註1:Patent trolls(專利流氓) 為握有專利但不運用於公司之製造或銷售產品,而是透過專利授權而取得權利金或若不接受專利授權者,藉由提出專利訴訟而取得損害賠償金之公司。 註2:The Wall Street Journal為提供財政、商業及經濟等相關消息之報紙全文。

OSS V.S. Mircosoft風暴湧現 誰會是微軟時代的終結者

  微軟在文書處理軟體的獨占鰲頭局勢已漸漸產生變化。   首先,昇陽(Sun)與Google簽下合作協議將推廣在網路上免費使用的文字處理軟體「OpenOffice」,兩家的合作對微軟OFFICE套裝軟體營收將會有很大的殺傷力。   再者,十月份正式推出的OpenOffice.org 2.0軟體,是第一套可穩定支援新XML開放文件格式(OpenDocument Format;ODF)標準的開放原始碼辦公室軟體。ODF是由OASIS(Organization for the Advancement of Structured Information Standards;結構化資訊標準推動組織)所制定的,採用XML儲存格式,具備共用性、跨平台等特性,並支援文書處理和資料庫等各種儲存格式。OpenOffice.org 2.0軟體還可以支援36國語言,又可在Microsoft Corp's Windows,Linux,Sun's Solaris等多家系統上執行 。   此外,美國麻薩諸塞州宣布自2007年起該州政府文件只能存成OpenDocument或Adobe的PDF兩種格式,因此該州所屬機關必須汰換不支援這2種格式的軟體,當然包括微軟OFFICE套裝軟體,如此一來微軟損失至少數百萬美元以上的商機。如果其他政府部門跟進,這不僅意味ODF的一大勝利,也將重挫微軟的龍頭地位。而Corel及Novell也重申支持OpenDocument格式。   此些舉動對於微軟的根基大業OFFICE套裝軟體可真是成心頭大患。

美國國家安全局發布「軟體記憶體安全須知」

  美國國家安全局(National Security Agency, NSA)於2022年11月10日發布「軟體記憶體安全須知」(“Software Memory Safety” Cybersecurity Information Sheet),說明目前近70%之漏洞係因記憶體安全問題所致,為協助開發者預防記憶體安全問題與提升安全性,NSA提出具體建議如下:   1.使用可保障記憶體安全之程式語言(Memory safe languages):建議使用C#、Go、Java、Ruby、Rust與Swift等可自動管理記憶體之程式語言,以取代C與C++等無法保障記憶體安全之程式語言。   2.進行安全測試強化應用程式安全:建議使用靜態(Static Application Security Testing, SAST)與動態(Dynamic Application Security Testing, DAST)安全測試等多種工具,增加發現記憶體使用與記憶體流失等問題的機會。   3.強化弱點攻擊防護措施(Anti-exploitation features):重視編譯(Compilation)與執行(Execution)之環境,以及利用控制流程防護(Control Flow Guard, CFG)、位址空間組態隨機載入(Address space layout randomization, ASLR)與資料執行防護(Data Execution Prevention, DEP)等措施均有助於降低漏洞被利用的機率。   搭配多種積極措施增加安全性:縱使使用可保障記憶體安全之程式語言,亦無法完全避免風險,因此建議再搭配編譯器選項(Compiler option)、工具分析及作業系統配置等措施增加安全性。

美國最高法院認定警方向通信業者取得嫌犯之通信之基地台位址資訊須持有搜索票

  繼2012年最高法院認為警方在無搜索令的情況下,以GPS追蹤裝置查探犯罪嫌疑人之位置資訊違反憲法第四修正案。最高法院於2017年6月5日,認為警方未持搜索票,而向電信公司取得犯罪嫌疑人過去127天共計12,898筆之行動通信基地台位置資訊(cell-site data)之行為,違反憲法第四修正案。   由於個人利用行動通訊服務時,必須透過基地台進行通訊,因而可藉由該基地台位置,得知每個人所在之區域位置,而此一通訊紀錄過去被電信公司視為一般的商業資訊,因為得知通訊基地台的位置資訊,無法直接得知個人所在的精準位置,僅能得知其概略所在地區。   因此,犯罪調查機關基於1979年 Smith v. Maryland案所建立之原則,即只要該個人資訊屬於企業的一般商業紀錄(normal business record),警方可以在無搜索令的情況下,向企業取得個人資訊, 此一原則又稱為第三方法則(third-party doctrine)。過去在地方法院或上訴法院的審理中,法院對此多持正面見解,認為只要該資料與進行中之犯罪偵查活動有實質關聯(relevant and material to an ongoing criminal investigation),警方即可向業者取得。大法官Sonia Sotomayor早在前述2012年GPS追蹤裝置案的協同意見書中表示,第三方法則不應適用在數位時代,例如用戶撥電話給客服人員,或以電子郵件回覆網路購物的賣方等,無數的日常活動已經大量的向第三方揭露許多資訊。   在數位時代,大量的個人資訊以電磁紀錄的形式掌握在第三方手中,本案最高法院的見解,將會對美國的犯罪調查機關在未持搜索令的情況下,更慎重的判斷向業者取得個人資訊做為犯罪偵查使用時,是否與憲法第四修正案有所違背。

TOP