IBM提出「人工智慧日常倫理」手冊作為研發人員指引

  隨著人工智慧快速發,各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題,應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」(Everyday Ethics for Artificial Intelligence)手冊,其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範,該手冊提供了問責制度、價值協同、可理解性等關注點,以促進社會對人工智慧的信任。

一、問責制度(Accountability)
  由於人工智慧的決策將作為人們判斷的重要依據,在看似客觀的演算系統中,編寫演算法、定義失敗或成功的程式設計人員,將影響到人工智慧的演算結果。因此,系統的設計和開發團隊,應詳細記錄系統之設計與決策流程,確保設計、開發階段的責任歸屬,以及程序的可檢驗性。

二、價值協同(Value Alignment)
  人工智慧在協助人們做出判斷時,應充分考量到事件的背景因素,其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員,應協同應用領域之價值體系與經驗,並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時,設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀,使演算系統與使用者之行為準則相符。

三、可理解性(Explainability)
  人工智慧系統的設計,應盡可能地讓人們理解,甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大,其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解,並針對人工智慧結論或建議,進而有所反饋的重要關鍵;並使用戶面對高度敏感決策時,得以據之檢視系統之背景數據、演算邏輯、推理及建議等。

  該手冊提醒,倫理考量應在人工智慧設計之初嵌入,以最小化演算的歧視,並使決策過程透明,使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊,應視為影響數百萬人甚至社會生態的核心角色,應負有義務設計以人為本,並與社會價值觀和道德觀一致的智慧系統。

相關連結
相關附件
※ IBM提出「人工智慧日常倫理」手冊作為研發人員指引, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8195&no=55&tp=1 (最後瀏覽日:2026/04/19)
引註此篇文章
你可能還會想看
日本總務省暫緩《電波法》「取消無線電臺外資限制」修正案

  現行日本《電波法》第5條第1項規定,具有以下要件者不予頒發無線電臺執照,一、非日本國籍者;二、外國政府及其代表;三、外國公司或集團;四、法人、組織,其代表為前三款所列之人員,或者佔其管理人員三分之一以上或三分之一以上表決權之法人或組織。   前日本首相菅義偉內閣時期,總務省於今年6月召開專家會議,認為衛星通訊領域將帶來災害預測、交通遙測及智慧農業等各領域的新興應用,太空新創產業發展充滿了無限的可能性,為避免新創公司產生募集資金之困難,擬修正《電波法》,刪除「外資具三分之一以上表決權之法人或組織不予頒發無線電臺執照」之限制,以促進太空衛星新創產業發展。   然而,日本新首相岸田文雄內閣於今年10月15日由總務省舉行專家會議,提出不同見解,認為應就各無線通訊產業訂定不同程度之外資監管政策,如地區型無線廣播電臺產業、商業電視頻道產業及衛星通訊產業等,分別就其對經濟安全所涉層面進行不同程度之外資管制,故總務省決定暫緩《電波法》修正案,將持續蒐集專家意見進行研議。

手機軟體(APP)辨識來電號碼之法律問題

手機軟體(APP)辨識來電號碼之法律問題 科技法律研究所 102年03月25日 壹、事件摘要   我國自2005年開始推展行動電話「號碼可攜」服務,允許使用者將行動電話號碼申請移轉至另一業者。當號碼進行移轉時,為降低通話路由資訊傳遞之延遲、避免業者間轉換作業之延宕,通傳會指導各業者共同建立集中式資料庫,整合業者號碼管理資源,增進號碼可攜服務之效率。   日前有某非屬電信事業之業者,設計一款應用軟體,提供智慧型手機使用者下載、安裝後,可自行上傳通訊錄內之電話號碼,並透過電信事業之「號碼可攜集中式資料庫」,確認並辨識通訊錄內電話號碼所屬電信業者,將資訊回傳於使用者之智慧型手機。由於電話號碼屬於使用者個人資料之一環,本文以下分析「非電信事業與電信事業合作,於號碼可攜目的外,對資料庫內之資料進行蒐集、處理與利用是否違反個資法」之疑義。 貳、重點說明   「號碼可攜集中式資料庫」之設立主要目的在使不同業者間能準確的完成通訊的連接。然而,通傳會於96年10月亦有要求各電信業者設置查詢系統,提供用戶查詢欲致電之受話方是否係屬同家業者,進而協助用戶瞭解可能之通訊資費計算。換言之,通傳會認為辨識電信號碼屬於網內/外,屬於消費者規劃、理解其電信資費之權益。而目前亦有手機軟體可輔助消費者查詢相關資訊。   那麼,可否允許消費者進一步查詢致電對象所屬的業者呢?是否違反個人資料保護法的規定呢?   如前所述,通傳會認為使消費者瞭解電信號碼屬於網內/外,有助於資費理解之權益。我們更進一步說,允許查詢號碼所屬門號,不僅消費者可知悉資費之數額計算以決定是否致電,尚可決定是否使用相同電信業者之服務來打電話。我國行動電話普及率早已超過120%,有相當比例之消費者擁有二個以上之門號,若可揭露致電號碼所屬電信業者,使消費者可刻意選擇以網內門號致電,無疑具有相當實益。因此我們認為電信業者提供消費者以手機軟體查詢門號所屬業者,並不違反個資法上針對電信服務規範之「特定目的」(第133項:經營電信業務與電信加值網路業務)。一般的行動電話用戶,可透過電信業者查詢其所致電對象之門號所屬業者,則居於輔助地位的APP軟體,與用戶直接向業者查詢相比,實則無任何不同,應視為用戶之合理行為。 參、事件評析   個資法修正後,對於個人資料之保護更加的完善,但科技之發展使得個人資料之利用呈現多樣性,難以釐清某些利用行為是好是壞,然而本文基於鼓勵科技發展以及創新研發的立場,當面對某些個資利用情狀產生疑義時,應加以釐清其運用之情狀,避免在情境不明時,過度的擴張個資保護的界線,對市場發展以及消費者權益而言,並非好事。   當然另一方面而言,濫用科技便利的情形是存在的,如同2012年12月甫結束之ITU國際電信大會(WCIT2012),多國所簽署之修正電信管制規則第5B條所示,要求各國應努力採取必要措施,防止未經許可之濫發電子訊息,以減少對國際電信業務之影響。由於網路無遠弗屆,具騷擾性、浮濫發送之訊息,已從早期之垃圾電子郵件,擴及網路即時通訊軟體,不但時常造成使用者之困擾,甚至造成詐騙橫行。而這些狀況,光依靠個資法也是不足的,尚須主管機關對於濫用電信資源加以管制,從個人資料與電信資源等層面多管其下,方能維護良好之產業環境。

政府資訊加值利用與管理法制研究:以美國及英國為例

加拿大發布國家智財戰略強化國際競爭力

  2018年4月26日世界知識產權日(World Intellectual Property Day),加拿大政府發布新的國家智財戰略。透過提昇加拿大企業的智財意識與加強智財服務業者監管,促進加拿大的創新生態體系。這次加拿大的智財戰略以法制、意識與工具為三大重點,內容涵括推動修法消除法制障礙、推動國民智財意識提昇、提供智財交易平台等工具給企業運用。其中法制障礙特別強調加拿大政府將立法防止國外專利蟑螂惡意運用智慧財產權的行為,以保障其企業在國際的競爭力。   其實臺灣在2012年由於產業面臨國際競爭,行政院就制定有「國家智財戰略綱領」,針對智財透過創造、運用流通、保護及人才等面向,擬訂戰略重點執行為期4年的智財行動計畫,目標引導產學研提升智財競爭力。今年智財行動計畫已執行完畢,但未來前瞻發展仍需擬定我國智財發展的戰略,沒有戰略性的布局與智財保護,政府投注再多經費,也無法幫助企業增加在國際市場上的競爭力。   期待臺灣政府部門能夠參考國際上,包括加拿大的智財戰略做法,廣納產業、學界更多的好意見,規劃我國智財政策接下來的10步棋該怎麼下。

TOP