美國加州「Asilomar人工智慧原則決議」

　　美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議（23 Asilomar AI Principles, ACR-215），此決議表達加州對於「23條Asilomar人工智慧原則」之支持，以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標，並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下：

（1）於研究原則上，人工智慧之研究應以建立對於人類有利之人工智慧為目標。
（2）於研究資助上，人工智慧之研究資助應著重幾個方向，如：使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。
（3）於科學政策之連結上，人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。
（4）於研究文化上，人工智慧研究者應保持合作、互信、透明之研究文化。
（5）於安全性上，人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。
（6）人工智慧系統應該於服務期間內皆具備安全性及可檢視性。
（7）人工智慧系統之編寫，應可使外界於其造成社會損失時檢視其出錯原因。
（8）人工智慧系統如應用於司法判斷上，應提供可供專門人員檢視之合理推論過程。
（9）人工智慧所產生之責任，應由設計者以及建造者負擔。
（10）高等人工智慧內在價值觀之設計上，應符合人類社會之價值觀。
（11）高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。
（12）對於人工智慧所使用之資料，其人類所有權人享有擷取、更改以及操作之權利。
（13）人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。
（14）人工智慧之技術應盡力滿足越多人之利益。
（15）人工智慧之經濟利益，應為整體人類所合理共享。
（16）人類對於人工智慧之內在目標應享有最終設定權限。
（17）高等人工智慧所帶來或賦予之權力，對於人類社會之基本價值觀應絕對尊重。
（18）人工智慧所產生之自動化武器之軍備競賽應被禁止。
（19）政策上對於人工智慧外來之發展程度，不應預設立場。
（20）高等人工智慧系統之研發，由於對於人類歷史社會將造成重大影響，應予以絕對慎重考量。
（21）人工智慧之運用上，應衡量其潛在風險以及可以對於社會所帶來之利益。
（22）人工智慧可不斷自我循環改善，而可快速增進運作品質，其安全標準應予以嚴格設定。
（23）對於超人工智慧或強人工智慧，應僅為全體人類福祉而發展、設計，不應僅為符合特定國家、組織而設計。

本文為「經濟部產業技術司科技專案成果」

相關連結

• 日本總務省公布AI運用原則草案