美國國防部「人工智慧國防運用倫理準則」
美國國防部（Department of Defense）於2020年2月採納由美國國防創新委員會（Defense Innovation Board, DIB）所提出之「人工智慧國防運用倫理準則（AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense）」，以衡平倫理與人工智慧於國防帶來之增益。
美國國防創新委員會為美國聯邦政府下之獨立委員會，設置目的在於依美國新創科技，提供意見予美國國防部，與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣，美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」，以因應人工智慧於國防之應用所產生之問題。
倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」，對於「人工智慧」之定義，倫理準認為人工智慧並無精確之範疇，只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」，皆為本準則下之人工智慧。倫理準則指出，「人工智慧」與美國國防部3000.09指令下之「自動化武器系統（Autonomous Weapon System）」之定義不同，但有可能重疊，而所謂「自動化武器系統」為「一經人類選擇啟動，即可在無人類監督之情形下，自動針對目標進行鎖定或進行攻擊之自動化武器系統」。
美國國防創新委員會表示，該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下，融入現代化對於人工智慧之要求，如國際公約中之戰爭法（Law of War）即為本準則之傳統標準之一，舉例而言，如人工智慧被裝置於武器中，其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。
除此之外，準則亦包含以下現代化對於人工智慧之要求：（1）人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務，且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任；（2）對於目標之選擇或分類，應維持公平性，且不得有歧視性；（3）對於人工智慧之設計、應用以及使用，應有明確之工程標準以及資料保存程序，此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善；（4）「戰爭或非戰爭用途之人工智慧」應有明確之應用領域，且完善之檢測、維修，應適用於該人工智慧之全部生命週期。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
歐盟「人工智慧法」達成政治協議， 逐步建立AI準則 資訊工業策進會科技法律研究所 2023年12月25日 隨著AI(人工智慧)快速發展，在各領域之應用日益廣泛，已逐漸成為國際政策、規範、立法討論之重點。其中歐盟人工智慧法案(Artificial Intelligence Act, AI Act，以下簡稱AIA法案)係全球首部全面規範人工智慧之法律架構，並於2023年12月9日由歐洲議會及歐盟部長歷史會達成重要政治協議[1]，尚待正式批准。 壹、發佈背景 歐洲議會及歐盟部長理事會針對AIA法案已於本年12月9日達成暫時政治協議，尚待正式批准。在法案普遍實施前之過渡期，歐盟執委會將公布人工智慧協定(AI Pact)，其將號召來自歐洲及世界各地AI開發者自願承諾履行人工智慧法之關鍵義務。 歐盟人工智慧法係歐盟執委會於2021年4月提出，係全球首項關於人工智慧的全面法律架構，該項新法係歐盟打造可信賴AI之方式，將基於AI未來可證定義(future proof definition)，以等同作法直接適用於所有會員國[2]。 貳、內容摘要 AIA法案旨在確保進入並於歐盟使用之AI人工智慧系統是安全及可信賴的，並尊重人類基本權利及歐盟價值觀，在創新及權利義務中取得平衡。對於人工智慧可能對社會造成之危害，遵循以風險為基礎模式(risk-based approach)，即風險越高，規則越嚴格，現階段將風險分為：最小風險(Minimal risk)、高風險(High-risk)、無法接受的風險(Unacceptable risk)、特定透明度風險(Specific transparency risk)[3]。與委員會最初建議版本相比，此次臨時協定主要新增內容歸納如下： 臨時協議確立廣泛域外適用之範圍，包含但不限於在歐盟內提供或部署人工智慧系統的企業[4]。但澄清該法案不適用於專門用於軍事或國防目的之系統。同樣，該協定規定不適用於研究和創新目的之人工智慧系統，也不適用於非專業原因之個人AI使用。 臨時協議針對通用AI(General purpose AI)[5]模型，訂定相關規定以確保價值鏈之透明度；針對可能造成系統性風險之強大模型，訂定風險管理與重要事件監管、執行模型評估與對抗性測試等相關義務。這些義務將由執委會與業界、科學社群、民間及其他利害關係人共同制定行為準則(Codes of practices)。 考量到人工智慧系統可用於不同目的之情況，臨時協議針對通用AI系統整合至高風險系統，並就基礎模型部分商定具體規則，其於投放市場之前須遵守特定之透明度義務，另強調對於情緒識別系統有義務在自然人接觸到使用這種系統時通知他們。 臨時協議針對違反禁止之AI應用，罰款金額自3,500萬歐元 或全球年營業額7%(以較高者為準)。針對違反其他義務罰款1,500萬歐元或全球年營業額3%，提供不正確資訊罰 款750萬歐元或全球年營業額1.5%。針對中小及新創企業違反人工智慧法之行政罰款將設定適當之上限。 參、評估分析 在人工智慧系統之快速發展衝擊各國社會、經濟、國力等關鍵因素，如何平衡技術創新帶來之便利及保護人類基本權利係各國立法重點。此次歐盟委員會、理事會和議會共同對其2021年4月提出之AIA法案進行審議並通過臨時協議，係歐洲各國對於現下人工智慧運作之監管進行全面的討論及認可結果，對其他國家未來立法及規範有一定之指引效果。 此次臨時協議主要針對人工智慧定義及適用範圍進行確定定義，確認人工智慧系統產業鏈之提供者及部署者有其相應之權利義務，間接擴大歐盟在人工智慧領域之管轄範圍，並對於人工智慧系統的定義縮小，確保傳統計算過程及單純軟體使用不會被無意中禁止。對於通用人工智慧基礎模型之部分僅初步達成應訂定相關監管，並對基礎模型之提供者應施加更重之執行義務。然由於涉及層面過廣，仍需業界、科學社群、民間及其他利害關係人討論準則之制定。 面對AI人工智慧之快速發展，各國在人工智慧之風險分級、資安監管、法律規範、資訊安全等議題持續被廣泛討論，財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境，將持續觀測各國法令動態，提出我國人工智慧規範之訂定方向及建議。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI,https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai (last visited December 25, 2023). [2]European Commission, Commission welcomes political agreement on Artificial Intelligence Act,https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (last visited December 25, 2023). [3]Artificial intelligence act,P5-7,https://superintelligenz.eu/wp-content/uploads/2023/07/EPRS_BRI2021698792_EN.pdf(last visited December 25, 2023). [4]GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2 (last visited December 25, 2023). [5]General purpose AI-consisting of models that “are trained on broad data at scale, are designed for generality of output, and can be adapted to a wide range of distinctive tasks”, GIBSON DUNN, The EU Agrees on a Path Forward for the AI Act,https://www.gibsondunn.com/eu-agrees-on-a-path-forward-for-the-ai-act/#_ftn2(last visited December 25, 2023).
英國同意BT「下世代文字中際服務申請」為了讓聽力或語言障礙之民眾，取得更為便利的電信服務，英國Ofcom在2012年10月透過「回顧中繼服務-決策下世代文字中繼服務」(Review of relay services: Decision on the introduction of Next Generation Text Relay)陳述書(Statement)之發佈，提高通訊服務業者 (communications providers)對身障者的義務。根據陳述書內容，英國市話、行動通信業者必須在2014年4月18日，達成「下世代文字中繼服務」(Next Generation Text Relay，NGTR)之要求。因此，英國電信BT於去(2013)年11月提出審查申請，並在今年3月獲得Ofcom許可。 Ofcom要求下世代中繼服務最主要重點，主要可分為(1)透過網際網路的連接，提供雙向語音服務，讓雙方談話更為流暢；(2)促使更多載具皆可使用文字中繼服務。BT為了落實上述核心要求，除了透過提升服務性能、技術應變能力、員工培訓與申訴機制，增加中繼服務的品質，以通過Ofcom核可外，BT亦允諾2014年4月18日後，該公司文字中繼服務將可進一步延伸至： 1.既有文字電話(textphones)與視障閱讀器(Braille readers)。 2.支援Windows XP系統以上個人、筆記型電腦。 3.適用Linux的Intel個人、筆記型電腦。 4.Intel型Mac OS X版本。 5.行動電話具有Android 4的作業系統。 6.2014年6月30日將可提供服務至蘋果公司相關產品，包括iPhone與iPad。 BT不僅提供文字中繼服務於自身客戶，亦提供批發接取(Wholesale access)於其他通訊服務業者，使其具備文字中繼服務，讓非BT的消費者亦可獲得無障礙服務。相信隨著更多通訊服務業者提升文字中繼服務功能後，將可讓聽障、語言障礙民眾使用電信服務更加便利，使英國充分落實聯合國「身心障礙者權利公約」之精神。
美國眾議院外交事務委員達成協議，修訂《國家關鍵能力防禦法案》建立對外投資審查制度美國眾議院外交事務委員會於2022年6月13日在兩黨創新法案(HR4521)會議上，就對外投資機制新提案發表聯合聲明。兩黨達成協議修訂《國家關鍵能力防禦法案》(National Critical Capabilities Defense Act of 2022, NCCDA)，擴大對外投資審查制度。促使美國制定NCCDA對外投資審查立法乃係源於經濟和國家安全考量，美國關注特定技術向中國轉讓以及美國企業可能透過特定投資幫助提升中國能力之風險。因此，雖然NCCDA會給國際投資帶來不確定性，但美國兩黨及兩院內部仍支持實施特定形式的對外投資審查程序，並且與利益相關者就如何制定強而有力且具針對性的對外投資機制進行建設性的討論，目的是確保美國不會將關鍵產業製造能力拱手讓給外國競爭對手。 NCCDA授權成立國家關鍵能力委員會(Committee on National Critical Capabilities)，由美國貿易代表署擔任主席並與供應鏈安全相關聯邦機構成員共同組成，審查特定對外業務交易和活動包括：界定需要境外投資審查的活動範圍、明訂出境審查流程、及關鍵產業項目等。依據NCCDA第11條「國家關鍵能力(National Critical Capabilities)」定義，指對美國至關重要的有形及無形的系統和資產，若此類系統和資產無法開發、失能或遭到破壞，將對國家安全造成破壞性影響。委員會應負責界定涉及「國家關鍵能力」產品、供應鏈和服務；列舉國家關鍵能力產業領域包括：能源、醫療、通訊、國防、運輸、航空航太、機器人、人工智慧、半導體、造船、水等。若美國人和外國實體從事「涵蓋活動」者，必須在展開活動前至少60天以書面形式通知委員會。委員會將會通知審查，若確定所涵蓋的活動對國家關鍵能力構成不可接受的風險，委員會可以實施緩解措施，或建議總統採取特定行動，包括暫停和禁止該活動。美國兩黨期待各方利益相關者能以書面形式參與討論，確保NCCDA法案通過並滿足各方需求，使美國與盟友國的對外投資機制保持一致。
行動通信事業提供視訊服務之法律議題研究