美國白宮發佈「AI應用監管指南」十項原則
美國白宮科技政策辦公室（Science and Technology Policy, OSTP）在2020年1月6日公布了「人工智慧應用監管指南（Guidance for Regulation of Artificial Intelligence Applications）」，提出人工智慧（AI）監管的十項原則，此份指南以聯邦機構備忘錄（Memorandum for the Heads of Executive Departments and Agencies）的形式呈現，要求政府機關未來在起草AI監管相關法案時，必須遵守這些原則。此舉是根據美國總統川普在去（2019）年所簽署的行政命令「美國AI倡議」（American AI Initiative）所啟動的AI國家戰略之一，旨在防止過度監管，以免扼殺AI創新發展，並且提倡「可信賴AI」。
這十項原則分別為：公眾對AI的信任；公眾參與；科學誠信與資訊品質；風險評估與管理；效益與成本分析；靈活性；公平與非歧視；揭露與透明；安全保障；跨部門協調。旨在實現三個目標：
一、增加公眾參與：政府機關在AI規範制定過程中，應提供公眾參與之機會。
二、限制監管範圍：任何AI監管法規實施前，應進行成本效益分析，且機關間應溝通合作，建立靈活的監管框架，避免重複規範導致限制監管範圍擴大。
三、推廣可信賴的AI：應考慮公平性、非歧視性、透明性、安全性之要求，促進可信賴的AI。
這份指南在發佈後有60天公開評論期，之後將正式公布實施。白宮表示，這是全球第一份AI監管指南，以確保自由、人權、民主等價值。
楊皓勻
副法律研究員 編譯整理
1. The White House, Guidance for Regulation of Artificial Intelligence Applications (Jan. 06, 2020), https://www.whitehouse.gov/wp-content/uploads/2020/01/Draft-OMB-Memo-on-Regulation-of-AI-1-7-19.pdf (last visited Feb. 10, 2020).
2. SciPol, Guidance for Regulation of Artificial Intelligence Applications (Draft Memorandum) (Jan. 07, 2020), https://scipol.duke.edu/track/guidance-regulation-artificial-intelligence-applications-draft-memorandum (last visited Feb. 10, 2020).
3. AI Trends, White House Releases 10 AI Principles for Agencies to Follow (Jan. 07, 2020), https://www.aitrends.com/ai-in-government/white-house-releases-10-ai-principles-for-agencies-to-follow/ (last visited Feb. 10, 2020).
4. Karen Hao, The US just released 10 principles that it hopes will make AI safer (Jan. 07, 2020), https://www.technologyreview.com/s/615015/ai-regulatory-principles-us-white-house-american-ai-initiatve/ (last visited Feb. 10, 2020).
數位建設在數位化浪潮以及AI來臨的年代，顯得非常重要，也是世界各國重視的議題之一，歐盟於2024年2月提出了「如何掌握歐洲的數位基礎建設需求？」（WHITE PAPER How to master Europe's digital infrastructure needs?）白皮書來匯集專家意見至6月30日止。 數位基礎建設所涵範圍甚廣，包含資訊科技所有的技術系統以及網際網路等等。如果沒有這些建設，將無法順利完成數位轉型及提升競爭力，況且人工智慧以及物聯網時代的到來，正在改變全球消費者的習慣，因此落實數位基礎建設佈建具有相當之必要性。白皮書開門見山地提到數位基礎建設的諸多優點，但要完成目標，需克服許多難題。 數位基礎建設的佈建需投入大量資金，更需仰賴公私協力才可順利達標，因此難題主要圍繞在企業實力以及是否能夠有相當之吸引力，促使企業投資者以龐大的金流支援，而企業投資者之目標以獲利為原則，因此如果要吸引大量投資人進場，必須提出成功施行並獲利的案例來拋磚引玉。白皮書內也提到，歐洲境內固網行動匯流尤其光纖及5G網路覆蓋率較世界各國來的低，且歐盟因為成員國眾多，缺乏單一的市場，難統籌規範，更何況歐盟對於複雜的數位基礎建設生態中，針對參與者沒有明確規範，諸如投入電子通訊網路建置之雲端供應商其權利義務關係，使得參與者無所適從，如何去克服這些絆腳石將會是歐盟的重大挑戰。 為克服數位基礎建設的難題，白皮書建議以三個支柱作為框架，其一為打造共同連結的運算網路系統（Connected Collaborative Computing）作為歐盟經濟體的中樞神經；其二為建立單一的數位市場，整合各國市場機制並建立完善法規制度；最後為所有數位基礎建設須安全且富有韌性，否則遭到攻擊，將會威脅歐盟各國。 數位化的時代，不僅可提提升運作效能，更能促進永續發展，然而工欲善其事，必先利其器，數位基礎建設為不可少之一環，鑒於我國推動數位建設佈建也可能面臨投資誘因的難題，歐盟白皮書所提到的建議以及後續的發展，或許值得我國持續關注。
美國明尼亞波利斯市禁止政府部門使用人臉辨識技術美國明尼蘇達州明尼亞波利斯市的市議會鑑於人臉辨識技術有可靠性的疑慮，以及對有色人種有潛在的傷害，該議會於2021年2月12日通過修正《明尼亞波利斯條例》（Minneapolis Code of Ordinances）關於資訊治理（Information Governance）的部分，新條例規定除有例外情形，禁止政府部門採購人臉辨識技術及使用從該技術獲得之資訊。明尼亞波利斯是繼波士頓、舊金山、奧克蘭等，新加入禁用人臉辨識技術的城市。 新條例是由該市市議會議員Steve Fletcher倡議，其指出市民擔心在未得其同意時使用人臉辨識技術進行監視，是否會侵害市民的隱私權。此外，根據研究亦顯示人臉辨識技術仍存在瑕疵，尤其是辨別婦女、兒童和有色人種的錯誤率相當高，而不正確的識別，恐怕讓弱勢者受到更不利的對待。 明尼亞波利斯市以明尼蘇達州《明尼蘇達政府資料應用法》（Minnesota Government Data Practices Act）中所定資料隱私原則，作為制定新條例的基礎，規定在蒐集有關個人資料時應考慮並重視個人隱私，包含僅在具備理由時始得蒐集資訊，並且就蒐集的內容與原因保持透明。再者，新條例要求在市議會設置專門的委員會，市政府應向該委員會提出書面報告，說明新條例遵守的情形，以及追蹤及報告違反的情形及賠償措施。惟隨著技術和情事的變化，政府部門可能有使用人臉辨識技術的需求，就此，新條例規定政府部門需向市議會解釋使用該技術的必要性、說明如何使用該技術及所獲取之資訊、對技術及所獲取之資訊進行監管的計畫，市議會依規定應召開公聽會。若例外情形符合消除歧視、保護隱私、透明與公眾信任的目標，市議會則可同意政府部門使用人臉辨識技術，或要求政府部門修正前述監管計畫，作為市議會同意的條件。
澳洲於9月初生效《政府負責任地使用人工智慧的政策》（Policy for the responsible use of AI in government）2024年9月1日，澳洲生效《政府負責任地使用人工智慧的政策》（Policy for the responsible use of AI in government，下稱政策）。澳洲數位轉型局（Digital Transformation Agency，以下稱DTA）提出此政策，旨於透過提升透明度、風險評估，增進人民對政府應用AI的信任。 1. AI之定義 此政策採經濟合作暨發展組織（OECD）之定義：AI系統是一種基於機器設備，從系統接收的資訊進而產出預測、建議、決策內容。 2.適用範圍 (1)此政策適用於「所有非企業的聯邦個體（non-Corporate Commonwealth entities, NCE）」，非企業的聯邦個體指在法律、財務上為聯邦政府的一部分，且須向議會負責。此政策亦鼓勵「企業的聯邦實體」適用此政策。 (2)依據2018年國家情報辦公室法（Office of National Intelligence Act 2018）第4條所規定之國家情報體系（national intelligence community, NIC）可以排除適用此政策。 3.適用此政策之機構，須滿足下列2要件 (1)公布透明度聲明 各機構應在政策生效日起的6個月內（即2025年2月28日前）公開發布透明度聲明，概述其應用AI的方式。 (2)提交權責人員（accountable official，下稱AO）名單 各機構應在政策生效日起90天內（即2024年11月30日前）將AO名單提供給DTA。 所謂AO的職責範圍，主要分為： I.AO應制定、調整其機構採取之AI治理機制，並定期審查、控管落實情況，並向DTA回報；鼓勵為所有員工執行AI基礎知識教育訓練，並依業務範圍進行額外培訓，例如：負責採購、開發、訓練及部署AI系統的人員，使機構內的利害關係人知道政策的影響。 II.當既有AI 應用案例被機構評估為高風險AI應用案例時，通知DTA該機構所認定之高風險AI應用案例，資訊應包括：AI的類型；預期的AI應用；該機構得出「高風險」評估的原因；任何敏感性資訊（any sensitivities）。 III.擔任機構內協調AI的聯絡窗口 IV.AO應參與或指派代表參與AI議題之政策一體性會議（whole-of-government forums）。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
德國提出反競爭-數位化法草案（GWB-Digitalisierungsgesetz）擬進一步擴大競爭監管機關之職權德國聯邦經濟事務暨能源部（Federal Ministry for Economic Affairs and Energy）於2020年1月24日提出反競爭-數位化法草案（GWB-Digitalisierungsgesetz），主要係針對競爭法相關規範進行修正、調適，意在解決數位經濟中濫用市場地位、權力不平衡之問題。因大型數位公司和營運平台往往擁有大量的用戶資料而居於市場優勢支配地位，將阻礙、影響到其他新進公司的整體競爭和創新發展。 從而，數位經濟時代的競爭政策需要有適當的競爭規則和監管手段，以便強化有效的市場競爭，本草案進一步擴大德國競爭監管機關（Bundeskartellamt）的職權，目的在嚴格監管濫用市場力量之大型數位公司和平台營運商（如FACEBOOK、GOOGLE等），同時增加競爭對手的市場創新和共享資料存取的機會，確保相關規定與執法達到適當平衡。 茲將該草案擬修正之主要內容，重點整理如下： 禁止大型數位公司刻意阻礙用戶將其個人資料移轉至其他數位服務提供者的限制競爭行為－促使用戶更易選擇轉換到其他平台，使德國競爭監管機關在判斷數位公司是否涉及限制競爭行為時，有更明確的介入依據。 提出有關濫用（abuse）的新概念，係針對「在跨市場競爭上具顯著影響」之公司（paramount significance for competition across markets），並賦予德國競爭監管機關新的干預權限－在評估時，德國競爭監管機關不僅會考慮單一市場，也會透過規定的要件檢視整體市場（例如：該公司在一個或數個市場上的主導地位、財力、對資料或其他資源的存取、垂直整合）。若競爭監管機關發現該公司雖尚未在市場上取得主導地位，但依其判斷已經對於跨市場競爭具顯著影響性，除有正當理由外，原則上可以提出命令，並禁止該公司繼續進行特定行為。 提出「中介力量（Intermediation power）」的概念—對於依賴中介者（Intermediaries）（例如多樣化數位平台）提供產品或服務的企業而言，中介者對於控制市場的進入具有一定程度之影響力。由於這種影響力可能遭濫用，因此草案中引入「中介力量」的概念，擴大數位服務提供者市場力量的評估標準，需考量中介者對於市場進入的影響性。 重新定義和擴大關鍵設施原則（Essential Facility Doctrine）之規定—關於是否應強制公司授予對資料的同意存取權及如何規範這種存取權限，存在爭議，為了強化競爭法的存取權，草案擬重新定義和擴大關鍵設施原則的規定，使其他公司可向居於市場優勢地位的企業要求開放資料、網路或其他基礎設施的存取權限以開展業務，否則將阻礙競爭。 濫用相對市場力量（relative market power）原則之擴大適用—現行法雖規範具有相對市場力量之公司不得濫用此地位，但此原則僅適用於對中小型企業的保護。因此，草案希望擴大保護大型公司，避免其受到傳統或數位平台的濫用行為所影響。因為資料的使用對於在數位經濟中提供相關服務、創新和競爭而言相當重要。 賦予競爭監管機關充份權限以避免市場獨占（monopoly）發生—現行法下若已經有一定規模但尚未具主導地位的公司試圖以反競爭行為（anti-competitive manner）引發市場傾銷（tipping of the markets）時，競爭監管機關並無權干預。草案則擬賦予競爭監管機關在公司居於主導優勢地位前介入的權利。又，為因應數位市場變化，並使競爭監管機關可即時介入，草案在程序上擬放寬競爭監管機關為暫時性措施（Interim measures）的要件。 針對企業併購之新規範—擬規範小型公司之連續併購（Successive acquisition）以及「殺手併購」（killer acquisitions）行為，係因現行法對於前者之交易情形並未規範需要通知主管機關，而有致市場壟斷之虞，因此於草案中擬為規範；後者則是考量此惡意的手段係透過阻礙新創公司對其創新產品的研發，以達到避免與收購方自身產品競爭之目的，因此草案擬增訂規範予以限制。 該草案目前預計將於2020年下半年通過，使德國競爭監管機關在數位經濟領域針對數位公司和平台營運商的執法上有所變化，後續值得留意。