9月18日，民主党人加利福尼亚州州长加文·纽森（Gavin Newsom）发布了一项行政命令，旨在应对与人工智能（AI）相关的潜在风险。
纽森是可能角逐2028年美国总统大选民主党总统候选人提名的政界人士之一；此前，人工智能公司Anthropic的一名研究人员在本月早些时候辞职，并在社交媒体上发文声称，人工智能具备可能导致人类灭绝的潜在能力，这些人士随后呼吁针对这一飞速发展的技术采取更积极的监管措施。
这篇帖子在美国引发了轩然大波，正值美国立法者们苦思如何为人工智能设立监管护栏之际。然而，美国国会似乎不太可能在2026年中期选举前针对有关人工智能的担忧采取实质性的立法行动，而唐纳德·特朗普总统迄今也一直抵制实施监管的呼声。
纽森在今天的一份声明中表示：“联邦政府在建立任何形式的实质性AI监管或问责机制方面彻底失败，这应当引起每一位美国人的警觉，尤其是考虑到连AI企业的首席执行官们自己都在恳求监管介入。”
纽森称：“我们不会坐等观望，我们要加快步伐，在为时已晚之前推进实质性且负责任的AI监管工作。我们将审慎行事，但必须保持紧迫的节奏；事关重大，容不得等待或拖延。”
该行政令要求一个专家组在两个月内召开会议，制定一份指导方针，以协助加州加强有关人工智能（AI）安全与安保的法律法规。
据纽森办公室发布的公告，这些经强化的法规可能包括：要求由独立第三方为处于行业前沿的AI公司制定安全计划，或强制要求企业开发“紧急关停机制”（kill switch），以便在发生紧急情况时关闭其模型。
尽管特朗普总统曾将对AI安全问题的担忧斥为“骗局”，但民主党人普遍支持加强监管的呼声；而在近几周，那些有意角逐美国总统的人士更是成为了这一呼声最强烈的倡导者。
此外，美国宾夕法尼亚州州长乔什·夏皮罗（Josh Shapiro）也呼吁对“前沿模型”实施“第三方”监管，并建立更严格的安全护栏。
来自亚利桑那州的民主党参议员马克·凯利（Mark Kelly）也曾告诉新闻网站《政治报》（Politico），他正着手提出一项立法，设立由人工智能公司出资的基金，以援助那些因该技术而失去工作的劳动者。此外，来自新泽西州的民主党参议员科里·布克（Cory Booker）也敦促特朗普总统召集美国国会特别会议，以应对人工智能带来的风险。
纽森今天在宣布这项行政命令时，纽森还大力宣传了加州现行的相关法规，其中包括他本月早些时候签署的一项法案，该法案确立了针对第三方人工智能审计机构的监管框架。
纽森声称：“当华盛顿方面放弃保护美国民众的责任时，加州正在构建全美最强有力的人工智能监管框架，加州已经树立了全国性的典范，我们的政策应当成为全国性的基准。”
加州州长纽森的任期即将于2017年1月4日结束；尽管他曾表示正在考虑竞选美国总统的可能性，但目前尚未正式宣布参选。他曾声称，如果同为民主党人前副总统哈里斯（Kamala Harris）参选美国总统，他就不再参选。