По данным Cointelegraph, губернатор Калифорнии Гэвин Ньюсом наложил вето на спорный законопроект об искусственном интеллекте (ИИ), утверждая, что он будет препятствовать инновациям и не сможет устранить реальные угрозы, создаваемые технологией. Законопроект SB 1047, известный как Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта, был наложен вето 30 сентября после значительного сопротивления со стороны Кремниевой долины. Предлагаемый законопроект был направлен на обязательное тестирование безопасности моделей ИИ и внедрение других барьеров, которые, по опасениям технологических компаний, будут сдерживать инновации.

В заявлении от 29 сентября Ньюсом раскритиковал законопроект за то, что он слишком сосредоточен на регулировании существующих ведущих фирм ИИ без адекватной защиты общественности от реальных угроз, создаваемых новыми технологиями. Он утверждал, что законопроект применяет строгие стандарты даже к самым базовым функциям крупных систем, что, по его мнению, не является лучшим подходом к защите общественности.

Законопроект, автором которого является сенатор-демократ от Сан-Франциско Скотт Винер, потребовал бы от разработчиков в Калифорнии, включая такие крупные компании, как OpenAI, Meta и Google, внедрить «аварийный выключатель» для своих моделей ИИ и опубликовать планы по снижению экстремальных рисков. Кроме того, разработчики ИИ могли бы быть привлечены к ответственности генеральным прокурором штата в случае постоянной угрозы со стороны моделей, например, захвата сети ИИ.

Ньюсом заявил, что он консультировался с ведущими экспертами по безопасности ИИ, чтобы помочь Калифорнии разработать работоспособные ограждения, которые фокусируются на создании научно обоснованного анализа траектории. Он также приказал государственным агентствам расширить свою оценку рисков от потенциальных катастрофических событий, вытекающих из разработки ИИ. Несмотря на наложение вето на SB 1047, Ньюсом подчеркнул необходимость адекватных протоколов безопасности для ИИ и подчеркнул, что регулирующие органы не могут ждать крупной катастрофы, прежде чем принимать меры по защите населения.

Законопроект столкнулся с серьезным противодействием со стороны законодателей, консультантов и крупных технологических компаний. Спикер палаты представителей Нэнси Пелоси и такие компании, как OpenAI, утверждали, что он значительно затруднит рост ИИ. Нил Чилсон, глава политики ИИ в Abundance Institute, предупредил, что, хотя законопроект в первую очередь нацелен на модели стоимостью более 100 миллионов долларов, его сфера действия может быть легко расширена, чтобы затронуть и более мелких разработчиков.

Однако некоторые лидеры в сфере технологий поддержали законопроект. Миллиардер Илон Маск, который разрабатывает собственную модель искусственного интеллекта под названием «Grok», был среди немногих, кто поддержал законопроект и более широкие правила в отношении искусственного интеллекта. В посте от 26 августа на X Маск заявил, что «Калифорния, вероятно, должна принять законопроект о безопасности искусственного интеллекта SB 1047», но признал, что поддержка законопроекта — «трудное решение».