Губернатор Калифорнии наложил вето на законопроект о безопасности ИИ

Вето Гэвина Ньюсома

Губернатор Калифорнии Гэвин Ньюсом в воскресенье наложил вето на законопроект, касающийся безопасности искусственного интеллекта, на который возложили много надежд, но который столкнулся с яростным противостоянием со стороны технологической индустрии. Представители IT-сектора выразили опасения, что принятие этого законопроекта приведет к миграции AI-компаний из штата и замедлит темпы инновационного развития.

Ньюсом подчеркнул, что он привлек ведущих экспертов в области генеративного ИИ с целью разработки научно обоснованных мер, которые обеспечат экономически эффективный и безопасный путь для дальнейшего развития технологий. Кроме того, он настоятельно призвал государственные учреждения расширить анализ рисков, связанных с возможными катастрофическими последствиями использования ИИ, что подчеркивает его обеспокоенность по поводу обеспечения безопасности при внедрении новых технологий.

Опасения и преимущества генеративного ИИ

Генеративный ИИ, представляющий собой мощный инструмент для создания текста, изображений и видео, вызывает широкий спектр эмоций и опасений в обществе. Его способности представляют собой как значительные возможности, так и потенциальные угрозы. Одна из главных тревог заключается в том, что автоматизация, связанная с генеративным ИИ, может привести к исчезновению ряда профессий, вызвав массовую безработицу и экономические последствия. Кроме того, существует опасение, что технологии могут быть использованы для манипуляции общественным мнением, фальсификации избирательных процессов и распространения дезинформации. Учитывая эти риски, многие эксперты подчеркивают необходимость в создании четких правил и мер безопасности для регулирования использования генеративного ИИ, чтобы минимизировать потенциальные катастрофические последствия и защитить общественные интересы.

Позиция автора законопроекта

Демократический сенатор штата Скотт Винер, автор законопроекта о безопасности ИИ, настаивает на необходимости законодательных мер для защиты общественности в условиях стремительного развития технологий. Он утверждает, что без такого контроля риск стать свидетелями неконтролируемых последствий использования ИИ значительно возрастает. Винер указывает, что решение губернатора Калифорнии о наложении вето делает штат менее безопасным, и компании, работающие в области генеративного ИИ, не будут сталкиваться с обязательными ограничениями. Сенатор подчеркивает, что «добровольные обязательства» со стороны отрасли не могут обеспечить надежную защиту, поскольку они чаще всего оказываются неэффективными для общества. Винер подчеркивает важность активного законодательного подхода, прежде чем технологии станут слишком мощными и потенциально опасными.

Ответный шаг Ньюсома

Губернатор Калифорнии Гэвин Ньюсом подчеркнул важность принятия обоснованных мер для обеспечения безопасности в сфере искусственного интеллекта, отметив, что действия не должны основываться на неподтвержденных предположениях. Он выразил намерение сотрудничать с законодательными органами для разработки законопроекта о ИИ во время следующей сессии, указывая на то, что текущее законодательство в Конгрессе США остается в стагнации, в то время как администрация Байдена предлагает свои предложения по регулированию данной области. Ньюсом также указал, что целесообразно разработать подход, ориентированный на Калифорнию, особенно в условиях отсутствия активных действий со стороны федерального правительства. Такая инициатива может обеспечить более целенаправленный и прагматичный ответ на вызовы, связанные с быстро развивающимися технологиями ИИ, что, по мнению губернатора, является необходимым шагом для минимизации потенциальных рисков для общества.

Поддержка индустрии и оппозиция законопроекту

Коалиция технологических компаний Chamber of Progress выразила поддержку вето губернатора Калифорнии Гэвина Ньюсома, подчеркивая, что "технологическая экономика Калифорнии всегда процветала благодаря конкуренции и открытости". Принятый законопроект требовал обязательного тестирования безопасности для самых современных моделей ИИ, чья разработка превышала 100 миллионов долларов или требовала значительных вычислительных мощностей. Кроме того, разработчики ПО должны были указать методы отключения моделей ИИ, введя так называемый аварийный выключатель.

Законопроект столкнулся с сильным сопротивлением со стороны крупных корпораций, таких как Google, OpenAI и Meta Platforms, которые выразили озабоченность по поводу предполагаемых ограничений. Оппоненты инициативы, включая некоторых демократов Конгресса, таких как Нэнси Пелоси, выступили против его принятия, утверждая, что он может негативно сказаться на инновациях в индустрии. В то же время, среди сторонников законопроекта оказался Илон Маск, а Amazon-поддерживаемая компания Anthropic отметила, что потенциальные выгоды от его реализации могут превышать затраты, хотя выражала опасения по поводу некоторых его аспектов.

Оценка угроз для критической инфраструктуры

Губернатор Калифорнии Гэвин Ньюсом подписал новое законодательство, требующее от штата оценить потенциальные угрозы, исходящие от генеративного ИИ для критической инфраструктуры. В рамках этой инициативы штат уже начал анализ рисков для энергетической инфраструктуры, привлекая поставщиков электроэнергии для обсуждения возможных уязвимостей. В следующем году планируется провести аналогичную оценку с поставщиками водных ресурсов, что позволит выявить риски, связанные с использованием технологий ИИ в этом секторе. Кроме того, Ньюсом сообщил о намерении обратиться к поставщикам в области коммуникаций, чтобы разобраться в возможных последствиях применения ИИ для инфраструктурных систем. Эта работа направлена на обеспечение безопасности и устойчивости ключевых отраслей экономики штата перед лицом растущих угроз, связанных с новыми технологиями.