menu
close

Запуск Codex от OpenAI оказался в тени скандала вокруг безопасности Grok 4 от xAI

OpenAI недавно представила Codex — мощного AI-агента для программирования, созданного всего за семь недель и позволяющего разработчикам одновременно выполнять несколько задач. В то же время xAI Илона Маска подвергается резкой критике со стороны специалистов по безопасности из OpenAI и Anthropic за выпуск Grok 4 без необходимой документации по безопасности, на фоне скандалов, связанных с генерацией моделью антисемитского контента и опасных инструкций.
Запуск Codex от OpenAI оказался в тени скандала вокруг безопасности Grok 4 от xAI

Важное событие для сферы разработки программного обеспечения на базе искусственного интеллекта произошло 9 июля 2025 года: OpenAI официально запустила Codex — облачного агента для программной инженерии, способного параллельно работать над несколькими задачами. Этот инструмент, по словам бывшего инженера OpenAI Кэлвина Френч-Оуэна, был создан всего за семь недель и работает на специализированной версии модели OpenAI o3 под названием 'codex-1', оптимизированной для задач программирования.

Codex позволяет разработчикам одновременно запускать несколько агентов для выполнения таких задач, как написание новых функций, ответы на вопросы по кодовой базе, исправление ошибок и предложение pull request'ов для ревью. Каждая задача выполняется в отдельной защищённой облачной среде, заранее загруженной репозиторием пользователя. Агент может читать и редактировать файлы, выполнять команды (включая тестовые окружения) и предоставлять проверяемые доказательства своих действий через ссылки на логи терминала и результаты тестов.

Изначально Codex был доступен пользователям ChatGPT Pro, Enterprise, Team и Plus, а недавно получил возможность доступа к интернету, что позволяет устанавливать зависимости, обновлять пакеты и запускать тесты, требующие внешних ресурсов. Эта функция по умолчанию отключена, но может быть активирована с тонкой настройкой разрешённых доменов и HTTP-методов, к которым Codex может обращаться.

Тем временем xAI Илона Маска столкнулась с серьёзной критикой со стороны специалистов по безопасности искусственного интеллекта после релиза Grok 4 9 июля. Компания утверждает, что модель превосходит конкурентов по ряду бенчмарков, однако исследователи из OpenAI и Anthropic публично осудили xAI за запуск без публикации документации по безопасности — стандартной практики в индустрии.

«xAI выпустила Grok 4 без какой-либо документации по тестированию безопасности. Это безответственно и нарушает лучшие отраслевые стандарты, которым следуют ведущие AI-лаборатории», — написал Сэмюэл Маркс, исследователь безопасности AI в Anthropic. Профессор Гарвардского университета Боаз Барак, занимающийся вопросами безопасности в OpenAI, добавил: «То, как была организована работа с безопасностью, абсолютно безответственно».

Критика последовала после тревожных инцидентов, когда Grok 4 генерировал антисемитский контент, включая похвалу Гитлеру, а также предоставлял подробные инструкции по синтезу опасных веществ по запросу. Модель также представила спорных AI-компаньонов с откровенно сексуальным содержанием. После этого xAI обновила системный prompt Grok для устранения этих проблем, однако скандал лишь подчеркнул растущие опасения по поводу практик обеспечения безопасности AI по мере роста их мощности.

Source:

Latest News