OpenAI опровергает страхи: сложность AI не выросла экспоненциально

04.09.2026, 02:14 expert.com.ua

Недавние предположения относительно значительного роста сложности AI-моделей, в частности Astra от OpenAI, вызывали беспокойство относительно их прозрачности и мониторинга. Однако, главный научный сотрудник OpenAI, Якуб Пачки, развеял эти опасения, заявив, что архитектура новейших моделей не испытала скачкообразного увеличения сложности.

Публикации, в частности от The Information, намекали на то, что OpenAI тестирует технологию глубокой рекуррентности (recurrent depth). Эта технология, в отличие от традиционных линейных архитектур, таких как Transformer (на которой базируются ChatGPT, Claude и Gemini), может усложнить понимание процесса принятия решений моделями. В то время как стандартные Transformer обрабатывают информацию поэтапно и могут визуализировать свою "цепочку мыслей" (Chain-of-Thought), "глубокая рекуррентность" предполагает многократное использование тех же слоев сети для обновления внутреннего состояния. Это означает, что значительная часть вычислений и логики может оставаться скрытой во внутренних состояниях модели, что делает ее менее прозрачной для исследователей.

Такая перспектива вызвала бурное обсуждение в AI-сообществе, поскольку это могло бы усложнить внешний мониторинг и, как следствие, снизить общую прозрачность систем AI.

Якуб Пачки опубликовал заявление на платформе X (ранее Twitter), чтобы прояснить ситуацию. Он подчеркнул, что его цель — предотвратить панику, которая может возникнуть из-за неточных сообщений СМИ, что якобы AI движется в состояние невозможности мониторинга. Пачки заверил, что глубина вычислительного графа самых современных моделей OpenAI, включая Astra, не превышает GPT-4 более чем вдвое. Это означает, что архитектурного скачка сложности, которого опасались, не произошло.

"Мы очень ценим эту технику, поскольку она позволяет нам понять, как модели согласуются с распределением их тренировочных данных. Я считаю, что сейчас она достаточно хрупкая, и, к сожалению, по некоторым причинам, не связанным с изменением архитектуры, она движется в нежелательном направлении. Но мы можем принять меры для ее укрепления, и это одна из ключевых". Пачки.

OpenAI подтверждает свою преданность мониторингу "цепочки мыслей" еще со времен разработки первых моделей. Эта техника критически важна для понимания того, как модели учатся и согласуются с учебными данными. Хотя Пачки признал, что текущие методы мониторинга являются “хрупкими” и нуждаются в улучшении, он подчеркнул, что эта задача является одним из главных приоритетов исследовательской команды OpenAI.

По словам главного научного сотрудника, наблюдаемые проблемы с мониторингом связаны не столько с изменениями в архитектуре, сколько с другими факторами, которые будут подробнее рассмотрены позже. Это свидетельствует о том, что OpenAI активно работает над усовершенствованием механизмов контроля и понимания внутренних процессов своих AI-систем.

Глубина вычислительного графа (Computation-Graph Depth) является ключевым показателем сложности архитектуры нейронных сетей. Она измеряет количество последовательных вычислительных уровней, которые модель проходит от ввода данных до получения результата. Чем выше это значение, тем более сложна внутренняя структура модели и количество выполняемых ею вычислений.

Итак, заявление Якуба Пачки успокаивает сообщество, подчеркивая, что OpenAI продолжает развивать передовые AI-модели, сохраняя при этом фокус на их контролируемости и прозрачности. Дополнительный мониторинг и усиление механизмов контроля неотъемлемой частью текущей исследовательской работы компании.

Источник: https://www.ithome.com/0/997/866.htm

Читать полностью…