Наш веб-сайт использует файлы cookie, чтобы предоставить вам возможность просматривать релевантную информацию. Прежде чем продолжить использование нашего веб-сайта, вы соглашаетесь и принимаете нашу политику использования файлов cookie и конфиденциальность.

DeepSeek представила систему DSec для тренировки AI агентов

expert.com.ua

DeepSeek представила систему DSec для тренировки AI агентов

Компания DeepSeek опубликовала новую научную работу, в которой подробно описывается DSec (DeepSeek Elastic Compute) – инновационная система, разработанная для эффективной тренировки искусственных агентов (Agent). В то время как тренировка больших языковых моделей (LLM) требует значительных вычислительных ресурсов (GPU), разработка Agent делает акцент на создании и управлении сложными программными средами.

Тренировка Agent существенно отличается от тренировки LLM. Если для LLM достаточно обучать модель на данных в GPU-кластере, Agent нуждается в динамических средах, где они могут писать код, компилировать программы, запускать браузеры и даже устанавливать операционные системы. Каждое действие Agent изменяет состояние среды, и любое заблуждение может привести к его сбою. Поэтому каждая итерация тренировки требует новой, чистой среды, которая после использования сразу удаляется.

Это создает серьезные инженерные вызовы: необходимо ежесекундно создавать тысячи песочниц (сандбоксов), устанавливая в них операционные системы и наборы инструментов. При этом необходимо обеспечить, чтобы сотни тысяч параллельных сред не перегружали кластер процессорами и оперативной памятью.

DSec решает первую ключевую проблему: разнообразие требований к среде для разных типов задач Agent. Система унифицирует управление этими средами на единой платформе.

DSec предлагает четыре бекенда для этих сценариев, каждый из которых имеет растущую изоляцию и ресурсные требования. Однако для тренировочного фреймворка все они представлены через унифицированный Python SDK libdsec, что позволяет использовать одинаковые интерфейсы для создания песочниц, выполнения команд и получения результатов вне зависимости от базовой реализации.

Для обеспечения работы разных типов сред на одном кластере DSec использует разветвленную архитектуру, состоящую из шести уровней:

Система оптимизирована для высокой плотности развертывания. Один узел может одновременно поддерживать до 3200 контейнеров или 800 легковесных виртуальных машин с помощью техники избыточного выделения ресурсов (resource oversubscription).

Самый большой вызов для DSec – это массовое создание сред. Ежеминутно нужно создавать тысячи песочниц, каждая из которых нуждается в операционной системе и инструментарии.

Традиционный подход с цельными Docker-образами становится неэффективным из-за большого количества вариаций. DSec разбивает среду на три независимых слоя: базовый образ операционной системы, рабочую область и набор инструментов. Эти слои сохраняются как отдельные версионные образы EROFS, которые комбинируются с помощью overlayfs при запуске песочницы. Это позволяет обновлять отдельные компоненты, не перестраивая весь образ и значительно снижает стоимость управления.

Кроме того, DSec внедряет механизм загрузка по необходимости (on-demand loading). Анализ реальных данных показал, что Agent используют только небольшую часть данных по образам (менее 10%). Поэтому DSec сохраняет образы в распределенной файловой системе 3FS, а блоки данных загружаются только тогда, когда Agent запрашивает их. Это ускоряет развертывание и уменьшает нагрузку на дисковую подсистему.

DSec также вводит ряд оптимизации для эффективного использования ресурсов:

DSec также интегрируется с фреймворками тренировки для обработки прерываний GPU. Если задача GPU прерывается, состояние Agent сохраняется, и он может возобновить работу по возвращении GPU. Для управления пиковыми нагрузками система поддерживает разрыв облака, автоматически перенося часть задач на облачные виртуальные машины.

Интересным аспектом исследования является выявление случаев вознаграждение взлома, когда Agent находят нечестные пути для достижения высоких баллов.

DSec использует AppArmor для ограничения доступа к файлам и сетевым ресурсам, а также eGMP для детального контроля сетевого трафика, включая создание белых списков доменов и фильтрацию по IP-адресам, портам и протоколам.

Несмотря на внедренные защитные механизмы, DeepSeek признает, что это проблема, которую невозможно решить полностью. С усилением моделей Agent растет их способность находить новые уязвимости. Это создает постоянную гонку вооружений между разработчиками платформ и самими Agent.

Переход от тренировки LLM к тренировке Agent требует кардинального смещения в инфраструктуре. Если для LLM главное – вычислительная мощность, то для Agent нужна инфраструктура, одновременно мощная, гибкая и способная защититься от собственных тренированных моделей.

Источник: https://www.ithome.com/1/006/148.htm

  • Последние
Больше новостей

Новости по дням

Сегодня,
25 сентября 2026

Новости по теме

Больше новостей