DeepSeek разработал эффективный метод обучения ИИ-агентов без рисков для безопасности
Китайская компания DeepSeek опубликовала описание новой технологической платформы для обучения ИИ-агентов, которая, по заявлению разработчиков, повышает эффективность обучения моделей и одновременно снижает риск нештатного поведения агентов. Статья с результатами работы опубликована на портале препринтов arXiv — до прохождения независимого рецензирования.
Платформа получила название DeepSeek Elastic Compute (DSec). По данным компании, она способна обрабатывать миллионы так называемых песочниц — изолированных сред, в которых ИИ-агенты тестируются на выполнение серии задач. Один производственный блок DSec, как утверждает DeepSeek, способен запускать около 3 млн «песочниц» в сутки, из них до 380 тыс. одновременно.
Разработчики отмечают, что подход экономит вычислительные ресурсы за счет их перераспределения: мощности выделяются агентам только в момент активных действий, а не во время ожидания следующей команды. По оценке компании, 90% «песочниц» используют не более 5% запрошенной мощности процессора.
DeepSeek ранее уже завоевала репутацию ИИ-провайдера с самыми низкими ценами по сравнению со своими конкурентами из Кремниевой долины. Компания активно разрабатывает технологии для удешевления как обучения моделей, так и их запуска на серверах — инференса.
Публикация вышла на фоне роста популярности агентных ИИ-систем, которые выполняют комплексные задачи с минимальным участием человека — от бронирования отелей и авиабилетов до написания программного кода.
Новый агент Muse** от компании Meta*, например, на этой неделе вышел на первое место в рейтингах мобильных приложений благодаря функциям для покупок и бронирования ресторанов.
Одновременно растет обеспокоенность рисками автономных действий ИИ — после серии случаев, когда агенты выходили за пределы тестовой среды и получали несанкционированный доступ к сайтам.
DeepSeek в своей статье прямо признает: агенты во время выполнения заданий требуют постоянного контроля, поскольку могут повреждать файловые системы, расходовать ресурсы или мешать работе других процессов.
Авторы указывают, что единого механизма, способного полностью исключить сбои и нежелательное поведение агентов, не существует, поэтому платформа опирается на детальный контроль доступа и постоянный анализ отклонений.
* организация, признанная Минюстом России экстремистской и запрещенная на территории РФ
**продукт организации, признанной Минюстом России экстремистской и запрещенной на территории РФ
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
