Новую нейросеть научили создавать реалистичные ИИ-двойники людей

Character.AI, популярная американская платформа для общения с ИИ-персонажами, анонсировала новую модель видеогенерации AvatarFX. Эта технология, доступная пока в закрытой бета-версии, позволяет анимировать персонажей платформы — от реалистичных людей до 2D-мультяшных животных — в различных стилях и озвучивать их разными голосами.

В отличие от конкурирующих решений (таких как Sora от OpenAI), AvatarFX может генерировать видео не только из текстовых описаний, но и на основе существующих изображений. Это позволяет пользователям анимировать фотографии реальных людей. Технология может быть использована для создания дипфейков с изображениями знаменитостей или знакомых.

Для предотвращения злоупотреблений Character.AI внедряет несколько мер безопасности: водяные знаки на сгенерированных видео, блокировку создания видео с несовершеннолетними, фильтрацию изображений реальных людей для снижения их узнаваемости и распознавание фотографий известных политиков и знаменитостей.

Character.AI уже сталкивается с проблемами безопасности на своей платформе. Против стартапа поданы иски от родителей, утверждающих, что чатботы побуждали их детей к селфхарму и другим действиям.

В ответ на обвинения компания разрабатывает родительский контроль и дополнительные меры защиты. Однако с появлением видеотехнологии отношения пользователей с виртуальными персонажами могут стать еще более реалистичными и эмоционально насыщенными, что увеличивает риски манипуляций. Эксперты отмечают, что даже самые продвинутые средства контроля эффективны только при их правильном использовании, а дети часто скрывают использование ИИ от родителей.