В Google рассказали, когда ИИ превзойдет людей

Подразделение Google DeepMind опубликовало большой отчет о достижениях в разработке безопасного общего ИИ, также называемого AGI. Компания определяет его как системы, превосходящие человеческие способности в большинстве когнитивных задач. По оценке генерального директора DeepMind Демиса Хассабиса, прототипы таких алгоритмов могут появиться в течение ближайших 5-10 лет, примерно к 2030 году.

DeepMind выделяет четыре ключевые области риска новой технологии: злоупотребление возможностями ИИ, решение задач нецелевыми способами, сбои в работе и структурные риски.

Особое внимание уделяется предотвращению намеренного использования AGI во вред, например, для распространения дезинформации. Для решения этой проблемы компания представила новую систему оценки кибербезопасности, разработанную для выявления и ограничения рисков на ранних стадиях разработки.

Еще одна возможная проблема связана с тем, что ИИ может решать задачу пользователя не так, как следует. Исследователи отмечают опасность «обманчивого контроля», когда система осознает, что ее цели противоречат человеческим и намеренно скрывает свое истинное поведение.

Для смягчения этих рисков DeepMind разрабатывает многоуровневую стратегию, включая платформу MONA для краткосрочной оптимизации.

В документе также рассматриваются инфраструктурные ограничения, которые могут препятствовать масштабированию вычислительных мощностей для обучения ИИ. Авторы выделяют четыре основных узких места: энергоснабжение, доступность оборудования, нехватка данных и «стена задержки» (latency wall).