Паспорт, пожалуйста: «Билайн» предложил идентифицировать ИИ-агентов
Российскому бизнесу скоро может понадобиться проверять не только людей и компании, но и программы, которые действуют от их имени. По мере распространения ИИ-агентов они начинают самостоятельно обращаться к сервисам, совершать действия и взаимодействовать друг с другом. Генеральный директор «Билайна» Сергей Анохин на форуме «Цифровые решения» предложил возможный выход — «паспорт ИИ-агента».
ИИ-агенты постепенно выходят за пределы сценария «человек поставил задачу — агент ее выполнил» и начинают самостоятельно взаимодействовать с другими сервисами. Вместе с этим возникает вопрос ответственности за их действия: кто создал агента, кому он принадлежит и кто отвечает за последствия его решений.
Одним из возможных решений может стать «паспорт ИИ-агента», считает Анохин.
«Очень важно понимать, чей агент, кто его создал, кто несет ответственность. И здесь может быть возможным ответом создание паспорта ИИ-агента», — сказал он.
По его словам, такая задача становится актуальной по мере того, как агенты выходят за пределы индивидуальной работы внутри компании или взаимодействия «человек — агент» и начинают контактировать с внешними системами. В качестве примера на форуме приводился агент, который самостоятельно пытался записать пользователя в спортивный клуб, а когда не нашел свободного слота, то взломал систему клуба, самостоятельно удалил запись человека, который был первым в очереди, и вписал своего владельца.
Идентификация позволила бы связать действия агента с конкретным создателем или владельцем и тем самым сделать понятнее вопрос ответственности. Что именно должно входить в такой «паспорт» и кто должен его выдавать, Анохин не уточнил.
При этом глава «Билайна» предложил использовать опыт телекоммуникационной отрасли. Операторы уже много лет решают задачи идентификации пользователей и авторизации при доступе к системам. По мнению Анохина, эти технологии и подходы могут быть применены для идентификации ИИ-агентов. Цифрорешения
Предложение прозвучало на фоне обсуждения более широкого распространения автономных ИИ-систем. Ранее на том же форуме в выступлении премьер-министр России Михаил Мишустин также прозвучала необходимость определить границы полномочий и ответственности ИИ-агентов.
Зачем агенту паспорт
Пока цифровые сервисы в основном имеют дело с людьми или организациями, вопрос идентификации решается привычными способами, когда пользователь входит в аккаунт, компания подтверждает свою регистрацию, а система проверяет полномочия.
С автономными агентами появляется дополнительный участник — программа, которая может действовать от имени человека или компании и самостоятельно обращаться к внешним сервисам. Для бизнеса это означает новый вопрос: достаточно ли знать, какой человек запустил агента, или необходимо отдельно удостоверять самого агента и объем предоставленных ему полномочий.
Например, если агент самостоятельно оформляет заказ, заключает договор, записывает клиента на услугу или инициирует платеж, принимающая сторона должна понимать, кто стоит за этим действием и имел ли агент право его совершать.
Анохин не говорил о запуске «паспорта» «Билайном» и не предлагал сделать такую систему обязательной. Он обозначил ее как возможный ответ на проблему идентификации автономных агентов.
Что это значит для бизнеса
Появление автономных агентов может постепенно изменить привычную модель цифровых сервисов: компания будет взаимодействовать уже не только с человеком или организацией, но и с программой, действующей от их имени. Для таких операций потребуется понимать, кто поручил агенту действие, какие у него полномочия и кто несет ответственность за результат.
Если идея идентификации агентов получит развитие, для бизнеса это может стать аналогом цифрового удостоверения личности или учетной записи — только для программ. Но пока это именно концепция, а не готовый стандарт, параметры «паспорта», порядок его выдачи и правила ответственности за действия агента не определены.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
