В России определят границы полномочий и ответственности ИИ-агентов
Государство и бизнес должны совместно определить границы полномочий и ответственности ИИ-агентов, заявил премьер-министр России Михаил Мишустин на форуме «Цифровые решения» в Москве. По его словам, это необходимо для предсказуемой работы цифровых экосистем и предотвращения сбоев.
Мишустин назвал текущий год временем активного распространения ИИ-агентов — программ, способных самостоятельно выполнять сложные задачи. Следующим этапом, по его словам, станет формирование целых экосистем, объединяющих предприятия, поставщиков, банки и сервисы.
«Государству и бизнесу нужно вместе обеспечить границы полномочий и ответственности ИИ-агентов. Чтобы добиться предсказуемой работы подобных сред, не допустить сбоев в их функционировании», — сказал премьер-министр.
Он не назвал сроков подготовки таких правил и не уточнил, как предлагается распределять ответственность между разработчиком агента, компанией, которая его использует, и другими участниками экосистемы. Его заявление — призыв к совместной работе государства и бизнеса, а не сообщение о введении новых требований.
Премьер отдельно указал на риски автономных действий ИИ. По его словам, агенты уже способны самостоятельно обращаться к сервисам, менять записи, инициировать транзакции и проводить кибератаки. Противодействие таким угрозам потребует скоординированных усилий ИТ-отрасли и специалистов по информационной безопасности, заявил он.
Что это значит для бизнеса
Эта работа коснется компаний, которые разрабатывают ИИ-агентов или внедряют их в рабочие процессы. В центре обсуждения — не только качество ответа нейросети, но и пределы ее самостоятельных действий: какие операции агент может выполнять без человека и кто отвечает за результат. Конкретный механизм этого процесса премьер не представил.
Однако пример для бизнеса может быть таким: агент, который подбирает поставщиков и готовит заказ, и агент, который самостоятельно подтверждает закупку и инициирует платеж, имеют разный объем полномочий. В описанном премьером сценарии взаимодействия предприятий, банков и сервисов вопрос ответственности возникает не только внутри одной компании, но и между участниками цифровой цепочки.
Для разработчиков это описывает возможное направление будущих требований: контроль действий агента, границы доступа к данным и операциям, предсказуемость работы. Для заказчиков — вопрос о том, какую самостоятельность они готовы передать программе. Однако из выступления нельзя сделать вывод, что государство уже установило обязательные ограничения или определило, кто должен компенсировать ущерб при ошибке ИИ-агента.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
