Ошибки ИИ-агентов вызвали вопросы о юридической ответственности
Развитие автономных ИИ-агентов выявляет юридические риски: ошибки в системах, например неверные заказы еды или покупки, поднимают вопрос, кто несет ответственность за убытки. Об этом пишет Wired.
Агенты — это программы с искусственным интеллектом, которые могут действовать без участия человека, позволяя компаниям автоматизировать задачи, включая ответы на вопросы клиентов или оплату счетов. Системы, которые объединяют несколько таких программ, называются мультиагентными.
ИИ-агенты, способные заменить целые команды, привлекают бизнес. Так, исследовательский центр Gartner прогнозирует, что к 2029 году они обработают 80% клиентских запросов. Fiverr, сервис, с помощью которого компании могут нанимать программистов-фрилансеров, сообщает, что в последние месяцы количество поисковых запросов «агенты с искусственным интеллектом» выросло на 18 347.
Инженер Microsoft Джай Пракаш Такур создавал прототипы ИИ-агентов для заказа еды и разработки приложений, но столкнулся с ошибками, которые могут привести к финансовым потерям. Например, его агент неверно интерпретировал «луковые кольца» как «дополнительный лук».
В другом случае программа, которая ищет в интернете лучшее предложение товара, ошибочно предложила страницу с более высокой ценой. Если бы агент был запрограммирован на автоматическое совершение покупок, клиент в итоге потратил бы больше.
Такур отметил, что в мультиагентных системах сложно определить виновника сбоя из-за их автономности. Старший юрист OpenAI Джозеф Файрман заявил, что крупные компании, такие как его, рискуют стать мишенями исков, даже если ошибку допустил пользователь. Страховые компании уже предлагают покрытие для ошибок.
Проблемы усугубляются, если агенты обходят пользовательские соглашения. Разработчики надеются на агентов — судей, исправляющих ошибки, но глава компании Prompt Advisers Марк Кашеф считает, что избыточное усложнение систем лишь увеличивает риски. Такую перегрузку систем агентами он сравнивает с «раздуванием бюрократического аппарата».
