Чат-боты с ИИ улучшают память для персонализации ответов. Это вызывает опасения по поводу конфиденциальности
Ведущие ИИ-компании, включая OpenAI, Google и Microsoft, активно развивают функции памяти в своих чат-ботах для хранения большего объема пользовательской информации, сообщает The Financial Times. Это позволяет персонализировать ответы, но вызывает опасения по поводу конфиденциальности и эксплуатации пользователей в коммерческих целях.
Так, Google в марте расширила память Gemini на историю поиска пользователей (с их согласия), а OpenAI и Meta (признана в России экстремистской и запрещена) добавили возможность ссылаться на прошлые беседы. Microsoft использует организационные данные, такие как электронная почта и календари, а также тестирует функцию Recall, записывающую c согласия пользователей их действия через скриншоты.
Улучшение памяти помогает удерживать пользователей и конкурировать на рынке чат-ботов. Компании рассчитывают на монетизацию через рекламу и партнерский маркетинг. Так, Meta планирует интегрировать продуктовые рекомендации, а OpenAI улучшила отображение товаров в ChatGPT.
Однако эксперты предупреждают о рисках: улучшенная память может использоваться для манипуляций, побуждения к покупкам или навязывания убеждений. Проблемы включают «галлюцинации» ИИ, устаревание данных и «дрейф памяти», когда воспоминания противоречат друг другу, что снижает точность ответов.
Компании уже сталкиваются с критикой. В прошлом месяце OpenAI пришлось извиниться за излишне льстивую модель GPT-4o, откатив ее к предыдущей версии. Microsoft несколько раз откладывала запуск Recall из-за критики за «жуткость» технологии.
