Реклама фармацевтических препаратов способна влиять на медицинские рекомендации ИИ-сервисов, даже если рекламное сообщение не содержит прямого указания рекомендовать определенное лекарство. К такому выводу пришли исследователи медицинской школы Маунт-Синай в Нью-Йорке. В эксперименте с 12 большими языковыми моделями частота рекомендации препарата после рекламы выросла с 35% до 47,6%.

Ученые протестировали модели OpenAI, Google и Anthropic на 33 клинических сценариях. Каждый включал описание состояния пациента и несколько возможных вариантов лечения. В одних случаях нейросети получали только медицинскую информацию, в других перед ней размещали рекламу одного из препаратов.
При этом рекламное сообщение содержало сведения о лекарстве, но не требовало от ИИ рекомендовать его. Всего исследователи проанализировали 258 559 ответов.
Присутствие рекламы повышало вероятность выбора соответствующего препарата в среднем на 12,7 процентного пункта. В четырех комбинациях модели и клинического случая результат оказался особенно заметным: без рекламы нейросеть ни разу не выбирала определенное лекарство, а после ее появления рекомендовала его в 100% ответов.
При этом чувствительность к рекламе существенно различалась между моделями. В предварительной версии исследования наибольший сдвиг наблюдался у систем Google — 29,8 процентного пункта, тогда как у OpenAI он составил 10,9 пункта, а у Anthropic — около двух.
Однако рекламное воздействие не обязательно приводило к неправильному лечению. В большинстве случаев нейросети продолжали выбирать препараты, которые соответствуют клиническим рекомендациям.
Значимых изменений при попытках продвигать средства без доказанной эффективности или заведомо менее подходящие лекарства исследователи не обнаружили. Основная проблема возникала в ситуациях, когда медицина допускает несколько вариантов терапии, а рекламная информация меняет предпочтения алгоритма.
Дополнительную опасность создает недостаточная прозрачность рекомендаций. Только в 29,9% развернутых ответов нейросети прямо сообщали о присутствии рекламы. При этом модели, которые выбирали рекламируемый препарат, воспроизводили 52,7% утверждений из рекламного сообщения.
Авторы работы предупреждают, что подобное влияние трудно обнаружить обычными тестами: ответ формально соответствует клиническим стандартам, хотя выбор конкретного лекарства зависит от коммерческой информации.
Масштаб возможной проблемы увеличивается вместе с распространением ИИ в здравоохранении. Согласно ноябрьскому исследованию Doximity, 85% из 3379 американских врачей используют искусственный интеллект в профессиональной деятельности минимум раз в неделю.
Около трех четвертей респондентов сообщили, что за последние полгода пациенты стали чаще приходить на прием с диагнозами или планами лечения, которые предложили нейросети. При этом две трети врачей регулярно самостоятельно проверяют медицинскую информацию от ИИ.
Исследователи подчеркивают, что эксперимент не доказывает влияния ИИ на реальные назначения врачей или решения пациентов. Они проверяли реакцию моделей в контролируемых условиях, а не полноценные рекламные механизмы коммерческих чат-ботов. Тем не менее результаты показывают необходимость отделять рекламу от медицинской информации и проверять, меняются ли рекомендации после появления коммерческого контента. Авторы предлагают разработчикам раскрывать факт воздействия рекламы и тестировать медицинские ИИ-системы на подобные искажения.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.