Нейросеть ChatGPT демонстрирует признаки лени. Пока неясно, все дело в зиме или OpenAI изменил модели

Одним из многообещающих аспектов искусственного интеллекта является его способность справляться со скучными, повторяющимися задачами. Однако в ноябре пользователи ChatGPT заметили, что нейросеть не выполняет свои функции так, как раньше, в связи с чем встал вопрос, может ли искусственный интеллект проявлять лень, как  человек.

Один из редакторов Reddit рассказал, что попросил нейросеть создать электронную таблицу из 15 записей по восемь столбцов в каждой, на что бот ответил этим сообщением: «Из-за обширного характера данных полное извлечение всех продуктов заняло бы довольно много времени. Однако я могу предоставить файл с этой единственной записью в качестве шаблона и вы можете заполнить остальные данные по мере необходимости».

Сотни редакторов Reddit сообщали о похожих проблемах в работе искусственного интеллекта. 7 декабря в официальном аккаунте ChatGPT в X был опубликован комментарий по этому поводу, где сказано, что могут наблюдаться незначительные различия в поведении моделей, поэтому клиентам и сотрудникам может потребоваться время, чтобы заметить и исправить эти закономерности в работе чат-бота.

Пользователи предполагают, что OpenAI изменила модель в целях экономии денег, чтобы тратить меньше вычислительных мощностей для генерации длинных ответов. Еще одной из причин снижения производительности нейросети могут быть «зимние каникулы», подобно тому как снижается производительность у людей в зимнее время накануне праздников.

Роб Линч, руководитель продукта для SaaS-сервиса судебных записей UniCourt, рассказал о проведенном им эксперименте, в ходе которого он создал две системные подсказки: одну, которая заставила модель подумать, что сейчас май, и другую, которая заставила модель поверить, что сейчас декабрь. Он обнаружил, что модель в среднем давала более длинные ответы, когда считала, что отвечает на вопросы в мае.

Тейя Фогель, разработчица программного обеспечения для SecureDNA Foundation, сообщила, что они воссоздали эксперимент и также обнаружили, что ответы за май были в среднем длиннее, чем ответы за декабрь.

Эксперты дают совет: если ChatGPT начал лениться, попробуйте использовать более простые промпты или некоторые хитрости, улучшающие работу чат-бота. Например, сотрудники Reddit смогли получить более длинные ответы, заявив в ChatGPT, что кодирование вредит их зрению или что у них нет пальцев для ввода данных.

Фогель рассказала, что недавно они провели эксперимент, в ходе которого попросили чат-бота создать простую последовательность кода, а затем предложили «дать чаевые» чат-боту в размере $20, $200 или не давать чаевых вообще. Фогель обнаружила, что ответы на предложение дать чаевые в размере $200 были на 13% длиннее, чем ответы на запрос, в котором Фогель сказал, что они не будут давать чаевых.

Ранее OpenAI анонсировала выход ChatGPT Enterprise, который будет развиваться параллельно общедоступному чат-боту. Новая версия ориентирована на бизнес, предлагает корпоративный уровень безопасности и конфиденциальности. Инструмент находился в разработке менее года.