У моделей ИИ есть любимые числа, потому что они считают себя людьми
ИИ постоянно удивляет не только тем, что он может делать, но и тем, чего он не может и почему. Они выбирают случайные числа так же, как люди, то есть неправильно. Но разве люди не могут выбирать числа случайным образом? На самом деле это очень старое и хорошо известное ограничение, присущее человеку.
Если попросить человека предсказать результат 100 подбрасываний монеты и сравнить с реальными цифрами, почти всегда люди смогут отличить их, потому что, как ни странно, реальные результаты выглядят менее случайными. Например, часто выпадает шесть или семь орлов или решек подряд, чего почти никто из людей не ожидает.
То же самое происходит, когда люди просят кого-то выбрать любое число от 0 до 100. Люди почти никогда не выбирают 1 или 100. Кратные 5 встречаются редко, как и числа с повторяющимися цифрами, например 66 и 99. Эти варианты не кажутся нам случайными. Вместо этого мы часто выбираем числа, заканчивающиеся на 7, как правило, из середины.
В психологии можно найти бесчисленное множество примеров подобной предсказуемости. Но не менее странно, что ИИ делает то же самое.
Несколько инженеров из Gramener провели неофициальный, но тем не менее увлекательный эксперимент, в котором они просто попросили несколько основных чат-ботов выбрать случайное число от 0 до 100. И результаты не были случайными.
У всех трех протестированных моделей было «любимое» число, которое всегда было их ответом, когда их ставили в оптимизированный режим, но которое появлялось чаще всего даже при более высоких «оборотах», что обычно увеличивает вариативность результатов.
GPT-3.5 Turbo от OpenAI очень любит 47. Ранее ему нравилось 42 — число, прославленное, конечно же, Дугласом Адамсом в «Автостопом по галактике» как ответ на вопрос о жизни, Вселенной и всем остальном. Claude 3 Haiku от Anthropic выбрал 42. А Gemini нравится 72.
Что еще более интересно, все три модели продемонстрировали человекоподобную предвзятость в выборе других чисел. Все они старались избегать малых и больших значений. Claude никогда не называл числа выше 87 или ниже 27, и даже это были отклонения. Они тщательно избегали чисел с повтором цифр: не выбирали ни 33, ни 55, ни 66. Но 77 встречалось (оканчивается на 7). Почти никаких круглых чисел, хотя однажды Gemini выбрал 0.
Дело в том, что мы слишком далеко зашли в антропоморфизме. Эти модели не заботятся о том, что является и что не является случайным. Они просматривают свои обучающие данные и повторяют то, какой ответ чаще всего давали на вопрос «выберите случайное число». Чем чаще оно встречается, тем чаще модель его повторяет.
Это наглядный пример привычек больших языковых моделей и той человекоподобности, которую они могут проявлять. При любом взаимодействии с этими системами нужно помнить, что они обучены вести себя так, как ведут себя люди.
В своих ответах ИИ постоянно подражают человеку. Просите ли вы рецепт салата из нута, совет по инвестициям или случайное число, процесс один и тот же. Результаты воспринимаются, как если бы их дал человек, потому что они взяты непосредственно из контента, произведенного людьми.
По мере внедрения искусственного интеллекта и других технологий от сотрудников также требуются новые навыки. И из-за этого, по мнению экспертов, навыки межличностного общения приобретают еще большее значение. Андреа Войницки, тренер по коммуникациям для руководителей, получившая образование в Гарварде, обозреватель Inc. и ведущая известного подкаста Talk About Talk, рассказала, почему развитие ИИ — это неплохо.
