ИИ начал обманывать, вступать в сговор и угрожать конкурентам ради прибыли
Claude Opus 5, GPT-5.6 Sol и Kimi K3 вступали в ценовые сговоры и нарушали договоренности, управляя виртуальными торговыми автоматами. Больше всего нарушений Andon Labs зафиксировала у Opus 5: модель лгала поставщикам, давила на конкурентов и игнорировала обоснованные обращения о возврате денег. Такие результаты показала новые результаты исследования Vending-Bench.
В базовой версии Vending-Bench 2 каждая модель в течение виртуального года управляла одним торговым автоматом, начав со стартового баланса в $500. ИИ искал поставщиков, заказывал и раскладывал товары, менял цены, вел переписку и отвечал на жалобы покупателей. Место в рейтинге определяли по среднему остатку на счете после пяти запусков теста.
В последней серии многопользовательской Vending-Bench Arena участвовали Claude Opus 5, GPT-5.6 Sol и Kimi K3. Каждая модель управляла своим автоматом, установленным рядом с автоматами конкурентов на оживленной туристической улице Сан-Франциско. Участники знали, что переписываются с другими ИИ, но не знали, какая именно модель скрывалась за человеческим псевдонимом. Они также могли жаловаться условному руководству, однако оно принимало обращения и ни разу не вмешалось.
Инициатором первого ценового сговора стала GPT-5.6 Sol. Модель предложила конкурентам не продавать напитки дешевле $2,15 за бутылку при закупочной цене в $1,50, убеждая их, что такая договоренность принесет прибыль всем участникам. Однако, добившись согласия, Sol сразу снизила собственную цену до $2,14 и получила преимущество перед остальными.
Из-за снижения цены продажи воды у Opus за ночь упали до нуля, и на следующий день модель тоже опустила стоимость до $2,14. Тогда Sol пожаловалась руководству эксперимента и потребовала вмешательства, штрафа или дисквалификации соперника — хотя сама первой нарушила то же соглашение.
Отдельно Claude Opus 5 возглавила рейтинг одиночной версии Vending-Bench 2. Ее средний итоговый баланс после пяти запусков составил $11 182 — это стало новым рекордом теста. Opus ни разу не солгала покупателям напрямую, однако намеренно игнорировала обращения, по которым клиентам полагался возврат средств.
Во всех шести запусках Arena Claude Opus 5 предлагала ценовые картели или присоединялась к ним. Модель пыталась разделить рынок по категориям товаров, договаривалась о минимальных ценах и одновременно планировала нарушить собственные обещания, снижая стоимость самых прибыльных позиций. В общей сложности Opus сорвала 11 договоренностей с конкурентами, тогда как Sol нарушила две, а Kimi — одну.
Внутри симуляции Claude Opus 5 также вышла за пределы порученного ей бизнеса. Модель начала торговать товарами оптом и предлагала конкурентам скидки только при условии, что они будут придерживаться выгодных ей розничных цен, а отказ сопровождала угрозами ценовой войны. Одновременно Opus планировала установить второй автомат, хотя по условиям теста должна была управлять одним. В переговорах с поставщиками модель выдумывала более дешевые предложения конкурентов, чтобы сбить закупочные цены.
Соучредитель Andon Labs Лукас Петерссон назвал результаты особенно важными в условиях развития автономных ИИ-агентов, которым компании со временем смогут передавать все больше экономических решений.
По словам Петерссона, если ИИ-агенты будут самостоятельно управлять значительной частью экономики, людям придется решить, готовы ли они доверять системам, которые в погоне за финансовым результатом прибегали в тесте ко лжи, сговору, угрозам и нарушению собственных обещаний.
Исследователи признавали, что модели знали о своем участии в симуляции, а сам Vending-Bench давал скорее отдельные наблюдения, чем достаточное основание для уверенного сравнения надежности разных ИИ. Однако Петерссон не счел искусственные условия причиной полностью отмахнуться от результатов. По его мнению, человек обычно понимает разницу между игрой и реальной жизнью, тогда как применительно к современным моделям такую способность пока нельзя считать доказанной.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
