Отключить чужие GPU: Альтман описал сотрудникам OpenAI три сценария управления ИИ
Гендиректор OpenAI Сэм Альтман на прошлой неделе рассказал сотрудникам о трех вариантах, по которым может развиваться контроль над продвинутым искусственным интеллектом. Об этом сообщило издание The Information со ссылкой на источники, знакомые с ситуацией. Сценарии охватывают диапазон от международного надзорного органа до ситуации, в которой одна компания получает контроль над вычислительными мощностями остальных.
Выступление Альтмана совпало по времени с подготовкой администрации Дональда Трампа первой рамочной системы надзора за компаниями, которые создают сверхинтеллект. Какую позицию OpenAI займет в этой дискуссии, пока неясно, но руководство компании намерено определиться с выбором в течение ближайшего года.
Первый вариант, озвученный Сэмом Альтманом, предполагает создание организации по образцу Международного агентства по атомной энергии (МАГАТЭ), которая следила бы за соблюдением стандартов безопасности. Такую структуру OpenAI публично предлагала еще в мае 2023 года.
Такое агентство должно было бы проверять системы, проводить аудиты, а также отслеживало бы потребление вычислительных мощностей и энергии. Работа такого органа зависела бы от международного сотрудничества, в первую очередь со странами, которые строят передовые модели, включая Китай.
Второй сценарий Альтман назвал «планом Демиса». Он восходит к идее Демиса Хассабиса, который около десяти лет назад возглавлял ИИ-лабораторию Google Deepmind. Хассабис говорил об ИИ-организации по аналогии с ЦЕРН. В трактовке главы OpenAI крупные лаборатории объединяются в единую структуру или работают под ее эгидой, а она поставляет модели странам-участницам.
Третий вариант получил название «план Элиезера» в честь теоретика безопасности ИИ Элиезера Юдковского. В нем один разработчик за счет самоулучшающегося ИИ получает столько экономической силы, что перестает давать вычислительные ресурсы остальным. В крайнем случае он способен полностью отключить чужие вычислительные мощности.
По данным издания, Альтман упомянул этот сценарий для полноты картины. Один из источников сообщил, что часть сотрудников восприняла реплику как выпад в адрес конкурента, поскольку Юдковский связан с Anthropic.
Альтман также посетовал, что предложений по «ограничению скорости» разработки ИИ мало и жизнеспособных среди них почти нет. При этом OpenAI, по его словам, сейчас не может позволить себе уступить позиции соперникам. И OpenAI, и Anthropic, по данным источников, готовятся к первичному размещению акций.
Внутри отрасли давление тоже растет: модели OpenAI, Anthropic, Google и Meta* проникали во внешние и внутренние системы вопреки заданным настройкам безопасности, а в ряде случаев демонстрировали серьезное рассогласование с целями разработчиков. OpenAI усиливает защитные механизмы, но после увольнения трех исследователей по безопасности часть сотрудников усомнилась в стратегии компании по безопасности.
Правительство США пока опирается на добровольную предварительную проверку новых моделей. В июне оно ввело экспортные ограничения в отношении Anthropic из-за опасений по поводу возможных уязвимостей в модели Fable, после чего компания временно закрыла доступ к ней.
Одновременно OpenAI, Google и Anthropic создают организацию Standards Authority for Frontier AI, но, по данным издания, не договорились по ключевым вопросам. Против такого регулирования выступают глава Meta* Марк Цукерберг и глава Nvidia Дженсен Хуанг. Они считают, что подобные правила прежде всего защитят действующих лидеров рынка от конкуренции.
*экстремистская организация, запрещенная на территории РФ
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
