OpenAI начала собирать команду для контроля работы ИИ

Компания OpenAI опасается, что развитие искусственного интеллекта приведет к вымиранию человечества. Она начала создавать команду, которая будет следить, чтобы ИИ отвечал интересам человека.

OpenAI, разработчик ChatGPT, собирает новую команду, которая будет контролировать сверхинтеллектуальный ИИ и следить, чтобы он работал на благо общества, сообщает Business Insider.

«В настоящее время у нас нет вариантов управления или контроля потенциально сверхинтеллектуального ИИ и предотвращения его выхода из-под контроля», — написали в блоге компании соучредитель OpenAI Илья Суцкевер и соруководитель новой команды Ян Лейке. В компании добавили, что искусственный интеллект, хотя и кажется «далекой перспективой», может развиться в течение ближайшего десятилетия.

Новая команда под названием Superalignment планирует разработать ИИ на уровне человеческого, который сможет управлять сверхразумным ИИ в течение следующих четырех лет. Сейчас OpenAI набирает сотрудников для этой команды. Также компания планирует выделить 20% своей вычислительной мощности на эти исследования.

Генеральный директор OpenAI Сэм Альтман уже давно призывает регулирующие органы обратить внимание на риски ИИ для человечества. В мае он подписал открытое письмо, призывающее снизить риск вымирания от ИИ.

В марте Илон Маск подписал петицию с предупреждением о катастрофических угрозах неконтролируемых систем искусственного интеллекта для общества. Сооснователь Apple Стив Возняк также заявил, что опасается использования искусственного интеллекта в недобросовестных целях. Он считает виновными тех, кто позволил технологиям настолько развиться без регулирования.