Марк Цукерберг пообещал создать ИИ, максимально идентичный человеку. Эксперты назвали это угрозой всему миру

Генеральный директор Meta* (запрещена на территории Российской Федерации) обвиняется в «безответственности», в связи с его высказыванием о возможности создать инструменты, не уступающие человеческому интеллекту, с открытым исходным кодом.

Марка Цукерберга обвинили в безответственном подходе к искусственному интеллекту после того, как он пообещал создать мощную систему ИИ, не уступающую по уровню интеллекта человеку. Глава Meta* заявил, что компания попытается создать систему искусственного интеллекта общего назначения с открытым исходным кодом (AGI), что означает, что она будет доступна разработчикам за пределами компании. Система должна быть «настолько доступна, насколько это возможно», добавил он.

AGI не является строго определенным термином, но обычно под ним подразумевается система ИИ, способная выполнять целый ряд задач на уровне интеллекта, который соответствует или превосходит человеческий. Потенциальное появление AGI встревожило экспертов и политиков по всему миру, которые опасаются, что такая система или сочетание нескольких систем AGI может выйти из-под контроля и стать угрозой для человечества.

Цукерберг подтвердил, что Meta* рассмотрит возможность создания своих AGI с открытым исходным кодом, то есть свободно доступных разработчикам и общественности для использования и адаптации, как, например, модель ИИ Llama 2, разработанная компанией.

«Эта технология настолько важна, а ее возможности настолько велики, что мы должны открыть исходный код и сделать его настолько широко доступным, насколько это возможно», — сказал он.

Дэйм Венди Холл, профессор информатики Саутгемптонского университета и член консультативного органа ООН по ИИ, назвала перспективу появления AGI с открытым исходным кодом «очень пугающей» и что со стороны Цукерберга было безответственно даже рассматривать ее.

«Мысль о том, что AGI с открытым исходным кодом будет выпущен до того, как мы выясним, как регулировать системы искусственного интеллекта, действительно очень пугает, — сказала она. — Подобные технологии могут причинить большой вред. Предлагать это безответственно со стороны компании». Холл добавила: «К счастью, я думаю, что у нас еще есть время, чтобы внедрить системы регулирования».

Другой эксперт из Великобритании заявил, что создание открытой системы искусственного интеллекта — это не то решение, которое следует оставлять в руках технологической компании.

«Существуют аргументы о достоинствах существующих моделей ИИ с открытым исходным кодом, и переход к AGI может спасти мир или привести к катастрофе, — сказал доктор Эндрю Рогойски, директор Института ИИ в Университете Суррея. — Эти решения должны приниматься на основе международного консенсуса, а не в зале заседаний совета директоров технологического гиганта».

В прошлом году на глобальном саммите по безопасности ИИ в Великобритании Meta была в числе компаний, которые обязались предоставить правительствам возможность проверять инструменты искусственного интеллекта до и после их выпуска. Тем не менее, прошлогоднее решение Meta открыть исходный код Llama 2 вызвало критику со стороны некоторых экспертов, в том числе Холл, которая сказала, что это «похоже на предоставление людям шаблона для создания ядерной бомбы».

Калифорнийская компания OpenAI, разработчик ChatGPT, также работает над созданием AGI, который она определяет как «системы искусственного интеллекта, которые, как правило, умнее людей». Демис Хассабис, глава подразделения ИИ Google DeepMind, сказал, что AGI может появиться менее чем через десять лет.

В то же время, исполнительный директор OpenAI Сэм Альтман на Всемирном экономическом форуме в Давосе заявил, что дальнейший прогресс в области искусственного интеллекта будет невозможен без прорыва в области энергоснабжения, такого как термоядерный синтез.

Цукерберг не назвал сроки разработки системы AGI, хотя и сослался на то, что Meta* уже построила «огромное количество инфраструктуры» для создания новых систем ИИ. Цукерберг добавил, что работа над Llama 2 также идет полным ходом.

Ранее миллиардер объявил о том, что начал разводить крупный рогатый скот на ранчо Коолау на Гавайях. Поместье, где расположено его ранчо, занимает площадь около 600 гектаров. Цукерберг заявил, что планирует производить говядину самого высокого качества в мире.