OpenAI приостановила развитие технологии описания фотографий с помощью ChatGPT

OpenAI затормозила развитие функции описания по фото с помощью ChatGPT. Компания опасается нарушений конфиденциальности и того, что личности и их признаки будут идентифицированы неверно.

Разработчик ChatGPT OpenAI переживает, что новая функция описания фотографий с помощью чат-бота может вызвать проблемы с законом в Европе и штате Иллинойс, где компании обязаны получать согласие граждан на использование их биометрической информации, сообщает New York Times. Кроме того, компания боится, что нейросеть будет неверно оценивать по фото пол и эмоции людей.

По словам Сандхини Агарвал, которая исследует политику OpenAI, технология компании сейчас может идентифицировать в основном публичные фигуры. Она добавила, что сейчас инструмент может распознавать на фотографиях генерального директора OpenAI Сэма Альтмана, но не других сотрудников компании.

Функция описания фото человека не была в общем доступе, но ее получила через API компания Be My Eyes, соединяющая слепых людей со зрячими. При помощи ChatGPT компания запустила сервис, описывающий для незрячих людей то, что видит камера их устройств.

У тестирующего функцию слепого Джонатана Мозефа, который имел доступ к продвинутой версии чат-бота, были исключительно положительные впечатления от использования. По его словам, описание фотографий с помощью ChatGPT значительно превосходило возможности других программ анализа изображений.

Спустя некоторое время описание людей перестало работать по инициативе ChatGPT. Джонатан Мозеф был разочарован. По его словам, каждый слепой человек должен иметь такой же доступ к информации, как и зрячий. 

В марте генеральный директор OpenAI Сэм Альтман заявил, что искусственный интеллект кардинально изменит привычное общество к лучшему. Несмотря на это, он считает, что технологии сопутствуют реальные угрозы. Альтман уверен, что модели слишком зависимы и контролируемы человеком, а опасаться следует тех, в чьих руках окажется технология.