Google пообещала исправить Gemini после обрушившейся на бота критики: ИИ стал «расистом»

Компания Google заявила, что доработает свой новый инструмент для создания изображений, работающий на основе искусственного интеллекта, после того как стало известно, что он слишком сильно корректирует изображения, что граничит с расизмом. Пользователи утверждают, что бот Gemini показывает изображения, на которых изображены представители разных полов и этнических групп, даже если это исторически недостоверно.

Например, на запрос о создания изображения отцов-основателей Америки бот выдавал женщин и людей с другим цветом кожи. «С помощью искусственного интеллекта Gemini генерирует изображения самых разных людей. И это, как правило, хорошо, потому что его используют люди по всему миру. Но здесь он промахнулся, — сказал Джек Кравчик, старший директор Gemini Experiences. — Сейчас мы работаем над тем, чтобы усовершенствовать работу с такого рода изображениями».

Это не первый раз, когда ИИ спотыкается о вопросы о разнообразии. Например, почти десять лет назад компании Google пришлось извиняться после того, как ее приложение для работы с фотографиями пометило фотографию чернокожей пары как изображение «горилл».

Конкурент Google, компания OpenAI, специализирующаяся на искусственном интеллекте, также была обвинена в распространении стереотипов, после того как пользователи обнаружили, что ее генератор изображений Dall-E отвечает на запрос «генеральный директор» результатами, в которых преобладают фотографии белых мужчин.

Компания Google, которой приходится доказывать, что она не отстает в разработке ИИ, на прошлой неделе выпустила последнюю версию Gemini. Бот создает изображения в ответ на письменные запросы. Он быстро привлек внимание критиков, которые обвинили компанию в том, что она создала до смешного политкорректного бота.

«Очень трудно заставить Gemini от Google признать, что белые люди существуют», — пишет специалист по информатике Дебаргья Дас. Эти заявления набирают обороты в правых кругах в США, где многие крупные технологические платформы уже сталкиваются с негативной реакцией из-за предполагаемой либеральной предвзятости.

Кравчик заявил, что компания серьезно относится к проблемам репрезентации и предвзятости и хочет, чтобы ее результаты представляли пользователей по всему миру. «Исторический контекст имеет больше нюансов, и мы будем продолжать работу в этом направлении», — написал он в X, бывшем Twitter, где пользователи делились полученными от бота результатами. — Обратная связь — это часть процесса настройки. Спасибо, и продолжайте в том же духе!»

Тем временем производитель ChatGPT разрабатывает собственный продукт для веб-поиска. Он может быть частично основан на поисковой системе Microsoft Bing. Пока неясно, будет ли поисковик OpenAI продуктом, отдельным от ChatGPT, чат-бота с искусственным интеллектом. Эта разработка ставит OpenAI в более прямую конкуренцию с Google и следует за попыткой Microsoft усовершенствовать свою поисковую систему Bing с помощью технологий компании, разрабатывающей инструменты ИИ.