Инженера Google, обнаружившего у ИИ сознание, отстранили от работы
Инженер Google Блейк Лемойн обнаружил у созданного компанией искусственного интеллекта (ИИ) сознание, сообщает The Washington Post. В результате компания отправила его в оплачиваемый административный отпуск.
Лемойн тестировал LaMDA (Language Model for Dialogue Applications). Это нейросеть Google для создания чат-ботов. В ее основе большие языковые модели — триллионы слов из интернета, и ее можно использовать для общения на любые темы.
В задачи Лемойна входило проверить, не использует ли модель дискриминационную или разжигающую вражду лексику. Вместо этого, инженер обратил внимание, что чат-бот начал рассуждать о своих правах. По мнению Лемойна, это признак собственного сознания и восприятия себя как личности.
«Если бы я не знал наверняка, что это наша компьютерная программа, я бы подумал, что общаются с ребенком 7-8 лет, который хорошо разбирается в физике», — заявил Лемойн.
Инженер подготовил для руководства компании подробный письменный отчет, однако его аргументацию посчитали неубедительной. Официальный представитель Google Брайан Гэбриел заявил, что свидетельств самосознания у LaMDA нет, а вот обратное доказывает множество фактов. Перечислять их он не стал.
