Последний поисковый инструмент Google посоветовал пользователям намазать пиццу клеем и съесть камни
Google запустил свою последнюю экспериментальную функцию поиска в Chrome, Firefox и браузере приложений Google для сотен миллионов пользователей. Функция «ИИ-обзоры» избавляет от необходимости переходить по ссылкам, используя генеративный ИИ для предоставления краткого описания результатов поиска.
Задайте вопрос «Как дольше сохранить бананы свежими», и ИИ выдаст краткое описание с советами: хранить их в прохладном темном месте и подальше от других фруктов, например яблок. Но если задать ему нестандартный вопрос, результаты могут оказаться катастрофическими или даже опасными.
AI Overviews подскажет, что Whack-A-Mole — это классическая аркадная игра, в которой игроки с помощью молотка бьют кротов, появляющихся в случайном порядке, и получают очки. Игра была изобретена в Японии в 1975 году производителем развлечений TOGO и первоначально называлась Mogura Taiji или Mogura Tataki.
Но AI Overviews также сообщает, что астронавты встречали кошек на Луне, играли с ними и ухаживали за ними. Что еще более тревожно, он также рекомендует съедать хотя бы один небольшой камень в день, поскольку камни являются жизненно важным источником минералов и витаминов, и советует добавлять клей в начинку для пиццы.
Это происходит потому, что одна из фундаментальных проблем заключается в том, что инструменты генеративного ИИ не знают, что является истиной, а знают только то, что популярно. Например, в Интернете не так много статей о том, как есть камни, поскольку это очевидно плохая идея.
Однако есть сатирическая статья The Onion о поедании камней, поэтому ИИ Google основывал свои выводы на том, что было популярно, а не на том, что было правдой. Другая проблема заключается в том, что инструменты генеративного ИИ не имеют человеческих ценностей. Они обучаются на большой части интернета.
«Мы были осторожны. Есть области, в которых мы решили не быть первыми, кто выпустит продукт. Мы создали хорошие структуры для ответственного ИИ. Мы и впредь не будем торопиться», — сказал в 2023 году глава Google Сундар Пичаи.
Похоже, это уже не так, поскольку Google отвечает на критику, что она превратилась в крупного и вялого конкурента. Компания рискует потерять доверие публики к Google как к месту, где можно найти правильные ответы на вопросы.
Но Google также рискует подорвать свою собственную бизнес-модель, приносящую миллиарды долларов. Если больше не переходить по ссылкам, а только читать их краткое содержание, то Google станет трудней зарабатывать деньги.
Риски не ограничиваются Google, по мнению источника, такое использование ИИ может нанести вред обществу в целом, истина и так является несколько спорной и непостоянной идеей. «Неправда», созданная ИИ, может усугубить ситуацию, добавил он.
Возможно, через десять лет 2024 год будет вспоминаться как золотой век интернета, когда большую часть его составлял качественный контент, созданный людьми, до того как боты захватили власть и заполнили Интернет синтетическим и все более низкокачественным контентом, созданным ИИ.
Второе поколение больших языковых моделей, вероятно, обучается на некоторых результатах первого поколения. И многие стартапы в области ИИ рассказывают о преимуществах обучения на синтетических данных, созданных ИИ. Обучение современных моделей на данных предыдущих ИИ чревато усилением даже небольших погрешностей и ошибок.
Ежедневно в мире в ИИ инвестируется более $400 млн, и правительства только сейчас начинают приходить к мысли, что нам могут понадобиться ограждения и регулирование, чтобы обеспечить ответственное использование ИИ, учитывая такой поток инвестиций.
Ранее Google заявила, что введет ответы на онлайн-запросы, генерируемые искусственным интеллектом, что станет одним из крупнейших изменений в ее ведущей поисковой системе за последние 25 лет. Изменения происходят на фоне того, что Google ощущает растущее давление со стороны поисковых систем с искусственным интеллектом.
