OpenAI начала работать над новой секретной технологией под кодовым именем Strawberry
OpenAI работает над новым подходом к своим моделям искусственного интеллекта в проекте под кодовым названием Strawberry, согласно информации источника, знакомого с ситуацией, и внутренней документации, изученной агентством Reuters. Источник сообщил, что работа Strawberry является тщательно охраняемым секретом даже в OpenAI.
В документах говорится, что ИИ будет не просто генерировать ответы на запросы, но и заранее планировать разные сценарии. Кроме того, ИИ сможет автономно исследовать интернет. Прежде модели искусственного интеллекта не были на такое способны.
«Мы хотим, чтобы наши модели ИИ видели и понимали мир так же, как мы. Непрерывные исследования новых возможностей ИИ являются обычной практикой в отрасли, и все мы убеждены, что эти системы со временем будут совершенствовать свои рассуждения», — сказал представитель компании OpenAI.
Ранее проект Strawberry уже был известен как Q* и в компании его уже рассматривали как прорыв. По словам сотрудников OpenAI, демонстрационные версии Q* были способны отвечать на сложные научные и математические вопросы, которые не по возможностям сегодняшним коммерчески доступным моделям.
По данным Bloomberg, во вторник на внутреннем общем собрании OpenAI продемонстрировала демоверсию исследовательского проекта, в котором были заложены новые навыки рассуждения, подобные человеческим. Однако неизвестно, был ли продемонстрированный проект Strawberry.
Как известно, Strawberry использует специализированный способ обработки модели ИИ после ее предварительного обучения на очень больших наборах данных. И несмотря на то что большие языковые модели уже способны выполнять многие человеческие задачи, например писать тексты или составлять прозу, технология часто не справляется с решениями, которые кажутся людям интуитивными, например с распознаванием логических ошибок и игрой в крестики-нолики.
Улучшение рассуждений в моделях ИИ является ключом к раскрытию многих возможностей моделей, от совершения крупных научных открытий до планирования и создания новых программных приложений, что приведет к достижению ИИ человеческого или сверхчеловеческого уровня интеллекта.
Генеральный директор OpenAI Сэм Альтман заявил ранее в этом году, что «наиболее важные области прогресса ИИ будут связаны со способностью рассуждать». Другие компании, такие как Google, Meta* (запрещена на территории РФ и признана экстремистской) и Microsoft, также экспериментируют с различными методами для улучшения рассуждений в моделях ИИ.
Strawberry схоже с методом, разработанным в Стэнфорде в 2022 году под названием «Self-Taught Reasoner» или «STaR», который позволяет моделям ИИ «загружаться» до более высоких уровней интеллекта посредством итеративного создания собственных обучающих данных и, в теории, может использоваться, чтобы заставить языковые модели превосходить уровень интеллекта человека, сообщил один из его создателей, профессор Стэнфорда Ноа Гудман.
«Я думаю, что это одновременно и волнительно, и страшно. Если все будет продолжаться в том же духе, нам, людям, придется серьезно задуматься», — сказал Гудман.
В июне сотрудники OpenAI опубликовали письмо, в котором выразили обеспокоенность быстрым развитием индустрии ИИ, несмотря на отсутствие надзора и защиты от разоблачителей. «У компаний, занимающихся разработкой искусственного интеллекта, есть серьезные финансовые стимулы избегать эффективного надзора», — пишут сотрудники.
