OpenAI предложила до $445 тыс. исследователю рисков самосовершенствования ИИ
OpenAI открыла вакансию исследователя безопасности искусственного интеллекта с зарплатой до $445 тыс. в год. Но внимание привлекли не только деньги. От кандидата ждут «тактичности и стратегического мышления», а также готовности работать со сценариями, в которых развитие ИИ может выйти на новый уровень риска.
Речь идет о специалисте, который будет изучать риски так называемого «рекурсивного самосовершенствования». Так называют сценарий, при котором ИИ-системы начинают самостоятельно создавать и обучать более мощные версии самих себя.
Еще несколько лет назад такие сценарии обсуждались в основном в академической среде и научной фантастике. Теперь они становятся частью реальных вакансий крупнейших ИИ-компаний. Одной из причин стал быстрый прогресс ИИ-инструментов для программирования, которые за последние месяцы заметно повысили уровень автономности моделей.
Из-за этого ИИ-компании все активнее нанимают не только инженеров и разработчиков, но и специалистов по безопасности, управлению рисками и контролю автономных систем. В описании вакансии OpenAI отдельно говорится, что будущему сотруднику придется принимать решения в условиях высокой неопределенности и работать с разными командами внутри компании.
Фактически рынок ИИ меняется прямо сейчас. Если раньше главным дефицитом были исследователи нейросетей и инженеры машинного обучения, то теперь все более востребованными становятся специалисты, которые могут оценивать последствия появления моделей следующего поколения.
Вакансия появилась в период, когда OpenAI готовится к возможному выходу на биржу. Компания расширяет подразделения, связанные с безопасностью искусственного интеллекта. Крупнейшие игроки индустрии все чаще предупреждают, что технологии приближаются к уровню, при котором вопрос контроля над ИИ может стать одним из главных для рынка.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
