Глава ИИ в Tencent: искусственный интеллект вскоре освоит биологию и создаст новые угрозы безопасности
Передовые системы искусственного интеллекта в скором времени достигнут достаточного уровня понимания биологии для создания новых угроз. Главный научный сотрудник по ИИ компании Tencent Винс Яо Шуньюй заявил об этом на симпозиуме Академии наук Гонконга.
По его словам, ИИ-модели смогут значительно ускорить открытие новых лекарств. При этом и злоумышленники со своей стороны получат возможность применить открытый софт для разработки биологического оружия и провоцирования пандемий.
Предупреждение прозвучало на фоне интеграции нейросетей в медицину и науку. На прошлой неделе Tencent выпустила флагманскую модель Hy4. Алгоритм занял второе место по производительности в Китае, по оценкам аналитиков Artificial Analysis.
Разработчики удалили из системы возможности для кибератак на этапе обучения. Биологические навыки Hy4 намеренно ограничили безопасным порогом — алгоритм неспособнен использовать свои базовые знания для создания практических протоколов синтеза.
Яо Шуньюй анонсировал планы Tencent по созданию автономных научных лабораторий. Системы искусственного интеллекта в таких комплексах будут самостоятельно проводить сложные эксперименты от начала до конца. В качестве примера ученый привел обратное свертывание белков.
По словам Яо Шуньюя, все технические проблемы со временем будут решены. Главным же вызовом станут социальные и организационные барьеры.
Биология считается следующим крупным рубежом для нейросетей после программирования. Эксперты отрасли отмечают двойное назначение подобных технологий. Инструменты могут служить как для нападения, так и для защиты.
При этом управление биологическими рисками потребует более сложных подходов по сравнению с кибербезопасностью из-за трудности разделения функций нападения и защиты.
В индустрии продолжаются дискуссии о форматах выпуска алгоритмов. Американские компании Anthropic и OpenAI настаивают на закрытом исходном коде для предотвращения общественного вреда. Китайский подход подразумевает открытый доступ к весам моделей.
Яо Шуньюй считает оптимальным смешанный вариант для расширения защитных возможностей. Платформа Hugging Face недавно применила китайскую открытую нейросеть для отражения кибератаки после отказа американских закрытых алгоритмов из-за их встроенных ограничений безопасности.
Позиции США и Китая сближаются в вопросах оценки рисков передового искусственного интеллекта. Компании Tencent, Huawei и Alibaba ранее представили доклад на Всемирной интернет-конференции в Учжэне. Документ указывает на высокие риски для общественного здравоохранения из-за способностей нейросетей к проектированию патогенов.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
