В России ИИ будут проверять на угрозу нацбезопасности

До 2028 года в России планируется создать и внедрить первую версию ПО, которая будет проверять модели искусственного интеллекта, обучающиеся на государственных данных, на предмет угрозы национальной безопасности и обороны страны, сообщает «Коммерсантъ».

По мнению участников рынка, обучение ИИ на госданных требует усиленных мер безопасности, чтобы исключить ошибки, которые могут привести к неверным рекомендациям при принятии стратегических государственных решений.

В период с 2025 по 2026 год планируется провести научное исследование по разработке принципов анализа моделей ИИ, обученных на государственных данных, а в 2027–2028 гг. — создать и внедрить первую версию программы для анализа таких моделей.

На эти цели до 2030 года планируется выделить из федерального бюджета 8,1 млрд руб. За реализацию проекта отвечает Федеральная служба безопасности (ФСБ). К 2030 году пять систем искусственного интеллекта должны получить подтверждение «допустимости безопасного использования».

В Минцифры не сообщили, какие именно данные имеются в виду. Однако в министерстве намерены поддерживать развитие ИИ, в том числе в рамках нового нацпроекта, который находится на «финальном этапе согласования». Отметим, что сейчас у коммерческих компаний нет доступа к государственным данным.

Ранее вице-премьер Дмитрий Григоренко поручил Минцифры совместно с Ассоциацией больших данных (АБД), которая объединяет «Яндекс», VK, «Ростелеком» и другие компании, проработать порядок предоставления бизнесу доступа к госданным — информации о паспортах, трудовой деятельности граждан, номерах телефонов, и так далее.

В АБД отмечают, что на данный момент речь идет только о данных, которые требуются бизнесу для оказания услуг. Также предполагается, что их доступность для обучения ИИ может стать следующим шагом по расширению доступа бизнеса к государственным данным.

По словам руководителя группы консалтинга MTS AI Дмитрия Черноуса, государственные данные помогают создавать модели ИИ, которые более точно определяют особенности и потребности конкретной страны или региона, что дает возможность разрабатывать более точные и релевантные решения.

Однако, по мнению генерального директора группы компаний ST IT Антона Аверьянова, обучать искусственный интеллект на основе государственных данных следует с повышенными мерами безопасности, а доступ к продукту такого обучения должен быть только у авторизованных пользователей.

Ранее компания OCS провела исследование с целью выяснить, какие технологические тренды за последний год оказали наибольшее влияние на цифровизацию бизнеса. Респондентами в опросе выступили 144 дилера и интегратора из 26 городов России. Были выбраны компании, участвующие в большинстве проектов цифровизации крупного бизнеса из разных отраслей.