Anthropic подготовила законопроект о государственном контроле над мощным ИИ
Anthropic в закрытом порядке передала американским законодателям проект закона о федеральных мерах защиты от мощных систем искусственного интеллекта. Документ предусматривает механизм, который позволит не допустить запуска моделей, способных причинить тяжелый вред. Об этом сообщило издание Politico со ссылкой на трех человек, знакомых с обсуждениями компании в Капитолии.
Вмешательство государства допускается только в узких случаях. Согласно законопроекту, порог составляет ущерб более $1 млрд либо тяжелые травмы или гибель более чем 50 человек. Проект называет три категории угроз: разработку или выпуск биологического оружия, работу ИИ-систем вне контроля их создателей и кибератаки. Высокий порог означает, что компании смогут развивать все более сложные системы, а их самые опасные возможности попадут под дополнительную проверку.
Центральный элемент предложения касается независимой оценки. Внешние эксперты, зарегистрированные в Министерстве торговли США, согласно проекту, смогут периодически изучать компании и их наиболее мощные модели, чтобы заблаговременно находить угрозы.
Разработчики смогут оплачивать такие проверки при условии, что вознаграждение не зависит от выводов оценщика. Если эксперт обнаружит риски, подпадающие под критерии закона, он должен уведомить министерство в течение 72 часов после завершения оценки.
Права ведомств проект ограничивает. Министерство торговли сможет обратиться в суд, когда модель достигнет порога опасности, но самостоятельно приостановить технологию не сможет. Решение о приостановке примет федеральный судья окружного суда округа Колумбия после того, как убедится, что для этого выполнены необходимые условия.
Другим федеральным ведомствам и должностным лицам проект запрещает самостоятельно останавливать разработку, развертывание или внутреннюю работу ИИ-моделей, подпадающих под эти правила. Полномочия по принуждению оказываются сосредоточены в одной процедуре, а возможности отдельных агентств вводить ограничения вне ее сужаются.
Пока это лишь предложение компании, а не принятый закон: чтобы документ стал обязательным, потребуется решение Конгресса. Reuters сообщило, что представители Anthropic обсуждали проект с конгрессменами, но не установило, намерены ли те вносить его официально.
Инициатива показывает, что крупные разработчики ИИ активнее участвуют в формировании правил для собственной отрасли. В Вашингтоне идет спор о том, как снижать риски передовых систем и не тормозить развитие технологий.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
