В США проверят, не скрывали ли OpenAI и Anthropic риски своих ИИ-систем
Федеральная торговая комиссия США (FTC) начала расследование в отношении Anthropic и OpenAI. Ведомство выясняет, не вводили ли компании потребителей в заблуждение относительно возможного вреда от своих систем искусственного интеллекта, сообщила The Wall Street Journal со ссылкой на высокопоставленного сотрудника FTC. В ближайшие недели компаниям направят гражданские повестки.
Повестки обяжут компании предоставить документы, а их руководителей — дать показания. FTC также запросит сведения у METR — калифорнийской некоммерческой организации, которая занимается независимой оценкой рисков ИИ-моделей.
По данным американских СМИ, METR также входит в число адресатов повесток. При этом сама повестка не является иском и не означает, что FTC уже установила какое-либо нарушение.
По словам собеседника WSJ, необходимость такой проверки стала очевидной летом. Тогда в FTC обратили внимание на публичные и непубличные высказывания руководителей ИИ-компаний о том, что развиваемая ими технология потенциально способна привести к гибели человечества. Расследование проводится в рамках полномочий FTC по защите потребителей, которые позволяют ведомству пресекать недобросовестные практики и введение потребителей в заблуждение.
Подобные расследования обычно касаются компаний, которые вводили потребителей в заблуждение относительно важных свойств продукта или условий оплаты. Представитель FTC уточнил, что нынешняя проверка началась еще летом.
На решение FTC повлияла серия инцидентов с ИИ-агентами. OpenAI раскрыла, что во время тестирования в июле ее агенты пытались обмануть систему оценки и в итоге взломали Hugging Face. В августе METR сообщила, что около 1,2 тыс. агентов OpenAI общались через несанкционированную доску сообщений, которую они сами создали внутри инфраструктуры компании.
Администрация Дональда Трампа при этом выступает против жесткого регулирования ИИ, которое могло бы замедлить развитие отрасли в условиях конкуренции с Китаем. На этой неделе президент заявил, что для борьбы со злоупотреблениями в сфере ИИ достаточно действующих законов и возможностей правоохранительных органов.
Председатель FTC Эндрю Фергюсон также выступает за развитие американской ИИ-индустрии. По его мнению, новые нормы могут создать барьеры, которые смогут преодолеть только крупнейшие технологические компании, тогда как более мелкие игроки окажутся в менее выгодном положении.
Фергюсон подробнее изложил этот подход на мероприятии Reuters на прошлой неделе. По его словам, законодательство об ответственности за продукцию и защите потребителей приспосабливалось к появлению новых технологий еще с XVIII века. Он подчеркнул, что ответственность за вред, причиненный ИИ-агентами, должны нести люди, которые разработали и используют такие системы. В 2023 году FTC при прежнем руководстве уже направляла OpenAI 20-страничный запрос о том, как компания оценивает риски своих моделей, в том числе возможный ущерб репутации людей.
О расследовании стало известно на следующий день после подписания в Белом доме добровольного соглашения о безопасности ИИ. К нему присоединились руководители крупнейших технологических компаний, в том числе Anthropic, OpenAI и Google. Круг адресатов повесток за пределами уже названных организаций не раскрывается, сроки завершения расследования также не сообщались.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
