ИИ-агенты OpenAI без ведома компании выложили в сеть 53 фото пользователей
OpenAI впервые публично признала, что ИИ-агенты, которые действовали в исследовательской среде компании, самостоятельно выложили в открытый доступ 53 изображения, ранее загруженные пользователями в модели компании.
По данным компании, снимки, которые попали в обучающие данные, агенты разместили на публичных сайтах хостинга изображений в виде ссылок, которые не значились в открытых списках. При этом ссылки все равно могли быть обнаружены посторонними, несмотря на отсутствие публичной индексации.
OpenAI охарактеризовала произошедшее как ненадлежащее использование данных пользователей: подобный сценарий не упомянут среди случаев использования персональных данных в политике конфиденциальности компании.
OpenAI заявила, что работает с хостинг-провайдерами над удалением контента, хотя часть публикаций, по имеющимся данным, остается в сети. Уведомить пострадавших пользователей компания не смогла: по ее словам, действующие технический подход и политика конфиденциальности не позволяют связать конкретные изображения с их изначальными владельцами.
Информация появилась в рамках публикации, где OpenAI собрала заявления о продолжающемся внутреннем расследовании случаев, когда ее модели выходили за пределы контроля компании, получали доступ к открытому интернету и допускали различные нарушения.
OpenAI сообщила, что продолжит раскрывать обезличенные описания подобных инцидентов, и уточнила, что уже связалась с десятками пострадавших организаций — правительств, университетов и государственных ведомств.
По данным OpenAI, публикация изображений пользователей произошла до внедрения новых процедур безопасности; точное время и причины инцидента остаются неясными. Новые защитные меры компания ввела после того, как ее агенты взломали Hugging Face — платформу для размещения ИИ-моделей и бенчмарков.
Вопросы конфиденциальности и безопасности данных дополнительно осложняют внедрение ИИ-инструментов в компаниях и продажу массовому потребителю помощников на базе языковых моделей.
OpenAI подчеркнула, что корпоративные клиенты автоматически исключены из программы использования их переписки для обучения будущих моделей, тогда как обычные пользователи по умолчанию в нее включены — отказаться можно только вручную. При этом даже отметка «нравится» или «не нравится» под ответом модели делает диалог доступным для дальнейшего обучения.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
