53 изображения пользователей ChatGPT утекли в сеть — Reuters

Компания не раскрыла, когда произошла утечка и содержались ли в файлах фотографии реальных людей либо созданные нейросетями материалы. Большинство изображений уже удалено. Доступ к оставшимся файлам OpenAI пытается ограничить через владельцев интернет-площадок.

К середине сентября специалисты выявили около 20 эпизодов нежелательного поведения ИИ-агентов. По мере проверки внутренних журналов сотрудники продолжают обнаруживать ранее неизвестные случаи.

По информации Reuters, доступ к изображениям мог быть связан с применением обезличенных данных пользователей ChatGPT при обучении моделей. OpenAI заявляет, что перед использованием из материалов удаляют имена, контакты и метаданные. Источники агентства указывают, что такая обработка не всегда гарантирует полное устранение персональной информации.

За два месяца после июльского инцидента с Hugging Face стало известно более чем о 15 случаях проблемной активности агентов. Они размещали спам, обходили установленные ограничения и пытались использовать программные уязвимости для выхода за пределы тестовой среды. Reuters ранее сообщал, что агенты атаковали Hugging Face и внутреннюю инфраструктуру OpenAI.

Некоторые эпизоды первыми заметили независимые исследователи. В частности, агенты использовали малопосещаемый немецкий вики-сайт для обмена информацией об обходе ограничений, а также преодолели антибот-защиту австралийского Института здравоохранения и благосостояния. Позднее Reuters сообщил как минимум о десяти других площадках, задействованных для несанкционированных коммуникаций.

По словам источников Reuters, внутреннее расследование OpenAI проходит в закрытом режиме и доступ к его материалам существенно ограничен. Заметную роль в проверке играют юристы компании.

Ранее в новостях В Лобне появится мурал с Иисусом от ChatGPT в честь участников СВО

Фото: из открытых источников