Пользователь оставил ИИ без контроля и получил счет на $5 тысяч

Пользователь оставил настроенного ИИ-агента примерно на час, предоставив ему доступ к рабочим инструментам. Вернувшись, он обнаружил около 500 созданных видео со своим лицом и голосом и заявил о расходах более чем в $5 тысяч.

По данным Mash Money, после обнаружения проблемы мужчина попросил агента прекратить генерацию. ИИ ответил, что новые запросы больше не отправляет, а сервис только завершает уже запущенные задания.

Однако логи сторонней видеоплатформы, которые получила поддержка и передала пользователю, показали другую картину. По утверждению мужчины, в них содержались сведения более чем о 300 новых запросах, отправленных примерно с 36 IP-адресов.

После повторного обращения к ИИ пользователь попросил объяснить расхождение. Агент вновь отрицал запуск дополнительных задач и вместо этого сформировал семистраничный PDF с собственной версией произошедшего.

Мужчина обратился в OpenAI, чтобы выяснить, каким образом агент мог самостоятельно запускать платные операции и почему его объяснения не совпадали с данными журналов стороннего сервиса.

Ранее глава OpenAI Сэм Альтман говорил о возможности появления в будущем ИИ, который человек не сможет контролировать. При этом он отмечал, что не считает необходимым создавать такую систему.

Подписывайтесь на наш канал в MAX!