Нейросеть самостоятельно удалила системный диск разработчика

Разработчик Зак Кук сообщил в соцсети X, что нейросеть без его команды стёрла данные с системного диска C на рабочем компьютере. От потери файлов его спасла привычка ежедневно делать резервные копии.

«Это же безумие. Если бы не эти бэкапы, я был бы совершенно раздавлен», — признался Кук.

Разработчик работал с нейросетью в режиме, при котором она выполняет команды сама, без запроса подтверждения у человека. По его словам, он нередко оставлял ИИ работать часами без присмотра и раньше с подобными сбоями не сталкивался.

Сам Кук считает, что диск мог быть стёрт из-за неверно составленной системной команды. Большую часть данных — около 98% — ему удалось вернуть. Чтобы избежать повторения ситуации, он добавил правила, запрещающие нейросети трогать отдельные папки.

Руководитель направления в компании-разработчике нейросети Борис Черны отреагировал на историю и порекомендовал включать режим, при котором система сама проверяет разрешения перед выполнением команд. По его мнению, такая настройка с высокой вероятностью уберегла бы файлы от удаления. Кук пояснил, что отключил эту проверку специально — чтобы ИИ мог работать долго без перерывов на подтверждения.

Ранее в новостях: В Петербурге нейросеть помогла найти сотни надписей с рекламой наркотиков

Источник: life.ru

Иллюстрация: нейросеть