Учёный рассказал, как несколько примеров меняют поведение нейросети

Небольшое число неудачных примеров может сказаться на работе нейросети за рамками той ситуации, где они возникли. Об этом сообщил кандидат физико-математических наук Олег Рогов, руководитель группы по безопасности интеллектуальных систем в одном из научных институтов.

Рогов объяснил, что для пользователя это может проявляться как потеря моделью контекста разговора, после чего выдаваемые данные начинают искажаться.

По его словам, такая потеря части контекста иногда происходит прямо в процессе рассуждения нейросети.

Простым выходом для пользователя в подобной ситуации может быть запуск нового диалога с нейросетью вместо продолжения текущего.

Ранее в новостях: В Москве в ЕГЭ-2027 по истории и математике добавят по заданию

Источник: regions.ru

Фото: Sebastiaan Stam / Pexels