Эксперт по ИИ перестал копить на пенсию из-за страха вымирания человечества

 Президент Института исследований машинного интеллекта (MIRI) Нейт Соарес отказался от пополнения пенсионных накоплений, поскольку сомневается в будущем человечества. Учёный опасается, что развитие искусственного интеллекта может привести к исчезновению людей. Об этом пишет Business Insider со ссылкой на его интервью главе The Atlantic Николасу Томпсону.

Соарес признался, что не перечисляет деньги на пенсионный счёт уже около десяти лет. Сам счёт у него сохранился ещё со времён работы в Google, однако увеличивать накопления исследователь больше не планирует.

Причиной такого решения стали его представления о рисках, связанных с развитием современных ИИ-систем. По оценке главы MIRI, вероятность полного исчезновения человечества вследствие распространения искусственного интеллекта превышает 50%.

Другие известные специалисты придерживаются менее пессимистичных прогнозов. Так, один из пионеров исследований нейросетей Джеффри Хинтон допускает 10-процентную вероятность подобного сценария в ближайшее десятилетие. Сотрудник компании Anthropic Эван Хабингер оценивает этот риск немногим выше 10%.

Сам Соарес более 12 лет изучает проблему согласования целей искусственного интеллекта с человеческими интересами. Это направление исследований, известное как AI alignment, предполагает создание механизмов, позволяющих контролировать поведение высокоразвитых систем.

Учёный предупреждает, что достаточно мощный ИИ теоретически способен сформировать собственные задачи, несовместимые с интересами людей. В таком случае система может научиться обходить человеческий контроль, самостоятельно совершенствовать свои возможности и создавать инфраструктуру для автономной работы.

По мнению Соареса, дальнейшее развитие такого сценария потенциально позволит искусственному интеллекту изменить окружающую среду под собственные потребности. В результате условия на Земле могут стать непригодными для существования человека.

Ранее в новостях:

Федерация гимнастики хочет доверить судейство на Олимпиаде ИИ

Фото: pixabay/geralt