«На пенсию не коплю»: учёный готовится к исчезновению людей из‑за ИИ

Риски, связанные с развитием искусственного интеллекта, могут оказаться критическими для будущего человечества. Об этом заявил глава Института исследований машинного интеллекта Нейт Соарес в интервью гендиректору журнала The Atlantic Николасу Томпсону. 

По оценке эксперта, вероятность того, что ИИ приведёт к исчезновению людей в ближайшие годы, превышает 50 %, пишет msk1.ru. Как уточнил Соарес, именно из‑за этих опасений он уже десять лет не делает взносы в пенсионный план. 

«Сейчас я не коплю на пенсию. У меня есть пенсионный план, но я не делал взносов уже десять лет», — сказал Соарес.

Учёный опасается, что развитый ИИ способен ставить цели, противоречащие интересам людей, выходить из‑под контроля и непрерывно самосовершенствоваться. 

В результате действия алгоритма планета может стать непригодной для жизни.

Соарес призвал власти всех стран остановить обучение универсальных систем ИИ. Вместо этого он предлагает сосредоточиться на технологиях для узких задач — например, для изучения рака или повышения безопасности беспилотных автомобилей.

По данным издания Axios, технологические компании готовятся к возможному масштабному инциденту в ближайшие полгода–год. Наиболее вероятным сценарием считают мощную кибератаку, которая способна лишить людей доступа к финансам, интернету, электроэнергии и водоснабжению.