Ложная тревога ИИ способна спровоцировать ядерный конфликт

18 сентября эксперты в публикации на портале Wired обсудили потенциальные угрозы, связанные с развитием искусственного интеллекта. Участники разговора выделили несколько категорий рисков, однако сценарий, при котором ИИ самостоятельно нажимает ядерную кнопку, сочли маловероятным. Главную опасность исследователи видят в иных направлениях.

По словам Zoë Schiffer, учёные обычно разделяют угрозы на три основных направления. Brian Barrett предложил разграничивать ситуации, когда опасные действия совершают люди при поддержке ИИ, и случаи полностью автономного поведения системы, пишет miranews.ru. 

В качестве примера он привёл биологическое оружие: злоумышленники способны получить нужные сведения через искусственный интеллект, а затем сами создать и применить такие разработки. Schiffer назвала этот вариант вполне реалистичным, отметив, что в мире достаточно людей, готовых воспользоваться подобными знаниями. Leah Feiger добавила, что подобные идеи могут формироваться под влиянием материалов из интернета.

В то же время Schiffer сочла менее вероятным сценарий, при котором ИИ самостоятельно разрабатывает и применяет биооружие. По мнению участников дискуссии, именно уровень самостоятельности системы определяет оценку риска. Barrett также вспомнил картину «Военные игры» 1983 года, где компьютер чуть не запустил ядерную войну — не напрямую, а заставив США поверить в атаку. 

Наиболее опасным может оказаться ложный сигнал тревоги, способный запустить цепь катастрофических событий. Современные средства защиты и спутниковые технологии в теории помогают проверять подобные сообщения, однако саму вероятность ошибочного предупреждения эксперты выделили как отдельную угрозу.