Смолин Владимир Сергеевич
научный сотрудник.
Институт прикладной математики им. М.В. Келдыша РАН.
Российская Федерация, 125047,
г. Москва, Миусская пл, д. 4;
e-mail: smolin@keldysh.ru

Книга Макса Тегмарка обращает внимание на опасности и преимущества, ожидающие человечество в результате развития технологий искусственного интеллекта (Artificial Intelligence, AI). Космолог и астрофизик Тегмарк, понимая невозможность предсказать последствия развития AI, предлагает захватывающие сценарии вариантов развития цивилизации на десятки, сотни, тысячи, миллионы и миллиарды лет. Анализ противоположных сценариев направлен на формирование мысли, что последствия создания сильного, превосходящего человеческий уровень AI будут значительнее, чем от всех остальных достижений цивилизации. Тегмарк – один из основателей и лидеров движения «За дружественный AI», он излагает результаты обсуждения поднимаемых им вопросов с ведущими специалистами в области AI. Завершает свою книгу Тегмарк призывом к оптимизму: «Своей книгой я убеждаю подумать, какого будущего вы бы хотели, а не о том, какое будущее вас пугает, только так мы можем найти общие цели, ради которых стоит трудиться».

THE PROSPECTS OF THE MANKIND IN THE ERA OF TECHNOLOGICAL SINGULARITY

Vladimir S. Smolin 
research fellow.
Keldysh Institute of Applied Mathematics,
Russian Academy of Sciences.
4 Miusskaya Sq., 125047
Moscow, Russian Federation;
e-mail: smolin@keldysh.ru

The book by Max Tegmark draws attention to the dangers and benefits that await humanity as a result of the Artificial Intelligence (AI) technologies development. Cosmologist and astrophysicist Tegmark, realizing the impossibility to predict the AI development, offers exciting scenarios of civilization development options for tens, thousands, millions and billions of years. The analysis of the opposite scenarios is aimed at the idea formation that the consequences of creating a general AI, superior to the human level, will be more significant than from all other achievements of civilization. Tegmark is one of the founders and leaders of the “Beneficial AGI” movement, he presents the results of the discussion of the issues he raises with leading experts in the field of AI. Tegmark concludes his book with a call to optimism: “My book urge you to think about what future you would like, and not what future scares you, this way we can find goals for which it’s worth working”.