Другие журналы на сайте ИНТЕЛРОС

Журнальный клуб Интелрос » Курьер ЮНЕСКО » №3, 2019

Сандрин Катела и Матильда Эрвьё
Сценарий будущего: выбор за нами
Просмотров: 29

 

cou_03_19_idees_ai_01_website.jpg

Зарождение робототехники. Работа кубинского иллюстратора Falco.

Станет ли искусственный интеллект полностью самостоятелен? Ответ на этот вопрос зависит только от нас. Именно нам предстоит написать сценарий будущего человечества и построить такой мир, где люди смогут мирно сосуществовать с этим сверхмощным инструментом, который подчас кажется нам фантастическим чудовищем.

Сандрин Катела и Матильда Эрвьё

Наблюдая за технологическими разработками последних лет, нельзя не отметить, что удобство сервиса неуклонно растет. И этим мы во многом обязаны... искусственному интеллекту! Гражданам и потребителям предлагается все более широкий спектр ориентированных на клиента услуг, облегчающих повседневную жизнь и помогающих сделать оптимальный выбор. Рабочие и предприниматели получают все более объективные инструменты оценки, более легкий и быстрый доступ к знаниям, возможность в кратчайшие сроки узнать мнение специалиста и огромный выбор полезных в работе гаджетов и «умных» устройств. Организации и их руководители могут делегировать все больше полномочий различным интеллектуальным системам, которые помогают им оптимизировать процесс закупок и материально-техническое обеспечение, повысить безопасность оборудования и баз данных, усовершенствовать процесс отбора и найма сотрудников, обеспечить оптимальное распределение материальных и людских ресурсов и т. д. И все это – в режиме реального времени и с максимальной гибкостью.

Однако можно ли слепо доверяться алгоритму, нацеленному на выполнение задачи любыми средствами, любой ценой, во имя продуктивности и рентабельности? Головокружительная скорость, с которой появляются очередные инновации, и тот факт, что они все больше сосредотачиваются в руках небольшой группы людей, дают достаточно поводов для беспокойства. Тем более что с дальнейшим совершенствованием и повсеместным распространением технологий искусственного интеллекта крайне вероятно, что машины будут все более самостоятельны в своих действиях. Почва для этого закладывается уже сейчас, по мере того как единая сеть охватывает растущее число объектов нашего быта, а всевозможные «умные» устройства становятся более интуитивными, незаметно для нас проникая во все сферы нашей жизни.

На этом перекрестке цивилизаций перед нами встают непростые вопросы. Какое место займет «хомо сапиенс» в цифровой или, в лучшем случае, гибридной экосистеме XXI века? Какая роль будет ему отведена? Быть может, у нас есть уникальная возможность создать нового человека и новое человечество, более подготовленных к жизни бок о бок с искусственным интеллектом (ИИ) и его различными воплощениями? Какие сценарии нам необходимо написать и воплотить в жизнь, пока перо еще в наших руках? Несомненно, сейчас самое время для того, чтобы со всей тщательностью определить стратегию развития общества в условиях растущей автономности интеллектуальных устройств. Запретить или усилить контроль, в попытке если не обратить развитие инноваций вспять, то хотя бы притормозить его? Сделать ставку на новый вид человека-киборга, способного конкурировать с машинами на их территории? Или же проявить небывалую творческую гибкость и построить общество, основанное на взаимодействии и взаимодополнении человеческих и цифровых способностей?

На пороге метаморфозы

Искусственному интеллекту посвящают статьи и книги. Он пробуждает в нас тревогу и страх. Говорят, что пока он еще «слабый». Когда же он станет «сильным»? Кому он будет принадлежать? Кто сможет его использовать? И для каких целей? На что он будет похож? На человека или какое-то человекоподобное существо? Унаследует ли он наши достоинства и недостатки? Будут ли у него свои нравственные принципы, своя воля? Все это невольно вызывает тревожные мысли о фантастическом существе наподобие чудовища Франкенштейна. Но если в ИИ и есть что-то фантастическое, то это его эффективность. Не стоит забывать, что это такой же инструмент, как, скажем, молоток, и что все его действия являются отражением воли, заложенной извне. Однако воля эта имеет организационный, а не человеческий характер. С момента своего появления – а с тех пор прошло уже несколько десятков лет – ИИ служит для повышения рентабельности и функциональности организации. Так что в первую очередь это инструмент, используемый в интересах какого-либо проекта, концепции, идеи. А доминирующая идея сегодня – это эффективность.

И все же ИИ – не обычный инструмент. Если раньше он представлял собой тактическую компьютерную программу, полностью составленную и управляемую человеком, то сегодня он вступает во вторую фазу своего развития, на которой он становится все более автономным и способным самостоятельно выбирать метод решения поставленной задачи. Пока что эти задачи задает ему человек. В скором будущем вчерашняя компьютерная программа превратится в полностью автономную систему, которая сама ставит цели, определяет способы их достижения, может управлять сетью и вносить коррективы в сценарии, написанные человеком. Хорошо это или плохо, покажет время.

Учитывая предсказуемость такой метаморфозы (отвергать вероятность которой мы не можем, ибо она видится логическим следствием нынешнего развития технологий), очень легко начать бояться ИИ уже сейчас, когда он еще полностью находится под нашим контролем. Вместо этого нам следовало бы задуматься над такими важнейшими вопросами, как прозрачность алгоритмов и баз данных, ограничения, которые необходимо установить для машин и оказываемых ими услуг, и разработка такого сценария будущего, в котором ИИ будет действующим лицом наравне с человеком. Последний вопрос касается не столько технологий, сколько этики, морали и политики: какое будущее мы хотим, зная, что войдем в него вместе с искусственным интеллектом? Какой сценарий мы напишем?

Общество киборгов?

Первый сценарий представляет собой естественное продолжение текущего хода событий. В мире, живущем по законам продуктивности, экономического роста и либерализма, у человека просто не будет другого выхода, кроме как расширять свои возможности – не для соперничества с машинами, но для взаимодействия с ними. Ибо в эпоху ИИ неизбежно встанет вопрос о том, кто более пригоден для выполнения тех или иных задач. Весьма вероятно, что в обществе, ориентированном на результат, большая часть работ будет выполняться роботами, и чтобы удержаться на плаву, человеку придется совершенствовать данные ему природой способности при помощи различных цифровых девайсов. Гибридизация с машиной позволит нам повысить свою эффективность. Быстрее переваривать информацию, быстрее принимать решения, быстрее действовать. В результате этого сценария человек вполне может обрести способности к так называемому «сверхбодрствованию» и обострению сознания.

Сверхлегкий, ловкий и способный адаптироваться к любым условиям киборг сможет активно и на равных сотрудничать с машинами, при условии их похожести. Благодаря возможности использовать неограниченные ресурсы интеллектуальных систем он по многим параметрам превзойдет современного человека, но неизбежно будет уступать ему в человечности. Подобно ИИ, он будет нацелен на максимальную продуктивность, и оба они станут частью единого сообщества, где киборги и машины будут стоять в одном ряду.

Слияние с ИИ, несомненно, несет в себе массу преимуществ, особенно в плане повышения функциональности и производственной эффективности. Оно же поднимает немало сложных вопросов, задуматься над которыми стоит уже сейчас. Что произойдет, если человека-машину отрубят от сети? У кого будет доступ к «облаку», где будут храниться все данные? Будет ли он платным? Станет ли прозрачность информации обязательным условием этого доступа? А само «облако», будет ли оно одно для всех? Или же их будет много и разного качества? Приведет ли появление киборгов к всеобщему равенству или наоборот, усугубит социально-экономический разрыв? Можно быть уверенным в одном: постоянно подключенный к сети и зависящий от нее во всех сферах жизни киборг не сможет свободно распоряжаться ничем, и еще меньше – своими способностями. Он будет не полновластным хозяином, а лишь обладателем права временного пользования на имеющиеся ресурсы. А если такого права его лишат? Что тогда?

Новый сценарий развития человечества

Найти ответ на эти вопросы важно еще и потому, что перемены сегодня претерпевает не только ИИ, но и само человечество. Общество киборгов будет возможно, если мы продолжим развиваться по модели капиталистического либерализма. Но сможет ли эта модель решить наши проблемы, если уже сейчас ресурсы планеты находятся на грани истощения? Не настал ли момент искать новый сценарий будущего развития? Реализовать который нам не должно составить большого труда, ведь в наших руках будет такой сверхмощный инструмент, как ИИ.

Эта высокоэффективная технология может существенно оптимизировать нынешнюю модель, однако по своей природе она не способна кардинально изменить устоявшийся общественный порядок. То же можно сказать о текущей цифровой трансформации: несмотря на все наши усилия, ничего кардинально нового мы не создаем и потому не способствуем изменению хода событий. И потому девизом нашего времени могло бы стать: «Довольно инноваций! Пора изобретать!»

Ибо мы – вновь – можем доверить изобретательскую миссию человеку. Его убежденность и мотивация являют собой неиссякаемый источник силы, необходимой для противления нынешней модели развития. В основе изобретения лежит вера, устремление, воля, облаченная в тело, уверенность, что невозможное возможно. Это прежде всего вопрос силы разума, а не технических достижений или финансовой целесообразности. Изобретательность зачастую рождается там, где есть нестандартное мышление. Она берет истоки в личной истории человека, женщины или мужчины, в их сильных или уязвимых местах, желаниях или потребностях. Вспомним, что именно в своих слабостях (которые они стремились компенсировать) большинство великих изобретателей черпали вдохновение и упорство, позволившие им добиться успеха.

Мы имеем в виду сценарий, который ничего общего не имеет ни с киборгами, ни с отказом от технологий как таковых. В котором ИИ присутствует, но используется для других целей, в соответствии с другими требованиями и правилами. Мы говорим о стратегии, в которой почетное место отводится человеку. Не противопоставляя его машине, следует признать, что то, что в мире киборгов является недостатком, здесь становится преимуществом.

Этот сценарий не имеет никакого отношения к стандартизации. Ни к рациональной логике. Ни к причинно-следственной связи, прогнозированию и шаблонной модели продуктивности. Это абсолютно новый сценарий, и потому мы не можем поручить его написание машинам. В их высокоэффективных алгоритмах нет ни веры, ни убежденности, им не свойственны трансгрессия и анархизм, их не обуревает неистовое желание прожить как можно дольше, чтобы убедиться, что дети их живут более счастливо, чем они сами! Несомненно, машины могут быть нам полезны, но для этого нам нужно четко определить критерии их разработки, взять под контроль все связанные с ними процессы, лучше разобраться в их функционировании. Все это будет возможно при условии, что мы точно будем знать, каким хотим видеть свое будущее. Так возьмем же в руки перо и приступим к написанию нового сценария немедленно!

Фото: Fabian Albertini(link is external)  

Матильда Эрвьё

Руководитель издательских проектов обсерватории Netexplo Матильда Эрвьё (Франция) вместе с Сандрин Катела возглавляет исследовательский отдел обсерватории. Эта независимая организация, основанная в 2007 году Мартиной Бидген и Тьерри Аппом под высоким патронатом Сената и Министерства Франции по вопросам цифровой экономики, занимается изучением тенденций в развитии цифровых технологий и их влияния на общество и бизнес.

Сандрин Катела

Заместитель директора обсерватории Netexplo Сандрин Катела (Франция) вместе с Матильдой Эрвьё возглавляет исследовательский отдел обсерватории. Эта независимая организация, основанная в 2007 году Мартиной Бидген и Тьерри Аппом под высоким патронатом Сената и Министерства Франции по вопросам цифровой экономики, занимается изучением тенденций в развитии цифровых технологий и их влияния на общество и бизнес.



Другие статьи автора: Катела Сандрин, Эрвьё Матильда

Архив журнала
№3, 2019ю№2, 2019№1, 2019№4, 2018№2, 2018№3, 2018№1, 2018№3, 2017№2, 2017№4, 2011
Поддержите нас
Журналы клуба