Велика России и много в России, увы, проблем. А этим летом стало еще больше. Есть, право, чем заняться представителям власти. Так что тема последнего заседания Комиссии СФ по информационной политике и взаимодействию со СМИ — «Человек как автор информационной революции или как раб информационной революции? Поиски баланса», — может на первый взгляд показаться несколько далекой от актуальной повестки. Но это впечатление обманчиво.

Pogiba Alexandra/news.ru/Global Look Press

Иллюстрацией того, насколько злободневны поднятые здесь вопросы, может служить реплика одного из выступавших — советника Президента РФ, председателя СПЧ Валерий Фадеева. Валерий Александрович поделился впечатлением от одной дискуссии на недавнем Петербургском международном экономическом форуме: «Обсуждали искусственный интеллект. Представитель серьезной компании говорит: как здорово, нейросети. Вы запрос делаете про винтажную сумочку, и вам подробный ответ: какие бывают винтажные сумочки, какая вам подойдет.

А примерно в это время, извиняюсь, хреначат по Кронштадту. И попадают по Кронштадту. А мы сумочки винтажные обсуждаем! Причем это же «Палантир» (американская компания, разработчик программного обеспечения, ключевые заказчики — военные и спецслужбы. — «МК»). Плюс разведки НАТО. Там искусственный интеллект используется… Нам вот где не отстать. С винтажными сумочками мы разберемся. Нам в военной сфере надо во что бы то ни стало быть лидерами. У нас сдвиг происходит в сторону потребления опять».

Как несложно догадаться, на заседании «информационной» комиссии Совфеда также обсуждался искусственный интеллект. Но тут тревоги было куда больше, чем восторгов. «Плюсы (ИИ. — «МК») более-менее понятны уже, — сказал в своем вступительном слове «хозяин» мероприятия, председатель Комиссии СФ по информационной политике и взаимодействию со СМИ Алексей Пушков. — Это повышение эффективности управления, военных систем, совершенствование работы крупных организаций — банковских, предпринимательских и так далее.

Но есть угроза дегуманизации. Человек способен попасть в высокую степень зависимости от новых технологий и от искусственного интеллекта. Что может нанести удар по человеческому достоинству, по его человеческой сущности».

Обосновывая тезис о том, что развитие технологии может привести к расчеловечиванию, сенатор сослался на известные литературные произведения в жанре антиутопии. Первым в этом ряду Пушков назвал роман Евгения Замятина «Мы».

«Главная особенность романа — это, с одной стороны, целенаправленное уничтожение личности властью, а с другой стороны, согласие личности на такое самоуничтожение, — напомнил Пушков. — Люди воспринимают себя не как индивидуальность, а как номера, живут в прозрачных домах, где видны практически все их действия, испытывают предписанное им счастье от такого существования, поклоняются некоему виртуальному благодетелю, которого никто никогда не видел… А в случае отклонения от этой модели поведения подвергаются ликвидации».

Выступивший следом Валерий Фадеев представил написанный группой экспертов доклад «Дух победы и мировая гуманитарная повестка. Нюрнбергский императив в эпоху антропотехнического перехода».

«Главная угроза эпохи — не фантастическое восстание машин, а мягкое никем не объявленное расчеловечивание. Превращение человека из субъекта истории, права в объект профилирования, коррекции и управления», — процитировал Валерий Александрович экспертный доклад. И добавил уже от себя: «Похоже, страшный суд, если он будет, будет не со всадниками страшными, а будет вот такое тихое угасание человечества… На этом все и закончится».

Дабы конец света не случился, авторы доклада предлагают человечеству провести следующие красные линии: 1) «фундаментальные решения о жизни, теле и природе человека не должны быть прерогативой цифровых систем»; 2) «правосудие, законотворчество, приговоры, нормы не могут возникать без человеческого авторства»; 3) «культурное производство в его смыслообразующем ядре», «нельзя передавать машине самоистолкование общества»; 4) «когнитивная сфера», «ребенок не должен становиться объектом автономного воспитателя»; 5) «недопущение автономных систем к управлению ядерным оружием и другими средствами необратимого ущерба».

Впрочем, как следует из высказывания того же Фадеева, приведенного в начале материала, у этой темы есть и другая сторона. Рука об руку с опасениями, связанными с быстрым развитием ИИ, идет тревога по поводу того, что Россия, мягко говоря, не лидирует в технологической гонке. Если Фадеев лишь коснулся этой проблемы, то член СПЧ, глава компаний «Ашманов и партнеры» и «Крибрум» Игорь Ашманов заявил о ней со всей прямотой: «Надо смотреть правде в глаза. Эта правда нехорошая, очень неприятная: все развитие технологий искусственного интеллекта происходит за пределами нашей страны.

То, что делается у нас, необычайно вторично. Из, наверное, семи уровней искусственного интеллекта… наши разработчики ковыряются в двух верхних, фактически в обвязке пользовательских интерфейсов. Все остальное заимствовано».

Есть, однако, и хорошие новости. Гонцом выступил Алексей Пастухов, гендиректор компании «Ай Си Эс Консалтинг», представленный как организатор и один из авторов экспертного доклада. Начал, правда, и он с неприятного. В новый технологический виток, сообщил докладчик, Россия входит, увы, «не на первых местах и не на первых ролях».

Между тем место на «поезде, который идет в будущее», России необходимо. Получить его за счет технологического преимущества мы, увы, не можем. «Наши возможности в этом сейчас ограничены», — признал Пастухов. Но есть у нас, по словам эксперта, другой козырь — «преимущество нравственное»: на «поезд» мы можем сесть «как носители нравственного нарратива — что можно, а что нельзя».

Право чертить красные линии в сфере ИИ, считает Пастухов, мы обрели «как победители во Второй мировой войне, как носители идеологии Победы». «Этот посыл ценен в том числе и окружающему миру, — уверен Пастухов. — Мы должны этот нарратив, эту мысль транслировать в окружающий мир… С нами в этом плане должны считать и наши коллеги с Юга, и наши коллеги с Запада».

Алексей Пушков поддержал эксперта: «Согласен с тем, что нравственность в современном мире становится ресурсом… В мировом общественном мнении Соединенные Штаты, Западная Европа выглядят как носители безнравственности. От личной жизни и до внешней политики. Здесь есть ниша, которую мы можем занять. Мы должны распространять образ России как носительницы нравственного начала».

Но хотя выступление Алексея Пастухова было последним, вряд ли оно поставило точку в дискуссии. То, что Россия сможет въехать в светлое будущее и занять там достойное место под солнцем, не добившись преимущества в технологиях, на одном лишь нравственном начале… Нет, антиутопией это, конечно, не назовешь. Но вот на утопию очень похоже.