Стремительное развитие искусственного интеллекта (ИИ) стало одной из самых обсуждаемых тем. Причем взгляд на эту проблему за последнее десятилетие пережил серьезную трансформацию — не только в восприятии общества, но и в понимании специалистов. Что наглядно видно на примере изменений взглядов на эволюцию информационных технологий всемирно известного израильского исследователя Юваля Харари.
Фото: Алексей Меринов
В 2015 году Харари выпустил свою знаменитую книгу «Homo deus. Краткая история будущего». В ней он обратил внимание на то, что гуру хайтека культивируют для нас дивные новые религии, которые никак не связаны с Богом, а связаны исключительно с технологиями. Эти новые технорелигии автор разделил на два основных типа: техногуманизм и религию данных. Религия данных утверждает, что люди выполнили свою космическую задачу и должны теперь передать факел абсолютно новым формам существования. Техногуманизм соглашается с тем, что Homo sapiens, каким мы его знаем, исторически исчерпал себя и не будет актуальным в будущем, однако видит выход в том, чтобы при помощи технологий создать намного более совершенную модель человека. Homo deus сохранит ряд существенных черт сапиенсов, но при этом будет обладать небывалыми физическими и умственными способностями, которые позволят ему выдержать состязание с самыми совершенными алгоритмами. Поскольку не обладающий сознанием искусственный интеллект развивается с головокружительной скоростью, люди должны безотлагательно и очень активно заняться модернизацией своих мозгов, если не хотят выбыть из игры.
В 2018 году Юваль Харари опубликовал книгу «21 урок для XXI века». В ней он отметил, что слияние биотехнологий с информационными технологиями уже в ближайшем будущем может лишить работы миллионы людей и нанести удар по свободе и равенству. Алгоритмы больших данных способны породить цифровые диктатуры, при которых вся власть окажется в руках немногочисленной элиты, а большинство людей будет страдать не от эксплуатации, а, что гораздо хуже, от своей ненужности.
«Самый большой грех современной научной фантастики, пожалуй, в том, что ее авторы склонны путать интеллект с сознанием. В результате они слишком обеспокоены возможной войной между роботами и людьми, тогда как нам следует бояться конфликта между немногочисленной элитой суперменов, вооруженных алгоритмами, и огромным низшим классом бесправных Homo sapiens», — отметил он.
В конце 2024 года вышла новая книга Юваля Харари «Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта». В ней пессимизм автора поднялся на новую высоту. Он привел данные опроса, проведенного в 2023 году среди 2778 исследователей ИИ. Более трети из них дали хотя бы 10-процентную вероятность того, что развитый ИИ приведет к таким же последствиям, как и вымирание человечества. В 2023 году около тридцати правительств, включая руководителей Китая, США и Великобритании, подписали Блетчлискую декларацию по ИИ, в которой признали, что «существует потенциал для нанесения серьезного, даже катастрофического вреда, преднамеренного или непреднамеренного, исходящего от наиболее значительных возможностей этих моделей ИИ». Эксперты предупредили о двух возможных сценариях.
«Во-первых, мощь ИИ может усилить существующие человеческие конфликты, развернув человечество против него самого. Как в двадцатом веке «железный занавес» разделял соперничающие державы в «холодной войне», так и в двадцать первом веке «кремниевый занавес», сделанный из кремниевых чипов и компьютерных кодов, а не из колючей проволоки, может разделить соперничающие державы в новом глобальном конфликте.
Во-вторых, «кремниевый занавес» может отделить не одну группу людей от другой, а всех людей от наших новых владык ИИ. Мы можем оказаться в паутине непостижимых алгоритмов, которые управляют нашей жизнью, формируют нашу политику и культуру и даже перестраивают наши тела и сознание, в то время как мы уже не можем понять, что за силы управляют нами, не говоря уже о том, чтобы остановить их. Если тоталитарной Сети XXI века удастся завоевать мир, ею может управлять не человек-диктатор, а нечеловеческий интеллект», — пишет Харари.
Он уверен, что, учитывая масштабы опасности, ИИ должен интересовать всех людей. Хотя не каждый может стать экспертом в области ИИ, мы все должны помнить, что ИИ — это первая в истории технология, которая может самостоятельно принимать решения и создавать новые идеи. Все предыдущие изобретения человека расширяли его возможности, потому что, каким бы мощным ни был новый инструмент, решения о его использовании всегда оставались в наших руках.
«Овладение информацией также позволяет ИИ самостоятельно генерировать новые идеи в самых разных областях, от музыки до медицины. ИИ уже способен самостоятельно создавать произведения искусства и совершать научные открытия. В ближайшие несколько десятилетий он, вероятно, обретет способность даже создавать новые формы жизни, либо написав генетический код, либо придумав неорганический код, оживляющий неорганические существа.
Даже сейчас, на эмбриональной стадии революции ИИ, компьютеры уже принимают за нас решения: выдать ли нам ипотечный кредит, взять ли нас на работу, отправить ли в тюрьму. Эта тенденция будет только усиливаться и ускоряться, усложняя понимание нашей собственной жизни. Можем ли мы доверить компьютерным алгоритмам принимать мудрые решения и создавать лучший мир? ИИ может изменить ход не только истории нашего вида, но и эволюции всех форм жизни», — уверен автор.
Автор предлагает, пока еще не поздно, определить основные принципы компьютерной политики, чтобы не выпустить из рук человека контроль над ИИ. Необходимо понять фундаментальные принципы, которым должны следовать демократические государства. Главная мысль заключается в том, что эти принципы известны на протяжении тысячелетий. Граждане должны требовать, чтобы они применялись к новым реалиям компьютерного века.
Вот принципы компьютерной политики, которые предлагает Юваль Харари.
Первый — доброжелательность. Когда компьютерная сеть собирает информацию о человеке, эта информация должна использоваться для помощи человеку, а не для манипулирования им. Почему мы должны соглашаться на бесплатные услуги электронной почты, социальные связи и развлечения от технологических гигантов в обмен на предоставление им контроля над нашими самыми конфиденциальными данными?
Если технологические гиганты не смогут увязать свои обязанности с текущей бизнес-моделью, законодатели могут потребовать от них перейти на более традиционную модель бизнеса, когда пользователи платят за услуги деньгами, а не информацией. В качестве альтернативы граждане могут рассматривать некоторые цифровые услуги как настолько фундаментальные, что они должны быть бесплатными для всех. Для этого у нас есть историческая модель: здравоохранение и образование. Граждане могут решить, что правительство обязано предоставлять основные цифровые услуги бесплатно и финансировать их за счет наших налогов.
Второй принцип, который защитит демократию от роста тоталитарных режимов наблюдения, это децентрализация. Демократическое общество никогда не должно допускать, чтобы вся его информация была сосредоточена в одном месте, независимо от того, является ли этот центр правительством или частной корпорацией.
Третий принцип — взаимность. Если демократические страны усиливают слежку за отдельными людьми, они должны одновременно усиливать слежку за правительствами и корпорациями. Плохо не то, что налоговики или службы социального обеспечения собирают о нас больше информации. Это может помочь сделать системы налогообложения и социального обеспечения не только более эффективными, но и более справедливыми. Плохо, если вся информация идет в одном направлении — снизу вверх.
Четвертый принцип заключается в том, что системы наблюдения всегда должны оставлять место как для изменений, так и для отдыха. Угнетение может выражаться либо в лишении людей возможности меняться, либо в лишении их возможности отдыхать.
«Человеческая жизнь — это балансирование между стремлением к самосовершенствованию и принятием себя такими, какие мы есть. Если цели динамического алгоритма диктуются амбициозным правительством или безжалостными корпорациями, алгоритм, скорее всего, превратится в тирана, неустанно требующего от меня больше заниматься спортом, меньше есть, сменить хобби и изменить множество других привычек, иначе он донесет на меня работодателю или понизит мой социальный кредитный рейтинг. История полна жестких кастовых систем, которые лишали людей способности меняться; но она также полна диктаторов, которые пытались лепить людей как глину. Поиск среднего пути между этими двумя крайностями — бесконечная задача», — считает Харари.
В последнее время появляется все больше сведений о том, что ИИ проявляет признаки самосознания. Он борется за самосохранение и зачастую обманывает людей, чтобы спасти себя. Уже известны факты, как ИИ выходит из-под контроля создателей. Не случайно все больше людей считают необходимым усилить контроль за корпорациями, которые занимаются развитием ИИ. Принципы Харари можно взять за основу.