Как положить конец неконтролируемому «разгулу» нейросетей, кто должен отвечать за их ошибки? Свои ответы на это дала группа российских ученых из Саратовского государственного университета имени Н.Г. Чернышевского и челябинского Южно-Уральского государственного университета (ЮурГУ). Их работа, о которой сообщили в Минобрнауки России, была на днях опубликована в Nature под заголовком «За пределами человеческой воли: исследование социальной и правовой субъективности искусственного интеллекта». 

Фото: Jens Battner/dpa/Global Look Press

Забегая вперед, отметим, что главная мысль статьи сводится к необходимости придания ИИ юридического статуса. А вот какого, об этом мы побеседовали с двумя авторами работы – профессорами кафедры теоретической и социальной философии СГУ Денисом Артамоновым и Софьей Тихоновой.

– Денис Сергеевич, давайте начнем с определения, чем на сегодняшний день является искусственный интеллект, о котором пойдет речь?

— Современный ИИ — это бестелесное существо, свободное от телесных ограничений, но обладающее зачатками когнитивной жизни: он «видит» и «слышит» данные, «мыслит» в терминах вероятностей и «решает» проблемы в реальном времени. То есть, с одной стороны, он может влиять на нашу с вами жизнь, что он, собственно, и делает, к примеру, записывая нас к врачу, согласовывая или отказывая нам в банковских кредитах. С другой стороны, у него нет ни своих собственных намерений, ни желаний, ни целей, ни чувств, он не познаёт мир, а лишь моделирует поведение человека, что и делает его опасным в ряде ситуаций. Наверняка вы помните громкий случай, как ИИ, следуя вложенному алгоритму, ошибочно, опираясь на далекий от совершенства фоторобот, «обвинил» человека в убийстве. Бедолага больше года просидел в СИЗО, и лишь неимоверными усилиями общественников был освобожден.

– Софья Владимировна, так каким же статусом следует наделить ИИ, по-вашему, чтобы впредь такого не случалось?

— В мире давно спорят, можно ли придать ИИ статус субъектности, наподобие человеческой. Да, мы говорим, что машина начала «мыслить», как человек, но при этом понимаем, что это все-таки не человек. Границы субъективности и рациональности больше не совпадают с антропологическими границами. А потому мы предлагаем придать искусственному интеллекту статус «ограниченный участник социальных и правовых отношений», «технический агент человека». Правовая система уже сейчас должна признать их статус ограниченной субъектности.

– И что это нам даст?

— Не называя их «личностью», мы все-таки будем учитывать их реальный вклад в нашу жизнь, оценивать его и корректировать, если понадобится, обращаясь к его разработчикам. То есть, ИИ остаётся нечеловеческим агентом, но оценка его влияния требует специальных механизмов ответственности, аудита, регулирования и гуманитарной экспертизы.

Денис Артамонов и Софья Тихонова. Фото: Дмитрий Ковшов

– На каком этапе должна проводится такая гуманитарная экспертиза?

— Как до внедрения алгоритмов в практику, так и после. До внедрения надо обязать разработчиков искусственного мышления обязательно придерживаться базовых критериев. По большому счету, такие критерии уже работают, например, ИИ-художник никогда не нарисует вам свастику или порнографию, но есть же и более тонкие вещи. Например, гуманитарный надзор может включать до этапа внедрения алгоритма оценку рисков дискриминации человека, проверку прозрачности и объяснимости решений, анализ влияния на трудовые отношения, образование, частную жизнь и социальное неравенство. Мы предлагаем также дать возможность пользователям и третьим лицам понимать, как можно оспорить автоматизированное решение и как проводится аудит алгоритма. Взять к примеру, тот же случай с обвинением человека на основе «показаний» ИИ, который только сопоставил графический рисунок с реальным человеком. Похоже, общество тогда вообще растерялось: кем в системе правовых отношений выступала тогда нейросеть – главным обвинителем или только свидетелем? По факту тогда выходило, что обвинителем. Так вот, если мы хотим видеть в ИИ исключительно свидетеля, а не последнюю инстанцию правды, должен быть в системе и главный судья с возможностью проверки «показаний» такого свидетеля. Если мы признаем ИИ, а также тех, кто его выпускает в жизнь, участниками социальных и правовых отношений, это позволит нам точнее определять, кто отвечает за вред, ошибку или дискриминационное решение.

– Денис Сергеевич, а что делать с теми ИИ-моделями, которые уже вовсю демонстрируют свой «интеллект»?

— Предложенный нами «гуманитарный надзор» за ИИ может работать и постфактум. Несмотря на то, что обратиться из России в США или Китай, где разрабатываются одни из самых распространенных больших языковых моделей, мы не можем, есть способ оценивать их «адекватность» в соответствии с нашими правилами жизни, по факту «рождения» ими контента. Это может работать по принципу постоянного контроля за содержанием текстов или картинок, какой есть в известной всем Википедии.

– Но объем использования ИИ так велик! Кто успеет углядеть за всеми событиями?

– Можно обучить оценивать действия нейросетей с точки зрения негативных последствий для человека и общества тот же ИИ…

– И кого же признать виновным, если, к примеру, искусственный разум кого-то оскорбит, выдаст ложную информацию или, не дай бог, задавит человека на дороге?

— Вот тут нам всем надо еще поразмышлять. Дело в том, что наши этические законы еще не осуществили переход от индивидуалистической этики к этике совокупностей, где моральные обязательства распространяются на всю сеть взаимодействующих субъектов, включая нечеловеческих. Пока распределение вины между разработчиками, пользователями данными и самими системами (каждая из этих сущностей вносит свой вклад в конечный результат) нами рассматривается проблематичным.

— Софья Владимировна, а что вы ответите тем, кто считает, что нейросеть уже не зависит от создателя и ее можно отпустить в свободное плавание?

— Думаю, рассмотрение вопроса уравнивания ИИ с человеком начнется тогда, когда он… сам нас об этом попросит. Но хорошо бы, чтобы к тому времени, мы обладали системой гуманитарного контроля, чтобы мы могли отличить «чистую волю» ИИ в этом требовании от попыток манипуляции со стороны людей, заинтересованных в новом порядке.