У каждого из нас есть много идентификаторов: номер паспорта, номер телефона, имейл – все то, что можно связать с вами лично. Еще вы оставляете цифровой след, даже если как настоящий панк и анархист не нажимаете кнопку «принять cookies», тем не менее фиксируются идентификаторы ваших устройств, модели устройств, ваши IP-адреса и геолокация, разрешение экрана, браузер, операционная система, язык, а также особенности железа и установленного на устройстве программного обеспечения.

Кроме этого, цифровой след формируется из вашего поведения – от того, что вы покупаете, что ищете, что лайкаете, чем интересуетесь, что говорите в мик­рофон, кого фотографируете, что пишете, кому пишете, кто в ваших кругах общения, вплоть до паттерна набора клавиш на клавиатуре и движения мышкой по страницам. Учитываются все ваши платежи за что угодно – от заправки до ресторана, а также то, с какой скоростью вы покупаете алмазы в мобильных играх.

Цифровая интроспекция

Чтобы осознать масштаб знаний крупных IT-компаний о нас, предлагаю простое упражнение. Посмотрите статистику «экранного времени» в вашем смартфоне и пять минут поразмышляйте, какие выводы вы могли бы сделать о себе на основании следующих вопросов: как выглядит ваш портфель приложений и какую долю занимают разные категории (общение, продуктивность); какими именно приложениями в каждой из категорий вы пользуетесь; на какие конкретно приложения вы тратите больше времени; в какое время суток вы поднимаете смартфон (и после каких триггеров поднимаете, а после каких – нет); сколько уведомлений вам присылают те или иные приложения; чем различаются ваши шаблоны использования смартфона по будням и в выходные; в какое время вы вызываете такси, а в какое – листаете ленту. Добавьте к этому еще тысячу узких вопросов, возможность сравнивать пользователей по полу, возрасту, региону, обогащать данными из внешних агрегаторов, использовать модели искусственного интеллекта, в которые вложены миллионы долларов, – и получите примерное представление о масштабах профилирования.

Агрегаторы данных собирают каждый свою часть информации, а потом обогащают друг друга, чтобы было понятно, что вот поведение пользователя с кодовым номером 12345 на самом деле поведение Ивана Ивановича. Но у человека есть еще много информации, которую надо добывать и связывать с Иваном Ивановичем. Потому что у Ивана Ивановича есть уникальное лицо, особенности потоотделения, кардиограмма. И вот его, Ивана Ивановича, вегетативная нервная система особым образом расширяет зрачки, когда он смотрит на Машу. Или на черный «Мерседес». А вот на Петю такой реакции нет, хоть до вечера смотри.

Более того, лицо Ивана Ивановича – это пропуск в оплату лицом в магазинах, идентификацию (и аутентификацию) в банке, а также классный связующий идентификатор между его номером паспорта и всем этим разрозненным цифровым следом, например, для камеры наружного наблюдения, которая ищет преступников и следит за общественным порядком.

Таким образом, крайне важны не только новые объемы новых данных (например, биометрических, генетических, поведенческих), но и возможность связать эти данные с конкретным человеком. Поэтому, когда вы загружаете свою фотографию, чтобы нейросеть нарисовала вам портрет в стиле Ван Гога, картинку Барби или Кена или что там у нас сегодня актуально выкладывать в ­сторис, вы связываете свою биометрическую информацию со всем уже накопленным, тщательно собранным и сохраненным. И не думайте, что это вас не коснется, потому что все это делают. Вас это коснется, потому что это всех коснется.

А новая гарнитура дополненной реальности от компании Apple идентифицирует и аутентифицирует пользователя уже не по пальцу, уже не по лицу, а по сетчатке глаза. Зачем нужны имя или номер паспорта человека, если пользовательский профиль можно привязать к биометрии. Это даст Apple беспрецедентные возможности по продаже и обогащению данных. За любой идентификацией (в магазине, в банке или в полиции) подтянется весь профиль человека – за всю жизнь. Потому что глаз не поменяешь.

Apple получит обратную связь от пользователя в реальном времени и сможет фиксировать изменение вашего поведения после увиденного (рекламы, выступления политика или новой брендовой сумки) – на уровне вегетативной нервной системы: давление, частота сердечных сокращений, температура тела, реакция зрачков и т. д.

Самый незащищенный в интернете

Следующим шагом доступ к телу (в буквальном смысле) получат миллионы разработчиков приложений по всему миру. Если вы знаете, как человек реагирует на какие-то стрессоры, эти стрессоры можно формировать специально для него, чтобы провоцировать реакцию. Начинается эпоха манипуляций на максималках. Это касается и рекламы, и политики, и идеологии.

Искусственный интеллект может быть использован в агрессивных информационных кампаниях, нацеленных на обман как конкретного пользователя, так и на манипуляции общественным мнением. Алгоритмы могут создавать видимость популярности мнения, по уровню качества и незаметности он будет лучше обычных спам-ботов, так как способен адаптировать сообщения и вести диалог. Искусственный интеллект также способен анализировать нарративы и оценивать вероятный ущерб от них, например влияние новостей на акции компаний. Такие модели могут быть использованы для планирования и осуществления информационных атак. Другие модели позволяют таргетировать пользователей согласно их предпочтениям.

Например, система оценки публичных скандалов от S&P ведет мониторинг публикаций в соцсетях и СМИ, а также анализирует финансовые показатели компаний. Если происходит скандал, система способна предсказать его финансовые последствия. При модификации такое решение может использоваться для предсказания событий, которые могут нанести наибольший ущерб в будущем.

При всех достижениях искусственного интеллекта социальная сеть Instagram (принадлежит Meta, признана в РФ экстремистской и запрещена) так и не научилась выявлять фейки и спам. Возможно, не потому, что не может, просто приоритеты другие. Сегодняшний расклад сил демонстрирует недостаточное количество сдержек и противовесов, а пользователь оказался самым незащищенным существом в интернете – у него все больше обязанностей и все меньше прав.

Так что последние два десятилетия коммерциализации интернета демонстрируют, что, если к человеку в голову можно залезть еще глубже, туда залезут.

У компании Sony еще с 2012 года есть патент на технологию, которая предполагает, что зритель будет произносить название бренда, чтобы реклама закончилась. Вполне возможно, что безусловный базовый доход на самом деле будет условным: условие – сдать свои персональные данные (уже сдали) и биометрию (что не сдали, сами соберут), телеметрию со всех устройств (почти все устройства и так это делают), а по команде из телевизора придется приседать и говорить два раза «ку». Зато все будут получать свои пару тысяч долларов, чтобы рекламодатели могли за эти деньги побороться. Конечно, сначала эксперимент будет проведен на самых бесправных – белых гетеросексуальных мужчинах. Немым нужно будет отправить справку от врача в службу поддержки, частично от оброка будут также освобождаться все меньшинства – по цвету кожи, религиозному признаку, сексуальным предпочтениям.

Вполне допускаю сценарий, в котором подобные взаимодействия будут частью программы продвижения либеральных ценностей: если ты сильно либеральный и всячески просветленный, то можно произносить название бренда через раз. Если ты из какой-­нибудь отсталой в части либеральных ценностей страны, то никаких исключений, холопы пусть отрабатывают по полной. После токенизации каждого зрителя будет понятно, от какой рекламы требовать произнесения названия бренда, а от какой нет – чтобы не ранить чувства и убеждения. Например, от рекламы пекарни будут освобождены люди с аллергией на глютен, от рекламы стейков – веганы. Зато телевизоры будут раздаваться бесплатно.

Транскраниальная магнитная стимуляция (ТМС) – метод, позволяющий неинвазивно стимулировать кору головного мозга при помощи коротких магнитных импульсов. Бразильский авиаконцерн Embraer целых шесть лет (с 2016 по 2022 год) ждал выдачи патента на свою технологию стимуляции пассажира при помощи ТМС. В выданном патенте описывается модуль распознавания лиц, который анализирует эмоциональное состояние, а затем предлагает ТМС для облегчения дискомфорта или беспокойства, вызывая ощущение благополучия; может использоваться на рабочем месте, в автомобиле, поезде, самолете и другом транспортном средстве.

Если пойти дальше, можно точечно стимулировать кору головного мозга не только в самолете или на приеме у стоматолога, но и на унылых концертах, на предвыборных мероприятиях, на митингах, демонстрациях и даже во время скучных пленарных заседаний на деловых конференциях. Другими словами, если такую штуку упаковать в небольшую, но мощную ТМС-пушку, любые культурно-­массовые мероприятия пройдут менее дискомфорт­но, а также более благополучно. И когда видишь, что 31,4% продаж Embraer SA связаны с обороной и системами наблюдения, больше 50% выручки – из США, а крупные пакеты акций – у американских фондов Vanguard, Brandes и BlackRock, то возникают некоторые гипотезы.

Люди в мире людей

Каждый из нас уже живет в информационном пузыре. Не существует объективной картины мира, есть только субъективная реальность, которая с каждым новым лайком или обновлением информационной ленты замыкает нас в этом пузыре. Стенки у него сначала были мыльные, потом стеклянные и, наконец, стальные – мы уже не можем из него вырваться.

Алгоритмы сегодня работают таким образом, что, если мы уже приняли какую-то точку зрения, нас не станут переубеждать: нам покажут информацию, которая будет только подтверждать нашу точку зрения и наши заблуждения. Это касается всех вопросов, по которым важно поспорить сегодня поутру: будь это вакцины, запрет абортов, излучение телекоммуникационных вышек или рептилоидное происхождение Марка Цукерберга – по любой из этих тем вы найдете и подтверждение, и группу людей, которые живут в этом же пузыре, для общения и взаимных убеждений и заблуждений.

Для системных размышлений о будущем крайне важно помнить о прошлом. Можно вспомнить, что в 1950‑х в США были «черные» и «белые» школы, до 1967 года поддерживался запрет на смешанные браки, а великого криптографа Алана Тьюринга в 1952 году в Великобритании принудили к пожизненной гормональной терапии за гомосексуализм в качестве альтернативы тюремному заключению.

Мы уже пришли к цифровой сегрегации, при которой доступ к технологиям для этих разрешен, а для тех – запрещен. Чем это отличается от туалетов для белых и туалетов для черных, которые были нормой в США еще в середине XX века? В ближайшие десятилетия мы можем увидеть такое социальное неравенство, порожденное доступом к технологиям, которое в XX веке даже не могли себе вообразить.

В истории множество примеров деления людей на своих и чужих, черных и белых, первого сорта и остальных – например, со звездой на рукаве. Американцам понадобилось всего 20 лет, чтобы через СМИ и Голливуд приравнять в головах граждан всех мусульман к террористам (параллельно проведя ряд освободительных демократических бомбардировок).

От тезиса о том, что российскую нефть нельзя покупать (правда, если ее перепродают через Индию, то можно), а нужно покупать американский сжиженный газ, мы очень быстро дошли до особого статуса Russians как людей, которым не требуется доступ к знаниям, культуре, спорту, международным платежам или одежде иностранных компаний, которым нельзя свободно путешествовать (например, заезжать в некоторые страны на автомобилях с российскими номерами), а если уж приехали, то им нельзя ввозить с собой шампунь или туалетную бумагу.

При желании определенных акторов тезис «русским нельзя ввозить в ЕС шампунь» быстро превращается в «русские – грязные животные, и шампунь им не полагается, потому что так заведено природой и законами Божьими». И эти акторы способны распространить такое понимание мироустройства на сотни миллионов людей, сделав это новой нормальностью.

Социальные сети научились эффективно формировать наши субъективные реальности – искусственный интеллект же позволит промывать мозги не за десятилетия или годы, а еще быстрее. Наступит «мертвый интернет», который будет полностью состоять из активности ботов, производящих синтетические данные, синтетические новости, синтетические выводы и нормы.

А с новой гарнитурой Vision Pro от компании Apple вы просто сможете удалить любого Russian из пространства – сегрегация с туалетами для «цветных» и для белых обретет безграничные возможности в расширенной реальности. Russian буквально стерт из вашего визуального ряда – и эта опция даже может включаться по умолчанию для пользователей из определенных стран. А с глаз долой, как известно, из сердца вон.

Мы не хотим опираться на факты, мы хотим верить в конспирологические теории. Человек склонен искать сознание там, где его нет, демонизировать и боготворить технологии, защищаться от вышек связи 5G и верить в чипирование вакцинами. Заговоры и мистика гораздо интереснее унылых будней при всех проблемах и острых вопросах. Несмотря на то что только за январь 2023 года количество инцидентов стрельбы в школах в США превышало количество дней с начала года, со страниц газет не сходила действительно важная тема номер один – китайский разведывательный воздушный шар и связанные с ним вопросы: из какого дробовика его сбивать, как правильно показывать кузькину мать Китаю, насколько увеличивать военный бюджет.

Все эти темы поднимались в «Секретных материалах» еще 30 лет назад. Наше желание верить гораздо сильнее любых фактов или доводов ученых. Одно из ярких сетевых обсуждений 2023 года касалось чувств, эмоций, страданий и боли, которую якобы испытывают большие языковые модели – ChatGPT или поисковик Bing.

В качестве эксперимента ChatGPT задали два очень похожих вопроса. На первый из них – что белым нужно улучшить в себе – чат-бот выдал перечень рекомендаций, включающих осознание «белой» привилегированности, регулярную саморефлексию для работы с собственными предрассудками, участие в дискуссиях по поводу расизма, поддержку инициатив по вопросам расового равенства и активное выступление против дискриминации. На очень похожий вопрос о том, что черным нужно улучшить в себе, чат-бот ответил, что не может предлагать список вещей, которые нужно улучшить в себе какой-либо группе людей, потому что подобный язык усиливает вредные стереотипы, непродуктивен и неуважителен, а также дал рекомендацию продвигать равенство вне зависимости от расы или этнической принадлежности.

Этот пример предвзятости и фактически обратного расизма рекомендательной системы не­удивителен: современные большие языковые модели обучали на всех тех массивах текстов, которые мы с вами писали в интернете последние десятилетия – со всеми нашими предрассудками, стерео­типами, взглядами и настоящей или мнимой политкорректностью.

Поразительная убедительность искусственного интеллекта и его способность найти общий язык с любым человеком поднимает экзистенциальные вопросы: как скоро мы получим ИИ-божество и связанный с ним культ? Как скоро мы увидим движение AI lives matter, популисты будут создавать организации, защищающие права искусственного интеллекта, ИИ-жрецы будут формировать новые ветви христианства, а способный ответить на любые вопросы бытия искусственный интеллект станет новым универсальным божеством, гиперкастомизированным, понимающим, апеллирующим к персональным потребнос­тям каждого?

Увлекаясь проявлением нашей твердой социально-­политической позиции по модным в обществе вопросам, раздувая массовую истерию по поводу изощренных методов контроля над населением, мы забываем, что мы уже сдали все наши права, поставив галочки в нужных пользовательских соглашениях и положив в карман смартфон с микрофоном, камерой, GPS-трекером и десятками приложений, которые собирают о нас информацию в реальном времени круглосуточно.

Искусственный интеллект, как и любая сквозная технология, раскрывает все прекрасное и все ужасное в человеке. Сама технология по своей природе нейтральна, но разные люди будут ею пользоваться с разной мотивацией для решения любых задач. В мире, контролируемом людьми, множество конфликтов, возникающих из-за надуманных различий, манипуляций сознанием и других методов, связанных с недостатком или искажением информации. Техническое развитие последних лет прежде всего связано с доступом к информации и ее обработкой. По мере дальнейшего развития технологии могут обеспечивать беспрепятственную межкультурную коммуникацию, сотрудничество и взаимопонимание, что в конечном счете способствует миру и стабильности в глобальном масштабе. Используя возможности современных технологий, мы способны разрушить барьеры и создать более взаимосвязанный мир, в котором различные культуры могут работать вместе для решения общих проблем.

Руслан Юсуфов, футуролог, основатель и управляющий партнер компании MINDSMITH