Future Progressive: Михаил Бурцев


О всезнающих голосовых помощниках, совместной эволюции человека и искусственного интеллекта, предсказании мутаций коронавируса и захвате рынка с помощью open source.

20.12.2021





Вы занимаетесь тем, что в широком смысле называется искусственным интеллектом. При этом вы исследуете мозг как таковой. Например, вы исследовали биологически обоснованные модели когнитивных систем и наблюдали за формированием нейронных сетей в клетках мозга. Можете все-таки пояснить, чем вы занимаетесь – искусственным или живым интеллектом?

В первую очередь, конечно же, искусственным. Но если мы хотим построить искусственный интеллект, существуют два подхода к этой задаче. Самый простой и наименее затратный – это исследовать поведение человека и пытаться построить его математическую модель. С этого начали, в эти исследования лет 70 назад, когда искусственный интеллект только возник, вложено очень много ресурсов. Но оказалось, что далеко продвинуться на этом пути не получается, видимо, не хватает способности привязать рассуждения, хорошо поддающиеся моделированию, к реальному миру. Например, 60–70 лет назад придумали алгоритм, который смог доказать все теоремы по геометрии в школьном учебнике. Но что дальше?

И потребовался второй подход: не пытаться смоделировать, как человек думает, а попытаться смоделировать субстрат, который отвечает за обучение. Мы знаем, что за наш интеллект отвечает мозг, значит, надо моделировать не ход рассуждений человека, а смоделировать мозг, который это поведение генерирует, то есть сделать модель нейронной сети. Были предложены специальные алгоритмы, позволяющие менять отношения между нейронами, то есть заставлять сеть обучаться. Это направление развивалось параллельно с тем методом, о котором я говорил, с психологическим, – он получил название «символьный». Второй метод – искусственных нейронных сетей. Как вы заметили, моя лаборатория называется «Лаборатория нейронных систем и глубокого обучения». И оказалось, что второй подход при наличии достаточных вычислительных возможностей позволяет моделировать сотни тысяч, миллионы нейронов, что он отлично решает задачи, например машинного перевода, которые раньше считались символьными.

Мозг определяет нашу самоидентификацию. А с кем или с чем идентифицируют себя нейронные сети, которые вы строите?

Подавляющее большинство таких систем ни с кем себя не идентифицируют, у них нет субъектности. Это просто инструмент, при помощи которого мы можем решать задачи, например, классификации – отделить яблоки от огурцов или плохих заемщиков от хороших. Но в отдельных разработках, связанных с различными автономными системами, – например, роботы, которые ищут полезные ископаемые на дне моря, где нет хорошей связи, – у них уже есть некоторые зачатки субъектности: у них есть цели, и они могут себе формировать подцели. Например, им поставлена задача добраться до какой-то точки с заданными координатами. Конечно, они могут не знать маршрут полностью, но, двигаясь по местности, они определяют, что перед ними препятствие, его нужно объехать вот с этой стороны. Исходя из «увиденного», определяются промежуточные цели, нужные для достижения задачи, поставленной человеком. И, конечно же, разработчики и исследователи думают о том, чтобы сделать робота безопасным, чтобы он не напридумывал себе таких промежуточных целей, которые бы сильно противоречили задачам человека.

Верите ли вы в технологическую сингулярность?

В технологическую сингулярность, в то, что искусственный интеллект каким-то образом будет влиять на человека и захватит его, нет, конечно, не верю. Я думаю, что у нас до сих пор были гораздо более мощные технологии воздействия на человека, например ядерное оружие. С точки зрения риска масштабной катастрофы для человечества ядерное оружие представляет сегодня гораздо большую угрозу, чем искусственный интеллект, потому что решение о его применении может принимать небольшое число людей. Искусственный интеллект более распределенный, и нет настолько мощных систем, которыми можно было бы управлять.

Сейчас он распределенный потому, что ему ставят узкоспециализированные задачи. Но все чаще говорят о глобальном искусственном интеллекте, который доступен всем и может решать задачи всего человечества.

Ну, пока до такого интеллекта еще очень далеко. Под искусственным интеллектом фактически сегодня подразумевают некую технологию решения задач, которые нас окружают: машинный перевод, распознавание голоса, оценка кредитов, распознавание картинок, беспилотный транспорт. Все это вполне конкретные навыки. Сегодня возникает некий прообраз более общего искусственного интеллекта в виде персональных помощников: у «Яндекса» – Алиса, у Amazon – Алекса, есть Google Assistance, Siri. Но и от них до общего искусственного интеллекта еще бесконечно далеко. Если под общим интеллектом подразумевать некую систему, которая может обучаться и обладает интеллектом, сопоставимым с человеческим, то до такого еще 100–200 лет.

Почему тогда Стивен Хокинг предупреждал об угрозе искусственного интеллекта?

Может быть, у него были слишком радужные прогнозы, казалось, что это быстро сбудется. Самый яркий пример такого взгляда на искусственный интеллект – это Илон Маск, который как раз в 2015–2016 годах, когда начался бурный расцвет нейронных сетей, сделал стартап OpenAI. Он увидел, что если эта технология будет быстро развиваться, то мы можем перестать ее контролировать, тем более если она будет быстро развиваться в рамках каких-то корпораций, организаций или правительств.

Его идея заключалась в том, что если сделать открытую технологию, которая станет доступна всем, то крупные игроки не смогут ее контролировать, соответственно, тогда мы сделаем этот искусственный интеллект безопасным и вероятность того, что он поработит человечество, окажется меньше.

Второй шаг Маска – создание Neuralink. Он говорил, что если мы не можем противостоять появлению искусственного интеллекта, поскольку сложно остановить развитие этой технологии за счет конкуренции, то мы тогда должны быть с ним в максимально симбиотических отношениях. Neuralink – как раз его взгляд на перспективу: сейчас мы это применяем для больных людей, но, по сути, можем построить себе интерфейс, и искусственный интеллект будет не каким-то внешним субъектом, отдельным от нас, а некоторой частью человека. Мы начнем развиваться вместе с ним, и в тот момент, когда он будет уже мощнее нас, человек просто станет частью искусственного интеллекта, которому нет смысла самому с собой бороться.

А какой сценарий ближе вам самому?

Мне и тот и другой кажутся вполне нормальными. Если искусственный интеллект будет технологией, которая расширяет наши возможности, то здесь уже каждый должен сам решать, хочет ли он иметь прямой интерфейс, AI не должен ограничивать права тех людей, которые не захотят этого. C эволюционной точки зрения у нас изначально были только одноклеточные организмы, но возникновение более сложных организмов не привело к тому, что одноклеточные исчезли. Они развиваются, и их жизнь практически не меняется из-за того, что появился человек. Точно так же и здесь. Начинается некая новая фаза развития познающих систем. Скорее всего, их цели будут отличны от людских. И если эта система возникнет, то есть появится субъектность, то нет никаких специфических предположений и оснований считать, что они будут рассматривать человека как врага, скорее они даже будут хорошо к нам относиться, потому что мы же их породили.

Вы приводили в пример сейчас американскую компанию. А где место России в гонке по созданию искусственного интеллекта, в гонке технологий?

С точки зрения внедрения в жизнь и развития самих технологических решений очевидно, что Россия на более-менее лидирующих позициях. У нас есть «Яндекс», есть «Сбер», «Тинькофф», ВТБ. Видно, что тот же беспилотный транспорт от «Яндекса» работает и в США, и в России.

В Европе СМС-банкинг, который считается прошлым веком в России, воспринимается как новинка, в США даже бесконтактная оплата есть не везде. Не много стран, которые пытаются идти на этом уровне технологий.

Чувствуете ли вы на себе, на своей лаборатории, что в науку пошли серьезные деньги?

Финансирование увеличилось, но в первую очередь это касается внедрения технологий. Правда, в России несколько лет назад появилась национальная стратегия по развитию искусственного интеллекта, и под нее стал разрабатываться федеральный проект. Я входил в группу по разработке этой стратегии. В ее рамках предусмотрена поддержка компаний, софинансирование с индустриальными партнерами, а также создано шесть центров на основе вузов.

Деньги выделяются большие: до 2024 года по 900 млн рублей в год на каждый из шести центров плюс софинансирование около 30%, то есть по 1,3–1,5 млрд рублей. Для такого рода исследований это много, и я думаю, что в итоге мы получим какие-то прорывные вещи.

Насколько велик рынок искусственного интеллекта сегодня? Сколько компаний, какова их стоимость? Сколько приходит новых денег каждый год?

Я не могу правильно оценить рынок, но скажу на примере нашего инициативного проекта. Его задача – сделать технологию по разговорному искусственному интеллекту в виде инфраструктурной платформы. Мы хотели помочь российским компаниям выйти на внешние рынки, чтобы они стали глобальными игроками. Причем важно, чтобы ниша была новой, потому что нужно предвидеть возникающий на глобальном уровне рынок, который еще не занят целиком, и пытаться двигать компании, давая им шанс занять какое-то место на этом новом рынке.

Мы подавали проект в 2015–2016 годах, и по росту числа пользователей мессенджеров было очевидно, что скоро все начнут общаться в текстовом виде. Во множестве появлялись кол-центры, становилось все больше клиентской поддержки, и мы поняли, что возникнет бурно развивающийся рынок общения на естественном языке. Тогда мы решили сделать технологию в виде открытой библиотеки, которую компании могут потом использовать для создания продуктов.

Нужно сказать при этом, что роль open source двояка. С одной стороны, это именно распространение продуктов под открытой лицензией, чтобы привлечь доверие пользователей: вот смотрите, вы знаете, как мой продукт работает. А второе – это захват рынка. Если ты даешь бесплатно что-то работающее, люди начинают пользоваться твоей технологией, а затем ты на ее основе можешь делать продукты или сервисы.

То есть делаете прототип, а дальше по мере использования его людьми и получения обратной связи улучшаете продукт?

Да, и при этом ты понимаешь ниши, в которых можешь на этом заработать. Наша миссия была в том, чтобы сделать эту инфраструктуру, для того чтобы российские компании могли с помощью нее делать продукт. Три с половиной года назад мы опубликовали нашу библиотеку на Github, это такой открытый репозиторий, и сейчас у нас около 10 тыс. установок в месяц, из которых 60% – из США, 20% – из России, а еще 20% – из других стран.

Каковы ваши сегодняшние цели?

Мы хотим сделать что-то вроде операционной системы для персональных помощников. Есть Алиса, в Amazon – Алекса, в них тоже есть операционная система, которая может разговаривать с человеком и позволяет устанавливать какие-то внешние приложения. (Любая компания может разработать приложение для «Яндекс»-Алисы и Amazon-Алексы: например, сделать так называемый разговорный навык, и система будет общаться с пользователем. Когда пользователь скажет: «Я хочу инвестировать туда-то», ему персональный помощник от этой компании даст квалифицированную консультацию.)

Наша цель – продвинуть DeepPavlov как операционную систему для персональных помощников, чтобы лет через 5–10 половина персональных помощников работали на нашей платформе. Можно провести аналогию с Linux, это открытая операционная система; если Windows, IOS, Android созданы корпорацией, то Linux – в большей степени продукт усилий сообщества. Вот у нас такой а-ля Linux, но для персональных помощников.

Насколько это реально?

Вполне реально. Сейчас мы участвуем в конкурсе Amazon Alexa Prize. Amazon предлагает академическим командам разработать «болталку», которая могла бы поговорить с человеком 20 минут и не дать ему заскучать. Каждый год они отбирают по миру 10 команд и дают по 250 тыс. долларов, и мы участвовали в третьем и четвертом раундах. То есть Amazon уже вложил в нас 0,5 млн долларов, и наши решения обкатываются на реальных пользователях, хотя мы и академическая лаборатория.

Разговорный искусственный интеллект – это все-таки что-то из области развлечений, чтобы не было скучно. Правильно ли я уловил мысль?

Не совсем так. Это на самом деле интерфейс, который позволяет системе понимать, чего именно хочет человек. Сейчас тренд на персональных помощников. Если вы пользуетесь, например, каршерингом от «Яндекса», то там уже предустановлена Алиса, она персонализирована, она вас узнает, включает вашу любимую радиостанцию, строит ваши маршруты, знает, где находится ваш дом. Вы сели в машину – и ваш персональный помощник находится в этой машине.

Что будет дальше? Дальше он будет в вашем телевизоре, потому что вы подключите к нему колонку, и он вам порекомендует, что смотреть. Он будет в вашей почте, потому что вы через него переписываетесь (почта «Яндекса» тоже может быть соединена с Алисой). Таким образом, получается, что сейчас есть тренд на то, чтобы эти персональные помощники находились в как можно большем числе surfaces-поверхностей, которые вас окружают. Это одна и та же система, которая знает о вас очень много, и за счет этого она способна давать вам точные рекомендации. А компания таким образом получает рыночное преимущество.

Очень важно, что интерфейс помощника находится между пользователем и остальным миром. То есть когда вы хотите что-то найти в интернете или что-то узнать, вы будете общаться с ним, а не с чем-то другим. Вы не будете искать в поисковой системе, не будете открывать приложение, вы просто будете с ним разговаривать. И тот, кто владеет этим интерфейсом, ближе всего к пользователю и лучше всего понимает, чего этот пользователь хочет. И мы строим не только этот естественный язык, само озвучивание и понимание речи, важно также понимание контекста, чего же хочет человек.

Потому что фактически получается, что персональный помощник – это как frontend к пользователю, его внешний интерфейс, а есть backend, его внутренний интерфейс, в который зашита куча сервисов. Это может быть беспилотное такси, которое к тебе приедет, или фабрика, которая остановится после того, как ты скажешь: «А ну, быстро остановились, и хватит производить», если там случилась авария. Этот помощник может продать по вашему указанию все ваши ценные бумаги – словом, это может быть что угодно.

Вы говорите об этом несколько восторженно, и действительно, это здорово. Но есть же обратная сторона – сейчас многие говорят о цифровом рабстве, о навязчивой рекламе. Мы с вами беседуем, в это время включен телефон – я обращал внимание, что даже если смартфон просто лежит рядом, и ты несколько раз в разговоре произнесешь какое-нибудь слово – «кроссовки», к примеру, то первая реклама, которую ты получишь потом в Instagram или в Facebook, будет касаться именно кроссовок.

Да, это вполне реально. Значит, нужно пытаться это регулировать, и первый шаг здесь уже сделан, в частности, в Европе – с приемом GDPR. Все это началось с поисковых систем, установок-трекеров на сайты. Вы ходите по сайтам, ваш цифровой след сохраняется, фактически о вас уже бесконтрольно насобирали кучу данных. Персональный помощник одновременно и улучшает, и ухудшает эту ситуацию. Улучшает, поскольку вы можете использовать его как прокси, то есть можете быть анонимным за пределами вашего персонального помощника. Он о вас будет знать много, но внешние сервисы – нет; если раньше браузеры все о вас знали, то теперь он будет осуществлять действия от вашего имени, и никто не будет знать, что это вы.

Никто, кроме того, кому принадлежит этот персональный помощник.

Да. И если раньше, когда вы посещали разные сайты, на каждом из которых стояли трекеры разных компаний, информация о вас размазывалась в интернете, вам трудно было ее стереть, то теперь вся эта информация будет храниться в одном месте, и потенциально вы сможете нажать на кнопочку «стереть» и все это удалить. Но и рисков при этом больше, потому что если раньше для того, чтобы собрать о вас информацию, нужно было искать повсюду, то теперь – взломай этого помощника, и ты знаешь о человеке все, даже то, что никакие друзья и родственники о нем не расскажут. Поэтому риск тут огромный, соответственно, должно быть регулирование того, как эта информация хранится, возможно, это должно быть какое-то распределенное хранение.

Возможно ли вообще законодательное регулирование в робототехнике? Например, едет беспилотный автомобиль, и складывается ситуация, в которой жертв не избежать.Как будет действовать автомат?

Это классический пример, когда машине придется выбирать: либо гибнет водитель, либо, например, она сбивает ребенка на пешеходном переходе. Несколько лет назад в мире было проведено исследование того, какое решение принимали бы люди на месте этого искусственного интеллекта. И оказалось, что в разных странах поступают по-разному. В зависимости от возраста, пола, от того, кто находится в машине, и того, кто находится на пешеходном переходе. Поэтому национальные и государственные критерии должны разрабатываться под конкретное применение в данной стране, и в разных государствах эти критерии будут меняться.

Вы говорите, через 200 лет может наступить время, когда искусственный интеллект станет развиваться сам и мы просто останемся в этой цепочке. А что будет через 30–50 лет, где вы ожидаете основных прорывных вещей?

Первый прорыв мы уже обсуждали – это персональные помощники. Я думаю, благодаря их использованию у нас освободится куча времени. Второе – это медицинские приложения. Уже сейчас в биотехнологиях, в медицине искусственный интеллект применяется широко; есть знаменитая программа AlphaFold от Google, которая позволяет предсказывать трехмерную структуру белков для различных приложений. Она по последовательности аминокислот предсказывает трехмерную структуру, а по этой структуре уже можно оценить, как белки друг с другом взаимодействуют.

Каково применение такого рода предсказаний?

Я, кроме лаборатории, работаю в Институте искусственного интеллекта. Там мы занимаемся проектом, направленным на то, чтобы при помощи алгоритмов машинного обучения детектировать S-белок, который позволяет коронавирусу проникать в клетки. Очевидно, что COVID-19 мутирует, и нам понадобится как-то адаптировать вакцину. Оказывается, при помощи инструментов, которые появились в течение последнего года, мы можем предсказывать мутации, то есть прогнозировать, как будет изменяться S-белок, и таким образом окажемся способны предсказать, каким образом вирус попытается уйти от существующих вакцин.

При помощи биоинформатических инструментов мы сможем предсказать, в какой части белковой последовательности с большей вероятностью происходит мутация. Затем мы попытаемся найти компоненты вакцины, которые начнут оптимальным образом связываться с наибольшим числом будущих мутаций. Исходя из этого можно делать следующую вакцину. У нас совместный проект с Центром Гамалеи, я надеюсь, что через год или полтора мы увидим, работает это или нет. Понятно, что это все пока еще суперэкспериментальное, такого нет нигде в мире.

Ваша система предсказала новый «дельта»-штамм?

Нет, но мы пытаемся предсказать, что будет дальше, какие мутации будут появляться в этом «дельта»-штамме. И исходя из этого попробуем сделать следующую вакцину таким образом, чтобы она большинство этих мутаций закрывала.

Это очень здорово! Медицина, транспорт, что еще?

Агропромышленность. Если мы можем применять биотехнологии к вирусам, мы можем делать и генно-модифицированные продукты, генно-модифицированные растения, которые будут устойчивы к засухам и болезням. И поскольку Россия сейчас выдвигается как одна из передовых стран с точки зрения обеспечения человечества продовольствием, то здесь я тоже вижу очень большие перспективы. Конечно, нужно правильно маркетировать ГМО, говорить людям, чтобы они его не боялись, представлять это как рациональную вещь. Понятно, что люди у нас настроены против ГМО.

Оставит ли искусственный интеллект место человеку как таковому?

Как ни странно, думаю, что применение искусственного интеллекта приведет в итоге к тому, что люди станут более человечными. Технология искусственного интеллекта не может пока достигнуть нашего уровня, но она может позволить эффективнее решать какие-то рутинные задачи. С одной стороны, она тем самым создает проблему на рынке труда – например, число сотрудников кол-центров сократилось в 100 раз. С другой, человек в кол-центре – это же, по сути, робот, и если устранить эту механическую роботизированную часть, то в человеке останется больше человеческого.

Но вы же говорите, что помощники знают о нас больше, чем друзья и родственники. То есть они в каком-то смысле более человечны, они лучше знают, что нам нужно в конкретный момент времени.

Они знают наши проблемы, но с точки зрения здравого смысла и способности к эмпатии, к общению им до нас еще далеко. Искусственный интеллект позволит людям меньше заниматься рутиной, заставит больше учиться, оставит больше времени для общения. Так что плюсов, по-моему, гораздо больше, просто люди еще не до конца это осознали. Надеюсь, что мы к этому придем.

Михаил Бурцев, директор по фундаментальным исследованиям, Институт искусственного интеллекта AIRI; заведующий лабораторией нейронных систем и глубокого обучения МФТИ


В 2021 году ВТБ Private Banking при поддержке SPEAR’S Russia подготовил проект о будущем. Future Progressive – это обстоятельные разговоры с людьми, создающими наше сегодня, о том, каким может быть наше завтра. Герои проекта – крупные бизнесмены и ученые. В фокусе внимания – темы технологического, экономического, общественного и культурного прогресса, пути и стадии личного развития, возможные трансформации бизнеса и возникновение новых бизнес-моделей, оценка влияния мегатрендов на человека и рынки, выбор направления движения и жизнь после достижения цели. SPEAR’S Russia продолжает публикацию избранных интервью из этого проекта. Первая часть была опубликована в предыдущем, ноябрьском, номере журнала.



20.12.2021

Источник: SPEAR'S Russia


Оставить комментарий


Зарегистрируйтесь на сайте, чтобы не вводить проверочный код каждый раз