Идея о замене автоматизированным трудом всей работы, выполняемой людьми, не только не нова, но и стара как мир. Древнегреческий философ Аристотель в 350 году до н. э. предположил, что если бы машинам (которые, по тогдашним представлениям, могли стать творениями бога Гефеста) удалось научиться выполнять любую работу, которую делают люди, то все рабочие, включая рабов, оказались бы лишними.

Где в таком мире человек может найти (и сохранить) свое место? Подобно армии саксонского дворянина и противника норманнов Хереварда Уэйка, окруженной вой­сками Вильгельма Завоевателя на крошечном болотистом острове недалеко от городка Эли, люди вынуждены уступать машинам все больше и больше своей исконной территории. Что им останется? Где пройдет последний рубеж? Что произойдет, если захвачен будет даже последний островок пригодной для нас суши? Останется ли хоть что-то еще, что люди могут делать лучше, чем машины?

Что еще хуже, роботам и другим автоматам, в отличие от людей, не нужно будет платить зарплату, предоставлять льготы и пенсии. Но если машины и производительнее, и дешевле, нежели их создатели, зачем вообще тогда привлекать людей к работе?

Если работа для людей совсем (или по большей части) исчезнет, перед нами встанет как минимум одна чрезвычайно серьезная проблема – целеполагание в жизни. Поскольку борьба за заработок составляла основу человеческого существования с незапамятных времен, что должно занять ее место? Будущее грозит превратиться в бесконечный досуг, включающий не только различные возможности, но и массу проблем, которые я буду обсуждать в четвертой главе. Скажем так, если это произойдет, досуг, который гораздо честнее будет назвать тотальной безработицей, для большинства людей не будет похож на сладкий сон.

Даже если не думать сейчас о таких потенциальных проб­лемах, как бессмысленность существования и скука, все равно остается вопрос: будет ли для нас эпоха роботов временем изобилия или же невольный досуг станет единственной радостью бедняка? Ведь если труд не нужен, как люди будут зарабатывать деньги? Без заработанных денег им нечего будет тратить. Без затрат производство роботов не будет востребовано. В результате не только люди, но и роботы останутся без работы.

Беспокойство по поводу описанной перспективы – дело не отдаленного будущего, а нашего с вами настоящего. Оно уже влияет на людей здесь и сейчас. Согласно опросу 2015 года, проведенному Университетом Чепмена, американцы боятся роботов, которые лишат их работы, чуть ли не больше, чем смерти.

Унесенные роботами

Насколько серьезно мы должны относиться к угрозе кардинального снижения человеческой занятости? Многие визионеры и футурологи, размышляющие на тему искусственного интеллекта, настроены очень пессимистично. Профессор Массачусетского технологического института Макс Тегмарк, пожалуй, наиболее выдающийся из этих скептиков. Он не согласен с обычной идеей, что на замену потерянным из-за внедрения искусственного интеллекта рабочим местам возьмутся как бы из воздуха новые места, как это уже происходило в прошлом и нынешнем столетиях. Тегмарк объясняет свою точку зрения тем, что подавляющее большинство современных профессий существовали уже 100 лет назад. Используя данные Министерства труда США (US Department of Labor), он обнаружил, что 80% профессий 2014 года уже существовали в 1914 году. Более того, число людей, занятых в 20% новых профессий, составляло тогда только 10% работающего населения.

Сегодня объем экономики США несравненно больше, чем в 1914 году, и в ней занято гораздо больше людей, однако новых профессий появилось не так уж много. Вот что пишет Тегмарк: «Когда мы сортируем профессии по количеству рабочих мест, которые они предоставляют, нам придется опуститься на 21‑е место в списке, чтобы наконец столкнуться с по-настоящему новой профессией – разработчик программного обеспечения. Эти специалисты составляют менее 1% рынка труда в Соединенных Штатах».

Продолжая эту тему, целый ряд аналитиков и прогнозистов сделали чуть ли не апокалиптические оценки будущей безработицы. Так называемый «Проект тысячелетия» (The Millennium Project), учрежденный в 1996 году под эгидой ООН и академических организаций США, подготовил отчет под названием «Состояние будущего в 2015–2016 годах» (2015–2016 State of the Future), содержащий в том числе и раздел о будущем работы, основанный на опросе 300 экспертов из разных стран. Вывод авторов отчета состоит в том, что к 2030 году глобальная безработица составит «всего» 16%, а в 2050 году – не более 24%. Так что будем считать, что все в порядке.

Более достоверный анализ дает нам такая организация, как McKinsey. По ее оценкам, если развитые общества быстро переключатся на новые технологии, к 2030 году роботы могут вытеснить до 700 млн человек. Даже если темпы внедрения будут более скромными, чего и ожидает McKinsey, то и тогда около 375 млн человек (или 14% всех работников) вынуждены будут сменить работу и/или пройти переквалификацию.

Заметим, впрочем, что исследование, недавно проведенное Организацией экономического сотрудничества и развития, содержит заключение о том, что, вопреки ранним пессимистичным прогнозам, под угрозой сокращения из-за роботизации находится меньшее число рабочих мест, чем предполагалось. Согласно отчету специалистов, в богатых странах (членах OECD) около 14% рабочих мест сейчас высоко автоматизированы. Несмотря на это, конечный вывод из всего исследования неблагоприятный: количество рабочих мест, подверженных риску, по-прежнему оценивается как огромное – около 66 млн в 32 странах, из которых 13 млн рабочих мест будут потеряны только в США.

Хорошо известное и часто цитируемое исследование Карла Фрея и Майкла Осборна из Окс­фордского университета привело этих ученых к выводу, что в США потенциально уязвимы 47% рабочих мест. Выдающийся историк экономики Джоэль Мокир поддерживает мнение, что на этот раз оценки сокращения рабочих мест несопоставимы с известными историческими примерами.

Итак, революция в области искусственного интеллекта обещает стать «революцией» в полном смысле: она подорвет спрос на человеческий труд в широком спектре профессий, включая и те, которые до недавнего времени казались «невосприимчивыми» к любой угрозе механизации. Искусственный интеллект глубоко проникает в сферы, ранее считавшиеся исключительно человеческими. Грядущие изменения на рынке труда будут реальными, существенными и широкомасштабными.

На что надеяться людям?

Но действительно ли несомненные достижения роботов и искусственного интеллекта означают уничтожение, а не преобразование огромного количества рабочих мест? И если да, не появятся ли новые возможности трудо­устройства, которые компенсировали бы потерю рабочих мест в традиционных сферах деятельности? Есть причины полагать, что такие возможности появятся и что страх пессимистов перед состоянием тотальной безработицы будет развеян. Развитие искусственного интеллекта еще не означает Армагеддона для оплачиваемого труда.

Для начала заметим, что, несмотря на пугающие заголовки, в упомянутом выше исследовании McKinsey подчеркивается, что тезис о полном исчезновении рабочих мест ошибочен. По оценкам экспертов, хотя большинство работ и включают хорошо автоматизируемые элементы, лишь менее 5% из них поддаются полной автоматизации. Вот цитата из этого отчета: «Около 60% профессий можно было бы автоматизировать примерно на треть, исходя из характера деятельности, составляющей эти профессии». Описанная тенденция распространяется в том числе и на руководителей. По оценкам McKinsey, при использовании современных технологий вполне могут быть автоматизированы некоторые виды деятельности, отнимающие более 20% рабочего времени даже у генеральных директоров фирм и компаний.

Весьма показательно, что отчет McKinsey довольно оптимистичен в отношении общих перспектив занятости. Он проводит параллели с эпохой появления персональных компьютеров. В нем говорится, в частности, что это «позволило создать в США 15,8 млн новых рабочих мест с 1980 года, даже с учетом перемещенных рабочих мест». Интересно также, что в странах с наибольшим количеством роботов на одного сотрудника-человека (например, Сингапур, Япония, Германия) уровень безработицы один из самых низких в мире.

Согласно выводам McKinsey, в любой работе наименее подвержены автоматизации два аспекта – творчество и эмоциональные ощущения. Общепризнано, утверждает фирма, что в экономике США только 4% работ требуют творчества. Но если рассматривать такой показатель, как эмоциональное восприятие, то рабочих мест с подобной характеристикой в стране будет уже 29%. Эти цифры говорят о том, что рабочие места для людей могут быть преобразованы таким образом, чтобы в первую очередь использовать (и приобретать) именно те навыки, которыми обладают только люди, и в процессе этого добиться к тому же большего удовлетворения от работы.

Слово «творчество» требует правильного истолкования. Мы говорим здесь не только о способности создавать произведения искусства на уровне Бетховена или Ван Гога. Даже при самом приземленном понимании этого термина все люди проявляют творческий потенциал в повседневной жизни. Дети, например, постоянно демонстрируют творческие элементы в играх. Творчество включает в себя способность придумывать что-то новое и разрабатывать нестандартные способы выполнения обычных вещей.

К двум важнейшим критериям сравнительного преимущества человека перед машинами, предложенным McKinsey, я бы добавил третий – проявление здравого смысла. Даже у самых «умных» представителей искусственного интеллекта нет подобного «инструмента» общения с миром. С точки зрения нашего будущего это, вероятно, означает, что даже там, где машины будут преобладать, все равно потребуется конт­роль человека на более высоком уровне управления.

Комиссия OECD пришла к таким же выводам, что и McKinsey. В ранее упомянутом исследовании сделан вывод, что большинство существующих рабочих мест трудно автоматизировать, потому что они требуют творческого подхода, сложных рассуждений, способнос­ти выполнять физические задачи в неструктурированной рабочей среде и умения договариваться о социальных отношениях. Директор по занятости, труду и социальным вопросам OECD Стефано Скарпетта приводит интересный пример, сравнивая автомеханика, работающего на производственной линии на огромном заводе, с таким же механиком, работающим в частной ремонтной мас­терской. Первого легко автоматизировать, со вторым сделать это куда сложнее.

Если включить в рассмотрение эти критерии, то, даже по мнению апокалиптически настроенного футуролога – и пессимиста во всем, что касается сферы занятости, – Макса Тегмарка, остается несколько областей, на которые искусственный интеллект не окажет прямого влияния в будущем. Это, в частности, творческие и художественные виды деятельности (включая журналистику и рекламу), все формы решения социальных проблем и судебной деятельности, искусство, музыка и дизайн. Впрочем, Тегмарк предполагает, что даже эти рабочие места со временем исчезнут и, более того, новых рабочих мест окажется недостаточно для замены исчезнувших старых. Со своей стороны я считаю, что он глубоко ошибается, и сейчас я попробую обосновать свое утверждение.

Многие характеристики, отличающие людей от роботов и мыслящих машин, можно объединить под термином «эмоциональный интеллект». Некоторые исследователи и разработчики в этой области пытаются заставить системы искусственного интеллекта и роботов распознавать эмоциональное состояние людей, с которыми они взаимодействуют, и соответствующим образом подстраивать под них свое поведение вплоть до имитации сочувствия. Что ж, пожелаем им всяческих успехов, однако я подозреваю, что роботы, притворяющиеся способными к эмоциональным реакциям и пониманию людей, будут выглядеть в лучшем случае нелепыми.

Какова реальная скорость прогресса

Возможно, это удивит вас, но именно в оценках скорости развития искусственного интеллекта можно увидеть самые положительные перспективы для человечества. Выше я упоминал закон Мура, но на самом деле этот закон вовсе не закон. Это признает, к его чести, даже такой энтузиаст искусственного интеллекта, как Калум Чейс. «Нет никаких причин, – говорит он, – по которым количество битов, которые вы сможете поместить на микрочип, обязательно будет продолжать и дальше расти в геометрической прогрессии. То же самое касается и вычислительной мощности компьютера, который вы можете купить за 1 тыс. долларов. Есть веские основания полагать, что темпы роста обоих показателей сущест­венно снизятся».

Примеры экспоненциального роста, которыми напичкана литература по искусственному интеллекту, действительно впечатляют. Они поражают сочетанием простоты закономерностей и масштабов их применимости, следовательно, и очевидной неизбежности конечного результата.

Однако все эти построения опираются на предположение о постоянстве (или хотя бы существенной продолжительности) экспоненциального роста. С другой стороны, именно потому, что эффекты такого устойчивого роста настолько разрушительны, в реальном мире он редко проявляется в течение продолжительного времени. Во многих случаях рост начинается медленно, затем переходит в экспоненциальную фазу, но после снова замедляется. Эту закономерность можно изобразить графически в виде S-образной кривой. Иногда рост замедляется, пока его скорость не вернется опять на неэкспоненциальную траекторию. Например, один из показателей увеличивается на 10 единиц каждый год – это будет означать, что темпы роста, выраженные в виде доли ежегодного увеличения (в процентах от предыдущей суммы), постоянно падают.

В других теоретических случаях что-то может продолжать расти, но никогда не выйдет за определенный порог. Таков, например, хрестоматийный парадокс с лягушкой, которая каждый раз прыгает на половину расстояния между собой и берегом пруда. Она будет приближаться к воде, но никогда ее не достигнет. В некоторых случаях рост может и полностью остановиться, несмотря на то что совсем недавно он постоянно рос. В литературе по искусственному интеллекту, где словосочетание «экспоненциальный рост» часто упоминается, есть одна забавная закономерность, с которой мы будем сталкиваться на протяжении всей этой книги. Наблюдаемое явление описывается в них как «закон», а затем делаются выводы, которые неизбежно должны следовать из этого закона. Между тем если непредвзято посмот­реть, на чем исходный «закон» основывается, то окажется, что не доказаны и его основы, не то что сам закон. Разочарование и потеря интереса ко всей теме – вот самый неизбежный результат подобных интеллектуальных провокаций.

Отметим, что некоторые эксперты уже полагают, что темпы развития искусственного интеллекта в последнее время замедляются. Так, например, считает Джон Марков, журналист The New York Times и лауреат Пулитцеровской премии. Роботы, участвовавшие в конкурсе DARPA Robotics Challenge в июне 2015 года, не смогли его убедить в серьезности утверждений о лавинообразном прогрессе интеллектуальных технологий. Марков считает, что с момента изобретения смартфона в 2007 году никаких серьезных технологических инноваций так и не возникло.

Погоня за тенью

Существуют серьезные сомнения в том, насколько пригодными окажутся роботы и искусственный интеллект для решения реальных проблем непредсказуемого окружающего мира. Да, есть много свидетельств тому, что некоторые позитивные сдвиги в области технологий, в том числе в области искусственного интеллекта и робототехники, происходят намного быстрее, чем предполагали даже оптимисты.

Но картина постоянного превышения наших ожиданий не является суммой нашего опыта в области технологического развития в целом или разработки искусственного интеллекта в частности. Наоборот. Один из моих любимых примеров – недавнее прохождение паспортного контроля журналисткой Эллисон Пирсон в аэропорту Хитроу поздно вечером. Она была в шоке от того, что автоматические, то есть управляемые машинами, пункты проверки паспортов были закрыты и в результате возникли огромные очереди к нескольким открытым пунктам, где обслуживание вели настоящие сотрудники пограничной службы. Когда она спросила чиновника, почему закрыты автоматические пункты проверки, то получила весьма симптоматичный ответ: «Из-за нехватки персонала».

Когда она возразила, что весь смысл использования этих машин и заключается в том, чтобы сократить потребность в человеческом труде, ей сказали, что хоть это и правда, однако машины не работали должным образом или же пассажиры не могли понять, как с ними взаимодействовать, поэтому сотрудники паспортного контроля были вынуждены разбираться с возникающим хаосом. Так что после дневной смены, когда большая часть персонала заканчивает работу, машины приходится каждый раз отключать.

Я уверен, что с такими проблемами, как автоматизация паспортного контроля, рано или поздно разберутся. Недавно мне пришлось столкнуться с такими машинами в Мадриде, Амстердаме и даже в Хитроу. Они работали безошибочно. Но урок – и это далеко не единичный пример – состоит в том, что технологическое улучшение поначалу часто разочаровывает, а для получения всех преимуществ требуется гораздо больше времени, чем утверждают разработчики и тем более энтузиасты из числа отнюдь не инженеров. Старые системы, основанные на постоянном использовании труда человека, должны некоторое время работать параллельно с новыми, пока современные системы не будут отлажены.

Этот момент, касающийся любых технологий в целом, применим и к искусственному интеллекту в частности. В 1965 году Герберт Саймон уверенно заявил, что «в течение 20 лет машины будут способны выполнять любую работу, которую может выполнить человек». А в 1967 году Марвин Мински утверждал: «В течение одного поколения проблема создания искусственного интеллекта окажется практически разрешенной». Излишне говорить, что все подобные прогнозы оказались полностью неверными. Эти аналитики очень похожи на современных мальтусов, только наоборот – они безнадежно оптимистичны. (Имейте в виду, что данное сравнение касается исключительно их футурологических экскурсов, другие достижения упомянутых исследователей только делают им честь.)

Действительно, история исследований искусственного интеллекта – это непрерывное чередование взлетов и падений. Успех в какой-либо области приводит к резкому увеличению инвестиций, за которым следует неудача, ведущая к сокращению или даже полному прекращению финансирования. Такие времена ИИ-разработчики образно назвали «периодами зимней спячки» (AI winters).

Фактически появление машин, сравнимых с людьми по уровню интеллекта, ожидалось еще с момента изобретения компьютеров в 1940‑х годах. В то время, равно как и позднее, многие предполагали, что это событие произойдет примерно через 20 лет. Но ожидаемая дата ежегодно отодвигается еще на год – вот почему многие футурологи до сих пор неизменно оценивают время появления машинного интеллекта, эквивалентного человеческому разуму, как отстоящее от момента их предсказаний на 20 лет вперед.

Фильм Ридли Скотта «Бегущий по лезвию», изображающий будущее Земли в виде антиутопии, где искусственные формы жизни далеко обогнали людей как по физической силе, так и по интеллекту, появился в 1982 году. В 2017 году, так сказать, за два года до момента икс, вышел сиквел «Бегущий по лезвию 2049», снова изображающий эти мрачные перспективы, правда, на тот раз со сдвигом в будущее на «целых» 30 лет.

Разочарование от роботов

Между тем в реальном мире эффективность роботов пока еще не оправдывает возлагавшихся надежд. До некоторой степени их извиняет сама новизна технологии. Исторически компания General Motors представила первого промышленного робота под названием Unimate еще в 1961 году, однако даже сейчас около половины промышленных роботов используются только в автомобилестроении, где четко алгоритмизированные задачи и жестко заданные условия идеально подходят для них.

Впрочем, и здесь существуют интересные нюансы. Например, для установки ветровых стекол на автомобили заводы обычно используют именно роботов, но если владелец машины обратится в автомастерскую для замены поврежденного стекла, он обнаружит, что эту же работу выполняют люди.

В области бытовых роботов-помощников, несмотря на огромные суммы денег, потраченные на достижение этой цели, до сих пор не удалось создать машину, не только интеллектуальную, но достаточно ловкую, чтобы… сложить полотенце. Завязывание шнурков, кстати, еще один пример задачи, по-прежнему выходящей за рамки возможностей современной чудо-техники. Следовательно, пресловутое использование машин в качестве независимых помощников по дому (а не просто как инструментарий типа «беспилотного» пылесоса, помогающий обычным компаньонам или домохозяйкам) еще очень далеко от воплощения в жизнь, если даже этим мечтам суждено сбыться.

Исследователи из Сингапура пытались научить промышленного робота собирать плоский стул, купленный в магазине IKEA, где такая мебель продается в виде полуфабрикатов, запакованная в плоские коробки и готовая к сборке. Хорошая новость заключается в том, что им это удалось. Плохая – для сборки одного стула потребовалось сразу два таких робота, предварительно запрограммированных специалистами именно для этой задачи, и на сборку ушло больше 20 минут. Утверждается, что человек способен выполнить сборку такого стула за более короткое время, хотя стоит заметить, что это не совсем так: неопытный человек мог бы потратить и гораздо больше времени или даже запутаться и бросить работу, так и не доведя ее до конца.

Исследовательская группа компании Google, теперь известная как X, недавно запустила проект по идентификации изображений кошек на YouTube. Появившаяся вслед за этим статья в The New York Times, посвященная данному проекту, была озаглавлена так: «Сколько требуется компьютеров для идентификации кошки? 16 тыс.»