Левые и правые технологического спектра
Руслан Юсуфов спорит с Марком Андриссеном, Сэмом Альтманом, Сундаром Пичаи и Брайаном Чески, предсказывает протесты новых луддитов и пытается понять, «каким будет столкновение идеального видения будущего ИИ с реальностью его реализации».
Эффективный акселерационизм – это философское движение XXI века, которое выступает за радикально протехнологическую позицию. Его сторонники считают неограниченный технологический прогресс решением общечеловеческих проблем – бедности, войн и изменения климата. В 2023 году движение перестало быть маргинальным – ряд известных венчурных капиталистов, включая Марка Андриссена и Гарри Тана, добавили в свои публичные профили в социальных сетях соответствующую приписку «e/acc». Технологическое лидерство, к сожалению, не всегда идет рука об руку с высокими моральными качествами: сторонники e/acc называют людей с более осторожными взглядами на инновации уничижительными прозвищами, например «обреченными» (от англ. doomer) или «децелами» (от англ. decel, сокращения от deceleration – замедление). Если «e/acc» стремятся к утопическому образу будущего, то «децелы» боятся реализации антиутопического сценария.
Больше чем огонь
В своем «Манифесте технооптимиста» Андриссен пишет: «У нас есть враги. Наши враги не плохие люди, а скорее плохие идеи. Наше современное общество на протяжении шести десятилетий подвергалось массовой деморализации против технологий и против жизни – под разными названиями: “экзистенциальный риск”, ESG, “цели устойчивого развития”, “социальная ответственность”, “капитализм стейкхолдеров”, “принцип предосторожности”, “доверие и безопасность”, “техноэтика”, “управление рисками”, “антирост”, “пределы роста”. Кампания по деморализации основана на идеях прошлого – идеях зомби, многие из которых произошли от коммунизма, катастрофических тогда и сейчас, – которые отказались умирать».
Нарративы про страшных и опасных коммунистов добрую половину XX века сопровождали любую западную политическую аргументацию, и в попытке оправдать необходимость внедрения искусственного интеллекта мы вновь возвращаемся к этим простым тезисам: если ты против ИИ и прогресса, то ты коммунист. Даже больше: если ты не с нами, то ты коммунист и убийца и кровь невинно убиенных – на твоих руках. Не правда ли, достаточно экстремально, особенно с учетом того, что подобная философская концепция исходит от венчурных капиталистов, напрямую заинтересованных в продвижении технологического развития?
Процитирую высказывания нескольких технологических лидеров. «У ИИ есть потенциал сделать жизнь намного-намного лучше» – Марк Андриссен. «Не хочу звучать как утопический технарь, но увеличение уровня жизни, который может привнести ИИ, экстраординарно» – Сэм Альтман, CEO OpenAI. «ИИ – самая всеобъемлющая технология, над которой работает человечество, более всеобъемлющая, чем огонь или электричество» – Сундар Пичаи, CEO Google. «У ИИ есть потенциал в помощи ученым в лечении и предотвращении всех болезней уже в этом веке» – Марк Цукерберг, CEO Meta (в РФ признана экстремистской организацией и запрещена. – Прим. ред.).
Сегодняшние технологические визионеры говорят нам, что с приходом искусственного интеллекта все будет «намного лучше», но то же самое говорили инноваторы, стоявшие у истоков социальных сетей. Вот только объединили ли нас социальные сети или разъединили и фрагментировали?
Даже если поверить на слово людям, у которых есть явный коммерческий интерес в продвижении технологий (да, Сэм Альтман?), а также людям, которые уже злоупотребляли нашим доверием, продавая данные пользователей для политических кампаний (да, Марк Цукерберг?) или обманом собирая данные пользователей в режиме «инкогнито», хотя обещали никаких данных не собирать (да, Сундар Пичаи?), и не сомневаться в потенциале искусственного интеллекта в решении глобальных проблем человечества, почему предлагаемые решения не решают эти проблемы, а порождают новые?
«Произойдет повсеместное замещение на рынке труда» – Сатья Наделла, CEO Microsoft. «Вы можете сделать ту же самую работу силами меньшего количества людей, это просто природа продуктивности» – Арвинд Кришна, CEO IBM. «Это, по сути, инструменты, замещающие человека» – Мустафа Сулейман, CEO Microsoft AI. Отдельно процитируем умозаключение о природе ИИ Брайана Чески, CEO Airbnb: «Так получается, что это продуктивность, но без лишнего налога в виде большего количества людей». Американский комик и ведущий популярной телепередачи The Daily Show остро прокомментировал этот тезис: «Налог в виде людей, ранее известных как “работники”».
Пустой стол переговоров
Почему разработки техногигантов направлены на замену человека (порождая новые социальные кризисы), если можно выбрать своим фокусом что-то уже явно насущное – например, образование, бедность или изменение климата? А что, если замена человека – это и есть цель внедрения ИИ, а вовсе не косвенный ущерб? Действительно, а почему бы не претендовать на гигантский мировой рынок – рынок заработных плат всех людей? Каким будет столкновение идеального видения будущего ИИ (или манипулятивной пропаганды визионеров) с реальностью его реализации?
Отказ людей от использования и внедрения технологий из-за связанных с ними рисков, а также по идеологическим причинам приведет к появлению сообществ, нацеленных на заморозку развития технологий или откат уровня технологического развития. Неизбежны стихийные протесты людей, которые борются с достижениями инновационных технологий – современных луддитов. Разрушение передающих и ретранслирующих станций 5G в Великобритании и Нидерландах еще в 2020 году, а также установка дорожных конусов на капоты беспилотных автомобилей в Сан-Франциско с целью их блокировки – яркие примеры современного луддизма. В начале 2024 года десятки активистов собрались возле головного офиса компании OpenAI в Сан-Франциско, призывая инженеров прекратить работу над продвинутыми ИИ-системами. Демонстрация была организована двумя группами – Pause AI и No AGI, выступающими за остановку развития искусственного интеллекта, которое может привести к появлению общего искусственного интеллекта, а также против любых связей с военными структурами. Pause AI уже зарегистрированы в качестве НКО в Нидерландах, США и Великобритании, и это далеко не первый их протест.
Контекст, жизненные позиции, принципы принятия решений, политические взгляды техноконсерваторов и акселерационистов уже настолько разные, что договориться будет непросто. А что, если к идейным разногласиям добавятся физические? Как и о чем договариваться людям и киборгам? Ведь им придется как-то взаимодействовать. Какой путь проделает тыква, произведенная фермером из общины амишей в экологически чистых условиях без применения пестицидов, чтобы оказаться на столе у трансгуманиста, которому системы анализа крови прописали есть такую тыкву на завтрак?
Движения и проекты вроде Pause AI активизировались на фоне многомиллиардных инвестиций корпораций и массовых увольнений, но появились сравнительно недавно – спустя короткое время после выхода ChatGPT. Что нас ждет дальше? Если трансгуманисты, в числе которых мы видим влиятельных венчурных капиталистов, будут все активнее призывать к отказу от ограничений на расширение возможностей человека, а технофобы будут требовать более жесткого регулирования и моратория на рискованные технологии, отказываясь от прогресса, будет ли это противостояние мирным и кто победит? Можно с уверенностью прогнозировать рост напряженности по вопросу границ и рисков технологической трансформации. Для преодоления экзистенциальных рисков и согласования противоречий потребуется совместная работа – будет ли она в принципе возможна, если два сообщества будут настолько далеки друг от друга идеологически, что не смогут сесть за стол переговоров?
Руслан Юсуфов, футуролог, основатель и управляющий партнер компании MINDSMITH
Источник: WEALTH Navigator
Нагоняет ужасы
Новые технологии не только добавляют удобства в нашу жизнь, но и таят потенциальные опасности. Автоматизация и искусственный интеллект, нейросети и биотехнологии – каждый виток прогресса сопряжен с новыми рисками. WEALTH Navigator узнал у представителей IT-индустрии, какие угрозы они считают наиболее серьезными.
Удачно слиться
Алексей Куприянов – о том, почему растет роль консультантов в структурировании сделок и какую добавленную ценность приносят своим клиентам инвестбанкиры.
Как потерять клиента
Виталий Дашин задумывается о том, к какому беспорядку может привести идеальный порядок, и вспоминает несколько историй из своей банковской карьеры в Швейцарии и Лихтенштейне.
Очень большая малая энергетика. Часть вторая
В продолжении своего большого интервью владелец ярославской инжиниринговой группы ПСМ («Промышленные силовые машины») Андрей Медведев рассказывает WEALTH Navigator о будущем децентрализованного энергоснабжения и объясняет, как наступившая эпоха рынка качественного производителя и его личный невротизм заставят компанию расти и сделают его миллиардером.
Экономика и венчур. О чем писали в блогах
Финансы стремительно токенизируются, новые цифровые активы так или иначе используют почти все финансовые организации, установили исследователи GDF. Ценность сети – будь то блокчейн или нетворкинг – в количестве участников, напоминает предприниматель Джейсон Розенталь. Сэм Альтман из OpenAI полюбил разговаривать с компьютером после запуска новой языковой модели. Венчурный капиталист Чамат Палихапития исследует, как меняется роль медиа и их влияние на потребителей. Автор «Глобального неравенства» экономист Бранко Миланович вспоминает издания, которые он любил читать в разные периоды жизни, и сокрушается, что в нью-йоркском метро уже не встретишь человека с газетой.
Экономика и венчур. О чем писали в блогах
Инвесторы и исследователи размышляли, как государствам регулировать искусственный интеллект, чтобы соблюсти социальную справедливость и избежать усиления неравенства. Экономисты прощались с отцом поведенческой экономики, нобелевским лауреатом Даниэлем Канеманом, который умер 27 марта в возрасте 90 лет. Другой нобелевский лауреат, Жан Тироль, посмотрел на риски и возможности криптовалют беспристрастным взглядом экономиста. А гуру менеджмента Ицхак Адизес написал в своем блоге о простых радостях.
Оставить комментарий