Защитить ИИ от невротиков
Над созданием общего искусственного интеллекта (Artificial General intelligence, AGI) бьются самые известные ученые, программисты и математики. Не сомневаясь в том, что рано или поздно эта задача будет решена, Ольга Лукина предупреждает об опасности такого ИИ с точки зрения психологии и объясняет, почему к его разработке стоит допускать лишь ограниченный круг людей.
![Olga_lukina](/system/images/4790/page/Olga_Lukina.jpg?1716897990)
Скандал в мире технологий
В конце прошлого года произошел публичный конфликт в одной из самых передовых технологических компаний мира – OpenAI. Тогда по инициативе Ильи Суцкевера, сооснователя и на тот момент главного научного руководителя компании, был уволен гендиректор OpenAI Сэм Альтман. По информации СМИ, причиной увольнения стало «недостаточно аккуратное» отношение гендиректора к той технологии, над которой работает компания, расхождения в вопросах безопасности и скорости развития продукта. Экстраординарный случай для бизнеса, когда гендиректора увольняют именно по этим причинам, а не, к примеру, за провал бизнес-показателей. За этой отставкой последовали другие кадровые перестановки и громкие заявления.
Конфликт в OpenAI заставил многих людей осознать, что общий искусственный интеллект может развиваться «правильно» и «неправильно». И оценивают сегодня эту «правильность» и «неправильность» обычные люди, пусть и интеллектуально развитые. Все мы, и разработчики искусственного интеллекта в том числе, люди со своим определенным IQ, но также и с внутренними конфликтами и ограничениями, пережитыми эмоциональными травмами, со слепыми зонами и привычными искажениями в осознании, более того, с физиологическими и психическими особенностями.
Два полюса эмоций
Разработчики, которые сегодня увлечены идеей создания общего искусственного интеллекта, хотят добиться того, чтобы компьютер смог не просто воспроизвести, но превзойти процесс человеческого мышления. Они углубляются в анатомию и нейрофизиологию, анализируют, как устроен мозг, как происходят процессы восприятия, обработки и передачи информации.
Я никогда не рассматривала мозг как изолированный человеческий орган, сотканный из нейронов, нервных волокон и сосудистой сети. Морфологически мозг может выглядеть совершенно здоровым, а человек при этом страдает от эмоциональных или психических расстройств. Мы очень немного знаем, например, о том, какие изменения вызывают шизофрению.
На мой взгляд, нельзя недооценивать, что на мыслительную функцию мозга влияет очень много факторов: состоятельность функций других соматических органов и систем, детские эмоциональные травмы и дефициты, наша система духовных и этических ценностей. Все это приводит к тому, что в ответ на одни и те же внешние события мозг различных людей абсолютно по-разному воспринимает картину мира, обрабатывает информацию и выбирает совершенно различные стратегии действий.
Представим, что есть двое коллег, которые по какой-то причине вступили в конфликт. Один – гармоничный человек, с паттернами доброжелательных отношений в семье. В ситуации конфликта этот человек начинает использовать свой мозг, чтобы максимально экологично выйти из нее. Во-первых, он приложит усилия, чтобы преодолеть неприятные эмоции, вернуться в состояние равновесия. Во-вторых, выработает стратегию, как договориться с оппонентом, обозначить свою позицию, аккуратно и твердо провести границы и урегулировать конфликт, не разрушая ни себя, ни второго человека. Если этого не получается, он принимает решение эти отношения закрыть.
Что делает другой человек, у которого в силу жизненных обстоятельств сложился абсолютно иной сценарий поведения в социуме? Я называю его деструктивным, так как он не позволяет выстраивать гармоничные отношения с людьми из позиции «выигрыш-выигрыш». Такой человек может испугаться агрессии, впасть в оцепенение, позволить другому доминировать над собой. Это поведение маленького ребенка, который сделает все что угодно, лишь бы быть «хорошим».
Другой вариант – человек с деструктивным сценарием может стремиться полностью подавить своего оппонента. Для него не существует варианта договориться по-хорошему. Если настоять на своем не получится, он может начать закулисные игры, чтобы добиться увольнения того, с кем у него произошел конфликт. Этот человек будет удовлетворен только в том случае, когда ему удастся полностью уничтожить своего врага, лишить его власти, ресурсов, статуса.
Что интересно, мозг такого человека может быть просто идеальным с анатомической точки зрения. Он может генетически иметь хорошие предпосылки для быстрых, глубоких интеллектуальных операций, обладать хорошим контейнером памяти. Но этот потенциал не будет использован для того, чтобы решить ситуацию максимально мирно. Наоборот, умный мозг направит усилия либо на быстрое бегство, либо на максимальное доминирование.
Причем здесь ИИ?
Я считаю, что AGI станет таким же умным, как человек, только в одном случае: если его создатели не просто учтут существование эмоций, но и признают, что эмоции и чувства (осознаваемые либо нет) определяют, «хочу» или «не хочу», и мотивируют к принятию решений.
Отсюда следует вопрос: а кто создает и обучает ИИ? Если люди, которые разрабатывают искусственный интеллект, будут очень интеллектуальными, но при этом невротически организованными, нарциссичными, деструктивными, то они придадут общему искусственному интеллекту такие же невротические черты. Так происходит сейчас повсеместно в семьях, когда невротические родители передают свои деструктивные сценарии и картину мира детям. А повзрослевший человек уносит их дальше в жизнь и передает уже своим потомкам.
Поэтому я полностью поддерживаю Илью Суцкевера в его стремлении максимально аккуратно обращаться с новой технологией. Считаю, что лидерам разработок необходимо искать способы отбора людей, занимающихся обучением AGI на глубоком уровне. К таким работам нужно допускать только людей, подтвердивших, что они могут жить в парадигме «выигрыш-выигрыш». Иначе после создания AGI жизнь социума может оказаться еще более невротичной, чем это есть сейчас.
Ольга Лукина, врач-психиатр, психотерапевт, к. м. н., бизнес-психотерапевт
Источник: WEALTH Navigator
Передать нельзя продолжить
![1](/system/images/4885/medium/1.jpg?1719929301)
Алексей Станкевич уже больше 20 лет консультирует богатейших россиян по вопросам юридическо-финансового структурирования и защиты активов, но, комментируя исследование ВШЭ, он в первую очередь обращает внимание на личностные аспекты взаимодействия ультрахайнетов со своими наследниками. Именно это, на его взгляд, определяет судьбу преемников и бизнесов, новые роли, которые берут или отказываются брать на себя основатели компаний, а также трансфер их полномочий.
У пещеры Аладдина
![1](/system/images/4884/medium/1.jpg?1719928053)
Ознакомившись по просьбе WEALTH Navigator c исследованием коллег по Высшей школе экономики о сверхбогатых россиянах, Гарретт Джонстон вписывает его суждения в мировой контекст и приходит к довольно неожиданному выводу. Несмотря на санкции и ограничения, новое поколение очень богатых не будет намертво привязано к России, но окажется более открытым всему миру.
Онтология сверхбогатства
![1](/system/images/4883/medium/1.jpg?1719927207)
Зрелый мужчина из хорошей семьи с качественным высшим образованием, полученным в Москве или Петербурге. Сделал состояние в ТЭК, финансах и промышленности. Таков типичный портрет сверхбогатого россиянина, составленный социологами из Высшей школы экономики на основе анализа биографических данных о самых состоятельных бизнесменах, которые фигурировали в российском списке Forbes с 2004 по 2021 год. Группа сверхбогатых стареет и практически не обновляется, приоткрывая свои двери для новичков с большим скрипом. С любезного разрешения авторов, Светланы Мареевой и Екатерины Слободенюк из Центра стратификационных исследований Института социальной политики ВШЭ, WEALTH Navigator перепечатывает фрагмент исследования, которое проливает свет на малоизученный в целом мир российских ультрахайнетов и феномен отечественного сверхбогатства как таковой.
Защита мнимая и реальная
![1](/system/images/4881/medium/1.jpg?1719920318)
В мае команда Lurye, Chumakov & Partners завершила исследование по вопросам корпоративной ответственности инвесторов, покупателей бизнеса и их представителей в совете директоров за убытки, причиненные их действиями обществу. Оглядываясь на проделанную работу, Андрей Чумаков предупреждает об опасности иллюзий и дает полезные советы о том, что действительно нужно сделать.
Защита мнимая и реальная
![1](/system/images/4881/medium/1.jpg?1719920318)
В мае команда Lurye, Chumakov & Partners завершила исследование по вопросам корпоративной ответственности инвесторов, покупателей бизнеса и их представителей в совете директоров за убытки, причиненные их действиями обществу. Оглядываясь на проделанную работу, Андрей Чумаков предупреждает об опасности иллюзий и дает полезные советы о том, что действительно нужно сделать.
Попасть в ссылку
![Ivan_safonov](/system/images/4791/medium/Ivan_Safonov.jpg?1716898349)
Вы успешный бизнесмен с международными контрактами. Вдруг счета в зарубежных банках блокируют, а партнеры отказываются от сделок. Вероятно, вы попали в черный список World-Check или под санкции из-за ссылок в Google или «Яндексе», делает вывод Иван Сафонов.
Свободу перемещения вписали в Индекс
![Jacopo_background_hires](/system/images/4737/medium/jacopo_background_hires.jpg?1712055314)
Специализирующаяся на инвестиционной миграции компания Henley & Partners представила свежую версию своего Индекса паспортов, основанного на данных Международной ассоциации воздушного транспорта (IATA). Парадоксы российского паспорта, причины взлета в рейтинге ОАЭ и прочие ключевые моменты доклада по просьбе WEALTH Navigator прокомментировал Якопо Замбони.
Оставить комментарий