Манипуляция сознанием: от тюремных тетрадей до рекомендательных систем

 Эссе о технологии власти, которая ушла из газет в алгоритмы — и о том, что с ней делать читателю

Зачем эта статья

Если бы Сергей Кара-Мурза дописал «Манипуляцию сознанием» до наших дней, ему пришлось бы переписать половину книги. Не потому, что книга устарела, а потому, что предмет вырос: технология, которую он описывал как работу профессионалов за зарплату — редакторов, пропагандистов, психологов рекламы, — превратилась в инфраструктуру, работающую без единого центра. Разберём, как устроена эта технология, где она берёт начало, что с ней произошло в цифровую эпоху и что из этого следует для обычного человека.

Манипуляция как технология власти

Кара-Мурза начинает с определения, которое многие читатели пропускают как самоочевидное — и зря. Манипуляция сознанием для него — не заговор и не «тайное оружие спецслужб», а скрытое, законными средствами программирование поведения больших масс людей. Это профессия, за которой стоят институты, бюджеты и сотни тысяч работающих людей. lib.ruwww.litres.ru

Почему это вообще возможно? Автор даёт два условия, и оба звучат сегодня даже убедительнее, чем в 1999 году. Первое: большинство людей не хочет тратить силы на сомнение в сообщениях — пассивно принять поток информации легче, чем переработать его критически. Второе: у человека нет доведённых до автоматизма «умственных фильтров», которые ловили бы симптомы манипуляции. Отсюда и программа автора: не вычислять «истинный замысел» манипулятора (это почти невозможно), а научиться чувствовать подвох и не доверять подозрительным сообщениям — сначала индивидуально, потом коллективно. union-of-the-restless.ru

Манипуляция возможна и в демократии: власть там держится не на прямом принуждении, а на согласии, произведённом самим сознанием граждан. И вот тут в книгу входит её главный теоретик.

Доктрина первая: Грамши и гегемония

Антонио Грамши (1891–1937) — основатель Итальянской компартии, узник фашистской тюрьмы, автор «Тюремных тетрадей». Его ядро — мысль о том, что власть держится не только на силе, но и на согласии: владение собственностью само по себе господства не гарантирует. Состояние, при котором согласие достигнуто, Грамши назвал гегемонией — а саму власть определил формулой «гегемония, облечённая в броню принуждения». Принуждение — лишь внешняя оболочка куда более значимого содержания. kara-murza.rurus-lad.ru

Три понятия делают доктрину рабочей.

Культурное ядро — совокупность представлений о мире и человеке, о добре и зле; символы, традиции, опыт веков. Пока ядро стабильно, в обществе есть «устойчивая коллективная воля», направленная на сохранение порядка. Подрыв ядра — условие революции. kara-murza.ru

«Молекулярная агрессия» — установление и подрыв гегемонии идут не как открытое столкновение сил, а как невидимое, малыми порциями изменение мнений в сознании каждого. Грамши описывал это почти инженерно: «огромное количество книг, брошюр, журнальных и газетных статей, разговоров и споров, которые без конца повторяются и в своей гигантской совокупности образуют то длительное усилие, из которого рождается коллективная воля». kara-murza.ru

Обыденное сознание — мишень номер один. Воздействовать надо не на теории противника, а на повседневные «маленькие» мысли среднего человека, и главный способ — неустанное повторение, чтобы утверждения принимались не разумом, а на веру. Инструмент этого воздействия — интеллигенция: «приказчики» господствующей группы, обеспечивающие «спонтанное» согласие масс. vk.rukara-murza.ru

Стратегия, которая следует из доктрины, — военная метафора: сначала позиционная война, длительная борьба за гражданское общество и альтернативную культуру, и лишь потом манёвренная — захват институтов. ru.wikipedia.org

Доктрина вторая: психология и «усыпленный часовой»

Если Грамши смотрит на человека как на члена масс, то вторая доктрина спрашивает: как программировать поведение отдельной личности? Ответ строится в три ступени. www.kara-murza.ru

Первая — внушение. Ещё русский психофизиолог Бехтерев в книге «Внушение и его роль в общественной жизни» (1903) провёл ключевое различие. Убеждение предполагает активную работу субъекта: доводы, осмысление, решение. Внушение — «вторжение посторонней идеи без прямого и непосредственного участия в этом акте "Я" субъекта»: оно срабатывает, когда удаётся приглушить активность сознания — усыпить часового. www.kara-murza.ru

Вторая ступень — психоанализ. С 50-х годов стержнем доктрины стала идея Фрейда о том, что в подсознании таится сила тёмных инстинктов и «вытесненных» желаний — и именно на них можно ставить. Эрнст Дихтер, применивший психоанализ к американской рекламе, принципиально отвергал рациональное внушение: ценность товара — не функция, а удовлетворение подсознательных желаний, о которых покупатель не подозревает. Опыт Джеймса Вайкери с проецированием слов «Кока-кола» между кадрами фильма — ниже порога восприятия сознанием, но выше порога регистрации органами чувств — открыл целое направление «воздействия на уровне подвосприятия». А святым Граалем доктрины стало понятие психологической защиты: успех манипуляции наполовину зависит от умения её нейтрализовать. www.kara-murza.ruwww.kara-murza.ru

Третья ступень — бихевиоризм: рассмотрение поведения как функции внешних стимулов, без мышления и чувств. Оценку Фромма стоит запомнить, она из 1970-х, но звучит современно: «Психология Скиннера — это наука манипулирования поведением». www.kara-murza.ru

К этой же доктрине относится и самый важный исторический принцип: перед овладением умами нужен штурм символов. По Кара-Мурзе, манипуляция как тип власти стала возможной, когда протестантская Реформация разрушила «защитный пояс символов» христианской Европы — и с тех пор любой серьёзный проект начинается с разрушения священных образов. www.kara-murza.ru

Доктрина третья: Моль и мозаичная культура

Абраам Моль — французский физик и социолог, который в «Социодинамике культуры» (1967) применил аппарат теории информации к культуре. Его главная метафора — «экран знаний». У культуры классической, университетской, экран тканеобразный: знания упорядочены иерархией дисциплин. У культуры современной, сформированной не образованием, а СМИ, экран мозаичный: «знания складываются из разрозненных обрывков, связанных простыми, чисто случайными отношениями... Эти обрывки не образуют структуры, но они обладают силой сцепления, которая не хуже старых логических связей придаёт "экрану знаний" определённую плотность». ru.wikipedia.orgmultiurok.ru

Кара-Мурза делает из этого три вывода. Первый: социодинамика — это представление культуры как системы, которой можно управлять. Второй: СМИ становятся универсальным инструментом — они «пропускают всю культуру через свои фильтры... то, что не попало в каналы массовой коммуникации, в наше время почти не оказывает влияния на развитие общества». Третий, самый сильный: чтобы перестроить сознание целого общества, нужно разрушить дисциплинарное образование и заменить его мозаичным — а значит, овладеть школой и медиа. kara-murza.rukara-murza.ru

И самое жёсткое наблюдение всей книги — о двухкоридорной школе: в «демократических» обществах мозаичная культура с педагогикой лени строится для масс, а фундаментальная, университетская — для будущей элиты. Господство через манипуляцию предполагает, что есть часть общества, манипуляции не подверженная. Это не пережиток сословности, а сущность конструкции. studfile.net

Срыв: аутистическое сознание

Книга «Потерянный разум» (2007) — вторая половина той же истории: «Манипуляция» описывала, как это делали, «Потерянный разум» — что получилось. www.litres.ru

Термин Кара-Мурза берёт у психиатра Эйгена Блейлера, но не в клиническом смысле — как тип мышления. Реалистическое мышление создаёт правильные представления о действительности; аутистическое — приятные, вытесняя неприятные. Его свойства: тенденциозность (всё подгоняется под доминирующий образ), терпимость к логике (логика используется, лишь пока не мешает желаемому), игнорирование времени и «рискованные символы» — подмена понятий другими, имеющими лишь второстепенные общие черты. kara-murza.ru

Ключевой механизм: в норме два типа мышления взаимодействуют, но если удаётся подавить реалистическое — аутистическое получает абсолютный перевес. Манипулятор при этом не изобретает ложь: он создаёт условия, при которых человек сам достраивает приятную картину и отбрасывает неприятные данные. Второй контрольный механизм — диалогичность: мышление коллективно, и в споре нестыковки выявляются и «производится починка логики». Когда оппонентам перестают отвечать (только ненавидеть), механизм выключается. kara-murza.ruvk.ru

Историческое приложение обеих книг — перестройка: в изложении Кара-Мурзы это случай беспрецедентной по масштабу программы манипуляции, спроектированной «по Грамши» — многолетняя молекулярная агрессия в культурное ядро, затем «быстрые операции» по шокированию сознания. Стоит сразу зафиксировать границу честности: это авторская оптика, а не консенсус историков; приёмы, которые он описывает, реальны, а вот выборка примеров (Пияшева, Яковлев, Кончаловский, Сахаров) целевая — это суд, а не равноправный анализ. union-of-the-restless.ru

Ловушка «защиты»: опыт КОБ

Отдельная глава нашей темы — что случается, когда «противоядие» начинают производить по тем же правилам, что и яд. Концепция общественной безопасности (ВП СССР) — постсоветская учительская система, выросшая из тех же мотивов: управление обществом через сознание, шесть «приоритетов обобщённых средств управления», идея «концептуальной власти». dotu.ru

Но там, где у Кара-Мурзы — приёмы и документы, у КОБ — тотальная космология: «Глобальный Предиктор», мировая «закулиса», «Достаточно общая теория управления» (ДОТУ), которая претендует на описание любого процесса — от прокормки скота до государства. Разборы этой «теории» сходятся в одном: в тексте нет ни одной формулы, ни одного проверяемого утверждения, а техническая терминология (предиктор-корректор, вектор целей, устойчивость) взята из реальной теории управления и перекроена под теологический вывод — «иерархически Наивысшее всеобъемлющее управление». proza.rukobtv.narod.ru

История показательная: в 2013 году суд признал «Мёртвую воду» — главный экономический труд КОБ — экстремистским материалом. ria.ru Урок для читателя простой и невесёлый: методология, призванная защитить от манипуляции, может сама быть построена по правилам манипуляции — вплоть до институциональной легенды (реальный академик В. И. Зубов дал «теории» имя и факультет, но не содержание — к моменту «доработки» текста его уже не было в живых). apmath.spbu.ru Критерий один: если «теория» объясняет всё и опровергнуть её нельзя — это не инструмент защиты, а новая программа мышления.

Инверсия: что обещали футурологи и что вышло

Дальше — наш, цифровой сюжет. Футурологи 1970–80-х обещали эмансипацию через информацию. Тоффлер — демассификацию: уход от СМИ, «штамповавших в головы миллионам идентичные сообщения», к индивидуализированной культуре. Белл — власть знающих: теоретическое знание как источник стратификации. Масуда — «свободное сообщество» и сотрудничество. Маклюэн — глобальную деревню и единство человечества. [web_10_0_0_1][web_10_0_0_11][web_10_0_0_9]

Техника сбылась почти идеально: смартфон, удалённая работа, пожизненное обучение, экономика символов. А социальная часть инвертировалась зеркально. Микросегментация до персональной ленты породила не разнообразие, а изолированные племена; вместо «свободного сообщества» — эхокамеры; власть знающих досталась тем, кто программирует сети, а не тем, кто знает; «глобальная деревня» обернулась перманентной ссорой под одной крышей — как и предупреждал сам Маклюэн, перечисливший в поздние годы следствия своей же концепции: манипуляцию сознанием, подмену реальных политиков их образом, исчезновение приватности. [web_10_0_0_5][web_10_0_0_10][web_10_0_0_6]

Инверсия, которая произошла, одна, но фундаментальная: информация перестала быть дефицитом — дефицитом стало внимание. После появления сигнала о предпочтениях (лайк) бизнес-модель сменилась с «информировать» на «удерживать»: цель алгоритма — не истина и не разнообразие, а максимальное время у экрана, а выгоднее всего не объединять людей, а изолировать их в ячейки — так точнее продаётся реклама. [web_10_0_0_5] Мозаичный «экран знаний» Моля из диагноза стал инженерной спецификацией: обрывки, случайные связи, сцепление не через логику, а через похожесть и повтор.

Манипуляция без манипулятора — и манипулятор, который всё-таки есть

Здесь нужна точность, потому что на этом месте обычно ломаются две крайности: конспирология («всё заказано») и наивность («это просто рынок»). Правда layered.

Системный слой замысла не имеет. Алгоритм ленты не хочет убедить вас в чём-то конкретном — он хочет, чтобы вы не ушли с экрана. Поляризация и аутизация сознания — побочный продукт оптимизации метрики. Манипулятор не транслирует сообщение — он перестраивает среду выбора, и это эффективнее любой директивы. Более того, часть работы манипулятора переехала внутрь человека: пользователь сам кликает на приятное, сам выстраивает эхокамеру, сам отбрасывает диссонанс — алгоритм лишь ускоряет и монетизирует этот процесс. Манипуляция перестала быть насильственной — она стала услугой. [web_10_0_0_10]

Но заказчики есть — и их много. Оксфордский институт интернет-исследований фиксирует организованные операции влияния уже в 81 стране, частные фирмы «менеджмента общественного мнения» работают в десятках стран; только на двух платформах с 2019 года удалено более 300 тысяч аккаунтов, связанных с такими кампаниями. [web_11_0_0_11] Cambridge Analytica — классический кейс политического микротаргетинга, при этом честности ради: скандал там — не сверхэффективность психографики (она сильно раздута и самими участниками), а незаконный сбор данных о 87 млн пользователей вместе с их друзьями, не дававшими согласия. [web_11_0_0_5] И самый недооценённый слой — владельцы платформ: тот, кто задаёт веса в алгоритме ранжирования и правила модерации, принимает решения о распределении внимания миллионов на постоянной основе — с собственными коммерческими и политическими интересами. [web_11_0_0_2]

Правильная формула поэтому такая: замысел есть у многих, он распределён по слоям и не согласован между собой. Единого «Глобального Предиктора» не требуется — достаточно того, что десятки игроков с разными целями эксплуатируют одну и ту же уязвимость внимания. Это, кстати, точнее соответствует и самому Кара-Мурзе: и в перестройке у него не монолитный заказчик, а совокупность интересов, совпавших в одном окне возможностей.

Куда всё движется

Три траектории уже видны.

Регулирование. Государства возвращают «замысел» под контроль: Европейский закон о цифровых услугах обязывает очень крупные платформы раскрывать работу рекомендательных систем, оценивать риски и допускать регулятора к алгоритмам; в России с 2023 года действует закон о рекомендательных технологиях; Китай идёт жёстче — операторы сдают алгоритмы на проверку, а пользователь имеет право отказаться от рекомендаций. Вопрос не «регулировать или нет», а кто регулирует: модель в интересах пользователя (ЕС) или в интересах государства (Китай) — это конкурирующие архитектуры информационного порядка. [web_11_0_0_4][web_11_0_0_2]

Кризис эпистемического доверия. Самая глубокая развилка. Генеративный ИИ ломает базовое предположение любой борьбы с манипуляцией — «видео не лжёт». Когда синтетический контент неотличим от настоящего, возникают два эффекта сразу: фейкам верят (даже предупреждённые аудитории распознают дипфейки лишь в четверти случаев), а настоящему — перестают: правду уже можно объявить подделкой. Правоведы назвали это «дивидендом лжеца». Это манипуляция, разрушающая саму возможность различения: «реалистическое мышление» остаётся без опоры — нечем сверять представления с реальностью. [web_11_0_0_16][web_11_0_0_15]

Экономическая петля. Текущий цикл показывает признаки усталости: инвестиционные ожидания корректируются, часть обещаний («ИИ освободит от рутины») прошла по рецепту Блейлера — приятная картинка, на которую собрали триллионы, встречает проверку реальностью. [web_11_0_0_18]

Художественный тест: «Сфера»

Роман Дэйва Эггерса — художественная версия всего сказанного. The Circle строит «прозрачный» мир, и его принимает добровольно и с восторгом — никто никого не заставляет; лозунги («Тайны — это ложь», «Делиться — значит заботиться») поданы интонацией доброжелательного наставника, а не приказа; героиня сама достраивает себе приятную картину и отбрасывает диссонанс — хрестоматийное аутистическое мышление. Слабость романа — та же, что у классических антиутопий: манипулятору дано лицо и воля (башня, культ основателя, программа). Реальность страшнее: у платформ нет ни объединённой воли, ни плана — есть рынок внимания, эксплуатирующий одну уязвимость. И выбора «вступить в Сферу» большинству никто никогда не предлагал: оно просто оказалось в ленте с подросткового возраста. www.labirint.ru

Аналитическую версию того же — без злодея в башне — дала Шошана Зубофф в «Эпохе надзорного капитализма»: рынок извлекает прибыль из предсказуемого человеческого поведения. Это и есть экономическая механика манипуляции без манипулятора.

Выводы

1. Технология манипуляции — реальность, а не метафора. Она имеет теорию (Грамши: гегемония и культурное ядро), психологию (внушение и нейтрализация защиты) и инженерию (Моль: управление культурными потоками). Это главное знание книги Кара-Мурзы — и оно устарело меньше всего.

2. Перестройка в его описании — сильная, но спорная иллюстрация. Приёмы реальны и узнаваемы; исторический вывод о механизме распада СССР — авторская оптика. Читать её стоит как карту приёмов, а не как учебник истории.

3. Цифровая эпоха выполнила прогнозы пессимистической половины самих же футурологов. Демассификация обернулась племенами, глобальная деревня — ссорой, а «экран знаний» Моля — алгоритмической лентой. Произошла одна инверсия: дефицитом стало внимание, а не информация.

4. «Манипуляция без манипулятора» — не отрицание заказчика, а другой его вид. Замысел распределён по слоям: платформы, политические кампании, государственные операции влияния — и все они сидят внутри системной среды, а не порождают её. Сражаться с «закулисой» — легко; увидеть распределённую среду — труднее и полезнее.

5. Главный сдвиг: манипуляция переехала внутрь человека. Приятная картина больше не навязывается — она выбирается добровольно, потому что так комфортнее. «Аутистическое мышление» из диагноза стало сервисом.

6. Что делать — три опоры. Институциональная: прозрачность алгоритмов и право не быть профилированным — уже оформляется. Техническая: водяные знаки и детекция синтетического контента — работает хуже, чем хочется, потому что генерация всегда обгоняет детекцию. Когнитивная — и она главная: способность удерживать рефлексию в среде, где ни один канал больше не даёт гарантий. Заметьте: это почти дословно программа самого Кара-Мурзы — только вместо «вернуть Просвещение» сегодня сказали бы «выстроить эпистемическую агентность». Он в этом попал раньше срока. [web_11_0_0_16]

7. И последний вывод — про иронию. Самая надёжная защита от алгоритмической манипуляции — та же, что предлагал автор «Манипуляции сознания» двадцать пять лет назад: тренированный фильтр, чувствительность к подвоху, отказ принимать сообщение на веру. Технологии поменялись полностью — «кухня» не изменилась совсем.

---

Финальная ремарка для читателя этой статьи: любая книга о манипуляции — включая разбираемую здесь — сама может стать удобным набором готовых стереотипов («всё проплачено», «мы — объект программирования»). Это тот же сон Блейлера, только в неудобной одежде. Тест простой: как только объяснение становится тотальным и неопровержимым — оно перестаёт быть анализом. Фильтр, о котором писал Кара-Мурза, работает в обе стороны — в том числе против его собственных книг. Думается, он бы оценил иронию.