Как рашистские власти незаметно делают тотальную слежку нормой

Нормализация — это процесс, при котором меняется мышление человека: то, что еще недавно воспринималось как совершенно неприемлемое, начинает казаться обоснованным и закономерным. Феномен часто появляется в политическом поле: например, россйиское правительство использует этот инструмент для внедрения антидемократических практик.

Исследовательский центр «Коллективное действие» изучает, как нормализацию применяли при распространении системы распознавания лиц в Москве. Мы поговорили с социологом Виктором Вахштайном о том, как нормализация меняет отношение горожан к технологиям и способствует укреплению полицейского государства. А также разобрались, можно ли противостоять этому процессу.

Как рутина становится нормой: три уровня восприятия

Нормализацию нельзя назвать устоявшимся социологическим термином, но его часто используют в разных школах. Одно направление исследований рассматривает нормализацию в конкретных технологических проявлениях и специализируется на case studies. Другое смотрит на нормализацию как на явление на пересечении социологии повседневности и изучения коллективных представлений.

С точки зрения социологии повседневности, нормализации всегда предшествует рутинизация — и важно отличать одно от другого. Рутинизация — это процесс, при котором те или иные феномены становятся частью повседневности для большого количества людей. При этом совсем не обязательно, чтобы общество воспринимало их как норму — эти вещи лишь являются частью быта.

Еще одну парадигму выдвигают исследования коллективных представлений. Их предмет изучения — что в обществе воспринимается как допустимое или недопустимое. Ученые этой школы исследуют, какие практики или технологии считаются источником опасности или, наоборот, прогресса.

Два этих подхода объединяет теория фреймов. Она разделяет восприятие технологий и прочих явлений на три уровня, или три рамки восприятия.

Первый уровень — мировоззренческие фреймы. В него входят большие представления: идеи прогресса, контроля, справедливости, добра или блага. Это наиболее фундаментальный уровень мировоззрения людей.

Этот слой иллюстрирует исследование Джеффри Александера, проведенное в конце 20 века. Александер анализирует, как менялись коллективные представления людей о компьютере, начиная с первой публикации в журнале Time в 1945 году и вплоть до конца 1980-х. Статья называется «Сакральная и профанная информационная машина». В первые десятилетия своего существования компьютер воспринимался как невероятный проблеск трансцендентного в повседневном мире. Ведь что, если не компьютер, говорит нам о существовании Бога? Позже на него начинают смотреть как на источник опасности — поскольку машине неведомо сострадание. А в 1980-е компьютер становится персональным и профанизируется. Машина больше не сакральна и не опасна. Это рутинная, обыденная вещь.

Аналогичный процесс можно наблюдать прямо сейчас с искусственным интеллектом. В 2015 году была зарегистрирована церковь искусственного интеллекта The way of Future (Церковь Way of the Future официально закрылась в конце 2020 года — Прим. редакции). Искусственный интеллект снова приближает нас к Господу Богу. Резкий скачок его развития, как и в 1945 году с компьютером, затронул базовые коды культурного воображения — они в свою очередь связаны с коллективными представлениями множества людей о том, как устроен этот мир.

На втором уровне находятся объектные фреймы — то есть паттерны восприятия конкретных предметов. Этот слой касается уже не прогресса и судеб мира, а конкретных технологических инноваций. Например, на протяжении 10 лет исследование Евробарометра показывало невероятный технооптимизм среди населения России. Любые технологические инновации воспринимались как шаг в будущее. Во многом это связано с распространенным в стране недоверием к человеческой природе. Технооптимисты здесь обожествляют технику не потому, что любят ее, а потому, что не любят людей. При этом даже технопессимисты позитивно относились к концепции робота-судьи — потому что большинство россян не доверяет судам.

Третий уровень представляет собой прагматические фреймы. Данный слой относится к тому, как люди пользуются теми или иными предметами в ежедневной рутине. На этой ступени человек может не рефлексировать, насколько тот или иной объект вписывается в его картину мира. Приложениями в телефоне пользуются и технофобы. При этом невероятные технооптимисты, которые верят, что Chat-GPT произведет революцию в миру труда, могут заклеивать камеру на ноутбуке.

Исследования коллективных представлений сфокусированы на верхнем уровне: сакральное и профанное, добро и зло. Теория фреймов сосредоточена скорее на втором слое. Она думает, как воспринимаются и какую рамку в сознании людей получают конкретные технологические объекты.

Социология повседневности, методология техники и множество исследований в области Science and Technology Studies существуют на нижнем уровне, где говорят про рутину и практику, про конкретную, нерефлексивную, телесную модель взаимодействия с объектом.

Феномен нормализации относится к первым двум уровням. Нормализация связана с новыми моделями мышления: что-то, о чем еще недавно думали как о невозможном, начинает облекаться в суждение: «Это закономерно, что еще можно было ожидать?»

Пример нормализации: как священник убедил людей в безопасности творения дьявола

В 16 веке шотландский Эдинбург состоял из двух частей — старого и нового города. Дорога между ними проходила через овраг. Сейчас на его дне находится красивый парк, но в те времена территория представляла собой зловонное болото, где топили ведьм. Город даже получил народное название Auld Reekie — «старый вонючка». Шотландские просветители из городского совета попытались изменить ситуацию и построили мост, который связывал старый и новый город. Конечно, по нему никто не ходил — всем было очевидно, что архитекторы заключили сделку с дьяволом, а новое сооружение стало его присутственным местом.

Местные жители по-прежнему попадали из одной части города в другой по дурнопахнущим болотам, дорога через которые занимала минимум два часа. Наконец одному из священников церкви, которая стояла в новом городе, это надоело. Он собрал эдинбуржцев и заявил: «Это не мост — это крыльцо моей церкви. И тот, кто приходит утром на службу по колено в грязи вместо того, чтобы пройти прямой дорогой, выбирает путь окольный, кривой и нечистый — вместо прямого и честного. Он совершает преступление в глазах Господа». Таким образом священнослужитель совершил серьезную перенастройку. Из объекта технологической природы мост превратился в продолжение церкви.

Социология анализирует архитектуру представления людей о мире в этой исторической эпохе. В обществе Эдинбурга выделялась небольшая группа просвещенных граждан, которые заимствовали во Франции несколько религиозно-просветительских идей. Эта часть горожан считала, что человек создан по образу и подобию Господа. Главное же сходство состоит в том, что у человека есть разум. Так же, как Господь создал человека, люди создают технологический объект. Дьявол же заключен в отказе от разума и от творения. Это картина мира людей, построивших мост.

Другая, более широкая группа горожан, не разделяла этих убеждений. Их картина мира заключалась в следующем: Господь создал человека, но человек слаб и порочен. Дьявол искушает его и предлагает технологические творения, в частности, мост — нечестную хитрость, избавляющую от необходимости трудиться в поте лица и два часа идти по зловонным болотам.

Священник не встал на сторону просвещенных лордов, не пытался прийти к огромной пастве и сказать: «Господь создал человека инженером». Он решил действовать не на уровне базовых мировоззренческих констант о природе человека, а обратиться к уровню фреймов и прозивести рефрейминг.

Таким образом мост из класса технологических объектов перешел в область религиозных феноменов. Священник объяснил людям: «Господь создал человека злым и порочным, дьявол его искушает. Чтобы сопротивляться искушению, мы строим храмы. Мост же — это крыльцо церкви».

Священник сделал так, чтобы мост перестал быть технологическим объектом и начал восприниматься людьми по-другому. Это и есть нормализация.

Как нормализация приводит к катастрофам

Исследователь науки и техники Тревор Пинч изучает нормализацию как причину катастроф техногенного характера. Одна из знаменитых работ Пинча на эту тему — исследование крушения шаттла «Челленджер». Пинч разбирает, почему случился взрыв, приведший к гибели всего экипажа. Он указывает, что в сознании людей всегда есть так называемые параметры воспринимаемых нормальных отклонений. Даже если по инструкции весь аппарат пора пересобрать, человек понимает, что это допустимая неполадка, и не станет этого делать. Любое взаимодействие людей с техникой, в том числе на стадии разработки и запуска, предполагает такого рода зазоры — но аномалии имеют свойство накапливаться. Это и произошло с «Челленджером». Каждый отдел, который готовил корабль к запуску, воспринимал отклонения как часть нормы — и это привело к катастрофе.

Чем опасно развитие алгоритмов

Мы живем в эпоху больших данных. Многие крайне заинтересованы, как именно будут работать алгоритмы. Но на самом деле мир пока стоит на пороге этой революции.

Общество все еще не перешло с этапа больших данных к эпохе действующих данных, когда машина сама будет выписывать водителю штраф за превышение скорости или когда робот-адвокат автоматически подаст за подсудимого апелляцию.

Время активных данных наступит, когда власти начнут делегировать алгоритму будут решения. Это может быть реализовано следующим образом: например, вы зайдете в уборную в баре, проигнорировав объявление, что, пользуясь общественным туалетом, даете право на обработку личных данных. Сенсор соберет информацию о вашем биологическом материале, алгоритм распознает в нем наркотики. После этого в двери сработает механизм, запирающий ее до приезда полиции.

В качестве актуатора — объекта, инициирующего правовое действие — в системе распознавания лиц может выступать московская полиция, но это может быть и техническое устройство, которое запрет вас в туалете до ее появления. Актуатором может выступать и беспилотный автомобиль, и камера распознавания лиц. Поэтому важно выводить разговор об алгоритмических технологиях на уровень экспертной дискуссии, в поле публичной политики, где риски взвешиваются экспертами и политиками.

От рутинизации камер к нормализации системы распознавания лиц

Важно учитывать, что камеры и алгоритмы распознавания лиц относятся к разным уровням восприятия: алгоритмы находятся на втором слое, на ступени объектных фреймов, а камеры принадлежат третьему уровню — профанному, прагматичному фрейму. В своей повседневной жизни обыватель сталкивается только с камерами на улицах. Поэтому они могут лишь рутинизироваться.

Ответ на вопрос, может ли после рутинизации наступить нормализация, зависит от школы и от исследователей. Например, социологи повседневности полагают, что все привычное людям по определению является для них нормальным.

Многие привыкли к новым обстоятельствам жизни после 24 февраля, для них это рутина. Тем не менее, большое количество людей продолжают считать эту ситуацию ненормальной. Получается, не все, что становится рутинным и привычным — нормально.

Нормализация далеко не всегда связана с технооптимизмом и технофобией. Например, в России многие считают беспилотный автомобиль полностью приемлемым явлением. Здесь этот вид транспорта находит гораздо больше поддержки, чем в Европе, правительство которой выделяют большие инвестиции на беспилотные средства передвижения. Дело в том, что в России самый низкий процент так называемого обобщенного доверия. Только 4,5% населения считают, что люди в целом вменяемы. Россияне думают: ненормально то, как люди водят, а вот беспилотные автомобили — это нормально.

История про эдинбургский мост — это пример стратегии приобретения полезной нормы взамен губительной старой. Другая стратегия, которую могут применить власти для проведения нужных им реформ — раздробление объекта. Технологию можно схлопнуть в единый предмет, как это происходит с камерами и алгоритмом распознавания лиц. А можно разделить — и тогда люди будут воспринимать сенсор в камере, алгоритм распознавания и оплату лицом как различные сущности, не думая о них как о целостном явлении.

Можно ли сопротивляться нормализации?

Несколько мощных стратегий техносопротивления придумала полиция Гонконга. Позже эти методы стали использовать в США. Многие участники протестов в Гонконге транслировали митинги в прямом эфире. На этих видео было заметно, как силовики разгоняют протестующих. Тогда полиция города стала громко включать на митингах хиты поп-музыки, чтобы алгоритмы трансляции распознавали видео как нарушающие авторские права на музыкальные произведения и блокировали их. Так возникает контртехнология.

Отказ от нормализации может быть вызван политическими представлениями.

К примеру, некоторые люди считают, что технологии — это зло, поскольку все, что попадает в руки российскому государству, становится способом репрессировать собственное население. Допустим, сотрудники ДПС по инструкции должны лично проверить и подтвердить каждый штраф, выписанный алгоритмой. На деле же полицейские, не задумываясь, авторизуют 200 выписанных штрафов разом. В данном случае среди граждан вознимает идеологическое сопротивление нормализации.

https://k-d.center/surveillancenorm

https://t.me/roskomsvoboda/12088