Красиков Владимир Иванович
Всероссийский государственный
университет юстиции
д.ф.н., проф.;
Krasikov Vladimir Ivanovich
All-Russian State
University of Justice
Ph.D., Prof.
E-mail: KrasVladIv@gmail.com
УДК: 316.752.4
ЦИФРОВЫЕ ТЕХНОЛОГИИ И РАДИКАЛИЗАЦИЯ В СОЦИАЛЬНЫХ СЕТЯХ[1]
Аннотация: В предлагаемой статье мы стремимся показать, что радикализация, которая разворачивается через взаимодействие некоторых онлайн-групп в социальных сетях, определяется характерными алгоритмами построения этих цифровых платформ.
Реализуя это, в первом разделе статьи мы рассматриваем механизмы действия алгоритмов фильтрации информации в социальных сетях и те следствия, к которым они приводят.
Во втором разделе мы обсуждаем последние технологические достижения, связанные с использованием шифрующих служб обмена сообщениями, такими как в Telegram, и их последствия для усиления группового изолированного общения.
Мы считаем, что все это приводит к существенным изменениям в механизмах радикализации. Новые онлайн-механизмы радикализации действуют более быстро, с малыми издержками и для них нет расстояний. Поэтому «онлайн-радикализация» создает более широкую пользовательскую базу, более эффективна, чем офлайн-радикализация.
Ключевые слова: социальные сети, алгоритмы ранжирования, цифровые эхо-камеры, механизмы радикализации, Telegram
DIGITAL TECHNOLOGIES AND SOCIAL MEDIA RADICALIZATION[2]
Abstract: In this article, we aim to show that the radicalization that unfolds through the interaction of some online groups in social networks is determined by the characteristic algorithms for building these digital platforms.
Realizing this, in the first section of the article we consider the mechanisms of action of information filtering algorithms in social networks and the consequences they lead to.
In the second section, we discuss recent technological advances related to the use of encrypted messaging services such as Telegram and their implications for amplifying group isolated communication.
We believe that all this leads to significant changes in the mechanisms of radicalization. The new online mechanisms for radicalization are faster, less costly, and there are no distances. Therefore, «online radicalization» creates a wider user base, is more effective than offline radicalization.
Key words: social networks, ranking algorithms, digital echo chambers, radicalization mechanisms, Telegram
Введение
Широко распространенное беспокойство по поводу амбивалентного влияния социальных сетей на нашу жизнь привело к стремительному росту соответствующих научных работ, причем в самых разных дисциплинах (политологии, психологии, праве, теории социальных коммуникаций, культурологии и пр.) – и у нас, и за рубежом.
Конечно, исследования влияния технологий в целом, и Интернета в частности, на социальную жизнь не новы. Ранний утопизм Интернета предложил теорию «технологий освобождения» — беспрепятственного транснационального общения, уничтожавшего тайны и контроль, которое разрушило бы основы политического угнетения и манипулирования, способствовало бы приходу в общества более полной свободы.
События 2016 г. (избрание Д. Трампа, референдум о Brexit), а также и последних трех лет, изменили это благостное мнение на противоположное. В поисках объяснения этих шоковых для мировой радикально-либеральной элиты результатов, многие обратились к анализу особенностей новых технологий политической коммуникации. Вину возлагали (и продолжают возлагать) на боты, иностранное вмешательство в выборы, онлайн-дезинформацию, таргетированную рекламу, эхо-камеры и связанные с ними явления.
Поскольку общепринятое представление о влиянии Интернета на политическую жизнь резко изменилось, то же самое произошло и с большей частью исследований. Появились два лагеря. Одни увязывают с новыми технологиями рост числа эхо-камер в социальных сетях, фейковых новостей, разжигания ненависти, интернет-пропаганды, интенсивной онлайн-борьбы в telegram-каналах, угрозы журналистике и иностранного вмешательства в выборы [1-4]. Другие оспаривают значимость подобного технологического сдвига (в отличие от других социологических факторов), считая, что масштабы и распространенность предполагаемых проблем преувеличены [5-6].
Все это обострило дебаты о роли, которую цифровые технологии и социальные сети могут играть в усугублении поляризации и в подстрекательстве к радикальному поведению. В предлагаемой статье мы намерены проследить как радикализация, которая разворачивается через взаимодействие определенных онлайн-групп в социальных сетях, определяется, в известной мере, характерным программным обеспечением и кодами, составляющими их киберсреду.
Реализуя это, в первом разделе статьи мы рассмотрим механизмы действия алгоритмов фильтрации информации в социальных сетях и те следствия, к которым они приводят.
Во втором разделе мы обсудим последние технологические достижения, связанные с использованием шифрующих служб обмена сообщениями, такими как в Telegram, и их последствия для усиления группового изолированного общения.
Методология, уместная для реализации сформулированных выше намерений, это дискурс-анализ исследовательской междисциплинарной литературы по заявленной тематике, в основном зарубежной, с последующими выводами для характеристики специфики современной онлайн-радикализации.
Цифровые технологии и радикализующие эхо-камеры
Популярный аргумент, который обычно выдвигают в качестве объяснения связи цифровых технологий с мировоззренческой поляризацией, связан с их способностью создавать своего рода «эхо-камеры», где экстремистские идеи усиливаются. Сторонники этой точки зрения утверждают, что основная характеристика сайтов социальных сетей заключается в том, что они позволяют единомышленникам найти друг друга. В этой среде пользователи получают только информацию, которая укрепляет их политические взгляды, и остаются изолированными от других лиц с противоположными взглядами. Это происходит, отчасти, из-за фильтрующих эффектов алгоритмов ранжирования, которые генерируют «пузыри фильтров», создают для пользователей стимулы делиться соответствующим контентом. Результатом всего этого является общество, которое все больше сегрегируется по партийному признаку, где компромисс становится маловероятным из-за растущего недоверия государству, средствам массовой информации и людям другого идеологического спектра [7].
Многим кажется, что современные системы, основанные на алгоритмах – это автономные, эффективные платформы, которые мгновенно предоставляют нам информацию, которая удовлетворяет наши поисковые запросы, интересы и желания. Кроме того, они создают иллюзию нейтральности этих платформ: информация, которую мы видим на наших новостных лентах Facebook,[3] Google, Telegram и др., выглядит столь же объективной, сколь и непредвзятой. Новое волшебное будущее, да и только. Но, как все знают, бесплатный сыр бывает известно где.
У алгоритмов есть несколько неприятных для нас сторон. Первая заключается в том, что они, в конечном итоге, служат все же не нашим интересам, а интересам платформ. Вторая проблема с алгоритмами заключается в том, что они являются частной собственностью и не подлежат общественному контролю. Большинство алгоритмов работают как «черные ящики», в которых ни отдельные пользователи, ни общество в целом не знают, почему результаты поиска или каналы социальных сетей обрабатываются именно таким образом.
Алгоритмы социальных сетей[4] не только не являются нейтральными и объективными, но и имеют ряд предустановок, искажающих процесс выбора контента, определяя, что нам можно знать, в каких масштабах и в каких контекстах. Другими словами, это системы фильтрации информации, в которых заданы определенные векторы формирования структуры контента и форматы смысла [2]. Например, когда алгоритмы формируют медиа-экологию на компьютере пользователя, они включают в нее огромное количество сигналов, охватывающих предыдущую онлайн-историю этого пользователя и тех людей, с которыми он когда-либо связывался, его социальные жесты, а именно все эти лайки, дизлайки и комментарии. Также важно накопление отслеживаемой информации, относящейся к привычкам пользователей в офлайн-режиме: местоположение, покупки и телефонные звонки [3].
Соответственно, алгоритмы – это адаптирующиеся системы, развивающиеся вместе со своими пользователями. Их механизмы фильтрации информации нацелены на такое структурирование и подналадку-обновление пользовательского профиля, чтобы максимально увеличить время пребывания пользователя на платформе. В самом деле, одна из априорных целей социальных сетей – это вовлечение в новую иммерсивную среду, адаптированную для удовлетворения прошлых, настоящих и ожидаемых запросов пользователей. Подобная исходная настройка алгоритмических механизмов создает особый персонализированный онлайн-опыт пользователей. Алгоритмы отбирают содержимое при сканировании наших повседневных социальных сфер, чтобы представить нам огромную мешанину «точек входа», для реализации наших каждодневных нужд, тем самым привязывая нас многими нитями потребностей, чтобы мы постоянно оставались на связи с платформами [8]. Это поддерживается повсеместным присутствием портативных устройств: ноутбуков, айпадов и мобильных телефонов с такими приложениями, как Facebook и Whatsapp, позволяющими алгоритмам непрерывно структурировать актуальные данные о людях, благодаря чему, они пребывают постоянно погруженным в эту виртуальную инфраструктуру.
Платформы социальных сетей зависят от подобных алгоритмических систем, и, как утверждается, они действуют как поляризующие инструменты, которые способствуют знакомству с определенным мировоззренческим содержанием и легкому контакту с группами единомышленников [9]. Другими словами, эксперты утверждают, что социальные сети создают для пользователей однородные цифровые эхо-камеры, где утверждается безоглядное согласие в онлайн-группе – за счет альтернативных представлений [7].
Эти платформы способствуют адресованиям по мировоззренческим созвучиям, что приводит к созданию изолированных онлайн-сообществ [10]. Если в таких «изолятах», накапливаются, рано или поздно, радикализирующиеся люди, то алгоритмы социальных сетей могут рассматриваться как один из факторов, способствующих экстремизации общества. Другими словами, когда дело доходит до радикализации, аппарат избирательного воздействия регулирует ориентированные на экстремизм онлайн-эхо-камеры, в которые помещаются «группы риска». Подобные эхо-камеры – безопасное место, в котором процветают насильственные идеи, окруженные еще вдобавок большим количеством радикальных повествований. И хотя инстанции, модерирующие социальные сети, ведут работу по купированию экстремистских эхо-камер путем частого удаления учетных записей и контента, тем не менее, мультиплатформенный характер Интернета гарантирует их выживание и продолжение существования. Тем более, они не хотят «вместе с водой выплеснуть и ребенка», ибо в отношении контента в рамках социальных норм указанные алгоритмы дают блестящие результаты, ввязывая большинство пользователей в глобальные сети потребительства. Радикализм и экстремизм здесь – всего лишь «издержки» бизнеса.
Вперед и семимильными шагами
Последние технологические достижения усугубили эти тенденции и открыли новые возможности для группового изолированного общения. Использование зашифрованных служб обмена сообщениями, таких как WhatsApp и Telegram, позволяет людям легко обмениваться частными текстами и другими мультимедийными продуктами в безопасных условиях. Эти платформы могут поддерживать одноранговое и закрытое групповое общение без утечки какого-либо контента нежелательным пользователям или третьим лицам. Сервисы зашифрованных сообщений позволяют особо радикальным группам (экстремистам, боевикам, руководителям) существовать внутри более широких оппозиционных онлайн-движений – в своем особо защищенном измерении цифрового мира.
В то время как деятельность радикальных групп в основных (публичных, с открытым доступом) социальных сетях может рассматриваться как сбор и мобилизация «радикальных масс», как среду, которая помогает новичкам приобщаться к нонконформистским идеям, сервисы зашифрованных сообщений представляют собой замкнутые ниши, где сторонники жесткой линии могут координировать радикальные операции в полном отрыве от членов внешней группы [11].
Шифрование контрастирует с более популярными платформами: оно предоставляет чат-приложениям «подпольный характер» и делает их особенно устойчивыми к попыткам проникновения. Особенно в это преуспел, как полагают соответствующие исследования [11, 12], Telegram, бесплатное мультиплатформенное приложение, которое гарантирует безопасный обмен текстовыми сообщениями. Он был запущен в августе 2013 года Николаем и Павлом Дуровыми, создателями ВКонтакте, часто известным как русский Facebook. Telegram полагается на каналы и чаты. Каналы – это однонаправленные структуры, в которых контент размещается централизованными операторами, и пользователи не могут активно комментировать их. И наоборот, чаты более динамичны и ориентированы на действия. Они позволяют (группам) пользователей распространять видео, радиопередачи, мемы и другие продукты.
Это означает появление замкнутых групп единомышленников, для входа в чаты которых требуются специальные приглашения. Последние представляют собой ссылки, выдаваемые непосредственно администраторами радикальных групп. Более того, большинство ссылок ограничены по времени, они становятся неактивными по истечении определенного периода времени. Данный механизм фильтрации позволяет модераторам радикальных групп в Telegram надежно контролировать «население» своих чатов и формировать в нем еще и закрытые конклавы.
Еще одна особенность, которая увеличивает степень однородности (благонадежности) этих сред, касается способности обнаруживать разного рода нарушителей – будь то ученые, журналисты или агенты спецслужб. Регистрация в чатах списков активных членов и времени последнего размещенного контента позволяет модераторам запрещать так называемых скрытых участников (неактивных участников). Это поддерживает «чистоту рядов», ибо верные и благонадежные участники должны постоянно демонстрировать свою лояльность группе посредством регулярного активного участия во внутреннем взаимодействии, дискуссиях и акциях. Они должны помнить о «дамокловом мече» остракизма и исключения, что, конечно же, поддерживает высокий тонус радикальности и преданности групповым идеалам.
Хорошо поддерживает приватность (секретность) и так называемая «опция самоуничтожения», согласно которой все сообщения могут быть автоматически удалены как только они достигнут своей целевой аудитории и прочитаны. Враги держатся на расстоянии и, если их выследить, быстро вытесняются. Плюс решающим является облачный характер Telegram, а универсальные многоплатформенные точки входа создают возможность для радикально настроенных людей объединяться, координировать свои усилия несмотря на любые физические и цифровые границы.
Заключение
Итак, мы показали, что радикализация, которая разворачивается через взаимодействие некоторых онлайн-групп в социальных сетях, действительно определяется, не в последнюю очередь, характерными алгоритмами построения этих цифровых платформ.
Это алгоритмы ранжирования, определенные схемы формирования структуры контента, его смыслов, нацеленные на такую подналадку-обновление пользовательского профиля, чтобы максимально увеличить время пребывания пользователей на платформе социальной сети что приводит к «априорным» переадресованиям направлений общения пользователя и выдаваемого ему информационного контента – в сторону, наиболее гомогенную его интересам. Вроде бы хорошо: все для блага человека?
Однако в цифровой реальности это ведет к ее сегментации по отсекам («по интересам») и создают для пользователей однородные цифровые эхо-камеры, где утверждается безоглядное согласие в онлайн-группе – за счет альтернативных представлений. И если в таких «изолятах» накапливаются, рано или поздно, радикализирующиеся люди, то алгоритмы социальных сетей могут рассматриваться как один из факторов, способствующих экстремизации общества. И это еще более усугубляется в последнее время распространения новых возможностей для группового изолированного общения в виде использования шифрующих служб обмена сообщениями, в таких платформах, как WhatsApp и Telegram.
И все это приводит к существенным изменениям в существовавших и ранее механизмах радикализации. Новые механизмы радикализации, уже в режиме онлайн, действуют более быстро, с несравнимо малыми издержками и для них нет расстояний, неофиты могут жить на разных континентах и общаться между собой хоть каждую минуту. Очень важно, что в сравнении с радикалами, так сказать в «социальном подполье», офлайн, человек на онлайн-форумах и социальных сетях может чувствовать себя в относительной безопасности, благодаря своей анонимности. Эхо-камеры имеют также растормаживающий эффект, люди ведут себя менее сдержано и выражают себя уже с меньшей оглядкой на социальные нормы и приличия. Поэтому онлайн-радикализация ведет к созданию более широкой пользовательской базы, более эффективна, чем реально-физическая, офлайн-радикализация.
Литература
- 1. Bozdag E. Bias in algorithmic filtering and personalization //Ethics and information technology. 2013. Т. 15. С. 209-227.
- Finn E. What algorithms want: Imagination in the age of computing. Mit Press, 2018.
- Cohen J. N. Exploring echo-systems: how algorithms shape immersive media environments //Journal of Media Literacy Education. 2018. Т. 10. №. 2. С. 139-151.
- Cardenal A.S. et al. Digital Technologies and Selective Exposure: How Choice and Filter Bubbles Shape News Media Exposure. The International Journal of Press/Politics. 2019 Т. 24, C. 465–486. Available at: https://doi.org/10.1177/1940161219862988
- Barberá P. Social Media, Echo Chambers, and Political Polarization. In N. Persily & J. Tucker (Eds.), Social Media and Democracy: The State of the Field, Prospects for Reform (SSRC Anxieties of Democracy, pp. 34-55). Cambridge: Cambridge University Press. 2020. https://doi.org/10.1017/9781108890960
- Valentini D., Lorusso A.M., Stephan A. Onlife Extremism: Dynamic Integration of Digital and Physical Spaces in Radicalization. Front. Psychol. 2020. Т.11 (524). doi: 10.3389/fpsyg.2020.00524
- Sunstein C. R. #Republic: Divided Democracy in the Age of Social Media. Princeton: Princeton University Press, 2018.
- Willson M. Algorithms (and the) everyday //Information, Communication & Society. 2017. Т. 20. №. 1. С. 137-150.
- Dylko I. et al. The dark side of technology: An experimental investigation of the influence of customizability technology on online political selective exposure //Computers in Human Behavior. 2017. Т. 73. С. 181-190.
- Sasahara K. et al. On the inevitability of online echo chambers // arXiv preprint arXiv:1905.03919. 2019.
- Shehabat A., Mitew T. Black-boxing the black flag: anonymous sharing platforms and ISIS content distribution tactics //Perspectives on Terrorism. 2018.Т. 12. №. 1. С. 81-99.
- Bloom M., Tiflati H., Horgan J. Navigating ISIS’s preferred platform: Telegram1 // Terrorism and Political Violence. 2019. Т. 31. №. 6. С. 1242-1254.
[1] Исследование выполнено за счет гранта Российского научного фонда № 23-28-00080, https://rscf.ru/project/23-28-00080/
[2] The study was supported by the Russian Science Foundation grant No. 23-28-00080, https://rscf.ru/project/23-28-00080/
[3] Запрещен в РФ.
[4] Таких, как Facebook, YouTube, Twitter, Одноклассники, ВКонтакте, WeChat, Telegram и др.