Новые технологии помогают бороться с языком вражды в интернете
Права человека
Интернет наводнен сообщениями, распространяющими ненависть, и кажется, что с этим ничего не поделать. Однако правительства и гражданское общество не намерены сдаваться и прибегают к все новым стратегиям, чтобы дать отпор языку вражды.
С появлением новых технологий распространение языка вражды приобрело беспрецедентные масштабы. По данным ведущей международной правозащитной организации Minority Rights Group, в период с 2011 по 2021 год, например, в Пакистане число случаев применения языка вражды в интернете увеличилось в 400 раз. Отслеживая подобные высказывания в виртуальном пространстве, власти получают ценную информацию, которая позволяет вовремя разглядеть угрозы и принять меры для предотвращения возможных преступлений.
Sentinel Project – канадская некоммерческая организация, которая отслеживает слова-триггеры, появляющиеся в различных соцсетях и способные перерасти в реальное насилие. Крис Такер, исполнительный директор Sentinel Project, описывает ее как «систему раннего предупреждения».
Система отыскивает в онлайн-пространстве, особенно в социальных сетях, определенные ключевые слова на разных языках, а затем определяет, что с наибольшей вероятностью является или не является контентом, разжигающим ненависть. Этой базой данных могут пользоваться и другие организации, включая представителей академических кругов и неправительственных организаций.
«Языком вражды заряжают ружье, распространяя дезинформацию, нажимают на курок»
Для Криса Такера язык вражды и дезинформация тесно связаны: «Языком вражды заряжают ружье, а дезинформация помогает спустить курок. Именно такую взаимосвязь мы установили за годы исследований. Теоретически, любой человек, имеющий доступ к интернету, может стать производителем такого рода контента. И это действительно меняет ситуацию, причем в глобальном масштабе».
Другая организация, занимающаяся подобным мониторингом языка ненависти, – это Балканская сеть журналистских расследований. Сеть отслеживает все судебные процессы, связанные со злодеяниями в Боснии и Герцеговине. Сейчас у них около 700 открытых дел.
При составлении «карты ненависти» в организации обращают внимание на четыре аспекта: ненавистническая риторика политиков, дискриминационные высказывания, отрицание преступлений и реальные случаи нападений на представителей меньшинств. По словам исполнительного директора Сети Денниса Гиллика, ненавистническая риторика в основном звучит из уст политиков-популистов и националистов.
«Идея составления “карты” заключается в том, чтобы доказать взаимосвязь между ненавистническими политическими заявлениями и реальными преступлениями», – подчеркнул Гиллик. Реальные последствия, о которых сообщала Сеть, включали в себя вандализм в мечетях и церквях и открытые призывы к насилию.
Изменение подхода
По мнению Гиллика, бороться с такой токсичной средой можно путем создания новых нарративов, распространяя точную, основанную на фактах информацию и сюжеты, которые способствуют единству, а не разделению.
Именно это пытается делать Kirkuk Now, независимое СМИ в Ираке, которое производит объективный и качественный контент и делится им в социальных сетях.
«В центре нашего внимания – меньшинства, внутренне перемещенные лица, женщины и дети и, конечно, свобода слова», – говорит главный редактор газеты Kirkuk now Салам Омер. «Мы видим очень мало материалов [об этих людях] в основных иракских СМИ. А если о них и рассказывают, то как о проблеме», – говорит Омер.
В Пакистане, где некоторые религиозные или конфессиональные группы очень уязвимы – в частности, ахмадиты и шииты, а также индусы и христиане, – местная правозащитная организация запустила онлайновую кампанию по борьбе с разжиганием ненависти. Кампания была направлена на людей в возрасте от 15 до 35 лет, которые составляют большинство населения Пакистана.
Долгосрочные решения
Широко распространено мнение, что социальные сети должны нести ответственность за размещенный контент и подвергаться санкциям, если на их платформах распространяется язык ненависти.
Однако, по мнению Клэр Томас, заместителя директора международной неправительственной организации Minority Rights Group, это не является долгосрочным решением проблемы.
«Мы видели в Мьянме, что когда Facebook начал эффективно модерировать контент, язык вражды просто переместился на Tik Tok. Если подумать о том, где физически находятся эти компании, в каких юрисдикциях, становится ясно, что наши возможности заставить их эффективно контролировать собственный контент действительно весьма ограничены».
По мнению Клэр Томас, необходимо уделять больше внимания просвещению людей, рассказу об опасностях и пагубных последствиях языка вражды, а также обеспечению более широкого доступа к сбалансированному контенту.
Язык вражды приносит прибыль
По мнению Тендаи Ачиуме, бывшего независимого эксперта ООН по правам человека, необходимо уделять больше внимания бизнес-моделям социальных сетей.
«Очень часто люди хотят поговорить о модерации контента, о том, что должно быть разрешено на этих платформах, не обращая внимания на политическую экономику этих социальных сетей. И выясняется, что язык ненависти приносит прибыль», – подчеркивает она.
Ачиуме утверждает, что необходимо создавать пространства, где люди с разными мнениями смогут общаться. В то же время она говорит, что необходимо провести более широкую дискуссию о том, как люди представлены в СМИ и в интернете.