Hate speech и харассмент в соцсетях: как ограничить неприятный контент

Разбираемся, как используют в сети hate speech и харассмент и как пользователям Facebook, Instagram, Twitter и других популярных соцсетей защитить себя от токсичных сообщений.

Риторика ненависти прочно обосновалась в интернете — модераторы и алгоритмы крупных соцсетей ежесекундно борются с оскорблениями и харассментом в сети, но полностью решить проблему пока никому не удалось. При этом уровень цифровой культуры в интернете медленно, но все же растет. Как показал свежий Digital Civility Index, 36% стран улучшили свои показатели «цивилизованности». Лидерами индекса стали Нидерланды, Германия и Великобритания. Россия обычно замыкает двадцатку, но в 2021 году страна также улучшила показатели. А Польша, наоборот, ухудшила. 

Что такое hate speech

Язык вражды (hate speech) используют, чтобы вербально или невербально атаковать человека на почве расы, религии или сексуальной ориентации. Для этого могут использовать риторику ненависти (оскорбительную лексику), жесты или символы (например, свастику). Как правило, язык вражды — это смесь стереотипов и предрассудков.

Активисты, которые борются с проявлениями языка ненависти, считают, что оскорбления наносят психологический вред и мешает социальному равенству. При этом неважно, где человек сталкивается с оскорблениями — в реальной жизни, в соцсетях или в метавселенных.

«[Hate speech] — это изначально конфликтогенные слова, они „расчеловечивают“, делят людей на „нормальных“ и „ненормальных“ и провоцируют вражду, конфликт. Например, слова „чу*ка“ и „не*р“ провоцируют ксенофобию, а слово „гомосексуалист“ — гомофобию (у него смысловой оттенок болезни). Эта лексика часто употряблеются в отношении социальных групп, делит на „своих“ и „чужих“, что ведет к социальному напряжению и конфликтам», — говорит психолог Дарья Кочегарова.

При этом важно разграничивать hate speech и эмоциональное насилие, говорит Кочегарова. Когда один человек постоянно оскорбляет другого, использует унизительную лексику и игнорирует просьбы перестать — это эмоциональное насилие, которое наносит серьезный вред. Сам по себе язык вражды нанести вред психике не может, но оскорбительные слова определенно вызывают дискомфорт.

По теме
Что делать, если вас закенселили? Советуют рекрутер, психолог и психотерапевт
Что делать если вас закенселили? Советуют рекрутер психолог и психотерапевт

«Такие слова возвращают к контексту травмы, если она была, вызывают тревожность, обостряют тяжелые эмоции. Мы никогда не знаем, какие триггеры есть у людей», — отмечает психолог.

Понятия hate speech и ответственности за него в международном законодательстве нет. Бороться с языком вражды или нет, решает каждый сам. Борьбу с гендерным насилием и жестоким обращением в  интернете ведет, к примеру, организация World Wide Web Foundation: они проводят исследования, выделяют гранты на развитие цифровых навыков и организуют дебаты с юристами и активистами.

что такое харассмент

Пользователи соцсетей сталкиваются и с харассментом. В СНГ под ним понимают сексуальные домогательства, но значение слова более широкое: любая ситуация, в которой на человека оказывают давление. В исследовании Pew Research Center за 2020 год 41% опрошенных американцев отметили, что сталкивались хотя бы с одной из форм проявления харассмента онлайн. За три года показатели выросли: в 2017 об онлайн-харассменте говорили 35%.

«Если hate speech открыто выражает неприязнь и нередко используется в медиа, то харассмент это, скорее, способ оказывать давление на человека, избегая огласки и внимания», — замечает филолог Юлия Фельдшерова. Часто харассмент — это не только слова, но и действия, причем часто нападки происходят не публично, за закрытыми дверями.

Как соцсети борются с токсичностью

У Facebook и Instagram примерно одинаковые установки. Платформы стараются оградить пользователей от неприемлемого контента: фото и видео от, которые незнакомцы отправляют в личные сообщения, скрываются, а вы сами решаете, смотреть их или нет. Изображения, которые соцсеть считывает как неприемлемые, в ленте показываются заблюренными, с подписью: «Это фото\видео содержит потенциально неприемлемые материалы, которые могут показаться людям неприятными или оскорбительными». 

В настройках вы можете изменить порядок фильтрации. Доступны две опции: «Ограничить больше контента» и «Разрешить». Последнюю могут активировать только пользователи старше 18 лет.

Что соцсети считают неприемлемым контентом:

  • контент, в котором есть насилие или который советует наносить себе увечья;
  • контент сексуального характера. Instagram уже давно банит женские соски, фото и видео половых актов, половых органов и ягодиц. Исключение: посты о грудном вскармливании, родах, здоровье, а также «посты-акты протеста»;
  • контент, который рекламирует табак и электронные сигареты, проституцию и товары для взрослых, наркотики, в том числе медицинского назначения;
  • контент, который «потенциально продвигает» или показывает косметические процедуры. Например, операции;
  • контент, который продвигает препараты, качество которых сомнительно. Например, пищевые добавки для потери веса.

Meta (экс-Facebook) может забанить пост или аккаунт пользователя, который разжигает ненависть или нарушает закон или призывает к этому. Компания выделяет три уровня людей и организаций, посты о которых может банить:

  1. террористические и преступные организации; организации, разжигающие ненависть; наркоторговцы. Контент пользователей, в котором позитивно высказываются об этих организациях, удаляют;
  2. люди, которые применяют насилие против государственных служащих или военных. Meta удаляет контент и блокирует пользователей, которые это поддерживают;
  3. те, кто несколько раз нарушал правила Meta.
По теме
Зачем разработчику Twitter и как им правильно пользоваться
Зачем разработчику Twitter и как им правильно пользоваться

Идеологиями, которые разжигают ненависть, Meta считает:

  • нацизм;
  • превосходство белой расы: белый национализм и белый сепаратизм.

Сделать пост о террористах или нацизме на своей странице разрешается, но только «‎в образовательных целях»‎, чтобы «предостеречь людей». Это позволительно и в тех случаях, когда контент имеет сатирический характер.

Для выявления неприемлемых слов соцсети используют алгоритмы, но оценку контенту часто дают и модераторы — это довольно тяжелая и травмирующая работа.

Как пользователю защитить себя от опасного контента в Facebook и Instagram:

  • если вас достают спамом или странными фотографиями, вы можете заблокировать человека. Он не будет видеть ваш контент и не сможет отправить вам сообщение;
  • вы можете пожаловаться на пост или комментарий, указав причину жалобы. Тогда платформа проверит контент и может заблокировать пользователя или удалить публикацию;
  • вы можете ограничить доступ к своему аккаунту в настройках конфиденциальности и сделать так, чтобы пользователь, который не является вашим другом или подписчиком, не мог отправить вам сообщение или посмотреть ваши посты. В Facebook есть возможность сделать некоторые посты видимыми только для друзей;
  • вы можете настроить фильтр потенциально неприемлемого контента: опции «Ограничить больше контента» или «Разрешить». Во втором случае платформа перестанет блюрить изображения;
  • на странице в FB вы можете заблокировать определенные слова в комментариях на свое усмотрение, а также включить фильтр нецензурных выражений. 

Бонус: если Instagram рекомендует к просмотру публикации, которые кажутся вам странными, то полайкайте посты в тех аккаунтах, которые вам нравятся. Алгоритмы соцсети запомнят ваши предпочтения и будут рекомендовать больше похожего контента.

Почитать bubble в микро- и даже наноформате можно в instagram. У нас нет хейт спича. подключайтесь 🤳

Twitter

В 2021 году у соцсети появилась новая функция: безопасный режим. Если кто-то оскорбляет вас или спамит — платформа заблокирует его на семь дней. Пользователь может скрыть себя из поисковика платформы и самостоятельно решить, кто может отвечать на его твиты, а кто нет. Функция работает сейчас в тестовом режиме — только в англоязычной версии и доступна узкой аудитории.

В Twitter и раньше можно было заблокировать агрессивного пользователя. С заблокированного аккаунта нельзя посмотреть ваши твиты, оставить реплай или отправить сообщение. Посмотреть, от какого контента оберегает вас Twitter, можно в настройках

Как пользователю защитить себя в Twitter:

  • добавить пользователя в черный список. Вы не будете видеть его контент, а он не сможет видеть ваш. А еще не сможет отправить вам сообщение, найти ваши ранние твиты в поиске и посмотреть, на кого вы подписаны;
  • закрыть свой профиль. Пользователь не сможет посмотреть ваши публикации и отправить вам сообщение, если вы не подтвердите запрос о подписке;
  • пожаловаться на твит, фото или видео;
  • пожаловаться на профиль пользователя;
  • настроить игнорирование слов и хэштегов в ленте.

«‎Одноклассники»‎

В «‎Одноклассниках» прописаны правила безопасного общения. Соцсеть советует не переходить по непонятным ссылкам, не отправлять никому деньги, не скидывать данные карт и логины с паролями. А еще предлагает не отправлять незнакомцам свои фотографии и помнить, что если вы стали счастливым сотым/тысячным/миллионным участником сообщества и вам хотят подарить айфон, то это обман.

По теме
Как удалить аккаунт в любой соцсети: каталог полезных инструкций
Как удалить аккаунт в любой соцсети: каталог полезных инструкций

С февраля 2022 нейросеть определяет и скрывает контент 18+. А пользователь может пожаловаться на сообщение или аккаунт, заблокировать человека и запретить слать себе сообщения в настройках приватности.

Чтобы пользователи не жаловались на вас, «‎Одноклассники»‎ советуют:

  • не спамить;
  • не добавлять незнакомцев в группы;
  • не материться в разговорах с теми, кого мало знаете, и не отправлять им контент 18+;
  • не писать капсом;

Что я могу сделать:

  • пожаловаться на сообщение или пост;
  • заблокировать пользователя;
  • изменить настройки приватности: запретить незнакомцам присылать вам сообщения и смотреть вашу страницу.

VK

VK — соцсеть с меньшим количеством фильтров. Если не накручивать подписчиков, не рекламировать на стене услуги по взлому других страниц, не разыгрывать среди подписчиков по три айфона в день и, главное, не притворяться администрацией сайта —  вас не забанят

В этой сети не регулируют язык вражды, оскорбительные комментарии под постами удаляют владельцы страниц, а заблокировать пользователя могут, если только на него кто-то пожаловался.

Как я могу защитить себя в VK:

  • можно скрыть новости аккаунтов и групп, чей контент вам неприятен.
    если отдельный пост кажется вам неприемлемым — вы можете отправить жалобу и указать причину;
  • можно пожаловаться на страницу пользователя;
  • в настройках приватности можно запретить оставлять комментарии на вашей странице, отправлять вам сообщения, приглашать в группы и отмечать на фотографиях. Такими возможностями вы можете наделить всех друзей или только избранных пользователей. А можете запретить всем. Вы решаете, какой именно контент (фото, аудио, подписки) могут видеть другие пользователи, и могут ли не авторизованные юзеры посмотреть вашу страницу в VK.
article widget img
«‎‎Главная ошибка собеса — подгонять ответы»‎. Рекрутеры рассказали о найме в IT
Откуда берутся IT-рекрутеры, с какими трудностями они сталкиваются в попытках закрыть позиции и какие ошибки сами совершают на интервью — полезно знать перед тем, как искать работу.
Телеграм-канал про Образо­вание, карьеру и жизнь в IT
Телеграм-канал про Образо­вание, карьеру и жизнь в IT

Читайте по теме

Цифровой быт
Цифровой быт
17

Цифровой быт

Как навести порядок на своих девайсах, в аккаунтах и в жизни
nerd head nerd letter

Мир содрогнулся, когда узнал, что читают разработчики по ночам...

Ничего криминального — только полезная еженедельная рассылка от Bubble. Тренды в айти, лайфхаки и советы экспертов.

Подписывайся!

Ты — котик! Проверяй почту
Нам нужен настоящий адрес эл. почты
Спецпредложения
Курсы со скидками для пользователей Bubble
Выбрать курс
Освоить за выходные
Экспресс-курсы программирования
Выбрать курс
Баг пофиксил
Курсы для QA-инженеров
Выбрать курс
Звездочка к резюме
Курсы по карьерному росту
Выбрать курс
Подписывайся на Bubble в соцсетях
Подписывайся на BUBBLE в социальных сетях
Телеграм-канал про Образование, карьеру и жизнь в IT
Только полезный контент и ничего лишнего.