Язык вражды в Интернете - Online hate speech

Часть набор на
Дискриминация
Особые формы
 
Проявления
Пользователь Facebook, учетная запись которого была заблокирована из-за нарушения принципов разжигания ненависти. "Facebook ненавидит Google+ ???" от Frederick Md Publicity имеет лицензию CC BY 2.0. Чтобы просмотреть копию этой лицензии, посетите https://creativecommons.org/licenses/by/2.0/

Язык вражды в Интернете это тип речи, которая имеет место в сети с целью нападения на человека или группу на основе их гонка, религия, этническое происхождение, сексуальная ориентация, инвалидность, или Пол.[1]

Язык вражды в Интернете является выражением конфликтов между различными группами внутри и между обществами. Разжигание ненависти в Интернете - яркий пример того, как Интернет открывает как возможности, так и проблемы в отношении свободы выражения и слова, а также защищает человеческое достоинство.[2]

Многосторонние договоры такой как Международный пакт о гражданских и политических правах (МПГПП) попытались определить его контуры. Многосторонние процессы (например, Рабатский план действий) попытались внести большую ясность и предложили механизмы для выявления сообщений, разжигающих ненависть. Тем не менее, язык вражды по-прежнему является общим термином в повседневном дискурсе, в котором конкретные угрозы отдельным лицам и / или группам смешиваются со случаями, когда люди могут просто выражать свой гнев против власти. Интернет-посредники - организации, которые участвуют в онлайн-коммуникациях, например Facebook, Twitter, и Google - разработали собственные определения языка вражды, которые связывают пользователей с набором правил и позволяют компаниям ограничивать определенные формы выражения. Национальные и региональные органы стремились способствовать пониманию этого термина, которое в большей степени укоренено в местных традициях.[2]

В Интернет скорость и охват затрудняют для правительств обеспечение соблюдения национального законодательства в виртуальный мир. Социальные сети - это личное пространство для публичного выражения мнений, что затрудняет работу регулирующих органов. Некоторые компании, владеющие этими пространствами, стали более оперативно решать проблему разжигания ненависти в Интернете.[2]

Политики, активисты и ученые обсуждают характер языка ненависти в Интернете и его связь с речью и действиями в автономном режиме, но эти дебаты, как правило, удаляются из систематических эмпирических данных. Характер предполагаемых разжигающих ненависть высказываний и их возможные последствия привели к тому, что большое внимание уделяется решениям проблемы и тому, как они должны быть основаны на международных нормах прав человека. Тем не менее, само это сосредоточение также ограничивало более глубокие попытки понять причины, лежащие в основе этого явления, и динамику, посредством которой определенные типы контента возникают, распространяются и приводят - или нет - к фактическим дискриминация, враждебность или насилие.[2]

С начала 2020 года разжигание ненависти в Интернете растет. COVID-19 напряжение, Антиазиатский риторика, продолжается расовая несправедливость, масса гражданские беспорядки, насилие, а Президентские выборы 2020. Тем не менее, многие случаи языка вражды были опровергнуты Первая поправка, что позволяет продолжать разжигание ненависти в Интернете.

Определения

Язык вражды

Язык вражды - это противоречивое столкновение свободы выражения мнений и индивидуальной, групповой и права меньшинств, а также концепции достоинство, свобода и равенство.[2]

В национальном и международном законодательстве под языком вражды понимаются выражения, пропагандирующие подстрекательство к причинению вреда, в частности: дискриминация, враждебность или насилие на основе социальной и / или демографической идентичности целей. Язык вражды может включать, помимо прочего, высказывания, пропагандирующие, угрожающие или поощряющие насильственные действия. Эта концепция может распространяться также на выражения, которые способствуют созданию атмосферы предубеждений и нетерпимости при предположении, что это может способствовать достижению целевых дискриминация, враждебность и жестокие нападения. В критические моменты, например, во время выборов, понятие языка вражды может быть подвержено манипуляциям; обвинения в разжигании ненависти могут быть проданы политическим оппонентам или использованы властями для сдерживания несогласие и критика. Разжигание ненависти (передаваемое с помощью текста, изображений или звука) может быть определено приближенно через унижающие достоинство или бесчеловечный функции, которые он обслуживает. Язык вражды содержит два типа сообщений. Первое сообщение адресовано целевой группе и предназначено для дегуманизации и принижения членов этой группы. Ниже приведен пример сообщения этого типа:

"Не дайте себя обмануть, думая, что вам здесь рады. [...] Вы никому не нужны, и вас и ваши семьи будут избегать, исключать, избивать и изгонять, как только нам это удастся. Мы можем прямо сейчас надо вести себя сдержанно. Но не расслабляйтесь. [...] Бойтесь ».[3]

Другой посыл в языке ненависти - дать понять другим, придерживающимся схожих взглядов, что они не одиноки, и усилить ощущение своей группы, которая (якобы) находится под угрозой. Ниже приводится пример сообщения такого типа, отправляемого единомышленникам:

"Мы знаем, что некоторые из вас согласны с тем, что эти люди здесь не нужны. Мы знаем, что некоторые из вас считают себя грязными (или опасными, или преступными, или террорист ). Знайте теперь, что вы не одиноки. [...] Нас достаточно, чтобы убедиться, что этим людям не рады. Нас достаточно, чтобы привлечь внимание к тому, что эти люди на самом деле ".[3]

Характеристики

Распространение языка вражды в Интернете, наблюдаемое Совет ООН по правам человека Специальный докладчик по вопросам меньшинств ставит новый комплекс проблем.[4] И то и другое платформы социальных сетей и организации, созданные для борьбы с языком вражды, признали, что сообщения ненависти распространен онлайн становятся все более распространенными и привлекают беспрецедентное внимание для выработки адекватных ответов.[5] Согласно с HateBase, веб-приложение, которое собирает случаи языка вражды в Интернете по всему миру, большинство случаев языка вражды нацелено на людей, основанных на этническая принадлежность и Национальность, но разжигание ненависти с упором на религия и класс также были на подъеме.[6]

Хотя язык вражды в Интернете по сути не отличается от аналогичных выражений, встречающихся в Интернете, существуют специфические проблемы, присущие онлайн-контенту и его регулированию. Проблемы, связанные с ее постоянством, дальностью передвижения, анонимность и сложный кросс-юрисдикционный характер.

Разжигание ненависти может оставаться в сети в течение длительного времени в разных форматах на разных платформах, которые могут быть связаны повторно. Как заметил Андре Оболер, генеральный директор Института предотвращения ненависти в Интернете: «Чем дольше контент остается доступным, тем больший ущерб он может нанести жертвам и расширить возможности преступников. Если вы удалите контент на ранней стадии, вы можете ограничить Это похоже на чистку подстилки, она не мешает людям мусорить, но если вы не позаботитесь о проблеме, она просто накапливается и еще больше усугубляет ».[7] Twitter беседы, организованные на актуальные темы, могут способствовать быстрому и широкому распространению сообщений ненависти,[8] но они также дают возможность влиятельным ораторам избегать сообщений и, возможно, заканчивать популярные темы подстрекательство к насилию. Facebook, наоборот, может позволить нескольким потокам работать параллельно и оставаться незамеченными; создание более длительных пространств, которые оскорбляют, дискриминируют и высмеивают определенных людей и группы.[2]

Разжигание ненависти в Интернете может быть странствующим. Даже когда контент удаляется, он может найти выражение в другом месте, возможно, на той же платформе под другим именем или в разных онлайн-пространствах. Если интернет сайт выключен, его можно быстро открыть с помощью веб-хостинг с менее строгими нормативные документы или через перераспределение в страну с законами, устанавливающими более высокий порог для языка вражды. Блуждающий характер языка вражды также означает, что плохо сформулированные мысли или поведение под влиянием, которое не нашло бы публичного выражения и поддержки в прошлом, теперь могут попадать в места, где они могут быть видны широкой аудитории.[2]

Анонимность также может стать проблемой при борьбе с разжиганием ненависти в Интернете. «(T) Интернет способствует анонимному и псевдонимному дискурсу, который может так же легко ускорить деструктивное поведение, как он может способствовать общественному дискурсу».[9] Как сказал Дрю Бойд, операционный директор The Sentinel Project, заявил, что "Интернет дает людям возможность говорить ужасные вещи, потому что они думают, что они не будут обнаружены. Это то, что делает язык ненависти в Интернете таким уникальным, потому что люди чувствуют себя гораздо более комфортно, выражая ненависть, чем в реальной жизни, когда они разбираться с последствиями того, что они говорят ".[10] Китай и Южная Корея применять политики реального имени для социальные сети. Facebook, LinkedIn, и Quora стремились активировать система настоящих имен чтобы иметь больше контроля над разжиганием ненависти в Интернете. Такие меры вызывают серьезные споры, поскольку они наносят ущерб право на неприкосновенность частной жизни и его пересечение со свободой выражения.

Многие случаи языка ненависти в Интернете публикуются интернет-"троллями", которые обычно являются пользователями под псевдонимами, которые публикуют шокирующий, вульгарный и в целом неправдивый контент, предназначенный для того, чтобы вызвать негативную реакцию людей, а также обман, влияние и иногда вербовать их, если они разделяют то же мнение.[11] Социальные сети предоставили радикальным или экстремистским политическим группам платформу для формирования, создания сетей и сотрудничества для распространения своих идей, направленных против истеблишмента и политкорректности, а также для продвижения идеологий, которые являются расистскими, антифеминистскими, гомофобными и т. Д.[12] Полностью анонимное онлайн-общение встречается редко, так как оно требует от пользователя применения высокотехнологичных мер, гарантирующих, что их будет сложно идентифицировать.[2]

Еще одна сложность - это транснациональный досягаемость Интернет, поднимая вопросы межведомственного сотрудничества в отношении правовых механизмов борьбы с языком вражды. Пока есть Договоры о взаимной правовой помощи на месте через Европа, Азия, и Северная Америка, они обычно работают медленно. В транснациональный досягаемость многих частный сектор Интернет-посредники может предоставить более эффективный канал для решения проблем в некоторых случаях, хотя на эти органы также часто влияют межюридические обращения за данными (например, раскрытие личности автора (ов) определенного контента).[2] В каждой стране свое понимание того, что определяется как разжигание ненависти, что затрудняет преследование виновных в разжигании ненависти в Интернете, особенно в США, где существует глубоко укоренившаяся конституционная приверженность соблюдению Свобода слова.[13]

В отличие от распространения языка ненависти по обычным каналам, распространение языка вражды в Интернете вовлекает множество субъектов, сознательно или нет. Когда преступники распространяют свое ненавистное послание в социальных сетях, они не только причиняют вред своим жертвам, но также могут нарушать условия обслуживания на этой платформе, а иногда и законы штата, в зависимости от их местонахождения. Жертвы, со своей стороны, могут чувствовать себя беспомощными перед лицом онлайн-преследований, не зная, к кому им следует обратиться за помощью. Неправительственные организации и лобби группы повышают осведомленность и побуждают к действиям различные заинтересованные стороны.[2]

Некоторые технологические компании, такие как Facebook, используйте Искусственный интеллект (AI) системы для отслеживания языка вражды.[14] Однако искусственный интеллект не всегда может быть эффективным способом мониторинга языка вражды, поскольку системам не хватает эмоций и навыков суждения, которые есть у людей.[15] Например, пользователь может опубликовать или прокомментировать что-то, что классифицируется как язык вражды и / или нарушает принципы сообщества, но если целевое слово написано с ошибкой или некоторые буквы заменены символами, системы ИИ не распознают это. Таким образом, людям по-прежнему приходится контролировать системы искусственного интеллекта, которые отслеживают язык ненависти, что является концепцией, известной как «последняя миля автоматизации».[15]

Каркасы

Штормовой фронт Прецедент

После 2014 с драматические инциденты, призывает к более ограничительным или навязчивым мерам по сдерживанию способности Интернета распространять ненависть и насилие, как если бы связи между онлайн и офлайн насилие были хорошо известны. Напротив, как показывает следующий пример, внешность часто может быть обманчивой. Штормовой фронт считается первым «сайтом ненависти».[16] Запущен в марте 1995 г. Лидер Ку-клукс-клана, он быстро стал популярным местом для обсуждения идей, связанных с Неонацизм, Белый национализм и Белый сепаратизм, первый в Соединенные Штаты Америки а затем глобально.[17] Организаторы форума призывают к расовой священной войне и подстрекательству к применению насилия для сопротивления иммиграция.[17] и считается местом для найма активисты и, возможно, координация насильственных действий.[18] Несколько исследований, в которых изучались личности Stormfront, на самом деле изображают более сложную картину. Вместо того, чтобы рассматривать это как пространство для координации действий. Известные праворадикальные активисты обвинили форум в том, что это просто собрание "клавиатурные воины Один из них, например, как сообщили Де Костер и Хаутман, заявил: «Я прочитал довольно много статей на форуме, и меня поражает, что поднимается большой шум, а происходит мало. Сам раздел «активизм / политика» просто смешон. [...] Не говоря уже о собраниях, на которые приходит всего четыре человека ».[19] Еще более показательны некоторые ответы на эти обвинения со стороны постоянных участников сайта. Как утверждал один из них: «Конечно, я имею право выражать свое мнение, не активно его воплощая в жизнь. [...] Я не хожу на демонстрации и не присоединяюсь к политической партии. Если это делает меня клавишником, то это значит хорошо. Мне так хорошо. [...] Я не стыжусь этого ».[19] Де Костер и Хаутман опросили только одно национальное отделение Stormfront и нерепрезентативную выборку пользователей, но ответы, подобные приведенным выше, должны как минимум побуждать к осторожности в отношении гипотез, связывающих выражения и действия, даже в тех местах, основная функция которых заключается в размещении экстремистских взглядов.[2] Южный юридический центр по вопросам бедности опубликовал в 2014 году исследование, согласно которому пользователи сайта «якобы несут ответственность за убийства почти 100 человек за предыдущие пять лет».[20]

Международные принципы

Язык вражды прямо не упоминается во многих международные права человека документы и договоры, но это косвенно вызвано некоторыми принципами, касающимися человеческого достоинства и Свобода самовыражения. Например, 1948 г. Всеобщая декларация прав человека (ВДПЧ), который был разработан как ответ на зверства Вторая Мировая Война, содержит право на равную защиту в соответствии со статьей 7 закона, которая провозглашает, что: «Все имеют право на равную защиту от любой дискриминации в нарушение настоящей Декларации и от любого подстрекательства к такой дискриминации».[21] Всеобщая декларация прав человека также заявляет, что каждый человек имеет право на свободу выражения, которое включает «свободу беспрепятственно придерживаться своих убеждений и искать, получать и распространять информацию и идеи любыми средствами и независимо от государственных границ».[21]

Всеобщая декларация прав человека сыграла решающую роль в установлении рамок и повестки дня защиты прав человека, но Декларация необязательный. Впоследствии был создан ряд обязательных документов, предлагающих более надежную защиту свободы выражения мнений и защиту от дискриминации. В Международный пакт о гражданских и политических правах (МПГПП) направлен на разжигание ненависти и содержит право на свободу выражения мнения в статье 19 и запрет на пропаганду ненависти, представляющую собой подстрекательство к дискриминации, вражде или насилию, в статье 20. Другие более адаптированные международно-правовые инструменты содержат положения, которые имеют последствия для определение языка ненависти и определение ответов на него, например: Конвенция о предупреждении преступления геноцида и наказании за него (1951), Международная конвенция о ликвидации всех форм расовой дискриминации, ICERD (1969) и, в меньшей степени, Конвенция о ликвидации всех форм дискриминации в отношении женщин, CEDAW (1981).[2]

Разжигание вражды и МПГПП

В МПГПП является правовым инструментом, который чаще всего упоминается в дебатах о разжигании ненависти и его регулировании, хотя в нем явно не используется термин «язык вражды». Статья 19, которую часто называют частью «сути Пакта»,[22] обеспечивает право на свободу выражения мнения. Это устанавливает право, а также включает общие ограничения, которым должно соответствовать любое ограничение права, чтобы быть законным. За статьей 19 следует статья 20, которая прямо ограничивает свободу выражения мнения в случаях «защиты интересов граждан, расовый или религиозная ненависть что представляет собой подстрекательство к дискриминации, вражде или насилию ".[23] Решение о включении этого положения, которое можно охарактеризовать как воплощение определенной концептуализации языка вражды, вызвало серьезные споры. В Комитет по правам человека, то Организация Объединенных Наций тело создано МПГПП для наблюдения за его выполнением, осознавая возникшую напряженность, стремился подчеркнуть, что статья 20 полностью совместима с правом на свободу выражения мнения.[24] В МПГПП право на свободу выражения мнения не является абсолютным правом. Он может быть законно ограничен государствами при определенных обстоятельствах:

"3. Осуществление прав, предусмотренных в пункте 2 настоящей статьи, влечет за собой особые обязанности и ответственность. Поэтому оно может подлежать определенным ограничениям, но они должны быть только такими, которые предусмотрены законом и необходимы: ) Для уважения прав или репутации других лиц; (b) для защиты национальной безопасности или общественного порядка (общественный порядок ) или здравоохранение или мораль."[25]

Между статьей 19 (3) и статьей 20 проводится различие между факультативными и обязательными ограничениями права на свободу выражения мнения. Статья 19 (3) гласит, что ограничения на Свобода самовыражения «поэтому могут быть наложены определенные ограничения», если они предусмотрены законом и необходимы для определенных законных целей. Статья 20 гласит, что любая пропаганда (определенных видов) ненависти, представляющая собой подстрекательство к дискриминация, враждебность или насилие «запрещено законом». Несмотря на указание на тяжесть нарушений речи, которые должны быть запрещены законом в соответствии со статьей 20, остается сложность.[26] В частности, существует серая зона в концептуализации четких различий между (i) проявлениями ненависти, (ii) выражениями, пропагандирующими ненависть, и (iii) ненавистническими высказываниями, которые конкретно представляют собой подстрекательство к практическому ущербу в виде дискриминации, вражды или насилия. В то время как государства обязаны запретить высказывания, задуманные как «пропаганда ненависти, которая представляет собой подстрекательство к дискриминации, вражде или насилию» в соответствии со статьей 20 (2),[27] как трактовать такое четко не определено.[28]

Другие международно-правовые инструменты

ICERD

В Международная конвенция о ликвидации всех форм расовой дискриминации (МКЛРД), вступившая в силу в 1969 году, также имеет значение для концептуализации форм языка вражды. МКЛРД отличается от МПГПП в трех отношениях.[2] Его концептуализация языка ненависти конкретно ограничивается речью, относящейся к расе и этническая принадлежность. В пункте (а) статьи 4 он утверждает, что государства-участники:

"Объявляет преступлением, наказуемым по закону, любое распространение идей, основанных на расовом превосходстве или ненависти, подстрекательство к расовой дискриминации, а также все акты насилия или подстрекательства к таким действиям против любой расы или группы лиц другого цвета кожи или этнического происхождения. , а также предоставление любой помощи расистской деятельности, включая ее финансирование; Это обязательство, налагаемое МКЛРД на государства-участники, также строже, чем в случае статьи 20 МПГПП, касающейся криминализации расистских идей, которые не обязательно подстрекают к дискриминации. , враждебность или насилие ".

Важное различие заключается в вопросе намерение. Концепция «пропаганды ненависти», введенная в МПГПП, более конкретна, чем дискриминационные высказывания, описанные в МКЛРД, поскольку предполагается, что необходимо учитывать намерения автора, а не выражение в изоляция - это потому, что «пропаганда» толкуется в МПГПП как требование намерения сеять ненависть.[29] Комитет по ликвидации расовой дискриминации активно обратился к разжиганию ненависти в своей Общей рекомендации 29, в которой Комитет рекомендует государствам-участникам:

r) принимать меры против любого распространения идей кастового превосходства и неполноценности или попыток оправдать насилие, ненависть или дискриминацию в отношении общин по происхождению; s) принимать строгие меры против любого подстрекательства к дискриминации или насилию в отношении общин, в том числе через Интернет; t) принять меры по повышению осведомленности профессионалов средств массовой информации о характере и масштабах дискриминации по признаку родового происхождения ";[30]

Эти моменты, которые отражают ссылку МКЛРД на распространение самовыражения, имеют значение для Интернет. Выражение идей в некоторых онлайн-контекстах может сразу же означать их распространение. Это особенно актуально для частных пространств, которые начали играть общественную роль, как в случае многих платформы социальных сетей.[2]

Конвенция о геноциде

Подобно МКЛРД, Конвенция о геноциде направлен на защиту групп, определенных по расе, национальности или этнической принадлежности, хотя он также распространяет свои положения на религиозные группы. Когда дело доходит до языка вражды, Конвенция о геноциде ограничивается только действиями, которые публично подстрекают к геноцид признаются как «действия, совершенные с намерением уничтожить, полностью или частично, национальную, этническую, расовую или религиозную группу», независимо от того, совершаются ли такие действия в мирное или военное время.[2] В частности гендерный язык вражды (в отличие от дискриминационных действий) подробно не рассматривается в Международный закон.[2]

CEDAW

В Конвенция о ликвидации всех форм дискриминации в отношении женщин (CEDAW), вступивший в силу в 1981 году, налагает на государства обязательства осуждать дискриминацию в отношении женщин.[31] и «предотвращать, расследовать, преследовать и наказывать» акты гендерного насилия.[32]

Региональные ответы

Наиболее региональные инструменты нет специальных статей, предписывающих запрет разжигания ненависти, но в целом они позволяют государствам ограничивать свободу выражения мнений, и эти положения могут применяться в конкретных случаях.[2]

Американская конвенция о правах человека

В Американская конвенция о правах человека описывает ограничения свободы выражения мнения аналогично МПГПП в статье 19 (3). В Организация американских государств также приняла еще одну декларацию о принципах свободы выражения мнений, которая включает в себя особый пункт, в котором говорится, что «предварительное обусловливание выражений, такое как правдивость, своевременность или беспристрастность несовместимо с правом на свободу выражения мнения, признанным в международных документах ".[33] Межамериканский суд сообщил, что "(а) распространение свободы информации, таким образом, не может контролироваться предупредительные меры но только путем последующего применения санкций к виновным в злоупотреблениях ".[34] Суд также вводит критерий для государств, желающих ввести ограничения свободы выражения мнения, поскольку они должны соблюдать следующие требования: «а) наличие ранее установленных оснований для ответственности; б) четкое и точное определение этих оснований в законе. ; c) легитимность преследуемых целей; d) демонстрация того, что эти основания ответственности «необходимы для обеспечения» вышеупомянутых целей ».[35] В Межамериканской системе есть специальный докладчик по вопросам свободы слова, который провел всестороннее исследование языка вражды. Он пришел к выводу, что Межамериканская система прав человека отличается от Организации Объединенных Наций и Европейский подход к ключевому моменту: Межамериканская система охватывает и ограничивает разжигание ненависти, которое на самом деле ведет к насилию, и только такие высказывания могут быть ограничены.[35]

Африканская хартия прав человека и прав народов

В Африканский Хартия прав человека и прав народов использует другой подход в статье 9 (2), разрешая ограничения прав до тех пор, пока они находятся «в рамках закона». Эта концепция подверглась критике, и существует огромное количество юридических ученых, посвященных так называемым оговоркам о «возвращении когтей» и их толкованию.[36] Критика в основном направлена ​​на то, что страны могут манипулировать своим собственным законодательством и ослаблять сущность права на свободу выражения мнения. Декларация принципов свободы выражения мнения в Африке устанавливает более высокие стандарты ограничения свободы выражения мнения. Он заявляет, что право «не должно ограничиваться по соображениям общественного порядка или национальной безопасности, за исключением случаев, когда существует реальный риск причинения вреда законным интересам и существует тесная причинно-следственная связь между риском причинения вреда и его выражением».[37]

Каирская декларация прав человека в исламе

В 1990 г. Организация Исламская конференция (которая позже была переименована в Организацию исламского сотрудничества, ОИС) приняла Каирская декларация прав человека в исламе (CDHRI), который призывает к криминализации высказываний, выходящих за рамки случаев неминуемого насилия, и включает «действия или высказывания, обозначающие явную нетерпимость и ненависть».[38]

Арабская хартия прав человека

Арабская хартия прав человека, принятая Совет из Лига арабских государств в 2004 году в статью 32 включены положения, которые имеют отношение также к онлайн-коммуникации, поскольку она гарантирует право на «свободу мнений и их свободное выражение, а также право искать, получать и распространять информацию и идеи с помощью любых средств, независимо от географических границ».[39] Он допускает широкое ограничение в параграфе 2 «Такие права и свободы должны осуществляться в соответствии с основополагающими ценностями общества».[40]

Декларация прав человека АСЕАН

В Декларация прав человека АСЕАН включает право на свободу выражения мнения в статье 23. Статья 7 Декларации предусматривает общие ограничения, утверждая, что «реализация прав человека должна рассматриваться в региональном и национальном контексте с учетом различных политических, экономических, правовых, социальных, культурное, историческое и религиозное происхождение ".[41]

Хартия основных прав Европейского Союза

В Хартия основных прав Европейского Союза который провозглашает право на свободу выражения мнения в статье 11, содержит пункт, запрещающий злоупотребление правами. Он утверждает, что Устав не следует толковать как подразумевающий какое-либо «ограничение в большей степени, чем предусмотрено в нем».[42] Примером ограничения, которое подразумевает строгую проверку необходимости и соразмерности, является положение о свободе выражения мнения в Европейская конвенция о правах человека, в котором подчеркивается, что осуществление свободы выражения мнения влечет за собой обязанности и ответственность. Это "может подлежать таким формальностям, условиям, ограничениям или штрафам, которые предусмотрены законом и являются необходимо в демократическом обществе, в интересах Национальная безопасность, территориальная целостность или общественная безопасность для предотвращения беспорядков или преступлений, для защиты здоровья или нравственности, для защиты репутации или прав других, для предотвращения разглашения информации, полученной конфиденциально, или для поддержания авторитета и беспристрастности судебной власти ".[43]

В Европейский суд по правам человека тщательно проводит различие между языком вражды и правом отдельных лиц свободно выражать свои взгляды, даже если другие обиделись.[44] Существуют региональные примеры, имеющие отношение к разжиганию ненависти в Интернете. В Совет Европы (СЕ) в 2000 г. выпустил Общую политическую рекомендацию по борьбе с распространением расизма, Ксенофобия и Антисемитский Материал через Интернет.[45] Создание в 2001 году Конвенции Совета Европы о киберпреступности, которая регулирует взаимную помощь в отношении следственных полномочий, предоставляет подписавшим странам механизм для решения компьютерные данные, который будет включать транснациональный язык вражды в Интернете.[46] В 2003 году Совет Европы выпустил дополнительный протокол к Конвенции о киберпреступности, касающийся онлайн-проявления расизма и ксенофобии. Конвенция и протокол к ней были открыты для подписания и ратификации странами вне Европа, и другие страны, такие как Канада и Южная Африка, уже являются частью этого соглашения. Протокол налагает на государства-члены обязательство криминализировать расистские и ксенофобные оскорбления в Интернете в отношении "(i) лиц на том основании, что они принадлежат к группе, различающейся по расе, цвету кожи, происхождению или национальному или этническому происхождению, а также религии, если они используются в качестве предлога для любого из этих факторов; или (ii) группа лиц, отличающаяся любой из этих характеристик ".[47]

Частные помещения

Интернет посредники, такие как платформы социальных сетей, Интернет-провайдеры или Поисковые системы, оговаривают в своих Условия использования как они могут вмешиваться в разрешение, ограничение или направление создания и доступа к определенному контенту. Огромное количество онлайн-взаимодействий происходит на платформах социальных сетей, выходящих за пределы национальных юрисдикций, и эти платформы также разработали свои собственные определения языка вражды и меры реагирования на него. Для пользователя, который нарушает условия обслуживания, размещенный им контент может быть удален с платформы, или его доступ может быть ограничен для просмотра только определенной категорией пользователей (например, пользователями, живущими за пределами определенной страны).[2]

Принципы, лежащие в основе соглашений об условиях обслуживания, и механизмы, которые каждая компания разрабатывает для обеспечения своих реализация имеют серьезные последствия для способности людей выражать свое мнение в Интернете, а также для защиты от языка вражды. Большинству посредников приходится вступать в переговоры с национальными правительствами в той степени, которая зависит от типа посредника, областей, в которых зарегистрирована компания, и применяемого правового режима. Как объясняет Цесис, «(i) если передачи в Интернете отправляются и принимаются в определенных местах, тогда определенные форумы сохраняют юрисдикцию для преследования незаконных действий, совершаемых в Интернете».[2] Провайдеры интернет-услуг в наибольшей степени подвержены влиянию национального законодательства, поскольку для работы они должны находиться в определенной стране. Поисковые системы, хотя и могут изменять результаты поиска по саморегулируемым или коммерческим причинам, все чаще приспосабливаются к режиму посреднической ответственности как в своих юрисдикциях, где они зарегистрированы, так и в других юрисдикциях, в которых они предоставляют свои услуги, либо заблаговременно удаляя ссылки на контент, либо по запросу властей.[48]

Все интернет-посредники управляются частные компании также ожидается уважение права человека. Это изложено в Руководящих принципах предпринимательской деятельности в аспекте прав человека, разработанных Управление Верховного комиссара ООН по правам человека. В документе подчеркивается ответственность каждого члена корпорации в защите прав человека. В принципе 11 он заявляет, что: «Деловые предприятия должны уважать права человека. Это означает, что они должны избегать посягательства на права человека других и должны устранять неблагоприятные последствия для прав человека, в которые они вовлечены».[49] В Руководящих принципах Организации Объединенных Наций также указывается, что в случаях нарушения прав человека компании должны «обеспечивать или сотрудничать в их исправлении положения с помощью законных процедур».[49] В случае интернет-посредников и концепций языка ненависти это означает, что они должны обеспечить принятие мер для обеспечения соразмерного ответа.[2]

Социальные ответы

Тематические исследования

Панель американских тенденций

Pew Research Center опросили более 10000 взрослых в июле 2020 года, чтобы изучить влияние социальных сетей на политику и социальная справедливость активизм. 23% респондентов, которые являются взрослыми пользователями социальных сетей, сообщили, что контент социальных сетей заставил их изменить свое мнение, положительное или отрицательное, по вопросу политической или социальной справедливости.[50] 35% респондентов указали Жизни темнокожих имеют значение движение реформа полиции, и / или расовые отношения.[50] 18% респондентов сообщили об изменении мнения о политических партиях, идеологии, политики и / или Президент Дональд Трамп.[50] 9% респондентов назвали вопросы социальной справедливости, такие как ЛГБТКИА + права феминизм, иммиграция, так далее.[50] 8% респондентов изменили свое мнение о коронавирус пандемия другие мнения - 10%.[50] Исходя из этих результатов, социальные сети играют важную роль в влиянии на общественное мнение.

Манипуляции со СМИ и дезинформация в Интернете

Исследование, проведенное учеными Элис Марвик и Ребекка Льюис наблюдала за манипуляциями со СМИ и изучала, как альт-правые продвигаются, объединяются в сети и сотрудничают, чтобы повлиять на свои противоречивые убеждения, которые потенциально могли бы помочь Президент Трамп победа в Выборы 2016. в отличие основные СМИ, то альтернативный правый не нужно соблюдать какие-либо правила, когда дело касается влияния, и не нужно беспокоиться о рейтингах сети, обзорах аудитории или сенсационность.[51] Группы альт-правых могут разделять и убеждать других в своих противоречивых убеждениях настолько прямо и дерзко, насколько они хотят, на любой платформе, которая могла сыграть роль в выборах 2016 года. Хотя исследование не могло сделать вывод о том, как именно повлияло на выборы, но предоставило обширное исследование характеристик манипуляции со СМИ и троллинг.[51]

Дискриминационные высказывания и лингвистическое профилирование в онлайн-играх

Профессор и геймер Кишонна Л. Грей изучал межсекторальные угнетения в онлайн-игры сообщество и призвал Microsoft и разработчиков игр, чтобы «критически оценить опыт нетрадиционных игроков в онлайн-сообществах ... признать разнообразие... [и что] игровое население по умолчанию использует гегемонию белизна и мужественность в ущерб небелым и / или немужским пользователям в пространстве ".[52] Грей осмотрел сексизм и расизм в онлайн-игры сообщество. Геймеры пытаются определить пол, сексуальную ориентацию и этническую принадлежность своих товарищей по команде и противников с помощью лингвистическое профилирование, когда других игроков не видно.[52] Из-за напряженной атмосферы виртуальная игровая сфера, а также неспособность быть невидимыми, обнаруженными или физически противостоять, геймеры, как правило, говорят в виртуальной игре вещи, которые они, вероятно, не сказали бы в общественных местах. Многие игроки из маргинализированных сообществ отошли от глобальной игровой сети и присоединились к "кланы, "которые состоят только из игроков того же пола, сексуальной ориентации и / или этнической принадлежности, чтобы избежать дискриминация во время игры. Исследование показало, что 78 процентов всех онлайн-игроков играют в «гильдиях», которые представляют собой небольшие группы игроков, подобные «гильдиям».кланы." [53] Один из самых заметных »кланы, "Puerto Reekan Killaz, создали онлайн-игровое пространство, где черные и латиноамериканские женщины из сообщества LGBTQIA + могут играть без риска расизм, нативизм, гомофобия, сексизм, и сексуальное домогательство.[52]

Помимо языка вражды, профессор и геймер Лиза Накамура обнаружила, что многие геймеры испытали индивидуальный туризм - когда человек или группа притворяются членами другой группы - как Накамура заметил, что белые игроки-мужчины играют как японцы "гейша " женщины.[54] Идентичность Туризм часто приводит к стереотипы, дискриминация, и культурное присвоение.[54] Накамура призвал игровое онлайн-сообщество признать кибертипирование - «способ распространения, распространения и распространения информации в Интернете. превращает в товар образы расы и расизма ".[55]

Антикитайская риторика, используемая исполнителями антиазиатской ненависти

По состоянию на август 2020 года более 2500 Американцы азиатского происхождения сообщили, что столкнулись с расизмом, вызванным COVID-19, согласно данным Stop AAPI (Asian-American / Pacific Islander) Hate, 30,5% этих случаев содержат антикитайскую риторику. Язык, используемый в этих инцидентах, разделен на пять категорий: яростная враждебность, козел отпущения Китая, антииммигрантский нативизм, расистские характеристики китайцев и расовые оскорбления. 60,4% этих зарегистрированных инцидентов подпадают под категорию яростной враждебности, которая включает такие фразы, как «убери от меня своего китайца **!»[56]

Мьянма

Интернет растет беспрецедентными темпами. Мьянма переходит в сторону большей открытости и доступа, что приводит к негативным последствиям в социальных сетях, таким как использование языка вражды и призывы к насилию.[57] В 2014 г. Совет ООН по правам человека Специальный докладчик по вопросам меньшинств выразила обеспокоенность по поводу распространения дезинформация, язык вражды и подстрекательство к насилию, дискриминация и враждебность в СМИ и Интернете, особенно направленные против меньшинств.[4] Растущая напряженность в Интернете шла параллельно со случаями фактического насилия, в результате которого сотни людей погибли, а тысячи были перемещены.[58] Одна из проблем в этом процессе касается этнических и религиозных меньшинств. В 2013 году 43 человека погибли в результате столкновений, возникших после спора в Штат Ракхайн в западной части страны.[58] Годом ранее более 200 человек были убиты и 37 тысяч были вынуждены покинуть свои дома из-за этнического насилия, вспыхнувшего после предполагаемого случая изнасилования.[59] На этом фоне быстрое появление новых онлайн-пространств, хотя и для небольшой части населения, отразило некоторые из этих глубоко укоренившихся противоречий в новой форме.[2]

Проблема нетерпимости и разжигания ненависти в Интернете становится все более актуальной. Facebook быстро стал предпочтительной платформой для тех граждан, которые делают первые шаги в Интернете. В этой среде были отдельные лица и группы, которые отстаивали более агрессивное использование медиума, особенно когда они чувствовали себя защищенными чувством праведности и утверждениями, что действуют в защиту праведности. Национальный интерес. Политические деятели также использовали онлайн-СМИ для определенных целей. В социальных сетях использовались уничижительные термины по отношению к меньшинствам.[60] В этой сложной ситуации начали мобилизоваться самые разные участники, стремясь предложить ответные меры, которые помогут избежать дальнейшего насилия. Facebook стремится играть более активную роль в мониторинге использования платформы социальных сетей в Мьянме, разрабатывая партнерские отношения с местными организациями и обеспечение доступа к руководствам по сообщению о проблемах на бирманском языке.[61][2]

Местное гражданское общество решительно осуждает распространение ненавистнических высказываний в Интернете, но в то же время призывает искать альтернативы этому. цензура. Среди самых новаторских ответов был Panzagar, что на бирманском означает «цветочная речь», кампания, начатая блоггером и активистом. Нет телефон латт открыто выступать против разжигания ненависти. Целью инициативы было показать радостный пример того, как люди могут взаимодействовать как онлайн, так и офлайн.[62] Местные активисты были сосредоточены на местных решениях, а не пытались мобилизовать глобальное гражданское общество по этим вопросам. Это контрастирует с некоторыми другими онлайн-кампаниями, которые смогли привлечь внимание мира к относительно забытым проблемам. Инициативы, подобные тем, которые продвигают Коалиция спасения Дарфура для гражданская война в Судане, или организация Невидимые дети с Кони2012 кампании, осуждающей зверства, совершенные Лорд Армия Сопротивления, являются популярными примерами. Как указывается в комментариях к этим кампаниям, такие глобальные ответные меры могут иметь негативные последствия для способности находить локальные решения.[63]

Частные компании

Интернет-посредники разработали разрозненные определения языка вражды и инструкции по его регулированию. Некоторые компании не используют термин «язык вражды», но имеют описательный список связанных с ним терминов.[2]

Yahoo!

Yahoo! Условия использования запрещают размещение "контента, который незаконный, вредный, угрожающий, оскорбительный, преследование извилистый, дискредитирующий, вульгарный, непристойный, клеветнический, посягательство на частную жизнь другого человека, вызывающее ненависть или нежелательное по расовому, этническому или иным признакам ".[64]

Twitter

В декабре 2017 г. Twitter начали применять новую политику в отношении разжигания ненависти, запретить несколько учетных записей, а также установить новые правила для того, что будет разрешено на их платформе.[65] В Справочном центре Twitter есть целая страница, посвященная описанию их Политики враждебного поведения, а также их процедур обеспечения соблюдения. В верхней части этой страницы говорится: «Свобода выражения мнений мало что значит, если голоса заглушаются из-за того, что люди боятся высказаться. Мы не терпим поведения, которое беспокоит, запугивает или использует страх, чтобы заставить замолчать другого человека. Если вы видите в Твиттере что-то такое, нарушает эти правила, сообщите нам об этом ". Определение Twitter язык вражды варьируется от «угроз насилия» и «пожеланий физического вреда, смерти или болезни отдельных лиц или групп» до «повторяющихся и / или несогласованных оскорблений, эпитетов, расистских и сексистских стереотипов или другого контента, унижающего достоинство человека».

Наказания за нарушения варьируются от приостановки возможности пользователя твитнуть до тех пор, пока он не удалит свой оскорбительный / ненавистный пост, до полного удаления аккаунта. В заявлении, сделанном после введения в действие их новой политики, Twitter сказал: «В наших усилиях быть более агрессивными здесь мы можем допустить некоторые ошибки и работаем над надежным процессом апелляции». . . «Мы будем оценивать и повторять эти изменения в ближайшие дни и недели, и будем держать вас в курсе прогресса».[66] Эти изменения происходят в то время, когда принимаются меры по предотвращению разжигания ненависти по всему миру, включая новые законы в Европе, которые предусматривают штрафы для сайтов, которые не могут язык вражды отчеты в течение 24 часов.[67]

YouTube

YouTube, дочерняя компания технологической компании Google, позволяет легко распространение контента и доступ для любого создателя контента, что создает возможность для аудитории получать доступ к контенту, который смещается вправо или влево от 'умеренный 'идеология, распространенная в основные СМИ.[68] YouTube предоставляет стимулы для популярных создателей контента, побуждая некоторых создателей оптимизировать[необходимо разрешение неоднозначности ] то YouTuber опыт и пост шокирующий контент, который может пропагандировать экстремистские, ненавистнические идеи.[68][69] Разнообразие контента и монетизация на YouTube направляет широкую аудиторию на потенциально опасный контент экстремистов.[68][69] YouTube позволяет авторам лично рекламировать себя, позволяя молодым подписчикам формировать парасоциальные отношения с ними и действовать в качестве «постоянных» клиентов.[69] В 2019 году YouTube демонетизировал политические аккаунты,[70] но у радикальных создателей контента все еще есть свои каналы и подписчики чтобы поддерживать их культурную значимость и финансовую устойчивость.[69]

YouTube изложил четкую «Политику разжигания ненависти» среди нескольких других пользовательских политик на своем веб-сайте.[71] Политика сформулирована следующим образом: «Мы поощряем свободу слова и пытаемся защитить ваше право выражать непопулярные точки зрения, но мы не разрешаем разжигание ненависти. Разжигание ненависти относится к контенту, который пропагандирует насилие против или имеет основной целью подстрекательство к ненависть к отдельным лицам или группам на основе определенных атрибутов, таких как раса или этническое происхождение, религия, инвалидность, пол, возраст, статус ветерана, сексуальная ориентация / гендерная идентичность ". YouTube встроил систему сообщений о пользователях, чтобы противодействовать растущей тенденции к разжиганию ненависти.[72] Среди самых популярных средств сдерживания языка ненависти пользователи могут анонимно сообщать другому пользователю о содержании, которое они считают неприемлемым. Затем контент проверяется на соответствие политике YouTube и возрастным ограничениям и либо удаляется, либо остается в покое.

Facebook

Facebook Условиями запрещены контент, который является вредоносным, угрожающим или потенциально разжигающим ненависть и подстрекательство к насилию. В своих стандартах сообщества Facebook уточняет, что «Facebook удаляет язык ненависти, который включает контент, который напрямую атакует людей на основании их расы, этнической принадлежности, национального происхождения, религиозной принадлежности, сексуальной ориентации, пола, пола или гендерной идентичности или серьезных инвалидность или болезни."[73] Далее в нем говорится, что «Мы разрешаем юмор, сатира или социальные комментарии, связанные с этими темами, и мы считаем, что, когда люди используют свою подлинную личность, они более ответственны, когда они делятся такими комментариями. По этой причине мы просим владельцев страниц связывать свое имя и профиль Facebook с любым нечувствительным контентом, даже если этот контент не нарушает наши политики. Как всегда, мы призываем людей осознавать свою аудиторию, делясь этим типом контента ».[73]

Instagram, платформа для обмена фотографиями и видео, принадлежащая Facebook, имеет те же принципы разжигания ненависти, что и Facebook, но не разделен на уровни. Правила сообщества Instagram также запрещают дезинформацию, наготу, самоповреждение, прославление и размещение контента, защищенного авторским правом, без разрешения.[74]

Политика Facebook в отношении языка вражды соблюдается 7500 обозревателями контента, а также многими мониторами искусственного интеллекта. Поскольку это требует принятия трудных решений, среди рецензентов возникают разногласия по поводу соблюдения политик. Некоторым пользователям кажется, что их соблюдение непоследовательно. Один удачный пример из прошлого - два отдельных, но схожих графических сообщения, в которых желали смерти членам определенной религии. Оба сообщения были отмечены пользователями и рассмотрены сотрудниками Facebook. Однако был удален только один, хотя они несли почти идентичные настроения.[75] В цитате о разжигании ненависти на платформе вице-президент Facebook по глобальным операциям Джастин Ософки заявил: «Приносим извинения за допущенные нами ошибки - они не отражают то сообщество, которое мы хотим помочь построить ... Мы должны работать лучше. "[76]

Были дополнительные споры из-за специфики Facebook язык вражды политики. Во многих случаях поступали сообщения об обновлениях статуса и комментарии, которые пользователи считали бесчувственными и выражали ненависть. Однако эти сообщения технически не нарушают никаких политик Facebook, потому что их речь не атакует других на основе списка защищенных классов компании. Например, утверждение «Спортивным репортерам-женщинам нужно бить хоккейными шайбами ​​по голове» не будет считаться разжиганием ненависти на платформе Facebook и, следовательно, не будет удалено.[77] Хотя компания защищает от ненависти по признаку пола, она не защищает от ненависти по роду занятий.

Facebook обвиняли в предвзятости при пресечении разжигания ненависти, цитируя рекламные кампании политических кампаний, которые могут пропагандировать ненависть или дезинформацию, оказавшую влияние на платформу.[14] Facebook скорректировал свою политику после того, как получил негативную реакцию, обвинения, и крупные корпорации убрали свою рекламу с платформы в знак протеста против вольной обработки платформой ненавистнических высказываний и дезинформации.[14] С 2020 года в рекламе политических кампаний есть функция «флаг», которая отмечает, что контент заслуживает освещения в печати, но может нарушать некоторые принципы сообщества.[14]

Facebook также пытается приспособить пользователей, которые продвигают другой контент, разжигающий ненависть, с целью его критики. В этих случаях пользователи должны четко дать понять, что их намерение - обучать других. Если это намерение неясно, Facebook оставляет за собой право подвергать контент цензуре.[78] Когда Facebook первоначально отмечает контент, который может содержать язык вражды, он затем присваивает ему шкалу Уровня 1, 2 и 3 в зависимости от серьезности контента. Уровень 1 - самый серьезный, а уровень 3 - самый низкий. Уровень 1 включает все, что выражает «агрессивные высказывания или поддержку смерти / болезни / вреда».[79] Уровень 2 классифицируется как контент, который клевещет на изображение другого пользователя мысленно, физически или морально.[80] Уровень 3 включает все, что потенциально может исключать или дискриминировать других, или что использует оскорбления в отношении защищенных групп, но не обязательно относится к аргументам для ограничения иммиграции или критики существующей иммиграционной политики.[80]

В марте 2019 года Facebook запретил контент, поддерживающий белый национализм и белый сепаратизм, продлевая предыдущий запрет белое превосходство содержание.[81] В мае 2019 года он объявил о запрете нескольких известных людей за нарушение запрета на разжигание ненависти, в том числе Алекс Джонс, Луи Фаррахан, Майло Яннопулос, Лаура Лумер, и Пол Нелен.[82]

В 2020 году Facebook добавил к уровню 1 правила, запрещающие черное лицо, расовые сравнения с животными, расовые или религиозные стереотипы, отрицание исторических событий и объективация женщин и ЛГБТКИА + сообщество.[83]

В 2020 году количество враждебных высказываний в Facebook и Instagram увеличилось в четыре раза, что привело к удалению 22,5 миллиона сообщений в Facebook и 3,3 миллиона сообщений в Instagram только во втором квартале 2020 года.[14]

Microsoft

Microsoft имеет особые правила в отношении языка ненависти для различных Приложения. это политика для мобильных телефонов запрещает приложения, которые "содержат любой контент, пропагандирующий дискриминацию, ненависть или насилие по соображениям расы, этнической принадлежности, национального происхождения, языка, пола, возраста, инвалидности, религии, сексуальной ориентации, статуса ветерана или членства в любая другая социальная группа ".[84] У компании также есть правила в отношении онлайн-игр, которые запрещают любое общение, указывающее на «язык вражды, спорные религиозные темы и важные текущие или исторические события».[85]

ТИК Так
"Facebook ненавидит Google+ ???" от Frederick Md Publicity имеет лицензию CC BY 2.0. Чтобы просмотреть копию этой лицензии, посетите https://creativecommons.org/licenses/by/2.0/

ТИК Так не хватает четких руководящих принципов и контроля над языком вражды, что позволяет издевательства, преследование, пропаганда, и язык вражды, чтобы стать частью нормального дискурса о ТИК Так. Ультраправые группы ненависти, террористические организации и педофилы процветают. ТИК Так путем распространения и разжигания ненависти среди 13-летней аудитории.[86] Дети наивны и легко поддаются влиянию других людей и сообщений, поэтому они с большей вероятностью будут слушать и повторять то, что им показывают или говорят.[87] В Интернете нет чрезмерно контролируемого пространства, которое гарантирует безопасность детей, поэтому, пока Интернет является общедоступным, дети и подростки неизбежно сталкиваются с языком вражды.[87] Отсюда у молодых подростков есть тенденция позволять своему любопытству вести их к продвижению своего интереса и исследованию радикальных идей.[87]

Однако дети не могут нести ответственность за свои действия так, как взрослые могут и должны.[87] возлагая вину не только на человека, разместившего вульгарный контент, но и на саму платформу социальных сетей. Следовательно, ТИК Так критикуют за то, что они разжигают ненависть на платформе. В то время как ТИК Так запрещает издевательства, преследование, а также любые вульгарные или разжигающие ненависть высказывания в Условиях использования, ТИК Так не проявлял активности достаточно долго, чтобы разработать эффективный метод мониторинга этого контента.[86] Другие платформы социальных сетей, такие как Instagram, Twitter, и Facebook достаточно долго проявляют активность, чтобы знать, как бороться с языком ненависти и вульгарным контентом в Интернете,[86] но аудитория на этих платформах достаточно взрослая, чтобы нести ответственность за распространяемые ими сообщения.[87]

ТИК Так с другой стороны, он должен взять на себя некоторую ответственность за контент, распространяемый среди своей молодой аудитории.[86] ТИК Так пользователи должны быть не моложе 13 лет, однако от этого требования можно легко отказаться, поскольку приложения не могут физически получить доступ к возрасту пользователей. Исследователь Роберт Марк Симпсон пришел к выводу, что борьба с ненавистническими высказываниями в СМИ, нацеленных на молодежь, «может больше походить на правила, регулирующие развлечения для взрослых, чем на запрет отрицания Холокоста».[87]

Медиа и информационная грамотность

Основная статья: Медиаграмотности

Медиа и информационная грамотность направлен на то, чтобы помочь людям участвовать в цифровое общество благодаря способности использовать, понимать, исследовать, создавать, общаться и мыслить критически; имея возможность эффективно получать доступ, организовывать, анализировать, оценивать и создавать сообщения в различных формах.[88]

Гражданство Образование фокусируется на подготовке людей к информированию и к ответственным гражданам посредством изучения прав, свобод и обязанностей, и оно по-разному использовалось в обществах, переживших жестокие конфликты.[89] Одна из его основных целей - повышение осведомленности о политических, социальных и культурных правах отдельных лиц и групп, в том числе Свобода слова а также связанные с этим обязанности и социальные последствия. Озабоченность гражданское образование с языком ненависти двоякий: он включает в себя знания и навыки для выявления языка ненависти и должен позволять людям противодействовать сообщениям ненависти.[90] Одна из текущих задач - адаптировать свои цели и стратегии к цифровому миру, обеспечивая не только аргументированный но также технологический знания и навыки, которые могут понадобиться гражданину для противодействия разжиганию ненависти в Интернете.[2]

Информационная грамотность невозможно избежать таких проблем, как право на свободное выражение мнений и неприкосновенность частной жизни, критическое гражданство и содействие расширение прав и возможностей для политическое участие.[91] Критическое значение приобретает множественная и дополнительная грамотность. Появление новых технологий и социальных сетей сыграло важную роль в этом сдвиге. Люди эволюционировали из потребители медийных сообщений производителям, создателям и кураторам информации, в результате чего появляются новые модели участия, которые взаимодействуют с традиционными, например голосование или присоединиться к политическая партия. Соответственно меняются стратегии обучения: от поощрения критического восприятия медиа-сообщений до расширения возможностей для создания медиа-контента.[92]

Само понятие медийной и информационной грамотности продолжает развиваться, дополняя его динамикой Интернета. Он начинает охватывать вопросы идентичность, этика и права в киберпространство.[93] Некоторые из этих навыков могут быть особенно важны при выявлении языка вражды в Интернете и реагировании на него.

Серия инициатив, направленных как на предоставление информации, так и практических инструментов для активности пользователей Интернета. цифровые граждане:

Образование также рассматривается как инструмент против разжигания ненависти. Лаура Джерати из «Движения против разжигания ненависти» подтвердила: «Образование является ключом к предотвращению разжигания ненависти в Интернете. Необходимо повышать осведомленность и расширять возможности людей для ответственного выхода в Интернет; однако вам по-прежнему необходимы правовая база и инструменты, чтобы преследовать преступления на почве ненависти, включая разжигание ненависти в Интернете, иначе превентивный аспект не поможет ».[95][2]

Источники

Определение логотипа бесплатных произведений культуры notext.svg Эта статья включает текст из бесплатный контент Работа. Лицензия CC BY SA 3.0 IGO Заявление о лицензии / разрешение на Wikimedia Commons. Текст взят из Противодействие разжиганию ненависти в Интернете, 73, Иджинио Гальярдоне, Данит Гал, Тьяго Алвес, Габриэла Мартинес, ЮНЕСКО. ЮНЕСКО. Чтобы узнать, как добавить открытая лицензия текст статей в Википедии, см. эта страница с инструкциями. Для получения информации о повторное использование текста из Википедии, посмотри пожалуйста условия использования.

использованная литература

  1. ^ Johnson, N.F .; Leahy, R .; Johnson Restrepo, N .; Velasquez, N .; Чжэн, М .; Manrique, P .; Devkota, P .; Учти, С. (21 августа 2019 г.). «Скрытая устойчивость и адаптивная динамика глобальной онлайн-экологии ненависти». Природа. Исследования природы. 573 (7773): 261–265. Дои:10.1038 / s41586-019-1494-7. PMID  31435010.
  2. ^ а б c d е ж г час я j k л м п о п q р s т ты v ш Икс у Гальярдоне, Иджинио; Гал, Данит; Алвес, Тьяго; Мартинес, Габриэла (2015). Противодействие разжиганию ненависти в Интернете. http://unesdoc.unesco.org/images/0023/002332/233231e.pdf: ЮНЕСКО. п. 75.CS1 maint: location (ссылка на сайт)
  3. ^ а б Уолдрон, Джереми (2012). Вред в языке ненависти. Издательство Гарвардского университета. ISBN  978-0-674-06589-5.
  4. ^ а б Иссак, Рита (2015). Доклад Специального докладчика по вопросам меньшинств Риты Ижак. Совет по правам человека.
  5. ^ См. Совет Европы, «Картографическое исследование проектов по борьбе с разжиганием ненависти в Интернете», 15 апреля 2012 г. См. Также интервью: Кристин Чен, старший менеджер по государственной политике, Google, 2 марта 2015 г .; Моника Бикерт, руководитель отдела глобального управления политикой, Facebook, 14 января 2015 г.
  6. ^ См. HateBase, статистику разжигания ненависти, http://www.hatebase.org/popular
  7. ^ Интервью: Андре Оболер, генеральный директор Online Hate Prevention Institute, 31 октября 2014 г.
  8. ^ Мэтью, Бинни; Датт, Ритам; Гоял, Паван; Мукерджи, Анимеш. Распространение языка вражды в социальных сетях онлайн. ACM WebSci 2019. Бостон, Массачусетс, США: ACM. arXiv:1812.01693.
  9. ^ Цитрон, Даниэль Китс; Нортон, Хелен Л. (2011). «Посредники и язык вражды: содействие цифровому гражданству в наш информационный век». Обзор права Бостонского университета. Рочестер, штат Нью-Йорк. 91.
  10. ^ Интервью: Дрю Бойд, директор по операциям, Проект Sentinel по предотвращению геноцида, 24 октября 2014 г.
  11. ^ Филлипс, Уитни (2015). Вот почему у нас не может быть хороших вещей: отображение взаимосвязи между онлайн-троллингом и основной культурой. MIT Press.
  12. ^ Марвик, Алиса; Льюис, Ребекка (2017). Манипуляции со СМИ и дезинформация в Интернете. Институт данных и исследований общества.
  13. ^ Бэнкс, Джеймс (ноябрь 2010 г.). «Регулирование разжигания ненависти в Интернете». Международный обзор права, компьютеров и технологий. 24: 4–5.
  14. ^ а б c d е «Количество ненавистных сообщений в Facebook и Instagram растет». Удача. Получено 2020-11-21.
  15. ^ а б Грей, Мэри; Сури, Сиддхарт (2019). ПРИЗРАЧНАЯ РАБОТА: как помешать Кремниевой долине создать новый глобальный низший класс. Нью-Йорк: Houghton Mifflin Harcourt.
  16. ^ Меддо, Присцилла Мари; Кей, Джек (30 октября 2009 г.). «Разжигание ненависти или« Разумный расизм? »« Другой в Stormfront ». Журнал этики СМИ. 24 (4): 251–268. Дои:10.1080/08900520903320936. ISSN  0890-0523.
  17. ^ а б Боуман-Грив, Лотарингия (30 октября 2009 г.). "Изучение" Stormfront ": виртуальное сообщество радикальных правых". Исследования в области конфликтов и терроризма. 32 (11): 989–1007. Дои:10.1080/10576100903259951. ISSN  1057-610X.
  18. ^ Нобата, Чикаши; Tetreault, J .; Thomas, A .; Мехдад, Яшар; Чанг, И (2016). «Обнаружение ненормативной лексики в пользовательском онлайн-контенте». WWW. Дои:10.1145/2872427.2883062.
  19. ^ а б Костер, Виллем Де; Хаутман, Дик (2008-12-01). "'Штормовой фронт для меня как второй дом'". Информация, коммуникация и общество. 11 (8): 1155–1176. Дои:10.1080/13691180802266665. ISSN  1369–118X.
  20. ^ Коэн-Альмагор, Рафаэль (2018). «Серьезное отношение к североамериканским группам сторонников превосходства белой расы: масштабы и проблема языка вражды в Интернете». Международный журнал преступности, справедливости и социал-демократии. 7: 9.
  21. ^ а б «Всеобщая декларация прав человека». Организация Объединенных Наций. 1948.
  22. ^ Лиллих, Ричард Б. (апрель 1995 г.). "Пакт ООН о гражданских и политических правах. Комментарий КПЧ. Манфреда Новака. Кель, Страсбург, Арлингтон, Вирджиния: Н. П. Энгель, Издатель, 1993. Стр. Xxviii, 939. Указатель, $ 176; 112 фунтов стерлингов;. Американский журнал международного права. 89 (2): 460–461. Дои:10.2307/2204221. ISSN  0002-9300.
  23. ^ Лео, Леонард А .; Gaer, Felice D .; Кэссиди, Элизабет К. (2011). «Защита религий от диффамации: угроза универсальным стандартам прав человека». Гарвардский журнал права и государственной политики. 34: 769.
  24. ^ Комитет по правам человека. Общий комментарий № 11, статья 20: Запрещение пропаганды войны и разжигания национальной, расовой или религиозной ненависти, 29 июля 1983 г., п. 2. В 2011 году Комитет разъяснил свои взгляды на взаимосвязь статей 19 и 20, подтвердив, что положения дополняют друг друга и что статья 20 «может рассматриваться как lex specialis в отношении статьи 19». Комитет по правам человека. Общий комментарий № 34, Статья 19: Свобода мнений и их свободное выражение, CCPR / C / GC / 34, 12 сентября 2011 г., пп. 48-52.
  25. ^ Статья 19 (3) МПГПП.
  26. ^ Даже Комитет по правам человека, который рассматривал дела, касающиеся статьи 20, уклонился от определения подстрекательства к ненависти. Совет по правам человека. Разжигание расовой и религиозной ненависти и поощрение терпимости: доклад Верховного комиссара по правам человека, A / HRC / 2/6, 20 сентября 2006 г., п. 36.
  27. ^ Фориссон против Франции, C. Особое мнение Элизабет Эватт и Дэвида Крецмера, подписанное Эккартом Кляйном (соглашается), п. 4.
  28. ^ Совет по правам человека. Доклад Верховного комиссара Организации Объединенных Наций по правам человека, добавление, семинар экспертов о связях между статьями 19 и 20 Международного пакта о гражданских и политических правах, A / HRC / 10/31 / Add.3, 16 января 2009 г., п. 1.
  29. ^ Доклад Верховного комиссара по правам человека, A / HRC / 2/6, п. 39;
  30. ^ Комитет по ликвидации расовой дискриминации, Общая рекомендация 29, Дискриминация по признаку происхождения (Шестьдесят первая сессия, 2002 г.), Док. A / 57/18 at 111 (2002), перепечатано в Сборнике общих комментариев и общих рекомендаций, принятых договорными органами по правам человека, Док. HRI GEN 1 Rev.6 at 223 (2003), пп. r, s и t
  31. ^ Статья 2 CEDAW.
  32. ^ Общая рекомендация № 28 об основных обязательствах государств-участников согласно статье 2 Конвенции о ликвидации всех форм дискриминации в отношении женщин Пара. 19
  33. ^ Межамериканская комиссия по правам человека. Межамериканская декларация принципов свободы выражения мнения, 20 октября 2000 г., п. 7.
  34. ^ Межамериканская комиссия по правам человека, Консультативное заключение OC-5/85, 13 ноября 1985 г., п. 39
  35. ^ а б Межамериканская комиссия по правам человека, Консультативное заключение OC-5/85, 13 ноября 1985 г., п. 39.
  36. ^ Вилджоэн, Франс (2007). Международное право прав человека в Африке. Оксфорд: Издательство Оксфордского университета.
  37. ^ Африканская комиссия по правам человека и народов. Декларация принципов свободы слова в Африке, 32-я сессия, Банжул, 17–23 октября 2002 г.
  38. ^ Организация исламского сотрудничества, Шестой отчет обсерватории ОИК по исламофобии, представлен 40-му Совету министров иностранных дел, Конакри, Гвинейская Республика, декабрь 2013 г., стр. 31.
  39. ^ Лига арабских государств, Арабская хартия прав человека, 22 мая 2004 г., вступила в силу 15 марта 2008 г., п. 32 (1)
  40. ^ Лига арабских государств, Арабская хартия прав человека, 22 мая 2004 г., вступила в силу 15 марта 2008 г., п. 32 (2).
  41. ^ Статья 7 Декларации прав человека АСЕАН.
  42. ^ Статья 54 Хартии основных прав Европейского Союза.
  43. ^ Статья 10 Европейской конвенции о правах человека.
  44. ^ Хэндисайд против Соединенного Королевства, 7 декабря 1976 г., п. 49. Другие дела о разжигании ненависти в Европейском суде можно найти по адресу: http://www.echr.coe.int/Documents/FS_Hate_speech_ENG.pdf В архиве 2019-10-18 в Wayback Machine 49
  45. ^ Рекомендация ЕКРН об общей политике № 6 «О борьбе с распространением расистских, ксенофобных и антисемитских материалов через Интернет», принятая 15 декабря 2000 г.
  46. ^ Совет Европы, Конвенция о киберпреступности, 23 ноября 2001 г., пункты 31–34.
  47. ^ Совет Европы, Дополнительный протокол к Конвенции о киберпреступности, касающийся криминализации актов расистского и ксенофобского характера, совершаемых через компьютерные системы, 28 января 2003 г., статья 5, п. 1.
  48. ^ Маккиннон, Дэвид; Лемье, Кристофер; Бизли, Карен; Вудли, Стивен (ноябрь 2015 г.). «Целевая задача 11 в области сохранения и устойчивого использования биоразнообразия, Канада и Айти: понимание« других эффективных мер по сохранению биоразнообразия на основе районов »в контексте более широкой целевой задачи». Биоразнообразие и сохранение. 24 - через ResearchGate.
  49. ^ а б Организация Объединенных Наций (2011 г.). Руководящие принципы бизнеса и прав человека. Нью-Йорк: Офис нового комиссара.
  50. ^ а б c d е Перрин, Эндрю (15 октября 2020 г.). «23% пользователей в США говорят, что социальные сети заставили их изменить взгляды на проблему; некоторые ссылаются на Black Lives Matter». Pew Research Center. Получено 2020-11-22.
  51. ^ а б Марвик, Алиса; Льюис, Ребекка (2017). Манипуляции со СМИ и дезинформация в Интернете. Институт данных и исследований общества.
  52. ^ а б c Грей, Кишонна (2012). «ПЕРЕСЕЧЕНИЕ УГНЕНИЙ И ИНТЕРНЕТ-СООБЩЕСТВ». Информация, коммуникация и общество. 15: 411–428 - через Тейлора и Фрэнсиса.
  53. ^ Сэй, А. Флеминг; Джером, Уильям Дж .; Ли, Кевин Санг; Краут, Роберт Э. (2004-04-24). «Массовый проект: исследование игровых онлайн-сообществ». CHI '04 Расширенные рефераты по человеческому фактору в вычислительных системах. ЧИ EA '04. Вена, Австрия: Ассоциация вычислительной техники: 1421–1424. Дои:10.1145/985921.986080. ISBN  978-1-58113-703-3.
  54. ^ а б Накамура, Лиза (2002). «После образов идентичности: гендер, технология и политика идентичности». Перезагрузка: Переосмысление женщин + киберкультура: 321–331 - через MIT Press.
  55. ^ Накамура, Лиза (2002). Кибертипы: раса, этническая принадлежность и идентичность в Интернете. Нью-Йорк: Рутледж.
  56. ^ Джунг, Рассел; Попович, Тара; Лим, Ричард; Лин, Нельсон (2020). "АНТИКИТАЙСКАЯ РИТОРИКА ИСПОЛЬЗУЕТСЯ ПЕРСПЕКТИВАМИ АНТИАЗИАТСКОЙ НЕНАВИСТИ" (PDF). Азиатско-Тихоокеанский совет по политике и планированию.
  57. ^ Херевард Холланд, «Facebook в Мьянме: усиление разжигания ненависти?», Аль-Джазира, 14 июня 2014 г., http://www.aljazeera.com/indepth/features/2014/06/facebook-myanmar-rohingya-amplifying-hatespeech-2014612112834290144.html
  58. ^ а б «Почему в Мьянме наблюдается насилие в общинах?», BBC, 3 июля 2014 г. https://www.bbc.co.uk/news/worldasia-18395788
  59. ^ Эндрю Маршалл, "Специальный доклад: бедственное положение мусульманского меньшинства угрожает весне в Мьянме", Рейтер, 15 июня 2012 г., https://www.reuters.com/article/2012/06/15/us-myanmar-rohingya-idUSBRE85E06A20120615
  60. ^ Эрика Кинец, «Новая нумерология ненависти растет в Бирме», Иравади, 29 апреля 2013 г. http://www.irrawaddy.org/religion/new-numerology-of-hate-grows-in-burma.html. Херевард Холланд, «Facebook в Мьянме: усиление разжигания ненависти?», Аль-Джазира, 14 июня 2014 г .; Стивен Кирсонс, «Колониальные истоки языка вражды в Бирме», проект Sentinel, 28 октября 2013 г., https://thesentinelproject.org/2013/10/28/the-colonial-origins-of-hate-speech-in-burma/ ., http://www.aljazeera.com/indepth/features/2014/06/facebook-myanmar-rohingya-amplifying-hate-speech-2014612112834290144.html
  61. ^ Тим Маклафлин, «Facebook принимает меры по борьбе с разжиганием ненависти», The Myanmar Times, 25 июля 2014 г. http://www.mmtimes.com/index.php/national-news/11114-facebook-standards-marked-for-translation.html
  62. ^ Сан Ямин Аунг, «Бирманский интернет-активист обсуждает кампанию против разжигания ненависти», Irrawaddy, http://www.irrawaddy.org/interview/hate-speech-pours-poison-heart.html
  63. ^ Георг, Шомерус (13.01.12). «Эволюция общественного отношения к психическим заболеваниям: систематический обзор и метаанализ». Acta Psychiatrica Scandinavica. 125: 423–504 - через онлайн-библиотеку Wiley. Проверить значения даты в: | дата = (Помогите)
  64. ^ «Помощь для учетной записи Yahoo». help.yahoo.com. Получено 2019-06-28.
  65. ^ «Твиттер начинает применять новую политику в отношении насилия, жестокого обращения и ненавистнического поведения». Грани. Получено 2018-05-30.
  66. ^ "Политика ненавистнического поведения". Получено 2018-05-30.
  67. ^ "Германия вводит закон о разжигании ненависти". Новости BBC. 2018. Получено 2018-05-30.
  68. ^ а б c Манн, Люк (июль 2020 г.). «Злой по замыслу: токсичные коммуникации и техническая архитектура». ГУМАНИТАРНЫЕ И СОЦИАЛЬНЫЕ НАУКИ КОММУНИКАЦИИ. 7: 1–11 - через ResearchGate.
  69. ^ а б c d Мангер, Кевин; Филлипс, Джозеф (2019). Структура спроса и предложения для политики YouTube. Университетский парк: Политология штата Пенсильвания. С. 1–38.
  70. ^ «Наша постоянная работа по борьбе с ненавистью». blog.youtube. Получено 2020-11-21.
  71. ^ «Политика разжигания ненависти - Справка YouTube». support.google.com. Получено 2018-05-30.
  72. ^ «Сообщить о неприемлемом содержании - Android - Справка YouTube». support.google.com. Получено 2018-05-30.
  73. ^ а б «Стандарты сообщества | Facebook». www.facebook.com. Получено 2019-06-28.
  74. ^ «Правила сообщества | Справочный центр Instagram». www.facebook.com. Получено 2020-11-21.
  75. ^ Тобин, Ариана. «Неравномерное применение в Facebook правил разжигания ненависти позволяет оставаться в тени грязным сообщениям». Propublica.
  76. ^ Тобин, Ариана. «Неравномерное соблюдение в Facebook правил разжигания ненависти позволяет оставаться в тени грязным сообщениям».
  77. ^ Карлсен, Одри. «Что Facebook считает разжиганием ненависти? Пройдите нашу викторину». Нью-Йорк Таймс.
  78. ^ «Стандарты сообщества: нежелательное содержание».
  79. ^ Миллс, Крис. «Это то, что Facebook не позволит вам публиковать».
  80. ^ а б «Принципы сообщества: нежелательное содержание».
  81. ^ «Facebook запрещает контент белого национализма и сепаратизма со своих платформ». NPR.org. Получено 2019-06-28.
  82. ^ «Facebook запрещает Алекса Джонса, Луи Фаррахана и других« опасных »лиц». NPR.org. Получено 2019-06-28.
  83. ^ «Последние обновления стандартов сообщества | Facebook». www.facebook.com. Получено 2020-11-21.
  84. ^ «Политика в отношении содержания». msdn.microsoft.com. Получено 2019-06-28.
  85. ^ «Стандарты сообщества Xbox | Xbox». Xbox.com. Получено 2019-06-28.
  86. ^ а б c d Вейманн, Габриэль; Масри, Натали (19.06.2020). «Примечание к исследованию: распространение ненависти в TikTok». Исследования в области конфликтов и терроризма. 0 (0): 1–14. Дои:10.1080 / 1057610X.2020.1780027. ISSN  1057-610X.
  87. ^ а б c d е ж Симпсон, Роберт Марк (01.02.2019). "'Кто-нибудь, пожалуйста, подумает о детях? Разжигание вражды, причинение вреда и детство ". Закон и философия. 38 (1): 79–108. Дои:10.1007 / s10982-018-9339-3. ISSN  1573-0522.
  88. ^ «Медиа и информационная грамотность». ЮНЕСКО. 2016-09-01. Получено 2019-06-28.
  89. ^ Ослер, Одри; Старки, Хью (2006). «Образование для демократической гражданственности: обзор исследований, политики и практики за 1995-2005 годы». Исследования в области образования. 24: 433–466 - через ResearchGate.
  90. ^ Мэтью, Бинни; Саха, Пуньяджой; Тарад, Хардик; Раджгария, Шубхам; Сингхания, Праджвал; Гоял, Паван; Мукерджи, Анимеш. Ты не должен ненавидеть: противодействие разжиганию ненависти в Интернете. ICWSM 2019. Мюнхен, Германия: AAAI. arXiv:1808.04409.
  91. ^ Моссбергер, Карен; Толберт, Кэролайн; Макнил, Рамона (2007). Цифровое гражданство: Интернет, общество и участие. MIT Press.
  92. ^ Хёхсманн, Майкл; Пойнтц, Стюарт (2012). Медиа-грамотность: критическое введение. Западный Сассекс: Blackwell Publishing.
  93. ^ См. Парижскую декларацию: Парижская декларация по МИГ в цифровую эпоху. http://www.unesco.org/new/en/communication-andinformation/resources/news-and-in-focus-articles/in-focus-articles/2014/paris-declaration-on-mediaand-information-literacy- принят /
  94. ^ «Движение против языка ненависти» - это региональная кампания, охватывающая 50 стран далеко за пределами Европейского континента. Хотя кампания преследует общие цели и разрабатывает совместные стратегии, конкретные проекты и инициативы в каждой стране являются обязанностью национальных координаторов и зависят от возможностей и ресурсов каждой страны.
  95. ^ Интервью: Лора Герати, Движение за запрещение языка ненависти, 25 ноября 2014 г.