Модерация онлайн-контента: борьба со злом или подавление инакомыслия?


Человек смотрит на экран компьютера © Getty Images

В последние месяцы все чаще звучит критика социальных сетей в связи с тем, как они модерируют контент пользователей на своих платформах.

Эти компании часто сталкиваются со сложными дилеммами в области прав человека: агрессивная борьба с контентом, который считается вредоносным, может ограничить свободу слова, которая должна быть защищена в соответствии с международным правом. Изменение или удаление контента затрагивает права на свободу выражения мнений и неприкосновенность частной жизни и может легко привести к цензуре.

Столкнувшись с потребностью обеспечить подотчетность, правительства многих стран приступили к регулированию контента в интернете. За последние два года в мире было принято около 40 новых законов по регулированию социальных сетей. Еще 30 находятся на рассмотрении.

Эта тенденция вызывает беспокойство в Управлении ООН по правам человека и имеет серьезные последствия для общественной дискуссии и участия.

Директор по тематической деятельности Управления ООН по правам человека Пегги Хикс считает, что почти в каждой стране, где приняты законы в области регулирования онлайн-контента, права человека оказались под угрозой.

«Это происходит потому, что правительства реагируют на общественное давление и торопятся принять простые меры для решения сложных проблем, – отметила Хикс на брифинге для прессы*, который состоялся неделю назад. – Кроме того, власти некоторых стран рассматривают такие законы как способ ограничить выражение тех мнений, которые они не поддерживают, а иногда и заставить замолчать гражданское общество и других инакомыслящих».

По ее словам, единственный путь решения этих проблем – применение подхода на основе прав человека.

«На фоне тенденции к принятию пагубных законов и распространению неприемлемой практики мы должны включить громкий и настойчивый сигнал тревоги».

Новые законы вызывают обеспокоенность

Из-за многочисленных расистских оскорблений в адрес чернокожих английских футболистов после финала Евро-2021 в Великобритании все чаще стали раздаваться призывы к принятию новых законов, регулирующих онлайн-пространство, причем как можно скорее.

При этом проект закона о безопасности в интернете, представленный в мае, содержит положения, которые могут привести к существенному ограничению свободы выражения мнений.

В феврале, после нескольких громких случаев подстрекательства к насилию в интернете, правительство Индии представило Руководство для посредников и Кодекс этики цифровых СМИ. Несмотря на то, что новые нормы накладывают на компании ряд важных обязательств, которые связаны с обеспечением прозрачности и возмещением ущерба, отдельные положения вызывают серьезную озабоченность.

Например, в соответствии с новыми нормами несудебные органы имеют право потребовать немедленно удалить контент, при этом повышаются риски привлечения компаний и их сотрудников к ответственности за несоблюдение правил. Более того, эти правила могут негативно отразиться на безопасном сквозном шифровании. Несколько споров в этой области уже дошли до индийских судов.

Управление ООН по правам человека также выражает обеспокоенность в связи с новыми законопроектами в других странах, включая Австралию*, Бразилию*, Бангладеш*, Францию*, Сингапур* и Танзанию*.

Хикс говорит, что у таких законов часто схожие проблемы и отсутствует четкое определение незаконного или вредоносного контента: «Основное внимание уделяется удалению контента, ограниченному судебному надзору, а на искусственный интеллект или алгоритмы возлагаются чрезмерные ожидания».

Блокировка социальных сетей

Тот факт, что соцсети стали сами помечать контент, привел к радикальным шагам со стороны правительств, в том числе к серьезным сбоям в работе платформ. В прошлом месяце правительство Нигерии объявило о приостановке работы «Твиттера» на неопределенный срок после того, как платформа удалила пост из аккаунта президента Бухари в связи с нарушением политики компании.

Через нескольких часов крупнейшие телекоммуникационные компании Нигерии заблокировали доступ к «Твиттеру» миллионам пользователей, а власти страны пообещали привлечь к ответственности всех, кто обойдет блокировку.

Управление ООН по правам человека обращает внимание на такие блокировки, поскольку они ограничивают доступ людей к информации, а также затрагивают другие права человека, включая право на труд, здоровье и образование. Они также наносят значительный ущерб экономике и подрывают развитие.

«И это не только вопрос прав и закона. Прозрачные правила в области модерации контента и выражение разных мнений важны для формирования доверия к институтам – одному из наиболее ценных «товаров» в демократическом обществе», – подчеркивает Хикс.

Закон ЕС о цифровых услугах: шаг к правильному регулированию

По оценкам Управления ООН по правам человека, решения, которые предстоит принять Европейскому Союзу в ближайшие месяцы, могут повлиять на цифровую политику во всем мире. Сейчас ЕС рассматривает проект Закона о цифровых услугах, в котором есть позитивные элементы: он опирается на правозащитные формулировки, содержит четкие требования к платформам относительно прозрачности, разработан при участии различных сторон.

Однако, по оценкам Управления ООН по правам человека, есть и противоречивые сигналы, в том числе связанные с риском того, что компании понесут чрезмерную ответственность за контент, создаваемый пользователями, и что судебный надзор будет ограничен. Кроме того, к процессу разработки законопроекта следует подключить больше участников.

Хикс призвала подойти к этому процессу с осторожностью: «Когда демократические страны начинают регулирование, это оказывает влияние на весь мир. Другие страны могут последовать их примеру. Интернет не имеет границ, и нам нужно стремиться к глобальному цифровому пространству, где люди могут безопасно осуществлять свои права».

Пять шагов для движения вперед

Для разрешения дилемм в области регулирования и модерации контента в интернете Управление ООН по правам человека предлагает государствам и компаниям рассмотреть пять мер.

Во-первых, Управление ООН по правам человека настаивает на том, чтобы регулирование было направлено на усовершенствование процессов модерации, а не на расширение ограничений контента.

Например, в сложных случаях решение должны принимать люди, а не алгоритмы.

Во-вторых, ограничения, которые вводят государства, должны опираться на законы, должны быть понятными, необходимыми, пропорциональными и недискриминационными.

В-третьих, компании должны продемонстрировать прозрачность в том, как они отслеживают и модерируют контент и делятся информацией, а государствам следует придерживаться прозрачности в своих требованиях, касающихся ограничения контента или получения доступа к данным пользователей.

В-четвертых, у пользователей должны быть возможности эффективного обжалования решений, которые они считают несправедливыми, а решающее слово в спорах о законности контента должно оставаться за судами.

Наконец, к разработке и оценке новых норм следует привлекать гражданское общество и экспертов.

Компании могут и должны сделать больше

Социальные сети часто критикуют как за неспособность удалить вредоносный контент, так и за его удаление.

В любом случае у людей немного возможностей для урегулирования возникающих вопросов. Например, во время последнего обострения конфликта в Израиле и на оккупированной палестинской территории в мае этого года высказывания палестинцев были непропорционально ограничены в рамках модерации контента социальными сетями, при этом возможностей для того, чтобы оспорить их решения, практически не было. «Инстаграм» признал проблемы с системами автоматического курирования контента.

В соответствии с Руководящими принципами предпринимательской деятельности в аспекте прав человека, принятыми ООН, все компании несут ответственность за защиту прав человека.

Хикс считает, что компании могут и должны сделать больше для того, чтобы стать прозрачными и обеспечить эффективные и доступные каналы для возмещения ущерба. Люди, ставшие жертвами подстрекательств или цензуры в интернете, должны получить объективные и четкие ответы на свои вопросы.

«Мы сталкиваемся с разными точками зрения на неприкосновенность личной информации, наше самовыражение и нашу жизнь, которые продвигаются конкурирующими экономиками и компаниями, – говорит Хикс. –

И компании, и государства взяли на себя обязательство уважать права человека. Пора потребовать, чтобы они его выполняли».

23 июля 2021 года

Смотрите также