Чтение сообщений пользователей и цензура ВКонтакте. К чему могут привести эксперименты разработчиков

- 19 ноября, 2019 21:41 - 0 Comments

Думаю, многие еще помнят, как на День народного единства ВКонтакте проводили эксперименты с бранью в комментариях. Вот только мало кто задумывался, к чему могут привести такие эксперименты в долгосрочной перспективе. Давайте поразмышляем на эту тему.

Для тех, кто пропустил эксперимент или забыл в чем суть, напомню. Разработчики решили бороться с негативом в комментариях. Они внедрили в социальную сеть специальный алгоритм, который позволял выявлять пользователей, которые пишут оскорбления в адрес других участников соцсети. И при отправке подобного сообщения, человеку выдавалось сообщение с советом не тратить свои силы на брань и оскорбления. Вроде бы пока все прекрасно, и ничего не предвещает беды.

Вот только есть несколько интересных моментов в этом эксперименте и самом алгоритме, которые вызывают у меня некоторую обеспокоенность.

Проверка сообщений перед отправкой

Алгоритм выдает предупреждение перед отправкой сообщения. Это значит, что сообщения пользователей не просто проверяются, а читаются еще до их отправки. Не слишком ли далеко в личную жизнь пользователей заходит алгоритм?

Кто сможет прочитать сообщение

Давайте будем честными сами с собой, и признаем, что если доступ к чтению сообщений есть у алгоритма, то так или иначе, эти сообщения смогут прочитать и модераторы или другие работники ВКонтакте. Уже довольно много было разоблачений известных корпораций. Все вначале говорили, что все данные шифруются, и никто кроме алгоритмов не может получить к ним доступ. Позже выяснилось, что все сообщения читают и прослушиваются.

Цензура

Сейчас алгоритм вычисляет оскорбительные сообщения и советует не отправлять их. Что помешает в будущем изменить код так, чтобы пользователям выдавалось сообщение вроде «Ваше мнение может навредить нашей репутации. Оставьте его при себе». А то и вовсе запретить публиковать некоторые комментарии.

Будем надеяться, что ничего из описанного в этой статье в реальности не произойдет. А чтобы отвлечься от навязчивых мыслей, посмотрите более позитивные статьи на нашем канале Яндекс.Дзен.