Думаю, многие еще помнят, как на День народного единства ВКонтакте проводили эксперименты с бранью в комментариях. Вот только мало кто задумывался, к чему могут привести такие эксперименты в долгосрочной перспективе. Давайте поразмышляем на эту тему.
Для тех, кто пропустил эксперимент или забыл в чем суть, напомню. Разработчики решили бороться с негативом в комментариях. Они внедрили в социальную сеть специальный алгоритм, который позволял выявлять пользователей, которые пишут оскорбления в адрес других участников соцсети. И при отправке подобного сообщения, человеку выдавалось сообщение с советом не тратить свои силы на брань и оскорбления. Вроде бы пока все прекрасно, и ничего не предвещает беды.
Вот только есть несколько интересных моментов в этом эксперименте и самом алгоритме, которые вызывают у меня некоторую обеспокоенность.
Проверка сообщений перед отправкой
Алгоритм выдает предупреждение перед отправкой сообщения. Это значит, что сообщения пользователей не просто проверяются, а читаются еще до их отправки. Не слишком ли далеко в личную жизнь пользователей заходит алгоритм?
Кто сможет прочитать сообщение
Давайте будем честными сами с собой, и признаем, что если доступ к чтению сообщений есть у алгоритма, то так или иначе, эти сообщения смогут прочитать и модераторы или другие работники ВКонтакте. Уже довольно много было разоблачений известных корпораций. Все вначале говорили, что все данные шифруются, и никто кроме алгоритмов не может получить к ним доступ. Позже выяснилось, что все сообщения читают и прослушиваются.
Цензура
Сейчас алгоритм вычисляет оскорбительные сообщения и советует не отправлять их. Что помешает в будущем изменить код так, чтобы пользователям выдавалось сообщение вроде «Ваше мнение может навредить нашей репутации. Оставьте его при себе». А то и вовсе запретить публиковать некоторые комментарии.
Будем надеяться, что ничего из описанного в этой статье в реальности не произойдет. А чтобы отвлечься от навязчивых мыслей, посмотрите более позитивные статьи на нашем канале Яндекс.Дзен.
Обратите внимание
ВКонтакте сильно изменится в 2020 году. 3 нововведения, к которым стоит подготовиться
Зачем взламывают страницы ВКонтакте. 4 основных причины
Как я узнал, с кем переписывается девушка ВКонтакте. Простой и безотказный способ
