На фоне самого крупного и продолжительного сбоя Facebook, Instagram и Whatsapp несколько в стороне остались весьма неприятные факты о соцсети Марка Цукерберга.
Дело в том, что Facebook продолжительное время буквально процветал за счет манипулирования людьми, возбуждая вражду, ненависть и разжигая рознь. Это позволяло компании делать большую прибыль.
При этом разжигание сочетается с цензурой всего, что содержит хотя бы намек на то, что может хоть кому-то не понравиться. Один из самых известных случаев – удаление 9 мая из ленты Facebook фотографий того, как советские солдаты водружают красное знамя над Рейхстагом.
Черным пятном на репутации соцсети стали два скандала. Сначала благодаря бывшей сотруднице Facebook Фрэнсис Хауген выяснилось, что существует так называемый белый список VIP-персон, на которых не распространяются правила бана. То есть им буквально прощается то, что не дозволено всем остальным: от использования языка вражды до размещения запрещенного правилами контента.
"Во внутреннем руководстве по приемлемости перекрестной проверки указаны критерии для включения в белый список, в том числе "достойное освещение в прессе", а также "влиятельность и популярность". Программа охватывает практически всех, кто регулярно появляется в СМИ или у кого есть значительное количество подписчиков в интернете, включая кинозвезд, ведущих ток-шоу, ученых и блогеров с большим количеством подписчиков", – отмечает Wall Street Journal.
Вскоре за откровением о "белом списке" последовало другое. Вот что Хауген рассказала в интервью программе "60 минут" CBS News.
Собственное исследование Facebook показывает, что алгоритм соцсети усиливает ненависть, дезинформацию и вражду на политической почве.
"Существует конфликт интересов между пользой для общества и интересами Facebook. И Facebook снова и снова выбирал последнее, чтобы зарабатывать больше".
Соцсеть работает таким образом, чтобы поощрять производство контента, который привлекает внимание и вызывает эмоциональную реакцию.
"Контент, пробуждающий ненависть, разногласия, поляризующий пользователей, работает лучше, в людях легче пробудить злобу, чем другие эмоции. Дезинформация, злость соблазняют людей... Это очень заманчиво. И удерживают их на платформе. Да, Facebook осознал, что, если они изменят алгоритм, сделают его более безопасным, люди будут проводить меньше времени на сайте, они будут реже нажимать на рекламные баннеры, а Facebook будет зарабатывать меньше денег".
В руководстве соцсети поняли, что, если они изменят алгоритм в сторону большей нейтральности, люди будут проводить меньше времени на сайте, будет меньше кликов по рекламе. Соответственно, прибыль сократится.
Хауген также сообщила сенаторам, что для автоматизации модерации Facebook обычно использует нейронные сети. Они отлавливают лишь 10–20% оскорбительного контента, но зато для компании это обходится дешевле. Хауген призвала реформировать всю соцсеть и создать в правительстве США специальный регулятор для контроля за Facebook.
Хауген говорит, что Facebook понимал опасность во время президентских выборов 2020 года в США. Соцсеть задействовала системы безопасности, чтобы бороться с дезинформацией, но многие из этих изменений, по ее словам, были временными.
Как только выборы закончились, они снова отключили их или изменили настройки на прежние, чтобы поставить рост выше безопасности.
Подписывайтесь на Baltnews в Яндекс.Дзен