Анатомия социальной сети: Facebook Papers и бесконечная непрозрачность

Что стоит знать о самом публичном скандале в истории социальной сети Фото: Flickr (www.thoughtcatalog.com)

С сентября 2021 года американское медиа Wall Street Journal начало публиковать материалы о работе одной из самых крупных в мире социальных сетей — Facebook. А с 22 октября статьи о компании стали выпускать и другие издания. Совместное расследование получило название Facebook Papers («Досье Facebook») и стало возможным благодаря информации, полученной от бывшей сотрудницы компании Фрэнсис Хауген. 

Это беспрецедентная утечка в истории Facebook: теперь общественность, как никогда ранее, может увидеть, как устроена платформа изнутри. Опубликованный Хауген архив — это тысячи страниц. И, вероятнее всего, работа с ним — журналистская, исследовательская и политическая — будет продолжаться еще годами. 

Но уже сейчас стоит обсуждать как минимум две вещи. Во-первых, что за знание о Facebook как платформе можно получить из Facebook Papers. Во-вторых, что это событие говорит нам о более широком контексте, в котором существуют социальные сети сегодня, и что самый публичный в истории компании скандал сообщает о нашем пользовательском опыте. 

Разоблачение платформы

Чем больше журналисты будут работать с архивом Facebook, тем больше выводов о работе компании можно сделать в будущем. Из-за этого сейчас попытка перечислить все, что мы узнали о социальной сети из слитых документов, будет ограниченной. Однако, обобщая многочисленные публикации американских изданий, уже можно сделать ряд выводов. 

1. Фейки остаются проблемой

Несмотря на продолжающееся годами давление со стороны политических институтов разных стран и организаций гражданского общества, Facebook не может справиться с проблемой недостоверной, фейковой информации. 

Так, в 2020 году исполнительный директор компании Марк Цукерберг в американском Конгрессе утверждал, что на платформе удаляется 94% враждебных высказываний еще до пользовательских жалоб. Документы же показали, что так происходит лишь с 5% контента. Также, несмотря на продолжительные попытки и внешнюю критику, Facebook до сих пор уклоняется от внедрения изменений в дизайн и модерацию платформы, которые помогли бы бороться с недостоверной информацией о климатических изменениях. 

Более того, журналисты MIT Technology Review расследовали работу «кликбейтных ферм» — страниц, распространяющих недостоверную информацию ради пользовательского вовлечения и прибыли от рекламы. Такие фермы включены во внутреннюю программу монетизации компании через систему Instant Articles — это просмотр статей внутри самой платформы без перехода в браузер. 

Хотя от использования этой системы в конечном итоге отказались западные медиа, в странах глобального Юга она продолжает оставаться популярной. Журналисты издания показали, что такие фермы активно таргетят население Мьянмы для распространения антимусульманской пропаганды и фейковых новостей для капитализации на продолжительном политическом конфликте.  

2. Facebook не соответствует своей претензии на глобальность

Попытки платформенной модерации сталкиваются с культурным и политическим разнообразием, к которому внутренние инструменты платформы пока не готовы, если когда-либо вообще будут. Большинство усилий компании по модерации контента направляются на США (84%) — меньше одной пятой бюджета приходится на остальной мир. И внутренние документы компании демонстрируют, что многим сотрудникам об этом известно. 

Стремление Facebook модерировать контент сталкивается, прежде всего, с языковыми ограничениями. В своих показаниях в Конгрессе Фрэнсис Хауген заявила: «В случае Эфиопии это 100 миллионов человек и шесть языков. Facebook поддерживает только два из них».   

3. Не все пользователи платформы равны

Архив Facebook Papers подтверждает существование «VIP-пользователей», на которых правила модерации контента не распространяются, к ним, согласно существующим данным, относятся политики и знаменитости. Более того, если контент большинства «обычных» пользователей проверяется автоматизированными системами, в случае с VIP-пользователями этим занимаются живые люди.  

«Facebook регулярно делает исключения для влиятельных игроков», цитата из расследования Wall Street Journal.
«Facebook регулярно делает исключения для влиятельных игроков», цитата из расследованияWall Street Journal.

Наше беспросветное незнание

Публикация внутренней информации — это распространенный случай в истории современных технических систем. Так было и с программным обеспечением Pegasus, разработанным израильской компанией NSO Group, которое использовалось для слежки по меньшей мере за 180 журналистами в 20 странах. Об этом публично стало известно в июле 2021 года благодаря усилиям консорциума расследовательских журналистов, скоординированным некоммерческой организацией Forbidden Stories. Так было и с более известными «разоблачениями Эдварда Сноудена», которые потрясли мир в 2013 году. 

У Facebook Papers будут политические последствия. Будут приняты новые законы, Цукерберга будут вызывать в Конгресс, гражданские самоорганизации будут продолжать низовую самоорганизацию для дальнейшего давления на компанию. Движение за подотчетность платформ будет продолжаться

Вместе с тем, рассуждая с пользовательской точки зрения, поражает то, насколько Facebook, ставший для многих из нас частью повседневного опыта, на поверку оказывается для нас совершенно непонятным. Не то чтобы нам всегда нужно знать, как работает техника, чтобы пользоваться ею, — велосипед и самокат вполне можно водить без детального знания об их устройстве. 

Вместе с тем, читая в журналистских расследованиях по Facebook Papers о многочисленных провалах компании и вспоминая разнообразные скандалы прошлых лет, сложно не думать о том, как много надежд сосредоточено на одной единственной компании. Цукерберг должен остановить политический таргетинг, фейковые новости, расизм, гражданские войны, слежки, неравенство — как если бы решения для всех этих сложных политических и социальных проблем могли быть срежиссированы через технические заплатки. 

Сказать так — не значит отрицать ответственность Facebook за происходящее.

Откровения и разоблачения, уже ставшие достоянием общественности, а также те, что еще последуют, показывают нам как пользователям две вещи.  Во-первых, современный нам технологический мир непрозрачен для нас. Каждый раз, видя новые разоблачения, мы начинаем читать их с внутренней готовностью, что завтра или послезавтра последуют еще. Мы знаем, что ничего не знаем. 

Во-вторых, эта непрозрачность узкого набора компаний приводит в том числе и к тому, что ожидания по поводу будущего технологий сосредоточены на ряде крупных игроков. И это делает ситуацию крайне сложной для нас как пользователей. Приходиться надеяться, что Facebook станет лучше, потому что ничего другого, по крайней мере в опыте большинства из нас, нет.