Подотчетность платформ: кто и как может контролировать Google, Facebook, «Яндекс» или «ВКонтакте»

platform accountability
Центр Шорен­штей­на сов­мест­но с Цен­тром Бел­фер про­ве­ли семи­нар в Цен­тре посе­ти­те­лей Капи­то­лия для сотруд­ни­ков Кон­грес­са, что­бы опре­де­лить и обсу­дить поли­ти­че­ские под­хо­ды к дилем­мам боль­ших тех­но­ло­ги­че­ских плат­форм. Фото с сай­та: www.belfercenter.org

Под­от­чет­ность плат­форм, или плат­фор­мен­ных ком­па­ний (platform accountability), посте­пен­но фор­ми­ру­ет­ся как область защи­ты прав потре­би­те­лей циф­ро­вых услуг. Сей­час она пред­став­ля­ет собой ско­рее раз­но­об­ра­зие ини­ци­а­тив и про­ек­тов, коман­ды кото­рых гото­вы бороть­ся за то, что­бы плат­фор­мен­ные ком­па­нии хотя бы частич­но ста­ли под­от­чет­ны если не госу­дар­ству, то широ­кой обще­ствен­но­сти. Пока боль­шин­ство ини­ци­а­тив в этом направ­ле­нии носит ско­рее акти­вист­ский и реко­мен­да­тель­ный харак­тер. Но давай­те по поряд­ку.

До сере­ди­ны 2010‑х у ИТ-гиган­тов, став­ших клю­че­вы­ми участ­ни­ка­ми плат­фор­мен­ной эко­но­ми­ки, вро­де Google, Amazon, Apple, Facebook или Twitter было доста­точ­но сво­бо­ды, что­бы при­ни­мать само­сто­я­тель­ные реше­ния. При этом они не осо­бен­но забо­ти­лись о том, что­бы отчи­ты­вать­ся о сво­ей дея­тель­но­сти кому бы то ни было. Одна­ко, чем боль­ше пер­со­наль­ных дан­ных накап­ли­ва­ют эти ком­па­нии, тем более ответ­ствен­ны­ми они за них ста­но­вят­ся. Но кажет­ся, что сте­пень этой ответ­ствен­но­сти они всё ещё сла­бо осо­зна­ют. Ситу­а­ция ста­ла стре­ми­тель­но менять­ся со вто­рой поло­ви­ны 2010‑х в свя­зи с нако­пив­ши­ми­ся пре­це­ден­та­ми.

Почему нужен контроль?

Сей­час, когда плат­фор­мы име­ют воз­мож­ность моде­ри­ро­вать кон­тент, мани­пу­ли­ро­вать алго­рит­ма­ми, исполь­зо­вать дан­ные в ком­мер­че­ских целях, сво­бо­да их дей­ствий тре­бу­ет опре­де­лен­ных огра­ни­че­ний. В про­тив­ном слу­чае мы полу­ча­ем нару­ше­ние автор­ских прав, вме­ша­тель­ство в поли­ти­че­ские про­цес­сы (про­па­ган­да, выбо­ры и даже тер­ро­ризм) или нару­ше­ние гра­ниц непри­кос­но­вен­но­сти част­ной жиз­ни. Бри­тан­ская орга­ни­за­ция ISBA (Incorporated Society of British Advertisers, Объ­еди­нен­ное обще­ство бри­тан­ских рекла­мо­да­те­лей) сле­ду­ю­щим обра­зом обоб­ща­ет нега­тив­ный опыт плат­форм:

Facebook, Google и Twitter под­вер­га­лись напа­де­ни­ям по отдель­но­сти или кол­лек­тив­но по широ­ко­му кру­гу вопро­сов, вклю­чая: раз­ре­ше­ние рас­про­стра­не­ния тер­ро­ри­сти­че­ско­го и экс­тре­мист­ско­го кон­тен­та; предо­став­ле­ние средств для вме­ша­тель­ства в выбо­ры и про­дви­же­ние фаль­ши­вых ново­стей; раз­ре­ше­ние жесто­ко­го обра­ще­ния с детьми; раз­ме­ще­ние кон­тен­та, кото­рый явля­ет­ся непри­ем­ле­мым или вред­ным для детей; раз­ре­ше­ние выска­зы­ва­ний нена­ви­сти и кибер-запу­ги­ва­ния; и созда­ние зави­си­мо­сти и депрес­сии. Плат­фор­мы под­вер­га­лись кри­ти­ке за их поли­ти­ку и за про­ва­лы в пра­во­при­ме­не­нии.

И хотя platform accountability напо­ми­на­ет сей­час ско­рее дви­же­ние или при­зыв, пред­при­ни­ма­ют­ся попыт­ки кон­со­ли­да­ции заин­те­ре­со­ван­ных участ­ни­ков, кото­рые пыта­ют­ся воз­дей­ство­вать на кон­троль дея­тель­но­сти ИТ-гиган­тов. Так, напри­мер, отдель­ные поли­ти­че­ские и регу­ля­тор­ные попыт­ки пред­при­ни­ма­лись в Австра­лии, Кана­де, Кали­фор­нии. Самый мас­штаб­ный при­мер, отра­жа­ю­щий ту же идею, – Евро­пей­ский Общий регла­мент по защи­те дан­ных (General Data Protection Regulation, GDPR), кото­рое едва ли исполь­зу­ет это сло­во­со­че­та­ние в самом регла­мен­те, но по сути вно­сит огром­ный вклад в раз­ви­тие обла­сти. Более того, тему регу­ли­ро­ва­ния интер­не­та и круп­ней­ших его игро­ков помо­га­ет раз­ви­вать ряд пети­ций, декла­ра­ций, откры­тых писем отдель­ных орга­ни­за­ций (Change the terms или Media Justice), даже если не отсы­ла­ют непо­сред­ствен­но к platform accountability. 

От регулирования интернета к подотчетности платформ 

Акку­рат­ное фор­му­ли­ро­ва­ние прин­ци­пов platform accountability начи­на­ет­ся толь­ко 2018 году. Напри­мер, в нояб­ре 2018 года чле­ны Меж­ду­на­род­но­го коми­те­та (International Grand Committee) по дез­ин­фор­ма­ции и «фей­ко­вым ново­стям» под­пи­са­ли декла­ра­цию о прин­ци­пах зако­но­да­тель­ства, регу­ли­ру­ю­ще­го интер­нет:

  • Интер­нет гло­ба­лен, поэто­му реле­вант­ное зако­но­да­тель­ство долж­но осно­вы­вать­ся на согла­со­ван­ных на гло­баль­ном уровне прин­ци­пах;
  • Пред­на­ме­рен­ное рас­про­стра­не­ние дез­ин­фор­ма­ции пред­став­ля­ет реаль­ную угро­зу для раз­ви­тия демо­кра­тии и циви­ли­зо­ван­но­го гло­баль­но­го диа­ло­га;
  • Гло­баль­ные тех­но­ло­ги­че­ские ком­па­нии долж­ны при­знать свою власть и про­де­мон­стри­ро­вать готов­ность при­нять на себя боль­шую ответ­ствен­ность;
  • Соци­аль­ные сети долж­ны нести ответ­ствен­ность, если они не выпол­ня­ют судеб­ный, зако­но­да­тель­ный или нор­ма­тив­ный при­каз об уда­ле­нии вред­но­го и вво­дя­ще­го в заблуж­де­ние кон­тен­та со сво­их плат­форм, и долж­ны регу­ли­ро­вать­ся для обес­пе­че­ния соблю­де­ния это­го тре­бо­ва­ния;
  • Тех­но­ло­ги­че­ские ком­па­нии долж­ны про­де­мон­стри­ро­вать свою под­от­чет­ность поль­зо­ва­те­лям, сде­лав себя пол­но­стью под­от­чет­ны­ми наци­о­наль­ным зако­но­да­тель­ным орга­нам и дру­гим орга­нам пред­ста­ви­тель­ной демо­кра­тии.

Самые яркие кам­па­нии при­над­ле­жат тем акто­рам, чья непо­сред­ствен­ная дея­тель­ность стра­да­ет от недо­стат­ка регу­ли­ро­ва­ния интер­не­та и клю­че­вых ком­па­ний (напри­мер, СМИ или кре­а­тив­ные инду­стрии). Пра­во­за­щит­ная орга­ни­за­ция CreativeFuture рас­про­стра­ни­ла откры­тое пись­мо и пети­цию по пово­ду регу­ли­ро­ва­ния интер­не­та в кон­тек­сте platform accountability. Их клю­че­вые пунк­ты:

  • Мы рас­смат­ри­ва­ем интер­нет как мощ­ную демо­кра­ти­зи­ру­ю­щую силу для твор­че­ских инду­стрий, отдель­ных людей и мира в целом.
  • Мы тре­бу­ем, что­бы круп­ней­шие интер­нет-плат­фор­мы (в част­но­сти, Google и Facebook) взя­ли на себя боль­шую ответ­ствен­ность за легаль­ность кон­тент, рас­про­стра­ня­е­мый в их сетях, кото­рый нано­сит ущерб спо­соб­но­сти наших чле­нов зара­ба­ты­вать на жизнь.
  • Мы при­ни­ма­ем силь­ную систе­му автор­ских прав в стране и за рубе­жом, кото­рая поощ­ря­ет твор­че­ство и спо­соб­ству­ет здо­ро­во­му твор­че­ству и эко­но­ми­ке.
  • Мы с гор­до­стью заяв­ля­ем, что автор­ское пра­во спо­соб­ству­ет и защи­ща­ет сво­бо­ду сло­ва – и его защи­та не под­ры­ва­ет сво­бо­ду сло­ва.
  • Автор­ское пра­во долж­но поз­во­лить нашим твор­че­ским сооб­ще­ствам защи­щать свои пра­ва от тех, кто будет исполь­зо­вать интер­нет, что­бы подо­рвать наше твор­че­ство.
  • Твор­че­ские сооб­ще­ства долж­ны быть частью раз­го­во­ра и высту­пать за твор­че­ство.

Хоро­ших реше­ний и гото­вых отве­тов на мно­же­ствен­ные неопре­де­лен­но­сти еще нет. Есть пони­ма­ние, что мас­шта­бы вли­я­ния плат­фор­мен­ных игро­ков слиш­ком вели­ки, поэто­му для эффек­тив­но­го воз­дей­ствия на них тре­бу­ют­ся сов­мест­ные уси­лия, объ­еди­не­ния, коа­ли­ции раз­ных заин­те­ре­со­ван­ных участ­ни­ков. Пря­мые при­зы­вы к сотруд­ни­че­ству и отста­и­ва­нию граж­дан­ских сво­бод появ­ля­ют­ся всё чаще. Напри­мер, вен­чур­ный фонд и сеть биз­нес-анге­лов New Media Ventures ини­ци­и­ро­ва­ла откры­тый при­зыв к объ­еди­не­нию:

Нам нуж­на луч­шая коор­ди­на­ция меж­ду все­ми участ­ни­ка­ми – от ака­де­ми­че­ских кру­гов, моз­го­вых цен­тров, орга­ни­за­ций дви­же­ния, пра­во­за­щит­ни­ков и акти­ви­стов, что­бы они мог­ли гово­рить еди­ным голо­сом. Нам так­же нуж­но боль­ше спон­со­ров, что­бы при­со­еди­нить­ся к этой рабо­те и обес­пе­чить капи­тал, что­бы груп­пы, веду­щие борь­бу за рефор­ми­ро­ва­ние круп­ных тех­но­ло­ги­че­ских ком­па­ний, мог­ли мас­шта­би­ро­вать­ся. Нако­нец, мы долж­ны при­знать, что реше­ния долж­ны соот­вет­ство­вать мас­шта­бу и слож­но­сти сто­я­щих перед нами задач – это, веро­ят­но, потре­бу­ет боль­ше­го, чем про­сто бой­ко­ти­ро­вать эти плат­фор­мы или раз­би­вать их на более мел­кие части.

Дру­гим актив­ным участ­ни­ком про­дви­же­ния идеи стал одно­имен­ный про­ект Platform Accountability в Цен­тре Шорен­штей­на (Shorenstein Center) при Шко­ле Кен­не­ди в Гар­вар­де. Он ори­ен­ти­ро­ван на вза­и­мо­дей­ствие СМИ, поли­ти­ки и пуб­лич­ной поли­ти­ки. Цель про­ек­та – решать про­бле­мы на сты­ке интер­нет-поли­ти­ки и эко­но­ми­че­ско­го регу­ли­ро­ва­ния. Их инстру­мен­та­ми ста­но­вят­ся ака­де­ми­че­ские иссле­до­ва­ния и науч­ная экс­пер­ти­за, а так­же глу­бо­кий ана­лиз совре­мен­ной (аме­ри­кан­ской, в первую оче­редь) поли­ти­ки и ее воз­мож­но­стей для реа­ли­за­ции Platform accountability. Они про­во­дят пуб­лич­ные слу­ша­ния; при­гла­ша­ют на меро­при­я­тия поли­ти­ков и пред­ста­ви­те­лей регу­ля­тор­ной сфе­ры (напри­мер, плот­но сотруд­ни­ча­ют с Феде­раль­ной тор­го­вой комис­си­ей); рас­про­стра­ня­ют ана­ли­ти­че­ские доку­мен­ты о состо­я­нии дел. В сво­их заклю­че­ни­ях они при­хо­дят к выво­ду о том, что пока состо­я­ние соот­вет­ству­ю­щей систе­мы и прак­ти­ки анти­мо­но­поль­но­го зако­но­да­тель­ства и судеб­ной прак­ти­ки не отве­ча­ет тре­бо­ва­ни­ям защи­ты инте­ре­сов обще­ства в рабо­те основ­ных плат­форм, поэто­му тре­бу­ет­ся поиск новых источ­ни­ков для под­креп­ле­ния.

Лизбез по platform accountability

В ака­де­ми­че­ской сфе­ре пуб­ли­ка­ции о platform accountability так­же ста­ли появ­лять­ся лишь недав­но, там пред­при­ни­ма­ют­ся попыт­ки объ­яс­нить отдель­ные клю­че­вые поня­тия и потен­ци­аль­ные воз­мож­но­сти для реа­ли­за­ции соот­вет­ству­ю­щих поли­тик. Итак, что надо знать о platform accountability, рас­ска­зы­ва­ют иссле­до­ва­те­ли Дж. Мосс и Х. Форд в сво­ей обзор­ной ста­тье.

Что такое платформа? 

Это “про­грам­ми­ру­е­мая циф­ро­вая архи­тек­ту­ра, пред­на­зна­чен­ная для орга­ни­за­ции вза­и­мо­дей­ствия меж­ду поль­зо­ва­те­ля­ми— не толь­ко конеч­ны­ми поль­зо­ва­те­ля­ми, но и кор­по­ра­тив­ны­ми субъ­ек­та­ми и госу­дар­ствен­ны­ми орга­на­ми”. Их инстру­мен­та­ми явля­ют­ся дан­ные, алго­рит­мы, интер­фей­сы, поль­зо­ва­тель­ские согла­ше­ния.

Что такое подотчетность (accountability)?

Под­от­чет­ность свя­за­на с оправ­дан­но­стью дей­ствий и реше­ний, кото­рые при­ни­ма­ют­ся с уче­том общих нор­ма­тив­ных цен­но­стей.

Каковы механизмы подотчетности?

Есть четы­ре таких меха­низ­ма: 

  1. рынок (путем кон­ку­рен­ции), 
  2. само­ре­гу­ли­ро­ва­ние (от про­стых отчет­но­стей и кана­лов обрат­ной свя­зи до пуб­лич­ных дис­кус­сий),
  3. пуб­лич­ная сфе­ра (про­зрач­ность управ­ле­ния, пуб­лич­ные спо­ры, офи­ци­аль­ные пози­ции),
  4. поли­ти­че­ские пред­ста­ви­те­ли (наци­о­наль­ные пра­ви­тель­ства, гло­баль­ные орга­ни­за­ции, граж­дан­ское обще­ство).

Критерии оценки подотчетности

Инклю­зив­ность (вклю­чая мень­шин­ства), про­зрач­ность (откры­тый доступ к инфор­ма­ции о дея­тель­но­сти), обсуж­де­ние (обос­но­ва­ние реше­ний), рас­ши­ре­ние прав и воз­мож­но­стей (пра­во выбо­ра через доступ­ные меха­низ­мы).

В Рос­сии под­от­чет­но­сти плат­форм пока не суще­ству­ет, а кон­тро­лем их дея­тель­но­сти зани­ма­ют­ся госу­дар­ствен­ные орга­ны. Идея защи­ты прав поль­зо­ва­те­лей выра­жа­ет­ся в огра­ни­че­ни­ях к досту­пу к кон­тен­ту, кото­рый пред­став­ля­ет потен­ци­аль­ную угро­зу: в этом смыс­ле пока­за­тель­на попыт­ка изо­ля­ции Руне­та. Вме­сто защи­ты прав поль­зо­ва­те­лей мы наблю­да­ем еще более непро­зрач­ные пра­ви­ла игры и издерж­ки. А рос­сий­ские плат­фор­мы в это вре­мя балан­си­ру­ют меж­ду тре­бо­ва­ни­я­ми поста­нов­ле­ний и при­ем­ле­мы­ми, отно­си­тель­но некон­фликт­ны­ми отно­ше­ни­я­ми с поль­зо­ва­те­ля­ми.

Еще по теме: