Не улыбайтесь, вас пытаются распознать

Системы распознавания лиц: на стыке этики и технологий. Изображение: pixabay.com.
Систе­мы рас­по­зна­ва­ния лиц: на сты­ке эти­ки и тех­но­ло­гий. Изоб­ра­же­ние: pixabay.com.

Мини­стер­ство внут­рен­них дел Рос­сии (МВД) тести­ру­ет каме­ры-видео­ре­ги­стра­то­ры с тех­но­ло­ги­ей рас­по­зна­ва­ния лиц. Вла­сти гото­вы сле­дить за поряд­ком в бук­валь­ном смыс­ле – через каме­ры, пор­та­тив­ные видео­ре­ги­стра­то­ры и умные очки, кото­рые уже исполь­зу­ют в раз­ви­тых стра­нах. Сту­дент НИУ ВШЭ и иссле­до­ва­тель соци­аль­ных тех­но­ло­гий Дмит­рий Мура­вьёв рас­смот­рел про­бле­му тоталь­ной слеж­ки с пози­ции эти­ки и тех­но­ло­гий.

По офи­ци­аль­ным дан­ным, толь­ко в Москве более 167 тысяч камер с функ­ци­ей рас­по­зна­ва­ния лиц, Санкт-Петер­бур­ге – 153 тыся­чи. Миро­вой рынок систем рас­по­зна­ва­ния лиц рас­тет: по дан­ным ком­па­нии MarketsandMarkets, он достиг­нет $6,84 млрд к 2021 году. Сего­дня мы балан­си­ру­ем на гра­ни при­ват­но­сти и без­опас­но­сти.

Как рабо­та­ет рас­по­зна­ва­ние лиц. Видео кана­ла Hi-News.ru

Сто­ит ли боять­ся слеж­ки, или это разум­ная цена за спо­кой­ствие в мире рас­ту­щей пре­ступ­но­сти? Гото­вы ли мы к тому, что тех­но­ло­гии рас­по­зна­ва­ния лиц могут оши­бать­ся? В сере­дине авгу­ста 2018 года 21-лет­не­го акти­ви­ста «Дру­гой Рос­сии» Миха­и­ла Аксе­ля задер­жа­ли в мет­ро по сиг­на­лу с видео­ка­ме­ры, опо­знав­шей его по ори­ен­ти­ров­ке Цен­тра «Э» (глав­ное управ­ле­ние по про­ти­во­дей­ствию экс­тре­миз­му). По сло­вам поли­цей­ских, рас­по­знав­шая его лицо тех­но­ло­гия FaceControl исполь­зу­ет­ся в аппа­рат­но-про­грамм­ном ком­плек­се «Без­опас­ный город».

Аксель был достав­лен в ком­на­ту поли­ции, где его про­ве­ри­ли по
базам дан­ных Мини­стер­ства внут­рен­них дел Рос­сий­ской Феде­ра­ции. Ока­за­лось, что в розыс­ке он не зна­чит­ся. Акти­вист был отпу­щен, одна­ко, оста­лось неиз­вест­ным, как рабо­та­ет FaceControl: «Сотруд­ни­ки УВД на мет­ро­по­ли­тене дан­ные об Аксе­ле в систе­му не вно­си­ли», а инфор­ма­ци­ей о тех, кто это сде­лал, Управ­ле­ние не рас­по­ла­га­ет.

Два взгляда на технологию распознавания лиц

Как и на любую зна­чи­мую соци­аль­ную про­бле­му, на систе­мы рас­по­зна­ва­ния лиц суще­ству­ет несколь­ко точек зре­ния, нюан­сы кото­рых фоку­си­ру­ют­ся на вопро­се вме­ша­тель­ства госу­дар­ства в лич­ную жизнь. Сто­рон­ни­ки слеж­ки уве­ре­ны: нуж­но задей­ство­вать все инстру­мен­ты борь­бы с пре­ступ­но­стью.

Ста­ти­сти­ка Пра­ви­тель­ства Моск­вы под­дер­жи­ва­ет этот аргу­мент: в 2017 году бла­го­да­ря систе­мам видео­на­блю­де­ния было пой­ма­но на 14% боль­ше пре­ступ­ни­ков, чем в 2016‑м. Мос­ков­ские вла­сти наме­ре­ны под­дер­жи­вать этот тренд: про­грам­ма «Умный город до 2030» направ­ле­на на «раз­ви­тие город­ской плат­фор­мы видео­на­блю­де­ния и дру­гих средств мони­то­рин­га жиз­не­де­я­тель­но­сти горо­да».

Раз­ра­бот­чи­ки систем видео­на­блю­де­ния так­же поло­жи­тель­но оце­ни­ва­ют резуль­та­ты сво­ей рабо­ты. Рос­сий­ская ком­па­ния NtechLab ста­ла одним из миро­вых лиде­ров в обла­сти био­мет­ри­че­ских тех­но­ло­гий. Ее осно­ва­тель Артем Куха­рен­ко отме­тил: «Если у чело­ве­ка что-то не так с голо­вой, то не важ­но, какие тех­но­ло­гии давать ему в руки, он будет делать зло. Но я не могу при­ду­мать суперз­ло­де­я­ние, кото­рое мож­но сде­лать с помо­щью рас­по­зна­ва­ния лиц. А вот пози­тив­ных вещей – куча».

Выступ­ле­ние дирек­то­ра по раз­ви­тию биз­не­са ком­па­нии NtechLab Гле­ба Дья­ко­но­ва. Видео кана­ла Security Events TV

Про­тив­ни­ки «умных» камер уве­ре­ны – это пря­мая угро­за для пра­ва на при­ват­ность. Если поль­зо­ва­тель­ские дан­ные ока­зы­ва­ют­ся в базе дан­ных, госу­дар­ство и ком­мер­че­ские ком­па­нии полу­ча­ют все боль­ше вла­сти над граж­да­на­ми. Как убе­дить­ся в сохран­но­сти дан­ных и при­ват­но­сти такой инфор­ма­ции: кто «усте­ре­жет самих сто­ро­жей»?

Новые фор­мы ком­мер­че­ско­го исполь­зо­ва­ния тех­но­ло­гии рас­по­зна­ва­ния лиц могут вызы­вать не мень­ше спо­ров, чем про­слуш­ка Facebook. Про­тив систем сле­же­ния высту­па­ют миро­вые гиган­ты, такие как Amazon, кото­рый тре­бу­ет пре­кра­тить про­да­жу про­грамм­но­го обес­пе­че­ния для рас­по­зна­ва­ния лиц «Rekognition» вла­стям США. А в мае 2019 года Сан-Фран­цис­ко стал пер­вым горо­дом в США, в кото­ром вве­ли запрет на исполь­зо­ва­ние тех­но­ло­гий рас­по­зна­ва­ния лица.

Правовые вызовы для систем распознавания лиц

Как и мно­гие новые тех­но­ло­гии, рас­по­зна­ва­ние лиц нахо­дит­ся в «сером» пра­во­вом поле. Био­мет­ри­че­ские дан­ные, полу­ча­е­мые с помо­щью систем рас­по­зна­ва­ния лиц, попа­да­ют под ст. 11 ФЗ «О пер­со­наль­ных дан­ных» (№ 152-ФЗ от 27.07.2006). В соот­вет­ствии с этой ста­тьей лич­ная инфор­ма­ция может быть исполь­зо­ва­на толь­ко для про­ти­во­дей­ствия тер­ро­риз­му, в целях обо­ро­ны и дру­гой пра­во­охра­ни­тель­ной дея­тель­но­сти.

Еще по теме: Поче­му ано­ним­ность поль­зо­ва­те­ля под угро­зой и как сохра­нить циф­ро­вые пра­ва

Исполь­зо­ва­ние систем рас­по­зна­ва­ния лиц в ком­мер­че­ских целях без пись­мен­но­го согла­сия субъ­ек­та пер­со­наль­ных дан­ных не преду­смот­ре­но дей­ству­ю­щим зако­но­да­тель­ством. Одна­ко госу­дар­ствен­ная про­грам­ма «Циф­ро­вая эко­но­ми­ка» может вне­сти суще­ствен­ные кор­рек­ти­вы: один из ее пунк­тов – раз­ра­бот­ка зако­на, регу­ли­ру­ю­ще­го боль­шие дан­ные, их ста­тус и обо­рот.

Приватное и публичное поле новых технологий

Тре­бу­ет­ся ли нам пере­осмыс­ле­ние само­го поня­тия при­ват­но­сти в усло­ви­ях циф­ро­вых тех­но­ло­гий? Иван Нинен­ко, член экс­перт­но­го сове­та Future Foundation, отме­тил: «В какой-то сте­пе­ни надо сми­рить­ся с тем, что круп­ные горо­да будут местом отсут­ствия privacy.

«Попа­дая в мега­по­лис, выхо­дя из леса, услов­но гово­ря, чело­век ока­зы­ва­ет­ся в систе­ме наблю­де­ния. И с каж­дым годом она будет все умнее и все луч­ше вести его из точ­ки в точ­ку, и это, к сожа­ле­нию, неиз­беж­ный уро­вень циф­ро­вой без­опас­но­сти, учи­ты­вая плот­ность насе­ле­ния». Иван Нинен­ко.

Сре­ди дру­гих плю­сов экс­перт отме­тил ослаб­ле­ние про­пуск­но­го режи­ма – и так будет понят­но, кто вхо­дит. Минус оче­ви­ден: пора будет рас­про­щать­ся с ощу­ще­ни­ем того, что кто-то не зна­ет, где вы нахо­ди­тесь. Это дру­гой мир, новой сте­пе­ни про­зрач­но­сти, новой сте­пе­ни доступ­но­сти.

Китай созда­ет систе­му соци­аль­но­го рей­тин­га и тоталь­ной слеж­ки. Видео кана­ла INFOWARS.SU

Нам дей­стви­тель­но слож­но понять, явля­ет­ся ли каж­дый «клик» в соц­се­ти или про­сто про­гул­ка по горо­ду исклю­чи­тель­но нашим лич­ным опы­том, или в какой-то момент он транс­фор­ми­ру­ет­ся в пуб­лич­ную инфор­ма­цию.

В сво­ей кни­ге «It’s Complicated The Social Lives of Networked Teens» социо­лог Дана Бойд, иссле­ду­ю­щая циф­ро­вую жизнь под­рост­ков в США, пишет о соци­аль­ных сетях как сре­де, в кото­рой мы име­ем дело не с при­ват­но­стью или пуб­лич­но­стью, как мы зна­ли их до это­го, а с новой ситу­а­ци­ей, в кото­рой тех­но­ло­гии внес­ли бес­по­ря­док в обе эти кате­го­рии.

С ее точ­ки зре­ния, мы при­вык­ли смот­реть на при­ват­ность и пуб­лич­ность как на оппо­зи­цию, но в дей­стви­тель­но­сти из-за тех­но­ло­гий эта гра­ни­ца раз­мы­ва­ет­ся. Нам нуж­но думать об этой про­бле­ме, уде­ляя вни­ма­ние кон­крет­ным кон­тек­стам, в кото­рых тех­но­ло­гии раз­ви­ва­ют­ся.

Воз­мож­но, вме­сто вынуж­ден­но­го выбо­ра меж­ду при­ват­но­стью и пуб­лич­но­стью сто­ит выра­бо­тать новые поня­тия, помо­га­ю­щие опи­сы­вать кон­тек­сту­аль­но-зави­си­мые отно­ше­ния меж­ду тех­но­ло­ги­я­ми и теми соци­аль­ны­ми и эти­че­ски­ми послед­стви­я­ми, кото­рые они порож­да­ют.