Дорога для беспилотников: как тестировать и регулировать радикальные инновации

Социальные исследователи о рисках и сложностях тестирования беспилотных автомобилей Скриншот видео Tesla

Почему какие-то инновации называют радикальными? Они меняют устоявшиеся правила игры, перестраивают пространство и инфраструктуру и, как правило, требуют нового регулирования. Одна из таких радикальных инноваций — беспилотный автомобиль. И пока появление беспилотников на дорогах проходит не так гладко и быстро, как хотелось бы разработчикам. 

Беспилотные автомобили ассоциируются сегодня с отсутствием водителя, самостоятельным передвижением и уровнями автономности. А еще с авариями и другими опасностями. В 2018 году беспилотник Uber насмерть сбил пешехода. До сих пор легитимность тестирования и регулирования беспилотного транспорта под вопросом и требует участия разных экспертов. 

Чем радикальнее инновация, тем больше технических и социальных исследований нужно проводить на разных этапах ее разработки. Как устроены такие исследования, разбирались участники семинара Центра исследований науки и технологий Европейского университета в Санкт-Петербурге, который прошел 20 мая 2021 года.

Нортье Маррес и Джек Стилгоу. Изображение со страница семинара на сайте Европейского университета.
Нортье Маррес и Джек Стилгоу. Изображение со страницы семинара на сайте Европейского университета.

На семинаре выступили ведущие мировые специалисты в области исследований радикальных инноваций Нортье Маррес (Noortje Marres) и Джек Стилгоу (Jack Stilgoe).

  • Нортье Маррес — профессор Центра междисциплинарных методологий в университете Уорика и автор ставших классическими работ по социальным исследованиям цифровых технологий. На семинаре она представила новую социологию тестирования для изучения радикальных инноваций в реальных условиях жизни общества. 
  • Джек Стилгоупрофессор STS (исследований науки и технологий) в Университетском колледже Лондона и один из ключевых авторов в социальных исследованиях беспилотного транспорта. Он изучает практики и регулирование сферы искусственного интеллекта и алгоритмов, публикует аналитические отчеты и научно-популярные статьи. А также руководит проектом «Driverless Futures» («Беспилотное будущее»), созданным для публичного обсуждения беспилотных автомобилей как радикальной инновации. 

Я собрала для вас основные мысли из их выступлений на семинаре.

Из лаборатории на улицу

Тестирование беспилотных автомобилей на дорогах — важный этап. Это значит, что технология готова к непредсказуемым условиям, которые нельзя контролировать, как в лабораториях и на полигонах. Как только инновация «выходит» из лаборатории, в ее жизни появляются и другие участники: пилотируемый транспорт, пешеходы, разметка, ПДД и негласные правила поведения на дорогах. 

Нужно ли каким-то образом готовить внешнюю среду к появлению беспилотных автомобилей на дорогах? Маррес привела пример Ковентри в 2017 году, когда автомобили просто оказались на улицах города без официальных заявлений. Не было никакой публичной дискуссии, формальных обсуждений. Только во время тестирования стали появляться комментарии в социальных сетях. Но официальная позиция была озвучена лишь после проведения тестирования. 

Испытания беспилотников в Ковентри в 2017 году.

Интеллектуальные технологии становятся частью общественных отношений и требуют определенного вовлечения других участников. Потенциальные пользователи должны принимать участие в тестированиях. На самом же деле пользователи видят уже демонстрацию беспилотных автомобилей, а не участвуют в ее тестировании.

Джек Стилгоу подчеркивает, что тестирование и демонстрация не одно и то же. В случае с интеллектуальными технологиями основной акцент должен быть сделан на тестировании, то есть подготовке, информировании, контроле технологий в реальных условиях. 

Тестирование — это не просто перенос технологии из лаборатории в реальные условия. Это инструмент для управления инновациями, который включает социальный порядок, модели общества, подотчетность, участие пользователей и другие аспекты для ответственных инноваций. В этом смысле необходимо пересмотреть представление о том, что такое инновация, и особенно — радикальная инновация. 

Особенности тестирования

Нортье Маррес со своим коллегой Дэвидом Старком предлагают учитывать три особенности тестирования. 

  1. Тесты генеративны — они порождают новые тестирования. Тесты нужны для того, чтобы получить результат и понять, что именно тестируется. Для социологии тестирования это означает, что тесты должны рассматриваться в контексте других тестов. Это так называемая экология тестирования. 
  2. Тестирование производится в разных обстоятельствах, на разных масштабах и на нескольких площадках. Из-за этого появляются новые отношения и сущности. В результате инженеры и разработчики учитывают все больше социальных аспектов, используют наблюдения их социальных наук, обращаются к экспертизе социальных ученых.
  3. Отношения между тестируемыми и тестирующими бывают нестабильными. Настолько, что в итоге тестирование может оказаться под запретом. Успех тестирования состоит не в удачном переносе технологии из лаборатории в реальный мир. А в том, насколько сохраняются или же меняются отдельные характеристики и типы отношений, как между технологиями, так и между технологиями и людьми. Тестирование — это постоянно меняющаяся реальность, где среда и участники должны быть готовы к этим изменениям. 

Итак, тестирование не просто «выход» технологии за пределы лаборатории, а процесс трансформации установок, отношений, окружающей среды. Это постоянная работа по модификации социальных отношений с учетом технонаучных установок. Новая социология тестирования выступает скорее за разнообразие режимов или экологию экспериментирования. 

Жизнь после тестирования

Результат качественного и регулярного тестирования — автономность беспилотных автомобилей. Правда, у понятия автономии множество смыслов. Например, в классификации «Общества автомобильных инженеров» (SAE) уровни автономности измеряются участием человека: от уровня 0 (полный контроль человека) к уровню 5 (абсолютно самостоятельный алгоритм). 

Классификация автономности «Общества автомобильных инженеров».
Классификация автономности «Общества автомобильных инженеров».

Стилгоу же считает, что еще надо учитывать другие объекты на дорогах и ожидания от поведения беспилотных автомобилей, как если бы их автономность не была важнейшей целью их обучения. Он, как и Маррес, подчеркивает, что испытания за пределами лабораторий нужны не только для обучения алгоритмов, а для формирования общественных убеждений. Экспериментальное тестирование работает скорее как тестирование правил и регулирования (в значении policy). 

Автономность оказывается не самым важным этическим вопросом, связанным с беспилотными автомобилями. Куда важнее то, к чему они все-таки привязаны. Такие привязанности есть как в самой машине, так и на дороге и внешней среде. И получается, что мир должен выстраиваться вокруг мобильных и автономных систем. То есть вместо автономности следует говорить о том, от чего зависит работа беспилотных систем. Речь идет о v2x (vehicle-to-everything) — всех видах коммуникации транспорта на дорогах, включая инфраструктуру и другой транспорт. 

«Грязный секрет» алгоритмов

Ответственность за набор данных, их значения и смыслы несут люди. Транспорт, сети, инфраструктура, пешеходы, камеры — все это в виде данных «оседает» и обрабатывается в алгоритмах беспилотных автомобилей. И это, по мнению экспертов, «грязный секрет» искусственного интеллекта — алгоритмы отражают существующее положение вещей хоть на дорогах, хоть в социальных взаимодействиях. 

Писательница и исследовательница Кейт Кроуфорд в книге «The Atlas of AI» («Атлас искусственного интеллекта») пишет, что ИИ — это не объективная, универсальная или нейтральная вычислительная техника, которая действует без человека.

«Системы искусственного интеллекта встроены в социальные, политические, культурные и экономические миры, сформированные людьми, институтами и императивами, которые определяют, что они делают и как они это делают. Они спроектированы, чтобы дискриминировать, усиливать иерархии и кодировать узкие классификации», — говорит она. В итоге алгоритмы могут только усиливать неравенство, когда они применяются в судебной системе, здравоохранении или образовании.

Та же логика относится к беспилотным автомобилям. Они не станут полноценными участниками дорожного движения, если учить их водить так, как водят люди. Они зависят от инфраструктуры, например, карт или разметки, не говоря о непредсказуемом поведении других водителей и пешеходов. В итоге неформальные правила и спонтанные ситуации на дорогах заставляют регуляторов принимать меры, которые направлены не на беспилотники или их разработчиков, а на людей — водителей и пешеходов. 

Предполагается, что в условиях неопределенности человеку будет проще адаптироваться к радикальной инновации, а не наоборот. Таким образом, государства стали разрабатывать регламенты и правила для водителей и пешеходов, регулирующие их поведение на дорогах, где есть беспилотные автомобили. Например, в Британии было предложено создать «Digital Highway Code» («Цифровой дорожный кодекс»), который бы учитывал появление новых дорожных правил с учетом беспилотных машин.

В основе этой логики лежит предположение, что человеческое поведение можно рационализировать настолько, чтобы правила дорожного движения стали машиночитаемыми. Как если бы люди вели себя, как машины. Правда, проблема с этими правилами в том, что большинство из них остаются не формализованными и не проговариваемыми. 

Выводы

Возможно, выход в том, чтобы позволить алгоритмам «вытащить» и зафиксировать те скрытые правила, которые в разных локальных культурах считаются нормой. И следовать им в обучении. Но это значит, что такие правила и базы данных не смогут быть воспроизведены в других локальных культурах, потому что там будут действовать свои практики. 

Как бы то ни было, на сегодня беспилотным автомобилям нужны и разнообразные данные, и интенсивное тестирование в реальных условиях, и модерация данных и принимаемых технологиями решений. А еще нужно следить за процессом обучения беспилотников, чтобы сохранять объяснимость и прозрачность их решений — не только для разработчиков, но и для пользователей.

Остается вопрос: кто в конечном итоге получает выгоду от закрепления неформальных правил распространения радикальных инноваций и как при этом будут вести себя другие участники дорожного движения.

Семинар «Будущее беспилотных автомобилей. Как исследовать тестирование и регулирование радикальных инноваций в обществе?» проводился при поддержке гранта Российского научного фонда (№ 20-78-10106).