Почему какие-то инновации называют радикальными? Они меняют устоявшиеся правила игры, перестраивают пространство и инфраструктуру и, как правило, требуют нового регулирования. Одна из таких радикальных инноваций — беспилотный автомобиль. И пока появление беспилотников на дорогах проходит не так гладко и быстро, как хотелось бы разработчикам.
Беспилотные автомобили ассоциируются сегодня с отсутствием водителя, самостоятельным передвижением и уровнями автономности. А еще с авариями и другими опасностями. В 2018 году беспилотник Uber насмерть сбил пешехода. До сих пор легитимность тестирования и регулирования беспилотного транспорта под вопросом и требует участия разных экспертов.
Чем радикальнее инновация, тем больше технических и социальных исследований нужно проводить на разных этапах ее разработки. Как устроены такие исследования, разбирались участники семинара Центра исследований науки и технологий Европейского университета в Санкт-Петербурге, который прошел 20 мая 2021 года.
На семинаре выступили ведущие мировые специалисты в области исследований радикальных инноваций Нортье Маррес (Noortje Marres) и Джек Стилгоу (Jack Stilgoe).
- Нортье Маррес — профессор Центра междисциплинарных методологий в университете Уорика и автор ставших классическими работ по социальным исследованиям цифровых технологий. На семинаре она представила новую социологию тестирования для изучения радикальных инноваций в реальных условиях жизни общества.
- Джек Стилгоу — профессор STS (исследований науки и технологий) в Университетском колледже Лондона и один из ключевых авторов в социальных исследованиях беспилотного транспорта. Он изучает практики и регулирование сферы искусственного интеллекта и алгоритмов, публикует аналитические отчеты и научно-популярные статьи. А также руководит проектом «Driverless Futures» («Беспилотное будущее»), созданным для публичного обсуждения беспилотных автомобилей как радикальной инновации.
Я собрала для вас основные мысли из их выступлений на семинаре.
Из лаборатории на улицу
Тестирование беспилотных автомобилей на дорогах — важный этап. Это значит, что технология готова к непредсказуемым условиям, которые нельзя контролировать, как в лабораториях и на полигонах. Как только инновация «выходит» из лаборатории, в ее жизни появляются и другие участники: пилотируемый транспорт, пешеходы, разметка, ПДД и негласные правила поведения на дорогах.
Нужно ли каким-то образом готовить внешнюю среду к появлению беспилотных автомобилей на дорогах? Маррес привела пример Ковентри в 2017 году, когда автомобили просто оказались на улицах города без официальных заявлений. Не было никакой публичной дискуссии, формальных обсуждений. Только во время тестирования стали появляться комментарии в социальных сетях. Но официальная позиция была озвучена лишь после проведения тестирования.
Интеллектуальные технологии становятся частью общественных отношений и требуют определенного вовлечения других участников. Потенциальные пользователи должны принимать участие в тестированиях. На самом же деле пользователи видят уже демонстрацию беспилотных автомобилей, а не участвуют в ее тестировании.
Джек Стилгоу подчеркивает, что тестирование и демонстрация не одно и то же. В случае с интеллектуальными технологиями основной акцент должен быть сделан на тестировании, то есть подготовке, информировании, контроле технологий в реальных условиях.
Тестирование — это не просто перенос технологии из лаборатории в реальные условия. Это инструмент для управления инновациями, который включает социальный порядок, модели общества, подотчетность, участие пользователей и другие аспекты для ответственных инноваций. В этом смысле необходимо пересмотреть представление о том, что такое инновация, и особенно — радикальная инновация.
Особенности тестирования
Нортье Маррес со своим коллегой Дэвидом Старком предлагают учитывать три особенности тестирования.
- Тесты генеративны — они порождают новые тестирования. Тесты нужны для того, чтобы получить результат и понять, что именно тестируется. Для социологии тестирования это означает, что тесты должны рассматриваться в контексте других тестов. Это так называемая экология тестирования.
- Тестирование производится в разных обстоятельствах, на разных масштабах и на нескольких площадках. Из-за этого появляются новые отношения и сущности. В результате инженеры и разработчики учитывают все больше социальных аспектов, используют наблюдения их социальных наук, обращаются к экспертизе социальных ученых.
- Отношения между тестируемыми и тестирующими бывают нестабильными. Настолько, что в итоге тестирование может оказаться под запретом. Успех тестирования состоит не в удачном переносе технологии из лаборатории в реальный мир. А в том, насколько сохраняются или же меняются отдельные характеристики и типы отношений, как между технологиями, так и между технологиями и людьми. Тестирование — это постоянно меняющаяся реальность, где среда и участники должны быть готовы к этим изменениям.
Итак, тестирование не просто «выход» технологии за пределы лаборатории, а процесс трансформации установок, отношений, окружающей среды. Это постоянная работа по модификации социальных отношений с учетом технонаучных установок. Новая социология тестирования выступает скорее за разнообразие режимов или экологию экспериментирования.
Жизнь после тестирования
Результат качественного и регулярного тестирования — автономность беспилотных автомобилей. Правда, у понятия автономии множество смыслов. Например, в классификации «Общества автомобильных инженеров» (SAE) уровни автономности измеряются участием человека: от уровня 0 (полный контроль человека) к уровню 5 (абсолютно самостоятельный алгоритм).
Стилгоу же считает, что еще надо учитывать другие объекты на дорогах и ожидания от поведения беспилотных автомобилей, как если бы их автономность не была важнейшей целью их обучения. Он, как и Маррес, подчеркивает, что испытания за пределами лабораторий нужны не только для обучения алгоритмов, а для формирования общественных убеждений. Экспериментальное тестирование работает скорее как тестирование правил и регулирования (в значении policy).
Автономность оказывается не самым важным этическим вопросом, связанным с беспилотными автомобилями. Куда важнее то, к чему они все-таки привязаны. Такие привязанности есть как в самой машине, так и на дороге и внешней среде. И получается, что мир должен выстраиваться вокруг мобильных и автономных систем. То есть вместо автономности следует говорить о том, от чего зависит работа беспилотных систем. Речь идет о v2x (vehicle-to-everything) — всех видах коммуникации транспорта на дорогах, включая инфраструктуру и другой транспорт.
«Грязный секрет» алгоритмов
Ответственность за набор данных, их значения и смыслы несут люди. Транспорт, сети, инфраструктура, пешеходы, камеры — все это в виде данных «оседает» и обрабатывается в алгоритмах беспилотных автомобилей. И это, по мнению экспертов, «грязный секрет» искусственного интеллекта — алгоритмы отражают существующее положение вещей хоть на дорогах, хоть в социальных взаимодействиях.
Писательница и исследовательница Кейт Кроуфорд в книге «The Atlas of AI» («Атлас искусственного интеллекта») пишет, что ИИ — это не объективная, универсальная или нейтральная вычислительная техника, которая действует без человека.
«Системы искусственного интеллекта встроены в социальные, политические, культурные и экономические миры, сформированные людьми, институтами и императивами, которые определяют, что они делают и как они это делают. Они спроектированы, чтобы дискриминировать, усиливать иерархии и кодировать узкие классификации», — говорит она. В итоге алгоритмы могут только усиливать неравенство, когда они применяются в судебной системе, здравоохранении или образовании.
Та же логика относится к беспилотным автомобилям. Они не станут полноценными участниками дорожного движения, если учить их водить так, как водят люди. Они зависят от инфраструктуры, например, карт или разметки, не говоря о непредсказуемом поведении других водителей и пешеходов. В итоге неформальные правила и спонтанные ситуации на дорогах заставляют регуляторов принимать меры, которые направлены не на беспилотники или их разработчиков, а на людей — водителей и пешеходов.
Предполагается, что в условиях неопределенности человеку будет проще адаптироваться к радикальной инновации, а не наоборот. Таким образом, государства стали разрабатывать регламенты и правила для водителей и пешеходов, регулирующие их поведение на дорогах, где есть беспилотные автомобили. Например, в Британии было предложено создать «Digital Highway Code» («Цифровой дорожный кодекс»), который бы учитывал появление новых дорожных правил с учетом беспилотных машин.
В основе этой логики лежит предположение, что человеческое поведение можно рационализировать настолько, чтобы правила дорожного движения стали машиночитаемыми. Как если бы люди вели себя, как машины. Правда, проблема с этими правилами в том, что большинство из них остаются не формализованными и не проговариваемыми.
Выводы
Возможно, выход в том, чтобы позволить алгоритмам «вытащить» и зафиксировать те скрытые правила, которые в разных локальных культурах считаются нормой. И следовать им в обучении. Но это значит, что такие правила и базы данных не смогут быть воспроизведены в других локальных культурах, потому что там будут действовать свои практики.
Как бы то ни было, на сегодня беспилотным автомобилям нужны и разнообразные данные, и интенсивное тестирование в реальных условиях, и модерация данных и принимаемых технологиями решений. А еще нужно следить за процессом обучения беспилотников, чтобы сохранять объяснимость и прозрачность их решений — не только для разработчиков, но и для пользователей.
Остается вопрос: кто в конечном итоге получает выгоду от закрепления неформальных правил распространения радикальных инноваций и как при этом будут вести себя другие участники дорожного движения.
Семинар «Будущее беспилотных автомобилей. Как исследовать тестирование и регулирование радикальных инноваций в обществе?» проводился при поддержке гранта Российского научного фонда (№ 20-78-10106).
