Между независимостью и критикой: этика искусственного интеллекта в 2021 году

Что значимого произошло с этическим осмыслением и регулированием ИИ Фото: Unsplash.

Общественные дискуссии вокруг искусственного интеллекта (ИИ) сильно изменились за прошедший год. Как политические, так и этические аспекты технологии стали получать все больше внимания в России и за рубежом. 

Так, в октябре 2021 года в России был принят «Национальный кодекс этики ИИ». Хотя кто-то и приветствовал принятие документа, некоторые эксперты высказывали опасения, что такой кодекс носит лишь декларативный и формальный характер. Так, эксперт по открытым данным и IT в России Иван Бегтин в своем телеграм-канале написал, что такой кодекс — «это не фундаментальный документ на поколения вперед, а художественный акт саморегулирования без обязательств».

Несмотря на противоречивое отношение к такому документу в профессиональном сообществе, сам факт его принятия и дискуссий показывает, что интерес к этическим вопросам ИИв России усиливается. Давайте обсудим, что значимого произошло с этическим осмыслением и регулированием ИИ в прошедшем году. 

Этика перед вызовом институционализации

Когда говорят об институционализации этики ИИ, имеют в виду постепенные процессы ее встраивания в рамки формальных организаций, создание соответствующих правил и практик. Глобальные дискуссии все посвящены различным формам того, как это происходит, и конкретным возможностям для изменений, которые есть у сотрудников IT-компаний. Знаковыми событиями здесь служат увольнение специалистки по этическим вопросам искусственного интеллекта Тимнит Гебру в декабре 2020 года, а затем и ее коллеги Маргарет Митчелл в феврале 2021 — об этих событиях мы в Теплице уже писали здесь

В декабре 2021 года Гебру основала свой собственный Исследовательский институт распределенного искусственного интеллекта (DAIR). Главной целью новой организации будет изучение того вреда, который ИИ наносит уязвимым в обществе группам. В комментариях для Washington Post она отмечает, что такая независимость позволит ей критиковать действия компаний не изнутри, а извне. Все ее прошлые попытки оказывать влияние на руководство Google, будучи частью компании, оказались в конечном итоге не столь действенны и привели к увольнению Гебру.

Этика ИИ внутри IT-компаний изначально появилась как нечто отдельное от государственного регулирования. Внутри таких компаний были созданы отделы, руководства, принципы и другие формы «мягкого» воздействия на новые технологические продукты. Это позволило рассматривать этику как форму саморегулирования технологических компаний без вмешательства извне.

В таком устройстве дел быстро обнаружился подвох. Проблема заключается в том, что когда этикой ИИ занимаются специалисты внутри самих компаний, у руководства часто отсутствуют стимулы, чтобы прислушиваться к критике и менять продукты. В связи с этим в отношении практики создания отделов по этике внутри IT-компаний часто относятся как к форме «обеления через этику» («ethics-washing»). Создание таких подразделений позволяет компании, с одной стороны, уйти от внешней критики неэтичности их продуктов — ведь отделы есть и работают. С другой стороны, из-за отсутствия обязывающих руководство компаний механизмов сами практики дизайна продуктов могут оставаться совершенно неизменными. 

Здесь мы сталкиваемся с большим вопросом об интеллектуальной и практической автономии специалистов по этике ИИ. Как должна быть устроена их работа, чтобы они действительно могли оказывать значимое влияние на работу IT-компаний? 

Когда специалисты по этике ИИ работают в самих компаниях, то без существования прозрачных механизмов, обеспечивающих им право голоса в принятии решений и независимость, их шансы на успех малы. Стремления что-то поменять могут оказаться безрезультатными, если они идут вразрез с коммерческими интересами компании. Но когда критика технологических продуктов с этических позиций осуществляется извне, то из-за более низкого уровня доступа к процессу проектирования технологических решений вмешательство преимущественно будет реакционным. 

Финансирование критики

Возможность продуктивной критики извне также осложняется финансовым вопросом: какие организации и каким образом спонсируют работу специалистов по этическим вопросам? В частности, такие большие технологические компании, как Google, активно предоставляют исследовательские гранты для исследований последствий создаваемых ими же самими технологий и платформ. Стратегия приобретения доверия влиятельных академиков — часть лоббистской стратегии компании в странах Европейского союза.

Журналисты издания New Statesman в своем расследовании показали, что ряд влиятельных европейских академических институтов финансируются IT-компаниями. Среди них, к примеру, Оксфордский интернет-институт и Институт Интернета и общества Александра фон Гумбольдта. Такие институты занимаются изучением взаимоотношений технологий и общества, выпускают статьи и публичные отчеты. Их сотрудники также часто работают как консультанты в организациях, вырабатывающих экспертизу для принятия политических решений в Европейском союзе. 

Важно, что такое финансирование влияет на повестку и результаты исследований отнюдь нелинейно: получение грантов от IT-компаний не означает, что ученые теперь всегда будут продвигать точку зрения компании. Вместе с тем сами финансовые отношения между академиками и большими компаниями могут влиять на характер работы первых иначе.

Экономические ресурсы могут задавать стимулы в отношении направлений исследований, которые кажутся грантодателям более «перспективными», тем самым формируя, что следует исследовать, а что нет. А финансирование таких исследований, как указывают ряд интервьюируемых журналистами New Statesman, может способствовать созданию неопределенности за счет углубления в местами технические детали, что по итогу отсрочивает принятие регуляторных решений. 

Таким образом, экосистемы финансирования исследований об этических и социальных последствиях систем ИИ возвращают нас к вопросу об автономии академического сообщества.

Заключение

Одновременно и как исследовательская работа, и как практическая деятельность этика ИИ находится в непростом состоянии в конце 2021 года. С одной стороны, формы ее институционализации, адекватной содержанию, поднимают проблемы о финансировании и независимости, эффективности и доступе. С другой же стороны, возникает вопрос о том, как должно существовать этическое осмысление ИИ, чтобы быть наиболее действенным. В самих IT-компаниях, некоммерческих организациях или же само этическое осмысление вторично по отношению к государственному регулированию.

Все эти вопросы — часть того сложного положения, для выхода из которого практикам этики ИИ и другим участвующим сторонам придется искать экономические, политические и организационные решения в ближайшие годы.