Почему роботы пугают? Главные мысли с мастерской про будущее искусственного интеллекта

Участники мастерской обсуждали страхи и ожидания от развития ИИ. На фото: директор Леверхульмского Центра изучения будущего интеллекта CFI Стивен Кейв. Фото: Анна Балахонцева.
Участ­ни­ки мастер­ской обсуж­да­ли стра­хи и ожи­да­ния от раз­ви­тия ИИ. На фото: дирек­тор Леверхульм­ско­го Цен­тра изу­че­ния буду­ще­го интел­лек­та CFI Сти­вен Кейв. Фото: Анна Бала­хон­це­ва.

А вы бои­тесь робо­тов? То, что они зай­мут ваше рабо­чее место? Или того, что чат-боты могут заме­нить реаль­ных дру­зей, и мы поте­ря­ем важ­ную часть жиз­ни — ком­му­ни­ка­цию друг с дру­гом? Какие еще стра­хи и ожи­да­ния суще­ству­ют в обще­стве в свя­зи с раз­ви­тия искус­ствен­но­го интел­лек­та обсуж­да­ли участ­ни­ки кон­фе­рен­ции и мастер­ской, про­шед­шей 12 и 13 сен­тяб­ря 2019 года в Санкт-Петер­бур­ге.

Спе­ци­а­ли­сты Кем­бридж­ско­го уни­вер­си­те­та, коман­да Леверхульм­ско­го Цен­тра изу­че­ния буду­ще­го интел­лек­та CFI, впер­вые в Рос­сии про­ве­ли мастер-класс по изу­че­нию буду­ще­го искус­ствен­но­го интел­лек­та в рам­ках меж­ду­на­род­но­го про­ек­та «Искус­ствен­ный интел­лект. Гло­баль­ная кар­ти­на» (Global AI Narratives, GAIN). Собы­тие про­шло при под­держ­ке Теп­ли­цы соци­аль­ных тех­но­ло­гий.

Алек­сей Сидо­рен­ко, руко­во­ди­тель Теп­ли­цы, откры­ва­ет кон­фе­рен­цию.

В пер­вый день лек­то­ры отве­ча­ли на вопрос, как обще­ствен­ное вос­при­я­тие фор­ми­ру­ет буду­щее ИИ в Рос­сии и в мире. В дис­кус­сии участ­во­ва­ли не толь­ко спе­ци­а­ли­сты, иссле­до­ва­те­ли, it-раз­ра­бот­чи­ки, но и сту­ден­тов тех­ни­че­ских вузов, поклон­ни­ки футу­ри­сти­че­ской темы и науч­ной фан­та­сти­ки.

Еще по теме: Луч­шие филь­мы про искус­ствен­ный интел­лект и тех­но­ло­гии

Кан­та Дихал, иссле­до­ва­тель­ни­ца тех­но­ло­гий ИИ из Цен­тра буду­ще­го интел­лек­та при Кем­бридж­ском уни­вер­си­те­те, рас­ска­за­ла про исто­рию нар­ра­ти­ва в ИИ, кото­рый сфор­ми­ро­вал­ся в запад­ной куль­ту­ре, как науч­но-попу­ляр­ные рас­ска­зы фор­ми­ру­ют пред­став­ле­ния об ИИ в обще­стве.

Кан­та Дихал и Тони Лич, иссле­до­ва­тель­ни­цы Цен­тра изу­че­ния буду­ще­го искус­ствен­но­го интел­лек­та.

Антон Перву­шин, жур­на­лист и автор науч­но-фан­та­сти­че­ских и науч­но-попу­ляр­ных книг, пред­ста­вил, как в оте­че­ствен­ном фен­та­зи отра­жал­ся образ чело­ве­ка-кибор­га. В совет­ском созна­нии рабо­та нуж­но было «сло­мать» и стать «сво­им» сре­ди людей. И глав­ный вопрос, нуж­на ли ИИ душа? Он под­нял тему важ­но­сти точ­но­го пере­во­да тер­ми­нов «интел­лект» и «разум».

Антон Перву­шин.

Участ­ни­ки зада­ва­ли вопро­сы про оду­шев­ле­ние искус­ствен­но­го интел­лек­та и опа­са­лись, не исклю­чит ли появ­ле­ние робо­тов пози­тив­ные момен­ты из нашей повсе­днев­ной жиз­ни: рабо­ту, дру­зей, воз­мож­ность ком­му­ни­ка­ции.

Что будет если маши­ну наде­лить чело­ве­че­ски­ми эмо­ци­я­ми? Поче­му это вызы­ва­ет страх, и могут ли маши­ны про­сто уйти от нас? Мож­но ли пред­ска­зать буду­щее? На такие вопро­сы отве­ча­ли во вре­мя дис­кус­сии.

Видео с пуб­лич­ных лек­ций мож­но посмот­реть по ссыл­ке.

Мастерская: главные тезисы

Во вто­рой день иссле­до­ва­те­ли обсуж­да­ли, как вос­при­ни­ма­ют­ся робо­ты и умные маши­ны в раз­ных стра­нах, как это вли­я­ет на тех­но­ло­ги­че­скую раз­ра­бот­ку и реше­ние эти­че­ских вопро­сов, какие трен­ды есть в Рос­сии и насколь­ко они вклю­че­ны в обще­ми­ро­вой про­цесс?

В мастер­ской участ­во­ва­ли спе­ци­а­ли­сты из Петер­бур­га, Моск­вы и Вели­ко­бри­та­нии, изу­ча­ю­щих тех­но­ло­гии ИИ и изме­не­ния, кото­рые они вле­кут за собой, прак­ти­ков, кото­рые раз­ви­ва­ют тех­но­ло­гии ИИ, а так­же пра­во­за­щит­ни­ков, юри­стов, обще­ствен­ни­ков.

В пер­вой сес­сии дирек­тор Леверхульм­ско­го Цен­тра изу­че­ния буду­ще­го интел­лек­та CFI Сти­вен Кейв рас­ска­зал об исто­рии искус­ствен­но­го интел­лек­та и интел­лек­та вооб­ще: несмот­ря на общий пози­тив­ный шлейф, при более вни­ма­тель­ном взгля­де в про­шлое выяс­ня­ет­ся, что кон­цеп­ция несет сек­сист­ские и даже расист­ские кор­ни.

Участ­ни­ки мастер­ской.

Анна Вла­со­ва, руко­во­ди­тель отде­ла линг­ви­сти­ки в ком­па­нии «Нано­се­ман­ти­ка» рас­суж­да­ла об эмо­ци­о­наль­ных робо­тах: как их видит биз­нес, как к ним отно­сят­ся раз­ра­бот­чи­ки и каков прак­ти­че­ский опыт реаль­ных потре­би­те­лей этой инно­ва­ци­он­ной раз­ра­бот­ки.

«Сей­час инте­рес­ный пери­од, пото­му что биз­нес ото­рвал­ся от пред­став­ле­ния, кото­рое дик­то­ва­ло кино (от обра­зов тер­ми­на­то­ра, элек­тро­ни­ка), им нуж­но, что­бы бот, как сер­вис, был «лип­кий», то есть застав­лял поль­зо­ва­те­ля воз­вра­щать­ся к нему — гасил, напри­мер, агрес­сию. Раз­ра­бот­ки в обла­сти эмо­ци­о­наль­ной тональ­но­сти — это насто­я­щий тренд. Этим зани­ма­ют­ся все». Анна Вла­со­ва.

Писа­тель Антон Перву­шин отме­тил, что в рос­сий­ском мен­та­ли­те­те есть тен­ден­ция к оду­шев­ле­нию искус­ствен­но­го интел­лек­та и, вви­ду неосо­знан­но­го стра­ха перед ИИ как угро­зой, при­да­нию ему субъ­ек­тив­но поло­жи­тель­ных «понят­ных» чело­ве­че­ских качеств, что не все­гда пози­тив­но отра­жа­ет­ся на эффек­тив­но­сти раз­ра­бо­ток.

«Работу, связанную с эмпатией, заменить будет сложно»

Участ­ни­ки мастер­ской: Алек­сей Сидо­рен­ко, Тони Лич, Мари­на Шили­на, Сти­вен Кейв.

Во вто­рой сес­сии, посвя­щен­ной вза­и­мо­дей­ствию ИИ с обще­ством, руко­во­ди­тель Теп­ли­цы соци­аль­ных тех­но­ло­гий Алек­сей Сидо­рен­ко про­сле­дил три исто­ри­че­ских обли­чия ИИ в рос­сий­ских биз­нес- и науч­ных пуб­ли­ка­ци­ях с 2016 по 2019 год: ИИ как вор, кра­ду­щий рабо­чие места, затем слу­га, облег­ча­ю­щий повсе­днев­ную жизнь и, нако­нец, под­стре­ка­тель, угро­жа­ю­щий мас­со­вы­ми бес­по­ряд­ка­ми и мигра­ци­ей в сла­бо­раз­ви­тых реги­о­нах Рос­сии.

«НКО затра­ги­ва­ют глу­бо­ко чело­ве­че­ские вещи, неко­то­рую рабо­ту будет очень слож­но заме­нить и авто­ма­ти­зи­ро­вать. Это, преж­де все­го, рабо­та, свя­зан­ная с забо­той, она оста­нет­ся вос­тре­бо­ван­ной, и могут быть созда­ны новые рабо­чие места». Алек­сей Сидо­рен­ко.

Ната­лья Тре­гу­бо­ва, асси­стент кафед­ры срав­ни­тель­ной социо­ло­гии Санкт-Петер­бург­ско­го госу­дар­ствен­но­го уни­вер­си­те­та, про­сле­ди­ла, как тех­но­ло­гии ИИ от про­ек­та, ори­ен­ти­ро­ван­но­го на дости­же­ние кон­крет­ной цели, посте­пен­но пере­ори­ен­ти­ру­ют­ся на вза­и­мо­дей­ствие с чело­ве­ком и фор­ми­ру­ют новый пласт ком­му­ни­ка­ции «чело­век-маши­на-чело­век» под назва­ни­ем «Искус­ствен­ная соци­аль­ность».

Мари­на Шили­на, про­фес­сор РЭУ им. Г.В. Пле­ха­но­ва, рас­суж­да­ла о том, что бла­го­да­ря ИИ соци­аль­ные отно­ше­ния ста­но­вят­ся рав­ны­ми эко­но­ми­че­ским: когда наши дан­ные соби­ра­ют­ся и затем исполь­зу­ют­ся в эко­но­ми­ке, это озна­ча­ет, что мы авто­ма­ти­че­ски ста­но­вим­ся частью эко­но­ми­че­ской систе­мы. И это абсо­лют­но новая реа­лия, кото­рую насе­ле­ние пока не осо­зна­ет, увлек­шись тер­ми­но­ло­ги­ей, эффек­та­ми и сце­на­ри­я­ми ИИ.

Тони Лич, науч­ная сотруд­ни­ца Кем­бридж­ско­го уни­вер­си­те­та, посвя­ти­ла свой доклад дис­кри­ми­на­ции в сфе­ре раз­ви­тия искус­ствен­но­го интел­лек­та и важ­но­сти вни­ма­ния к этим вопро­сам при фор­ми­ро­ва­нии сте­рео­ти­пов об ИИ.

Почему роботы пугают?

Кан­та Дихал

Тре­тья сес­сия был посвя­ще­на теме пуб­лич­но­го вос­при­я­тия искус­ствен­но­го
интел­лек­та.

Илья Овчин­ни­ков иссле­до­ва­тель машин­но­го обу­че­ния в ком­па­нии Dasha AI гово­рил о дуа­лиз­ме прак­ти­че­ской финан­со­вой эффек­тив­но­сти для биз­не­са от при­ме­не­ния робо­тов в колл-цен­трах и обще­при­ня­то­го нега­тив­но­го вос­при­я­тия поль­зо­ва­те­ля­ми.

«Опе­ра­то­ры колл цен­тров чув­ству­ют и ведут себя как робо­ты. Давай­те осво­бо­дим их от рути­ны и дадим зани­мать­ся твор­че­ски­ми и интел­лек­ту­аль­ны­ми про­фес­си­я­ми. Пусть этим зани­ма­ет­ся ИИ кото­рый про­хо­дит тест Тюнин­га, не отли­чим от чело­ве­ка и рабо­та­ет эффек­тив­нее». Илья Овчин­ни­ков.

Кан­ди­дат социо­ло­ги­че­ских наук Лилия Зем­ну­хо­ва рас­суж­да­ла о раз­ли­чии пред­став­ле­ний об ИИ в рос­сий­ском обще­стве в зави­си­мо­сти от кон­тек­ста: на фоне пози­тив­но­го обще­ствен­но­го настроя пред­ста­ви­те­ли инду­стрии настро­е­ны более кри­тич­но вви­ду неопре­де­лен­но­сти и воз­мож­ных финан­со­вых рис­ков. При этом она под­черк­ну­ла, что посколь­ку тех­но­ло­гии не раз­ви­ва­ют­ся в ваку­у­ме, то так или ина­че будут отра­жать те про­бле­мы, суще­ству­ю­щие в обще­стве, а зна­чит, важ­но вос­при­ни­мать их в кон­крет­ном кон­тек­сте.

«Поче­му люди гово­рят, что робо­ты пуга­ют? В медиа имен­но такие сюже­ты вызы­ва­ют силь­ные эмо­ции. В Бри­та­нии к таким ново­стям отно­сят­ся настро­жен­но, а в Рос­сии это кажет­ся нор­мой: «да, робо­ты пуга­ют, и что». Это пока­зы­ва­ет в боль­шей сте­пе­ни про­бле­мы рос­сий­ских поль­зо­ва­те­лей, так как у нас есть пред­став­ле­ние о том, что тех­но­ло­гии все могут решить. Это доволь­но опро­мет­чи­во. Для меня это пища для раз­мыш­ле­ний и при­мер того, как может быть по-дру­го­му». Лилия Зем­ну­хо­ва.

Кан­та Дихал, руко­во­ди­тель про­ек­та GAIN, пред­ста­ви­ла доклад о том, какие надеж­ды и стра­хи отно­си­тель­но ИИ при­сут­ству­ют в Вели­ко­бри­та­нии, рас­ска­зав о раз­ни­це меж­ду офи­ци­аль­ной ста­ти­сти­кой и реаль­ным настро­ем граж­дан.

«Стра­хи о поте­ре рабо­ты в бли­жай­шее вре­мя оправ­да­ны, но дру­гие (в Вели­ко­бри­та­нии, напри­мер, стар­шее поко­ле­ние боит­ся вос­ста­ния машин) — я думаю, не слу­чат­ся в бли­жай­шем буду­щем». Кан­та Дихал.

Сотруд­ни­ца Цен­тра Бал­тий­ских и Восточ­но-евро­пей­ских иссле­до­ва­ний Ири­на Кот­ки­на про­ана­ли­зи­ро­ва­ла вос­при­я­тие раз­ви­тия ИИ в рос­сий­ском сег­мен­те Интер­не­та, отме­тив фор­ми­ру­ю­ще­е­ся недо­ве­рие в рус­ской бло­го­сфе­ре, осо­бен­но подо­гре­ва­е­мое на поч­ве при­ме­не­ния тех­но­ло­гий ИИ госу­дар­ством.

Как остановить цифровую диктатуру

Журналистка и правозащитница рассказала к каким общественным кампаниям можно присоединиться, чтобы защитить свои данные. Автор фото: Наталья Баранова.
Жур­на­лист­ка и пра­во­за­щит­ни­ца рас­ска­за­ла к каким обще­ствен­ным кам­па­ни­ям мож­но при­со­еди­нить­ся, что­бы защи­тить свои дан­ные. Автор фото: Ната­лья Бара­но­ва.

В чет­вер­той сес­сии участ­ни­ки обсу­ди­ли раз­ви­тие тех­но­ло­гий ИИ и рос­сий­скую поли­ти­ки. Аспи­рант­ка факуль­те­та соци­аль­ных наук Кар­ло­ва уни­вер­си­те­та (Пра­га) Анже­ли­ка Соло­вье­ва пред­ста­ви­ла идею свя­зи совре­мен­но­го вос­при­я­тия ИИ с гео­по­ли­ти­че­ски­ми осо­бен­но­стя­ми Рос­сии, повли­яв­ши­ми на фор­ми­ро­ва­ние куль­ту­ры и мен­та­ли­те­та. ИИ вос­при­ни­ма­ет­ся как стра­те­ги­че­ский инстру­мент и важ­ность тех­но­ло­ги­че­ско­го суве­ре­ни­те­та раз­ви­тия стра­ны, уве­ре­на она.

Док­тор фило­соф­ских наук СПб­ГУ Андрей Реза­ев в сво­ем докла­де гово­рил о недо­ста­точ­ном уровне тех­но­ло­ги­че­ско­го обра­зо­ва­ния и прак­ти­че­ских зна­ний тех спе­ци­а­ли­стов, кото­рые сей­час зани­ма­ют­ся фор­ми­ро­ва­ни­ем и раз­ви­ти­ем так назы­ва­е­мой «искус­ствен­ной соци­аль­но­сти».

Пра­во­за­щит­ни­ца и жур­на­лист­ка Алё­на Попо­ва рас­ска­за­ла о том, как важ­но создать зако­ны, защи­ща­ю­щие при­ват­ность и авто­ном­ность граж­дан. Это необ­хо­ди­мо, что­бы не допу­стить фор­ми­ро­ва­ние в Рос­сии циф­ро­вой дик­та­ту­ры.

Еще по теме: Алё­на Попо­ва: как оста­но­вить циф­ро­вую дик­та­ту­ру

Еле­на Шахо­ва, пред­се­да­тель обще­ствен­ной орга­ни­за­ции «Граж­дан­ский кон­троль», завер­ши­ла сес­сию темой защи­ты стан­дар­тов прав чело­ве­ка при при­ме­не­нии тех­но­ло­гий искус­ствен­но­го интел­лек­та.

Еле­на Шахо­ва, пред­се­да­тель обще­ствен­ной орга­ни­за­ции «Граж­дан­ский кон­троль»

«С помо­щью ИИ мож­но обес­пе­чить луч­шую бес­при­страст­ность суда, но если окон­ча­тель­ное реше­ние оста­ет­ся за чело­ве­ком, то пол­но­стью обес­пе­чить бес­при­страст­ность все рав­но не удать­ся. Мы живем в такой пери­од чело­ве­че­ства, кото­рый закон­чит­ся пол­ной авто­ма­ти­за­ци­ей и робо­ти­за­ци­ей. Пра­во­су­дие будет пере­да­но в руки ИИ одним из послед­них. Когда все про­цес­сы буду авто­ма­ти­зи­ро­ва­ны, появят­ся дру­гие мораль­ные и цен­ност­ные ори­ен­ти­ры, и пра­во­су­дие тоже видо­из­ме­нит­ся и извра­тить­ся, мы не можем пред­ста­вить что будет.

Что говорят участники

Участ­ни­ки мастер­ской.

«Одной из важ­ных тем ста­ла сте­пень вовле­че­ния госу­дар­ства в фор­ми­ро­ва­нии буду­ще­го этой тех­но­ло­гии. В Рос­сии она силь­нее, чем в Вели­ко­бри­та­нии. В Вели­ко­бри­та­нии она более децен­тра­ли­зо­ва­на и ори­ен­ти­ро­ва­на на про­мыш­лен­ность. Я думаю, что, если спро­сить людей в Вели­ко­бри­та­нии, кто явля­ет­ся основ­ны­ми дей­ству­ю­щи­ми лица­ми в вопро­сах ИИ, они будут гово­рить о круп­ных тех­но­ло­ги­че­ских ком­па­ни­ях, таких как Google или Facebook, но не о пра­ви­тель­стве Вели­ко­бри­та­нии. Так что эта раз­ни­ца очень инте­рес­на. Так­же для меня была инте­рес­на повто­ря­ю­ща­я­ся идея «рус­ской души» и про­чие подоб­ные роман­ти­че­ские идеи». Сти­вен Кейв.

«Я осо­знал круп­ное непо­ни­ма­ние уче­ных из соци­аль­ной сфе­ры того, что пред­став­ля­ет собой искус­ствен­ный интел­лект в совре­мен­ном мире, как он раз­ра­ба­ты­ва­ет­ся, каки­ми мето­да­ми реша­ет­ся. В основ­ном все дис­ку­ти­ру­ют чисто фило­соф­ски, неко­то­рые рас­суж­да­ют о «душе ИИ». Боюсь, что это может нега­тив­но отра­зить­ся на тех­но­ло­ги­че­ском про­грес­се. Хоте­лось выра­зить поже­ла­ние, что­бы тео­ре­ти­ки чаще обща­лись с прак­ти­ка­ми, кото­рые дей­стви­тель­но созда­ют эти тех­но­ло­гии – те, кото­рые необ­хо­ди­мы чело­ве­ку сей­час». Илья Овчин­ни­ков.

«Меня пора­зи­ли дан­ные, что в Рос­сии гораз­до более чув­стви­тель­но отно­сят­ся к защи­те при­ват­но­сти и авто­ном­но­сти, и тех­но­ло­ги­ям, чем в Вели­ко­бри­та­нии». Алё­на Попо­ва.

Что дальше?

Дирек­тор Леверхульм­ско­го Цен­тра изу­че­ния буду­ще­го интел­лек­та CFI Сти­вен Кейв рас­ска­зал о буду­щем про­ек­та:

– Мы хоте­ли бы создать сооб­ще­ство людей, заин­те­ре­со­ван­ных в дис­кус­сии о пред­став­ле­ни­ях об ИИ, буду­щем тех­но­ло­гий, вли­я­нии на раз­ви­тие обще­ства и эти­ке. Мы гото­вим отче­ты по всем ворк­шо­пам, а в фев­ра­ле 2020 года пла­ни­ру­ем опуб­ли­ко­вать кни­гу, кото­рая пред­став­ля­ет собой сбор­ник из несколь­ких глав. В ней будут собра­ны пред­став­ле­ния об искус­ствен­ном интел­лек­те как исто­рия образ­но­го мыш­ле­ния об интел­лек­ту­аль­ных маши­нах, пока­жем эво­лю­цию сте­рео­ти­пов об ИИ на запа­де.

И сей­час нам важ­но вый­ти на миро­вой уро­вень, что­бы уви­деть дру­гое куль­тур­ное пони­ма­ние это­го явле­ния. Но мой ито­го­вый амби­ци­оз­ный замы­сел – это раз­ви­тие про­ек­та в гло­баль­ном мас­шта­бе, поэто­му мы пла­ни­ру­ем создать еди­ный онлайн-ресурс, на кото­ром спе­ци­а­ли­сты и участ­ни­ки наших семи­на­ров смо­гут общать­ся друг с дру­гом, обме­ни­вать­ся иссле­до­ва­ни­я­ми и иде­я­ми. Важ­но собрать кол­лек­цию под­хо­дов со все­го мира, а не фоку­си­ро­вать­ся толь­ко на запад­ном виде­нии. Так­же мы пла­ни­ру­ем пуб­ли­ко­вать отче­ты не толь­ко в рам­ках про­фес­си­о­наль­но­го сооб­ще­ства, но и сде­лать их доступ­ны­ми для всех спе­ци­а­ли­стов, не толь­ко уче­ных.

Справка

Меро­при­я­тие явля­ет­ся эта­пом иссле­до­ва­тель­ской про­грам­мы Кем­бридж­ско­го уни­вер­си­те­та Global AI Narratives, про­хо­дя­щей в раз­ных стра­нах. В этом году Петер­бург пред­став­лял в иссле­до­ва­нии Рос­сию. Суть иссле­до­ва­ния – выяс­нить, опи­сать и про­ана­ли­зи­ро­вать отно­ше­ние к ИИ в раз­ных стра­нах мира, исхо­дя из осо­бен­но­стей наци­о­наль­ных куль­тур, а затем на осно­ва­нии полу­чен­ных дан­ных спро­гно­зи­ро­вать его буду­щее раз­ви­тие. Ито­гом про­ек­та ста­нет пуб­ли­ка­ция кни­ги с резуль­та­та­ми иссле­до­ва­ния по теме ИИ, в кото­рой будут исполь­зо­ва­ны нара­бот­ки спе­ци­а­ли­стов стран-участ­ни­ков. Так­же пла­ни­ру­ет­ся создать гло­баль­ное сооб­ще­ство спе­ци­а­ли­стов в сфе­ре ИИ для раз­ви­тия, сотруд­ни­че­ства и обме­на опы­том.