Андрей Себрант: Не нужно бояться, что машины умнее нас, нужно научиться работать с ними

«Паника вообще вредна. Боязнь «умных» машин может снизить качество жизни и карьерные перспективы». Андрей Себрант. Фото эксперта предоставила пресс-служба компании Яндекс.
«Паника вообще вредна. Боязнь «умных» машин может снизить качество жизни и карьерные перспективы». Андрей Себрант. Фото эксперта предоставила пресс-служба компании Яндекс.

Через несколь­ко лет люди будут рабо­тать вме­сте с само­обу­ча­ю­щи­ми­ся машин­ка­ми, кото­рые уже ста­но­вят­ся хоро­ши­ми экс­пер­та­ми во мно­гих обла­стях. В этом убеж­ден дирек­тор по мар­ке­тин­гу сер­ви­сов ком­па­нии «Яндекс» Андрей Себрант. Кор­ре­спон­дент Теп­ли­цы Ната­лья Бара­но­ва под­го­то­ви­ла интер­вью с экс­пер­том и узна­ла, как тех­но­ло­гии машин­но­го обу­че­ния при­ме­ня­ют­ся в повсе­днев­ной жиз­ни, какие про­ек­ты свя­зан­ные с машин­ным обу­че­ни­ем есть в Рос­сии и поче­му «боязнь умных машин» может толь­ко навре­дить.

– Андрей, можете на простом примере рассказать, что такое машинное обучение?

– Давай­те раз­бе­рем такую ситу­а­цию: перед вами две фото­гра­фии – коша­чья и соба­чья мор­ды. Боль­шин­ство из нас за долю секун­ды отве­тит, где соба­ка, а где кош­ка. А теперь пред­ставь­те, что вам нуж­но поста­вить зада­чу про­грам­ми­сту, опи­сать фор­маль­ный алго­ритм, кото­рый помо­жет отли­чить одно живот­ное от дру­го­го.

Про­грам­мист начал бы думать: «У них раз­ные зрач­ки, а это дву­мер­ный мас­сив пик­се­лей для про­грам­мы, я дол­жен выде­лить либо круг­лые, либо вытя­ну­тые эле­мен­ты». А если кош­ка закры­ла гла­за, если у нее нет усов, она уже пере­ста­ла быть кош­кой? Вы уже поня­ли, что это будет очень дол­гий и слож­ный про­цесс. Мы с вами так зада­чи не реша­ем, мы про­сто смот­рим на изоб­ра­же­ние и сра­зу пони­ма­ем отли­чия, пото­му что в дет­стве мы мно­го виде­ли и кошек, и собак.

Так вот внут­ри ком­пью­те­ра мож­но создать некую вычис­ли­тель­ную сре­ду, где есть мил­ли­о­ны фото­гра­фий и коше­чек, и соба­чек. А мы пред­ла­га­ем этой сре­де самой научить­ся их рас­по­зна­вать. Сна­ча­ла она может оши­бать­ся, давать непра­виль­ные отве­ты. Но мы в про­цес­се ей под­ска­зы­ва­ем, сове­ту­ем попра­вить что-то. В ито­ге систе­ма, кото­рая про­смот­ре­ла мил­ли­о­ны фото­сним­ков, нач­нет совер­шен­но точ­но опре­де­лять, что изоб­ра­же­но на новой кар­тин­ке.

– Выходит, главный принцип работы – это узнаваемость?

– Да, нужен обу­ча­ю­щий набор дан­ных, кон­крет­ные при­ме­ры что есть что. Систе­ма, как и мы, учит­ся на при­ме­рах, она точ­но так же, как и мы, не может объ­яс­нить, поче­му это кош­ка, а это соба­ка. И такие систе­мы внут­ри ком­пью­те­ра, кото­рые не рабо­та­ют по задан­но­му алго­рит­му, а толь­ко мето­дом проб и оши­бок – это и есть совре­мен­ная систе­ма машин­но­го обу­че­ния.

Еще по теме: 10 онлайн-кур­сов по машин­но­му обу­че­нию

Понят­ный при­мер – сер­вис Auto.ru. Туда люди загру­зи­ли мил­ли­о­ны фото­гра­фий сво­их авто­мо­би­лей с ука­за­ни­ем мар­ки, что­бы их про­дать. И эта база ста­ла хоро­шим обу­ча­ю­щим меха­низ­мом. Само­обу­ча­ю­ща­я­ся про­грам­ма уви­де­ла все фото­гра­фии с инфор­ма­ци­ей и теперь уме­ет отли­чать авто­мо­би­ли точ­но так же, как мог­ла бы отли­чать кошек от собак. Теперь мож­но сфо­то­гра­фи­ро­вать любой авто­мо­биль на ули­це, и она с высо­кой точ­но­стью назо­вет вам его мар­ку.

– А где мы в обычной жизни встречаемся с технологиями машинного обучения?

– Они вокруг нас. Мы их уже и не заме­ча­ем. Напри­мер, поис­ко­вые систе­мы научи­лись рас­по­зна­вать, что имен­но нари­со­ва­но на кар­тин­ке. Рань­ше поиск рабо­тал толь­ко по изоб­ра­же­ни­ям, у кото­рых была под­пись. А сей­час бла­го­да­ря машин­но­му обу­че­нию на запрос «ста­рый замок» вы уви­ди­те кар­тин­ки и с кре­по­стью, хотя это сло­во вы не вво­ди­ли. Поиск рез­ко улуч­шил­ся, людям такие вещи кажут­ся уже оче­вид­ны­ми.

– Какие проекты на тему машинного обучение есть в России?

– У нас очень мно­го все­го. Во-пер­вых, все, что дела­ет­ся в Интер­не­те. В совре­мен­ной поч­то­вой служ­бе отно­си­тель­но мало спа­ма и неваж­но, где у вас ящик – на Mail.ru или на Яндек­се. Это слу­чи­лось бла­го­да­ря тому, что алго­рит­мы обу­чи­лись бороть­ся со спа­ме­ра­ми. Мы и не заду­мы­ва­ем­ся, что отно­си­тель­но чистые поч­то­вые ящи­ки – это заслу­га само­обу­ча­ю­щих­ся алго­рит­мов. Поиск – это машин­ное обу­че­ние. Пере­вод у Яндек­са или Google – тоже машин­ное обу­че­ние, и никто не стро­ил для это­го, напри­мер, мате­ма­ти­че­ских моде­лей язы­ка.

На рос­сий­ских заво­дах вовсю внед­ря­ют новые тех­но­ло­гии, мно­гое уже ком­пью­те­ри­зи­ро­ва­но.

Напри­мер, на Маг­ни­то­гор­ском метал­лур­ги­че­ском ком­би­на­те уда­лось сэко­но­мить боль­шую сум­му за счет внед­ре­ния алго­рит­мов машин­но­го обу­че­ния, кото­рые поз­во­ли­ли опти­ми­зи­ро­вать рас­ход мате­ри­а­лов при про­из­вод­стве ста­ли. (Подроб­нее о про­ек­те мож­но почи­тать по ссыл­ке – Прим. ред.) Есть мно­го при­ме­ров из фар­ма­ко­ло­гии, где за счет машин­но­го обу­че­ния ста­ло воз­мож­ным уско­рить раз­ра­бот­ку лекарств.

В целом уро­вень тех­но­ло­ги­че­ских и инфор­ма­ци­он­ных про­дук­тов в Рос­сии такой же, как и во всем мире.

– Чат-боты тоже работают на машинном обучении? На каком этапе развития они сейчас?

– Да, и все чат-боты и в буду­щем будут рабо­тать на машин­ном обу­че­нии. Сей­час же неко­то­рые из чат-ботов вооб­ще не пони­ма­ют, что их спра­ши­ва­ешь. Зача­стую есть 15 стан­дарт­ных отве­тов и все. Если это чат-бот мага­зи­на, то он попы­та­ет­ся про­дать что дол­жен все­ми спо­со­ба­ми.

Обще­ние с таки­ми чат-бота­ми вызы­ва­ет толь­ко озве­ре­ние. Те, кото­рые выжи­вут, будут пони­мать, что пред­ло­жить поль­зо­ва­те­лю, а в какой момент луч­ше отвя­зать­ся. Нужен пер­со­на­ли­зи­ро­ван­ный раз­го­вор с поку­па­те­ля­ми. А таких про­ек­тов пока доволь­но мало, и все на ста­дии раз­ра­бот­ки.

– Каким образом машинное обучение может изменить нашу жизнь?

– Без­услов­но, что-то будет авто­ма­ти­зи­ро­ва­но, что-то нет. Напри­мер, про­фес­сия опе­ра­то­ра колл-цен­тра исче­за­ет из-за внед­ре­ния тех­но­ло­гии машин­но­го обу­че­ния. Если рань­ше устрой­ство не мог­ло разо­брать, что же спра­ши­ва­ет чело­век, то теперь маши­ны ста­ли пони­мать чело­ве­че­скую речь. У опе­ра­то­ров сото­вой свя­зи боль­ше поло­ви­ны вхо­дя­щих звон­ков при­ни­ма­ют не живые люди, а алго­рит­мы.

Каче­ство совре­мен­но­го пере­во­да тоже силь­но изме­ни­ло нашу жизнь. У людей поти­хонь­ку исче­за­ют язы­ко­вые барье­ры.

– Нужно ли в таком случае бояться того, что машины будут умнее нас?

– Нуж­но не боять­ся, не пани­ко­вать, а учить­ся с ними рабо­тать. Маши­ны ста­но­вят­ся вполне хоро­ши­ми экс­пер­та­ми. В ско­ром вре­ме­ни нам пред­сто­ит рабо­тать рядом с само­обу­ча­ю­щи­ми­ся машин­ка­ми и пони­мать, чем они могут быть полез­ны. Напри­мер, боль­шое коли­че­ство запро­сов «Яндек­са» обслу­жи­ва­ют­ся алго­рит­мом «Палех», осно­ван­ном на ней­рон­ных сетях. Имен­но он поз­во­ля­ет поис­ку «Яндек­са» точ­нее пони­мать, о чем его спра­ши­ва­ют люди.

Пани­ка вооб­ще вред­на. Боязнь «умных» машин может сни­зить каче­ство жиз­ни и карьер­ные пер­спек­ти­вы.

Сей­час важ­но уметь быст­ро учить­ся и пере­учи­вать­ся. Вре­мя вос­тре­бо­ван­но­сти про­фес­сии ста­но­вит­ся очень корот­ким. Не нуж­но думать, что вы до пен­сии смо­же­те про­ра­бо­тать на одном месте.

– Европейские эксперты беспокоятся, что искусственный интеллект может навредить обществу. В начале 2017 года несколько крупных международных фондов пожертвовали 27 млн долларов на его изучение. Они хотят, чтобы разработки происходили под общественным контролем, а машины соблюдали этические нормы. По-вашему, их опасения обоснованы?

– Дело, с одной сто­ро­ны, хоро­шее, но про­бле­ма в том, что нет такой фор­му­лы, по кото­рой мож­но опре­де­лить «спра­вед­ли­вость и уро­вень мора­ли». Мно­гие дума­ют, что ком­па­нии рабо­та­ют по фор­му­лам, кото­рые экс­пер­ты лег­ко могут оце­нить. Но оце­ни­вать нече­го. Любую тех­но­ло­гию мож­но при­ме­нять по-раз­но­му. Сей­час в откры­том досту­пе лежат мощ­ней­шие систе­мы машин­но­го обу­че­ния, кото­ры­ми будут поль­зо­вать­ся и жули­ки.

Нуж­но бес­по­ко­ить­ся не о раз­ви­тии самих тех­но­ло­гий, а мони­то­рить инфор­ма­цию о том, кто и зачем их будет при­ме­нять.

Есть спра­вед­ли­вое опа­се­ние, осно­ван­ное на реаль­ных фак­тах: мобиль­ная связь может быть исполь­зо­ва­на тер­ро­ри­ста­ми. Мож­но поста­вить зада­чу так «А давай­те огра­ни­чим раз­ви­тие мобиль­ной свя­зи» или по-дру­го­му «Как сде­лать так, что­бы тер­ро­ри­сты не мог­ли исполь­зо­вать связь, но она бы раз­ви­ва­лась?». Это уже хоро­шая зада­ча.

– Получается, для начала нужно разобраться, что именно контролировать. Кто должен участвовать в общественном контроле?

– Для нача­ла внут­ри про­фес­си­о­наль­но­го сооб­ще­ства нуж­но сфор­му­ли­ро­вать общие цели. Напри­мер, очень попу­ляр­ная сфе­ра для исполь­зо­ва­ния машин­но­го обу­че­ния – авто­мо­би­ли без води­те­лей. И вокруг этой темы мно­го спо­ров, мно­го про­тив­ни­ков авто­мо­би­лей-бес­пи­лот­ни­ков.

Я не пони­маю людей, кото­рые гово­рят, что если чело­век зада­вит дру­го­го чело­ве­ка – это нор­маль­но, а если маши­на – тогда ее вооб­ще нель­зя выпус­кать на доро­гу. Но эта тех­но­ло­гия может спа­сти мил­ли­о­ны жиз­ней, люди будут гиб­нуть мень­ше, чем сей­час. Это что, пло­хая цель?

Еще по теме: Dextro: искус­ствен­ный интел­лект про­тив пыток в поли­ции

Так вот в этой ситу­а­ции нуж­но сна­ча­ла в экс­перт­ном сооб­ще­стве разо­брать­ся. Вме­сте с пси­хо­ло­га­ми, фило­со­фа­ми и социо­ло­га­ми сфор­му­ли­ро­вать чет­кую цель. Абстракт­ная фор­му­ли­ров­ка вро­де «маши­на нико­гда не долж­на уби­вать чело­ве­ка» не подой­дет.

– Расскажите о своих проектах, чем вы сейчас занимаетесь?

– В депар­та­мен­те мар­ке­тин­га мои про­ек­ты направ­ле­ны на то, что­бы обще­ние с людь­ми, во мно­гом уже авто­ма­ти­зи­ро­ван­ное, ста­ло бы гораз­до при­ят­нее тупой совре­мен­ной рекла­мы. Для нас важ­на пер­со­на­ли­за­ция. У «Яндек­са» 100 млн поль­зо­ва­те­лей. Ни в какую голо­ву не может поме­стить­ся 100 млн харак­те­ри­стик раз­ных людей.

Пока­за­тель­ный при­мер – «Яндекс.Музыка». Сер­вис нако­пил дан­ные о том, что чело­век слу­ша­ет, и на осно­ве это­го под­ска­зы­ва­ет ему тре­ки. И это при­ят­но! Никто из людей не ана­ли­зи­ро­вал кон­крет­ные вку­сы, никто не при­вле­кал спе­ци­а­ли­стов из музы­каль­ной сфе­ры. С этим спра­ви­лись умные само­обу­ча­ю­щи­е­ся алго­рит­мы.

Сайт Андрея Себран­та.

Telegram-канал экс­пер­та.