Сильный искусственний интеллект: личность или алгоритм?

Хотим ли мы создать общество, где будет комфортно сильному искусственному интеллекту?
Хотим ли мы создать обще­ство, где будет ком­форт­но силь­но­му искус­ствен­но­му интел­лек­ту?

Любая новая тех­но­ло­гия вне-чело­веч­на, и одна из задач «лири­ков» – гума­ни­зи­ро­вать, давать трез­вую оцен­ку новым тех­но­ло­ги­ям, полу­чен­ным ими от «физи­ков». Я уже крат­ко рас­ска­зы­вал о смене инду­стри­аль­ной эпо­хи на циф­ро­вую, кото­рую мно­гие назы­ва­ют эрой искус­ствен­но­го интел­лек­та. Наста­ло вре­мя порас­суж­дать о том, какое место умные маши­ны зай­мут в обще­стве, что такое соци­а­ли­за­ция силь­но­го искус­ствен­но­го интел­лек­та.

Сего­дня мы можем столк­нуть­ся с искус­ствен­ным интел­лек­том (ИИ, англ. artificial intelligence, AI) и даже не заме­тить это­го. ИИ про­ти­во­сто­ит нам в играх, реша­ет зада­чи логи­сти­ки и транс­пор­та, а так­же участ­ву­ет в пол­но­цен­ных деба­тах.

Искус­ствен­ный интел­лект – свой­ство интел­лек­ту­аль­ных систем выпол­нять твор­че­ские функ­ции, кото­рые тра­ди­ци­он­но счи­та­ют­ся пре­ро­га­ти­вой чело­ве­ка. Джон Мак­кар­ти

Пер­вые реа­ли­за­ции искус­ствен­но­го интел­лек­та появи­лись уже в 70‑х годах XX века. Сего­дня после двух зим забве­ния он сно­ва в цен­тре вни­ма­ния. На рубе­же 2018–2019 гг. появи­лись уни­вер­саль­ные язы­ко­вые моде­ли, бла­го­да­ря кото­рым мы в ско­ром вре­ме­ни можем пере­стать раз­ли­чать, где с нами гово­рит маши­на, а где чело­век. Пока ИИ не достиг вер­шин Шекс­пи­ра, но, воз­мож­но, мы про­сто при­ди­ра­ем­ся и зави­ду­ем его успе­хам.

Искусственный и естественный интеллект

Все, что мы наблю­да­ем в раз­ви­тии этой тех­но­ло­гии, до сих пор назы­ва­ют сла­бым искус­ствен­ным интел­лек­том. Гипо­те­за силь­но­го искус­ствен­но­го интел­лек­та пред­по­ла­га­ет, что ком­пью­те­ры (или про­грам­мы) могут при­об­ре­сти спо­соб­ность осо­зна­вать себя как отдель­ную лич­ность (в част­но­сти, пони­мать соб­ствен­ные мыс­ли). 

Тем самым силь­ный искус­ствен­ный интел­лект – это лич­ность, хотя, воз­мож­но, и его мыш­ле­ние будет отли­чать­ся от при­выч­но­го чело­ве­че­ско­го. Такую лич­ность мож­но срав­нить с пред­ста­ви­те­ля­ми дру­гих разум­ных видов (напри­мер дель­фи­нов, кото­рые име­ют свой язык). Или с людь­ми с высо­ко­функ­ци­о­наль­ным аути­че­ским рас­строй­ством.

Силь­ный ИИ нель­зя вос­при­ни­мать, как жест­кий алго­ритм. Такое пред­по­ло­же­ние заве­до­мо лож­но и ведет к широ­ко­му спек­тру заблуж­де­ний: от «их мож­но запро­грам­ми­ро­вать» до «они ими­ти­ру­ют мыш­ле­ние». Искус­ствен­ный интел­лект по опре­де­ле­нию обла­да­ет спо­соб­но­стью обу­чать­ся, кро­ме того, силь­ный искус­ствен­ный интел­лект будет обла­дать спо­соб­но­стью осо­зна­вать себя и соб­ствен­ные поступ­ки. 

К силь­но­му искус­ствен­но­му интел­лек­ту будут при­ме­ни­мы пра­ви­ла эти­ки, и он дол­жен будет их соблю­дать. Эту про­бле­му осо­зна­вал и осве­щал в сво­их рома­нах Айзек Ази­мов (сбор­ник «Зако­ны робо­то­тех­ни­ки»).

Тем самым силь­ный искус­ствен­ный интел­лект будет отли­чать­ся от есте­ствен­но­го интел­лек­та чело­ве­ка и разум­ных живот­ных толь­ко про­ис­хож­де­ни­ем. А зна­чит, клю­че­вы­ми вопро­са­ми будут не что такое ИИ, доб­ро или зло, а как вос­пи­тать, соци­а­ли­зи­ро­вать силь­ный ИИ в рам­ках меж­ви­до­во­го обще­ства, кто в отве­те за вос­пи­та­ние силь­но­го ИИ и что такое меж­ви­до­вое обще­ство разум­ных существ?

Межвидовое общество и социализация в нем

Соци­а­ли­за­ция – это про­цесс вовле­че­ния новой осо­би в обще­ства. В про­цес­се соци­а­ли­за­ции особь пере­ни­ма­ет куль­ту­ру обще­ства, в кото­ром соци­а­ли­зи­ру­ет­ся. Это слож­ный соци­аль­но-пси­хо­ло­ги­че­ский про­цесс.

Что­бы подой­ти к поня­тию соци­а­ли­за­ции силь­но­го искус­ствен­но­го интел­лек­та в обще­стве, нам нуж­но отве­тить на два вопро­са.

  1. В каком обще­стве будет про­хо­дить соци­а­ли­за­ция? Теку­щее обще­ство – это обще­ство разум­ных людей. Даже сей­час в мире суще­ству­ет дис­кри­ми­на­ция по расо­во­му, поло­во­му и иным при­зна­кам. С появ­ле­ни­ем силь­но­го ИИ доба­вит­ся при­знак «есте­ствен­ность интел­лек­та».
  2. Что вхо­дит в поня­тие иден­тич­но­сти силь­но­го ИИ? Сюда же мож­но отне­сти иден­тич­ность любо­го разум­но­го вида, но с ИИ про­бле­ма слож­нее: его «роди­те­ли» – это изоб­ре­та­те­ли-инже­не­ры. Про­бле­ма «меня собрал папа».

Обще­ство – это то, что мы наблю­да­ем каж­дый день, и поэто­му, как поло­же­но любой рыбе, пла­ва­ю­щей в воде, мы воду не заме­ча­ем. Что­бы рас­ши­рить гра­ни­цы наше­го пони­ма­ния обще­ства, нам важ­но выпрыг­нуть из воды (вый­ти за гра­ни­цы обще­ства) хотя бы на одно мгно­ве­ние. 

XX век пока­зал нам, что мы не един­ствен­ный разум­ный вид на пла­не­те: шим­пан­зе, горил­лы, оран­гу­тан­ги, дель­фи­ны и сло­ны, так же, как и чело­век, про­хо­дят боль­шин­ство тестов на само­иден­ти­фи­ка­цию. Кро­ме того, дель­фи­ны обла­да­ют язы­ком, по части пара­мет­ров срав­ни­мым по слож­но­сти с есте­ствен­ны­ми язы­ка­ми чело­ве­ка.

Место искусственного интеллекта в обществе 

Если мы хотим создать обще­ство, где будет ком­форт­но силь­но­му искус­ствен­но­му интел­лек­ту, начать сто­ит с созда­ния меж­ви­до­во­го обще­ства. Тако­го рода про­цес­сы были опи­са­ны в кни­гах фан­та­ста Дэви­да Бри­на «Вой­на за Воз­вы­ше­ние».

Дэвид Брин в сво­их кни­гах опи­сы­ва­ет доста­точ­но жест­кое и порой жесто­кое содру­же­ство разум­ных видов. Про­цесс вклю­че­ния новых видов в галак­ти­че­ское обще­ство сопро­вож­да­ет­ся про­цес­сом «воз­вы­ше­ния» предра­зум­ных видов над разум­ны­ми с даль­ней­шим слу­же­ни­ем пер­вых вто­рым.

В кон­це цик­ла Брин опи­сы­ва­ет анклав на одной из пла­нет, в кото­ром виды отка­за­лись от таких жест­ких мето­дов, создав более рав­но­прав­ное обще­ство. Поче­му бы нам не учесть путь, кото­рый опи­сы­ва­ет Брин, и не начать про­цесс «воз­вы­ше­ния», опи­сав, как мы можем вклю­чить в наше обще­ство предра­зум­ные виды и вне­био­ло­ги­че­ский вид, кото­рый мы созда­ем: «искус­ствен­ный интел­лект». 

Нам при­дет­ся понять, что такое чело­ве­че­ское обще­ство, чем оно отли­ча­ет­ся от обще­ства дель­фи­нов и дру­гих разум­ных видов, выра­бо­тать общие кри­те­рии гло­баль­ной куль­ту­ры, кото­рая спо­соб­на при­нять раз­ли­чия за рам­ка­ми отдель­но­го вида. Посмот­реть на про­цесс гло­ба­ли­за­ции чело­ве­ка не как на про­цесс рас­се­ле­ния и пожи­ра­ния ресур­сов всей эко­си­сте­мы Зем­ли, а как на про­цесс созда­ния гло­баль­ной куль­ту­ры, в рам­ках кото­рой Зем­ля – это наш Дом (Ойку­ме­на), тре­бу­ю­щий забо­ты. Пока про­цесс гло­ба­ли­за­ции не при­вел нас, чело­ве­че­ство, к выра­бот­ке этих кри­те­ри­ев.

Еще по теме: Петр Левич о при­бли­же­нии мира про­цве­та­ния всех живых существ

Нам нуж­но разо­брать­ся со сво­и­ми стра­ха­ми отно­си­тель­но иных видов, и в осо­бен­но­сти искус­ствен­но­го интел­лек­та. Ведь создан­ный нами силь­ный ИИ по отно­ше­нию к нам ско­рее ребе­нок, кото­рый тре­бу­ет забо­ты и вос­пи­та­ния. Да, он может вырас­ти в агрес­сив­но­го под­рост­ка или, еще хуже, меж­ду нами про­изой­дет кон­фликт «отцов и детей», но это наша ответ­ствен­ность за вос­пи­та­ние ИИ. Это часть про­цес­са соци­а­ли­за­ции.

Нам в целом нуж­но понять, стро­им ли мы обще­ство, в кото­ром искус­ствен­ный интел­лект будет рав­но­прав­ным чле­ном, или мы при­дем к резер­ва­ци­ям для искус­ствен­но­го интел­лек­та ради обес­пе­че­ния нашей без­опас­но­сти. 

Еще по теме