Ушаков Д.В., Валуева Е.А. Взаимодействие человека с искусственным интеллектом

Пред­ска­зы­вать отда­лен­ное буду­щее тех­но­ло­гий — небла­го­дар­ное заня­тие. Тех­но­ло­гии — резуль­тат дви­же­ния мыс­ли, а мысль, по опре­де­ле­нию, непред­ска­зу­е­ма. Тем не менее, мы созда­ем более или менее глу­бо­кие и реа­ли­стич­ные про­грам­мы даль­ней­ше­го раз­ви­тия тех­но­ло­гий искус­ствен­но­го интел­лек­та и долж­ны пред­став­лять себе их потен­ци­аль­ное вклю­че­ние в жизнь общества. 

Вели­ки или не очень потен­ци­аль­ные воз­мож­но­сти искус­ствен­но­го интел­лек­та, одна­ко они застав­ля­ют заду­мать­ся о том, как выстро­ить отно­ше­ния чело­ве­ка с ними. Сего­дня идет внед­ре­ние в прак­ти­ку тех­но­ло­гий искус­ствен­но­го интел­лек­та, пока еще дале­ких по сво­им воз­мож­но­стям от того, что про­смат­ри­ва­ет­ся вда­ле­ке. Одна­ко сопо­став­ле­ние с эти­ми дале­ки­ми и не очень ясны­ми пер­спек­ти­ва­ми поз­во­ля­ет уви­деть глу­би­ну происходящего.

Идея опас­но­сти для чело­ве­ка создан­ных им же самим разум­ных существ идет еще со вре­мен Антич­но­сти. Чудо­ви­ще Фран­кен­штей­на будо­ра­жи­ло вооб­ра­же­ние в XIX в., а с нача­лом раз­ра­бот­ки тех­но­ло­гий искус­ствен­но­го интел­лек­та был най­ден наи­бо­лее под­хо­дя­щий кан­ди­дат на роль суще­ства, вос­ста­ю­ще­го про­тив человека.

С. Хокинг, напри­мер, выра­жал опа­се­ние, что супер­мощ­ный искус­ствен­ный интел­лект может рас­пра­вить­ся с чело­ве­че­ством, как с семьей мура­вьев. Мало кто из людей, — аргу­мен­ти­ро­вал он, — раз­ру­шит мура­вей­ник со зла. Но если вам нуж­но под­нять уро­вень воды для обес­пе­че­ния рабо­ты ГЭС, то вряд ли вы буде­те при­ни­мать в рас­чет затоп­ле­ние мура­вей­ни­ка. Сверхум­ный ИИ будет очень хоро­шо справ­лять­ся с зада­ча­ми, и если его и наши цели не будут сов­па­дать, у нас будут огром­ные проблемы.

Образ, нари­со­ван­ный Хокин­гом, пред­по­ла­га­ет, что реше­ние задач — выс­шая цен­ность для ИИ. Если люди уте­ря­ют интел­лек­ту­аль­ное лидер­ство, их цен­но­сти пере­ста­нут гла­вен­ство­вать и не будут высту­пать чем-то, с чем нуж­но счи­тать­ся, торя маги­страль­ную доро­гу истории.

По мне­нию И. Гуда, спо­соб­ность чело­ве­ка создать интел­лек­ту­аль­ную маши­ну, пре­вос­хо­дя­щую его воз­мож­но­сти, при­ве­дет ко все уско­ря­ю­ще­му­ся созда­нию машин с нарас­та­ю­щи­ми интел­лек­ту­аль­ны­ми спо­соб­но­стя­ми: пер­вая уль­тра­ин­тел­лек­ту­аль­ная маши­на явля­ет­ся послед­ним изоб­ре­те­ни­ем, кото­рое чело­век дол­жен когда-либо делать.

Во гла­ву угла ста­вят­ся все­об­щие цен­но­сти, квинт­эс­сен­ци­ей кото­рых явля­ет­ся «все­лен­ский про­гресс интел­лек­та». Пафос дви­же­ния за и через чело­ве­ка и «слиш­ком чело­ве­че­ское» ино­гда про­скаль­зы­ва­ет в пост­гу­ма­низ­ме. В этом чув­ству­ет­ся роман­ти­ка готов­но­сти к гибе­ли, что­бы вырас­тить вели­кое будущее.

Про­ти­во­по­лож­ная пози­ция — абсо­лют­ная цен­ность инди­ви­ду­аль­но­го чело­ве­че­ско­го суще­ство­ва­ния. Она нахо­дит отра­же­ние, напри­мер, у Н.Ф. Федо­ро­ва в идее исполь­зо­ва­ния тех­но­ло­ги­че­ско­го про­грес­са для дости­же­ния цен­ност­ных иде­а­лов. В этом плане циви­ли­за­ци­он­ное назна­че­ние тех­ни­ки, в т.ч. искус­ствен­но­го интел­лек­та — реа­ли­зо­вать искон­ное стрем­ле­ние чело­ве­ка к спра­вед­ли­во­сти, сча­стью, бессмертию.

Боль­шин­ство людей, без­услов­но, при­мы­ка­ют ко вто­рой цен­ност­ной пози­ции. Про­бле­ма, одна­ко, заклю­ча­ет­ся в воз­мож­но­сти, во-пер­вых, людям, стра­нам и соци­аль­ным инсти­ту­там дого­во­рить­ся о целях созда­ния искус­ствен­но­го интел­лек­та и не пре­вра­тить его в сред­ство или аре­ну борь­бы, а во-вто­рых, не допу­стить слу­чай­но­го фор­ми­ро­ва­ния могу­чих искус­ствен­ных аген­тов с бес­че­ло­веч­ны­ми цен­но­стя­ми. Исто­рия часто состо­ит в том, что сово­куп­ные дей­ствия мно­же­ства людей при­во­дят к резуль­та­ту, кото­ро­го не хотел никто из них.

Пред­став­ля­ет­ся важ­ным дер­жать эту более уда­лен­ную опти­ку, рас­смат­ри­вая сего­дняш­ние про­бле­мы искус­ствен­но­го интеллекта.

Теперь перей­дем к опи­са­нию тех про­цес­сов в чело­ве­че­ском обще­стве, кото­рые воз­ни­ка­ют уже в свя­зи с нынеш­ним уров­нем искус­ствен­но­го интел­лек­та и его бли­жай­шим про­гно­зи­ру­е­мым раз­ви­ти­ем. Внед­ре­ние любых тех­но­ло­гий пере­стра­и­ва­ет жизнь людей и тре­бу­ет пси­хо­ло­ги­че­ской адап­та­ции, но искус­ствен­ный интел­лект в этом плане зани­ма­ет осо­бое место. Даже те устрой­ства, кото­рые про­сто реша­ют, луч­ше или хуже, зада­чи, реша­е­мые так­же чело­ве­ком, могут вли­ять на раз­лич­ные про­цес­сы в обществе.

Одно из бли­жай­ших по вре­ме­ни собы­тий в этом плане — внед­ре­ние систем искус­ствен­но­го интел­лек­та в управ­ле­ние транс­пор­том. На наших гла­зах фор­ми­ру­ют­ся устрой­ства, обес­пе­чи­ва­ю­щие авто­ном­ное управ­ле­ние авто­мо­би­лем — от нави­га­то­ров и кру­из-кон­тро­ля до систе­мы удер­жа­ния авто­мо­би­ля в поло­се, авто­пар­ков­щи­ка и т.д. Это, каза­лось бы, вполне пози­тив­ное и про­грес­сив­ное явле­ние ока­зы­ва­ет­ся, одна­ко, на деле не столь про­стым, напри­мер, в плане обес­пе­че­ния безопасности. 

Тон­ким полу­ча­ет­ся момент обрат­но­го при­ня­тия чело­ве­ком функ­ции управ­ле­ния на себя, как пока­зал опыт Гуг­ло­мо­би­ля. Воз­мож­ность поло­жить­ся на рабо­ту искус­ствен­но­го води­те­ля в какой-то момент сни­ма­ет у чело­ве­ка чув­ство ответ­ствен­но­сти за про­ис­хо­дя­щее на доро­ге, что может не поз­во­лить ему в пол­ной мере вклю­чить­ся в про­цесс управ­ле­ния, когда это потребуется.

В то же вре­мя необ­хо­ди­мость пола­гать­ся на надеж­ность элек­трон­но­го води­те­ля может при­но­сить душев­ный дис­ком­форт. Внед­ре­ние тех­но­ло­гий искус­ствен­но­го интел­лек­та долж­но повы­шать каче­ство жиз­ни, уве­ли­чи­вать без­опас­ность, пси­хо­ло­ги­че­ский ком­форт. Одна­ко в дей­стви­тель­но­сти эффект может быть иным, и побоч­ные про­дук­ты внед­ре­ния искус­ствен­но­го интел­лек­та без долж­но­го социо-гума­ни­тар­но­го сопро­вож­де­ния могут вести к повы­ше­нию тре­вож­но­сти, напря­жен­но­сти у людей.

Мар­ке­то­ло­ги авто­кор­по­ра­ций пред­ска­зы­ва­ют зна­чи­тель­ный пери­од сосу­ще­ство­ва­ния обыч­но­го авто­мо­би­ля с авто­ном­ным, при­чем послед­ний, будучи суще­ствен­но доро­же, дол­жен быть спо­со­бен пред­ло­жить потре­би­те­лю серьез­ные пре­иму­ще­ства. В каком-то смыс­ле пре­иму­ще­ство оче­вид­но, посколь­ку про­ис­хо­дит избав­ле­ние от тру­да. Одна­ко при этом теря­ет­ся и удовольствие. 

На про­тя­же­нии деся­ти­ле­тий авто­про­из­во­ди­те­ли рекла­ми­ро­ва­ли потре­би­те­лям удо­воль­ствие от вожде­ния их авто­мо­би­лей, «драй­вер­ские авто­мо­би­ли» и т.д. Теперь, одна­ко, пред­ла­га­ет­ся от это­го удо­воль­ствия отка­зать­ся, запла­тив серьез­ные день­ги. Более того, у води­те­ля, пере­дав­ше­го управ­ле­ние авто­мо­би­лем авто­ма­ту, воз­ни­ка­ет тре­во­га, свя­зан­ная с поте­рей того, что пси­хо­ло­ги назы­ва­ют «иллю­зи­ей кон­тро­ля» — чело­век испы­ты­ва­ет боль­шую уве­рен­ность в бла­го­при­ят­ном исхо­де, если сам может каким-либо обра­зом вли­ять на ситуацию.

В более общем плане воз­ни­ка­ет про­бле­ма пере­да­чи маши­нам кон­тро­ля над сфе­ра­ми жиз­ни, кото­рые до сих пор нахо­ди­лись в веде­нии людей. Искус­ствен­ный интел­лект, заме­няя чело­ве­ка в его когни­тив­ной дея­тель­но­сти, конеч­но, спо­со­бен изба­вить от мно­го­чис­лен­ных мало­при­ят­ных и уто­ми­тель­ных дел и дра­ма­ти­че­ски повы­сить про­из­во­ди­тель­ность тру­да, точ­нее — предо­ста­вить на бла­го чело­ве­че­ства почти не огра­ни­чен­ные объ­е­мы про­из­во­ди­мо­го авто­ма­ти­че­ски­ми устрой­ства­ми тру­да. Одна­ко он и лиша­ет удо­воль­ствий, более того — гро­зит затро­нуть функ­ции глав­но­го дей­ству­ю­ще­го лица, субъ­ек­та соб­ствен­ной жиз­ни, т.е. смыс­ло­об­ра­зу­ю­щий стер­жень чело­ве­че­ской психики. 

Нако­нец, это озна­ча­ет пере­да­чу ответ­ствен­но­сти устрой­ству, кото­рое не обла­да­ет созна­ни­ем и, как след­ствие, не явля­ет­ся вме­ня­е­мым в юри­ди­че­ском и пси­хи­ат­ри­че­ском смыс­лах. Все это ста­вит перед социо-гума­ни­тар­ны­ми нау­ка­ми зада­чу выра­бот­ки такой кон­цеп­ции пере­да­чи неко­то­рых когни­тив­ных функ­ций искус­ствен­ным устрой­ствам, кото­рая бы спо­соб­ство­ва­ла реа­ли­за­ции чело­ве­ком сво­их смыс­лов в жизни.

Далее, пере­да­ча когни­тив­ных функ­ций чело­ве­ка искус­ствен­ным устрой­ствам неиз­беж­но свя­за­на с уни­что­же­ни­ем рабо­чих мест для людей и воз­мож­ной без­ра­бо­ти­цей по при­чине авто­ма­ти­за­ции. Так, в свя­зи с тем же авто­ном­ным авто­мо­би­лем рабо­ту могут поте­рять про­фес­си­о­наль­ные води­те­ли — так­си, обще­ствен­но­го и гру­зо­во­го транс­пор­та. Для Рос­сии, напри­мер, это — мил­ли­о­ны человек.

А если искус­ствен­ный интел­лект ока­жет­ся спо­со­бен рабо­тать в обла­сти бух­гал­тер­ско­го уче­та и логи­сти­ка, тор­гов­ли и архи­тек­тур­но­го про­ек­ти­ро­ва­ния, пере­во­да и реги­стра­ции доку­мен­тов, то с неиз­беж­но­стью про­изой­дет пере­рас­пре­де­ле­ние сфер заня­то­сти, при­чем не совсем понят­но, где оста­но­вит­ся экс­пан­сия искус­ствен­но­го интеллекта.

Этот сюжет фак­ти­че­ски повто­ря­ет на новом вит­ке исто­рию нача­ла XIX века — раз­ви­тие инфор­ма­ци­он­ных тех­но­ло­гий гро­зит при­ве­сти к тем же послед­стви­ям, к каким при­ве­ло широ­кое внед­ре­ние машин, а имен­но к про­те­стам теря­ю­щих тру­до­вые места работ­ни­ков, вылив­шим­ся в дви­же­ние луд­ди­тов. На сво­ей родине в Англии луд­дизм соста­вил для пра­ви­тель­ства про­бле­му, соиз­ме­ри­мую по мас­шта­бам с про­хо­див­ши­ми при­мер­но в то же вре­мя напо­лео­нов­ски­ми войнами.

В слу­чае искус­ствен­но­го интел­лек­та маши­ны, заме­няя людей, созда­ют вме­сте с этим и сред­ства суще­ство­ва­ния. Отсю­да воз­ни­ка­ет пер­спек­ти­ва все­об­ще­го мини­маль­но­го гаран­ти­ро­ван­но­го дохо­да, при кото­рой при­об­ре­те­ние про­фес­сии и труд пере­ста­ют быть необ­хо­ди­мым усло­ви­ем выжи­ва­ния чело­ве­ка. Жизнь вро­де бы ста­нет про­ще, но для пси­хо­ло­гов понят­но, что сво­бод­ное вре­мя и сво­бо­да выбо­ра жиз­нен­ных про­ек­тов с боль­шой остро­той ста­вят вопрос о смыс­ле существования.

Еще один пласт опа­се­ний свя­зан с тем, что искус­ствен­ный интел­лект может ана­ли­зи­ро­вать людей и соци­аль­ные про­цес­сы, более того — актив­но на них влиять. 

Так, тех­но­ло­гии искус­ствен­но­го интел­лек­та уже сего­дня спо­соб­ны оце­ни­вать свой­ства чело­ве­ка по раз­лич­ным его про­яв­ле­ни­ям, про­гно­зи­ро­вать пове­де­ние в раз­лич­ных ситу­а­ци­ях. Но так­же эти тех­но­ло­гии спо­соб­ны созда­вать сред­ства вли­я­ния: напри­мер, гене­ри­ро­вать новые объ­ек­ты — тек­сты, кар­тин­ки, видео — с зара­нее задан­ным зна­че­ни­ем, напри­мер, созда­вать новые изоб­ра­же­ния извест­ных пред­ме­тов и людей или их видеоизображения. 

Сфор­ми­ро­ва­лось поня­тие «глу­бин­ной фаль­си­фи­ка­ции», deep fakes, кото­рое обо­зна­ча­ет тех­но­ло­гию, исполь­зу­ю­щую глу­бо­кое обу­че­ние (deep learning) в целях созда­ния доста­точ­но прав­до­по­доб­ной лож­ной инфор­ма­ции (fakes). В даль­ней­шем мож­но ожи­дать при­ме­не­ния тако­го рода объ­ек­тов как в пси­хо­те­ра­пии, так и для индоктринации.

Ска­зан­ное озна­ча­ет, что ста­ра­ни­я­ми искус­ствен­но­го интел­лек­та для реци­пи­ен­та ново­стей мир чьих-то фан­та­зий ста­но­вит­ся труд­но­от­ли­чи­мым от дей­стви­тель­но про­ис­хо­дя­щих событий.

Искус­ствен­ный интел­лект вызы­ва­ет подо­зре­ния в кон­тек­сте исполь­зо­ва­ния «Боль­шим Бра­том», т.е. для выяв­ле­ния небла­го­на­деж­ных и чрез­мер­но сво­бо­до­мыс­ля­щих граж­дан. Впро­чем, пока эти тех­но­ло­гии ско­рее исполь­зу­ют­ся ком­мер­че­ски­ми пред­при­я­ти­я­ми в целях выяв­ле­ния потен­ци­аль­но­го инте­ре­са людей к совер­ше­нию тех или иных поку­пок и после­ду­ю­ще­го тар­ге­ти­ро­ва­ния рекла­мы, отсле­жи­ва­ния пере­дви­же­ний поль­зо­ва­те­ля, его пред­по­чте­ний в соци­аль­ных сетях, а так­же запро­сов в поис­ко­вых систе­мах. Пусть это исполь­зо­ва­ние и отно­си­тель­но без­обид­но, но оно может вести к отра­бот­ке тех­но­ло­гий выяв­ле­ния инди­ви­ду­аль­ных уяз­ви­мо­стей людей с даль­ней­шим воз­дей­стви­ем на них в нуж­ном кому-либо направлении.

Искус­ствен­ный интел­лект в целом созда­ет неви­дан­ные воз­мож­но­сти вычис­ле­ния пси­хо­ло­ги­че­ских тайн людей и их сла­бо­стей, а так­же средств воз­дей­ствия. В исто­рии чело­ве­че­ства про­ис­хо­дит умень­ше­ние физи­че­ско­го при­нуж­де­ния, но повы­ше­ние более эффек­тив­но­го при­нуж­де­ния путем манипуляций.

Об авторах

• Дмит­рий Вик­то­ро­вич Уша­ков - док­тор пси­хо­ло­ги­че­ских наук, про­фес­сор. Дей­стви­тель­ный член (ака­де­мик) РАН. Дирек­тор Инсти­ту­та пси­хо­ло­гии Рос­сий­ской ака­де­мии наук и заве­ду­ю­щий лабо­ра­то­ри­ей пси­хо­ло­гии и пси­хо­фи­зио­ло­гии твор­че­ства ИП РАН. Заве­ду­ю­щий кафед­рой общей пси­хо­ло­гии факуль­те­та пси­хо­ло­гии Мос­ков­ско­го госу­дар­ствен­но­го уни­вер­си­те­та им. М.В. Ломо­но­со­ва. Руко­во­ди­тель науч­но-обра­зо­ва­тель­но­го цен­тра соци­аль­ных ком­пе­тен­ций и интел­лек­та Мос­ков­ско­го госу­дар­ствен­но­го пси­хо­ло­го-педа­го­ги­че­ско­го уни­вер­си­те­та, Москва.
• Ека­те­ри­на Алек­сан­дров­на Валу­е­ва - кан­ди­дат пси­хо­ло­ги­че­ских наук. Науч­ный сотруд­ник лабо­ра­то­рии пси­хо­ло­гии и пси­хо­фи­зио­ло­гии твор­че­ства Инсти­ту­та пси­хо­ло­гии РАН, Москва.

Смот­ри­те также:

• Вой­скун­ский А.Е. Иссле­до­ва­ния в обла­сти пси­хо­ло­гии ком­пью­те­ри­за­ции: исто­рия и акту­аль­ное состояние
• Мото­ри­на Л.Е., Чер­ня­е­ва Г.В. Пси­хо­ло­ги­че­ская вир­ту­аль­ная реаль­ность в ком­пью­тер­ной интер­ак­тив­ной среде
• Хозе Е.Г. Вир­ту­аль­ная реаль­ность и образование
• Psychology of the Digital Age: Humans Become Electric. John R. Suler