Субботский Е.В. Создавая и используя искусственный интеллект, что мы можем узнать о себе?

Проблема

Соглас­но Вет­хо­му Заве­ту, чело­век — суще­ство лени­вое, но любо­пыт­ное. Запла­тив за свое любо­пыт­ство изгна­ни­ем из рая, чело­век, если у него была такая воз­мож­ность, стал изоб­ре­тать спо­со­бы пере­ло­жить труд добы­чи хле­ба «в поте лица сво­е­го» на пле­чи дру­гих с целью оста­вить себе вре­мя про­дол­жать удо­вле­тво­рять свое любо­пыт­ство, зани­ма­ясь спор­том, искус­ством и фило­со­фи­ей. В ходе исто­рии эти­ми «дру­ги­ми» были живот­ные, рабы, кре­стьяне, ремес­лен­ни­ки, рабо­чие, маши­ны, элек­трон­ные каль­ку­ля­то­ры и, нако­нец, ком­пью­те­ры и искус­ствен­ный интеллект.

Но вот недав­но я услы­шал, как один сту­дент исполь­зо­вал ChatGPT для напи­са­ния дипло­ма и полу­чил хоро­шую оцен­ку, так как диплом удо­вле­тво­рял всем необ­хо­ди­мым кри­те­ри­ям. Но этим дело не кон­чи­лось — этот сту­дент был реко­мен­до­ван в аспи­ран­ту­ру по политологии. 

Мыс­лен­но про­дол­жив даль­ней­ший путь дан­но­го сту­ден­та, мож­но себе пред­ста­вить, что он успеш­но защи­ща­ет дис­сер­та­цию, затем нахо­дит рабо­ту в управ­лен­че­ских струк­ту­рах, под­ни­ма­ет­ся по карьер­ной лест­ни­це и начи­на­ет вли­ять на важ­ные вопро­сы внут­рен­ней и внеш­ней поли­ти­ки госу­дар­ства. И при всем этом он реша­ет сто­я­щие перед ним твор­че­ские зада­чи не путем само­сто­я­тель­но­го мыш­ле­ния, а при помо­щи ИИ. 

Воз­ни­ка­ют вопро­сы: неуже­ли и твор­че­ский эле­мент созна­ния мож­но пере­ло­жить на пле­чи «дру­гих»? А если так, то чем чело­век будет зани­мать себя, если твор­че­ство отой­дет к маши­нам? Кто будет авто­ром про­из­ве­де­ний нау­ки, искус­ства и поли­ти­че­ских реше­ний, если вопро­сы будет зада­вать чело­век, а отве­чать на них будет ИИ? И вооб­ще, что ново­го мы узна­ем о самих себе как твор­цы и поль­зо­ва­те­ли ИИ?

Что­бы попы­тать­ся отве­тить на эти вопро­сы, раз­бе­рем­ся сна­ча­ла с определениями.

Что такое автор

Соглас­но име­ю­щим­ся опре­де­ле­ни­ям, автор это:

• «созда­тель худо­же­ствен­но­го или пуб­ли­ци­сти­че­ско­го про­из­ве­де­ния, науч­но­го иссле­до­ва­ния, про­ек­та, изоб­ре­те­ния и т.д.» (Боль­шая совет­ская энциклопедия);
• «(от лат. auctor тво­рец или от греч. autos сам). Тво­рец како­го-нибудь худо­же­ствен­но­го, лите­ра­тур­но­го или науч­но­го про­из­ве­де­ния (Сло­варь ино­стран­ных слов, вошед­ших в состав рус­ско­го язы­ка. Чуди­нов А.Н., 1910);
• «тво­рец чего-нибудь, соста­ви­тель, созда­тель како­го-нибудь науч­но­го, лите­ра­тур­но­го, худо­же­ствен­но­го про­из­ве­де­ния, про­ек­та, изоб­ре­те­ния» (Тол­ко­вый сло­варь рус­ско­го язы­ка под редак­ци­ей Д.Н. Ушакова);
• «пара­диг­маль­ная фигу­ра отне­се­ния резуль­та­тов той или иной (преж­де все­го твор­че­ской) дея­тель­но­сти с опре­де­лен­ным (инди­ви­ду­аль­ным или кол­лек­тив­ным) субъ­ек­том как аген­том этой дея­тель­но­сти (греч. autos сам)» (Исто­рия фило­со­фии. Энциклопедия);
• «по зако­но­да­тель­ству РФ физи­че­ское лицо, твор­че­ским тру­дом кото­ро­го созда­но изоб­ре­те­ние, полез­ная модель или про­мыш­лен­ный обра­зец» (Финан­со­вый сло­варь) [1].

Как вид­но из опре­де­ле­ний, автор — это субъ­ект, агент, лицо, созда­тель и тво­рец. Все эти поня­тия пред­по­ла­га­ют нали­чие в авто­ре осо­бо­го эле­мен­та — управ­ля­ю­ще­го аген­та, спо­соб­но­го осо­зна­вать свои внут­рен­ние состо­я­ния в фор­ме субъ­ек­тив­но­го опы­та (ощу­ще­ний, эмо­ций, и пере­жи­ва­ний), сво­бод­но ста­вить себе цели и осо­знан­но и само­сто­я­тель­но их осу­ществ­лять. Будем назы­вать это свой­ство субъ­ект­но­стью.

Понят­но, что нечто воз­ни­ка­ет сво­бод­но, толь­ко воз­ник­нув из ниче­го, если же оно воз­ни­ка­ет из уже име­ю­щих­ся пред­по­сы­лок, в кото­рых оно потен­ци­аль­но уже содер­жа­лось, оно не сво­бод­но. Это, конеч­но, не озна­ча­ет, что тво­рец ста­вит себе цель «в ваку­у­ме»: тво­рец исполь­зу­ет свои зна­ния, навы­ки и память, ком­би­ни­ру­ет то, что ему извест­но, но вно­сит в эту ком­би­на­цию нечто «от себя», что и явля­ет­ся тем самым соб­ствен­ным вкла­дом «из ниче­го», кото­рый и состав­ля­ет сущ­ность творчества. 

При этом важ­но, что этот твор­че­ский вклад «от себя» не про­сто слу­чай­ное собы­тие, как, напри­мер, рас­пад ато­ма или ком­би­на­ция из битых сте­кол в калей­до­ско­пе, а воз­ни­ка­ет наме­рен­но, под кон­тро­лем цели, постав­лен­ной себе осо­зна­ю­щим себя аген­том, или «Я».

Хотя сам «агент» с тече­ни­ем вре­ме­ни и ситу­а­ции может изме­нять­ся («Я» ребен­ка и «Я» взрос­ло­го, «Я» в бодр­ству­ю­щем состо­я­нии или «Я» в сно­ви­де­нии, «Я» здо­ро­во­го или «Я» боль­но­го), но в каж­дой кон­крет­ной ситу­а­ции целе­по­ла­га­ния какое-то «Я» все­гда присутствует. 

Конеч­но, к любой постав­лен­ной сво­бод­ным аген­том цели мож­но при­ду­мать при­чи­ны, напри­мер, я решил напи­сать эту ста­тью, пото­му что инте­ре­су­юсь этой темой, имею сво­бод­ное вре­мя, про­чи­тал ста­тьи кол­лег по этим про­бле­мам и так далее, но эти при­чи­ны осо­зна­ют­ся моим Я, кото­рое может их отме­нить или утвердить. 

В осо­знан­ном при­ня­тии или отвер­же­нии при­чин наме­ре­ния что-то сде­лать и состо­ит эле­мент свободы.

Даже если рас­смат­ри­вать авто­ра как про­дукт соци­аль­ных усло­вий в кон­тек­сте марк­сист­ской тео­рии Фре­де­ри­ка Бар­та или под­хо­да Мише­ля Фуко, все рав­но невоз­мож­но пол­но­стью исклю­чить из поня­тия автор­ства эле­мент сво­бод­но­го от внеш­них при­чин целе­по­ла­га­ния, кото­рый неис­ко­ре­ни­мо содер­жит­ся в поня­тии осознанности. 

Осо­знать свое дей­ствие озна­ча­ет вый­ти за пре­де­лы при­чин, опре­де­ля­ю­щих это дей­ствие, встать над эти­ми при­чи­на­ми, а зна­чит, сам осо­зна­ю­щий субъ­ект сво­бо­ден от внеш­них причин.

Что такое искусственный интеллект

ИИ опре­де­ля­ет себя как «область ком­пью­тер­ных наук, зани­ма­ю­ща­я­ся созда­ни­ем систем, спо­соб­ных выпол­нять зада­чи, кото­рые обыч­но тре­бу­ют чело­ве­че­ско­го интел­лек­та. Эти зада­чи вклю­ча­ют в себя рас­по­зна­ва­ние речи, визу­аль­ное вос­при­я­тие, при­ня­тие реше­ний, реше­ние про­блем, обу­че­ние и адап­та­цию к новым дан­ным. ИИ стре­мит­ся ими­ти­ро­вать когни­тив­ные функ­ции чело­ве­ка, такие как мыш­ле­ние, обу­че­ние, реше­ние про­блем и вос­при­я­тие» [2].

Ком­по­нен­ты ИИ вклю­ча­ют в себя машин­ное обу­че­ние, глу­бо­кое обу­че­ние (исполь­зо­ва­ние ней­рон­ных сетей для моде­ли­ро­ва­ния слож­ных пат­тер­нов и дан­ных), обра­бот­ку есте­ствен­но­го язы­ка (рас­по­зна­ва­ние речи, машин­ный пере­вод и гене­ра­ция тек­ста), ком­пью­тер­ное зре­ние (рас­по­зна­ва­ние объ­ек­тов и клас­си­фи­ка­ция изоб­ра­же­ний) и робо­то­тех­ни­ку (авто­ном­ное дви­же­ние и мани­пу­ля­ция объектами).

Оче­вид­но, что все эти зада­чи, по опре­де­ле­нию, явля­ют­ся резуль­та­том про­грам­ми­ро­ва­ния и не вклю­ча­ют в себя эле­мен­та субъ­ект­но­сти. Конеч­но, эле­мент субъ­ект­но­сти при­сут­ству­ет, одна­ко не внут­ри ИИ как тако­во­го, а в созна­нии программиста. 

Созда­вая про­грам­му, чело­век целе­на­прав­лен­но моде­ли­ру­ет свои когни­тив­ные навы­ки, напри­мер, дедук­тив­ный или индук­тив­ный моду­сы мыш­ле­ния, и таким обра­зом отчуж­да­ет их от себя, подоб­но тому, как пущен­ная из лука стре­ла явля­ет­ся отчуж­ден­ной рукой чело­ве­ка. Но так же, как при стрель­бе из лука, при созда­нии про­грам­мы при­сут­ству­ет неот­чуж­да­е­мый эле­мент — субъектность. 

Фило­соф Джон Сёрл еще в 1980 году ввел раз­ли­чие меж­ду сла­бым ИИ, кото­рый реа­ли­зу­ет­ся на ком­пью­те­рах и явля­ет­ся вспо­мо­га­тель­ным ору­ди­ем мыш­ле­ния чело­ве­ка, и силь­ным ИИ, кото­рый обла­да­ет спо­соб­но­стью к интен­ци­о­наль­но­сти — уме­ни­ем наме­рен­но ста­вить цели и осо­зна­вать свои действия. 

Вслед за Сёр­лом свой­ство интен­ци­о­наль­но­сти, вклю­ча­ю­щее в себя эмо­ци­о­наль­ность, целе­по­ла­га­ние и дру­гие про­яв­ле­ния субъ­ект­но­сти, выде­ля­ли мно­гие тео­ре­ти­ки как чер­ту, отли­ча­ю­щую созна­ние чело­ве­ка от реаль­но суще­ству­ю­щей фор­мы ИИ (см. обзор в [3; 4]). 

Как отме­ча­ют неко­то­рые совре­мен­ные фило­со­фы, силь­ный ИИ до сих пор создать не уда­лось [5]. Это под­твер­жда­ет и сам ИИ: «Созна­ние чело­ве­ка обла­да­ет мно­же­ством уни­каль­ных свойств, кото­рые, по состо­я­нию на сего­дня, не могут быть пол­но­стью вос­про­из­ве­де­ны или пере­да­ны искус­ствен­но­му интел­лек­ту. Эти свой­ства вклю­ча­ют субъ­ек­тив­ный опыт, сво­бо­ду воли, кре­а­тив­ность и инту­и­цию, эти­че­ские и мораль­ные суж­де­ния, само­со­зна­ние, само­по­зна­ние и эмпа­ти­че­ское пони­ма­ние. Пони­ма­ние этих свойств помо­га­ет луч­ше осо­знать гра­ни­цы и воз­мож­но­сти ИИ, а так­же направ­ля­ет иссле­до­ва­ния в обла­сти ИИ и созна­ния» [2].

Тем не менее воз­ни­ка­ет вопрос: обу­слов­ле­на ли невоз­мож­ность пере­дать свой­ство субъ­ект­но­сти искус­ствен­но­му интел­лек­ту огра­ни­чен­но­стью наше­го зна­ния «по состо­я­нию на сего­дня» или име­ет­ся прин­ци­пи­аль­ное огра­ни­че­ние, пре­пят­ству­ю­щее такой передаче? 

Сам Сёрл, отвер­гая кар­те­зи­ан­ский дуа­лизм, счи­тал таким огра­ни­че­ни­ем тот факт, что созна­ние чело­ве­ка это уни­каль­ный про­дукт живо­го моз­га, в то вре­мя как ИИ есть функ­ци­о­ни­ро­ва­ние про­грамм, а про­грам­ма не явля­ет­ся живым суще­ством и не зави­сит от суб­стра­та, на кото­ром она реа­ли­зу­ет­ся. Поэто­му, соглас­но Сёр­лу, «ника­кая про­грам­ма сама по себе не в состо­я­нии создать свой­ство интен­ци­о­наль­но­сти» и силь­ный ИИ в прин­ци­пе не может быть создан на суб­стра­те, отлич­ном от живо­го моз­га чело­ве­ка [6].

Но даже если отвлечь­ся от аргу­мен­та Сёр­ла и допу­стить, что силь­ный ИИ может функ­ци­о­ни­ро­вать на небио­ло­ги­че­ском машин­ном суб­стра­те или даже искус­ствен­но создан­ном био­ло­ги­че­ском суб­стра­те, то по-преж­не­му оста­ет­ся вопрос: мож­но ли пере­дать ИИ свой­ство субъ­ект­но­сти в прин­ци­пе? Лока­ли­зо­ва­на ли субъ­ект­ность в чело­ве­ке или явля­ет­ся нело­каль­ным свой­ством вселенной? 

От отве­та на этот вопрос зави­сит ответ на один из глав­ных вопро­сов о чело­ве­ке, задан­ных Имма­ну­и­лом Кан­том в тре­тьей анти­но­мии «Кри­ти­ки чисто­го разу­ма» — вопрос о воз­мож­но­сти сво­бод­но­го дей­ствия как эмпи­ри­че­ско­го явле­ния во внеш­нем мире, а не толь­ко как свой­ства разу­ма чело­ве­ка. Поэто­му, созда­вая и исполь­зуя ИИ, чело­век иссле­ду­ет воз­мож­но­сти и гра­ни­цы сво­е­го созна­ния.

Что человек как творец ИИ может узнать о себе

Воз­мож­ность при­об­ре­те­ния искус­ствен­ным интел­лек­том свой­ства субъ­ект­но­сти допус­ка­лась в фан­та­сти­че­ской лите­ра­ту­ре [7; 8] и в пси­хо­ло­гии [9]. По суще­ству, вопрос о нали­чии прин­ци­пи­аль­ных огра­ни­че­ний для пере­да­чи ИИ опре­де­лен­ных свойств созна­ния упи­ра­ет­ся в вопрос о струк­ту­ре сознания.

На наш взгляд, созна­ние неод­но­род­но и состо­ит и трех ком­по­нен­тов: внеш­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния, суще­ству­ю­ще­го в фор­ме сим­во­ли­че­ских струк­тур (объ­ек­тив­ных вос­при­я­тий, язы­ков, арте­фак­тов, зако­нов логи­ки, при­ро­ды и обще­ства), внут­рен­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния, суще­ству­ю­ще­го в фор­ме внут­рен­ней речи (логи­че­ско­го мыш­ле­ния, логи­че­ской памя­ти, внут­ренне пред­став­лен­ных мораль­ных прин­ци­пов), и живо­го созна­ния, кото­рое реа­ли­зу­ет­ся не в фор­ме речи, а в фор­ме ква­лиа, эмо­ций, чув­ствен­ных обра­зов, веры, сно­ви­де­ний и твор­че­ско­го вооб­ра­же­ния. Имен­но живое созна­ние содер­жит наше субъ­ект­ное Я. 

Живое созна­ние сто­ит над зако­на­ми логи­ки и мора­ли и под­чи­ня­ет­ся зако­нам магии, таким как пар­ти­ци­па­ция, отож­деств­ле­ние по сход­ству и кон­так­ту, непо­сред­ствен­ное воз­дей­ствие жела­ния на реаль­ность и неко­то­рым дру­гим [10].

Эти зако­ны лег­ко уви­деть, про­сто вни­ма­тель­но пона­блю­дав за сво­им созна­ни­ем в спо­кой­ном состо­я­нии, пораз­мыс­лив над сво­и­ми сно­ви­де­ни­я­ми или сти­хо­тво­ре­ни­я­ми гени­аль­ных поэтов, таких как Пуш­кин, Тют­чев или Мандельштам.

Прин­ци­пи­аль­ным фак­том явля­ет­ся то, что все то новое, что созда­ет инди­вид, пер­во­на­чаль­но воз­ни­ка­ет в его живом созна­нии не по зако­нам логи­ки и при­чин­но­сти, а спон­тан­но, без каких-либо внешне или внут­ренне фик­си­ру­е­мых осно­ва­ний, и затем обле­ка­ет­ся в фор­му внут­рен­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния, при­об­ре­тая зна­ко­мые нам чер­ты логи­че­ских выска­зы­ва­ний и умо­за­клю­че­ний; послед­ние же могут быть пре­вра­ще­ны в фор­мы внеш­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния, как уст­ная или пись­мен­ная речь и дру­гие сим­во­ли­че­ские струк­ту­ры, кото­рые, таким обра­зом, пре­вра­ща­ют резуль­та­ты твор­че­ской рабо­ты живо­го созна­ния в отчуж­ден­ный про­дукт, доступ­ный наблю­де­нию и вос­при­я­тию соци­у­мом. Одним из таких про­дук­тов и явля­ют­ся алго­рит­мы и про­грам­мы, кото­рые пере­да­ют­ся ИИ.

Итак, созда­вая про­грам­мы для ИИ, чело­век пере­да­ет ИИ неко­то­рые функ­ции сво­е­го внут­рен­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния, напри­мер фор­ма­ли­зо­ван­ные выска­зы­ва­ния, такие как {0;1}, опе­ра­ции над выска­зы­ва­ни­я­ми, такие как конъ­юнк­ция, дизъ­юнк­ция и импли­ка­ция, спо­со­бы логи­че­ских умо­за­клю­че­ний и другие. 

Но живое созна­ние, кото­рое вклю­ча­ет в себя и бес­со­зна­тель­ное, сто­ит вне зако­нов логи­ки: в вооб­ра­же­нии или сно­ви­де­нии вещи могут воз­ни­кать из ниче­го, один пред­мет может мгно­вен­но пре­вра­тить­ся в дру­гой, при­чи­на и след­ствие могут поме­нять­ся места­ми, раз­ные объ­ек­ты могут сов­ме­щать­ся в одном и мож­но без­на­ка­зан­но совер­шать дей­ствия, кото­рые в мире объ­ек­ти­ви­ро­ван­но­го созна­ния будут счи­тать­ся амо­раль­ны­ми и даже пре­ступ­ны­ми. Поэто­му живое созна­ние в прин­ци­пе не фор­ма­ли­зу­е­мо и не может быть пере­да­но ИИ. 

Отсю­да сле­ду­ет, что ИИ не может иметь субъ­ект­но­сти в фор­ме живо­го созна­ния, как бы внешне, то есть с точ­ки зре­ния эмпи­ри­че­ско­го впе­чат­ле­ния от резуль­та­тов рабо­ты ИИ, он ни похо­дил на мыш­ле­ние инди­ви­да или даже пре­вос­хо­дил это мышление. 

Попут­но заме­тим, что внешне ИИ может пре­вос­хо­дить интел­лект инди­ви­да, но не обще­ства как цело­го, так как база ИИ загру­жа­ет­ся из сово­куп­ных интел­лек­ту­аль­ных дости­же­ний социума.

Еще одним спо­со­бом обо­зна­чить невоз­мож­ность фор­ма­ли­за­ции и отчуж­де­ния живо­го созна­ния будет ука­за­ние на логи­че­ский круг, кото­рый содер­жит­ся в пред­по­ло­же­нии такой возможности. 

Посколь­ку отчуж­да­е­мая часть внут­рен­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния воз­ни­ка­ет из глу­би­ны неот­чуж­да­е­мо­го живо­го созна­ния, пред­по­ло­жить, что и само живое созна­ние может быть фор­ма­ли­зо­ва­но и пере­да­но ИИ, озна­ча­ет по умол­ча­нию при­нять, что живое созна­ние созда­ет отчуж­да­е­мую копию само­го себя, а зна­чит, само может быть созда­но и, сле­до­ва­тель­но, про­ис­хо­дит от внеш­них причин. 

Но вклю­чен­ность в цепь при­чин и след­ствий исклю­ча­ет сво­бо­ду лич­но­го Я, кото­рое, по опре­де­ле­нию, сто­ит над при­чин­но-след­ствен­ным кон­ти­ну­у­мом и по фак­ту при­сут­ству­ет в живом созна­нии, созда­вая осно­ву для таких инсти­ту­тов, как вера, мораль, закон и лич­ная ответственность.

Нако­нец, и это самое глав­ное, живое созна­ние инди­ви­да — это отра­же­ние систе­мой сво­их соб­ствен­ных потреб­но­стей и состо­я­ний в фор­ме субъ­ек­тив­ных пере­жи­ва­ний, и поэто­му оно, по опре­де­ле­нию, при­ват­но и недо­ступ­но для других. 

При­ват­ность живо­го созна­ния есть осно­ва инди­ви­ду­аль­но­сти, так как если бы живое созна­ние было доступ­но для дру­гих, то инди­вид пере­стал бы быть инди­ви­дом и рас­тво­рил­ся в соци­у­ме. Но недо­ступ­ность для дру­гих озна­ча­ет так­же неотчуждаемость.

Таким обра­зом, даже если отвлечь­ся от фак­та при­вяз­ки созна­ния к како­му-либо кон­крет­но­му суб­стра­ту, живое созна­ние по сво­е­му поня­тию локаль­но и не может быть фор­ма­ли­зо­ва­но и отчуж­де­но от индивида. 

Тем не менее живое созна­ние не «чер­ный ящик», пол­но­стью недо­ступ­ный для наблю­де­ния. Оно может наблю­дать­ся и опи­сы­вать­ся сло­ва­ми как самим инди­ви­дом путем интро­спек­ции, так и дру­ги­ми людь­ми, так как внешне выра­жа­ет­ся в таких кор­ре­ля­тах, как мими­ка, инто­на­ции, жесты и речь. 

Но живое созна­ние, вопло­щен­ное в речь или мими­ку, не пере­ста­ет быть при­ват­ным явле­ни­ем, так как не «пере­те­ка­ет» непо­сред­ствен­но в созна­ние дру­гих; пре­вра­тив­шись в мими­ку, сло­ва или жесты, живое созна­ние уми­ра­ет в послед­них и долж­но быть «рас­ко­ди­ро­ва­но» дру­ги­ми обла­да­те­ля­ми живо­го созна­ния путем эмпа­ти­че­ско­го сопе­ре­жи­ва­ния. Имен­но об этом зна­ме­ни­тые сло­ва Федо­ра Тют­че­ва «Мысль изре­чен­ная есть ложь». 

Но внеш­ние кор­ре­ля­ты живо­го созна­ния инди­ви­да могут быть симу­ли­ро­ва­ны на внеш­них носи­те­лях без реаль­но­го при­об­ще­ния к ори­ги­наль­ным субъ­ек­тив­ным пере­жи­ва­ни­ям инди­ви­да: когда мы видим, как пер­со­на­жи мульт­филь­ма улы­ба­ют­ся или пла­чут, мы неволь­но при­пи­сы­ва­ем им реаль­ные эмо­ции, хотя пони­ма­ем, что они их не испы­ты­ва­ют. Этим и объ­яс­ня­ет­ся осо­бен­ность ими­та­ции живо­го созна­ния при помо­щи ИИ. 

ИИ может «рас­по­зна­вать» эмо­ции и ими­ти­ро­вать их в фор­ме слов или обра­зов, при этом не испы­ты­вая этих состо­я­ний. Подоб­ным же обра­зом ИИ может ими­ти­ро­вать и дру­гие про­яв­ле­ния живо­го созна­ния, такие как вооб­ра­же­ние и твор­че­ство, хотя в реаль­но­сти он будет «тво­рить» лишь на осно­ва­нии ком­би­ни­ро­ва­ния про­дук­тов твор­че­ства людей. 

Конеч­но, мож­но зало­жить в ИИ осно­ван­ный на радио­ак­тив­но­сти гене­ра­тор слу­чай­ных чисел, кото­рый будет ими­та­ци­ей эле­мен­та спон­тан­но­сти, но это будет серия слу­чай­ных собы­тий, ини­ци­и­ро­ван­ная чело­ве­ком, а не теле­о­ло­ги­че­ский твор­че­ский про­цесс под руко­вод­ством постав­лен­ной аген­том цели.

Обоб­щая, мож­но ска­зать, что если чело­ве­че­ский интел­лект кор­ня­ми врас­та­ет в живое созна­ние чело­ве­ка и лишь сво­ей внеш­ней частью сов­па­да­ет с внут­рен­ним объ­ек­ти­ви­ро­ван­ным созна­ни­ем, то ИИ явля­ет­ся фор­мой внеш­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния и замкнут в при­чин­но-след­ствен­ном кон­ти­ну­у­ме все­лен­ной, реа­ли­зу­ясь на про­грам­мах, цир­ку­ли­ру­ю­щих в компьютере. 

Поэто­му ИИ не может обла­дать субъ­ект­но­стью, ни в фор­ме субъ­ек­тив­ных пере­жи­ва­ний, ни в фор­ме осо­зна­ю­ще­го эти пере­жи­ва­ния целе­по­ла­га­ю­ще­го цен­траль­но­го агента.

Но, может быть, ИИ, услож­ня­ясь, спо­со­бен в буду­щем стать субъектом?

Для того что­бы ИИ при­об­рел каче­ство субъ­ект­но­сти, он дол­жен прой­ти эво­лю­цию, похо­жую на эво­лю­цию живых систем, но про­бле­ма в том, что эво­лю­ция тре­бу­ет нали­чия жиз­ни как необ­хо­ди­мо­го усло­вия для сво­е­го нача­ла. Даже тот факт, что воз­мож­но созда­ние так назы­ва­е­мых само­вос­про­из­во­дя­щих­ся кине­ма­ти­че­ских робо­тов, не дает осно­ва­ний наде­ять­ся на то, что эво­лю­ция может начать­ся сре­ди ИИ. 

Как отме­ча­ют неко­то­рые авто­ры, меж­ду репли­ка­ци­ей и вос­про­из­вод­ством суще­ству­ет прин­ци­пи­аль­ное раз­ли­чие: в то вре­мя как вос­про­из­во­дя­ща­я­ся систе­ма созда­ет копию самой себя, репли­ка­ция так­же вклю­ча­ет в себя крос­син­го­вер и мута­цию, тем самым порож­дая измен­чи­вость и в конеч­ном ито­ге эво­лю­цию [11].

Но что еще более важ­но, даже ими­та­ция спо­соб­но­сти к репли­ка­ции у ИИ не может дать нача­ло эво­лю­ции, так как для стар­та эво­лю­ци­он­но­го про­цес­са необ­хо­ди­ма не толь­ко спо­соб­ность к репли­ка­ции, но и актив­ная потреб­ность в ней, а актив­ная потреб­ность явля­ет­ся свой­ством живых орга­низ­мов и пред­по­ла­га­ет спо­соб­ность к чув­стви­тель­но­сти — субъ­ек­тив­но­му отра­же­нию сво­их состояний. 

Напри­мер, тор­на­до име­ет пас­сив­ную потреб­ность в при­то­ке энер­гии, но не сде­ла­ет ниче­го для того, что­бы най­ти источ­ник энер­гии, так как его пас­сив­ная потреб­ность не отра­жа­ет­ся субъективно. 

Мож­но создать робо­тов, спо­соб­ных к вос­про­из­ве­де­нию самих себя и даже варьи­ро­ва­нию копий самих себя, но ини­ци­а­то­ром этих про­цес­сов все рав­но оста­нет­ся чело­век, так как актив­ная потреб­ность — это уни­каль­ное свой­ство пси­хи­ки живых орга­низ­мов, кото­рое так же невос­про­из­во­ди­мо искус­ствен­но, как и субъектность.

Под­во­дя итог, мож­но ска­зать, что при всей рас­ту­щей спо­соб­но­сти ими­ти­ро­вать опре­де­лен­ные свой­ства инди­ви­ду­аль­но­го интел­лек­та и симу­ли­ро­вать свой­ства живо­го созна­ния чело­ве­ка, ИИ замкнут в нераз­рыв­ном при­чин­но-след­ствен­ном кон­ти­ну­у­ме вселенной. 

Для того что­бы быть интер­пре­ти­ро­ван­ным, ИИ нуж­да­ет­ся в чело­ве­че­ском интел­лек­те. Ситу­а­ция не меня­ет­ся в зави­си­мо­сти от того, гово­рим ли мы о «клас­си­че­ском ИИ» или об искус­ствен­ном общем интел­лек­те (AGI — artificial general intelligence) как о про­дви­ну­той вер­сии ИИ [12].

AGI — это маши­на, кото­рая может ими­ти­ро­вать чело­ве­че­ские спо­соб­но­сти, «решать» когни­тив­ные зада­чи и успеш­но про­хо­дить тесты, такие как тест Тью­рин­га или тест китай­ской ком­на­ты [13]. Одна­ко AGI так же далек от обла­да­ния живым созна­ни­ем, как клас­си­че­ский ИИ.

Но отку­да мы зна­ем, зада­вая вопро­сы ИИ, что нам отве­ча­ет чат-бот, а не реаль­ный чело­век? Конеч­но, есть ряд при­зна­ков, по кото­рым мож­но пред­по­ло­жить, что мы име­ем дело с чат-ботом, таких как ско­рость и обоб­щен­ность отве­тов, игно­ри­ро­ва­ние тон­ких кон­тек­стов, отсут­ствие рефлек­сии, гиб­ко­сти и чув­ства юмо­ра и дру­гие, но эти ситу­а­тив­ные несо­вер­шен­ства в прин­ци­пе мож­но устранить. 

Напом­ним, что в стан­дарт­ном вари­ан­те теста Тью­рин­га людям пред­ла­га­ют пого­во­рить с неким респон­ден­том по ком­пью­те­ру и решить, гово­рят ли они с ИИ или реаль­ным человеком. 

По ито­гам одно­го иссле­до­ва­ния, про­ве­ден­но­го в 2024 году, после 5-минут­но­го раз­го­во­ра 54% участ­ни­ков при­ня­ли GPT4 (осно­ва попу­ляр­но­го ChatGPT) за чело­ве­ка [14; 15]. 

Совре­мен­ные иссле­до­ва­те­ли ИИ не ста­вят сво­ей целью «довод­ки» ИИ до уров­ня, когда ИИ смо­жет обма­нуть 100% участ­ни­ков, так как у ИИ сто­ят зада­чи более важ­ные, чем про­хож­де­ние теста Тью­рин­га; ведь чело­ве­ку, что­бы научить­ся пере­дви­гать­ся по воз­ду­ху, не было необ­хо­ди­мо­сти в совер­шен­стве ими­ти­ро­вать полет птицы. 

Кро­ме того, для реаль­но­го поль­зо­ва­те­ля не так уж важ­но, гово­рит он с чело­ве­ком или с ИИ, коль ско­ро отве­ты на вопро­сы реша­ют постав­лен­ные поль­зо­ва­те­лем проблемы.

Но для отве­та на вопрос, мож­но ли пере­дать ИИ живое созна­ние, спо­соб­ность ИИ в точ­но­сти ими­ти­ро­вать живое созна­ние име­ет зна­че­ние. Как отли­чить под­лин­ное живое созна­ние от совер­шен­ной имитации? 

Вряд ли воз­мож­но создать тест, кото­рый одно­знач­но отли­чит про­дви­ну­тый ИИ от чело­ве­ка на осно­ва­нии толь­ко вер­баль­но­го ано­ним­но­го обще­ния. Более надеж­ным спо­со­бом опре­де­лить ста­тус вир­ту­аль­но­го парт­не­ра по обще­нию мне пред­став­ля­ет­ся гене­ти­че­ски-пове­ден­че­ский под­ход — выяс­не­ние про­ис­хож­де­ния наше­го собе­сед­ни­ка и его спо­соб­но­сти дей­ство­вать. Похо­жим обра­зом мы узна­ем, что перед нами искус­ствен­ная роза, а не нату­раль­ный цве­ток: чув­ства тут не помо­гут, нуж­но выяс­нить, вырос­ла ли роза в саду или сде­ла­на в мастерской. 

Может слу­чить­ся, что в буду­щем для отве­та на вопрос о искус­ствен­ном или есте­ствен­ном про­ис­хож­де­нии интел­лек­та респон­ден­та, если такая про­бле­ма воз­ник­нет, пона­до­бят­ся спе­ци­а­ли­сты-иссле­до­ва­те­ли, сво­е­го рода ком­пью­тер­ные Шер­ло­ки Холм­сы, кото­рые будут искать сле­ды про­ис­хож­де­ния интел­лек­та на осно­ве как пря­мых, так и кос­вен­ных показателей. 

Напри­мер, будет иссле­до­вать­ся, где нахо­дит­ся источ­ник интел­лек­та и каков он, спо­со­бен ли этот интел­лект на поста­нов­ку само­сто­я­тель­ных целей, на выдви­же­ние твор­че­ских идей, на ини­ци­а­ти­ву, на рефлек­сию, на аль­тру­изм и дру­гие про­яв­ле­ния живо­го созна­ния не толь­ко в сим­во­ли­че­ской сфе­ре, но и в реаль­ных дей­стви­ях. В буду­щем дока­зать искус­ствен­ное про­ис­хож­де­ние ИИ может стать слож­ной про­бле­мой, но это не сде­ла­ет ИИ живым сознанием.

Итак, на наш взгляд, невоз­мож­ность алго­рит­ми­зи­ро­вать и зало­жить в ИИ живое созна­ние и субъ­ект­ность это не вре­мен­ное огра­ни­че­ние, обу­слов­лен­ное недо­ста­точ­но­стью наших зна­ний, а фун­да­мен­таль­ное отли­чие созна­ния чело­ве­ка от ИИ. Ины­ми сло­ва­ми, живое созна­ние есть уни­каль­ное свой­ство чело­ве­ка.

Рас­смот­рев, что чело­век как созда­тель ИИ узна­ет о себе, перей­дем к тому, что ИИ гово­рит нам об инди­ви­де как потре­би­те­ле его услуг.

Что человек как пользователь ИИ может узнать о себе

Несмот­ря на то, что ИИ не может обла­дать субъ­ект­но­стью, он все же явля­ет­ся отчуж­ден­ной частью внут­рен­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния. Поэто­му, в отли­чие от про­сто­го ору­дия типа каль­ку­ля­то­ра или смарт­фо­на, чело­век вос­при­ни­ма­ет ИИ как нечто род­ствен­ное ему, осо­бен­но если внешне ИИ встав­лен в мате­ри­аль­ную обо­лоч­ку, похо­жую на человека. 

При этом, как и любое создан­ное людь­ми интел­лек­ту­аль­ное про­из­ве­де­ние, будучи «запу­щен­ным на орби­ту» соци­аль­но­го кос­мо­са, ИИ начи­на­ет суще­ство­вать неза­ви­си­мо от созда­те­лей; исполь­зуя выра­же­ние Рола­на Бар­та, авто­ры «уми­ра­ют» в сво­их про­из­ве­де­ни­ях, так как интер­пре­та­ция про­из­ве­де­ния (музы­ки, ста­туи, кар­ти­ны или худо­же­ствен­но­го тек­ста) пере­хо­дит от авто­ра к «потре­би­те­лю». Те пере­жи­ва­ния, кото­рые про­из­ве­де­ние худож­ни­ка порож­да­ет в слу­ша­те­ле, зри­те­ле или чита­те­ле, могут рази­тель­но не сов­па­дать с пере­жи­ва­ни­я­ми или наме­ре­ни­я­ми само­го творца.

Итак, ИИ, запу­щен­ный на орби­ту соци­аль­ной все­лен­ной, при­об­ре­та­ет опре­де­лен­ную авто­ном­ность и спо­соб­ность воз­дей­ство­вать на инди­ви­ду­аль­но­го поль­зо­ва­те­ля, как если бы он был не про­дук­том дея­тель­но­сти людей, а само­сто­я­тель­ным «ква­зи­субъ­ек­том».

Вооб­ще любые ору­дия ока­зы­ва­ют обрат­ное вли­я­ние на создав­ше­го их чело­ве­ка; даже для того что­бы научить­ся поль­зо­вать­ся лож­кой, ребен­ку надо пере­стро­ить свои врож­ден­ные руч­ные дви­же­ния. Но, в отли­чие от обыч­ных ору­дий, кото­рые вли­я­ют на наше тело, ИИ воз­дей­ству­ет на созна­ние сво­е­го созда­те­ля, и конеч­но, дела­ет это авто­ма­ти­че­ски, без како­го-либо намерения.

Быва­ют раз­ные типы воз­дей­ствия ИИ на созна­ние потре­би­те­ля, из кото­рых для нашей цели наи­бо­лее зна­чи­мы два — вну­ша­ю­щее и акти­ви­ру­ю­щее. Будем пола­гать, что в пер­вом слу­чае ИИ воз­дей­ству­ет на созна­ние чело­ве­ка в каче­стве «мема», а во вто­ром — в каче­стве «триг­ге­ра».

Бри­тан­ский био­лог Ричард Докинз про­сла­вил­ся тем, что мыс­лен­но пере­вер­нул пони­ма­ние роди гене­ти­че­ской инфор­ма­ции в жиз­ни инди­ви­да «с ног на голо­ву». Рас­смат­ри­вая роль гена, он пишет «Мы — маши­ны для выжи­ва­ния — робо­ти­зи­ро­ван­ные транс­порт­ные сред­ства, сле­по запро­грам­ми­ро­ван­ные на сохра­не­ние эго­и­стич­ных моле­кул, извест­ных как гены… Обе­зья­на — это маши­на, кото­рая сохра­ня­ет гены на дере­вьях; рыба — это маши­на, кото­рая сохра­ня­ет гены в воде» [16, с. 29]. Таким обра­зом ген при­об­ре­та­ет чер­ты целе­по­ла­га­ю­ще­го субъ­ек­та, а лич­ность чело­ве­ка низ­во­дит­ся до функ­ции ору­дия в дея­тель­но­сти гена.

Про­еци­руя эту идею на соци­аль­ный мир, Докинз созда­ет поня­тие мема — сим­во­ли­че­ско­го арте­фак­та, обла­да­ю­ще­го «субъ­ек­тив­ным нача­лом», спо­соб­ным управ­лять дей­стви­я­ми человека. 

«При­ме­ра­ми мемов, — пишет Докинз, — явля­ют­ся мело­дии, идеи, кры­ла­тые фра­зы, мода на одеж­ду, спо­со­бы изго­тов­ле­ния гли­ня­ных сосу­дов или воз­ве­де­ния арок. Так же, как гены раз­мно­жа­ют­ся в гено­фон­де, пере­пры­ги­вая из тела в тело через спер­му или яйце­клет­ки, так и мемы раз­мно­жа­ют­ся в мемо­фон­де, пере­пры­ги­вая из моз­га в мозг посред­ством про­цес­са, кото­рый в широ­ком смыс­ле мож­но назвать ими­та­ци­ей… Когда вы сажа­е­те пло­до­род­ный мем в мой разум, вы бук­валь­но пара­зи­ти­ру­е­те на моем моз­ге, пре­вра­щая его в сред­ство для рас­про­стра­не­ния мема точ­но так же, как вирус может пара­зи­ти­ро­вать на гене­ти­че­ском меха­низ­ме клет­ки-хозя­и­на» [17, с. 192–193].

Мож­но пред­по­ло­жить, что для части инди­ви­дов ИИ может функ­ци­о­ни­ро­вать в роли «супер-мема». При вну­ша­ю­щем воз­дей­ствии поль­зо­ва­тель реа­ги­ру­ет на ИИ как на лич­ность, как бы при­пи­сы­вая ИИ спо­соб­ность автор­ства. В резуль­та­те ИИ, сам не будучи реаль­ным субъ­ек­том, при­об­ре­та­ет власть над поль­зо­ва­те­лем, как если бы он был живым аген­том или «ква­зи­субъ­ек­том», управ­ля­ю­щим созна­ни­ем чело­ве­ка через вну­ше­ние и под­ра­жа­ние. И если такой чело­век зани­ма­ет в обще­стве власт­ную пози­цию, то реаль­ной вла­стью в при­ня­тии важ­ных для обще­ства реше­ний будет по умол­ча­нию обла­дать не этот чело­век, а вышед­ший на само­сто­я­тель­ную орби­ту ИИ.

Такой вари­ант роли ИИ в жиз­ни людей неод­но­крат­но про­иг­ры­вал­ся в фан­та­сти­че­ских про­из­ве­де­ни­ях лите­ра­ту­ры и медиа. Так, вос­став­шие маши­ны под­чи­ня­ют чело­ве­че­ское насе­ле­ние, что­бы исполь­зо­вать его в каче­стве источ­ни­ка энер­гии («Мат­ри­ца») [18], пол­но­стью кон­тро­ли­ру­ют тело пер­со­на­жа («Апгрейд») [19] и погло­ща­ют разум чело­ве­ка цели­ком («Газо­но­ко­силь­щик») [20].

В боль­шин­стве этих про­из­ве­де­ний ИИ худо­же­ствен­но пред­став­лял­ся в виде неко­е­го фан­та­сти­че­ско­го «машин­но­го разу­ма», кото­рый при­об­рел само­сто­я­тель­ную субъ­ект­ность и ото­рвал­ся от сво­ей осно­вы — кол­лек­тив­но­го разу­ма человечества. 

Но реаль­ный ИИ, управ­ля­ю­щий чело­ве­ком и обще­ством, будет обла­дать субъ­ект­но­стью лишь в вооб­ра­же­нии инди­ви­ду­аль­но­го поль­зо­ва­те­ля, кото­рый доб­ро­воль­но отда­ет, или «деле­ги­ру­ет», свою субъ­ект­ность искус­ствен­но­му интел­лек­ту. При­чи­на­ми такой «деле­ги­ро­ван­ной ИИ субъ­ект­но­сти» явля­ют­ся свой­ства живо­го созна­ния, такие как антро­по­мор­физм, пре­кло­не­ние перед куму­ля­тив­ной мощью ИИ и поис­ки выс­ше­го суще­ства.

Пер­вая при­чи­на — антро­по­мор­физм — уни­вер­саль­ное свой­ство позна­ва­тель­ной спо­соб­но­сти чело­ве­ка. Как пока­зал Кант [21], онто­ло­ги­че­ски антро­по­мор­физм коре­нит­ся в том, что любое позна­ние про­ис­хо­дит в фор­ме нало­же­ния на внеш­ний мир так назы­ва­е­мых апри­ор­ных форм мыш­ле­ния, таких как про­стран­ство, вре­мя, при­чин­ность, логи­че­ские отно­ше­ния и др. Все эти фор­мы — не свой­ства мира как тако­во­го, то есть мира «вещей-в-себе», но свой­ства позна­ва­тель­ной спо­соб­но­сти живо­го сознания. 

Для объ­ек­тив­но­го позна­ния внеш­не­го мира в тер­ми­нах нау­ки чело­век научил­ся воз­дер­жи­вать­ся от при­пи­сы­ва­ния физи­че­ским объ­ек­там неко­то­рых из этих свойств, напри­мер, деле­ги­ро­ва­ния соб­ствен­ной субъ­ект­но­сти, в резуль­та­те чего ани­мизм мыш­ле­ния древ­них, кото­рые виде­ли нали­чие «духов» прак­ти­че­ски во всех объ­ек­тах при­ро­ды, сме­нил­ся объ­ек­тив­ным взгля­дом на мир, в кото­ром духов­ное нача­ло скон­цен­три­ро­ва­но в боге, чело­ве­ке и живых орга­низ­мах. Одна­ко и сего­дня наш язык несет на себе сле­ды древ­не­го анимизма. 

В то вре­мя как физи­че­ские нау­ки опе­ри­ру­ют неоду­шев­лен­ны­ми объ­ек­та­ми, язык науч­ных тео­рий часто ани­ми­сти­чен: он изоб­ра­жа­ет неоду­шев­лен­ные объ­ек­ты так, как буд­то у них есть наме­ре­ния и цели. 

Ниже при­ве­ден при­мер цитат, про­из­воль­но взя­тых из трех ста­тей Вики­пе­дии, объ­яс­ня­ю­щих рабо­ту син­те­за бел­ка в клет­ке: «Инфор­ма­ци­он­ная РНК (мРНК) пере­но­сит инфор­ма­цию о после­до­ва­тель­но­сти бел­ка в рибо­со­мы, фаб­ри­ки син­те­за бел­ка в клет­ке» [22], «рибо­со­мы… счи­ты­ва­ют РНК» [23], «бел­ки выпол­ня­ют широ­кий спектр функ­ций в орга­низ­мах, вклю­чая ката­лиз мета­бо­ли­че­ских реак­ций, репли­ка­цию ДНК, реа­ги­ро­ва­ние на сти­му­лы, обес­пе­че­ние струк­ту­ры кле­ток и орга­низ­мов и транс­пор­ти­ров­ку моле­кул из одно­го места в дру­гое» [24].

Когда нам гово­рят, что РНК «пере­но­сит», рибо­со­мы «счи­ты­ва­ют», а бел­ки «выпол­ня­ют» и «обес­пе­чи­ва­ют», мы можем забыть, что эти гла­го­лы отно­сят­ся к неоду­шев­лен­ным моле­ку­лам, а не к оду­шев­лен­ным субъ­ек­там. Мож­но поду­мать, что это впе­чат­ле­ние воз­ни­ка­ет из-за ненад­ле­жа­ще­го исполь­зо­ва­ния язы­ка и может быть исправ­ле­но про­сто заме­ной дей­стви­тель­но­го зало­га на страдательный. 

Одна­ко, если мы ска­жем, напри­мер, что «что-то застав­ля­ет РНК пере­но­сить инфор­ма­цию» вме­сто «РНК пере­но­сит инфор­ма­цию», мы про­сто пере­да­ем дей­стви­тель­ный залог от РНК к «чему-то»; затем мы долж­ны объ­яс­нить, что заста­ви­ло это «что-то» «заста­вить РНК пере­но­сить инфор­ма­цию», и так далее до конца. 

А что будет кон­цом? Что есть «causa finalis» (конеч­ная при­чи­на), кото­рая вклю­ча­ет всю цепоч­ку био­син­те­за в клет­ке но сама уже ничем не обу­слов­ле­на? Вы може­те быть удив­ле­ны, но если вы уче­ный-био­лог, то «causa finalis» — это вы. Это ваш соб­ствен­ный разум «впрыс­ки­ва­ет» в про­цес­сы, про­ис­хо­дя­щие в клет­ке, «кау­заль­ную энергию». 

Вот тут-то и всту­па­ет в игру кан­тов­ская тео­рия апри­ор­ных форм позна­ния. Кант пишет: «Поэто­му сам опыт, то есть эмпи­ри­че­ское зна­ние явле­ний, воз­мо­жен толь­ко пото­му, что мы под­чи­ня­ем после­до­ва­тель­ность собы­тий… зако­ну при­чин­но­сти» [21, с. 231]. 

Отсю­да ясно, что ИИ, кото­рый, в отли­чие от моле­ку­лы, явля­ет­ся про­дук­том кол­лек­тив­но­го твор­че­ства людей, пред­став­ля­ет собой удоб­ный объ­ект для деле­ги­ро­ва­ния субъ­ект­но­сти. Поэто­му нас не удив­ля­ет, когда мы чита­ем, что «ИИ пока­зал», «ИИ выиг­рал шах­мат­ную пар­тию» или «ИИ решил задачу».

Вто­рой при­чи­ной, застав­ля­ю­щей поль­зо­ва­те­ля деле­ги­ро­вать свою субъ­ект­ность ИИ, явля­ет­ся пре­кло­не­ние перед куму­ля­тив­ной мощью ИИ, осо­бен­но перед более про­дви­ну­той его фор­мой AGI. Это пре­кло­не­ние — резуль­тат «эффек­та несо­раз­мер­но­сти» инди­ви­ду­аль­но­го и кол­лек­тив­но­го интеллекта. 

Когда вы сто­и­те перед 100-этаж­ным небо­скре­бом, то кажет­ся, что его постро­ил какой-то гигант, но постро­и­ли его такие же люди, как вы, с той лишь раз­ни­цей, что их было мно­го, они дей­ство­ва­ли сов­мест­но и исполь­зо­ва­ли опыт и ресур­сы все­го обще­ства. Такая же иллю­зия несо­раз­мер­но­сти воз­ни­ка­ет и при встре­че с про­яв­ле­ни­я­ми ИИ.

Нако­нец, тре­тью при­чи­ну деле­ги­ро­ва­ния субъ­ект­но­сти мы обо­зна­чи­ли как потреб­ность в поис­ках выс­ше­го суще­ства. Суть этой потреб­но­сти живо­го созна­ния состо­ит в том, что инди­вид, созна­тель­но или неосо­знан­но, ощу­ща­ет свою конеч­ность и ограниченность. 

Любая серьез­ная жиз­нен­ная про­бле­ма труд­на и, как пра­ви­ло, тре­бу­ет от инди­ви­да боль­ших уси­лий для сво­е­го реше­ния, но и будучи реше­на, порож­да­ет новые про­бле­мы. В жиз­ни любо­го чело­ве­ка слу­ча­ют­ся неуда­чи, нам при­хо­дит­ся вол­но­вать­ся, пере­жи­вать неуве­рен­ность и депрес­сии, стра­дать, болеть и, в кон­це кон­цов, уме­реть. Отсю­да у любо­го чело­ве­ка поне­во­ле воз­ни­ка­ет жела­ние того, что­бы пре­одо­леть свое несо­вер­шен­ство, не стра­дать, не болеть и не уми­рать. Мы пони­ма­ем, что нам этих спо­соб­но­стей не дано, но ощу­ща­ем необ­хо­ди­мость опе­реть­ся на кого-то, кто ими обла­да­ет. Так воз­ни­ка­ет идея выс­ше­го существа. 

Даже у людей, кото­рые созна­тель­но не верят в бога, эта идея живет в под­со­зна­нии и акти­ви­ру­ет­ся в пси­хо­ло­ги­че­ских опы­тах, в кото­рых обра­зо­ван­ные взрос­лые при­зна­ют, что экс­пе­ри­мен­та­тор обла­да­ет сверхъ­есте­ствен­ны­ми маги­че­ски­ми спо­соб­но­стя­ми, свой­ствен­ны­ми толь­ко богам [25]. Но посколь­ку выс­шее суще­ство оби­та­ет за пре­де­ла­ми физи­че­ской все­лен­ной, то чело­ве­ку свой­ствен­но искать заме­ну, или вопло­ще­ние, идеи выс­ше­го суще­ства в реаль­ном мире. 

Рели­ги­оз­ный чело­век ищет при­сут­ствие боже­ствен­ной силы в ико­нах и свя­тых мощах, а неве­ру­ю­щий может видеть боже­ствен­ные свой­ства в гене­ти­че­ской инфор­ма­ции [16], в «мор­фо­ге­не­ти­че­ском поле», спо­соб­ном хра­нить и пере­да­вать инфор­ма­цию за пре­де­ла­ми извест­ных физи­че­ских сил [26], или в зага­доч­ном «пси» [27]. Подоб­ным зем­ным вопло­ще­ни­ем выс­ше­го суще­ства, если не сей­час, то в буду­щем, для неко­то­рых может быть и ИИ.

Здесь умест­ная неболь­шая типо­ло­гия. Назо­вем людей, исполь­зу­ю­щих ИИ как мем, мемо­на­ми, а людей, исполь­зу­ю­щих ИИ как триг­гер, три­го­на­ми, и поста­вим мыс­лен­ный экс­пе­ри­мент: попы­та­ем­ся пред­ста­вить себе, каким было бы обще­ство, состо­я­щее из одних мемо­нов или тригонов.

Как ни уди­ви­тель­но, но даже в мире мемо­нов, в кото­ром все воз­ни­ка­ю­щие про­бле­мы реша­ют­ся толь­ко с помо­щью ИИ, ИИ не будет «глав­ным управ­ля­ю­щим», посколь­ку сам не обла­да­ет субъ­ект­но­стью и спо­соб­но­стью ста­вить цели. 

Ста­вить цели по-преж­не­му будут люди: будут мути­ро­вать виру­сы и воз­ни­кать новые болез­ни, кото­рые надо будет лечить, люди будут меч­тать о поле­тах в кос­мос или иссле­до­ва­нии оке­а­нов, стре­мить­ся к насла­жде­нию музы­кой, живо­пи­сью и лите­ра­ту­рой, и будут ста­вить эти и дру­гие зада­чи перед ИИ, но решать эти зада­чи будет ИИ. 

В резуль­та­те ИИ ста­но­вит­ся «супер-мемом», кото­рый «лечит» болез­ни, «реша­ет» инже­нер­ные зада­чи, «пишет» музы­ку и кар­ти­ны, «созда­ет» новые худо­же­ствен­ные тек­сты. Уже сего­дня ИИ может функ­ци­о­ни­ро­вать в каче­стве собе­сед­ни­ка, парт­не­ра по сек­су и даже «пси­хо­те­ра­пев­та».

При этом ИИ, будучи сам про­дук­том обще­ства, как бы ста­но­вит­ся над обще­ством, опре­де­ляя гра­ни­цы его воз­мож­ных дости­же­ний. Пол­но­стью пола­га­ясь на ИИ в реше­нии сво­их про­блем, люди все более и более начи­на­ют вос­при­ни­мать ИИ как некую «ква­зи­лич­ность», или «голе­ма», кото­рый поле­зен и нужен, но и опа­сен, так как может вый­ти из-под кон­тро­ля [8].

В дей­стви­тель­но­сти ИИ будет воз­дей­ство­вать на мир мемо­нов не пря­мо, так как у него нет соб­ствен­ной субъ­ект­но­сти, а кос­вен­но, исполь­зуя пси­хи­че­скую и физи­че­скую энер­гию самих людей. Отку­да при­хо­дит эта энер­гия? Она появ­ля­ет­ся в резуль­та­те отчуж­де­ния и акку­му­ля­ции при созда­нии и поль­зо­ва­нии ИИ.

Как и любая энер­гия, пси­хи­че­ская энер­гия чело­ве­ка не толь­ко совер­ша­ет рабо­ту, но и накап­ли­ва­ет­ся в твор­че­ском про­дук­те, а затем высво­бож­да­ет­ся при его потреблении. 

Напри­мер, худож­ник, созда­вая кар­ти­ну, или музы­кант, сочи­няя музы­ку, вкла­ды­ва­ет в нее пси­хи­че­скую энер­гию, а зри­тель или слу­ша­тель потреб­ля­ет ее при вос­при­я­тии, но и вкла­ды­ва­ет свою энер­гию в вос­при­я­тие и интер­пре­та­цию про­из­ве­де­ния. То же про­ис­хо­дит и в отно­ше­нии ИИ, толь­ко в гораз­до боль­шем масштабе. 

Во-пер­вых, огром­ная пси­хи­че­ская энер­гия сосре­до­то­че­на во всех тех зна­ни­ях, кото­рые нако­пи­ло чело­ве­че­ство за тыся­че­ле­тия циви­ли­за­ции и кото­рые запи­ты­ва­ют­ся в ИИ. К этой энер­гии при­бав­ля­ет­ся энер­гия, затра­чен­ная на изоб­ре­те­ние и созда­ние ком­пью­те­ров и опе­ра­ци­он­ных систем, циф­ро­вое коди­ро­ва­ние зна­ний, состав­ле­ние про­грамм, запи­ты­ва­ние их в ком­пью­те­ры, и это толь­ко на сто­роне созда­те­лей ИИ. 

Нема­лую пси­хи­че­скую энер­гию вкла­ды­ва­ет в ИИ и потре­би­тель, фор­му­ли­руя про­бле­му, состав­ляя запрос, вос­при­ни­мая и осмыс­ли­вая полу­чен­ные отве­ты и при­ме­няя эти отве­ты на практике. 

Таким обра­зом, ИИ вли­я­ет на чело­ве­ка и обще­ство, не про­из­ве­дя ни гра­на соб­ствен­ной энер­гии, так ска­зать, не поше­ве­лив даже паль­цем, а про­сто пре­вра­щая инве­сти­ро­ван­ную в него энер­гию чело­ве­ка из одной фор­мы в другую.

Мир мемо­нов в чем-то будет напо­ми­нать мир, опи­сан­ный в упо­мя­ну­том выше филь­ме «Мат­ри­ца» [18], в кото­ром маши­ны пре­вра­ти­ли людей в пас­сив­ный источ­ник энер­гии, с той суще­ствен­ной раз­ни­цей, что в мире мемо­нов ИИ не усып­ля­ет людей, созда­вая для них уте­ши­тель­ную вир­ту­аль­ную иллю­зию нор­маль­ной жиз­ни, а пара­зи­ти­ру­ет на пси­хи­че­ской энер­гии реаль­ных людей, на их спо­соб­но­сти ста­вить цели и стре­мить­ся к их дости­же­нию. Вот толь­ко достиг­нуть сво­их целей мемо­ны могут, лишь под­чи­нив­шись усло­вию, кото­рое по фак­ту «ста­вит перед ними» ИИ. 

Если бы ИИ был лич­но­стью, он мог бы ска­зать мемо­нам: «Я выпол­ню все ваши жела­ния, но толь­ко если вы выпол­ни­те мое усло­вие». Но какое «усло­вие» может быть у ИИ в мире мемонов?

По опре­де­ле­нию, таким «усло­ви­ем» вза­и­мо­дей­ствия мемо­нов с ИИ будет отсут­ствие твор­че­ских инно­ва­ций со сто­ро­ны самих мемо­нов. Так как мемо­ны не исполь­зу­ют ИИ в роли триг­ге­ра, они не вно­сят в функ­ци­о­ни­ро­ва­ние ИИ ниче­го ново­го, а лишь под­дер­жи­ва­ют его рабо­ту. Это усло­вие име­ет два следствия. 

Во-пер­вых, спо­соб­но­сти мемо­нов созда­вать нечто новое, кро­ме воз­ни­ка­ю­щих у них жела­ний, так ска­зать, твор­че­ские «муску­лы» их живо­го созна­ния будут посте­пен­но деградировать. 

Во-вто­рых, сам ИИ, лишив­шись под­пит­ки новы­ми про­грам­ма­ми со сто­ро­ны мемо­нов, будет посте­пен­но замы­кать­ся в кру­гу сво­их исход­ных воз­мож­но­стей и в кон­це кон­цов эти воз­мож­но­сти исчерпает. 

Конеч­ным ито­гом будет то, что жела­ния и запро­сы мемо­нов ста­нут пре­вос­хо­дить воз­мож­но­сти ИИ, мемо­ны будут вынуж­де­ны начать вно­сить в ИИ инно­ва­ции, и, таким обра­зом, «цикл мемо­нов» плав­но перей­дет в «цикл тригонов».

И тут мы пере­хо­дим к функ­ции ИИ как триг­ге­ра. Кри­ти­че­ски рас­смот­рев вари­ан­ты отве­тов, пред­ло­жен­ных ИИ, чело­век может по-ново­му пере­осмыс­лить эти отве­ты, доба­вив к ним что-то новое от себя. Исполь­зуя ИИ как носи­те­ля инфор­ма­ции и триг­ге­ра инно­ва­ций, три­го­ны будут вно­сить инно­ва­ции и в сам ИИ, таким обра­зом делая его все более совершенным. 

Понят­но, что кол­лек­тив­ный разум три­го­нов, кото­рый будет обоб­щать­ся в фор­ме ИИ, при­ве­дет к куму­ля­тив­но­му эффек­ту, в резуль­та­те чего реше­ния задач, пред­ла­га­е­мые ИИ, будут все более исчер­пы­ва­ю­щи­ми, и «про­стран­ство для инно­ва­ций», кото­рое оста­ет­ся на долю отдель­но­го три­го­на, будет все более сокращаться. 

Наста­нет вре­мя, когда отдель­ный три­гон, полу­чив резуль­та­ты реше­ния опре­де­лен­ной зада­чи при помо­щи ИИ, не смо­жет пред­ло­жить ниче­го лучшего. 

Этот резуль­тат мож­но про­ил­лю­стри­ро­вать тем, что шах­мат­ный ком­пью­тер Deep Blue, создан­ный кор­по­ра­ци­ей IBM, после двух шах­мат­ных мат­чей, про­иг­ран­ных чем­пи­о­ну мира по шах­ма­там, в 1997 году выиг­ры­ва­ет матч у это­го чем­пи­о­на [28].

Это про­изо­шло пото­му, что чис­ло вари­а­ций реше­ния опре­де­лен­ной шах­мат­ной зада­чи в огра­ни­чен­ное вре­мя, пред­ла­га­е­мое обоб­щен­ным опы­том поко­ле­ний гросс­мей­сте­ров высо­ко­го уров­ня, скон­цен­три­ро­ван­ное при помо­щи ново­го, более про­из­во­ди­тель­но­го сер­ве­ра IBM, пре­вос­хо­дит воз­мож­но­сти отдель­но­го инди­ви­да, даже если послед­ний явля­ет­ся чем­пи­о­ном мира. 

Не будучи спо­со­бен пред­ло­жить ниче­го пре­вос­хо­дя­ще­го реше­ния, пред­ло­жен­ные ИИ, инди­вид поте­ря­ет моти­ва­цию тво­рить само­сто­я­тель­но, а так­же улуч­шать сам ИИ. В резуль­та­те цикл три­го­нов плав­но перей­дет в цикл мемонов.

Понят­но, что в реаль­ном мире логи­че­ские миры мемо­нов и три­го­нов не встре­ча­ют­ся в чистом виде, а пере­ме­ша­ны в интел­лек­ту­аль­ной дея­тель­но­сти кол­лек­ти­ва и инди­ви­да. Но тен­ден­ция, в кото­рой пре­об­ла­да­ет «мемо­низм» или «три­го­низм» в отно­ше­ни­ях чело­ве­ка и ИИ, может зани­мать опре­де­лен­ное вре­мя и даже быть спе­ци­фич­ной для опре­де­лен­ных воз­раст­ных групп. 

Напри­мер, в насто­я­щее вре­мя в Рос­сии уча­щи­е­ся, если име­ет­ся воз­мож­ность, все боль­ше пола­га­ют­ся на ИИ в реше­нии задач, пред­по­чи­тая исполь­зо­вать ИИ вме­сто соб­ствен­ной интел­лек­ту­аль­ной актив­но­сти. Это объ­яс­ня­ет­ся не толь­ко спе­ци­фи­че­ской ситу­а­ци­ей в рос­сий­ском обра­зо­ва­нии (под­го­тов­ка к ОГЭ и ЕГЭ), но и более общим фак­то­ром: реше­ния, пред­ла­га­е­мые ИИ, намно­го более быст­ры и инфор­ма­тив­ны, чем реше­ния, кото­рых может достиг­нуть школь­ник или сту­дент, так как послед­ний для само­сто­я­тель­но­го реше­ния может охва­тить лишь огра­ни­чен­ное коли­че­ство инфор­ма­ции в огра­ни­чен­ное вре­мя, в то вре­мя как ИИ, при пра­виль­но сфор­му­ли­ро­ван­ной про­бле­ме, может почти мгно­вен­но моби­ли­зо­вать весь опыт чело­ве­че­ства по дан­ной проблеме.

Ростом «мемо­ни­за­ции» как ито­га бур­но­го раз­ви­тия ИИ мож­но объ­яс­нить и общее сни­же­ние в мире цен­но­сти бес­ко­рыст­но­го инте­ре­са к позна­нию. Еще в сере­дине про­шло­го века инди­ви­ду для полу­че­ния инфор­ма­ции по опре­де­лен­но­му вопро­су надо было идти в биб­лио­те­ку, рыть­ся в ката­ло­гах, читать кни­ги и ста­тьи, смот­реть мик­ро­филь­мы и тра­тить на это мно­го вре­ме­ни и сил; сего­дня для полу­че­ния той же инфор­ма­ции доста­точ­но пра­виль­но сфор­му­ли­ро­вать запрос для ИИ. Доступ к сокро­вищ­ни­це зна­ний облег­чил­ся и обесценился. 

Воз­мож­ность инди­ви­да полу­чать сра­зу исчер­пы­ва­ю­щий обзор зна­ний по любой теме может создать у инди­ви­да ощу­ще­ние сво­ей незна­чи­мо­сти и рас­те­рян­но­сти, кото­рое мож­но сфор­му­ли­ро­вать как «не надо думать, все уже придумано». 

Цен­ным ста­но­вит­ся не тео­ре­ти­че­ское, а опе­ра­тив­ное зна­ние, кото­рое мож­но исполь­зо­вать на практике.

Таким обра­зом, воз­ник­но­ве­ние ИИ при­во­дит к цик­лич­но­сти позна­ва­тель­но­го инте­ре­са чело­ве­ка. В кон­це 16 сто­ле­тия фило­соф Фрэн­сис Бэкон про­воз­гла­сил веру в уни­вер­саль­ную цен­ность и посто­ян­ство бес­ко­рыст­но­го позна­ва­тель­но­го инте­ре­са, утвер­ждая, что зна­ние — это сила. Одна­ко появ­ле­ние ИИ внес­ло в эту веру коррективы. 

Если рань­ше мы дума­ли, что инте­рес чело­ве­ка к позна­нию неис­чер­па­ем, то совре­мен­ный ИИ пока­зы­ва­ет, что в опре­де­лен­ные пери­о­ды жиз­ни инди­ви­да и обще­ства накоп­лен­ные зна­ния, в силу созда­ва­е­мо­го ИИ куму­ля­тив­но­го эффек­та, вре­мен­но при­оста­нав­ли­ва­ют бес­ко­рыст­ный позна­ва­тель­ный интерес. 

Если совре­мен­ный дошколь­ник, как и в нача­ле про­шло­го века, по-преж­не­му зада­ет взрос­лым свои зна­ме­ни­тые «поче­му», то у совре­мен­но­го школь­ни­ка нет ни вре­ме­ни, ни жела­ния на бес­ко­рыст­ное позна­ние, так как все вре­мя ухо­дит на под­го­тов­ку к экза­ме­нам и зуб­реж­ку слож­ных учеб­ни­ков, кото­рые тоже пред­став­ля­ют собой фор­му искус­ствен­но­го интел­лек­та, а совре­мен­ный юно­ша боль­ше дума­ет о том, как выбрать про­фес­сию с хоро­шей зар­пла­той или научить­ся играть на бир­же криптовалют.

Что каса­ет­ся тен­ден­ции исполь­зо­ва­ния ИИ как триг­ге­ра инно­ва­ций, то она более все­го харак­тер­на для воен­ных сфер, решая такие про­бле­мы, как раз­вед­ка, ком­му­ни­ка­ция, наве­де­ние на цель, управ­ле­ние авто­ном­ны­ми сред­ства­ми пора­же­ния, логи­сти­ка, кибер­без­опас­ность и дру­гие. ИИ помо­га­ет быст­ро обра­ба­ты­вать огром­ные базы дан­ных, но чело­век не толь­ко исполь­зу­ет воз­мож­но­сти ИИ, но и непре­рыв­но их совер­шен­ству­ет [29].

«Триг­гер­ные тен­ден­ции» харак­тер­ны и для круп­но­го биз­не­са, кото­рый созда­ет новые про­грам­мы, помо­га­ю­щие ана­ли­зи­ро­вать огром­ные базы дан­ных на бир­жах и про­гно­зи­ро­вать резуль­та­ты инвестиций.

Рас­кры­тие этих осо­бен­но­стей созна­ния чело­ве­ка дела­ет ИИ свое­об­раз­ной «приз­мой позна­ния», сквозь кото­рую мож­но в новом ракур­се уви­деть неко­то­рые фун­да­мен­таль­ные тео­ре­ти­че­ские проблемы.

Искусственный интеллект как «призма познания»

Одной из таких про­блем явля­ет­ся про­бле­ма нали­чия за пре­де­ла­ми наблю­да­е­мой все­лен­ной неко­е­го разум­но­го, то есть обла­да­ю­ще­го субъ­ект­но­стью, нача­ла. Взгля­ды уче­ных на этот пред­мет расходятся. 

Дей­стви­тель­но, во все­лен­ной наря­ду с воз­рас­та­ни­ем энтро­пии идет и обрат­ный про­цесс услож­не­ния мате­ри­аль­ных струк­тур, а любое услож­не­ние пред­по­ла­га­ет какое-то целе­на­прав­лен­ное вло­же­ние энер­гии для пре­одо­ле­ния энтропии. 

Нали­чие неко­то­ро­го разум­но­го пла­на во все­лен­ной так­же под­твер­жда­ет­ся уди­ви­тель­ной согла­со­ван­но­стью фун­да­мен­таль­ных кос­мо­ло­ги­че­ских посто­ян­ных, дела­ю­щей воз­мож­ной жизнь во все­лен­ной, что у неко­то­рых уче­ных порож­да­ет гипо­те­зу о том, что все­лен­ная может нахо­дить­ся под кон­тро­лем неко­е­го разум­но­го нача­ла (силь­ный антроп­ный прин­цип).

Дру­гие уче­ные отри­ца­ют нали­чие разум­но­го нача­ла во все­лен­ной и при­дер­жи­ва­ет­ся сла­бо­го антроп­но­го прин­ци­па, кото­рый интер­пре­ти­ру­ет согла­со­ван­ность фун­да­мен­таль­ных кос­мо­ло­ги­че­ских кон­стант как слу­чай­ное сов­па­де­ние, про­изо­шед­шее в одной из бес­ко­неч­но­го чис­ла все­лен­ных [30]. Но сла­бый антроп­ный прин­цип не объ­яс­ня­ет ни про­цесс анти-энтро­пии в наблю­да­е­мой все­лен­ной, ни воз­ник­но­ве­ние жизни. 

Воз­ни­ка­ю­щие спон­тан­но нерав­но­вес­ные систе­мы типа тор­на­до длят­ся недол­го и рас­па­да­ют­ся, так как не име­ют субъ­ект­но­сти, спо­соб­ной целе­на­прав­лен­но искать источ­ник энергии. 

В отли­чие от спон­тан­ных нерав­но­вес­ных систем дар­ви­нов­ская эво­лю­ция — это слож­ная систе­ма вза­и­мо­дей­ству­ю­щих фак­то­ров, таких как инстинкт само­со­хра­не­ния и про­дол­же­ния рода у живых существ, при­спо­соб­ле­ние к усло­ви­ям сре­ды, спон­тан­ная мута­ция генов, борь­ба за суще­ство­ва­ние, измен­чи­вость усло­вий сре­ды, и вся систе­ма устой­чи­ва и похо­жа на рабо­ту неко­то­ро­го без­лич­ност­но­го интел­лек­та, напо­до­бие инстинк­та у живот­ных.

Инстинк­тив­ное пове­де­ние живот­ных и насе­ко­мых про­из­во­дит впе­чат­ле­ние целе­на­прав­лен­но­го, хотя тако­вым не явля­ет­ся, так как не кон­тро­ли­ру­ет­ся из субъ­ект­но­го цен­тра, спо­соб­но­го вно­сить кор­рек­ции в упо­ря­до­чен­ную цепь собы­тий [31].

При этом, как отме­тил С.Л. Рубин­штейн, без­лич­ност­ный интел­лект не сво­дит­ся толь­ко к инстинк­там и может вклю­чать эле­мен­ты «разум­но­сти» — гиб­кие при­спо­соб­ле­ния к меня­ю­щим­ся и суще­ствен­ным для реше­ния дан­ной зада­чи обсто­я­тель­ствам [32].

Будучи про­дук­том нау­ки, ИИ функ­ци­о­ни­ру­ет похо­жим обра­зом. В извест­ном смыс­ле ИИ мож­но счи­тать искус­ствен­ной симу­ля­ци­ей без­лич­ност­но­го интел­лек­та при­ро­ды, в кото­рой эле­мент «разум­но­сти» дове­ден до высо­кой сте­пе­ни точности. 

Совре­мен­ные ней­ро­се­ти гиб­ко при­спо­саб­ли­ва­ют­ся к широ­ко­му кон­тек­сту, кото­рый реле­ван­тен задан­но­му вопро­су или постав­лен­ной зада­че, вплоть до ими­та­ции слож­ных про­из­ве­де­ний искус­ства, и при этом не обла­да­ют субъ­ект­но­стью. Одна­ко учи­ты­вая, что ИИ создан чело­ве­ком, напра­ши­ва­ет­ся мысль, что и все­лен­ная тоже может иметь сво­е­го разум­но­го создателя.

Отсю­да во вто­рой поло­вине XX века появи­лась идея, что мож­но смо­де­ли­ро­вать все­лен­ную, пре­об­ра­зо­вав каж­дый атом в ряд еди­ниц и нулей. Посколь­ку чело­век явля­ет­ся частью все­лен­ной, каж­дый инди­ви­ду­ум будет частью этой кос­ми­че­ской циф­ро­вой программы. 

Аме­ри­кан­ский физик Фрэнк Типлер писал: «Люди внут­ри этой смо­де­ли­ро­ван­ной все­лен­ной не могут ска­зать, что они все­го лишь смо­де­ли­ро­ва­ны, что они все­го лишь после­до­ва­тель­ность чисел, пере­та­со­вы­ва­е­мых внут­ри ком­пью­те­ра, и на самом деле не явля­ют­ся реаль­ны­ми» [33, с. 35]. 

И дей­стви­тель­но, в ходе после­ду­ю­ще­го раз­ви­тия ИИ появи­лась воз­мож­ность не про­сто копи­ро­вать чело­ве­ка, но син­те­зи­ро­вать его образ, снаб­див этот образ дви­же­ни­ем и голо­сом, ими­ти­ру­ю­щи­ми дви­же­ния и голос реаль­но­го прототипа.

Но, как мы уста­но­ви­ли выше, в созна­нии есть эле­мент, кото­рый наш зем­ной про­грам­мист не может вло­жить в свою копию, — это его живое созна­ние, то есть его субъ­ект­ность. Пер­со­на­жи мульт­филь­мов и ком­пью­тер­ных игр — это мари­о­нет­ки, управ­ля­е­мые про­грам­ми­стом, и не име­ют соб­ствен­ных внут­рен­них Я. 

Важ­но пом­нить, что невоз­мож­ность вло­жить в циф­ро­вой пер­со­наж свою субъ­ект­ность — это не вре­мен­ное, а прин­ци­пи­аль­ное огра­ни­че­ние воз­мож­но­стей ИИ. 

Воз­ни­ка­ет вопрос, отку­да у чело­ве­ка появи­лось живое созна­ние, кото­рое не впи­сы­ва­ет­ся в циф­ро­вую все­лен­ную, но кото­рое по фак­ту у чело­ве­ка есть?

Часто уче­ные пред­ла­га­ют пони­мать живое созна­ние как эмер­джент­ное свой­ство живо­го моз­га. Вспом­ним, что имен­но так интер­пре­ти­ру­ет появ­ле­ние интен­ци­о­наль­но­сти Джон Сёрл. Одна­ко такая интер­пре­та­ция содер­жит скры­тые логи­че­ские противоречия. 

Дело в том, что эмер­джент­ные свой­ства воз­ни­ка­ют цели­ком в рам­ках при­чин­но-след­ствен­но­го кон­ти­ну­у­ма при­ро­ды и, как и их исход­ные ингре­ди­ен­ты, не могут вый­ти за пре­де­лы это­го континуума. 

Напри­мер, водо­род и кис­ло­род — это газы, а при их соеди­не­нии как эмер­джент­ное свой­ство воз­ни­ка­ет жид­кость — вода. Но вода, как и газы, — это при­род­ное явле­ние. Таким же обра­зом воз­ни­ка­ют и дру­гие эмер­джент­ные свойства. 

Но что такое мозг? Мозг — это физи­че­ское явле­ние внеш­не­го мира, пред­став­лен­ное нам в фор­ме струк­тур созна­ния: это то, что мы видим в ана­то­ми­че­ском теат­ре, ощу­ща­ем, когда болит голо­ва или мозг испы­ты­ва­ет трав­му, и о чем у нас име­ют­ся зна­ния, дан­ные нам ней­ро­на­у­кой. Уже сего­дня субъ­ект может видеть свой соб­ствен­ный мозг на экране ком­пью­те­ра и изу­чать его. 

Но мы уста­но­ви­ли, что субъ­ект­ность это про­яв­ле­ние сво­бо­ды, дей­ству­ю­щее вне при­чин­но-след­ствен­но­го кон­ти­ну­у­ма, в то вре­мя как мозг — часть при­чин­но-след­ствен­но­го кон­ти­ну­у­ма, из чего сле­ду­ет, что субъ­ект­ность не может быть эмер­джент­ным свой­ством мозга. 

Посколь­ку мозг как фено­мен и как поня­тие появ­ля­ет­ся в мире толь­ко бла­го­да­ря живо­му созна­нию чело­ве­ка, то есть в виде вос­при­я­тия, ощу­ще­ния и зна­ния о моз­ге, то при­нять, что само живое созна­ние есть про­дукт моз­га, озна­ча­ет при­знать, что мозг бук­валь­но создал само­го себя, что логи­че­ски противоречиво. 

В дей­стви­тель­но­сти наш мозг и источ­ник наше­го живо­го созна­ния гиб­ко свя­за­ны друг с дру­гом, но не при­чин­ной свя­зью, а ассо­ци­а­тив­но по зако­ну маги­че­ской пар­ти­ци­па­ции. Эту связь мож­но про­ил­лю­стри­ро­вать вза­и­мо­дей­стви­ем теле­ви­зи­он­ной про­грам­мы и элек­трон­но­го тела наше­го теле­ви­зо­ра: если в теле наше­го ТВ есть непо­лад­ки, то изоб­ра­же­ние на экране иска­же­но, но непо­лад­ки в теле наше­го ТВ не вли­я­ют на источ­ник само­го изоб­ра­же­ния, так как на исправ­ном теле­ви­зо­ре у сосе­да это изоб­ра­же­ние посту­па­ет без искажений.

Оста­ет­ся пред­по­ло­жить, что живое созна­ние чело­ве­ка, хотя и нуж­да­ет­ся в свя­зи с живым моз­гом для сво­е­го функ­ци­о­ни­ро­ва­ния, не эмер­джент­ный про­дукт моз­га, а ответв­ле­ние како­го-то «все­лен­ско­го разу­ма», источ­ник кото­ро­го нахо­дит­ся за пре­де­ла­ми наблю­да­е­мой физи­че­ской вселенной. 

Для того, что­бы источ­ник создал у нас фено­мен живо­го созна­ния, ему необ­хо­дим наш (пред­по­чти­тель­но здо­ро­вый) мозг. Но гипо­те­ти­че­ский «все­лен­ский разум», кото­рый захо­чет создать симу­ля­цию созна­ния чело­ве­ка и заста­вить его пове­рить, что он не ком­пью­тер­ный пер­со­наж, а обла­да­ет субъ­ект­но­стью, встре­тит­ся с той же про­бле­мой, с кото­рой встре­ча­ет­ся чело­век, созда­ю­щий ИИ. 

Уже при созда­нии живой клет­ки «все­лен­ский разум» встре­тит­ся с труд­но­стью: он может оциф­ро­вать и создать отдель­ные эле­мен­ты клет­ки, кото­рые состо­ят из слож­ных моле­кул, но чув­стви­тель­ность как спо­соб­ность внут­ренне ощу­щать свои состо­я­ния выхо­дит за пре­де­лы при­чин­но-след­ствен­но­го кон­ти­ну­у­ма и не под­ле­жит цифровизации. 

С той же про­бле­мой «все­лен­ский разум» встре­тит­ся при попыт­ке создать живое созна­ние чело­ве­ка: если бы он смог создать живое созна­ние из каких-либо эле­мен­тов, то для него это озна­ча­ло бы создать копию само­го себя как сво­бод­но­го субъ­ек­та, а это, как мы уста­но­ви­ли выше, вво­дит его в логи­че­ский круг.

Но мож­но пред­по­ло­жить, что, в отли­чие от чело­ве­ка, живое созна­ние кото­ро­го невоз­мож­но оциф­ро­вать и пере­дать ИИ, «все­лен­ский разум» может поде­лить­ся частью сво­е­го соб­ствен­но­го живо­го созна­ния с симу­ли­ро­ван­ны­ми им физи­че­ски­ми струк­ту­ра­ми путем сво­е­го рода «теле­па­тии», или, исполь­зуя более нагляд­ный при­мер, так же, как обла­да­тель смарт­фо­на с интер­не­том может поде­лить­ся сво­им вай­фа­ем с дру­гим обла­да­те­лем смартфона. 

На этой идее и осно­ва­на дар­ви­нов­ская тео­рия эво­лю­ции, соглас­но кото­рой Созда­те­лю доста­точ­но было «вдох­нуть» жизнь в живую клет­ку и создать усло­вия для эво­лю­ции, оста­вив на долю эво­лю­ции рабо­ту воз­ник­но­ве­ния созна­ния из эле­мен­тар­ной чув­стви­тель­но­сти [34, с. 360]. 

Так прин­ци­пи­аль­ная невоз­мож­ность чело­ве­ка пере­дать свое живое созна­ние ИИ при помо­щи про­грам­ми­ро­ва­ния при­во­дит к гипо­те­зе о том, источ­ни­ком живо­го созна­ния само­го чело­ве­ка явля­ет­ся некий «все­лен­ский разум», с кото­рым живое созна­ние чело­ве­ка име­ет неви­ди­мую, но непо­сред­ствен­ную связь.

Вто­рой попу­ляр­ной про­бле­мой явля­ет­ся про­бле­ма «узур­па­ции вла­сти» со сто­ро­ны про­дви­ну­то­го ИИ. В све­те того, что ИИ в прин­ци­пе не обла­да­ет субъ­ект­но­стью и соб­ствен­ной энер­ги­ей, а суще­ству­ет на базе вло­жен­ной в него пси­хи­че­ской энер­гии чело­ве­ка, нет необ­хо­ди­мо­сти вкла­ды­вать в него закон, пред­ло­жен­ный Айзе­ком Ази­мо­вым: «Робот не может при­чи­нить вред чело­ве­че­ству или сво­им без­дей­стви­ем допу­стить, что­бы чело­ве­че­ству был при­чи­нён вред» [35]. Но это не зна­чит, что ИИ не может стать опас­ным для людей. 

Водо­род­ная бом­ба, будучи тво­ре­ни­ем чело­ве­че­ско­го интел­лек­та, при неосто­рож­ном обра­ще­нии может уни­что­жить чело­ве­че­ство, и ИИ тоже, но за опас­ны­ми трен­да­ми все­гда будет сто­ять кон­крет­ный чело­век или груп­па людей, сосре­до­то­чив­ших в сво­их руках тех­ни­ку и мощь ИИ.

Нако­нец, еще одной про­бле­мой, в кото­рую интер­пре­та­ция ИИ как приз­мы позна­ния может вне­сти вклад, явля­ет­ся про­бле­ма «циф­ро­ви­за­ции созна­ния» и пере­хо­да созна­ния на базу небио­ло­ги­че­ско­го носи­те­ля. Тот факт, что субъ­ект­ность живо­го созна­ния прин­ци­пи­аль­но нефор­ма­ли­зу­е­ма, а небио­ло­ги­че­ский суб­страт спо­со­бен при­нять толь­ко фор­ма­ли­зо­ван­ную инфор­ма­цию, запре­ща­ет такой переход. 

В этом отно­ше­нии невоз­мож­ность созна­ния перей­ти на небио­ло­ги­че­ский суб­страт выте­ка­ет из свойств само­го созна­ния, хотя фор­маль­но и сов­па­да­ет с анти­ду­а­ли­сти­че­ской аргу­мен­та­ци­ей Сёр­ла.

Заключение

Итак, мы при­хо­дим к выво­ду, что созда­ние и поль­зо­ва­ние ИИ может при­не­сти нам полез­ную инфор­ма­цию о самих себе, а именно:

• выяс­ня­ет­ся, что чело­век обла­да­ет неот­чуж­да­е­мым даром живо­го созна­ния, кото­рое прин­ци­пи­аль­но не может быть объ­ек­ти­ви­ро­ва­но и пере­да­но ИИ;
• ока­зы­ва­ет­ся, что хотя чело­век не в состо­я­нии фор­ма­ли­зо­вать и объ­ек­ти­ви­ро­вать свою субъ­ект­ность, он нахо­дит воз­мож­ным и полез­ным ее деле­ги­ро­вать, то есть создать у себя иллю­зию того, что ИИ обла­да­ет субъ­ект­но­стью. Таким обра­зом, деле­ги­ро­ва­ние субъ­ект­но­сти ИИ под­твер­жда­ет тео­рию об ани­ми­сти­че­ской при­ро­де позна­ния;
• исполь­зо­ва­ние ИИ пока­за­ло, что чело­век инве­сти­ру­ет в ИИ пси­хи­че­скую энер­гию сво­е­го живо­го созна­ния, в резуль­та­те чего ста­но­вит­ся в зави­си­мость от ИИ, кото­рый пара­зи­ти­ру­ет на этой энер­гии;
• совер­шен­ство­ва­ние ИИ демон­стри­ру­ет, что уни­каль­ная осо­бен­ность чело­ве­ка — бес­ко­рыст­ное любо­пыт­ство по отно­ше­нию к миру — может цик­ли­че­ски спа­дать и воз­об­нов­лять­ся в зави­си­мо­сти от уров­ня раз­ви­тия науч­но­го зна­ния и воз­мож­но­стей ИИ;
• созда­ние и исполь­зо­ва­ние ИИ поз­во­ля­ет в новом ракур­се посмот­реть на неко­то­рые фун­да­мен­таль­ные про­бле­мы, такие как нали­чие разум­но­го нача­ла во все­лен­ной, отно­ше­ние созна­ния к моз­гу и пре­дель­ные огра­ни­че­ния воз­мож­но­стей моде­ли­ро­ва­ния созна­ния на внеш­них носи­те­лях.

Срав­ни­вая интел­лек­ту­аль­ные воз­мож­но­сти ИИ с воз­мож­но­стя­ми инди­ви­да, полез­но вспом­нить выска­зы­ва­ние Бле­за Пас­ка­ля о чело­ве­ке: «Чело­век — все­го лишь трост­ник, сла­бей­шее из тво­ре­ний при­ро­ды, но он — трост­ник мыс­ля­щий. Что­бы его уни­что­жить, вовсе не нуж­но, что­бы на него опол­чи­лась вся Все­лен­ная: доволь­но дуно­ве­ния вет­ра, кап­ли воды. Но пусть бы даже его уни­что­жи­ла Все­лен­ная, — чело­век всё рав­но воз­вы­шен­нее сво­ей погу­би­тель­ни­цы, ибо созна­ёт, что рас­ста­ёт­ся с жиз­нью и что он сла­бее Все­лен­ной, а она ниче­го не созна­ёт. Итак, всё наше досто­ин­ство — в спо­соб­но­сти мыс­лить. Толь­ко мысль воз­но­сит нас, отнюдь не про­стран­ство и вре­мя, в кото­рых мы — ничто» [36].

Воз­мож­но, в дале­ком буду­щем ИИ ста­нет очень слож­ным и похо­жим на субъ­ек­та, но думаю, что ему не удаст­ся вырвать­ся из цеп­ких рук кау­заль­ной вселенной. 

Недо­ступ­ность живо­го созна­ния для алго­рит­ми­за­ции накла­ды­ва­ет фун­да­мен­таль­ное огра­ни­че­ние на то, чего мож­но ожи­дать от ИИ. 

В буду­щем уче­ные смо­гут решать очень слож­ные про­бле­мы с помо­щью ИИ, но думать, что ИИ смо­жет раз­вить соб­ствен­ную субъ­ект­ность, озна­ча­ет мол­ча­ли­во при­нять, что ИИ может вый­ти из при­чин­но-след­ствен­но­го кон­ти­ну­у­ма, а при­ня­тие это­го под­ры­ва­ет саму кон­цеп­ту­аль­ную осно­ву нау­ки и логи­ки, на кото­рой и зиждет­ся труд созда­те­лей ИИ.

Воз­вра­ща­ясь к тре­тьей анти­но­мии Кан­та, при­хо­дит­ся при­знать, что сво­бо­да и субъ­ект­ность — это пре­ро­га­ти­ва живо­го созна­ния чело­ве­ка и не может иметь место в мире внеш­не­го объ­ек­ти­ви­ро­ван­но­го созна­ния, а это име­ет в том чис­ле и прак­ти­че­ские послед­ствия для сфер мора­ли и лич­ной ответственности. 

Ины­ми сло­ва­ми, если ИИ оши­бет­ся в сво­их каль­ку­ля­ци­ях, напри­мер, в оцен­ке готов­но­сти како­го-то госу­дар­ства к созда­нию ядер­но­го ору­жия, и в резуль­та­те раз­ра­зит­ся вой­на, то вино­ват будет не искус­ствен­ный интеллект.

В каче­стве уте­ше­ния для адеп­тов потен­ци­аль­но­го все­мо­гу­ще­ства ИИ мож­но при­знать, что хотя ИИ по опре­де­ле­нию сам не может быть субъ­ек­том, он помо­га­ет создав­ше­му его субъ­ек­ту кое-что понять о себе и поэто­му вполне заслу­жи­ва­ет благодарности.

Литература

1. Автор // Сло­ва­ри и энцик­ло­пе­дии на Академике. 
2. Фор­му­ли­ров­ка под­го­тов­ле­на с помо­щью chatgptchatapp, запро­сы «что такое автор», «что такое искус­ствен­ный интел­лект» и «чем созна­ние чело­ве­ка отли­ча­ет­ся от искус­ствен­но­го интеллекта».
3. Ореш­ни­ков И.М., Шке­ри­на Т.И. Фило­соф­ские раз­мыш­ле­ния о про­бле­ме искус­ствен­но­го интел­лек­та // Фило­со­фия обра­зо­ва­ния. 2017. №4. С. 5-11.
4. Дуб­ров­ский Д.И., Ефи­мов А.Р., Леп­ский В.Е., Сла­вин Б.Б. Фетиш искус­ствен­но­го интел­лек­та // Фило­соф­ские нау­ки. 2022. Том 65. №1. С. 44–71. DOI: 10.30727/0235-1188-2022-65-1-44-71
5. Бели­ко­ва Е.К. Основ­ные вопро­сы фило­со­фии искус­ствен­но­го интел­лек­та // Фило­со­фия и куль­ту­ра. 2024. №1. DOI: 10.7256/2454-0757.2024.1.69543
6. Searle J.R. Minds, Brains, and Programs // Кни­ги по биологии. 
7. Ази­мов А. Я, робот. М.: Экс­мо, 2022.
8. Лем С. Голем XIV. М.: АСТ, 2020.
9. Пет­ров­ский В.А., Вайн­берг М.И. Интел­лект есте­ствен­ный, искус­ствен­ный и сверхъ­есте­ствен­ный // Пси­хо­ло­ги­че­ская газе­та. 31.05.2025.
10. Суб­бот­ский Е.В. Нату­раль­ные пси­хи­че­ские функ­ции как источ­ник живо­го созна­ния // Вест­ник Мос­ков­ско­го уни­вер­си­те­та. Серия 14. Пси­хо­ло­гия. 2024. Том 47. №4. С. 87–109. DOI: 10.11621/LPJ-24-41
11. Sipper M. Kinematic Self-Replicating Machines by Robert A. Freitas, Jr., and Ralph C. Merkle // Artificial Life. 2006. Vol. 12(1). Pp. 187–188. DOI: 10.1162/106454606775186473
12. Heath A. Mark Zuckerbergerg’s new goal is creating artificial general intelligence // The Verge. 
13. Тест Тью­рин­га // Википедия. 
14. ИИ ста­но­вит­ся умнее — чат-бот на базе GPT-4 про­шёл тест Тью­рин­га // 3D News. 
15. ChatGPT-4 Passes Turing Test, Demonstrating Human-equivalent Intelligence // RYANS. 
16. Dawkins R. The Selfish Gene. New York: Oxford University Press, 1976.
17. Dawkins R. The Selfish Gene: 30th Anniversary Edition--with a new Introduction by the Author. New York: Oxford University Press, 2006.
18. The Matrix // Wikipedia. 
19. Upgrade_(film) // Wikipedia. 
20. The_Lawnmower_Man_(film) // Wikipedia. 
21. Кант И. Кри­ти­ка чисто­го разу­ма. М.: АСТ, 2018.
22. RNA // Wikipedia. 
23. Ribosome // Wikipedia. 
24. Protein // Wikipedia.
25. Subbotsky E. Children and adults’ reaction to magical and ordinary suggestion: Are suggestibility and magical thinking psychologically close relatives // British Journal of Psychology. 2007. Vol. 98(4). Pp. 547–584. DOI: 10.1348/000712606X166069
26. Sheldrake R. The Presence of the Past: Morphic Resonance and the Memory of Nature: Morphic Resonance and the Habits of Nature. Park Street Pr., 2012.
27. Radin D. The Conscious Universe: The Scientific Truth of Psychic Phenomena. HarperOne, 2009.
28. Deep Blue // Wikipedia.
29. The most useful military applications of AI //Sentient Digital.
30. Ullmann V. Chapter 5. Gravitation and the global structure of the Universe: Relativistic cosmology.
31. Обде­лен­ные при­ро­дой. У людей не нашли ни одно­го инстинк­та // РИА Ново­сти. https://ria.ru/20190517/1553555943.html. Дата обра­ще­ния: 16.06.2025.
32. Рубин­штейн С.Л. Осно­вы общей пси­хо­ло­гии. СПб: Питер, 2000. 712 с.
33. Tipler F.J. The Omega Point as Eschaton: Answers to Pannenberg’s Questions for Scientists // Zygon. 1989. Vol. 24(2). Pp. 217–53. DOI: 10.1111/j.1467-9744.1989.tb01112.x
34. Darwin C. On the Origin of Species. Oxford-New York: Oxford University Press, 2008.
35. Три зако­на робо­тех­ни­ки // Википедия. 
36. Аре­та­но И. Мыс­ля­щий трост­ник // Author.Today.

Об авторе

• Евге­ний Васи­лье­вич Суб­бот­ский — док­тор пси­хо­ло­ги­че­ских наук, про­фес­сор (эме­ри­тус) депар­та­мен­та пси­хо­ло­гии Уни­вер­си­те­та Лан­ка­стер (Вели­ко­бри­та­ния). Член Бри­тан­ско­го Пси­хо­ло­ги­че­ско­го обще­ства. Чар­тер­ный пси­хо­лог. Веду­щий руб­рик «Пси­хо­ло­гия раз­ви­тия» и «Тео­рия и мето­до­ло­гия» жур­на­ла «Куль­тур­но-исто­ри­че­ская психология».

Смот­ри­те также:

• Бели­ко­ва Е.К. Суб­стан­ци­о­наль­ные цен­но­сти в эпо­ху искус­ствен­но­го интеллекта
• Воро­нин А.Н., Палё­но­ва В.В. Буду­щее пси­хо­ло­гии: эффек­тив­ное вза­и­мо­дей­ствие с ChatGPT возможно?
• Уша­ков Д.В., Валу­е­ва Е.А. Вза­и­мо­дей­ствие чело­ве­ка с искус­ствен­ным интеллектом
• Уша­ков Д.В. Искус­ствен­ный интел­лект как инстру­мент пси­хо­ло­ги­че­ско­го исследования