«Мне хватает своих тараканов»: писатели-фантасты Вадим Панов и Сергей Лукьяненко об ИИ, цифровом бессмертии, чипировании и будущем литературы

Фи­наль­ный день Книж­но­го фе­сти­ва­ля «Крас­ная пло­ща­дь» в па­ви­льоне Со­ю­за пи­са­те­лей Рос­сии на­чал­ся с по­гру­же­ния в весь­ма ин­три­гу­ю­щее бу­ду­щее.

В рам­ках дис­кус­сии «Раз­го­вор фан­та­стов об ИИ и ли­те­ра­ту­ре» со­шлись глав­ные пи­са­те­ли-фан­та­сты стра­ны: со­зда­тель куль­то­вых «До­зо­ро­в» Сер­гей Лу­кья­нен­ко и ав­тор зна­ме­ни­то­го «Тай­но­го го­ро­да» Ва­дим Па­нов. Мо­де­ра­то­ром вы­сту­пил член прав­ле­ния СПР, теле- и ра­дио­ве­ду­щий Вя­че­слав Ко­но­ва­лов, ко­то­рый, как быв­ший ин­же­нер, сра­зу пе­ре­вел раз­го­вор в прак­ти­че­ское рус­ло.

Глав­ным во­про­сом встре­чи ста­ла экс­пан­сия ней­ро­се­тей в твор­че­ство.

Сер­гей Лу­кья­нен­ко по­де­лил­ся недав­ним ку­рьез­ным слу­ча­ем из сво­ей пи­са­тель­ской ма­стер­ской, куда один из участ­ни­ков умуд­рил­ся при­слать текст, пол­но­стью сге­не­ри­ро­ван­ный ИИ. Текст про­шел от­бор, по­то­му что вы­гля­дел бод­ро и гра­мот­но, на­по­ми­ная про­бу пера на­чи­на­ю­ще­го ав­то­ра, но в ито­ге об­ман вскрыл­ся. Пи­са­тель пре­ду­пре­дил, что об­ма­нуть ма­сте­ра не удаст­ся, ведь ней­ро­сеть про­сто от­ни­ма­ет ме­сто у жи­во­го, та­лант­ли­во­го че­ло­ве­ка, ко­то­рый пи­шет сам.

«Об­ма­нуть ма­сте­ра не удаст­ся, ведь ней­ро­сеть луч­ше пи­сать не ста­нет, — пре­ду­пре­дил пи­са­тель. — А тот, кто жуль­ни­ча­ет, про­сто от­ни­ма­ет ме­сто у жи­во­го, та­лант­ли­во­го че­ло­ве­ка».

Рас­суж­дая о при­ро­де ИИ, Лу­кья­нен­ко вы­вел хлёст­кую фор­му­лу: «Ней­ро­сеть оши­ба­ет­ся уве­рен­ным то­ном. Она спо­соб­на вы­дать сба­лан­си­ро­ван­ную, глад­кую кри­ти­ку, но ни­ко­гда не даст ав­то­ру ис­крен­ней, нерав­но­душ­ной че­ло­ве­че­ской оцен­ки, по­сколь­ку за её сло­ва­ми нет лич­но­го опы­та, боли и ду­ши».

Ва­дим Па­нов по­до­шел к циф­ро­вым угро­зам еще бо­лее ка­те­го­рич­но, при­знав­шись, что сам прин­ци­пи­аль­но не ис­поль­зу­ет ис­кус­ствен­ный ра­зум в ра­бо­те.

«Мне хва­та­ет сво­их та­ра­ка­нов, дру­гие мне про­сто не нуж­ны», — с улыб­кой от­ре­зал пи­са­тель. Раз­мыш­ляя о при­ро­де ИИ, он до­ба­вил: «Ней­ро­сеть — как ло­па­та: ею мож­но ко­пать зем­лю, а мож­но по­лу­чить по го­ло­ве. Всё за­ви­сит ис­клю­чи­тель­но от того, в чьих ру­ках ока­зы­ва­ет­ся ин­стру­мен­т».

По мне­нию фан­та­стов, глав­ная опас­ность сле­по­го до­ве­рия ал­го­рит­мам за­клю­ча­ет­ся в де­гра­да­ции че­ло­ве­че­ско­го мыш­ле­ния. Как в ста­рой песне, где вка­лы­ва­ют ро­бо­ты, а счаст­лив че­ло­век, на Крас­ной пло­ща­ди про­зву­ча­ло глав­ное предо­сте­ре­же­ние: важ­но, что­бы со­зда­тель и ма­ши­на в ито­ге не по­ме­ня­лись ме­ста­ми.

Па­нов на­пом­нил, что че­ло­ве­че­ский мозг, спо­соб­ный на ге­ни­аль­ные про­зре­ния, ра­бо­та­ет на энер­гии, со­по­ста­ви­мой все­го лишь с 15-ватт­ной лам­поч­кой об­хо­дя элек­трон­ные си­сте­мы по энер­го­ем­ко­сти в мил­ли­о­ны раз.

«Ней­ро­се­тям же для вы­хо­да на ис­тин­ный сверх­ин­тел­лект по­тре­бу­ет­ся ко­лос­саль­ное ко­ли­че­ство ре­сур­сов, со­по­ста­ви­мое с тре­тью энер­го­по­треб­ле­ния всей пла­не­ты, для чего при­дет­ся по­стро­ить де­сят­ки атом­ных ре­ак­то­ро­в».

Раз­го­вор неиз­беж­но за­тро­нул тему чи­пи­ро­ва­ния и ин­тер­фей­сов, ко­то­рые уже се­год­ня те­сти­ру­ет Илон Маск. По мне­нию фан­та­стов, все эти тех­но­ло­гии за­пус­ка­ют­ся не ради спа­се­ния че­ло­ве­ка, а ради идей транс­гу­ма­низ­ма и ил­лю­зии «циф­ро­во­го бес­смер­ти­я», до­ступ­но­го лишь из­бран­ным.

«Я очень на­де­юсь, что вся эта си­сте­ма рух­нет еще в про­цес­се», — иро­нич­но за­ме­тил Лу­кья­нен­ко, под­черк­нув, что если смарт­фон еще мож­но вы­та­щить из кар­ма­на и за­быть дома, то вжив­лен­ный чип бу­дет кон­тро­ли­ро­вать со­зна­ние круг­ло­су­точ­но. Са­мое страш­ное нач­нет­ся то­гда, ко­гда че­ло­ве­че­ский мозг ста­нет вос­при­ни­мать ко­ман­ды извне как свои соб­ствен­ные мыс­ли.

За­вер­шая встре­чу, фан­та­сты при­зва­ли чи­та­те­лей не пре­кра­щать раз­ви­вать соб­ствен­ное се­рое ве­ще­ство. Ма­ши­на хоть и спо­соб­на се­год­ня до­ка­зы­вать слож­ней­шие ма­те­ма­ти­че­ские тео­ре­мы и по­мо­гать в быту, но она не уме­ет пло­дить ори­ги­наль­ные идеи и со­пе­ре­жи­вать, а зна­чит, жи­вое че­ло­ве­че­ское сло­во все­гда оста­нет­ся непо­беж­ден­ным.