«Мне хватает своих тараканов»: писатели-фантасты Вадим Панов и Сергей Лукьяненко об ИИ, цифровом бессмертии, чипировании и будущем литературы

Фи­нальный день Книж­но­го фе­сти­ва­ля «Красная площадь» в па­ви­льоне Союза пи­са­те­лей Рос­сии на­чал­ся с по­гру­же­ния в весьма ин­три­гу­ющее бу­ду­щее.

В рам­ках дис­кус­сии «Разговор фантастов об ИИ и литературе» со­шлись глав­ные пи­са­те­ли-фан­та­сты стра­ны: со­зда­тель культо­вых «Дозоров» Сер­гей Лу­кья­нен­ко и автор зна­ме­ни­то­го «Тайного города» Вадим Панов. Мо­де­ра­то­ром вы­сту­пил член прав­ле­ния СПР, теле- и ра­дио­ве­ду­щий Вя­че­слав Ко­но­ва­лов, ко­то­рый, как быв­ший ин­же­нер, сразу пе­ре­вел раз­го­вор в прак­ти­че­ское русло.

Глав­ным во­про­сом встре­чи стала экс­пан­сия нейро­се­тей в твор­че­ство.

Сер­гей Лу­кья­нен­ко по­де­лил­ся недав­ним ку­рьез­ным слу­ча­ем из своей пи­са­тельской ма­стер­ской, куда один из участ­ни­ков умуд­рил­ся при­слать текст, пол­но­стью сге­не­ри­ро­ван­ный ИИ. Текст про­шел отбор, по­то­му что вы­гля­дел бодро и гра­мот­но, на­по­ми­ная пробу пера на­чи­на­юще­го ав­то­ра, но в итоге обман вскрыл­ся. Пи­са­тель пре­ду­пре­дил, что об­ма­нуть ма­сте­ра не удаст­ся, ведь нейро­сеть про­сто от­ни­ма­ет место у жи­во­го, та­лант­ли­во­го че­ло­ве­ка, ко­то­рый пишет сам.

«Обмануть мастера не удастся, ведь нейросеть лучше писать не станет, — предупредил писатель. — А тот, кто жульничает, просто отнимает место у живого, талантливого человека».

Рас­суж­дая о при­ро­де ИИ, Лу­кья­нен­ко вывел хлёст­кую фор­му­лу: «Нейросеть ошибается уверенным тоном. Она способна выдать сбалансированную, гладкую критику, но никогда не даст автору искренней, неравнодушной человеческой оценки, поскольку за её словами нет личного опыта, боли и души».

Вадим Панов по­до­шел к циф­ро­вым угро­зам еще более ка­те­го­рич­но, при­знав­шись, что сам прин­ци­пи­ально не ис­пользу­ет ис­кус­ствен­ный разум в ра­бо­те.

«Мне хватает своих тараканов, другие мне просто не нужны», — с улыб­кой от­ре­зал пи­са­тель. Раз­мыш­ляя о при­ро­де ИИ, он до­ба­вил: «Нейросеть — как лопата: ею можно копать землю, а можно получить по голове. Всё зависит исключительно от того, в чьих руках оказывается инструмент».

По мне­нию фан­та­стов, глав­ная опас­ность сле­по­го до­ве­рия ал­го­рит­мам за­клю­ча­ет­ся в де­гра­да­ции че­ло­ве­че­ско­го мыш­ле­ния. Как в ста­рой песне, где вка­лы­ва­ют ро­бо­ты, а счаст­лив че­ло­век, на Крас­ной пло­ща­ди про­зву­ча­ло глав­ное предо­сте­ре­же­ние: важно, чтобы со­зда­тель и ма­ши­на в итоге не по­ме­ня­лись ме­ста­ми.

Панов на­пом­нил, что че­ло­ве­че­ский мозг, спо­соб­ный на ге­ни­альные про­зре­ния, ра­бо­та­ет на энер­гии, со­по­ста­ви­мой всего лишь с 15-ватт­ной лам­поч­кой об­хо­дя элек­трон­ные си­сте­мы по энер­го­ем­ко­сти в мил­ли­оны раз.

«Нейросетям же для выхода на истинный сверхинтеллект потребуется колоссальное количество ресурсов, сопоставимое с третью энергопотребления всей планеты, для чего придется построить десятки атомных реакторов».

Раз­го­вор неиз­беж­но за­тро­нул тему чи­пи­ро­ва­ния и ин­тер­фейсов, ко­то­рые уже се­год­ня те­сти­ру­ет Илон Маск. По мне­нию фан­та­стов, все эти тех­но­ло­гии за­пус­ка­ют­ся не ради спа­се­ния че­ло­ве­ка, а ради идей транс­гу­ма­низ­ма и ил­лю­зии «цифрового бессмертия», до­ступ­но­го лишь из­бран­ным.

«Я очень надеюсь, что вся эта система рухнет еще в процессе», — иро­нич­но за­ме­тил Лу­кья­нен­ко, под­черк­нув, что если смарт­фон еще можно вы­та­щить из кар­ма­на и за­быть дома, то вжив­лен­ный чип будет кон­тро­ли­ро­вать со­зна­ние круг­ло­су­точ­но. Самое страш­ное нач­нет­ся тогда, когда че­ло­ве­че­ский мозг ста­нет вос­при­ни­мать ко­ман­ды извне как свои соб­ствен­ные мысли.

За­вер­шая встре­чу, фан­та­сты при­зва­ли чи­та­те­лей не пре­кра­щать раз­ви­вать соб­ствен­ное серое ве­ще­ство. Ма­ши­на хоть и спо­соб­на се­год­ня до­ка­зы­вать слож­нейшие ма­те­ма­ти­че­ские тео­ре­мы и по­мо­гать в быту, но она не умеет пло­дить ори­ги­нальные идеи и со­пе­ре­жи­вать, а зна­чит, живое че­ло­ве­че­ское слово все­гда оста­нет­ся непо­беж­ден­ным.