Лучшая зарубежная научная фантастика - Стивен Бакстер

— Приятно, что вы настолько уверены в моих способностях, — сказала она. — Однако нам необходимо кое-что прояснить. Этот ваш прототип изумителен, и если вам когда-нибудь удастся снизить себестоимость его производства, то не сомневаюсь, что он найдет какие-нибудь необыкновенные области применения. Такой процессор будет незаменим для предсказания климата, в квантовой хромодинамике, астрофизическом моделировании, протеомике…

— Конечно. — Реально Дэниел не намеревался выпускать свое изделие на рынок. Он за собственные средства купил у изобретателя технологию его изготовления, поэтому ни другие акционеры, ни директора не могли ему указывать, как именно использовать эту технологию.

— Но искин — это совсем другое, — продолжила Джули. — Мы в лабиринте, а не на шоссе, и одной лишь скорости для успеха недостаточно. Сколько бы экзафлопов скорости ни было в моем распоряжении, они никогда спонтанно не разовьются в сознание. И вовсе не университетские компьютеры меня сдерживают — у меня в любое время есть доступ к сети совместных вычислительных ресурсов. Меня сдерживает собственное недостаточное проникновение в суть проблем, которыми я занимаюсь.

— Лабиринт — не тупик, — заметил Дэниел. — Когда мне было двенадцать лет, я написал программу для поиска выхода из лабиринтов.

— И не сомневаюсь, что она хорошо работала — для небольших лабиринтов на плоскости. Но вы и сами знаете недостатки алгоритмов таких программ. Запустите вашу старую программу работать в этом суперпроцессоре, и я все равно за полдня придумаю лабиринт, который поставит ее на колени.

— Конечно, — согласился Дэниел. — Именно поэтому я так и заинтересован вас нанять. О лабиринте искусственного интеллекта вы знаете намного больше меня, и любая разработанная вами стратегия будет неизмеримо превосходить слепой перебор вариантов.

— Я не говорила, что бреду на ощупь в темноте, — возразила она. — Если бы дело обстояло настолько плохо, я занималась бы совершенно другой проблемой. Однако я не вижу, какую принципиальную разницу может создать этот процессор.

— Что создало единственный известный нам пример разума? — спросил Дэниел.

— Эволюция.

— Совершенно верно. Но я не хочу ждать три миллиарда лет. Поэтому мне нужно сделать процесс отбора намного более совершенным, а источники вариаций — более целевыми.

Джули обдумала его слова.

— Вы хотите попытаться методом эволюции создать настоящий искин? Разумный, человеческого уровня искусственный интеллект?

— Да.

Дэниел увидел, как напряглись ее губы, как тщательно она подбирает слова, прежде чем ответить.

— При всем моем уважении, — сказала она в конце концов, — я не считаю, что вы тщательно все обдумали.

— Как раз наоборот, — заверил Дэниел. — Я планировал это двадцать лет.

— Эволюция — это история и неудач, и смертей. Вы хотя бы представляете, сколько разумных существ жило и умерло на пути к Homo Sapiens? И сколько страданий было на этом пути?

— Частью вашей работы будет свести эти страдания к минимуму.

— К минимуму? — Похоже, его слова ее искренне потрясли, словно его предложение было еще хуже небрежного предположения о том, что процесс не затронет этические проблемы. — Да какое у вас есть право вообще их причинять?

— Вы ведь благодарны тому, что существуете, разве не так? Независимо от страданий ваших предков.

— Да, благодарна, — признала она, — но в человеческом случае эти страдания не были сознательно кем-либо навязаны, а любого альтернативного пути, ведущего к появлению человека, не имелось. И если бы справедливый творец действительно существовал, то я не сомневаюсь, что он буквально действовал бы так, как описано в книге Бытия, и совершенно точно не использовал бы эволюцию.

— Справедливый и всемогущий, — уточнил Дэниел. — Жаль, что второе качество еще реже первого.

— А по-моему, для создания чего-либо по образу и подобию своему всемогущество не требуется. Лишь чуть больше терпения и самопознания.

— Но мой метод не будет подобен естественному отбору. Не такой слепой, не такой жестокий, не такой расточительный. И вы будете вольны вмешиваться в него, когда пожелаете — чтобы ввести те смягчающие меры, которые сочтете подходящими.

— Смягчающие меры? — Джули встретила его взгляд, и он увидел, как неверие в ее глазах мгновенно сменилось чем-то более мрачным. Она встала и взглянула на телефон у себя на запястье. — У меня здесь не ловится сигнал. Вы не могли бы вызвать мне такси?

— Пожалуйста, выслушайте меня. Дайте мне еще десять минут, а потом вертолет доставит вас в аэропорт.

— Я предпочла бы добраться домой самостоятельно. — Она бросила на Дэниела взгляд, ясно показывающий, что ее решение окончательное.

Он вызвал ей такси и проводил к лифту.

— Я знаю, что вы сочли это морально вызывающим, и я уважаю ваше мнение, — сказал он. — Я и не мечтал нанять того, кто считает подобные темы мелкими и тривиальными. Но если я этого не сделаю, то сделает кто-то другой. Тот, чьи намерения намного хуже моих.

— В самом деле? — Теперь в ее тоне прозвучал неприкрытый сарказм. — А как именно само существование вашего проекта помешает этому гипотетическому бин Ладену от ИИ осуществить свой?

Дэниел был разочарован — он ожидал, что она хотя бы поймет, что стоит на кону.

— Это гонка, в которой предстоит сделать выбор между богоравностью и порабощением, — сказал он. — Того, кто добьется успеха первым, остановить будет невозможно. А я не собираюсь быть чьим-то рабом.

Джули вошла в лифт. Он вошел следом.

— Знаете, как звучит современная версия «пари Паскаля»?[58] Подлизывайся к как можно большему числу трансгуманистов — а вдруг кто-нибудь из них превратится в бога? Наверное, вам подошел бы такой девиз: «Будь добр к каждому говорящему роботу, он может оказаться дядюшкой божества».

— Мы будем добры, насколько это возможно, — сказал Дэниел. — И не забывайте, что мы сможем выбрать природу этих существ. Они будут счастливы тому, что существуют, и благодарны своему создателю. Мы можем делать отбор по этим признакам.

— Значит, вы намерены создать недочеловеков, которые станут махать хвостами, когда вы почешете их между ушей? Вы можете обнаружить, что получите от этого что-то в обмен.

Лифт прибыл в вестибюль.

— Подумайте о моем предложении, не принимайте решение сгоряча, — попросил Дэниел. — Может звонить мне в любое время.

Сегодня вечером коммерческого рейса в Торонто не было, она застрянет в гостинице, тратя на это деньги, которые у нее далеко не лишние, и думая о зарплате, которую сможет потребовать от него теперь, после столь тяжелого торга. Если она переосмыслит все это твердолобое морализаторство, взглянув на него как на осознанную стратегию переговоров, то без труда проглотит свою гордость.