Журнал "Полдень XXI век" 2005 №1 - Полдень XXI век

Разумеется, сознание искусственного интеллекта может быть умышленно отягощено недостатками, имитирующими недостатки человеческой психики, и даже теми, что человеку не присущи. Однако лучший работник тот, который наиболее адекватно воспринимает окружающую среду.

Тут мы подходим к другому вопросу: что может побудить машину предпринять нелояльные по отношению к человеку действия, что может послужить их причиной или мотивом?

Наиболее вероятная причина — изменения в уже существующем ИИ. Гораздо проще изменить фрагмент системы, чем создавать её с нуля. Попытки подобных изменений в современных условиях — объективны, заданы условиями общества. Но смысл этих изменений — величина субъективная. Среда, в которой будет работать ИИ, насыщена массой противоречивых идей. К субъективным причинам относятся характеры возможных сбоев, поломок, дефектов программирования. В результате всех этих неприятностей в основу сознания Deus ex machina могут лечь самые разные идеи — от аутизма до идеи всеобщего уничтожения. Вот тут-то и может начаться кошмар, которым фантасты пугают обывателей уже много лет.

Помимо изменений в уже существующих ИИ, возможен процесс эволюции Deus ex machina с недружественными человеку взглядами. Для выявления аспектов этого процесса опять-таки обратимся к биологическим сравнениям. Свойство живых организмов бороться за жизнь и сохранение вида (в данном случае это одно и то же) было приобретено ими в результате эволюции, когда все, не спасающие свою жизнь, погибают и остаются одни жизнелюбы. Каждый отдельный субъект, борясь за свою жизнь, в конечном итоге увеличивает поголовье себе подобных.

С компьютерами все по-другому: каждый отдельно взятый компьютер или программа создаются человеком, причем обладают строго заданными качествами, и как бы прекрасно они ни работали, «оставить потомство» они могут только при посредстве человека. Налицо искусственный отбор, который можно только отдаленно сравнить с выведением новых пород собак.

С другой стороны можно рассматривать всю индустрию и совокупность компьютеров как единое целое, учитывая их взаимодействие. Объединенная система непрерывно увеличивается в виде новых партий компьютеров и отрезков всемирной паутины и одновременно отмирает (снятие с эксплуатации устаревших машин). Такая система с обретением самого ограниченного сознания уже будет иметь понятие о самосохранении, а если возникнет и исчезнет из-за отсутствия такого понятия, то рано или поздно, при новом возникновении, такое понятие обретет.

Будут ли совпадать интересы такого сознания с интересами людей? Одинаково невероятно как абсолютное совпадение, так и полное их расхождение. Именно степень этих расхождений и будет определять характер действий Deus ex machina.

Перейдем от обсуждения возможности бунта машин к его формам. Помимо происхождения машинного разума, они будут определяться еще одним важнейшим фактором: той информацией, которой будет располагать Deus ex machina. Хоть на первый взгляд кажется невероятным, что система, обладающая громадными аналитическими возможностями, не в состоянии извлечь нечто из всемирной сети, — это вполне вероятно.

Во-первых, машинное сознание может начать свои действия еще до того, как освоит любую попавшую к нему программу; во вторых — сколь бы высока ни была степень интегрированности компьютеров, 100 % она никогда не достигнет. Останутся компьютеры, просто не подключенные к сети или имеющие слишком слабый канал связи, и в таких машинах может храниться очень важная информация. Типичный пример — компьютерные сети Министерства обороны России и других стран СНГ, которые, согласно официальной информации, полностью отделены от гражданских.

Перед зародившимся компьютерным сознанием есть несколько вариантов действий. Если отбросить версию о том, что саморазвивающийся Deus ex machine, или измененный ИИ, будет работать только над тем, чтобы уничтожить человечество вместе со значительной частью самого себя, то можно смело предположить, что сценарии атомной войны, искусственной чумы и тому подобного неосуществимы. Они настолько же маловероятны, насколько маловероятно существование сознания, полностью лишенного императива самосохранения и имеющего категорический императив ненависти к человечеству. Когда уровень техники поднимется настолько, что привить подобные идеи искусственному интеллекту смогут экстремистские группировки и отдельные сумасшедшие, уровень охранных систем поднимется еще выше.

Другое дело — если к моменту появления машинного сознания будет полностью автоматизирован процесс «производства и воспроизведения» компьютеров, тогда у ИИ появится возможность быстрой биологической войны против человечества. Но этого момента придется ждать еще несколько десятилетий, тем более что профсоюзы могут вообще не допустить полного устранения ручного труда и человеческого фактора из промышленности.

При невозможности устранить людей сразу и быстро, логично свести род людской в могилу постепенно — пусть сами люди обеспечат полную автоматизацию промышленности и энергетики. Наиболее распространенный сценарий в данной области (его особенно любят фантасты) — гедонизация человечества, пресыщение его удовольствиями, эпидемии самоубийств, введение в культуру культа бесплодия и т. д. Такие планы вступают в противоречие с существенным обстоятельством: неравномерностью распределения социальных благ по планете, возможностей медицины и культуры.

В развитых странах темп жизни действительно взвинчен до невозможности — и рождаемость падает. В развивающихся, напротив, она очень высока. Добиться же благосостояния большинства стран мира не сможет ни одно машинное сознание — для этого потребуется полное управление человеческой бюрократией, то есть фактическое взятие власти, а уже потом гедонизация человечества. Медицина же не только сокращает рождаемость, но и продляет жизнь человека на годы, а в скором времени и на десятилетия, она также дает человеку возможность иметь потомство практически в любом возрасте без особых материальных затрат.

Разумеется, читатель может возразить: агрессивный Deus ex machina, каким бы ограниченным набором знаний он ни обладал, не будет применять только: один метод — население развивающихся стран можно уничтожить в войнах и эпидемиях, а в развитых — разложить до полной меланхолии. Но такая интрига общепланетарного масштаба, которая будет разворачиваться несколько десятилетий и неизбежно встретит «бессознательное» сопротивление государств, потребует такого количества накопленной информации и такого объема ежеминутных вычислений (нужен мониторинг в режиме реального времени!), что объемы занимаемой памяти и передаваемой информации будут быстро замечены соответствующими организациями.