Двуликий электронный Янус - Евгений Ищенко

Ведь это факт, что человечество ведет себя по отношению к компютерам беспечно. Оно само дает «думающим машинам» полнейшую информацию о себе. Роботы помогают хирургам делать операции, они вытесняют рабочих с производства, помогают чиновникам и банкирам. В 80-е годы ХХ века перед крупными промышленными и финансовыми корпорациями встал вопрос о срочном техническом переоснащении – засилье компьютеров и роботов у конкурентов вело «традиционных» бизнесменов к краху. В итоге самую сложную работу (от ремонта ядерных объектов до биржевых сделок) начали передоверять машинам. Хорошо еще, что человек оставлял за собой право ответственного решения.

Кевин – человек подозрительный. Он скоро понял, что бегающие, ползающие в его лаборатории «милые» роботы начали жить своей жизнью. Он «застукал» одного из своих любимцев за тем, что тот, не получив на это разрешения или стартовой программы, залез в Интернет, нашел там нью-йоркского робота (по выражению профессора, «слонявшегося в тот день без дела») и самостоятельно передал ему информацию о том, как можно двигаться по комнате, не натыкаясь на вещи. Английский робот сам обучился не натыкаться на что попало и обучил этому своего американского собрата. Многие, узнав об этом, возликовали, Уорвик – нет. Ведь его «милашки» начали обладать зачатками индивидуальности: в процессе самообучения кто-то был сомневающимся в себе, кто-то чересчур храбрым…

При этом некоторые роботы имели интеллект всего в 50 мозговых клеток (уровень улитки). У персонального компьютера он равен 10 тысячам мозговых клеток (уровень пчелы). У человека объем мозга составляет сто миллиардов клеток. Лет через десять компьютер догонит человека, а через двадцать оставит далеко позади. Теперь представьте себе, что умная машина, осознающая свое превосходство над человеком, послала программу в Интернет. Вы усомнитесь: разве у машины может быть сознание? Вспомните афоризм древних: «Я мыслю, значит, существую». Вот и ответ на ваш вопрос.

Профессор написал книгу «Нашествие роботов», которая быстро стала бестселлером. Осенью 1999 года Уорвик приезжал в Россию: представить русский вариант книги и познакомить общественность со своими детками. Последнее детище кибернетика – кошка Сид – настораживает. Она ходит, сидит, виляет мягким местом – все по команде «папы», но ее интеллект уже намного выше, чем у предыдущих созданий Кевина. Создавая роботов, он уверен: исключить опасность их бунта можно двумя способами. Во-первых, необходимо принять международный пакт об ограничении интеллекта машин, а во-вторых, человек одолеет робота, став киборгом, иными словами, улучшив свой интеллект с помощью компьютера. Но это – при благоприятном развитии ситуации.

Разумная «форма жизни», превосходящая людей, может захватить нашу планету к концу следующего столетия. Выступая в 1995 году на собрании британской научной ассоциации, Кевин Уорвик заявил, что эта «форма» может быть и не похожа на Терминатора, но способна обладать таким же инстинктом убивать и стремлением заменить своих хозяев-людей.

Развитие машинного интеллекта достигло такого уровня, что компьютер, владеющий некоторыми мыслительными способностями человека, может быть создан уже в ближайшие 50 лет. После этого машины обретут способность создавать копии себе подобных, как и живые организмы, а затем их интеллект превзойдет человеческий.

По мнению профессора, тогда на Земле разовьется новая форма жизни. Если машины станут столь же разумными, как и мы, люди, то, используя свои преимущества, они вскоре превзойдут людей. Если не будут предприняты меры, то человечество останется позади. В худшем случае «машины захватят нас», и тогда закономерен вопрос, как они будут относиться к менее разумной форме жизни, т. е. к людям. «Как мы относимся к животным, которые менее разумны, чем мы? Мы не можем полагаться на то, что разумные роботы будут обращаться с нами доброжелательно и благородно, поскольку мы сами не обращаемся так с низшими формами жизни», – утверждает он.

Рано или поздно количество перейдет в качество, и компьютерная техника приобретет свойства, присмотревшись к которым, мы, оставаясь честными, не сможем не назвать их разумом. И тогда наступит момент, когда все неинтересное перепоручат машинам. (Как жить дальше? Чем заняться той обезьяне, которая сидит внутри каждого из нас, если у нее нет никаких забот?) Об этом почти никто не задумывается.

Уже во многих сферах жизни компьютеры превосходят людей, например ЭВМ обыграла лучшего в мире шахматиста. «Мы должны учитывать подобный вариант развития. Если даже не сбудется мой мрачный прогноз, все равно случится нечто весьма близкое к нему», – считает Уорвик, ибо «ни одна математическая или научная теория не может пока опровергнуть то, что люди сами создадут форму жизни, превосходящую их по разуму. Уже сейчас необходимо готовиться к грядущему, в котором будет существовать более разумная форма жизни, чем гомо сапиенс». А может зря профессор паникует, видит все в черном свете? Ох, похоже не зря.

Не только помощники, но и…

Не могу не отметить, что Международная организация труда еще в 1990 году сформулировала семь правил робототехники:

1. Роботы должны конструироваться и использоваться только с целью повышения благосостояния человека.

2. Роботы должны заменять людей лишь на тех работах, которые опасны или почему-либо нежелательны для человека.

3. Робот должен полностью повиноваться человеку, чтобы не подавлять его физически или психологически.

4. Робот не должен вредить человеку, в опасной ситуации он может причинить травму лишь себе.

5. Если роботы заменяют людей на рабочем месте, это должно делаться только с согласия заменяемых.

6. Управление роботом должно быть простым, чтобы его легко было использовать как помощника человека.

7. Выполнив свою задачу, робот должен уходить, чтобы не мешать другим работающим – людям или роботам.

Хорошие правила, ничего не скажешь. Но вот выполняются ли они?..

Хотя роботы все чаще заменяют человека на вредных производствах, но, как выяснилось, они сами создают новые опасности. Наиболее распространенные несчастные случаи, связанные с роботами, – это травмы или даже гибель человека, случайно подвернувшегося под механическую руку, когда робот совершает ею неожиданное быстрое движение. Бывает, что робот прижимает человека к стене, перемещаясь или поворачивая свой корпус. Наносятся травмы и тяжелыми деталями или заготовками, которые иногда вдруг выскальзывают из зажима манипулятора.

Конечно, во всех системах роботов предусматривается та или иная блокировка, задача которой – сделать невозможным пребывание человека в рабочей зоне автомата или исключить возможность движений робота, когда поблизости находится человек. Тем не менее несчастные случаи время от времени все же происходят. Их причины – ошибки в программировании, радиопомехи или наводки по электросети, к которым бывают чувствительны управляющие устройства роботов, наконец, неисправности в системе управления и просто неосторожность рабочих, плохо усвоивших технику безопасности.

Наводит на размышления и ситуация, сложившаяся через несколько недель после открытия выставки «Экспо-85» в японском городе Цукуба близ Токио. Многие из демонстрируемых там суперсовременных роботов стали проявлять… симптомы «заболевания». Специалист по электронике профессор Масахиро Мори охарактеризовал это явление как «перенапряжение» и «утомление». Роботы перестали правильно реагировать на команды, издавали неожиданные звуки. По мнению Мори, главной причиной такого расстройства электронных систем послужили микроскопические частицы пыли, забившиеся в сенсорные устройства. Чепуха вроде бы – пыль, а последствия…

Джеймс Зейглер, специалист из Нью-Йоркского центра исследований компании IBM, был заинтригован целой серией необъяснимых неполадок в компьютерной сети, о которых ему докладывали подчиненные. Объяснение им было найдено осенью 1996 года. Сбои в работе компьютеров, утверждает Зейглер, происходят в результате воздействия некоего космического излучения. Может быть, это лучи солнечного происхождения, а может – сверхбыстрые субатомные частицы, возникающие в результате взрывов сверхновых звезд. Нередко приходится иметь дело с нейтронами, которые стирают участок памяти микропроцессора, попадая на него. Иногда это пи-мезоны, очень тяжелые частицы с отрицательным зарядом, которые производят в микропроцессоре маленький взрыв с разрушением атомов.

Неполадки чаще возникают в местах, расположенных высоко над уровнем моря (там больше шансов, что космические лучи не рассеются в атмосфере). Было подсчитано, что в Денвере таких поломок происходит в 338 раз больше, чем в Нью-Йорке. Географическая широта тоже играет роль: чем ближе к экватору, тем космическое воздействие меньше. А как эти вездесущие частицы действуют на электронные мозги роботов? Едва ли благотворно!