Власть роботов. Как подготовиться к неизбежному - Мартин Форд

интеллекта в последнее десятилетие был огромным и беспрецедентным, он обусловливался главным образом использованием все более значительных массивов данных для обучения нейронных алгоритмов, поддерживаемых все более быстрой компьютерной техникой. Эксперты в области ИИ приходят к пониманию, что этот подход не обеспечивает устойчивого развития и технологию необходимо подпитывать совершенно новыми идеями, если мы хотим продолжить поступательное движение. Прежде чем обратиться к возможному будущему ИИ, давайте познакомимся с тем, как все начиналось, бросим взгляд на пройденный к настоящему моменту путь и узнаем, как работают системы глубокого обучения, обеспечившие революционный прогресс. Мы увидим, что с самого начала исследования в области искусственного интеллекта характеризовались конкуренцией двух совершенно разных подходов к созданию умных машин. Противоречия между этими двумя школами мысли снова выходят на передний план и, по всей видимости, будут определять направление развития ИИ в последующие годы и десятилетия.

Могут ли машины мыслить?

Машины, способные мыслить и поступать как люди, существовали в нашем воображении задолго до изобретения первых электронных компьютеров. В 1863 году английский писатель Сэмюэл Батлер написал письмо редактору газеты из новозеландского Крайстчерча. В этом письме, озаглавленном «Дарвин среди машин», высказывалась идея «живого механизма», который когда-нибудь сумеет так развиться, что сравняется с людьми, а может, даже превзойдет их. Батлер призывал к немедленной войне против нового вида механических существ и заявлял, что «машины подобного рода должны быть уничтожены»[120]. Этот страх кажется несколько преждевременным с учетом состояния информационной технологии в 1863 году, но нарисованная Батлером картина повторяется с тех пор снова и снова, взять хотя бы фильмы «Терминатор» и «Матрица». Страхи Батлера разделяют не только авторы научной фантастики. Недавние достижения в создании ИИ заставили таких видных деятелей, как Илон Маск и покойный Стивен Хокинг, выступить с предостережением в отношении развития сценариев, поразительно близких тому, что пугал Батлера более 150 лет назад.

В вопросе о том, когда создание искусственного интеллекта стало областью серьезных исследований, мнения расходятся. Я бы отнес ее возникновение к 1950 году. В том году блестящий математик Алан Тьюринг опубликовал научную статью «Вычислительные машины и разум», где задавал вопрос: «Могут ли машины мыслить?»[121]. В этой статье Тьюринг предложил тест на основе популярной игры, который до сих пор является эталоном для определения, может ли некая машина считаться в полной мере интеллектуальной. Тьюринг, родившийся в Лондоне в 1912 году, проделал эпохальную работу в области теории вычислений и природы алгоритмов, и его принято считать отцом-основателем компьютерной науки. В 1936 году, всего через два года после окончания Кембриджа, он сформулировал математические принципы того, что сейчас называют универсальной машиной Тьюринга, в сущности — концептуальный план любого компьютера, когда-либо созданного в реальном мире. В самом начале компьютерной эры Тьюринг ясно понимал, что машинный интеллект — это логичное и, возможно, неизбежное продолжение электронных вычислений.

Словосочетание «искусственный интеллект» придумал Джон Маккарти, в то время молодой преподаватель математики Дартмутского колледжа. Летом 1956 года Маккарти участвовал в организации Дартмутского летнего исследовательского проекта по изучению искусственного интеллекта в кампусе колледжа в Нью-Гемпшире. Это была двухмесячная конференция, куда пригласили светил новой области исследований. Участники проекта ставили перед собой смелые и оптимистичные цели. В плане конференции говорилось, что «будет предпринята попытка определить, как научить машины владеть языком, формировать абстрактные понятия и концепции, решать задачи того типа, которые в настоящее время считаются сугубо человеческими, а также совершенствоваться», и выражалась уверенность организаторов «в достижении существенного прогресса в решении одной или нескольких этих задач, если тщательно подобранная группа ученых будет совместно работать над ними в течение лета»[122]. Среди участников были Марвин Мински, наряду с Маккарти ставший одним из самых известных в мире исследователей ИИ и основателем Лаборатории искусственного интеллекта МТИ, и Клод Шеннон, легендарный инженер-электрик, сформулировавший принципы теории информации, легшие в основу электронной коммуникации и обусловившие возможность появления интернета.

Примечательно, однако, что величайший ум не принимал участия в Дартмутской конференции. Алан Тьюринг совершил самоубийство двумя годами раньше. Осужденный за однополые отношения согласно законам о «непристойном поведении», действовавшим тогда в Великобритании, Тьюринг был поставлен перед выбором между тюремным заключением и химической кастрацией путем принудительного введения эстрогена. Он выбрал второе и, находясь в депрессии, покончил с собой в 1954 году. Это стало невосполнимой утратой для зарождающейся области компьютерных наук и искусственного интеллекта. На момент смерти Тьюрингу был всего 41 год. В более справедливом мире он почти наверняка дожил бы до появления персонального компьютера и, вполне вероятно, интернета и многих других инноваций. Невозможно сказать, какой вклад Тьюринг внес бы в последующие десятилетия или насколько более развитым мог бы сегодня быть ИИ, но его уход стал колоссальной интеллектуальной потерей для этого направления исследований и для всего человечества.

Область искусственного интеллекта стремительно развивалась после Дартмутской конференции. Компьютеры становились более мощными, совершались важные открытия, разрабатывались алгоритмы, способные решать все более широкий круг задач. Искусственный интеллект как научное направление занял прочное место в американских университетах, и был создан ряд лабораторий по исследованию ИИ.

Одним из самых важных факторов, обусловивших возможность этого прогресса, стали огромные инвестиции правительства США, особенно Пентагона. Значительная часть этих средств поступала через Управление перспективных исследовательских проектов (Advanced Research Projects Agency, ARPA). Особенно важным центром финансируемых ARPA исследований был Стэнфордский исследовательский институт (SRI), впоследствии обособившийся от Стэнфордского университета и получивший название SRI International. Центр изучения искусственного интеллекта SRI, основанный в 1966 году, внес эпохальный вклад в такие области, как языковой перевод и распознавание речи. Там был также создан первый по-настоящему автономный робот — машина, способная транслировать мышление на основе ИИ в физическое взаимодействие с окружением. Почти через полвека после своего основания Центр изучения искусственного интеллекта SRI создал дочернюю компанию-стартап по разработке нового персонального помощника Siri, которая была куплена Apple в 2010 году.

Однако вскоре прогресс привел к чрезмерной эйфории, преувеличенным обещаниям и нереалистичным ожиданиям. В 1970 году Life опубликовал статью о роботе, созданном в SRI, где назвал его первым в мире электронным существом. Марвин Мински, в то время звезда исследований ИИ в МТИ, со «спокойной уверенностью» заявил автору статьи Брэду Дарраху:

В течение трех — восьми лет мы получим машину, обладающую универсальным интеллектом среднего человека. Я имею в виду машину, способную читать Шекспира, менять масло в автомобиле, заниматься офисными интригами, шутить, ссориться. К тому моменту машина начнет сама себя обучать с фантастической скоростью. Через несколько месяцев она достигнет уровня гения, а еще через несколько месяцев после этого ее возможности будут безграничными[123].

Даррах