Восстание машин отменяется! Мифы о роботизации - Дэвид Минделл

Так или иначе, но границы между пилотируемыми, дистанционно управляемыми и автономными подводными аппаратами начинают размываться. Инженеры сейчас грезят об исследованиях океана при помощи многочисленных аппаратов, работающих согласованно. Внутри некоторых из них могут быть люди, другие окажутся дистанционно управляемыми или автономными, и каждый из этих аппаратов будет способен работать в любом из режимов в нужные моменты времени. Последнее усовершенствование «Элвина» включало установку программного обеспечения, изначально разработанного для автономных устройств. Не исключено, что когда-нибудь он будет работать на связи с судном через оптоволоконную «привязь». А когда-нибудь, может быть, и без экипажа.

Технические сложности заключаются в том, как координировать работу всех этих машин, снабжать людей информацией и гарантировать, что действия роботов будут совпадать с намерениями людей. Какие-то из них будут управляться через высокоскоростные каналы связи наподобие оптоволоконных линий, другие – через каналы с более ограниченной пропускной способностью. Третьи будут то кружить около узла управления, чтобы обменяться с ним данными, то самостоятельно уходить в мрак глубин. Каждый элемент будет работать, как ему предписано, но также и принимать собственные решения в согласии с запрограммированными алгоритмами поведения.

В мире, который формируется на наших глазах, мы можем представлять себе автономность как странной формы трехмерное облако в толще океана, в пределах которого постоянно курсируют различные аппараты. Теперь вообразите, что мы говорим не об аппарате АБИ, а о вашем автомобиле, а трехмерное «облако автономности» располагается в вашем городе. В определенных местах такой автомобиль становится на некоторое время автономным: например, двигаясь по полосе скоростного шоссе или в составе группы автомобилей. В другие моменты, как, например, на большом удалении от вышек сотовой связи или в условиях снегопада, который мешает нормально работать датчикам автоматики, автономные возможности снижаются и водителю приходится больше задач брать на себя. Вы то въезжаете на своей машине в «облако автономности», то выезжаете из него, при этом автономные режимы деликатно включаются или отключаются.

Неслучайно перспективы появления не нуждающихся в водителе машин (пожалуй, такие машины действительно заслуживали бы названия «автомобили», если бы термин не был занят еще столетие назад) вызывают в обществе живой интерес и споры вокруг вопроса об автономности. Очень часто в связи с этим вопросом упоминается компания Google, что происходит благодаря проводимой ею тщательно дозированной информационной кампании (хотя бо́льшая часть работ этой компании носит закрытый характер, поэтому приходится полагаться на публичные заявления).

Безусловно, производители автомобилей уже многие десятилетия добавляют те или иные элементы автоматизации в свою продукцию: от автоматических трансмиссий до круиз-контроля и антиблокировочных тормозных систем. Моя семейная «Вольво» снабжена программой, которая сама жмет на тормоз, если обнаруживает, что машина вот-вот собирается врезаться во что-нибудь (и когда я за рулем, мне приходится доверять этой программе). В общем, автопроизводители не уклоняются от пути постепенного внедрения изменений, продавая элементы автоматики под обозначением «средства безопасности», а вовсе не как средства автономии. Компания Mercedes-Benz представила концепт-кар с интерьером, задуманным как «мобильное жизненное пространство», в котором люди могут расслабляться и читать, окруженные заботой автономных устройств автомобиля. Однако, в отличие от концепции Google, в компании Mercedes говорят о так называемом «симбиозе реального и виртуального миров», где «пассажиры могут интуитивно взаимодействовать с автомобилем». Google, напротив, пропагандирует идею полной автономности транспортного средства. Как формулирует эту идею один из инженеров компании Google, сравнивая их подход с подходами других автомобильных компаний: «Они хотят делать машины, которые помогают водителям быть лучше. Мы же хотим делать машины, которые сами по себе лучше водителей». Uber, рыночный гигант в сфере пассажирских перевозок на легковых такси, нанял большую группу робототехников, которые раньше работали на Университет Карнеги – Меллон, что, очевидно, связано с идеей автоматизации принадлежащих им машин.

Google тестировал самоходные автомобили на калифорнийских дорогах общего пользования начиная с 2009 года и заявляет, что их машины прошли в общей сложности тысячи километров без дорожных происшествий. Они ездят вдоль трасс, нанесенных с большой точностью на карты Google, после того как по ним проехали управляемые людьми машины Google, занимающиеся съемкой местности; эти карты служат своеобразными «виртуальными рельсами» для самоходных машин (и они в самом деле пока не могут ездить по дорогам, для которых не существует карт с высокой детализацией). На испытательных рейсах в машинах для безопасности находились водители и специалисты по программному обеспечению, которые могли включать или отключать автономный режим. «Замысел был в том, что человек выводит автомобиль на трассу, включает систему, затем она ведет машину все основное время путешествия – скучная часть, а под конец люди вновь берут управление на себя», – вспоминает инженер Google Натаниель Фэйрфилд.

После того как журналист The New York Times Джон Маркофф совершил поездку в одной из таких машин, он пришел к выводу, что «компьютеризованные системы, способные заменить водителей-людей, практически готовы к эксплуатации и могут значительно уменьшить риск человеческой ошибки». Это мнение потенциально согласуется с поставленной Google задачей – в два раза сократить количество смертельных случаев из-за аварий на скоростных автотрассах США. Демагогия компании вокруг этого проекта пропитана отличающим Кремниевую долину оптимизмом, типичным для разговоров о перспективах компьютерных систем. Ведущий инженер проекта специалист по роботам Себастиан Тран предрекает в будущем наступление утопической эпохи автономных систем «без автомобильных аварий и пробок».

Ряд критиков указывает на ограниченность подхода Google к решению этой проблемы. Бо́льшая часть испытательной работы была проведена в Северной Калифорнии или других штатах запада США. Успешные испытательные поездки «гугломобилей» в Неваде проходили в установленных компанией условиях: только в хорошую погоду и только по простым трассам (кроме того, Google не пожелала раскрывать информацию о том, как часто водителям приходилось прерывать автономный режим). У алгоритмов этих машин были проблемы с обработкой информации о местах дорожных работ, и посаженному для безопасности водителю на таких участках приходилось управлять автомобилем самому. Журналист – популяризатор техники Марк Харрис не так давно поведал, что для того, чтобы стать дежурным водителем – испытателем «гугломобиля», необходимы долгие недели тренировок. Это означает, что моменты передачи управления от компьютера человеку остаются сложными и опасными.

В отличие от передвижения по пустым и широким коммерческим трассам Запада, где специалисты Google проводили свои испытания, езда по городу подразумевает значительную долю взаимодействия с другими участниками движения, поскольку ехать приходится в довольно замысловатой, хаотичной и динамично меняющейся обстановке. Google признает, что эта задача в десять, а может, и в сто раз более трудная, чем вести машину по скоростному шоссе. И вновь обеспечение автономности машины в условиях социума оказывается гораздо сложнее абстрактной технической проблемы.

Джон Леонард из Массачусетского технологического института, который помогал разрабатывать некоторые из базовых алгоритмов самоуправляемых машин для определения местоположения и прокладки пути, говорит о том, как много в вождении зависит от межчеловеческого взаимодействия. Мой покойный друг Сет Теллер, который в том же институте занимался проблемами робототехники, отмечал, что езда по городу состоит из сотен «непродолжительных социальных договоренностей между людьми», которые возникают, когда мы наблюдаем дорожную обстановку, устанавливаем взаимный визуальный контакт с другим участником движения, пропускаем кого-нибудь вперед или взмахиваем рукой в знак благодарности тому, кто дал дорогу нам. Компьютеры постепенно учатся распознавать и отмечать различные объекты физического мира. Но, как могут подтвердить пилоты «Предейтора», их возможности по распознаванию людей и их намерений остаются очень примитивными.

Шутя лишь отчасти, Леонард утверждает, что вождение в Бостоне может приравниваться к операции в экстремальной среде. Он поставил видеокамеру на приборную доску своего автомобиля и коллекционирует записи моментов вождения, с которыми трудно справиться алгоритмически: въезд на загруженную дорогу в час пик; следование по полосе движения, когда разметку не видно под пылью или снегом; поворот налево через несколько полос. Снежной бостонской зимой 2015 года трехмерный ландшафт городских улиц мог радикально измениться за ночь, когда трехметровые кучи снега сужали проезжую часть и заставляли менять режим вождения.