Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг
Шрифт:
Интервал:
Закладка:
Вероятно, та же самая логика применима к развитию городов. Планирование создало пространства, в которых невозможно жить, пустые новые города, кварталы из уродливых строительных блоков. Китай сегодня без остановки занимается строительством, стирая последние следы прошлого, строит новые «умные города», функциональные и бесчеловечные. Апогеем этого архитектурного бедствия должен стать Сюнъань – мегалополис, строящийся по распоряжению президента Си Цзиньпина в чистом поле в ста километрах от Пекина. Но куда устремляются китайские туристы, оказавшись в Париже? В Марэ, на Монмартр, на гору Сент-Женевьев, в сплетенье улочек, которые удалось уберечь от монотонного рационализма барона Османа, справедливо прозванного Атиллой. Эстетика как удобство для жизни родилась из истории и череды ее несовершенств. Я спросил у китайского ученого из Alibaba, как бы выглядел Париж, если бы его концепцию разрабатывал City Brain. «Время поездки на транспорте сократилось бы вдвое», – ответил он. Ну надо же!..
Когда я проводил интервью в Uber в Сан-Франциско, к нам присоединился исследователь ИИ Кеннет О. Стэнли, автор статьи, разоблачающей «миф о целях»[172]. Его тезис прост: самые большие открытия – как в истории науки, так и в жизни человека – происходят за рамками поставленных целей и задач. Автор на первых же страницах признает, что в области его компетенции, то есть ИИ, есть какая-то одержимость критериями и процессами оптимизации. «Поскольку в сфере ИИ слишком много целей и задач, рано или поздно ученые, занимающиеся его разработкой, зададутся вопросом о функции целей». Это редкое выступление в защиту серендипности идет вразрез с большинством используемых ныне технологий ИИ. Прогресс невозможно определить заранее: он содержит и внедряет свои собственные нормы. Разумеется, в повседневной жизни цели и задачи необходимы, но нужно уметь отказываться от них, когда открывается более интересный путь. Как и Нассим Талеб, Кеннет пытается рационально объяснить, почему избыток рациональности вредит ей самой. Непредсказуемость – не нехватка знаний, которую нужно восполнить, как это представляют себе нынешние поклонники ИИ[173]. Это фундаментальный элемент эволюции знания.
Если рассматривать через эту призму теории Харари или Вайла, придется признать, что оптимальное общество, в которое «дивиды» собираются ради того, чтобы повышать благосостояние и уменьшать страдания, – это мертвое общество, где инновация, как отклонение, становится структурно невозможной. К тому же это хрупкое общество, которое может распасться при первом потрясении. Возможно, Китаю предстоит убедиться в этом на собственном горьком опыте. Нам же, ради спасения эволюции, продолжения нашей борьбы с энтропией[174], сохранения самой идеи цивилизации, пребывающей в движении, нужно уберечь элемент случайности. А для этого необходимо восстановить форму индивидуальной автономии, которая может переиграть, удивить ИИ, возразить ему. Как же мы можем сопротивляться сладкоголосым сиренам утилитаризма? Как не стать «дивидами»?
Свободный волитель и свобода воли
Чтобы ответить на эти вопросы, нужно вернуться к проблеме свободы воли. Если современная наука, представленная мрачной триадой из психологии, нейронауки и поведенческой экономики, и в самом деле погружает нас в своего рода тотальный детерминизм, любая попытка вернуть способность к индивидуальному принятию решений кажется тщетной. У нас есть все основания для того, чтобы, подобно Шарлю Бовари, отдать себя в руки фатума, ныне воплощенного в ИИ.
Эта проблема стара, как сама философия. Современная наука всего лишь в очередной раз актуализировала вопрос, задававшийся тысячелетиями: как быть свободным и ответственным, если наше мышление – продукт действия сил, которые его превосходят? Лукреций попытался включить сложность живого в коловращение эпикуровских атомов и вывел из этого наличие «клинамена», спонтанного и непредсказуемого отклонения атомов от своей траектории. Эразм Роттердамский постулировал существование свободного выбора в качестве условия Добра и Зла, к великому негодованию Лютера, не выносившего отступлений от божественного всеведения. Анри Бергсон, боровшийся с позитивистами, посвятил бо́льшую часть своих трудов вопросу отделения человеческого сознания от законов физики. Илья Пригожин нашел в квантовой физике обоснование недетерминированности поступков человека. По мере развития науки сохраняются все те же вопросы и появляются новые гипотезы. С учетом этой долгой истории утверждение о том, что современные нейронауки навсегда похоронили свободу воли, кажется крайне самонадеянным. Они лишь возобновили споры, которые так и не смогли разрешить века размышлений.
По-моему, вопрос о свободе воли не только все время повторяется, но еще и содержит противоречие в терминах. Подобно тому как нельзя произнести слова «Я всегда лгу», не противореча себе (парадокс лжеца), нельзя и утверждать, что мы детерминированы. По сути, утверждение истины (в данном случае истины детерминизма) предполагает, что мы полагаемся на мыслительный процесс, которой к ней подводит. Но если сам этот процесс детерминирован, разве может он иметь какую-либо эвристическую ценность? Если неведомые мне внешние факторы побуждают меня поверить в детерминизм, не становится ли он просто-напросто гипотезой, выдвинутой под воздействием случайных связей в мозге? И наоборот, не подразумевает ли сам факт попыток получить определенное знание наличия у нас способности к независимому суждению? Как иронически заметил философ Жюль Лекье, надо признать, что определенность предполагает свободу воли, а не вопросы о том, определенно ли есть свобода воли[175]. Однако эта заочная победа свободы воли не приносит удовлетворения, поскольку индетерминизм упирается в свой собственный паралогизм. Не означает ли превознесение беспричинных поступков или внезапного озарения капитуляцию перед случайностью? Как еще, кроме как по случайному совпадению, может оказаться истинным совершенно произвольное высказывание? Не исключают ли капризы воли любую научную строгость? Утверждение «Я обладаю свободой воли» в действительности означает возможность сказать обратное!
Эти апории разрешаются только путем различения двух концепций свободы воли: первая основана на непредсказуемости, вторая – на делиберации. Первую школу, источник всей этой путаницы, в «свободе воли» интересует прежде всего «свобода»: она подчеркивает способность человека абстрагироваться от цепочки причин и следствий. Этой школе приходится обращаться к внеприродному началу, свойственному нашему виду: к частной воле, гарантированной Богом, как у Декарта, помещающего ее в шишковидную железу[176], или к сознанию, перед которым проходит вся бесконечность возможного, как у Сартра, выводящего из этого абсолютную ответственность нашего выбора[177]. В этом случае есть волевое решение, необъяснимый акт делиберации, противоречащий любому
