Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг
Шрифт:
Интервал:
Закладка:
Основную роль в средствах контроля играет стыд. Так, Конфуций стыдит одного из своих учеников: «Друзья мои, бейте в барабаны, разоблачайте его прилюдно, я с вами». Разоблачать, освистывать, изгонять – вот практики, допускаемые в хорошо упорядоченном обществе. Поэтому не следует удивляться тому, что сегодня изображения должников в некоторых китайских городах выводят на гигантских экранах… Бейте в барабаны и распространяйте данные!
КККК. Вот загадочная аббревиатура, о которой сказал мне Фудам, физик-ядерщик, принявший меня в своеобразном клубе заговорщиков в Шанхае. Это совершенно незаметное снаружи кафе, скрытое в частном доме, где мы – единственные клиенты. Фудам, говорящий на четком и рафинированном английском, не скрывает своего критического отношения к правительству, колоссу на глиняных ногах, сотрясаемому противоречиями. Одетый с ностальгической элегантностью, Фудам выступает передо мной со страстным монологом. Мне кажется, что я оказался в одном из романов Мальро и жду, что в любой момент появятся полицейские в бежевых плащах. Кто такой КККК? Глава секретной службы? Пароль для начала государственного переворота? Нет. КККК – это современный режим: «капиталистический конфуцианский коммунистический Китай». Это очень емкое определение сути современного Китая. Капиталистический – потому что позволяет предпринимателям обогащаться в конкурентной игре. Конфуцианский – потому что ставит коллективное благо выше всего остального. Коммунистический – потому что государство остается высшим гарантом социального порядка. В этом политическом контексте развитие ИИ – настоящая удача. Если Китай, не связанный в этом плане никакими ограничениями, будет внедрять эту технологию, он, вероятно, сможет победить США на их собственной экономической территории, вернуться к своим традиционным ценностям и в то же время укрепить контроль партии над обществом. В новом противопоставлении процветания и свобод Китай сделал свою ставку и ни о чем не жалеет.
Для меня КККК получил воплощение во время обеда в компании десятка молодых предпринимателей из китайских технологических компаний. Они одного со мной поколения и уже успели основать компании в сферах цифрового образования, видеоигр, медицинской визуализации, венчурного капитала, виртуальной реальности и автоматизации юридических услуг. Мы сидели в полуподвале японского ресторана, и среди нас присутствовал только один человек противоположного пола – «организаторша», которой платили за проведение таких регулярных собраний (вот еще доказательство того, что роботы пока не готовы полностью заменить человека!). Вначале каждый формально представился на английском и обменялся со мной парой слов. Но вскоре языки – при помощи саке – развязались. Я успевал выхватывать лишь отдельные фрагменты разговора, любезно переводимые мне соседом по столу, а вмешивался лишь для того, чтобы задать несколько вопросов о технологиях, на которые получал все более рискованные по мере развития беседы ответы. К десерту разговор вращался уже вокруг ближайшей войны с США, и компания разделилась на тех, кто собирался взять в руки оружие, и тех, кто хотел бы уехать за границу. Этот разговор, который не добавил мне геополитического оптимизма, перемежался воинственными криками и громким смехом.
В этой вполне мужской, раскрепощенной, веселой атмосфере исчезли последние риторические предосторожности. Я зачарованно слушал эту единогласную хвалу КККК. Искусственный интеллект вскоре позволит лучше контролировать население, и это хорошо! Вот несколько отрывков из нашего разговора, достойных стать афоризмами цифровой эпохи.
«В древнем споре между контролем и свободой побеждают порядок и эффективность».
«Творческих людей очень мало. Единственный смысл существования подавляющего большинства – вклад в ВВП».
«Люди не способны делать свободный выбор».
«Большинство людей предпочитает не пользоваться своим мозгом, а потому ими проще манипулировать».
«Нас ждет будущее, о котором говорил Азимов. Небольшой процент людей будет контролировать всех остальных».
«В будущем можно будет узнавать о малейшем движении каждого гражданина».
«Чем больше правительство оцифровывает вашу жизнь, тем больше оно ее контролирует».
И, наконец, мой любимый: «ИИ помогает Коммунистической партии увеличивать количество времени, которое люди проводят, тупя за телефоном».
Как это часто бывает в Китае, мои возражения благожелательно выслушивались, но решительно отвергались. Зачем гарантировать свободы, если они ведут к хаосу и несчастьям? Не учит ли нас история тому, что толпе нужен вождь? Если этот вождь прячется в вашем телефоне, если он удовлетворяет все ваши потребности, так что вы даже не успеваете формулировать свои запросы, – это и есть прогресс! Даже один затесавшийся в нашу компанию гуманист, защищавший «ренессансное образование», не видел никаких проблем в том, чтобы использовать камеры распознавания лиц для определения эмоций ребенка.
Какой контраст с калифорнийскими гиками, воспевающими «инновации-которые-меняют-мир»! Однако это могут быть точно такие же предприниматели, обучавшиеся тем же технологиям, работающие с теми же рисками и с такими же продуктами. Но если американский стартапер, занимающийся «геймингом», попытается убедить вас, что видеоигры развивают когнитивные способности, укрепляют социальные связи пользователя и помогают ему обрести уверенность в себе, то его китайский коллега прямо объяснит вам: цифровая аддикция позволяет одновременно создать как зависимость от платформы, так и безусловное подчинение действующей власти – два в одном! Однако такая откровенность не кажется мне ни полезной, ни ободряющей: КККК слишком хорошо позволяет представить предельные политические следствия неограниченного применения ИИ.
Когда китайцы все же признают определенные опасности, создаваемые ИИ (например, связанные с ростом неравенства), их ответ формулируется в рамках того же холистического подхода. Так, Кай-Фу Ли, в частных разговорах о достоинствах ИИ высказывающийся гораздо умереннее, чем на сцене TED Talk, предлагает компенсировать автоматизацию рабочих мест определенной формой универсального дохода, который, однако, привязывается к услугам, оказанным обществу в целом. Этой «социальной зарплатой» следует вознаграждать людей за творческую деятельность, имеющую коллективную ценность… что противоположно «индивидуалистическому» взгляду на универсальный
