Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг
Шрифт:
Интервал:
Закладка:
С точки зрения индивида, делающего свой выбор в цифровом кошельке, встает вопрос: не будет ли сама эта возможность определяться уровнем богатства, добавляя к неравенству в доходах и имущественному неравенству еще и когнитивное неравенство? Грубо говоря, не станет ли способность к сознательному выбору достоянием тех, у кого есть средства, чтобы ее себе позволить? Не случится ли так, что беднякам не останется другого выбора, кроме как продать себя в рабство nudge? Здесь нужно различать вопрос о характере обменов (блага, которые могут стать предметом договора) и вопрос о возможности совершать обмен (уровень перераспределения). Нельзя решить вопрос бездомных, уничтожив собственность, но можно обеспечить равный доступ к ней для всех. Точно так же собственность на данные вводит их в рамки потребительского выбора, где каждый может выбирать свои приоритеты: жилье, питание, транспорт, развлечения… и частная жизнь. Как на втором шаге сделать так, чтобы этот выбор был максимально свободным и равным? В этом случае снова возникают самые разные варианты, предлагавшиеся политической философией, от равного распределения богатства до самого дикого капитализма. Что касается меня, то я агитирую за введение универсального дохода, покрывающего базовые потребности[213]. Если сочтут, что в их число входит частная жизнь, тогда средняя стоимость личных данных должна быть, по логике, включена в расчет суммы универсального дохода, чтобы каждый мог свободно устанавливать условия своего цифрового контракта и выбирать степень nudge совершенно сознательно. Универсальный доход поможет выкупить свою автономию, позволив при этом продолжать пользоваться технологическим прогрессом.
Суть этого механизма в том, что мы сами устанавливаем собственный nudge, в зависимости от степени открытости, указанной в наших личных условиях пользования. Так мы останемся верны принципу делегирования свободного волителя. Ведь качество nudge зависит от предоставленных данных; контролируя при помощи права собственности использование моих данных на входе, я могу на выходе определять, какую именно долю случайности, принуждения или полезности хотел бы включить в свой выбор. Чтобы сохранить полную интеллектуальную независимость в выборе книг для чтения, я могу отказать в доступе к моей истории покупок на Amazon (даже если придется платить на несколько центов дороже). Чтобы меня любили более бескорыстно – убрать с дейтинговых сервисов данные о моих дипломах и имуществе. Чтобы наверняка получить работу в рыболовстве – заставить ИИ ZipRecruiter включить в мой профиль это предпочтение (даже если сегодня я работаю в банке). Это я продолжаю выбирать, и эти выборы определяют мое «Я». Не уступая давлению утилитаристских ИИ, я сам буду устанавливать параметры манипуляций, которые будут мной управлять. Для этих критериев должна быть предусмотрена возможность изменения в любое время вслед за эволюцией моих вкусов и намерений так, чтобы процесс принятия мной решения не был зафиксирован раз и навсегда, но мог бы корректироваться и развиваться в течение всей жизни. Конечно, этот труд потребует ежедневного внимания. Впрочем, не больше, чем требуется, чтобы не забыть дома ключи.
На стороне ИИ собственность на личные данные приведет к потере эффективности, с чем придется смириться всему обществу. Любого порадует, что прибыли Facebook пострадают из-за потери точности в таргетировании рекламы, однако та же самая неоптимальность затронет и другие общественные услуги. Можно, конечно, представить себе, что отдельные категории особо важных для общества данных будут «национализированы», подобно тому как разрешено изымать землю у частных землевладельцев для строительства жизненно важных объектов инфраструктуры. Но такая процедура может носить только чрезвычайный характер, и решение о ней должно приниматься судом, который установит, в какой мере экспроприация отражает искомый мотив общего интереса. В других случаях придется признать, что умный город или умные счетчики уже не будут настолько умными, а беспилотные автомобили – настолько беспилотными. Допустив возможность индивидуального отклонения, право собственности на данные вызовет аварии, углеродные выбросы и разрывы отношений. Оно помешает обществу стать идеальным, вернув тем самым возможность эволюции… как регрессии. Терпеть подобные случайности, непосредственные и конкретные, ради расплывчатого обещания прогресса – тяжкое бремя для законодателей. Но именно на этой линии разлома происходит борьба между nudge и автономией, счастливым рабством и возвращением эпохи просвещения.
Уже сейчас есть немало стартапов, которые хотели бы поучаствовать в этой войне за возвращение человеку автономии. Такие экосистемы особенно динамично развиваются во Франции – стране, придумавшей авторское право. В Париже, Лионе, Монпелье предприниматели стремятся вдохнуть жизнь в это право собственности, в котором регулятор пока отказывает. Одни разрабатывают data wallet: используя предусмотренное GDPR право на мобильность, он позволяет каждому извлекать свои личные данные и контролировать их предоставление[214]. Другие ищут способ придать персональным данным денежную стоимость, пользуясь правовыми «серыми зонами»[215]. Третьи организуют «цифровые кооперативы», совместно использующие данные своих членов и выплачивающие им дивиденды[216]. Как это уже не раз бывало, технология заставит право подстраиваться под себя. Может быть, объехав всю планету, в итоге я найду решение совсем близко от дома, как капитан Хэддок, нашедший сокровища Ликорна в Муленсаре?[217]
Манифест о Европе
Европа могла бы обеспечить законодательные, экономические и культурные рамки для этой новой модели, позволяющей принять достижения технологии, выстроив при этом надежную альтернативу как американскому утилитаризму, так и китайскому коллективизму. Прежде чем мы окончательно вступим на путь самоубийства по заветам стоиков, это наш последний шанс – и не следует им пренебрегать. Очень хочется верить, что мы сможем сохранить наше просвещение, внедрив «первую директиву» в самую сердцевину публичной политики.
Кто воплотит этот проект в жизнь лучше, чем Маргрет Вестагер, с 2014 года занимающая должность комиссара Евросоюза по вопросам конкуренции? За время своего пребывания в должности она назначила беспрецедентные штрафы Google, Amazon, Apple и Facebook. Вестагер начинала свою карьеру в датской социал-либеральной партии, поэтому убеждена в способности рынка предоставлять людям свободу выбора, а также в необходимости его регулирования во избежание образования монополий, этого вечно возрождающегося символа господства. Предложения Вестагер, связанные с ИИ
