Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг
Шрифт:
Интервал:
Закладка:
Сегодня мы пушечное мясо для машины. Если бы Facebook был физическим лицом, мы никогда бы не согласились передавать ему нашу самую приватную информацию, как делаем это сейчас. Даже GDPR дает нам очень ограниченный контроль над нашими данными. Условия пользования, которые нам навязывают платформы, предлагают весьма ограниченный выбор: принять все скопом или уйти. Если мы захотим убрать все cookie-файлы с нашего устройства, это равносильно потере доступа в интернет.
Это действительно так. Впрочем, каждый сам должен пережить этот опыт, чтобы понять, до какой степени интернет-халява основывается на грабеже. Мы зря боимся, что ИИ заменит наш труд, – ведь мы работаем на него!
Это форма феодализма, как в датской монархии в Средние века. Тогда труд был обязателен и крестьянин не имел права собственности на свою землю. Сегодня происходит то же самое: вы отдаете произведенные вами данные новым хозяевам. Тогда как свободное общество основано на правах собственности и добровольном обмене. Социальная экономика рынка по-европейски должна поставить рынок на службу человеку.
Эта идея должна быть переведена в самое настоящее право собственности на персональные данные. Каждый будет ставить свои условия. Это платформы должны будут кликать, соглашаясь на наши личные критерии пользования, подготовленные при посредничестве цифровых ассистентов:
Проблема в том, что мы не знаем, по каким ставкам торгуют нашими данными… В будущем нам нужно иметь возможность измерять их стоимость, в том числе в экономическом плане. Те, кто хотел бы защитить их полностью, должны будут платить за услуги. Другие, наоборот, смогут выбрать полную прозрачность и получать за это вознаграждение. Между двумя этими крайностями будут возможны самые разные варианты в соответствии с пожеланиями и решением каждого.
Это способ частично вернуть себе свободу воли. Биохимический детерминизм не мешает применению способности суждения. Нет, nudge – не злой рок, управляемый слепым утилитаризмом: он может и должен формироваться теми, на кого он направлен, в соответствии с их собственными намерениями.
Нам необходима возможность выражать и уважать личные предпочтения. Мы должны сами сохранять контроль. Это вопрос человеческой ответственности и индивидуальной автономии.
Итак, нет никаких причин перекладывать юридическую и моральную ответственность на машину, если «первая директива» позволяет нам принимать собственные решения. Более того, можно различить несколько уровней, образующих концентрические круги: закон, охватывающий поле возможных решений, моральная ответственность согласно предустановленным человеком критериям и, наконец, меры по обеспечению, основанные на юридическом статусе алгоритмов.
Чего же тогда ждать?
«Регламент по защите данных» должен был пойти дальше. Из него нужно было сделать настоящую Хартию цифровых прав. Но на самом деле проблемы не технические и не юридические – это прежде всего культурный и социологический вопрос. Нами манипулируют в беспрецедентных для истории человечества масштабах. Почему мы беспокоимся о присутствии поликарбоната А в напитках, но не о сookie-файлах на айпадах своих детей? К счастью, в общественном осознании этих проблем наметился прогресс после таких скандалов, как с Cambridge Analytica.
Но не нанесет ли подобный сценарий ущерба обществу? Если я могу сохранить свои данные для себя, а при этом пользуюсь плодами прогресса, к которому привели данные других людей, не становлюсь ли я «безбилетником»?
Ну и что? Нельзя пропускать всех подряд через мясорубку алгоритма. Это как с испытаниями лекарств в Дании: участвовать в них решают лишь отдельные люди, но от результатов выигрывают все. Придется смириться с тем, что умный город не будет таким уж умным и что играть в эти игры будут не все. Зато мы сможем сохранить возможность для отклонений и ошибочных шагов, без которых не бывает прогресса.
Да, именно этим прогресс отличается от повальной оптимизации. Но устойчива ли эта модель, учитывая эффективность американских и китайских гигантов?
А разве мы хотим быть на них похожи? Мы сумеем создать ИИ иного качества, превосходящего, учитывая, что он сможет завоевать доверие пользователей. И мы сохраним инновации благодаря политике конкуренции. Китайцы просто смеются над этим, а американцы находятся меж двух огней – по историческим причинам они принимают от частного сектора то, что отвергали бы, если бы оно исходило от государства…
Делая слишком большую ставку на цифровое планирование, Китай становится хрупким в том смысле, в каком понимает хрупкость Нассим Талеб. КНР рискует не справиться с непредвиденными обстоятельствами. В то время, когда одни хотят уйти из Европы, а другие – «переизобрести» ее, быть может, достаточно просто применить фундаментальные, как никогда актуальные европейские принципы к новым технологиям и запустить наконец широкомасштабные инвестиционные программы?
Но каким образом государства могут претендовать на то, чтобы что-то регулировать, если они переложили всю нормативную ответственность на платформы?
Законодательство по самой своей природе отстает от эволюции технологической сферы. Это нормально и заставляет нас становиться на путь добровольной кооперации. Но классические рамки правового государства не теряют своей значимости.
Несколько лет назад Марк Цукерберг мечтал, что «глобальное сообщество» Facebook породит свои собственные нормы. Но под непосильным грузом социальной ответственности Facebook, которому пришлось принимать решения, далекие от его изначального предназначения (о свободе самовыражения, например), сам был вынужден апеллировать к коллективному регулированию[218]. Чтобы выжить, платформы должны смириться с тем, что они несуверенны. Между тем это регулирование не может производиться на уровне отдельной страны. Оно должно быть воплощено во всемирном правительстве, в своего рода цифровом космополитизме. Учредить ООН для данных – один из главных вызовов этого века[219]. Маргрет Вестагер заключает:
Кто говорит о рынке данных, говорит о демократии данных. Только эта демократия не должна сама быть виртуальной. Коллективное решение образуется путем личного взаимодействия. Люди в этом нуждаются: повсюду в Европе выражается одно и то же желание солидарности и вовлеченности. Для того чтобы регулировать цифровое пространство, необходимо, как ни странно, воссоздать конкретные места для обсуждения. У вас, во Франции, где 36 000 коммун, положение гораздо лучше, чем у других!
А что, если бы горизонтом ИИ была местная демократия?
Человек-зверь
Вернувшись в Париж, с целью цифрового детокса я погрузился в «Человека-зверя» Эмиля Золя. С каждой страницы вставала новая цивилизация машин с ее сверкающими вокзалами, диспетчерскими пунктами и струями горячего пара. А при этом сюжет романа – история наших амбиций и слабостей, банальная история о ревности, деньгах и власти. Сначала я спрашивал себя, почему Золя, отталкиваясь от самой передовой современности, навевавшей грезы Жюлю Верну,
