Медиаменеджер Сергей Евдокимов предостерегает: не стоит доверять свою жизнь алгоритмам, какую бы красивую картинку будущего они ни рисовали.
Один из излюбленных жанров современного интеллектуального нытья — жалобы на отсутствие образа будущего. Его то ли украли, то ли потеряли, то ли сознательно прячут на острове Эпштейна. На самом деле все прозаичнее: будущего нет, потому что мы уже живем в нем, ведь в будущем по определению не может быть будущего — только настоящее.
Долгожданное обретение будущего совпало со смертью просвещенческого проекта, исчерпанностью его исторической миссии. Словно сериал под названием «Модерн», с успехом шедший не одно столетие, не продлили на следующий сезон. Существенной частью Просвещения, его экспериментальной лабораторией, была фантастика. Она моделировала воображаемые миры, вдохновляла изобретения и открытия, летела через тернии к звездам. Это был героический эпос новой Античности, в центре которого стоял Человек — путешественник во времени, покоритель дальних планет, венец творения. Так продолжалось буквально до последнего времени (хотя тревожные звоночки вроде «Матрицы» все же звучали), пока сохранялась вера в безграничность человеческих возможностей. И пока не появился искусственный интеллект (ИИ). Потому что именно ИИ заменил человека в качестве основы мироздания. Не осталось практически ни одной сферы, в которой человек теперь может состояться. Музыка, тексты, наука, дизайн, IT… Да что там, профессия таксиста теперь отдана нейросетям. Речь уже даже идет о целых корпорациях, управляемых искусственным интеллектом. Например, в банковском секторе или в инвестиционном бизнесе, в которых характер принимаемых решений напрямую зависит от качества обработки и анализа данных.
Все это делает ИИ чем-то большим, чем просто счетной машиной или удобным цифровым помощником. Дело в том, что, делегируя свои функции ИИ, мы делегируем ему и свой человеческий суверенитет — мы наделяем его правом принимать решения. За нас. Принятие решений — это традиционная сфера политического. Собственно, через решения политика реализует себя. И за этот новый источник власти, за то, как будут приниматься решения и, главное, как контролироваться, сегодня разворачивается самая ожесточенная борьба. Будет ли ИИ легализован на юридическом уровне (например, в качестве судьи или полноправного участника судебного процесса), политическом (в качестве управляющего алгоритма), правовом — сейчас эти вопросы поважнее, чем «морально устаревшие» свобода слова, вероисповедания или открытость границ.
Один из важнейших вопросов — вопрос бюрократический, ведь миром управляет бюрократия. Так вот, ИИ и здесь наступает человечеству на пятки, отнимая у него контроль за ключевыми бюрократическими процессами: учетом, расчетом, налогами, соблюдением законности и т. д. и т. п. И это мы еще не особо задумывались: а что будет с институтами? Ведь все институты современного общества — от избирательной системы до СМИ — выстроены под человека. Что будет с ними, если человеческим социумом будет оперировать искусственный интеллект?
Но самый главный вопрос — это вопрос, кто контролирует нарратив. Кто контролирует вопросы и ответы, кто контролирует повестку, кто в конечном счете контролирует мышление. В этом смысле противостояние между Китаем и Штатами — это не просто конкуренция двух сверхдержав. Это противостояние между двумя крупнейшими дата- и ИИ-центрами. Если в феодальную эпоху главным ресурсом, обеспечивающим власть, была территория, способная прокормить, а в индустриальную — орудия производства и контроль за ископаемыми, такими, например, как нефть, то в цифровую этим ресурсом становятся большие данные. И, в отличие от предыдущих эпох, этот ресурс можно сконцентрировать в одном месте. Чтобы построить единый дата-центр, не обязательно завоевывать Африку или договариваться с нефтяными монархиями Персидского залива. Намного важнее — понимать, кто контролирует рубильник, кто обладает ресурсами и властью отключить все.
Возвращаясь к фантастике. Самое смешное фантастическое произведение, которое я прочитал за последнее время, это манифест Марка Цукерберга в защиту искусственного интеллекта. Называется «Будущее принадлежит всем». Лично меня зацепили следующие строки: «У каждого появится очень мощный личный ИИ-агент, который будет понимать вас, ваши цели и все, что для вас важно. Он будет круглосуточно работать в ваших интересах: помогать с отношениями, здоровьем, карьерой, финансами, домашними делами, хобби и многим другим. Он освободит вам время на то, что вам действительно нравится, и поможет добиваться большего, чем вы смогли бы без него. У него будут надежные настройки конфиденциальности и безопасности, поэтому ему можно будет доверить личную информацию, зная, что никто другой не получит к ней доступ…» Надежные настройки конфиденциальности… Работать в ваших интересах… Освободит время на то, что действительно нравится… Звучит действительно как фантастика!
