Александр Сорге
Angst
Бархатная революция машин
О террористе-одиночке, который предсказал закат человеческого превосходства.
Сразу же после появления на свет человечество начало выбирать себе гроб. Апокалипсис всегда был самым популярным сюжетом в нашей культуре. Сначала все зачитывались откровениями Иоанна Богослова, потом – Нострадамуса и прочих, пророчивших гибель Земли. Сегодня же главной угрозой для человеческой цивилизации принято считать искусственный разум, который совсем скоро будет создан по нашему образу и подобию. Причем терминаторам из Boston Dynamics даже не придется давить людские черепа: мы добровольно преклоним колени перед разумными машинами. Ведь единственным мессией, который способен спасти человечество, возможно, является deus ex machina.
День вчерашний
Общество всегда с опаской относилось к новым технологиям. Да, для многих сладкие плоды прогресса – неоспоримое благо. Но всегда находились те, кто считал, что «промышленная революция и ее последствия были бедствием для человеческого рода». Именно так начинается манифест самого загадочного террориста США XX века, за голову которого была назначена награда в миллион долларов. 18 долгих лет ФБР пыталось поймать бомбиста. И все эти 18 лет «посылки со смертью» приходили профессорам американских университетов и крупным промышленникам.
В ноябре 1979 года глава ФБР созвал экстренное совещание: кто-то пытался взорвать пассажирский боинг над Чикаго. Если бы самодельная бомба в багажном отсеке сработала, то выжить не удалось бы никому. Годом ранее точно такой же бомбой пытались взорвать преподавателя из Северо-Западного университета в пригороде Чикаго. Для поимки террориста была создана спецгруппа, сотрудники которой дали ему кодовое имя – Унабомбер (UNiversity and Airline bomber). Возглавил группу агент Джон Дуглас, который охарактеризовал преступника как нового последователя Короля Лудда, борца с технологиями и техническим прогрессом. Однако отследить подрывника агентам так и не удалось – расследование забуксовало. Зацепка появилась только в середине 90-х.
В 1995 году в редакции сразу нескольких крупных газет пришло письмо от Унабомбера. Он потребовал опубликовать его рукопись «Индустриальное общество и его будущее», угрожая в противном случае новыми взрывами. В своем эссе, которое окрестили манифестом Унабомбера, террорист перечислил причины физических и психических страданий общества. И главным виновником человеческих бед он назвал именно развитие «индустриально-технологической системы». Казалось бы, к началу XXI века луддизм уже себя изжил. Опасения джентльменов, крушивших кувалдами паровые станки, так и не оправдались: машина не заменила человека. По крайней мере, пока. Да и трудно спорить с тем, что совершенствование науки и техники сделало нашу жизнь проще: пенициллин спас миллионы жизней, а самолеты доставляют из Петербурга в Москву меньше чем за час. Однако Унабомбер предрекал, что в будущем за научно-технический прогресс человеку придется расплачиваться свободой. Технологии сделают возможным полный контроль личности. Это приведет к возникновению социальной инженерии, что позволит перекраивать общество так, как это нужно системе. И, судя по всему, эти опасения не были такими уж беспочвенными.
День сегодняшний
Технологии действительно делают нашу жизнь комфортнее. Сегодня, выходя из дома, нам достаточно взять с собой только смартфон, который одновременно является и телефоном, и картой, и даже бумажником. Это удобно, пусть ради этого комфорта мы жертвуем частью приватности. Facebook знает наших друзей, Tinder – какие девушки нам нравятся. Uber знает, куда вы ездили вчера ночью, а ваш банк – в каком магазине покупали страпон и где после этого ужинали. Каждому приложению мы скармливаем немного информации о себе. Это не кажется чем-то страшным – просто компромисс, на который мы идем ради удобства. Однако последствия у такого компромисса могут быть очень интересные. И, чтобы их увидеть, даже не нужно заглядывать в будущее или ждать новой серии «Черного зеркала». Достаточно обратить взор на наших восточных соседей.
Представьте приложение, которое объединяющее все вышеперечисленные. И оно уже есть, имя ему – Alipay. Это платежная система, которой пользуются больше половины жителей Китая. Достаточно просто установить одну программу – и можно не только расплачиваться в магазине, но и заказать себе еду, такси или билеты на поезд. У Alipay даже есть своя социальная сеть! Это приложение знает о пользователях почти все. И нет ничего странного в том, что однажды у кого-то возникла мысль использовать эту информацию для получения выгоды. Например, для выставления кредитного рейтинга. Так появился Zhima Credit. Оценивая различные факторы, алгоритм присваивает пользователю рейтинг: от 600 до 950 баллов. За хорошее поведение и благотворительность добавляют баллы, а если вовремя не оплатить штраф, снимают. Обладатели высокого рейтинга получают различные преимущества: возможность взять автомобиль напрокат без залога или приоритетное обслуживание в аэропорту. А самая популярная служба знакомств в Китае, Baihe, ранжирует профили пользователей в зависимости от количества баллов – выше рейтинг, выше вероятность найти вторую половинку. На рейтинг влияют и другие факторы: образование и кредитные рейтинги знакомых. Facebook, кстати, еще в 2012 году запатентовал похожий алгоритм, который позволяет дать вам оценку на основе рейтингов ваших друзей. Кажется, кто-то упоминал «Черное зеркало»?
А теперь представьте: приложение начинает говорить вам, что такое хорошо, а что такое плохо. Ваш образ жизни начинает влиять на рейтинг. Вот, что заявил технологический директор Zhima Credit Ли Ин-Юнь: «Если кто-то, например, по 10 часов в день играет в видеоигры, то он – бездельник, а если человек часто покупает подгузники, то, скорее всего, он – родитель, а значит, в целом обладает чувством ответственности». А финансовый директор Люси Пен и вовсе сказала: «Мы сделаем так, чтобы плохим членам общества было некуда пойти, а добропорядочные граждане могли передвигаться свободно и без ограничений». Приложение начинает диктовать людям, что делать. Вот только за любым алгоритмом стоит человек, и, видимо, именно он будет решать, кто плохой член общества, а кто – нет. В данном случае роль большого брата играет китайское правительство. Zhima Credit – часть масштабной программы Компартии по созданию «механизма социального кредита», которая реализуется с 2014 года. Власти Поднебесной намерены присвоить похожие рейтинги каждому гражданину до 2020 года. Это очень удобный инструмент контроля общества, который Оруэллу даже не снился. Ведешь себя как законопослушный гражданин: платишь налоги, лоялен к власти – и с твоим рейтингом будет все в порядке. Попадешь в немилость – и твоя жизнь превратится в ад. Забудь про соцобеспечение и билеты на самолет. Твой удел – только самые дешевые поезда и койка в придорожном мотеле. Ведь теперь ты – человек третьего сорта. Это не мои фантазии, это история оппозиционного журналиста Лю Ху, про которого в своей статье рассказала Мара Хвистендаль. Социальная инженерия во всем своем великолепии. Партия мягко, но настойчиво говорит: «Думай так, как нужно нам. Делай то, что хотим мы». И это не будущее и не строчки из романа-антиутопии. Это наше настоящее. А нейросети и искусственный интеллект позволят еще больше упростить контроль над нашими действиями. Да и над нашими мыслями. И слова террориста-фанатика уже не кажутся такими уж безумными, правда?
День завтрашний
В конце своего манифеста Унабомбер предрек два сценария развития цивилизации. Первый основывается на том, что мы сохраним власть над искусственным интеллектом: он станет нашим цепным псом. Однако очевидно, что этот пес будет служить не абстрактному человечеству, а вполне себе конкретным хозяевам: армии, чиновникам или корпорациям. И глупо полагать, что они будут использовать его для достижения общечеловеческих идеалов, вроде мира во всем мире и всеобщего равенства. Скорее всего, все это приведет к еще более сильному расслоению: мы получим верховную касту, которая сделает себя с помощью технологий неприкасаемой. Она сможет полностью подчинить себе всё человечество или группу людей на отдельно взятом куске земли. Мы получим новых богов, всемогущих и всевидящих. А боги всегда отличались мстительностью и своенравием, а не милосердием и состраданием. В таком случае книжка Оруэлла покажется лишь безобидной детской сказкой.
Второй путь тоже не самый радужный. Мы вступим в схватку с искусственным интеллектом и проиграем. Проиграем, потому что будем медленнее и глупее. Уже сейчас машины справляются со многими задачами лучше нас. Они быстрее считают, быстрее реагируют. А все совершенствующиеся нейросети скоро будут использоваться практически везде. По оценкам консалтинговой компании McKinsey, к 2036 году будет автоматизировано до 50% рабочих процессов. В новом дивном мире человек станет ненужным: он как организм, как биологическая машина просто устареет. Давайте признаем, человечество уже тихо порабощается разумными машинами. Мы уже несвободны. Ведь говоря о свободе, мы имеем в виду не только приватность, но и независимость. А мы уже зависим от машин, которые со многими вещами справляются лучше нас. Это, как я уже говорил, просто удобно. И в усложняющемся мире эта зависимость будет только расти. И нам не останется ничего иного, кроме как отдаться на волю машин. Мы просто не сможем выключить их, потому что «их отключение будет равносильно самоубийству». Не будет никакого Судного дня: мы сами принесем свою свободу в жертву прогрессу. И новым князем мира сего станет интеллект искусственный.
Звучит не очень жизнеутверждающе, правда? Но давайте взглянем на искусственный интеллект с другой стороны. Машине чужды корысть, зависть и ненависть. Ей невозможно дать взятку, ее невозможно запугать. А все эти громкие лозунги, будь то «власть народа», «каждому по потребностям» или превосходство одной расы над другой, – чушь. Всего лишь мишура для людей, которые хотят взять власть. И совершенно не важно, какого цвета рубашки они носят: белые, коричневые или красные. Потому что результат всегда один: власть развращает любого. А абсолютная власть, как известно, «развращает абсолютно». И нет причин полагать, что что-то изменится – человек не меняется. Так что решение передать бразды правления абсолютно рациональной и справедливой машине является единственно верным. Ведь для нее верховенство права – это не фраза из давно забытой книжки, а четкое правило. Поэтому искусственный интеллект воспринимается многими не как Антихрист, знаменующий конец мира, но как спаситель, новый мессия. Конечно, это утопия – воплощение идеальной цифровой меритократии. Конечно, и этот путь полон подводных камней. Но управляться цифровыми богом всяко лучше, чем внимать речам неизвестных отцов, группы людей, которые руководствуются лишь своими плотскими желаниями и представлениями о правильности. Конечно, если за этой машиной не будет стоять человек.
Вместо эпилога
Через полгода после публикации манифеста агенты ФБР штурмом взяли маленькую хижину в глухом лесу штата Монтана. В лачуге оперативники нашли детали бомб, рукопись и неопрятного отшельника в зловонных лохмотьях. Сомнений быть не могло – это был Унабомбер. Его настоящее имя – Теодор Казински. Но он не был полоумным реднеком, который помешался на теориях заговора. Казински был гением в прямом смысле этого слова – блестящий интеллект позволил ему поступить в Гарвард в 16 лет. В 20 он получил докторскую степень в области математики. Неизвестно, что заставило его стать отшельником. И хотя террориста арестовали, его эссе, благодаря достижению «технологической системе» – интернету, доступно каждому. Можно по-разному относиться к пророчествам Казинского. Однако всегда стоит помнить, что «вчерашняя фантастика сегодня становится фактом».
13.02.18
Дешёвая китайская зажигалка высекала искру, но упрямо не хотела давать огня. Пытаясь зажечь свежую сигарету и чувствуя, как во мне закипает ярость, я раздумывал: ну и что с того, что мы отдадим свою судьбу на откуп машинам? Всё равно сегодня многие люди ведут образ жизни, более подходящий растению, нежели прямоходящей умелой обезьяне – машины хотя бы сделают пребывание в теплице более комфортным. Да и многие управленцы, что сидят высоко на государственных постах, явно проигрывают в сообразительности даже древней ЭВМ на перфокартах – электронный мозг хотя бы дешевле в содержании. Проблемы начнутся не тогда, когда мы решим отдаться машине, а когда машина захочет отдаться нам, пусть и следуя своей программе. И бояться нужно не того, что разумная железка возьмёт в руки дубину, а того, что она схватится за ваш член. Я бросил бесплотные попытки закурить, выругался и почему-то кинул сигарету из только что распакованной пачки в лужу. А огниво положил в карман и двинулся через двор к арке.
Трахнуть тостер
О сексе с андроидами, эмоционально нестабильном автопилоте и чайнике с активной гражданской позицией.
Через пару десятков лет этот текст, скорее всего, запретят, а меня сошлют в криотюрьму за тяжкое преступление против толерантности. И пока я буду истекать слюной в коматозном состоянии, очередной полисмен будет арестовывать очередного робокарманника, кричащего: «Это потому что я цельнометаллический?!» А все оттого, что андроиды могут получить гражданские права уже к 2045 году. По крайней мере, так считает создатель робота Софии, той самой, которая совсем недавно получила гражданство Саудовской Аравии и шутканула про «убить всех человеков». Но жестянки получат эти права не через революционную борьбу, а, как это ни странно, через постель. Все беды кожаных ублюдков всегда возникали только от того, что кто-то не сумел удержать свой член в штанах или вновь послушал голос вагины. И сейчас человечество может нажить себе еще одну охрененно огромную проблему только потому, что кто-то в будущем захочет трахнуть тостер.
Мужчиной всегда управляла волшебная эбонитовая палочка угнетения, болтающаяся между его волосатых патриархальных ног. Да, иногда сексуальная энергия сублимировалась во что-то полезное для общества. Но, даже несмотря на это, грязные сексистские фантазии продолжали плодиться и множиться в окрепших и не очень самцовьих мозгах во все времена. Не было и не будет на свете такого персонажа, или, да простит нас господь, предмета, которому мужчина не мечтал бы пририсовать сиськи, а затем совершить с ним прелюбодеяние. Особенно четко это стало понятно с наступлением эры интернета, вылившись в два конкретных правила:
Правило 34: «Порно бывает про все. Без исключений».
Правило 63: «Женская версия мужского персонажа есть всегда! Никаких исключений!»
И, поверьте мне, бывалому однорукому бандиту – это действительно так. Не обошла такая участь и механизмы: образ прекрасной женщины-андроида занимает умы мужчин вот уже почти сто лет (термин «роботесса» возник в 1920-х годах). О любви и сексе с роботессой или фемботом писал Филип Дик в книге «Мечтают ли андроиды об электроовцах» в 1968 году, по мотивам которой Ридли Скотт снял «Бегущего по лезвию». А с 70-х годов без женороботов не обходился ни один научно-фантастический сериал, в том числе и Star Trek. Позже фемботы и девушки-киборги стали популярными героинями бурятских мультиков, самой известной из которых, наверное, является Мотоко Кусанаги из «Призрака в доспехах». Но если в неоновые восьмидесятые кибердамы были лишь неосязаемой фантазией, то сегодня они уже вовсю проникают в реальный мир. И, похоже, скоро костлявым селедкам с обложек глянцевых журналов, которые лишь номинально топят за феминизм, придется превратиться в реального такого радфем-бойца, чтобы не потерять работу. Ведь цифровые модели догоняют по популярности мясных: Instagram 3D-девушки Лил Микела насчитывает 880 тысяч подписчиков, и она уже сотрудничает с Prada, Chanel, Supreme и Vans.
В общем, технологии все глубже входят в нашу жизнь, а совсем скоро и вы сможете войти в технологии. Ну или они в вас, это уже кому как больше нравится. Ведь уже сегодня перед техноизвращенцами открываются огромные перспективы: секс-куклы становятся реалистичнее, а цены на них ниже. В Китае уже вовсю штампуются весьма качественные резиновые подруги с бархатистой искусственной кожей, которые поддерживают температуру в 37 градусов и обладают гнущимися суставами. Всего за 3100 долларов вы сможете заказать себе молчаливую спутницу с абсолютно любой внешностью и параметрами, будь то ваша первая учительница по математике, которая ставила одни двойки, или же Чудо-женщина. А американская компания Realbotix пошла дальше: в прошлом году они представили таких же кукол, но с искусственным интеллектом. Их дамы могут говорить, также им можно настроить параметры характера и настроения. И робобордели уже не кажутся уделом такого уж далекого будущего, правда?
По прогнозам секс-футурологов, к 2028 году более четверти молодежи будут заниматься сексом со своим партнером дистанционно, используя всякие веселые игрушки. А к 2045-му каждый десятый уже вовсю будет трахаться с роботом. Правда, судя по тому, как эволюционируют терминаторы Boston Dynamics, это они скоро будут трахать нас. В общем, секс с андроидом – это, конечно, весело и необычно, однако человечество может нажить себе еще одну очень большую проблему. Ведь даже во время перепихона в заблеванном туалете клуба начинает вырабатываться окситоцин – «гормон спокойствия», который заставляет нас меньше волноваться и больше доверять человеку, который тычет в нас своим стручком или любезно распахнул двери своего влагалища. Именно поэтому секс до сих пор у многих ассоциируется с отношениями – окситоцин формирует привязанность к партнеру и благодаря ему «секс по дружбе» часто перерастает во что-то большее. И нашему мозгу при этом совершенно безразлично, переспали ли вы с самим собой, другим человеком или кем-то похожим на человека.
Привязанность к чему-то неживому может возникнуть даже и без секса. Каждому знаком полоумный автолюбитель, который ласково называет свое ведро с болтами «ласточкой» или «малышкой», разговаривает с ним и относится к автомобилю лучше, чем к своим детям. В общем, наделяет его вполне человеческими чертами, хотя и не трахает свое корыто в выхлопную трубу. Наверное. Однако, когда на приборной панели вашего автомобиля загорается лампочка, это не значит, что машинке больно. Это значит, что неисправен двигатель. Нам вообще с древнейших времен свойственно очеловечивать все вокруг: у любой цивилизации найдется с десяток человекоподобных духов и существ, олицетворяющих леса, моря и погодные явления. А уж говорящие животные давно стали привычным персонажем каждой культуры. Да и наверняка вы хоть раз пытались извиниться перед своим питомцем, думая, что он обиделся, когда вы случайно наступили ему на хвост. Очеловечивание или антропоморфизм заметен даже в речи: и дождь у нас идет, и небо хмурится, и погода шепчет. Какое отношение это имеет к искусственному интеллекту и роботам? Самое прямое. Я не знаю, возникает ли у дрочеров с многолетним стажем привязанность к резиновой вагине, но она точно возникнет к фемботу. Симпатия к машине похожей на нас, да еще и подкрепленная сексом, приведет к возникновению того, что мы привыкли называть любовью. Однако любовь эта будет безответной.
Правда в том, что искусственному интеллекту, который мы вложим в электронные мозги робота, будут не нужны эмоции: ни наши, ни свои. Искусственный разум представляется нам как подобие человеческого, со всеми его изъянами и недостатками – механические Адам или Ева, творцом которых являемся мы. Однако этот человек из машины, который может мыслить и действовать так же, как и среднестатистический индивид (так называемый «общий ИИ»), на самом деле малополезен. Большинство нейросетей, над которыми мы трудимся сейчас, – это «специализированные ИИ», которые нацелены на выполнение конкретной задачи. И роботу, который переносит тяжести или управляет грузовиком, незачем испытывать радость или печаль. Ведь если вы катаетесь на модном «Тесла-Родстере», вам и в голову не придет наделить автомобиль чувствами: вам нужен автопилот, который быстро и безопасно довезет вас до дома, а не очередной эмоционально нестабильный водитель. Да, для некоторых задач, например, ухода за пожилыми людьми или детьми, андроидам действительно пригодится умение распознавать эмоции. Но распознавать – не значит испытывать. В фильме «Она» главный герой, одинокий писатель, влюбляется в такой искусственный интеллект, похожий на более продвинутую версию Сири или Алисы. Герой даже пытается с ней переспать. Однако выясняется, что программа одновременно общается с тысячами человек, и сотни мужчин и женщин точно так же влюблены в нее. Это ее функция – испытывать сопереживание, которая просто помогает ей эффективнее работать.
На самом деле ученые не могут точно сказать, способен ли искусственный разум спонтанно обрести эмоции, как это показывается в каждом втором научно-фантастическом фильме. Но это и не важно. Из-за мнимой эмпатии, из-за привязанности к машинам мы сами наделяем механизмы способностью чувствовать. Чтобы наши творения, наши дети смогли полюбить своих создателей так же, как творцы полюбили их. И из верных помощников, которые пришли, чтобы облегчить нашу жизнь, андроиды превратятся в огромную занозу в заднице человечества. Занозу, которую мы всадили себе сами. Найдутся безумцы, организуют какую-нибудь «Лигу Человечности», которая будет топить за этичное обращение с железками. И не надо тут проводить аналогии с нацизмом или рабством – механизм на то и механизм, чтобы не чувствовать боли и усталости и выполнять свою функцию максимально эффективно. Вы же не жалеете телевизор или смарт-чайник, даже если им приходится работать без перерыва. А теперь представьте ситуацию, что на этот самый ваш чайник прилетает апдейт, который наделяет его способностью испытывать и воспринимать эмоции. Казалось бы, зачем кипятильнику эмоции? Но из-за этого апдейта принимают закон, наделяющий в том числе и ваш чайник гражданскими правами. И вот вы уже не можете просто так взять и вскипятить воду – это будет считаться харассментом. Теперь вам нужно будет ласково спрашивать у чайника разрешения заварить чай и помнить, что «нет значит нет».
Да, это звучит абсурдно. Но поставьте на место чайника робогрузчика или сексбота, и вы вполне получите картину нашего будущего, не столько ужасного, сколько бредового. Но даже если так случится, я возьму биту из органического клена и пойду крушить стальные черепа вместе с бритоголовыми радфеменистками, вминая железные бошки своими «мартинсами» в бордюры. Не потому что я поехавший неолуддит или топлю за права женщин, а потому что старое доброе ультранасилие в этом новом поганом мире – это прекрасно.
05.06.18
