Цифра и мы. Истории о нашем прошлом, настоящем и будущем

О серии «Цифра на марше»

Мир Цифры – сложное и мало предсказуемое место. Жить в цифровом мире – просто, так как он окружает нас заботой. Жить в цифровом мире – не просто, так как он постоянно меняется.

Чтобы успевать за изменениями, мир Цифры нужно понимать. Для успешной адаптации нужно видеть его концептуальные грани – возможности и перспективы, риски и угрозы.

Поэтому сегодня важна особая просветительская работа, которую мы называем концептуальным цифровым ликбезом. Нужно рассказывать жителям цифрового мира о том, что их окружает сегодня и будет окружать завтра. Рассказывать простым языком об сложных вещах.

Серия книг «Цифра на марше» – наш посильный вклад в эту работу:

«Цифра и будущее» – об угрозах и перспективах мира Цифры.

«Цифра и власть» – первое погружение чиновника в мир Цифры.

«Цифра и образование» – об образовании в мире Цифры.

«Цифра и человек» – об адаптации в изменчивом мире Цифры.

«Цифра и интеллект» – об ИИ-революции и ее последствиях.

«Цифра и экономика» – о цифровой трансформации эконмоики.

Четыре книжки выпущены издательством Nova Creative Group. Мы благодарим группу компаний Сбербанк за помощь в издании. Мы благодарим компанию Whitebird за поддержку серии.

Печатные книги можно приобрести на OZON.

Электронные версии – на платформе Litres.

Печатные версии книг «Цифра и экономика» и «Цифра и интеллект» готовятся к изданию.

Электронные версии книг «Цифра и экономика» и «Цифра и интеллект» можно приобрести на платформе Litres.

Приглашаем на www.digitmarch.info и в ТГ-канал.

10 историй из книги «Цифра и будущее»

Миллиарды галактик, миллионы планет, пригодных для жизни. Но Вселенная молчит. Возможно, разумная жизнь зарождается часто, но цивилизации гибнут по какой-то непреодолимой причине. Возможно, эта причина кроется в технологическом прогрессе, в цифровой трансформации цивилизации. В книге рассматриваются угрозы и возможности цифровых и иных технологий. Эта книга о том, как человечество может избежать цивилизационного апокалипсиса, который эксперты предсказывают в ближайшие десятилетия.

В книге "Цифра и будущее" 50 отдельных историй.

Познакомьтесь с 10 историями. Каждая – это повод задуматься.

Парадокс Ферми и предчувствие апокалипсиса

Молчала Вселенная,

Ждали сигнала в надежде.

Загадка Ферми.

Парадокс Ферми считается одной из величайших загадок Вселенной. Его суть проста и понятна, но от этого не менее загадочна.

В конце XX века ученые с помощью космического телескопа «Хаббл» насчитали 100 миллиардов галактик. В 2016 году эту оценку пересмотрели и число галактик увеличили до двух триллионов. В 2021 году по новым данным оценка была вновь изменена. Сегодня ученые полагают, что в наблюдаемой Вселенной насчитывается примерно 170 миллиардов галактик.

Числа настолько гигантские, что для наших дальнейших рассуждений приемлема самая низкая оценка. Все равно речь идет о многих миллиардах галактик.

В некоторых спиральных галактиках (как, например, в нашем Млечном Пути) более триллиона звезд. В гигантских эллиптических галактиках насчитывается до 100 триллионов звезд. В карликовых галактиках их значительно меньше — примерно 30 миллиардов.

Эти цифры мы приводим, чтобы сделать первый важный вывод: количество звезд во Вселенной – многие и многие миллиарды. Их число практически бесконечно по самым заниженным оценкам.

Не все они относятся к тому же типу, что наше Солнце. Но и таких звезд – многие миллиарды. Не все они имеют планеты, не на всех планетах есть условия для существования органической жизни. Все равно речь идет о миллионах планет, на которых жизнь могла зародиться.

Допущение, что Бог создал Вселенную подобных масштабов с единственной обитаемой планетой, противоречит здравому смыслу. Такую творческую избыточность сложно объяснить.

Противоречит здравому смыслу и другое допущение. Вселенная появилась случайно в результате Большого взрыва, распространилась за миллиарды лет в указанных выше масштабах, но при этом лишь на одной планете были созданы условия, благоприятные для возникновения органической жизни.

Вообразить себе такую исключительность сложно. Представьте себе, что кто-то построил огромный небоскреб и поселил в маленькой щелке на сотом этаже муравья. Скорее даже город гигантских небоскребов с единственным микроскопическим жителем в одном из построенных зданий. Предположение звучит абсурдно.

Наша интуиция, наше чувство гармонии требуют признать, что на многих миллионах планет должна иногда возникать органическая жизнь. По воле случая в первичном бульоне, по Божьей воле – но должна. А далее эволюция в конечном итоге приведет к появлению жизни разумной.

За миллиарды лет во Вселенной должны были возникнуть и достигнуть высот технологического развития миллионы цивилизаций.

На шкале академика Шкловского высший уровень развития технологической цивилизации предполагает использование энергий, сравнимых с энергией материнской звезды. Цивилизации подобного уровня должны расселяться по Вселенной. Такая цивилизация должна оставлять следы, которые будут доступны для наблюдения другим цивилизациям, даже достаточно удаленным.

Теперь финальный вопрос парадокса Ферми: «И где эти следы!?»

Парадокс сформулировал в 1950 году физик Энрико Ферми в дискуссии с коллегами в одном из кафетериев Лос-Аламосской лаборатории (родины атомной бомбы).

Справедливости ради отметим, что Ферми был не первым, кто рассуждал об этой проблеме. Вот что написал великий русский ученый Константин Циолковский в одной из своих заметок в 30-х годах XX века:

В известной вселенной можно насчитать миллион миллиардов солнц. Стало быть, мы имеем столько же планет, сходных с Землёй. Невероятно отрицать на них жизнь. Если она зародилась на Земле, то почему же не появится при тех же условиях на сходных с Землёй планетах? Их может быть меньше числа солнц, но всё же они должны быть. Можно отрицать жизнь на 50, 70, 90 процентах всех этих планет, но на всех — это совершенно невозможно.

На чём основано отрицание разумных планетных существ вселенной? Нам говорят: если бы они были, то посетили бы Землю. Мой ответ: может быть, и посетят, но не настало ещё для того время.

Приведем три основных объяснения парадокса Ферми.

Уникальная Земля. Гипотеза утверждает, что многоклеточная жизнь чрезвычайно редка из-за возможной исключительности планет земного типа. Только ряд невероятных совпадений сделал возможным возникновение сложных форм жизни на Земле. На остальных планетах таких условий не сложилось, жизнь на них зародиться не смогла.

Недоступность сигналов. В гипотезах этой группы приводятся разные причины, почему мы не наблюдаем сигналы высокоразвитых технологических цивилизаций.

Например, такое объяснение: разумным цивилизациям в принципе недоступны энергии, сравнимые с энергией звезд. Или еще одно: живые организмы не могут существовать в открытом космосе из-за излучений, а потому не занимаются космической экспансией.

Великий фильтр. В этой гипотезе утверждается, что на каком-то этапе эволюционного развития материальной жизни существует непреодолимый барьер. Такой барьер не позволяет появляться цивилизациям, способным подать о себе знак братьям по разуму.

Первое объяснение наполняет человека гордостью, но для нашего исследования малополезно. Возможно, ученые правы, и вероятность случайного зарождения жизни настолько мала, что даже огромные масштабы Вселенной ситуацию не спасают.

Иногда приводят такой пример. Вероятность случайного зарождения жизни равна вероятности того, что обезьяна, случайно ударяющая по клавишам пишущей машинки, в результате получит сонет Шекспира.

Анализировать эту дискуссию в нашем исследовании не будем.

Наиболее интересные гипотезы второго объяснения рассмотрим в следующей истории. Возможно, что там и кроется ответ на загадку парадокса Ферми. Хорошо, если так.

В контексте нашего исследования интересно третье объяснение.

В 1996 году британский экономист и футуролог Робин Хэнсон предположил, что межзвёздная цивилизация возникает, если выполняется ряд эволюционных шагов. На каждом шаге может существовать непреодолимый цивилизационный барьер.

Вот эти шаги:

Возникает звёздная система с пригодной для жизни планетой.

На планете появляется самовоспроизводящаяся молекула.

Появляется простой одноклеточный организм (прокариот).

Появляется сложный одноклеточный организм (эукариоты).

Появляется многоклеточный организм.

Возникает половое размножение.

Возникают животные с развитым мозгом.

Появляется вид разумных животных (homo sapiens).

Достигнуто текущее состояние человечества.

Цивилизация начинает процесс колонизации космоса.

Парадокс Ферми британский ученый объясняет следующим образом. В какой-то точке эволюции существует некая преграда, преодолеть которую крайне маловероятно или вообще невозможно.

Преграда может выражаться в совокупности природных факторов, которые не дают жизни возникать и достаточно развиваться. Она может объясняться неизбежной гибелью разумной жизни в результате собственных действий или природных катаклизмов.

Если фильтр существует на одном из первых трех шагов, то мы имеем дело с гипотезой об уникальной Земле.

Изучение эволюции жизни на Земле дает основание предполагать, что шаги с четвертого по седьмой будут обязательно пройдены, пусть и за достаточно длительное время.

Появление на Земле первого человека все еще остается большой загадкой. Наша цивилизация этот шаг преодолела, поэтому считать его маловероятным оснований нет.

Также нет оснований считать маловероятным прохождение пути от первобытного человека к нынешнему состоянию развитой технологической цивилизации.

Мы этот путь прошли, все этапы с той или иной степенью детализации можно отследить. Форс-мажорных факторов не наблюдалось.

Существование и гибель Атлантиды – не доказаны, хотя и не опровергнуты. Метеорит, падение которого погубило мир динозавров, упал на землю 60 миллионов лет назад. Упади он на Землю сто тысяч лет назад, восьмой шаг пришлось бы начинать сначала.

Таким образом, искать великий фильтр остается между шагами девять и десять. Именно здесь могут лежать причины, по которым цивилизации не выходят на межзвездный уровень.

Об этих возможных причинах наша книга.

В контексте вышесказанного мы не можем обойти вниманием последнею книгу Нового Завета. Это книга называется «Откровения Иоанна Богослова». Еще одно ее название – «Апокалипсис».

Посредством видений апостолу Иоанну открылось будущее человечества. Предстоящее рождение антихриста на Земле, второе пришествие Иисуса Христа, конец света, Страшный суд.

В книге присутствуют образы, ставшие темой для многочисленных богословских толкований: апокалиптические всадники, вавилонская блудница и др.

В «Апокалипсисе» упомянуто число зверя — 666. Многократно предлагались различные расшифровки значения этого числа.

Приведем самый знаменитый сегодня фрагмент книги «Апокалипсис». Он заиграл новыми красками в последние десятилетия, когда цифровизация широко зашагала по планете:

И увидел я другого зверя, выходящего из земли; он имел два рога, подобные агнчим, и говорил, как дракон. … И он сделает то, что всем, малым и великим, богатым и нищим, свободным и рабам, положено будет начертание на правую руку их или на чело их, и что никому нельзя будет ни покупать, ни продавать, кроме того, кто имеет это начертание, или имя зверя, или число имени его. Здесь мудрость. Кто имеет ум, тот сочти число зверя, ибо это число человеческое; число его шестьсот шестьдесят шесть.

В одной из будущих историй мы еще вернемся к этому фрагменту.

Книга «Откровения Иоанна Богослова» стилистически отличается от остальных книг Нового Завета. Она до краев наполнена многозначными аллегориями, которые по-разному воспринимаются читателями из разных эпох.

Для нашего исследования «Апокалипсис» важен иным.

В этой книге прямо говорится о том, что человеческая цивилизация в ее материальном виде обречена. Нашу цивилизацию ждет расцвет, затем пришествие Антихриста и гибель. Потом, уже в иной реальности, Страшный суд и установление Царствия Божьего для праведников, ада для грешников.

События книги сопровождаются многочисленными катаклизмами и бедствиями. Поэтому слово «апокалипсис» часто употребляют как синоним конца света или катастрофы планетарного масштаба.

«Откровение Иоанна Богослова» – это послание и предупреждение человечеству. Причем послание явно в будущие века. Слишком оно было сложно и непонятно для современников Иоанна Богослова.

Мы не беремся судить, кто был первоисточником этих пугающих откровений. Посланник Бога, который решил через Иоанна передать сообщение далеким потомкам, вставшим на путь технологического развития? Представитель межзвездной цивилизации, попавший на Землю в то далекое время? Зная типичный эволюционный путь технологической цивилизации, он вполне мог предупредить людей далекого будущего о великом фильтре, который им предстоит преодолеть.

Это для нашего дальнейшего повествования не так и важно.

Мы надеемся, что «Апокалипсис» предупреждает человечество об угрозах и барьерах, которые можно преодолеть. Маловероятно, но можно.

Возможно, цивилизации, которые преодолевают великий фильтр, просто попадают в «высшую лигу». Им не нужно и даже вредно проявлять себя перед цивилизациями, которые размахивают над головой ядерным оружием, экспериментируют со смертельными вирусами, мечтают о виртуальной нирване.

Возможно, цивилизации, вышедшие в космос, в силу непреодолимых физических ограничений осваивают только близлежащие звездные системы. Таких цивилизаций в бесконечной Вселенной множество, но мы о них просто не знаем.

Основные черты дивного нового мира

Сложность растет

И становится мир непонятней.

Куда он идет?

Каждое поколение считает, что ему приходится жить в особое время. Наиболее явственно это ощущается на рубеже веков.

Начало XIX века. Сколько потрясений пришлось пережить Европе за сравнительно небольшой срок после Великой французской революции и прихода к власти Наполеона Бонапарта. Начало XX века – Первая мировая война и революция в России, определившие тенденции развития цивилизации на сто лет.

Людям, которые жили в те времена, казалось, что все полетело кувырком, старые ценности разрушены и забыты. Новое поколение другое, и понять его невозможно. Многие чувствовали себя потерянными, вокруг рушился привычный, казавшийся незыблемым мир.

Знакомые ощущения и переживания для людей, которым сегодня за сорок. На рубеже тысячелетий они обострились до предела.

Уже в конце XX века эксперты ООН отмечали, что одной из ведущих тенденций в современном мире является его возрастающая изменчивость. Скорость, с которой сегодня меняется мир идей и вещей, не снилась нашим дедам и прадедам. К электричеству, телефону, автомобилю люди привыкали десятки лет. Сегодня мы постоянно сталкиваемся с нововведениями, которые требуют интеллектуальных и временных усилий на освоение.

Новые и привычные компьютерные программы, которые постоянно развиваются и наращивают функциональные возможности. Раз в два-три года пользователю нужно привыкать к новым версиям операционной системы и офисных приложений. Миллионы людей не успевают не то что осваивать, а даже отслеживать новый функционал сотовых телефонов…

Здоровый консерватизм, присущий большинству людей, вступает в противоречие с окружающим миром. Это подтверждают оценки психологов и социологов. Они отмечают сегодня рост стрессов и психических расстройств.

Эксперты объясняют ускорение изменений следующими факторами:

сформирована развитая организационная инфраструктура, порождающая инновационные исследования (в университетах, корпорациях, государственных и некоммерческих исследовательских центрах);

стремительное развитие коммуникационной инфраструктуры обеспечивает быстрое распространение результатов инновационных исследований, новых технологий;

сформированные в ходе глобализации международные институты помогают распространению и признанию глобальных соглашений, стандартов и норм, связанных с инновациями.

Сначала возрастающую изменчивость отмечали, но выводы делали поверхностные. Главным ответом на нее полагали непрерывное образование, первые концепции которого появились в конце XX века. Концепции эти тоже были незамысловатыми. Учебой в школе и университете образование не заканчивается, учиться придется всю жизнь.

В последние годы стало очевидно, что возрастающая изменчивость – лишь верхушка айсберга. Современному миру присущи и иные общие черты, которые способны перевернуть многие устоявшиеся представления. В том числе касающиеся сферы образования.

Как это обычно бывает в человеческом обществе, первыми о них публично заявили военные. Американские аналитики, вырабатывая и оценивая стратегии ведения боевых действий в XXI веке, выдвинули концепцию VUCA. Вот ее краткое изложение.

Оценивать ситуацию на театре военных действий все сложнее из-за возросшей скорости и непредсказуемости перемещения войск, наличия реактивной авиации, атомных подлодок и др. (Volatility – изменчивость, нестабильность).

Сложно оценить время и место вмешательства в военный конфликт сторонних сил, способных изменить ход событий, их реальные возможности, угрозы, которые ими создаются (Uncertainty – неопределенность).

Возрастает сложность эффективного управления боевыми единицами за счет роста их многообразия, необходимости комплексного взаимодействия с учетом современных сетевых технологий (Complexity – сложность).

Современные сетевые технологии, средства радиоэлектронной борьбы повышают риски дезинформации, искажения реальной картины происходящего, что ставит под сомнение принятие правильных решений (Ambiguity –неоднозначность, двусмысленность).

VUCA – это акроним четырех указанных характеристик.

Концепция настолько кратко и точно сформулировала проблемы современного мира, что ее взяли на вооружение не военные организации. В первую очередь – бизнес.

Эта концепция объясняет, почему в последнее время так много экспертов в сфере образования и консультантов на рынке труда говорят о необходимости замены формальных знаний и умений компетенциями. Давайте порассуждаем, опираясь на очевидные вещи и здравый смысл.

Изменчивость, нестабильность. Большинство людей испытывают страх и даже отвращение перед неизведанным, неясным, новым. Лишь немногие получают от постоянных изменений удовольствие, стремятся принять в них активное участие. Историк Лев Гумилев называл таких людей пассионариями. То, что их меньшинство, обусловлено эволюцией человеческого рода. Пассионарии из-за своей неуемности гибнут быстрее и чаще, оставляют меньше потомства. Их гены – сегодня, как и во все времена, редкость. О пассионарности в наше непростое время поговорим в одной из следующих историй.

Большинству людей жить в XXI веке сложно. Считается, что те, кто стремится к определенности, обладают стереотипностью мышления, преувеличенным уважением к власти, неумением понимать людей и анализировать их поступки. Стать успешными в VUCA-мире таким людям непросто.

Все было бы совсем печально, но на помощь современному изменчивому миру пришла нейропсихология. Последние исследования в этой области показывают, что мозг человека пластичен, причем не только в детстве. Это позволяет человеку при определенных тренировках быстрее адаптироваться к изменяющимся условиям, даже полюбить их. Поэтому не все потеряно, и практически любой человек способен выработать в себе необходимые качества. Но сами собой они не появятся, их формированию нужно уделять должное внимание.

Неопределенность. Данная характеристика – это порождение и проявление предыдущей. В быстро меняющемся мире, когда изменения зачастую противоречат друг другу и идут в разных направлениях, неопределенность – это норма.

Согласно исследованиям, те, кто хорошо переносит ситуации неопределенности, обладают гибким умом и высоким уровнем интеллекта. Неизвестность стимулирует их умственную деятельность и воображение, является прекрасной возможностью создать что-то новое.

Такие люди умеют полагаться на интуицию, а не только на логику. При возникновении проблемы они, как правило, находят несколько способов ее решения. У таких людей хорошее психическое здоровье, низкий уровень тревожности, адекватная самооценка. Они умеют слышать и понимать других, находят общий язык с самыми разными людьми. Их катастрофически мало.

Традиционная система образования целенаправленно не формирует подобные качества. Ни в школе, ни в университете. Часто они появлялись у людей не благодаря, а вопреки традиционному образованию. Поэтому эксперты сегодня бьют в колокола – требуются новые подходы ко всему: к мотивации, к содержанию, к организации образовательного процесса, к оценке его результатов. Требования справедливые, но выполнить их разумно – ой как непросто.

Сложность. Данную характеристику также можно считать порождением и проявлением возрастающей изменчивости. У любых изменений есть результаты, проявляющиеся в реальном и виртуальном мирах. Новые результаты сразу не отменяют старые и могут сосуществовать с ними долгое время. Результатов все больше и больше – вот и постоянное усложнение окружающего мира.

Как нормальный человек чаще всего реагирует на сложность? Он старается ее упростить. Альберт Эйнштейн говорил: «Все должно совершаться так просто, как только возможно, но не проще. Сделанное слишком просто, становится упрощенным». Очевидно, что в цитате в слово «упрощенное» великий физик вкладывал негативный смысл.

К сожалению, упрощенные подходы к оценке ситуации в самых разных сферах становятся сегодня доминирующими. Во многом это объясняется информационным потоком, который захлестывает сознание человека. Под его воздействием люди часто говорят себе: «Все, я ничего не буду использовать кроме привычных, испытанных временем инструментов».

Когда упрощением занимаются обыватели на кухне – это еще не так страшно. Но когда примитивное упрощение окружающего мира становится доминирующим у политиков, впору задуматься о парадоксе Ферми.

Что можно предпринять, чтобы снизить риски подобной деградации и научить людей адекватно воспринимать сложные вещи? Нужно с раннего возраста учить детей систематизировать и классифицировать объекты окружающего мира. Нужно на разных информационных блоках учить детей выделять главное, видеть суть информационного сообщения, отсеивать информационный мусор. Нужно целенаправленно формировать системное мышление.

Нужно формировать навыки конструктивного взаимодействия с другими людьми, навыки командной работы, лидерские качества. Сегодня многие эксперты отмечают, что правильная реакция на сложность окружающего мира – это переход от иерархических к сетевым организационным структурам. Только коллективный мозг организации способен проанализировать и учесть максимальное число существенных факторов окружающего мира. Для этого лидерство должно быть распределено по всей ее структуре.

Неоднозначность, двусмысленность. В окружающем мире часто эта характеристика является проявлением сознательных или неосознанных манипуляций. Общим местом стало недоверие к официальным СМИ во всех странах, и в первую очередь – в странах с либеральными демократическими режимами. Неофициальные источники информации также чаще всего далеки от объективности.

Разобраться в информационном хаосе непросто. По каждому явлению можно встретить как минимум три трактовки. Две крайних и одну компромиссную. Приведем примеры.

Глобальное потепление уже в самом ближайшем будущем погубит цивилизацию. Никакого глобального потепления нет, скоро начнется ледниковый период, и мы все замерзнем. Глобальное потепление грядет, но все произойдет не так скоро и не так страшно.

Глобальное потепление – результат деятельности человека. Глобальное потепление – результат изменений солнечной активности. Глобальное потепление имеет комплексную причину.

Это известные примеры неоднозначности.

Что здесь можно сделать? Ответ найден и в последние годы набирает популярность. Нужно формировать у людей критическое мышление. Прививать навыки и желание объективно оценивать информацию. Обучать выявлять манипулятивные техники и различать когнитивные искажения. Простой пример для понимания.

Состоялась встреча глав стран Большой семерки

Состоялась судьбоносная встреча глав стран Большой семерки

Второй заголовок в газете – пример когнитивного искажения, при котором факты подменяются их трактовкой. Какой процент людей способен сегодня оценивать яркие заголовки газет с этой точки зрения? К сожалению – весьма небольшой. И что для нашего исследования важно, пока он быстро уменьшается.

Если человечество не осознает нарастающие проблемы жизни людей в VUCA-мире, быть беде. Если государства не начнут с детства готовить граждан к изменчивости, неопределенности, сложности и многозначности окружающего мира, наши цивилизационные перспективы будут только ухудшаться.

В заключение приведем две поговорки:

Нет хуже, чем жить во времена перемен.

Время перемен и время возможностей являются синонимами.

Каждому выбирать, по какой поговорке жить.

Концепция 4М и деградация выборной демократии

Над выбором думал,

Которого больше не будет.

Афины в печали.

Демократия, представительная демократия – один из фетишей современного мира. Классическое определение говорит о том, что это форма правления, при которой народ избирает должностных лиц для создания законов и политики от своего имени. Далее будем употреблять термин-синоним «выборная демократия».

Во многих странах мира правление основано на выборной демократии, включая США, Великобританию, Францию, Россию. Не является выборной демократией Китай. Но КПК и китайское правительство заявляют, что Китай – это социалистическая демократия и народно-демократическая диктатура.

На Западе тезис о преимуществах выборной демократии перед другими формами правления сомнению не подвергается. Иные формы правления постоянно очерняются, демонизируются. Правда это тоже делается на основе двойных стандартов. Россия, Китай и Иран – это злобные диктатуры, а монархии Ближнего Востока – белые и пушистые, от настоящих демократий почти не отличишь.

Однако за красивым фасадом по шкафам скрывается множество скелетов, как из прошлых веков, так и из настоящего времени.

Считается, что демократия зародилась в Древней Греции и Древнем Риме более 2000 лет назад. В античных городах-государствах верховной законодательной, исполнительной и судебной властью обладало собрание граждан. Население этих городов редко превышало 10 000 человек, а женщины и рабы политических прав не имели. Собрание имело право выбирать представителей для решения отдельных задач, например, связанных с военными действиями.

Выборы в те времена имели важнейшую особенность. Выборщики хорошо знали тех, кого они выбирали. Это позволяло ориентироваться на дела кандидата, а не на его слова. Красноречие тоже учитывалось, но, скорее, как проявление ярких личных качеств кандидата, его харизмы. И слова всегда можно было сравнить с прошлыми делами, достижениями и неудачами кандидата.

Примерно также действовала демократия в племенах, выбирающих вождей; в средневековых городах, выбирающих бургомистров; в различных гильдиях. Такая демократия предполагала, что выбор делается осознанно, на основе реальных достижений конкретных кандидатов. Понятно, что при этом нередко присутствовали подкуп и запугивание выборщиков. Идеальной такую систему вряд ли можно считать даже в те благословенные годы.

Интересно, что для многих монархий, деспотий и иных авторитарных режимов в глубине истории можно найти демократические истоки. Отец Чингисхана был выборным военным вождем монголов. Его сын объединил монголов, завоевал полмира и создал могущественное военное государство. А в дальнейшем только потомки Чингисхана, даже при полной никчемности, имели право на правление в Монгольской империи. Варяга Рюрика на царствие призвали, а потом Рюриковичи правили Русью более 500 лет. Михаила Романова царем выбрали, и династия Романовых воцарилась в России на 300 лет.

Повторное явление миру выборной демократии началось по мере трансформации феодального общества в капиталистическое. В борьбе с вырождающейся аристократией новой финансово-промышленной элите потребовались инструменты влияния на внутреннюю и внешнюю политику своих и чужих стран. Для больших денег выборная демократия оказалась подходящей концепцией.

На первых порах в XIX веке и в начале XX круг причастных к выборной демократии был существенно ограничен. Не имели избирательных прав женщины. Были распространены имущественный ценз (установленный минимум собственности, уплата налогов не менее определённой суммы) и образовательный ценз.

Эти ограничения играли важную роль в демократических процессах. Избирателями являлись предприимчивые, успешные и образованные люди. Они подходили к выборам осознано. Даже не зная лично кандидатов, старались вдумчиво оценить и их дела, и их публичные заявления.

Средства массовой информации уже существовали, но еще не превратились в источник массовых фейков, предвзятых интерпретаций, беспардонной дезинформации. Они позволяли вполне адекватно оценивать кандидатов.

Еще один важный фактор. Образованный, умный, успешный человек готов делегировать полномочия другому человеку – кандидату на выборную должность. Но при условии, что кандидат – человек достойный, успешный, не менее умный и образованный, чем сам выборщик.

Что сегодня можно сказать про тех политических и государственных деятелей, которых выборная демократия возносила на властный Олимп в те далекие годы? Это были личности, по уровню и масштабу превосходящие подавляющее число своих избирателей.

Аппетит, как известно, приходит во время еды. С начала XX века началась активная борьба самых разных общественных групп за право войти в состав избирателей. Отменялись имущественные и образовательные цензы. Во всех странах постепенно снижался возрастной ценз. В борьбу за избирательные права вступили женщины.

К середине XX века в большинстве стран с демократической формой правления вступило в силу так называемое «всеобщее избирательное право». Его получили мужчины и женщины, как правило не моложе 18 лет. Ограничения были, но они не носили дискриминационного характера. Не имели право голосовать преступники в местах заключения, недееспособные люди, не имеющие гражданства.

Состав избирателей расширился. Однако в годы капиталистического расцвета после Второй мировой войны определяющую роль в избирательных процессах по-прежнему играл средний класс. То есть, люди успешные, не бедствующие. В целом – образованные или, как минимум, имеющие хорошую профессию. На выборах, особенно на высшие должности, они оценивали масштаб личности.

Поэтому был избран Авраам Линкольн в 1860 году, Теодор Рузвельт в 1901 году, Франклин Делано Рузвельт в 1933 году, Джон Кеннеди в 1961 году. Уинстон Черчилль, Шарль де Голль, Конрад Аденауэр, Вилли Брандт… Можно по-разному оценивать их роль в мировых событиях. Однако отрицать их политический уровень и масштаб личности не будут даже самые заклятые противники.

Эксперты по-разному отсчитывают начало деградации демократических институтов в западных странах. Кто-то связывает это с эйфорией после развала Советского Союза. Кто-то отмечает ведущую роль электронных средств массовой информации, научившихся конкурировать за внимание аудитории самыми неприглядными методами. Кто-то увязывает это с постепенной деградацией среднего класса как в количественном, так и в качественном смысле.

По нашему мнению, деградация выборной демократии началась в 80-е годы XX века. В XXI веке с развитием интернет-технологий она ускорилась, а после кризиса 2008 года стала явной и необратимой. Именно в XXI веке в избирательной среде западного мира стали набирать обороты процессы, которые мы назвали «концепцией 4М».

В соответствии с концепцией состав избирателей в ведущих западных странах быстро меняется. В избирательных процессах все более значимую роль играют четыре общественные группы: маргиналы, молодежь, мигранты и меньшинства.

Маргиналы – люди, которые по тем или иным причинам находятся вне рамок традиционных социальных групп, люди «вне системы». Принципиальные бомжи и бездомные; принципиальные получатели социальных пособий; люди, потерявшие жилье и/или работу; люди с психическими расстройствами, которые не могут встроится в социум; игроманы, наркоманы и алкоголики; разнообразные сектанты; представители криминального мира. Если внимательно почитать западную прессу, то станет очевидным количественный рост в последние годы всех перечисленных групп.

В век «всеобщего избирательного права» они являются избирателями, которых нужно учитывать при выдвижении и продвижении «представителей народа». Каковы же избирательные предпочтения маргиналов? Они основаны на протестном мироощущении и принципе «чем хуже, тем лучше».

Молодежь мы выделили в отдельную группу, так как в век интернета психологи и социологи отмечают интересное явление. Его иногда называют «затянувшимся детством современной молодежи». В годы раннего капитализма, в послевоенные годы капиталистического расцвета большинство молодых людей быстро взрослели и встраивались в традиционные социальные группы. Сегодня ситуация иная. Все больше молодых людей мыслят и оперируют детскими категориями, давно покинув школьную скамью. Эту тему мы выделили в отдельную историю.

Как и во все времена молодые люди, не избавившиеся от детских представлений о мире, внутренне протестуют против авторитета взрослых, против их ценностей и традиций. Только раньше их детство заканчивалось к 20 годам, а сегодня оно без проблем продолжается и после 30 лет.

Каковы же избирательные предпочтения современной западной молодежи? Хайп, яркие картинки и забавные видео, короткие протестные тексты рэп-культуры, минимум логики и аргументации. За кого они пойдут голосовать, легко представить.

Мигранты постепенно, но вполне успешно, разъедают традиционную протестантскую культуру западного мира. Великое переселение народов с Юга и Востока на Запад и Север остановить не получается. Попытки перестроить национальное и религиозное самосознание мигрантов, привить им традиционные ценности принимающей стороны проваливаются.

Подражают сильным, слабых и готовых терпеть унижения презирают. Поэтому мечты о культурной ассимиляции агрессивных и пассионарных, но малообразованных мигрантов давно разбиты в пух и прах. С этим смирились уже даже европейские бюрократы, придумавшие политику мультикультурализма.

Но толерантность, права человека превыше всего. Как не дать избирательное право этим несчастным обездоленным людям?

Что сегодня можно сказать о предпочтениях расширяющейся прослойки мигрантов-избирателей? Премьер-министр Великобритании (индиец), мэр Лондона (пакистанец), вице-президент США (латиноамериканка) и еще сотни нынешних или совсем недавних примеров – не самая плохая альтернатива клоунам, которых готовы избирать маргиналы и молодежь западного мира.

Меньшинства и их роль в деградации современного мира – это тема следующей истории. В ней акцент будет делаться на биологических и психологических аспектах, на естественных причинах агрессивности. Здесь же отметим как факт – количество представителей нетрадиционных сексуальных и гендерных ориентаций в западных странах стремительно растет. После 18 лет они являются избирателями. Их главное избирательное предпочтение – провести во власть своих представителей.

Понятно, что перечисленные группы пересекаются. Молодого мигранта, выбравшего для жизни криминальную среду, можно отнести сразу к трем группам. Но факты остаются фактами – число избирателей из 4М-групп быстро растет. Такие избиратели часто агрессивны и даже в меньшинстве способны кардинально влиять на выборы.

Современные политики, а точнее те, кто выделяет средства на их раскрутку, выдвижение и продвижение, это учитывают и под это подстраиваются. Ни одна из 4М-групп не захочет голосовать за нового Шарля де Голля. Приходит время политиков-клоунов, политиков-маргиналов, политиков-шоуменов. Время полной деградации и дискредитации выборной демократии.

При выборной демократии такого уровня один шаг до политиков, сгенерированных нейросетями. Откровенного популиста выбирали, клоуна выбирали, почему теперь по приколу не выбрать нейросеть? У нее и плюс неоспоримый есть – она может побеседовать на личные темы с каждым избирателем.

Недавние выборы в США вроде бы показали, что большинство, которое придерживается традиционных ценностей, еще в состоянии отстаивать и приводить во власть своего кандидата. Но как будет развиваться ситуация, чем она закончится по прошествии четырех лет президентского срока Дональда Трампа – об этом высказываются самые разные предположения. Время покажет.

Античные и племенные демократии раз за разом приводили к правлению монархии и деспотии. Республиканский Древний Рим сменился Римской империей. Союзы племен франков породили королевские династии Каролингов и Меровингов, империю Карла Великого. Полторы тысячи лет новой эры демократические институты существовали фрагментарно: в отдельных средневековых городах, в отсталых племенах, на пиратских кораблях.

История подтверждает – выборная демократия не вечна, ей на смену часто приходят авторитарные режимы. Причина простая – тем, в чьих руках в результате демократических процедур концентрируется власть, становится выгодной иная, авторитарная форма правления.

Современная выборная демократия деградирует. Свою роль для правящего класса она выполнила, на смену стучится новая действительность. Менять проще то, что доведено до абсурда и полностью дискредитировано. Цифровые технологии, способные имитировать многие аспекты человеческой деятельности, упростят переход. Переход к цифровому концлагерю, о котором разговор еще предстоит.

От философских трактатов к вирусному контенту

Сначала – трактаты,

Потом уже тексты попроще.

И селфи – итог.

Совершим короткую экскурсию в прошлое и вспомним информационные революции, через которые проходило человечество.

Информационная революция – это глубокие качественные изменения, происходящие в результате внедрения новых средств хранения, обработки и передачи информации.

Первая информационная революция связана с изобретением письменности. Появилась возможность передачи знаний от поколения к поколениям. Письменность появилась примерно пять тысяч лет назад в Месопотамии и Египте. Она стала ключевым элементом экономической базы цивилизаций Древнего мира.

Вторая информационная революция была вызвана изобретением книгопечатания, которое способствовало развитию зарождающегося индустриального общества. Немец Иоганн Гуттенберг между 1450 и 1455 годами изобрел печатный пресс и наборный шрифт.

Третья информационная революция началась в конце XIX века. Ее связывают с изобретением электричества, телеграфа, телефона, радио. Они позволили быстро передавать информацию на большие расстояния, ускоряя информационные процессы.

В 50-е годы XX века стало активно развиваться телевидение, появились первые электронные вычислительные машины. Однако считается, что распространение этих технологий происходило в рамках продолжающейся третьей революции.

Четвертая информационная революция связана с изобретением микропроцессоров и появлением персональных компьютеров. Она началась в 70-е годы XX века. На микропроцессорах и интегральных схемах до сих пор создаются компьютеры, компьютерные сети, системы передачи данных. Постоянно происходит миниатюризация микропроцессоров и рост их вычислительной мощности.

Некоторые эксперты считают, что широкое распространение интернет-технологий запустило пятую информационную революцию, которую мы переживаем. Одна из основных причин – стоимость распространения информации стала близка к нулю. Другая причина – доступность информации стала максимальной.

Первые четыре информационные революции несли мало угроз человеческой цивилизации. В первую очередь они способствовали технологическому прогрессу и развитию общества. Конечно, любой инструмент можно превратить в оружие. Ножом можно чистить картошку, а можно убивать. В печатных изданиях можно публиковать массу полезных и интересных вещей, а можно распространять призывы к насилию. Но это угрозы косвенные, не связанные с самими технологиями.

Пятая информационная революция в этом ряду стоит особняком. Она протекает стремительно. С появлением генеративных нейросетей уже говорят о переходе к следующей информационной революции. Она непредсказуема и порождает угрозы сама по себе.

Основным продуктом пятой информационной революции стал цифровой контент. Перечислим важные, на наш взгляд, тенденции, связанные с цифровым контентом. Некоторые из них с точки зрения возможных угроз относительно безобидны. Другие при вдумчивом анализе пугают своими перспективами.

Скорость роста объема цифрового контента возрастает. За размерами «цифровой вселенной» эксперты следят с 2007 года. Под «цифровой вселенной» понимаются цифровые данные, созданные, скопированные и использованные на текущий момент. По оценкам после 2012 года «цифровая вселенная» удваивается каждые два года. К настоящему времени достигла размера, исчисляемого триллионами гигабайтов. Если ее записать на планшеты с объемом памяти 128 ГБ, то «стопка» планшетов будет по высоте равна нескольким расстояниям от Земли до Луны. Впечатляет!

На память приходит информационный взрыв, о котором заговорили в 60-70 годы. Тогда было отмечено, что объем публикаций на планете постоянно растет. Авторство приписывают фантасту Станиславу Лему, который обозначил проблему в «Сумме технологий».

В те годы имелись в виду научные публикации. Говорили об экспоненциальном росте знаний. Потом о знаниях понемногу забыли, речь уже велась в целом об объеме публикуемой информации.

Сегодня не принято акцентировать внимание на том, что результаты селфи активной девушки за год и тексты сочинений классиков мировой литературы по объему в байтах примерно равны.

Тенденция, по сути, говорит о том, что информационная мусорная свалка человеческой цивилизации растет опережающими темпами. Нас спасают Гугл и Яндекс с их поисковыми механизмами и инструментами. В последние годы большие надежды возлагают на нейросети. Но и здесь кроется серьезная опасность. И алгоритмы поисковых машин, и обучающие массивы данных для нейросетей носят субъективный характер. Их можно адаптировать под конъюнктурные пожелания.

Структурирование цифрового контента. На цифровой свалке неизбежен спрос на структурированные и систематизированные сведения. Платные базы данных по самым разным вопросам создают давно. В них владельцы целенаправленно избавляются от информационного мусора, оставляя только ценные данные. Развивается спрос на контекстные знания, увязанные с теми или иными аспектами человеческой деятельности. Способности к структурированию и конспектированию информации демонстрируют генеративные нейросети.

Тем не менее сегодня приходится констатировать, что структурированным цифровым контентом пользуются немногие. Большинство продолжает копаться на информационной свалке с помощью поисковых инструментов. Сегодня к этому добавились запросы к нейросетям.

В обоих случаях достоверность быстрых ответов под сомнением.

Упрощение цифрового контента. Тенденция с небольшими плюсами и огромными цивилизационными минусами.

Упрощение материала может быть благом. Есть такая историческая байка о Нильсе Боре. Ему предложили выступить перед незнакомой аудиторией. Бор спросил, а сколько дают времени? Какая разница? – удивились приглашающие. Если выступать 15 минут, мне нужно несколько дней на подготовку. Если выступать 2 часа, то могу выступить прямо сейчас. Так ответил великий физик. Об этом же известная поговорка «Краткость – сестра таланта».

Глубина мыслей, многословие и сложность изложения – это не одно и то же. Поэтому в интернете популярны авторы, способные излагать мысли четко, кратко, обосновано.

Но чаще под упрощением понимается совсем другое – примитивизация цифрового контента. Сложно воспринимать большой текст? Мы его сократим. И сокращенный сложно? Снимем видеоролик. И это сложно? Нарисуем пару картинок, а под ними короткие подписи.

Схема утрированная, но близкая к реальности.

Примитивизация контента – это раскручивающаяся спираль. Она является реакцией издателей на читательские предпочтения. Читать философские и научные трактаты способны немногие – появляется жанр «научно-популярная литература». Научно-популярные книжки тоже постепенно упрощаются. В тренде энциклопедии с картинками и подписями к ним.

Работа с упрощенным контентом усиливает потребность в упрощениях. Очередное упрощение уже напоминает примитивизацию. Работа с примитивным контентом приводит к очередному запросу на еще большее упрощение. В результате самыми популярными становятся короткие эмоциональные «видосики» или результаты селфи.

Сегодня в интернете пользователь в среднем воспринимает не более 20% информации на странице. Избегает больших абзацев. Текст не читает, а сканирует, пробегая по нему глазами и выхватывая разрозненные куски информации. Чем проще страница, тем больший ее объем просмотрит и хоть как-то осознает пользователь.

Такой интернет-серфинг отдаленно напоминает популярные в прошлом веке методики быстрого чтения. Полноценное и правильное применение этих методик – дело достаточно напряженное, требующее серьезных интеллектуальных усилий. Суть таких методик – тренировка способности выхватывать из больших объемов текстовой информации ключевые мысли. Люди, которые осваивали эти методики, с успехом используют их в интернет-путешествиях.

Современная молодежь редко владеет такими методиками. Бездумно блуждая по страницам интернета, человек выхватывает не ключевую, а случайную информацию. Это способствует развитию цифрового слабоумия, о котором будет отдельный разговор.

Упрощение цифрового контента, переходящее в его примитивизацию, является серьезной угрозой для цивилизационного развития. В то же самое время оно помогает готовить обывателей к жизни в оруэлловском обществе. Где правда – это ложь, а мир – это война.

Ценится контент, способный стать хайпом. «Хайп» – термин современного ИТ-сленга. Хайп — это шум в медиа и социальных сетях вокруг какой-либо темы, предмета или персоны. Также этим словом обозначают быстрый, громкий успех человека или продукта, к которому приковано внимание публики. Еще одно значение — навязчивая или агрессивная реклама, главная цель которой не рассказать о товаре, а искусственно создать вокруг него ажиотаж.

У тенденции два проявления.

Пособия по контент-менеджменту, которые помогают людям создавать «правильные» сообщения, не обходятся без упоминания вирусного контента. Это контент, способный без дополнительной рекламы распространяться с огромной скоростью, как эпидемия. Отсюда и название – вирусный или виральный контент.

Вирусный контент сразу становится модным. Просмотреть и поставить лайк обязан любой уважающий себя пользователь интернета. Срок жизни такого контента недолог. В большинстве случаев его цивилизационная значимость равна нулю.

Второе проявление тенденции – это способность информации вызывать хайп в реальном или цифровом мире. Яркий пример – стремительные взлеты и падения биткоина на разных новостях. Еще один пример – последние дни предвыборных гонок. В эти дни любая новая информация о кандидатах быстро становится хайпом.

Жизнь в окружении постоянных хайпов, в ожидании или поиске очередного вирусного ролика отрицательно влияет на критическое мышление человека. С ним сегодня и без этого много проблем. Погружение человека в примитивный, но забавный и популярный цифровой контент, снижает критическое мышление до нуля.

Изменения на рынке поставщиков контента. Здесь мы наблюдаем два интересных процесса.

Во-первых, все больше людей втягивается в создание и публикацию цифрового контента. И это не только девушки, снимающие себя на фоне достопримечательностей. И не только операторы-любители, снимающие жизнь своего кота или скандал в магазине. Это миллионы редакторов сайтов организаций, государственных, коммерческих, общественных. «Если тебя нет в интернете, тебя нет вообще!» – говорят ИТ-революционеры. Это не такое большое преувеличение.

С учетом перспектив роста безработицы в цифровом мире это можно считать положительной тенденцией. Но в отдаленной перспективе ситуация может дойти до абсурда.

В автобиографической повести «Республика ШКИД» авторы, бывшие беспризорники, рассказывают о том, как в детском доме воспитанники начали выпускать стенгазеты. Сначала это делало несколько энтузиастов. Но постепенно в выпуск своих стенгазет втянулись все. На финальном этапе количество издателей стало равно количеству воспитанников. Издатели бегали по детскому дому и предлагали друг другу почитать свои творения. Долго дурдом не продлился и выпускать стали одну газету – коллективную.

В мире повальной безработицы выпуском цифрового контента займутся люди, получающие базовый доход и страдающие от безделья. Что будет с их психикой, когда они не найдут для своего контента заинтересованных потребителей?

Во-вторых, на рынок поставщиков цифрового контента уверенно и даже агрессивно входят генеративные нейросети. Они способны генерировать прозу и поэзию, научно-популярные тексты и новости, статичные и динамичные изображения, презентации под заказ, краткие выжимки из сложных трактатов и многое другое. Это есть уже прямо сейчас, не завтра или послезавтра.

Нейросетям сегодня нашли еще одно применение, достаточно страшное по своей сути. Известно, что многие вместо новостей читают комментарии к ним. По ним формируют позицию, присоединяясь к той или иной группе комментаторов.

Нейросети способны сегодня уверенно участвовать в таких обсуждениях, генерируя комментарии. Они легко создают иллюзию массовости обсуждений, способны направить мысли читателя комментариев в нужное направление. Это тоже реальность уже сегодня.

Социальный рейтинг: от теории к практике

Как поступать?

Молчит твое сердце.

Рейтинг рулит.

В этой истории рассмотрим понятие, которое появилось в XXI веке и с каждым годом вызывают все больше и больше споров. Это понятие «социального рейтинга». Одни эксперты утверждают, что социальный рейтинг спасет человечество от множества угроз цифрового мира. Другие считают, что внедрение социального рейтинга только усугубит риски, возникающие на пути развития человечества.

Идеи, которые легли в основу концепции социального рейтинга, одним из первых изложил французский писатель, экономист, политический деятель Жак Аттали в футуристической книге «Краткая история будущего». В книге автор дает прогноз развития человеческой цивилизации на 50 лет.

Прошло 20 лет с момента выхода этого, талантливого и интересного исследования. Сегодня читать эту книгу даже интереснее, чем сразу после написания. В книге приводится много прогнозов. Это и судьбы отдельных стран, и трансформация институтов человеческой цивилизации, и роль различных технологических новшеств. Как часто бывает в футуристических произведениях, некоторые прогнозы сбылись с высокой точностью, некоторые не сбылись или сбылись с точностью «до наоборот».

В книге Аттали вводит термин «гипернаблюдение». По его мнению, значительная часть функций государства перейдет к частным структурам, в первую очередь – к страховым компаниям. К этому времени на высочайшем уровне будут развиты средства наблюдения за жизнью человека. Потребности частных структур в информации о людях станут определяющими. Они и внедрят систему, которую Аттали назвал гипернаблюдением. Далее в тексте книги:

…Они станут наказывать курильщиков, пьяниц, лиц, страдающих ожирением, безработных, незащищенных, агрессивных, рассеянных, опрометчивых, растяп, мотов. Невежество, уязвимость и расточительность будут считаться болезнями.

Этот прогноз сбывается с пугающей точностью. Весь мир бьет тревогу: цифровые гиганты Amazon, Google, Meta и корпорации поменьше собирают о нас огромные массивы данных. Технологии больших данных и искусственный интеллект помогают их обрабатывать и использовать для извлечения прибыли.

О социальном рейтинге как концепции заговорили в 2014 году. Это было вызвано опубликованными планами китайского правительства по внедрению «системы социального кредита». Определение из соответствующей статьи в Википедии:

Система социального кредита – система оценки отдельных граждан или организаций на основе множества критериев, получаемых с помощью инструментов массового наблюдения и обрабатываемых с помощью технологий анализа больших данных.

В русскоязычном сегменте интернета чаще используются синонимы: «система социального рейтинга» или «социальный рейтинг»

Публикации в интернете о китайском социальном рейтинге можно разделить на несколько частей. В одних рассказывается об ужасах концлагеря, который строят коммунисты в Китае. В других просто рассказывается о пилотных проектах в некторых китайских регионах. Люди, живущие в других регионах Китая, пишут, что социальный рейтинг не могут найти, как ни стараются. А еще есть те, кто пытается взвесить плюсы и минусы этого явления, анализируя заявленную в Википедии модель.

Авторы не являются специалистами по Китаю. Мы не можем подтвердить или опровергнуть полярные точки зрения о происходящих там событиях, связанных с внедрением социального рейтинга. Однозначно планы у китайского правительства были и эксперименты проводились. Но никакого общегосударственного социального рейтинга в Китае пока нет, все эксперименты носят региональный характер. Драконовские меры по отношению к людям с низким социальным рейтингом не применяются.

Для нашего исследования не важно текущее состояние экспериментов по внедрению социального рейтинга. Нам важно разобраться в сути того, что под этим понимается, взвесить плюсы и минусы. Поэтому далее кратко изложим содержание статьи в Википедии, посвященной китайскому эксперименту. Не как достоверную информацию, а как возможную, хорошо проработанную теоретическую модель.

14 июля 2014 года правительство Китая впервые опубликовало план и цели внедрения системы социального рейтинга. Основная цель внедрения – «построение гармоничного социалистического общества». Для координации выполнения поставленных задач была создана специальная комиссия при Политбюро ЦК КПК .

Суть эксперимента в следующем. Каждому гражданину начисляют стартовые 1000 баллов. Они постоянно изменяются по единым алгоритмам на основании показателей, поступающих из государственных учреждений, компаний и банков. В основе показателей лежат 160 тысяч критериев.

Баллы начисляются за участие в благотворительной деятельности; заботу о пожилых членах семьи; хорошие отношения с соседями; сдачу донорской крови; поддержку правительства в социальных сетях; наличие хорошей финансовой кредитной истории…

Баллы списываются за нарушение правил дорожного движения; участие в протестах; размещение антиправительственных сообщений в социальных сетях; недостаточную помощь стареющим родителям; распространение недостоверных данных в интернете; участие в деятельности сект; жульничество в онлайн-играх…

Владелец социального рейтинга больше 1050 баллов считается гражданином категории ААА. С 1000 баллов можно рассчитывать на категорию А+, с 900 — на категорию B. Если рейтинг упал ниже 850 – человек относится к категории C. Это уже кандидат на увольнение из государственных структур. Те, у кого социальный рейтинг ниже 600 баллов, попадают в категорию D. Таким людям трудно устроиться на нормальную работу, им не дают кредиты.

В этой модели особо стоит отметить 160 тысяч критериев, по которым алгоритмы будут принимать решение об изменении социального рейтинга. Это важный фактор, но не обязательный. Есть другой пример теоретической модели социального рейтинга.

В 2016 году в 3-м сезоне британского научно-фантастического сериала «Черное зеркало» вышла серия о социальном рейтинге. Прежде чем перейдем к ее рассмотрению, несколько слов о самом сериале. Он посвящен влиянию цифровых технологий на человеческие взаимоотношения, на перспективы нашей цивилизации. Каждая серия не связана с предыдущими ни сюжетом, ни актёрами, ни временем и ни местом повествования. Все сюжеты объединяет гротескное изображение сценариев, которые могут реализоваться в цифровом мире. Это сериал-предостережение, который рекомендуем посмотреть каждому.

Серия о том, как девушка с хорошим социальным рейтингом, мечтающая попасть на свадьбу подруги-кумира, после череды неудачных общений скатывается к состоянию изгоя. Авторы фильма предвосхитили появление культуры отмены, о которой мы уже писали.

В предыдущей модели алгоритмы использовали 160 тысяч критериев. В фильме социальный рейтинг высчитывается по одному критерию. Это оценка по 5-балльной шкале, которую любой человек может выставить любому другому человеку. Улыбнулся тебе человек на улице, навел на него смартфон и ставишь «5». Его рейтинг тут же немного подрастает. Не понравилось обслуживание в баре – ставишь официанту «2» или «3». Его рейтинг тут же понижается. Не понравилось официанту поведение посетителя – он тоже может поставить свою оценку.

Люди видят рейтинги друг друга и, соответственно, учитывают их в общении. Звезды с рейтингом близким к «5» – это кумиры, общаться с ними – мечта каждого. Рейтинг стал меньше «4» – начинаются ограничения, а окружающие стараются избегать общения с тобой. Рейтинг меньше «3» – это изгои общества.

Эти две модели дают представление о том, каким может быть социальный рейтинг. Субъективным, основанным исключительно на эмоциональных оценках окружающих, или предельно объективным, оценивающим практически каждый шаг человека.

Поэтому, на наш взгляд, уместно следующее определение.

Социальный рейтинг – это интегрированная оценка членов общества, получаемая по единым алгоритмам с помощью цифровых технологий.

Положительный эффект от внедрения социального рейтинга есть.

Старушек через дорогу будут чаще переводить, с соседями меньше ругаться. Неважно по какой модели. Ожидая положительной оценки от окружающих или точно зная, что любой поступок попадет на камеру. Этот пример приводим в шутку. Есть и более интересные плюсы, которые отмечают эксперты.

По прогнозам должно уменьшиться количество правонарушений. Снизится количество бытовых скандалов и конфликтов. Людей можно мотивировать вести здоровый образ жизни. Энтузиасты наверняка приведут еще немало положительных эффектов.

Но минусы, на наш взгляд, перевешивают.

Жизнь при тотальном контроле по множеству критериев превратится в постоянный стресс. Задумался над решением задачи и перешел улицу на красный свет. О задаче никто не узнает, а рейтинг упадет. 160 тысяч критериев – это уровень контроля, выходящий за рамки человеческих возможностей. Понимание, что не можешь контролировать свою жизнь, провоцирует стресс сильнее других факторов.

Жизнь в ожидании оценок окружающих людей превратится в постоянное шоу, где нужно всегда улыбаться на публику. Одно дело улыбаться зрителям в зале, где обратная связь – это аплодисменты. Другое дело постоянно контролировать себя в сотнях ежедневных контактах, даже мимолетных. В итоге – тот же самый стресс.

Вряд ли человечество, живущее в таком стрессе, способно на межзвездные полеты. Разве что, это будет единственным способом сбежать от тотального контроля. И вряд ли люди при тотальном контроле будут способны построить красивое гипердемократическое общество, о котором писал Жак Аттали в заключительной части своей книги.

Снижение социального рейтинга – процесс с неизбежным ускорением. Чем ниже рейтинг, тем сложнее его восстановить. В какой-то момент психологически проще уйти к изгоям, которым на рейтинг плевать. Это точно психологически подмечено в «Черном зеркале».

Если жизнь изгоев будет относительно комфортна, например, на уровне современных бомжей, то их число будет расти. Чтобы реально напугать людей низким рейтингом, недостаточно просто лишать его привилегий. Нужны жесткие карательные методы подавления. Без них общегосударственная система социального рейтинга превратится в профанацию.

Нормальный человек должен различать «что такое хорошо и что такое плохо» на уровне базовых основ воспитания и мировоззрения. Именно такой подход формирует баланс между свободой и ограничениями. Только такие люди могут построить нормальную цивилизацию, вышедшую из цивилизационных тупиков.

Хорошее поведение, основанное на постоянном страхе, стратегических преимуществ не даст. В краткосрочной перспективе можно добиться и снижения преступности, и увеличения числа «хороших поступков». Однако такое общество будет напоминать пружину, которую постоянно сжимают. Примеров в человеческой истории хватает.

Подводим итоги. На наш взгляд, концепция всеобщего социального рейтинга на уровне государства – порочна и в цивилизационном аспекте бесперспективна. По крайней мере до тех пор, пока государства не отринули постоянную конкуренцию и не объединились для решения общечеловеческих задач.

При определении критериев модель социального рейтинга неизбежно будет опираться не текущее представление элиты страны о том, что такое хорошо и что такое плохо. Элиты не готовы сейчас и вряд ли будут готовы в ближайшем будущем смещать приоритеты от интересов своих и своего государства к общим интересам человеческой цивилизации.

Элементы социального рейтинга уже внедряются и будут внедряться в будущем. Например, большинство банков сегодня не выдают кредиты людям с плохой кредитной историей. Для этого они разрабатывают единые системы мониторинга надежности клиентов.

Какие-то из этих элементов полезны и относительно безобидны. Какие-то предельно опасны. В Канаде планируют увязать банковские системы по выдаче кредитов с разнообразной информацией о гражданах. Это позволит, например, ограничить выдачу кредитов людям, которые замечены в выступлениях против правительства. Правозащитники Канады бьют тревогу, но цели то благие!

Эту тему продолжим в истории о цифровых профилях.

Трансгуманизм или сказка с ужасным концом

Трансгуманизм –

Какая красивая сказка.

В конце – Людоед.

Перед разговором о трансгуманизме поговорим о гуманизме.

Гуманизм – этическая позиция, утверждающая, что люди имеют право в свободной форме определять смысл и форму своей жизни.

Гуманизм – система построения общества, где высшая ценность –жизнь человека, а материальные и нематериальные ресурсы направлены на то, чтобы сделать эту жизнь комфортной и безопасной.

Звучит просто прекрасно.

Проповедником гуманизма считают Юваля Харари, футуролога, автора бестселлеров о прошлом, настоящем и будущем человечества. В книге «Краткая история будущего» оно пишет:

Веками гуманизм внушал нам, что главный источник смысла – мы сами и поэтому наша свободная воля и является высшим авторитетом. Вместо того чтобы ждать, когда какая-то высшая сущность разъяснит нам, что есть хорошо, и что есть плохо, мы можем полагаться на наши чувства и желания.

И далее в той же книге:

Гуманизм внушил нам: плохо только то, от чего кому-то плохо … если поступок никого не задевает, то в нем не может быть ничего плохого.

Харари признает, что самые интересные и острые дискуссии по гуманистической этике разгораются вокруг ситуаций, которые приводят к столкновению человеческих чувств.

В качестве примера он разбирает ситуацию, когда 7 января 2015 года исламские фанатики расстреляли сотрудников французского журнала «Шарли Эбдо». Журнал до этого опубликовал карикатуры на пророка Мухаммеда. Справедливо осуждая фанатиков, Харари считает оправданными действия журналистов. Ну что тут такого – захотели и опубликовали. Все в русле гуманистического мировоззрения. Вот еще выдержка из книги:

… либеральная этика советует: нравится – делай!

Только либеральный гуманизм Харари определяет, как настоящий гуманизм. Социалистический и эволюционный гуманизм считает ущербными версиями. Они, признавая ценность человека, отрицают его полную свободу в желаниях и поступках.

Интересно было бы задать автору «Краткой истории будущего» вопрос. Чем тогда виновата с точки зрения либеральных гуманистов Джоан Роулинг, автор «Гарри Поттера»? В социальных сетях она написала, что пол является реальностью. Что существует два пола: мужской и женский. Захотела – и написала. Никого не толкала, не била, не убивала. Даже никого конкретно не обзывала. Все в соответствии с гуманистическим мировоззрением. И гуманистическая общественность принялась дружно травить и отменять знаменитую писательницу. Бомбу обещали подложить, но вмешалась полиция.

Поступай с другими так, как хочешь, чтобы поступали с тобой. Тезис, который близок многим людям на Земле. Но либеральный гуманизм его не признает. Поступай с другими так, как хочешь… Физического насилия только избегай. И будешь настоящим гуманистом.

Гуманизм – слово многозначное. Гуманизм – человеколюбие, человечность, уважение к человеку. Это определение из православного источника. Но такая трактовка – не в духе времени. В нашей истории речь идет о том гуманизме, который принял просвещенный мир.

Из этого гуманизма органично вырастает трансгуманизм.

Вот выдержка из Википедии:

Трансгуманизм – общественный строй, политическая позиция и философская концепция, продвигающие использование достижений науки и технологии для улучшения умственных и физических возможностей человека. Целью является устранение тех аспектов человеческого существования, которые трансгуманисты считают нежелательными – страданий, болезней, старения и смерти.

Трансгуманисты изучают возможности и последствия применения технологий, опасности и преимущества их использования.

В первом приближении звучит как красивая сказка.

В современном смысле слово «трансгуманизм» впервые встречается у биолога-эволюциониста Джулиана Хаксли в работе «Религия без откровения» (1927). Крах надежд на появление реальных способов радикального изменения биологической природы человека привёл к угасанию интереса к идеям в этой области.

Послевоенная волна научно-технической революции возрождает интерес к идеям трансгуманизма. Хаксли снова обращается к этой теме в 1957 году. Этот год принято считать датой официального рождения термина «трансгуманизм». В 1998 году философы Ник Бостром и Дэвид Пирс основали Всемирную ассоциацию трансгуманистов.

В настоящее время трансгуманизм – международное движение, провозглашающее, что с помощью научно-технического прогресса удастся добиться фундаментальных изменений в человеке. Значительно увеличить его умственные, физические и психологические возможности, радикально уменьшить страдания и увеличить уровень счастья человека, ликвидировать старение, достичь бессмертия.

Интересны цели этого движения. Вот некоторые из них:

всеми силами поддерживать техническое развитие;

предотвращать опасности и нравственные проблемы, которые сопутствуют внедрению научно-технических достижений;

расширять свободу каждого отдельно взятого человека, используя научно-технические достижения;

противостоять учениям и организациям с целями, противоположные идеям трансгуманизма;

противостоять государственным инициативам, ограничивающим передовые научные исследования и запрещающим использование отдельных новейших технологий (запреты на клонирование человека, психотропные препараты, эмбриональные стволовые клетки).

Их осмысление вызывает чувство когнитивного диссонанса. Как пункт о предотвращении опасностей и нравственных проблем согласуется с остальными пунктами? Уместнее было бы написать «предотвращение разговоров об опасностях и нравственных проблемах». Тогда все было бы целостно и логично.

Понятно, что это пункт – не серьезное намерение, а дань общественному мнению. Все-таки движение трансгуманистов хоть и массовое, но имеет больше критиков и противников, чем сторонников.

Трансгуманизм основанна предпосылке, что человеческий вид представляет собой не конец нашего развития, а сравнительно раннюю фазу. Приверженцы трансгуманизма стремятся к ускорению эволюции разумной жизни за пределами нынешней человеческой формы с помощью научно-технического прогресса. Эта концепция предполагает, что измененные люди эволюционируют в улучшенный вид – и станут «постлюдьми» или «сверхлюдьми».

Улучшать человека трансгуманисты предполагают по двум направлениям. Первое – редактирование генома человека. Второе – внедрение в тело и мозг человека технических устройств.

Технологических препятствий для вмешательства в геном человека практически не осталось. Из запретной зоны тематика мигрирует в зону разрешенных исследований. По крайней мере в области борьбы с фатальными генетическими отклонениями.

Уместно ли редактировать гены, которые провоцируют смертельную болезнь? Сложно ответить «нет». Ответ человечества: да!

Уместно ли редактировать гены, которые помогут противостоять болезням и иным сложностям окружающего мира? Если можно предыдущее, то почему нельзя это? Ответ человечества: да!

Уместно ли редактировать гены, которые усилят возможности интеллекта? Это будет справедливо и перспективно – всем людям IQ под 150 и феноменальную память. С учетом предыдущих ответов новый ответ человечества однозначен: да!

Уместно ли редактировать гены, которые позволят людям быть красивыми, стройными? Понятно, что человечество скажет: да!

А чем плохо внедрить в геном человека фрагмент ДНК иного организма, который помогает переносить радиацию? Человечеству еще осваивать ближний и дальний космос. И тоже ответ: да!

А значит и остальные эксперименты с геномом человека вполне оправданны. Хвост себе для экзотики вырастить или еще что похлеще. С хвостом мы перегнули? Ничуть. Межвидовое скрещивание – рядовое явление в генетике. Выращивание овощей с генами бактерий, умеющих побеждать вредителей, есть уже сегодня. А гуманистический лозунг «Хочешь – делай!» никто не отменял.

Пока непонятно, как будут наследоваться внедренные и отредактированные признаки. Пока на пути вмешательства в геном человека стоит проблема иммунного ответа. Так называют реакцию иммунной системы человека на появление инородных объектов. К таким инородным объектам человеческий организм относит не только вирусы гриппа, но и измененные фрагменты генов. Но генетики над проблемой работают, и непреодолимым препятствием не считают.

Внедрение в тело и мозг человека технических устройств – второе направление улучшения человеческих возможностей. Таких людей принято называть киборгами. Вот здесь стоит развеять эйфорию, которая владеет умами цифровых революционеров-энтузиастов.

Для обсуждения уточним понятия.

Замена у людей любых органов кроме мозга к созданию полноценного киборга не приводит. Уже сейчас индустрия протезов, замещающих утраченные конечности, успешно развивается. Создаются нейроинтерфейсы, позволяющие управлять протезами при помощи импульсов мозга. Это реальность, которая будет развиваться, и прогресс в этом направлении не остановить.

Сегодня спортсмен без ног, со специальными протезами, обгоняет арабских скакунов. Но вряд ли в обозримом будущем появится много желающих заменить ноги такими протезами. Человеку привычнее достигать таких скоростей с помощью внешних устройств. Например, с помощь экзоскелета.

Технологии замены биологических органов кибернетическими аналогами будут активно развиваться. Но основная сфера их использования – замена утраченных или выходящих из строя органов человека.

Полноценный киборг – это человек, у которого именно мозг за счет прямого взаимодействия с компьютером приобретает новое качество. Вот здесь, как считают многие специалисты, ситуация такая же, как с сильным ИИ. Исследований и надежд много. Реальные результаты пока далеки от желаний исследователей и трансгуманистов.

Популярна и обсуждается такая идея. Нужно научиться соединять мозг человека через нейроинтерфейсы с внешним информационным хранилищем. Думать он будет сам, а память усилится многократно. Эффективность работы интеллекта вырастет на порядок.

Предположим, есть прямой интерфейс к внешнему информационному хранилищу. Там терабайты структурированной информации. Посредник – генеративная нейросеть. Ей можно мысленно задавать вопросы. Она будет выдавать ответы. Будет ли их удобнее «переваривать» в голове с закрытыми глазами? Большой вопрос. Чем это отличается от нынешнего общения с ChatGPT? Принципиально – ничем.

С усовершенствованными людьми-киборгами есть еще одна принципиальная проблема. Наследовать кибернетический протез или чип не получится. Говорить в этом случае о новой эволюционной ступени человека – глупость. Новой эволюционной ступенью разума (не человека!) может стать сильный ИИ, о котором мы уже писали.

У трансгуманизма есть интересный довод в свою защиту.

Современная медицина позволяет сегодня выживать практически всем людям. В том числе тем, у кого на генетическом уровне проявляются серьезные заболевания. В прошлые века, в условиях более сурового естественного отбора, потомство такие люди оставляли редко. Сегодня с продолжением рода у них проблем нет.

В результате негативные генетические отклонения накапливаются, становятся более распространенными. Пессимисты кричат о постепенном вырождении человечества. Кто-то вспоминает и приводит в пример практику древней Спарты, когда детей с физическими отклонениями сбрасывали со скалы. В этой ситуации единственное спасение для человечества – трансгуманизм.

Аргументы обоснованные. Но мы уже писали в прошлой истории, что, если бы генная инженерия остановилась на устранении генетических дефектов, проблем бы не было. Только польза и никакого вреда, в том числе в виде социальных потрясений.

Мы понимаем, что ящик Пандоры открыт и его уже не закрыть, не сломать и не выкинуть. Изменения человека по трансгуманистическим канонам неизбежны. При доминирующей роли либерального гуманизма в обществе к добру это не приведет. Девиз «Захотел – сделал!» цивилизация сверхлюдей вряд ли переживет.

Цифровое слабоумие или назад к обезьяне

Мозги потонули

В лавине бессмысленных фактов.

Ослабли совсем.

Цифровое слабоумие – термин, который обобщает негативные последствия, возникающие в мозгу человека в результате чрезмерного и неконтролируемого погружения в цифровой мир.

Есть альтернативный термин «информационная псевдодебильность», который точнее отражает суть явления. Слово «псевдодебильность» подчеркивает, что явление – не врожденная патология головного мозга, а только схоже с ней по внешним признакам. Слово «информационная» показывает, что явление связано не с цифровыми технологиями вообще, а именно с их информационным наполнением.

Тем не менее, по тексту наших историй употребляется термин «цифровое слабоумие». Он понятнее для широкого употребления. В нем заложен больший эмоциональный накал, подчеркивающий важность и угрозу явления. Слово «цифровой» честно обозначает, что основной причиной является использование цифровых технологий.

Наиболее страшные и масштабные проявления цифрового слабоумия возникают из-за неумеренного применения гаджетов в дошкольном возрасте. «Неумеренное применение» для этого возраста имеет совсем другие показатели, чем в последующем. Несколько часов в день – уже повод для серьезных опасений.

В школьные годы проблемы чрезмерного использования цифровых технологий выходят из-под контроля взрослых. Дети ходят в школу со смартфонами, которые заботливо купили родители.

В дошкольном и школьном возрасте уместнее говорить не о деградации человеческого мозга, а о слабом развитии. Чрезмерное использование цифровых технологий мешает раскрыться потенциалу, заложенному у каждого человека природой. Деградация – это уже явление взрослой жизни, когда интенсивный этап развития интеллекта в целом завершен.

Исключить гаджеты из жизни школьников невозможно по разным причинам. Можно и нужно ограничивать их использование в стенах школы. Но и за ее пределами у школьника достаточно времени, чтобы погрузиться в цифровой мир без малейшей пользы для интеллектуального развития.

Если процесс нельзя остановить, его нужно возглавить. Этому будет посвящена история из пятой части нашего исследования.

К счастью, развитие человеческого мозга происходит всю жизнь, до глубокой старости. К сожалению, деградация человеческого мозга может начаться сразу после окончания школы и прогрессировать в течение всей взрослой жизни.

Далее будем говорить о цифровом слабоумии взрослых.

Предположим, молодому человеку повезло. В дошкольном и школьном возрасте окружающая среда позволила развить интеллектуальные способности на хорошем уровне. В школе преподавание предметов и мотивация учеников тоже были на высоте. Родители разумно подходили к использованию цифровых технологий в жизни ребенка. Давали ему возможность получить хорошее дополнительное образование, где-то даже принуждали к этому.

После окончания школы внешний контроль ослабляется. Ограничивать человеку восемнадцати лет время сидения за компьютером или развлечений в смартфоне – смешно и бесполезно.

После школы погружение в цифровой мир может резко ускориться. Если это не связано с напряженной умственной работой, результатом станет постепенное снижение интеллектуальных способностей и рост цифрового слабоумия.

Многие люди старшего возраста замечают сегодня эти проявления у себя. Их развитие и взросление происходило в те годы, когда чтение было главным информационным развлечением. Они хорошо учились в школе и университете, успешно работали. Но даже у них чрезмерное погружение в цифровой мир приводит к нарастающему цифровому слабоумию.

Под «чрезмерным погружением» мы понимаем не временные, а содержательные характеристики. Ученый, который до старости по десять часов в день читает на компьютере научные материалы и набирает собственные тексты, цифровым слабоумием страдать не будет. Скорее погружение в цифровой мир будет помогать борьбе с подступающим естественным старческим слабоумием.

Чем же вызывается цифровое слабоумие?

Получение, обработка и переработка, трансляция и создание информации – основные процессы головного мозга. Он эволюционировал по мере нарастания их сложности.

Новые знания на заре эволюции Homo sapiens поступали тонким ручейком. Они требовали неспешного осмысления, почти всегда побуждали к действию, открывали новые возможности, берегли от опасностей. Соблюдался баланс между всеми этапами работы с информацией. Этот баланс имеет эволюционное отражение в структуре и функциях головного мозга. К счастью, мозг человека имеет хороший запас для увеличения интеллектуальной нагрузки.

По мере развития человеческой цивилизации ручеек новой информации превращался в полноводную реку. Тем не менее до конца XX века запаса прочности человеческого мозга хватало. Баланс между разными видами интеллектуальной деятельности в целом соблюдался. О грядущих проблемах догадывались единицы.

В эпоху массового распространения интернета и социальных сетей условия изменились. В жизни большинства людей проявляется дисбаланс. Поглощение новой информации превращается в доминирующий информационный процесс. Осмысленная обработка и переработка информации, осмысленная трансляция отходят на задний план. Нельзя же назвать обработкой и трансляцией информации просмотр фото и лайки под ними.

Создание собственной авторской информации в килобайтах стремительно растет. Но селфи и домашние сиюминутные видеоролики – это не новая информация в эволюционном смысле. Цивилизационно значимая авторская информация сегодня редкость.

Итак, первая проблема – это дисбаланс между поглощением информации и остальными информационными процессами, на которые наш мозг настроен эволюцией.

Но поглощение информации тоже бывает разным. Чтение классической прозы или научной статьи – один вариант. Осмысленное скоростное прочтение публицистических, деловых или научно-популярных текстов – второй вариант. Просмотр ленты сообщений в социальной сети – третий. Беспорядочное блуждание в интернете с утраченной начальной целью – четвертый.

К цифровому слабоумию относят «клиповое мышление». Этот термин появился в обиходе недавно. Им обозначают изменение способа мышления при длительном потреблении разнородной и фрагментарной информации. Можно смело утверждать, что клиповое мышление формируется при потреблении информационного мусора.

У клипового мышления есть ярко выраженные черты. Предпочтение отдается визуальным форматам представления информации. Тексты, по объему превосходящие несколько фраз, не воспринимаются. Сложные смыслы, чем бы они ни выражались, не воспринимаются. Простые смыслы в оперативной памяти моментально замещаются новыми. В результате даже в кратковременную память не попадают, в тренировке памяти и развитии нейронной сети мозга не участвуют. Необходимость осмысленного поглощения информации приводит к быстрой утомляемости. Навыки аналитической деятельности не развиты. Снижается способность к обучению. Раздражительность, плохой сон, проблемы с общением.

Почему это происходит? Герберт Саймон, который получил Нобелевскую премию в области экономики в 1978 году, предупреждал:

Богатство информации приведет к убогости внимания.

Формирование клипового мышления, снижение познавательных способностей связаны с утратой контроля внимания. Когда и почему это происходит? Интернет по своему устройству является системой, постоянно переключающей внимание. С обычной страницы сайта можно уйти десятками способов. Противостоять этому можно, но нужны целенаправленные интеллектуальные усилия.

Когда мы часто отвлекаемся, наши мысли рассеиваются. Утрата контроля над информационным потоком не осознается, но на подсознательном уровне вызывает чувства напряжения и тревоги. Это одна из причин, почему время, проводимое в интернете и социальных сетях, обратно пропорционально чувству удовлетворения.

Когда через оперативную память не задерживаясь проходят потоки информационного мусора, мозг превращается в ущербный механизм. Одна часть, незначительная, в лихорадочном возбуждении работает на износ. Подавляющая часть мощнейшей нейронной сети мозга погружена в нирвану.

Важный факт из нейрофизиологии, изложенный очень упрощенно. Разные интеллектуальные действия вызывают разные цепочки сигналов между нейронами головного мозга. Связи между нейронами при прохождении сигналов утолщаются. Сигналы по более «толстым связям» проходят легче. Поэтому с каждым повторением интеллектуальные действия выполняется чуть-чуть быстрее и проще. Повторение – мать учения! Наши предки знали об этом на интуитивном уровне.

Верно и обратное. Если связь между нейронами не используется, она постепенно утончается на физическом уровне. Сигналы проходят все тяжелее. Мозгу нужно сильно напрягаться, чтобы «протолкнуть» интеллектуальные действия в нужном направлении.

Приведем аналогию. Перед нами страна, в которой огромная сеть дорог между городами и поселками, внутри них. Но только по одному проспекту в одном городе ходит транспорт. Он освещен, асфальт в великолепном состоянии, у него множество полос движения. На одном конце проспекта – портал, из которого потоком появляются машины. На втором – бездонная пропасть, куда они сваливаются. Остальные дороги по всей стране – в ямах, колдобинах, трещинах, заросшие травой. По некоторым с большим трудом еще можно проехать, по другим совсем никак. Вот так примерно выглядит мозг человека с доминирующим клиповым мышлением.

Мы уже писали о многозадачном режиме жизни в современном мире. Такой режим в крайних проявлениях также способствует развитию цифрового слабоумия. Особенно это проявляется у руководителей. Вот цитата из книги «Четвертая промышленная революция» Клауса Шваба:

Мне часто случается общаться с руководителями, которые рассказывают мне, что у них больше не находится времени на то, чтобы сделать паузу и задуматься, не говоря уже о такой «роскоши», как прочесть от начала до конца даже короткую статью. Во всех странах мира создается впечатление, что лица, принимающие решения, все более измотаны. Они настолько перегружены многочисленными конкурирующими друг с другом требованиями, что их сначала охватывает фрустрация, потом у них опускаются руки, а иногда они испытывают отчаяние.

Что же со всем этим делать взрослому человеку?

Хорошая новость – наш мозг настолько пластичен, что заняться его развитием можно в любом возрасте. Естественные возрастные проявления старческого слабоумия вспять не обратить, но замедлить можно. Для молодых людей и людей среднего возраста все вообще замечательно. Главное – понять проблему и внести в жизнь совсем небольшие изменения. Об этом мы поговорим в пятой части нашего исследования.

Плохая новость – бороться с цифровым слабоумием сложнее, чем с избыточным весом. Ограничить себя в еде и увеличить физические нагрузки сложно. Это требует волевых усилий, но интеллект при этом не напрягается. А вот для специальных упражнений, которые стимулируют мозг, требуется не только силы воли, но и дополнительное интеллектуальное напряжение.

Хорошая новость – цифровое слабоумие не передается по наследству. Это приобретенное свойство человека. Угроза, что цивилизация эволюционирует назад к обезьяне, надумана. На это нужны тысячелетия, которых у человечества нет. Либо мы найдем выходы из цивилизационных тупиков, и тогда цифровое слабоумие останется в прошлом. Либо не найдем, и наше место кто-то займет. В фантастическом романе «Планета обезьян» и его экранизациях это были обезьяны.

Плохая новость – человек за короткую жизнь способен в интеллектуальном плане довести себя до уровня хорошо обученной обезьяны. Эксперименты с шимпанзе показывают, что они бывают очень сообразительны.

Эволюционный закат мира мужчин

Комфорт для мужчин

Эволюция знать не желает.

Их задача – борьба.

В одной из историй мы уже писали, что два пола – это биологическая данность. С этим утверждением сегодня модно спорить, а защищать его становится опасно. На Западе доминирует мнение, что в разделении на мужское и женское виноваты устаревшие стереотипы, с которыми нужно бороться. Некоторые западные ученые-биологи утверждают, что разделение на два пола в животном мире случайно и эволюционно не обусловлено.

Так ли это? Почему эволюция остановилась на двух полах? В чем заключаются различия между мужскими и женскими особями с точки зрения эволюции? К чему может привести вмешательство в естественную природу вещей? Разобраться в этом вопросе поможет эволюционная теория пола российского ученого-генетика Вигена Геодакяна.

Все началось с бесполого размножения 4 млрд лет назад. Клетка делилась пополам, клонируя саму себя. Бактерии до сих пор пользуются этим способом. В питательной среде увеличение числа особей идет в геометрической прогрессии. Каждые 20 минут бактерия делится, давая две дочерние клетки. Через сутки масса составила бы примерно 400 т. Но в лабораторных условиях такая задача не ставилась. В природе же питательная среда для такого количества делений невозможна.

У такого способа размножения есть существенный недостаток – отсутствует генетическое разнообразие. С точки зрения эволюции это огромный минус. Поэтому бесполое размножение делением дальше микроорганизмов по эволюционной лестнице не продвинулось. Это хороший повод задуматься сторонникам трансгуманизма.

Позднее появились организмы, способные к половому процессу, который еще не является половым размножением. Например, две инфузории в определенных условиях способны к взаимному обмену генами, после которого по-прежнему остаются две особи, но с новым генетическим набором каждая. Размножения, то есть появления новой особи, не происходит. С точки зрения эволюции – это уже существенный рывок, увеличивающий генетическое разнообразие.

На следующем этапе появилось половое размножение. На самом деле сначала никаких полов не было. Эволюция породила специальные половые клетки – гаметы. Каждая такая клетка обладает половинной хромосом. Для создания полноценного организма она должна найти другую гамету – и слиться с ней.

Сначала половые клетки внешне были одинаковыми, мелкими, обладающими жгутиками для «путешествий» в поисках партнера. Так сегодня размножаются простейшие и некоторые водоросли. Но кроме быстроты, гаметы должны были иметь запас питательных веществ. Возникло противоречие, которое эволюция успешно разрешила. Одни гаметы становились мельче и быстрее, другие – крупнее, менее подвижными, но с запасом для питания. В конце концов самые крупные утратили жгутики и способность к перемещению.

Таким образом, в ходе эволюции одни половые клетки оставили себе функции поиска, а другие лишились подвижности и стали обеспечивать запас питательных веществ, который использовался после слияния. Все, наверное, видели шуточные мультфильмы про сперматозоиды, которые наперегонки рвутся к финишу (яйцеклетке).

Еще один промежуточный шаг на пути к разделению на полы эволюция сделала, создав организмы-гермафродиты. Такие организмы пола не имеют и производят как мужские, так и женские половые клетки. В особых случаях способны оплодотворять сами себя. На первый взгляд кажется, что гермафродиты должны были бы стать венцом эволюции. Но такие организмы встречаются только на сравнительно низкой ступени эволюции, например, у моллюсков, червей.

У животных по каким-то причинам произошло разделение полов, предполагающее не только мужские и женские половые клетки, но и мужские и женские особи. Задача размножения ещё больше усложнилась – теперь нужно искать партнера определенного пола. Возрастают риски, связанные с уменьшением количества потомства. И тем не менее, такое размножение преобладает среди высокоразвитых форм жизни. Значит, у эволюции были для этого резоны.

Приведем еще несколько примеров эволюционных экспериментов. Есть в природе такой способ – однополое размножение, когда у организма есть яйцеклетка, которую не нужно оплодотворять. То есть, эволюция уже пыталась избавиться от самцов, но дальше насекомых, рыб и пресмыкающихся дело не пошло. Также эволюция пробовала увеличить количество полов, экспериментируя с грибами. В природе есть гриб, у которого 23 328 полов. Предлагаемому сегодня справочнику из сотни гендеров есть куда расти. Если есть люди-кошки, почему не придумать пару тысяч разновидностей людей-грибов?

Любое явление, которое демонстрирует эволюция живых организмов, можно объяснить. Для разделения животного и даже растительного мира на мужской и женский пол долгое время объяснений не находили. Теорию, которая логично все объясняла, в 60-е годы XX века предложил советский ученый-физик Виген Геодакян.

Сначала биологи восприняли ее в штыки – как можно доверять физику в такой сложной науке, как биология? Со временем ученый-физик стал доктором биологических наук, а теорию признали и стали преподавать в вузах России. Она логична, хорошо объясняет многие явления живой природы, а в популярном изложении понятна и очевидна.

Эволюция пытается решить две противоположные задачи. Первая – сохранить в генах то, что уже прошло проверку и однажды показало себя полезным. Вторая – необходим постоянный поиск генетических изменений для улучшения приспособляемости и последующего эволюционного развития. То есть видам нужно оставаться стабильными и одновременно уметь быстро меняться.

Эволюционная теория пола предполагает, что мужские и женские особи согласовано работают как две взаимодействующие подсистемы. Функция женского пола – консервативная. Женские особи предназначены для сохранения уже имеющейся и проверенной генетической информации. Функция мужского пола – исследовательская. Мужские особи берут на себя риски испытания нового, проверяют на себе генетические инновации. И лишь в случае признания инновации успешной новые гены допускаются женским полом в общий генофонд.

Простая и понятная схема, подтверждаемая многочисленными примерами в живой природе. Она объясняет, почему эволюция выбрала такой подход к размножению в качестве основного.

Как это проявляется в жизни организмов?

Как правило, в генах заложены не точные значения конкретного признака, а некоторый их диапазон. Конкретное значение будет зависеть от внешних обстоятельств. При одних условиях человек вырастет до 165 сантиметров (плохо питался, вел сидячий образ жизни), при других – до 175. Но не станет ни карликом, ни великаном, все будет в диапазоне, заданном соответствующим геном роста.

Мужской пол склонен в рамках таких диапазонов принимать крайние значения, женский пол держится середины. Кто в классе самый высокий и самый низкий? Как правило, это мальчик. Мужчины и женщины в среднем не отличаются уровнем интеллекта, но если перейти от среднего к крайностям, то гениев, как и дураков, среди мужского пола обнаружим больше. И так практически во всём. Женщины по каждому признаку отличаются друг от друга меньше, чем мужчины, и крайние позиции занимают гораздо реже.

Эволюции это нужно для того, чтобы мужские особи в популяции были более подвержены влияниям окружающей среды. Тогда при изменениях внешнего мира неподходящие крайности будут отсеиваться, тем самым из популяции будут устраняться ненужные гены.

В человеческой популяции важнейшие различия между мужчинами и женщинами кроются не во внешнем виде, а в поведенческих моделях. По своей эволюционной природе женщины склонны к осторожности, мужчины к риску. Уменьшение количества женщин критично для популяции, поэтому они стараются поддержать стабильность, условия для продолжения рода. Даже один оставшийся в популяции мужчина способен обеспечить ее дальнейшее существование. Поэтому мужчины менее осторожны, любопытство и авантюризм заложены в них эволюцией, хотя из-за внешних условий не всегда проявляются в реальной жизни.

Для разделения поведенческих моделей на мужские и женские эволюция использует два механизма: эпигеномы и гормоны.

Эпигеном представляет собой регуляторный механизм, который раздает команды, какие гены должны работать, а какие отдыхать. Внешние факторы не способны влиять на структуру ДНК и геном организма, но могут влиять на механизмы, которые определяют активность тех или иных генов. Эти механизмы различаются для мужских и женских особей и тоже наследуются.

В контексте нашего исследования этот механизм менее интересен, чем гормональные различия мужчин и женщин. О гормонах и биохимии человеческого счастья и несчастья безотносительно биологических полов мы уже писали. Пришло время поговорить о различиях.

Основными гормонами мужчин являются тестостерон и дофамин. Женщин – их функциональные антиподы: эстрадиол и серотонин.

Тестостерон – это стремление занять место в социальной иерархии, энергичность, соперничество. Дофамин – скорость и гибкость мыслительных процессов, энтузиазм, склонность к риску и выходу из привычной зоны комфорта в зону неизвестного.

Эстрадиол и серотонин подавляют центры негативных эмоций, успокаивают, удерживают в знакомой обстановке. Как полагают, именно серотонин отвечает за реакцию на опасность типа «замри и затаись», вместо «бей или беги», в которых участвует дофамин.

Понятно, что у конкретного человека гормоны работают сообща и находятся в определённом балансе, являясь основой темперамента. Всегда были женщины-новаторы и мужчины-домоседы, но статистически гормональные балансы мужчин и женщин и поведенческие модели до недавнего времени существенно различались.

Мужчины уже на уровне биохимии приспособлены к тому, чтобы действовать в нестабильной среде и осваивать новое. Это их эволюционная задача. И на протяжении тысячелетий развития человеческой цивилизации все было в соответствии с эволюционными замыслами. Мужчины покоряли окружающий мир, женщины заботились о сохранении того, что имелось.

По мере технологического развития среда обитания человека становилась стабильнее и безопаснее. В XXI веке, несмотря на многочисленные конфликты, большинство стран мира сумело создать для людей более-менее благоприятную и комфортную среду обитания. А что будет с человечеством, если мужской пол поместить на длительное время в долгожданные комфорт и сытость?

Эволюционная теория пола предсказывает, что в стабильной среде различия между мужскими и женскими особями будут уменьшаться. Речь идет, конечно, не о первичных половых признаках, а о вторичных. То есть мужчины всё больше начнут походить на женщин, а женщины – на мужчин.

Во второй половине XX века начались разговоры о том, что маскулинность пора выкинуть на свалку истории. Мужественный образ мужчины – вчерашний день. Мальчики и мужчины ничем не отличаются от девочек и женщин кроме стереотипов поведения, которые насаждались воспитанием на протяжении тысячелетий. Появился и быстро стал популярным стиль моды «унисекс». Во что это сегодня превратилось на «толерантном» Западе – одна из наших прошлых историй.

Среднестатистический мужчина бессознательно воспринимает обезличивание своего социального статуса как поражение в иерархической борьбе. Подобное поражение, даже надуманное, провоцирует развитие депрессии.

В условиях стабильности среды обитания, роста комфорта под влиянием гендерных дискуссий сегодня наблюдается независимое от возраста снижение уровня тестостерона у мужчин в развитых странах. Это факт, подтвержденный авторитетными исследованиями.

Падение тестостерона приводит у мужчин к снижению уровня дофамина. Дофамин помогает мужскому мозгу выбирать правильные стратегии поведения и создает мотивацию для конкретных действий. Его снижение делает мужчину менее инициативным, превращает из любопытного исследователя в ленивое «существо на диване», постоянно глотающее таблетки от депрессии.

Отметим, что с точки зрения эволюции женщины легче и безопаснее вписываются в стабильный комфортный мир. Но вряд ли в будущем нас ждет процветающий мир амазонок.

В завершение опишем эксперимент «Вселенная-25».

В ходе эксперимента был создан «рай для мышей» – замкнутая территория, обеспеченная всем необходимым для комфортной жизни. В этот рай поместили 4 пары мышей, которые начали быстро размножаться. Число мышей удваивалось каждый 55 дней.

Начиная с 315 дня, число мышей удваивалось только каждые 145 дней. К этому моменту численность популяции составляла 600 особей, которые вели активную социальную жизнь и уже начали разделяться на иерархические группы. Территория была рассчитана на комфортную жизнь 4000 мышей. Но максимальная численность составила 2200 особей, после чего началось уменьшение популяции — вымирание.

На стадии вымирания в мышиной иерархии преобладали три типа мышей. Отверженные самцы и самки, с которыми отказывались общаться особи противоположного пола. Среди них исследователи отмечали гомосексуальное поведение. «Феминистки», или одинокие самки, которые проявляли агрессию к самцам и даже к собственному потомству, а в конце вовсе отказывались от размножения. «Красавчики», или молодые самцы, которые не проявляли интереса к размножению и социальной жизни. Они не дрались за территорию и самок, вели пассивный образ жизни — ели, спали и чистили шерстку.

Беременности сошли на нет, молодых особей совсем не осталось. Эксперимент был завершен, когда в раю осталось 122 мыши, уже вышедшие из репродуктивного возраста.

Эксперимент повторяли – и всегда с одним и тем же результатом.

Многие хорошие люди сегодня стремятся к стабильной комфортной жизни, мечтают построить «рай на Земле». Не только для себя – для всех. Это естественно, это нормально. Но если в этом раю не будут работать компенсационные механизмы, позволяющие мужчинам оставаться мужчинами, женщинам оставаться женщинами, нас неизбежно ждет эволюционное вырождение и последующее вымирание.

Возможно, в этом и заключается ответ эволюции на парадокс Ферми? Ведь сегодня «Вселенную-25» с удовольствием и энтузиазмом человечество создает само для себя. И при этом гордится успехами, не желая замечать пугающее сходство толерантных достижений цивилизации с последними стадиями жизни «мышиного рая».

Теория хаоса в цифровом мире

Хаос не страшен.

Бабочки нужно бояться,

Что крыльями машет.

Впервые слово «хаос» появилось в Древней Греции, в поэме «Теогония» поэта Гесиода, написанной еще до нашей эры. Лучшим дословным переводом будет «бездна, пропасть, пустота».

В древнегреческой космологии сначала не было вообще ничего, а затем появился Хаос. Иногда Хаос описывался как место, а иногда — как божество. С годами и веками греческие представления о Хаосе продолжали развиваться.

Согласно ранней древнегреческой традиции, Хаос был прародителем всего последующего, изначальной сущностью творения, которая дала начало всему. Это оставалось верным независимо от того, изображался ли Хаос как место, божество или и то, и другое.

По сути хаосом называлось первоначальное состояние Вселенной – когда не существовало ни света, ни тьмы, ни жизни, ни правил и законов. А сотворение мира с точки зрения древних греков представляло собой переход от хаоса (беспорядка) к космосу (порядку).

Более поздние авторы внесли в понятие уточнения. Вместо непознаваемой пустоты Хаос стал изображаться как хаотическая, неуправляемая смесь элементов. Греческий поэт Овидий в первом веке нашей эры описывал Хаос так:

…скорее грубая и непереваренная масса, безжизненный комок, безобразная и бесформенная, из беспорядочных семян, и Хаосом было справедливо названо.

Именно тогда слово «хаос» получило свое современное значение. Хаос – это беспорядочная смесь элементов, неустройство, скопление, нагромождение чего-либо.

Во времена позднего Средневековья начался расцвет механики. Мастера того времени научились создавать удивительные механические диковины, список которых по праву возглавили механические часы. Механика с её сложной системой приводных колёс, рычагов, шестерёнок, пружин и маятников казалась ученым тех времен настоящим образцом «порядка», которому должна подчиняться Вселенная.

Большой вклад в этот подход внес французский учёный Пьер-Симон Лаплас. Любое явление он рассматривал в качестве системы, параметры которой изменяются во времени. Такие системы он назвал динамическими. По его мнению, для каждого элемента динамической системы всегда можно указать некое правило, формулу, которая называется законом движения. Вот что писал Лаплас:

Если для некоей динамической системы известны состояние в момент времени t и закон движения, мы сможем безукоризненно точно сказать, в каком состоянии эта система была в прошлом и в каком состоянии она будет находиться в будущем.

Учёный даже описал мифическое существо, которое знает прошлое и будущее всего существующего во Вселенной. Это существо стали называть «демоном Лапласа».

Многие учёные, современники Лапласа, к механической концепции Вселенной относились отрицательно. Уже тогда они задавали правильные вопросы. Можно ли с помощью этой теории предсказывать погоду? Можно ли предсказать действия человека под влиянием дружбы, любви, вражды?

Но первый сильный удар по концепции Лапласа нанесли с самой неожиданной стороны. Это сделала любимая и почитаемая Лапласом математика. Начал формироваться ее новый раздел – теория вероятностей, который изучал случайные процессы. Например, бросание игральных кубиков. Ее адепты задали убийственные для Лапласа вопросы. Сколько на следующем броске кубиков выпадет очков? Можно ли это точно предсказать с помощью математики? Ответ был однозначным и научно обоснованным – нет, нельзя.

Второй научный удар по механической концепции Вселенной нанесла физика. Закон всемирного тяготения Ньютона – простая формула, которую сегодня проходят в школе. Она описывает поведение динамической системы, состоящей из двух материальных тел. Например, Земли и Луны. Или Земли и Солнца.

Земля притягивает Луну, Солнце притягивает Землю. Забыв про все остальное, можно легко описать по отдельности эти взаимодействия двух тел. Но силы гравитации действует одновременно между Землей, Солнцем и Луной. Когда математики попробовали с помощью формулы Ньютона решить задачу для трёх тел, они столкнулись с невероятными сложностями. Общее решение этой задачи не найдено до сих пор. А ведь во Вселенной взаимодействующих материальных объектов намного больше!

К концу XIX века учёные пришли к окончательному выводу, что большинство динамических систем в нашей Вселенной ведут себя совсем не так, как предполагал Лаплас. Даже если эти системы описываются с помощью простых и точных формул, в итоге их поведение оказывается непредсказуемым – хаотичным.

Проблемы астрономов, столкнувшихся с проявлениями хаоса в движении космических объектов, общественность интересуют мало. Во-первых, даже приблизительные вычисления при космических масштабах вполне приемлемы. Во-вторых, где звезды, планеты и их спутники, а где мы, простые люди, живущие на Земле?

А вот проблемы с предсказаниями погоды мы испытываем ежедневно. Погода на нашей планете – это всего лишь перемещение масс воздуха. Параметров тут три – температура, скорость и влажность. Описываются эти параметры простыми математическими формулами. Только в итоге даже прогноз погоды на завтра может ошибаться. А уж предсказать более-менее точно погоду в следующем месяце не возьмётся ни один метеоролог.

В чем же разница между механическими часами и погодой? Какое свойство этих систем делает их принципиально различными? Ответ ученые дают такой: механические часы – это линейная система, а погода – система нелинейная.

Если начнём быстрее вращать одну шестерёнку часов, начнёт вращаться быстрее и другая. Во сколько раз быстрее будем вращать первую шестеренку, в точности во столько же раз ускорится вторая. Такая система линейна, а потому хаоса в ней нет.

Параметры погоды независимы друг от друга. Если мы увеличим скорость ветра в два раза, температура при этом не станет в два раза выше. И как она изменится, рассчитать невозможно. А ведь есть еще влажность, которая тоже как-то меняется во времени и пространстве. Это наглядный пример нелинейной хаотичной системы.

В нелинейных системах действует «эффект бабочки». Объясняя студентам теорию хаоса, американский учёный Лоренц приводил пример, когда взмах крыла бабочки где-то над Америкой может в результате сложной цепи событий привести к урагану над Тихим океаном. Еще одна интерпретация этого эффекта знакома нам по произведениям фантастики. Путешественник в далекое прошлое, раздавивший нечаянно бабочку в девственном лесу, вызывал необратимы катастрофические последствия в настоящем.

Эффект бабочки говорит о том, что к значительным последствиям в будущем могут приводить самые мелкие причины в настоящем. Более наглядный пример – сход снежной лавины. Одна снежинка чуть-чуть подвинула две другие, эти две немножко подвинули соседние – и через несколько минут по склону несётся чудовищная лавина снега!

На первый взгляд, природа хаоса и эффект бабочки исключают возможность управлять им. Это широко распространенное заблуждение.

В действительности дело обстоит с точностью до наоборот. Хаотичными системами управлять часто проще, чем жестко детерминированными линейными системами. И эффект бабочки играет здесь ключевую роль.

Для того чтобы нелинейная хаотичная система оказалась в новом состоянии, достаточно нескольких последовательных мелких воздействий на нее. Пусть даже они подобраны эмпирически и не имеют точного математического обоснования.

Наглядно эта особенность проявляется при манипулировании общественными системами. Несколько точечных воздействий позволяют сначала возбудить толпу, потом направить возбуждение в нужную сторону. Великую Октябрьскую социалистическую революцию партия большевиков готовила несколько лет. Цветные революции в странах Северной Африки возникали как пожар в сухой степи – мгновенно и по мельчайшей причине. Три классические причины революции остались в недалеком прошлом.

Цифровой мир, который сегодня с упоением строит человеческая цивилизация, является предельно сложной нелинейной хаотичной системой. Ее можно рассматривать в нескольких измерениях. Или, точнее, как совокупность отдельных хаотичных систем, тесно взаимодействующих друг с другом.

Во-первых, хаотичной системой является само человеческое общество – общество потребителей цифровых товаров и услуг, общество пользователей современными технологиями.

Во-вторых, самостоятельной хаотичной системой можно считать потребности и предпочтения жителей цифрового мира. Никто не мог двадцать лет назад предсказать взлет современных цифровых гигантов. За это нужно благодарить нелинейный характер предпочтений пользователей. Как в будущем будут проявятся эти предпочтения относительно генной инженерии, виртуальной реальности, искусственного интеллекта, предсказать точно мы не можем.

В-третьих, технологии и средства программирования, которые десятилетиями стихийно развивались и наслаивались друг на друга, также сегодня превратились в хаотичную систему. Agile-подходы к организации программных разработок – это вынужденный ответ сообщества программистов на порожденный ими же хаос.

В-четвертых, совокупность разработанных за многие годы информационных систем и самых разнообразных программных продуктов со временем превратилась в самостоятельную хаотичную систему. Ее элементы часто живут и развиваются по стихийным законам.

В-пятых, глобальная информационная сеть – интернет – также нелинейная хаотичная система. Она хранит огромное количество информации, в большинстве своем слабо структурированной. Интернет содержит как ценнейшие знания, полученные цивилизацией в ходе развития, так и залежи информационного мусора. При этом первые не становятся вирусным контентом, в отличии от второго.

В-шестых, хаотичный характер носят синергетические эффекты, о которых мы писали в предыдущей истории. Никто не может точно предсказать, какие проявления цифрового мира начнут усиливать друг друга по нелинейным зависимостям.

В-седьмых, цифровизация и цифровая трансформация, составляющие суть цифрового мира, также имеют дело с нелинейными системами. Это государственное управление, экономика и ее отрасли, образование и другие социальные сферы.

А теперь вспомним, что чем больше независимых друг от друга параметров определяют хаотичную систему, тем сложнее прогнозировать ее поведение и тем легче на нее воздействовать минимальными усилиями. Погода определяется тремя параметрами – вычислительные мощности позволяют метеорологам более-менее точно предсказывать ее на несколько дней.

В этом плане цифровой мир – уникальное явление запредельной сложности. Для него существует много возможностей по изменению состояния минимальными воздействиями. Они относятся к разным сферам – технологической, политической, юридической, экономической, социальной.

При этом предсказывать будущее человеческой цивилизации по-прежнему сложно. Что и демонстрируют постоянные провалы записных футурологов, технологических революционеров и консерваторов, цивилизационных оптимистов и пессимистов.

Конечно, в оценке развития конкретных технологий и порожденных ими социальных явлений футурологи часто выдают точные прогнозы. А потом искренне гордятся ими. Хотя не менее часто срабатывает эффект «историю пишут победители». Прогнозы, которые сбываются, сложно положить на полку и забыть. О них помнят все. Прогнозы, которые не сбылись, быстро забываются.

Вывод можно сделать такой.

Ранее мы говорили, что борьба с цивилизационными угрозами должна носить комплексный характер. Это определяется комплексным характером угроз и синергетическими эффектами, которые их усиливают.

Свойства нелинейных хаотичных систем, эффект бабочки позволяют надеяться, что положительных результатов можно добиваться последовательностью небольших по масштабам воздействий.

Элита и общество: ставка на устремления

К чему ты стремишься?

Честный ответ поможет тебе

Занять свое место.

При проектировании организации общества нужно учитывать природу человека. Замыслы, которые игнорируют этот фактор, обречены на провал. Утопические коммунистические фантазии, в которых люди вдруг становятся идеальными, далее фантазий не идут. Не менее утопичны замыслы, в которых отрицается естественная биологическая природа человека.

Два примера в подтверждение этого тезиса.

Советский Союз сначала строил коммунизм. На первых этапах казалось, что идеальное общество, населенное идеальными людьми, скоро построят, ждать осталось недолго. Люди в это верили и старались соответствовать высокому званию «строитель коммунизма». Вера помогла народу в индустриализации и коллективазации страны, стала важнейшим фактором Великой Победы. Вера в коммунистические идеалы и гордость за страну сыграли роль в космических успехах СССР.

Идеалов всеобщей справедливости относительно легко придерживаться в условиях, когда люди борются за существование, когда «постоянно думают о куске хлеба». Приоритеты меняются, когада у людей появляется достаток и стабильность. Они теперь думают, как достаток увеличить, а стабильность обеспечить.

В результате уже в 60-е годы XX века с построением классического коммунизма не заладилось, и в СССР стали строить развитой социализм. Развитой социализм плавно погрузился в состояние, которое позднее назвали «застой». Партийная «коммунистическая» номенклатура возглавила борьбу за личный достаток. Скрыть это было невозможно. У братьев Стругацких повести о коммунистическом будущем человечества сменились депрессивными произведениями. В 90-х читатели этих произведений с безразличием смотрели, как разваливается страна, первой решившая строить коммунизм.

Второй пример – это атомизированное общество, которое пытается построить Запад. О массированной пропаганде «индивидуальной свободы», которая обрушивается на западного обывателя, мы уже писали. Люди пропаганде поддаются, особенно в молодежной среде. Культура отмены глушит голоса протестующих. И тем не менее большинство людей в западных странах продолжают придерживаться традиционных для человеческой природы ценностей. Под лозунгами поддержки этих ценностей к власти США пришел Дональд Трамп.

Возможно, это свидетельство того, что в ближайшем будущем человечество ждет откат от нетрадиционных тенденций к консервативным ценностям. Слишком искусственны лозунги и достижения, противоречащие природе человека.

В обоих примерах властная элита допустила одну и ту же ошибку. Она посчитала людей одинаковыми и стала действовать в соответствии с этим убеждением. Коммунисты решили, что из любого сделают идеального человека. За эту ошибку они заплатили, оказавшись на задворках истории. Сторонники либеральной демократии уверены, что любого превратят в послушный, внушаемый, легко управляемый винтик. Надеемся, за эту ошибку им предстоит заплатить.

При проектировании общества стоит оценивать человека по устремлениям. По этому критерию выделяются несколько групп людей. Представитель каждой группы стремится к тому, что считает для себя высшей ценностью. Другие устремления также присутствуют, но играют второстепенную подчиненную роль.

Доминирующее устремление к Богу, к служению обществу, к познанию истины, к власти, к самореализации, к популярности, к обретению материальных благ – вот критерии для формирования таких групп.

Устремления не предопределены и не заданы раз и навсегда. История знает примеры, когда грешник возвышался до праведника, а праведник превращался в грешника. Часто после достижения определенного уровня материальных благ человек переключается на самореализацию или служение обществу. Также нередко человек, в молодости стремящийся к служению обществу, под влиянием окружения переключается на постоянную заботу о материальном благополучии.

Во все времена большинство людей относилось к последней группе. Сытая, спокойная, безопасная жизнь для себя и своей семьи являлась главной жизненной ценностью. Это не хорошо и не плохо – это данность, важная грань человеческой природы.

В идеале элита, предназначенная для управления обществом, должна формироваться из людей, для которых главный смысл жизни заключается в служении обществу. Материальные блага и прочие устремления второстепенны. Они будут присутствовать, так как искренних аскетов-подвижников ни одна система образования не воспитает в массовом порядке.

В реальности в мире сложилась абсолютно нездоровая ситуация. Она связана с тем, что по мере становления демократических институтов к власти стали приходить наиболее предприимчивые и беспринципные представители человечества. У них доминируют стремления к материальным благам, власти, популярности. Должности они рассматривают как «доходное место».

Это стало настолько привычным и обыденным, что во многих странах никто не обращает на это внимание. Чиновники воруют? И что тут такого, пользу же они все-таки приносят.

К счастью, пока это не приняло необратимый характер. Во многих странах представители верховной власти искренне стремятся к служению своим народам. Но им тяжело формировать и контролировать всю элитную вертикаль. Часто предприимчивость и безпринципность сочетаются с отличными организаторскими способностями. А искренее желание служить обществу – с глупостью, предвзятостью, отсутствием знаний и управленческих компетенций.

Можно провести такую аналогию. Паразиты постепенно заполняют организм. На ранних стадиях это незаметно. Но, если с ними не бороться, паразитов становится все больше. Они истощают организм, и в конечном итоге тот погибает.

Точное сравнение. В современном цифровом мире негативные проявления внутри стран и на международной арене накапливаются, взаимно усиливаются. Цивилизационные угрозы игнорируются и не находят должного противодействия. Поколения, которые идут на смену, плохо готовы к борьбе за выживание.

Выходов из текущей ситуации два. Первый – игнорирование проблем и неизбежная гибель организма, то есть – нашей цивилизации. Второй – создание общества, в котором будет формироваться элита, способная вывести человечество из грядущих тупиков.

Есть еще один важный аргумент. Одна из функций элиты – формирование образа жизни, которому будут подражать, к которому будут стремиться люди. Элита, сформированная из тех, кто стремится к материальным благам, это главная движущая сила цивилизации потребления. Цивилизации, которая обречена на постепенное вымирание или трансформацию в цифровой концлагерь.

Поэтому сложно спорить с оправданностью следующих тезисов:

при построении общества нужно учитывать природу человека;

люди имеют разные устремления и жизненные ценности;

нужно предложить людям условия жизни, подходящие их устремлениям;

элиту должны составлять люди, имеющие нужные устремления.

Далее хотим предложить свое видение общества, которое могло бы вывести человеческую цивилизацию из многочисленных тупиков. Как всегда – лишь в качестве повода для дальнейших дискуссий.

Для проектирования предлагаем учитывать иерархическую модель человеческих потребностей американского психолога Абрахама Маслоу. Кратко ее суть в следующем. Пока человек не удовлетворил базовые потребности в пище, жилье, безопасной жизни, ему не до потребностей более высокого уровня. Умирающему от голода не до любви, творчества, познания, самореализации. Если человеку угрожает реальная смерть, его мысли будут о том, как ее избежать. Это природа, с которой сложно спорить.

Сытый человек, живущий спокойной и безопасной жизнью, начинает задумываться о новых потребностях. Для кого-то смыслом жизни становится научное познание или творчество. Для кого-то поиск духовной истины, служение людям или интересная работа. Для кого-то накопление материальных благ, власть или преклонение толпы. Для кого-то поиск новых впечатлений, адреналиновый азарт.

Все это в каждом отдельном человеке намешивается в индивидуальный коктейль устремлений. Но всегда проявляются доминирующие устремления, которые и нужно учитывать.

Выделим типажи людей, соответствующие группы и их роль в обществе будущего. Повторим, что принадлежность к группе – не данность на все времена. У людей по мере развития меняются устремления, поэтому между группами не должно быть жестких границ.

Противники. Люди, которые отказались признавать установленные человечеством правила, целенаправленно нарушающие законы. Лишены базового дохода, подвергаются преследованиям и наказанию в зависимости от степени правонарушений.

Иждивенцы. Люди, которым для жизни достаточно базового дохода и базового набора развлечений, которые готово предоставить общество. Они не приносят человечеству вреда. Но их сознательный выбор – отказ приносить человечеству пользу. Они лишаются большинства гражданских прав, но базовые потребности общество удовлетворяет. Искусственный интеллелкт и автоматизация большинства экономических процессов позволят это обеспечить.

Труженики. Это самая массовая группа, обладающая базовыми гражданскими правами. Такие люди честно работают в разных сферах человеческой деятельности. Официально декларируемый мотив – улучшение материального благосостояния (своего, своей семьи). Претензий и прав на занятие элитных мест в обществе нет.

Предприниматели. Люди, которые развивают собственное дело. Главная мотивация – сочетание самореализации в бизнесе, принесение общественной пользы и существенное повышение собственного материального благосостояния. Власть осуществляет инвестиционную поддержку перспективных начинаний. Жесткий прогрессивный подоходный налог, ограничения монополизации рынка. В верхние эшелоны власти предприниматели не допускаются.

Служилые. Люди, которые заявили о готовности служить человечеству. Материальное благосостояние для них вторично. Работают в самых разных сферах. Получают от государства установленный уровень материальных благ. Имеют право занимать должности из специального реестра: аудиторы, воспитатели, военнослужащие…

Ученые. Люди, которые желают работать на научном поприще. Главная мотивация – потребность в познании. Согласны соблюдать принятые этические нормы. Работают в научных центрах в рамках единого управляемого научного пространства Земли. Получают от государства установленный уровень материальных благ. Люди, которые занимаются наукой с целью повышения материального благосостояния, относятся к труженикам.

Творцы. Творческие люди, которые готовы служить человечеству на культурном поприще. Главная мотивация – творческая самореализация. Согласны соблюдать принятые этические нормы. Работают индивидуально или в творческих коллективах. Получают от государства установленный уровень материальных благ. Люди, которые занимаются творчеством для повышения материального благосостояния, относятся к труженикам. Творцы, отказывающиеся соблюдать принятые этические нормы, – это противники.

Пастыри. Люди, которые встали на путь духовных исканий и служения в рамках не запрещенных религий и религиозных течений. Получают от государства установленный уровень материальных благ.

Элита. Люди, которые занимают ключевые должности, связанные с принятием важных управленческих решений, распределением материальных ресурсов, выработкой и соблюдением законов. Получают от государства установленный уровень материальных благ. Жесткие требования к жизненным ценностям, в том числе обязательная проверка их правдивости. Жесткий контроль материального благосостояния.

Еще раз отметим. Предлагаемая модель – это только повод задуматься и начать дискуссию в обществе. Дискуссия назрела. Время ускоряется, где обрыв в пропасть неизвестно. Потом мы просто не успеем рассмотреть все возможности для выхода из тупиков.

10 историй из книги «Цифра и интеллект»

ИИ-революция 2022 года взорвала привычный нам мир. То, что казалось незыблемым, сегодня подвергается сомнениям. ИИ меняет жизнь людей, организаций, стран. ИИ меняет жизнь нашей цивилизации. Чтобы адаптироваться к этим изменениям, мало научиться вести диалоги с популярными ИИ-моделями. Нужно понимать возможности и перспективы, риски и угрозы, которые несет людям их новое творение. Книга поможет разобраться с главными вопросами и проблемами, которые ставит ИИ-революция.

В книге "Цифра и интеллект" 50 отдельных историй.

Познакомьтесь с 10 историями. Каждая – это повод задуматься.

История становления ИИ: надежды и сложности

Все, что делается в мире,

делается с надеждой.

Мартин Лютер

В этом сюжете мы рассмотрим историю становления ИИ как нового научного направления. Также будем говорить о символическом ИИ, оставляя для следующего сюжета историю развития нейросетей. В то же время искусственный интеллект как научное направление объединяет символический ИИ и нейросети. Это понятно и естественно, так как главная цель общая – воссоздание искусственным путем человеческого интеллекта. При помощи каких технологий – не так важно.

История искусственного интеллекта (ИИ) как нового научного направления начинается в середине XX века. К этому времени для работ над ИИ сложился ряд предпосылок. Среди философов давно шли споры о природе разума человека и процессе познания мира. Нейрофизиологи и психологи разработали ряд теорий о работе человеческого мозга и мышления. Экономисты и математики занимались оптимизацией расчётов и представлением знаний о мире в формализованном виде. Зародилась теория алгоритмов. Были созданы первые компьютеры.

Скорости вычислений ЭВМ оказались больше человеческих. В учёном сообществе закономерно начались дискуссии о границах возможностей компьютеров. Сразу возник вопрос: «Способны ли вычислительные машины достигнуть уровня развития человека?» Искусственный интеллект, который сравним с человеческим, стали называть сильным ИИ. Если техническое решение способно было решать отдельные задачи, присущие человеку, его стали называть слабым ИИ.

В 1950 году один из пионеров в области вычислительной техники, английский учёный Алан Тьюринг, пишет статью под названием «Может ли машина мыслить?» Это было, наверное, первое детальное исследование вопроса, могут ли машины думать. Единого и общепринятого ответа на вопрос «что значит – думать?» на тот момент не было. Поэтому, чтобы не погрязнуть в сложнейших философских и психологических концепциях, Тьюринг предлагает изящное решение.

Он описывает процедуру, получившую название тест Тьюринга. Человек и машина беседуют, а другой человек наблюдает за содержанием беседы. Если наблюдатель не может с уверенностью сказать, что сказал человек, а что машина, тест пройден и машину можно назвать сильным ИИ.

В другом варианте теста Тьюринга человек общается с неизвестным собеседником, которым может быть и человек, и машина. Если он не может их различить, то тест пройден, и машина – сильный ИИ.

До недавнего времени считалось, что тест Тьюринга позволит определить момент, когда машина в плане разумности сравняется с человеком. Генеративные нейросети опровергли применимость теста Тьюринга для ответа на заданный в статье вопрос.

Считается, что искусственный интеллект как научное направление появилось во время двухмесячного научного семинара, проведённого летом 1956 года в Дартмутском колледже, в Великобритании. В семинаре приняли участие ведущие западные ученые в области информатики – Джон Маккарти, Марвин Минский, Клод Шенон, Герберт Саймон и другие – всего 11 человек. Всех приглашенных объединял интерес к вопросам моделирования человеческого разума.

В организационных документах семинара заявлялось:

Мы предлагаем исследование искусственного интеллекта сроком в 2 месяца ... Исследование основано на предположении, что всякий аспект обучения или любое другое свойство интеллекта может в принципе быть столь точно описано, что машина сможет его симулировать. Мы попытаемся понять, как обучить машины использовать естественные языки, формировать абстракции и концепции, решать задачи, сейчас подвластные только людям, и улучшать самих себя.

Дартмутский семинар стал ключевой вехой в становлении новой научной области. Были утверждены ее основные положения, направления исследований, принципы и подходы. По предложению Джона Маккарти она получила название – artificial intelligence (AI), или в русском языке – искусственный интеллект (ИИ).

Особое внимание на семинаре было уделено нейросетям. Один из основных принципов создания искусственного интеллекта предполагал меняющиеся ответы на переменную среду. Его реализация требовала обучения машины методом проб и ошибок на произвольных данных – по аналогии с работой нейронной сети человеческого мозга.

Этим принципом отцы-основатели заложили мину под символический ИИ. Обучаться методом проб и ошибок на произвольных данных он в принципе не умел. Возможно, поэтому в дальнейшем решения, основанные на символическом ИИ, чаще называли интеллектуальными информационными системами или системами с интеллектуальным интерфейсом, избегая термина искусственный интеллект.

Любопытное совпадение – 11 сентября 1956 года в Массачусетском технологическом институте собралась специальная группа ученых, занимавшихся науками, смежными с теорией информации. Среди присутствующих были Герберт Саймон, Аллен Ньюэлл, Ноам Хомский. Все трое занимались искусственным интеллектом. Первый – на стыке с экономикой, второй – на стыке с психологией, третий – на стыке с лингвистикой. Саймон и Ньюэлл летом того же года принимали участие в Дартмутском семинаре.

Считается, что встреча в МТИ сформировала еще одно новое научное направление – когнитивную психологию. Этот раздел психологии исследует познавательные процессы человека: восприятие, память, внимание, представление и обработку информации, логическое, критическое и системное мышление, воображение и творчество, принятие решений. Выводы когнитивной психологии широко используются в других науках – в социологии, педагогике, экономике, а также при проектировании и построении систем искусственного интеллекта.

Когнитивная психология способствовала формированию нового направления в экономике – поведенческой экономике. Герберт Саймон – американский ученый с широкими интересами, считается одним из основателей научного направления искусственный интеллект. По совместительству он – лауреат премии имени Нобеля по экономике, которого иногда называют отцом поведенческой экономики. Вот такие научные переплетения.

Так получилось, что после знакового Дартмутского семинара действительность стала расходиться с наполеоновскими научными планами. Нейросети, которые в теории обладали гигантским потенциалом, дальше забавных экспериментов не продвинулись. Вопреки первоначальным планам символический ИИ стал доминирующей парадигмой исследований с середины 1950-х до конца 1980-х.

Символический ИИ – это собирательное название для всех технологий искусственного интеллекта, основанных на высокоуровневом «символическом» представлении задач и вопросов, логики их обработки, поиска решений и ответов.

В 1956 году Герберт Саймон и Аллен Ньюэлл представили миру компьютерную программу «Логик-теоретик». Это была первая программа, специально разработанная для выполнения автоматизированного логического вывода, которую называют «первой программой искусственного интеллекта». Программа была предназначена для доказательства математических теорем.

Программе удалось доказать 38 из 52 теорем, изложенных во второй главе трехтомника «Принципы математики», одним из авторов которого был знаменитый Бертран Рассел. Машинное доказательство одной теорем оказалось более изящным, чем доказательство авторов трехтомника.

Герберт Саймон сумел показать новое доказательство Бертрану Расселу и, по словам очевидцев, тот «с восторгом отреагировал». Правда, попытка опубликовать новое доказательство в научном журнале, посвященном вопросам логики, провалилась Редакция его отвергла под предлогом, что доказательство элементарной математической теоремы не представляет особой ценности. Это говорит о том, что исследованиям в области ИИ в 1950-е годы значения не придавали.

В 1966 году общественности был представлен первый в истории чат-бот по имени «Элиза». Эта программа формировала ответы по ключевым словам, которые встречались в вопросе. Хитрые алгоритмы позволяли чат-боту походить на психотерапевта. В США визиты к «Элизе» стали весьма популярными, поскольку люди поражались убедительности реплик и принимали её за искусственный разум.

Это конечно не было прорывом, и при внимательном диалоге «Элиза» быстро показывала свою ограниченность. Однако ее появление подогрело интерес к обработке естественного языка как функции искусственного интеллекта. Главное – показанные возможности заинтересовали большие компании, а также DARPA – управление перспективных исследовательских разработок Министерства обороны США.

Тем не менее кризис надвигался. Он был связан даже не столько с небольшими успехами нового научного направления, сколько с неоправданными завышенными ожиданиями. После Дартмутской конференции учёные-энтузиасты увлеченно предсказывали, что в ближайшем будущем появятся умные машины с сильным ИИ. Однако компьютерные технологии не могли угнаться за фантазиями учёных и футурологов. Успехи «Логика-теоретика» и подобных систем с практической точки зрения представлялись незначительными, а популярность «Элизы» – недолговечной.

Интерес к ИИ начал падать, и к середине 1970-х годов финансирование ИИ-исследований свелось к минимуму. Этот период иногда называют первой зимой искусственного интеллекта.

Зима продлилась несколько лет. С 1980-х годов начался бум экспертных систем, которые являются частным случаем символического ИИ. Бум был вызван не научными прорывами, а практической пользой, которую наконец стали приносить технологии ИИ.

Экспертные системы предназначались для выполнения специализированных задач. По сути, они имитировали работу профессионалов, помогая принимать решения в конкретных сферах деятельности. Экспертные системы состояли из двух ключевых компонентов:

базы знаний в виде набора фактов и правил, собранных силами экспертов;

алгоритмов, которые на основе сопоставления поступающих запросов с базой знаний проводили анализ и предлагали решения.

Одна из самых известных экспертных систем была разработана для компьютерной корпорации DEC. Она помогала инженерам настраивать серверы, экономя миллионы долларов ежегодно.

Экспертные системы стали широко применяться в различных областях, включая медицину, инженерное дело и финансы. Они позволяли автоматизировать процессы принятия решений и улучшать точность и эффективность работы специалистов.

Экспертные системы доказали свою полезность в узких областях, где процессы можно было описать строгими правилами. Однако, несмотря на успехи, они имели существенные ограничения и не могли справляться с задачами, требующими гибкости и адаптации.

Увлечение некоторых ученых новым научным направлением понятно. Создание сильного ИИ – самая завораживающая исследовательская проблема. Но история развития технологий ИИ интересна еще одним аспектом – отношением к этой теме массового обывателя.

Ажиотаж вокруг темы, подогретый знаменитыми учеными в середине 1950- годов, длился недолго и перекочевал на страницы научно-фантастических произведений. Интерес обывателей к реальным результатам исследований в области ИИ также угас очень быстро.

Системы распознавания образов, построенные на сложнейшем математическом аппарате, давали слишком много ошибок. Программы, способные делать логические выводы и решать задачи в рамках некоторой системы аксиом и правил вывода, оказались чрезвычайно громоздкими. Да и программная система, способная доказывать математические теоремы, в золотой век капитализма послевоенной эпохи мало кого могла заинтересовать.

Всплеск массового интереса к «Элизе» быстро сменился разочарованием и еще большим отстранением от темы. Узкие экспертные системы интересовали в основном узких профессионалов, обсуждать их для обывателей было сложно и не интересно.

Людей волновал один вопрос – когда компьютер обыграет в шахматы чемпиона мира. В 1997 году компьютер Deep Blue в шести партиях победил Гарри Каспарова. Массовый интерес к ИИ угас окончательно. Все остальные успехи нового научного направления, вплоть до революции генеративного ИИ 2022 года, связаны с нейросетями.

Резюме. В самом начале отцы-основатели сделали правильное предположение: полноценный ИИ можно создать только на основе технологий, работающих по аналогии с нейронной сетью человеческого мозга. Дальнейшая история подтвердила эту гипотезу.

Данные, которые используют для обучения

Дети учатся на примере взрослого,

а не на его словах.

Карл Юнг

Практически любой человек знает или хотя бы слышал, что генеративный ИИ обучается на больших массивах данных. Относительно этих массивов существует два предубеждения, широко распространенных среди людей, не представляющих, что такое машинное обучение. Это люди, которые уже активно используют генеративный ИИ, а также люди, которые к нему только присматриваются.

Первое предубеждение – для обучения нейросетей уже использованы все данные, накопленные человечеством. Второе предубеждение – нейросети обучаются на абсолютно случайных данных, которые они вытягивают из интернета.

Разбираться с машинным обучением – удел квалифицированных специалистов. Но нынешним и будущим пользователям генеративного ИИ с предубеждениями лучше расстаться. Попробуем им в этом помочь. А заодно поговорим о том, как находятся, отбираются и готовятся данные для обучения самых разных моделей современного искусственного интеллекта.

Начнем с первого предубеждения.

С 2024 года в самых разных изданиях, в том числе весьма авторитетных, постоянно появляются публикации примерно с такими заголовками: «Данные для обучения нейросетей заканчиваются. Что дальше?» В подтверждение приводится, например, такое сообщение:

Осенью 2024 разработчики OpenAI обнаружили, что, несмотря на общий рост производительности самой последней языковой модели, прогресс при переходе на нее менее заметен, чем при переходе от ChatGPT-3 к ChatGPT-4. Они связывают это с тем, что модель обучили уже на всех легкодоступных данных.

Читатель, уверены, уже отметил, что ключевое слово здесь «легкодоступные», а не слово «все». И это действительно так – заканчиваются легкодоступные данные, которыми могут пользоваться разработчики генеративного ИИ. Но, значит, есть еще и труднодоступные данные?

Здесь придется сделать небольшой экскурс во всемирную паутину.

Мы так часто употребляем слова «интернет», «всемирная паутина», «глобальная сеть», что в нашем сознании само понятие интернет ассоциируется с огромным, но единым информационным пространством. Мы почему-то уверены, что можем найти в интернете все.

Не все, что пожелаем, но точно – все, что там есть. В интернете, скорее всего, нет описания и изображения семирукого шестинога. Но если есть, их можно получить, составив правильный поисковый запрос – не правда ли? В реальности – все не совсем так.

В интернете принято выделять три сегмента.

Видимый интернет (Surface Web). Это тот сегмент интернета, к которому мы получаем доступ при помощи ссылок и поисковых запросов. В нем расположены официальные сайты организаций, новостные порталы, интернет-издания и многого другое, что находится в открытом доступе. Этот сегмент интернета доступен поисковым роботам, которые постоянно индексируют веб-страницы. Google и другие поисковые системы выдают в качестве результата только то, что находится в видимом сегменте интернета.

Глубокий интернет (Deep Web). Этот сегмент иногда называют «скрытая сеть», «невидимая сеть». Это места или контент в интернете, к которым нельзя получить доступ с помощью обычных поисковых систем. В первую очередь, это веб-страницы и базы данных, для доступа к которым нужно пройти аутентификацию, например, ввести логин и пароль. Так владельцы контента ограничивают к нему доступ.

Ограничение доступа к цифровому контенту может быть обусловлено многими причинами. Защитой персональных данных, конфиденциальностью контента, желанием на нем заработать.

Темный интернет (Dark Web). Более распространен термин даркнет. Это совсем небольшой сегмент интернета, для доступа к которому нужны специальные программные средства (обычные браузеры его не видят). В этом сегменте основная часть контента связана с преступной деятельностью. Искать читателю этот сегмент интернета мы категорически не рекомендуем, так как незаметно преступить закон в темном интернет проще простого.

Когда сравнивают сегменты видимого и глубокого интернета, обычно используют аналогию с айсбергом. Видимый интернет – это малая часть информационного айсберга. Глубокий интернет – его основная, гораздо более массивная часть. По некоторым оценкам глубокий интернет содержит более 90% цифровых данных. Оценки разнятся, но в любом случае закрытый цифровой контент в разы превосходит контент открытый.

Понятно, что учиться на данных из глубокого интернета генеративный ИИ в общем случае не может. Конечно, создатели ИИ-модели могут купить закрытый цифровой контент у его владельцев. В некоторых случаях владельцы свой контент и закрывают, чтобы зарабатывать на доступе к нему. Однако общей ситуации это не меняет – огромное количество закрытых данных для обучения нейросетей недоступно.

Да и с открытыми данными в видимом сегменте все не так просто.

С 2008 года некоммерческая организация Common Crawl занимается сканированием видимого сегмента интернета и созданием его обширного архива. Результаты своей работы организация бесплатно предоставляет широкой общественности. На ноябрь 2024 года в архивах организации хранилось около 250 миллиардов страниц, 45% которых – на английском языке.

До революции генеративного ИИ деятельность организации особых возражений не вызывала. Платный контент находился в закрытом сегменте интернета, а если попадал в видимый сегмент, Common Crowl была не при чем – это были происки пиратов.

Все изменилось, когда архивы Common Crowl стали использовать для обучения своих нейросетей компании, ведущие разработку в области генеративного ИИ. Быстро выяснилось, что в архивах хранятся миллионы платных публикаций, принадлежащих крупнейшим изданиям, таким как The New York Times, The Wall Street Journal и другие.

Поисковые роботы Common Crowl, как и поисковые роботы Google, умели извлекать платные публикации, пользуясь некоторыми скрытыми возможностями новостных лент. Но от поисковых инструментов Google владельцы контента признавали пользу – они увеличивали поток пользователей на их ресурсы. А вот пользы от того, что их публикации служат для обучения генеративного ИИ, владельцы не видели. Более того, уникальные возможности по генерации текстов делают искусственный интеллект серьезным конкурентом для периодических изданий и новостных агрегаторов.

Сегодня многие крупнейшие информационные ресурсы блокируют программы, которые собирают данные для обучения нейросетей. Среди них New York Times, Reuters и CNN. Поэтому пока генеративному ИИ сложно конкурировать на рынке оперативной достоверной информации. Давать объективную оценку событиям, которые произошли на днях, он не может.

Говорить, что данные для обучения нейросетей заканчиваются, преждевременно. Владельцам генеративного ИИ и владельцам уникального цифрового контента есть, о чем договариваться. К тому же следует помнить, что в реальном мире остается много данных, которые еще не оцифрованы. Это живая речь людей в многочисленных аудиозаписях прошлых лет, библиотеки мира, архивы периодики на разных языках, произведения искусства, археологические находки.

Второе предубеждение – нейросети обучаются на абсолютно случайных данных, которые они вытягивают из интернета. Попробуем кратко объяснить, почему это не совсем так.

В машинном обучении есть важнейший термин датасет. Датасеты – это организованные наборы данных, которые используются для обучения и тестирования нейросетей. Как правило, они представляют из себя упорядоченные коллекции записей, каждая из которых содержит различные характеристики конкретного объекта.

Если ввести в поисковой строке Google слово «датасет», то в выдаче будет много результатов с такими названиями: «130+ датасетов для машинного обучения», «Топ 100 open source датасетов», … В реальности доступных датасетов – десятки тысячи. Они различаются по назначению, содержанию и объему. Вот несколько примеров:

ImageNet – легенда, изменившая мир машинного обучения, которую мы уже упоминали. 14+ миллионов размеченных изображений в более чем 20 000 категорий.

MNIST – 70 000 рукописных цифр размером 28×28 пикселей.

Kinetics-700 – 650 000 видеоклипов из YouTube, покрывающих 700 классов человеческих действий. Минимум 700 примеров на каждое действие — от занятий спортом до повседневной активности.

Отдельные датасеты можно найти для различных видов транспорта, одежды, обуви и мебели, фруктов, овощей и цветов, древнеегипетских иероглифов, деталей автомобилей, ситуаций на дороге, … Сложно придумать тему, для которой не найдется подготовленного датасета.

В интернете существует много открытых и закрытых коллекций датасетов. Например, американское правительство создало ресурс, который содержит тысячи датасетов от федеральных агентств по климату, здравоохранению, транспорту, экономике. Данные структурированы по регионам и уровням власти, что упрощает поиск. Есть коллекция датасетов на основе статистики здравоохранения от ВОЗ.

Для увеличения объема данных, которые можно использовать в обучении, часто применяется их аугментация – внесение незначительных изменений в реальные данные. Например, на фотографии человека меняется цвет глаз, форма носа, прическа. Измененные данные увеличивают объем обучающего набора, и при этом сохраняется связь с реальными данными.

Кроме датасетов, огромное значение для обучения нейросетей имеют синтетические данные. Так называют сгенерированные компьютером данные, похожие на настоящие, но при этом полностью выдуманные. Это не фотографии лиц реальных людей, а изображения лиц, нарисованные нейросетью. Это не истории болезни реальных людей, а придуманные истории вымышленных пациентов, похожие на настоящие. Это не портреты реальных покупателей, а похожие имитации с ФИО, которые берутся «с потолка».

Применение в обучении синтетических данных позволяет справиться с несколькими проблемами, которые плохо решаются или вообще не решаются при работе с реальными данными.

Дефицит и редкость данных. Например, нейросеть нужно научить диагностировать редкую болезнь. Реальных историй болезни – десяток, крайне мало для обучения. В таких случаях на помощь приходят синтетические данные, которые можно создать вручную или по заданным алгоритмам. Нейросеть учится на «выдуманных» данных и начинает лучше распознавать реальные.

Проблемы конфиденциальности. Законы о персональных данных ужесточаются во всех странах. Компании как огня боятся их утечки, и синтетические данные – то, что нужно в этой ситуации. Например, банк хочет сделать нейросеть, которая будет предсказывать, кто возьмет кредит и вернет, а кто – нет. Использовать для ее обучения реальные данные клиентов — опасно и незаконно. Поэтому создаются мифические кредитные истории «выдуманных» клиентов, похожие по статистике на настоящие истории. Для обучения нейросети подходит, сохранность персональных данных не нарушена.

Стоимость реальных данных. Например, чтобы обучить беспилотный автомобиль ездить по разным дорогам, нужно потратить много ресурсов на реальные тестовые поездки. Синтетические данные помогают сократить издержки. Создается виртуальная среда, в которой нейросеть автомобиля собирает синтетические данные с камер и датчиков и учится принимать правильные решения.

Дисбаланс реальных данных. В реальных данных один тип данных может присутствовать в избытке, а данных другого типа – явно недостаточно. Обучение на них будет однобоким и в итоге – ущербным. Синтетические данные помогают выравнивать такие дисбалансы.

Мусор в реальных данных. Как и сама жизнь, реальные данные – не идеальны. В них могут быть опечатки, ошибки, случайные помехи, которые мешают обучению нейросети. Синтетические данные могут быть очищены от этих помех.

Синтетические данные играют важную роль в машинном обучении, но всегда следует помнить об опасностях их чрезмерного или неуместного применения.

Синтетические данные могут быть недостаточно похожи на реальные. Например, человеческие лица, которые генерируют нейросети, как правило, идеальны и не имеют явных изъянов. Если нейросеть обучать только на таких лицах, она будет плохо распознавать реальные лица с морщинами, дефектами и разными оттенками кожи, плохим освещением.

Синтетические данные могут потерять важные нюансы реальных данных. Например, при разработке беспилотного наземного транспорта нужно учитывать все особенности погодных условий. Если забыть, например, про извилистую скользкую дорогу, в какой-то момент это станет катастрофическим недостатком.

Резюме. Подбор и/или подготовка специальных наборов данных для обучения нейросетей – это искусство в сочетании с высокой квалификацией. Да и потенциал накопленных человечеством неструктурированных данных далеко не исчерпан – генеративному ИИ есть, чему учиться.

Обучение, проверка и настройка LLM

Я получил образование в библиотеке.

Совершенно бесплатно.

Рэй Брэдбери

Обучаться на структурированных наборах данных – датасетах – нейронные сети научились еще до революции генеративного ИИ. Такое обучение до сих пор играет важную роль, но революцию вызвали другие технологические решения. Их название сегодня слышали многие – большие языковые модели (Large Language Model, LLM).

LLM способны «понимать» поступающий на вход текстовый запрос и адекватным образом реагировать на него. Эта их способность после выхода в свет ChatGPT 3.5 уже несколько лет будоражит умы людей. Для большинства такая способность LLM – таинство и повод говорить об искусственном разуме, к созданию которого наконец-то приблизилось любознательное человечество.

Будем разбираться, как обычно – «на пальцах».

Прежде чем LLM начнет на равных общаться с людьми, ее нужно этому обучить. Обучаются LLM на обычных человеческих текстах – книгах, публикация в СМИ, официальных документах, мнениях самых разных людей по самым разным поводам. Такое обучение предполагает, что LLM правильно воспринимает и интерпретирует поступающие на вход тексты, а результаты каждой интерпретации улучшают возможности LLM к последующему общению.

Прежде чем перейти к обучению LLM, перечислим некоторые проблемы, с которыми сталкиваются любые технологии обработки естественного человеческого языка. До недавнего времени решение этих проблем казалось невыполнимой задачей.

Проблемы и примеры будем приводить для русского языка.

Неоднозначные по смыслу фразы. Бытие определяет сознание. Что здесь что определяет на самом деле. Хочешь есть? Да нет, не знаю. Так «да», «нет» или «не знаю»?

Многозначные слова. Что ты думаешь об этом замке? А про что речь – про рыцарский замок или про дверной замок?

Фразеологизмы. Ни пуха, ни пера. У нас нет ни того, ни другого? Темная лошадка. А это лошадь какого цвета?

Отнесение местоимений к существительным. Мы составляли план праздника, потому что он … был очень нужен; … был очень близок. Без контекста невозможно определить, к чему относится местоимение «он».

Это лишь некоторые проблемы, которые подчеркивают сложность задачи понимания текстов. Тем не менее LLM научились справляться и с этими проблемами, и со многими другими, которые делают человеческий язык образным, богатым, эмоциональным.

Напомним, что в основе LLM лежат трансформеры – архитектура, которая пришла на смену RNN – рекуррентным нейросетям. RNN воспринимают и обрабатывают текст последовательно – слово за словом. На больших текстах RNN работают плохо и неэффективно. Трансформеры способны воспринимать тексты целиком, сохраняя при восприятии заложенные в них смыслы и контекст.

LLM обучается на огромном количестве текстов. Обычно эти тексты делятся на три части. Первая используется непосредственно для обучения, вторая – для настройки параметров, третья – для итоговой проверки. Эти части не должны пересекаться, так как это завышает оценку качества работы LLM.

Сначала текст из первой части поступает в блок предварительной обработки, которая автоматически выполняется в несколько шагов.

На первом шаге текст разбивается на токены. Большинство токенов – это отдельные слова, но в целом ситуация сложнее и токенами могут быть неразделимые сочетания слов. Например, Нижний Новгород. Разбивать это название на два слова «нижний» и «Новгород» неправильно, так как в последующем приведет к искажениям. Таким образом, токены – это минимальные смысловые единицы.

Иногда токены объединяются в связанные последовательности, если в реальном языке соответствующие слова используются как устойчивые сочетания. Например, словосочетание «правильная дробь» целесообразно представить одним объектом для последующей обработки.

На втором шаге текст, разбитый на токены, нормализуется. Эта процедура предполагает переход к нижнему регистру, удаление знаков препинания, перевод в символьный вид всех чисел, расшифровку аббревиатур и некоторые другие операции.

На следующем шаге в словах-токенах выделяются корни путем устранения приставок, суффиксов, окончаний, они приводятся к канонической форме. Глаголы и его формы ставятся в неопределенную форму, существительные и прилагательные – в именительный падеж единственного числа. Слова «подумаю» и «думая» превращаются в слово «думать». Слова «веселенькие» и «празднички» в слова «веселый» и «праздник».

На последнем шаге подготовительного этапа проводится чистка текста – удаляются слова, которые не несут смысловой нагрузки: (артикли, междометья, союзы, предлоги).

После этого текст готов к переводу в его в числовые векторы и последующей обработке. Здесь начинается самая сложная для понимания часть процесса обучения LLM, за которой стоит математика, понятная и нужная специалистам по проектированию и обучению нейросетей. Для нас важно понять концептуальный смысл дальнейших действий, которые предпринимает LLM, формируя, поглощая и обрабатывая векторное представление подготовленного текста.

На первом шаге токены заменяются числами. Для замены используются заранее подготовленные переводные словари, в которых представлены пары «токен – число». Далее под токенами будем понимать их числовые представления.

Для дальнейшего погружения еще раз обратимся к архитектуре трансформеров, которая лежит в основе работы LLM. Важнейшим ее элементом является механизм внимания (attention). Этот механизм заменяет в LLM механизм понимания, который лежит в основе человеческого мышления.

Как и почему человек понимает текст и все его контекстные нюансы – до сих пор большая загадка. Во многом понимание человека интуитивно, не предсказуемо и вряд ли представимо в виде строгой математической модели. Механизм внимания LLM – это не метафора, не интуиция, а строгий математический аппарат. В результате его применения LLM великолепно имитирует важнейшую когнитивную способность человека – понимание речи.

С помощью механизма внимания LLM определяет, какие токены входного текста наиболее значимы в конкретной ситуации. LLM не фиксирует последовательность токенов, а вычисляет, какие из них связаны между собой и насколько. Каждый токен сопоставляется с каждым, независимо от их положения в тексте. По результатам сопоставления формируется матрица весов, которая отражает степень значимости каждой пары токенов по отношению друг к другу.

Черный кот залез на черепичную крышу дома.

После применения механизма внимания к этому предложению, слова «кот» и «крыша», «кот» и «черный» оказываются в многомерном векторном пространстве ближе друг к другу, чем слова «кот» и «черепичный». Эта близость выражена строгими математическими отношениями (параметрами нейросети), которые можно использовать для дальнейшей работы».

По мере обработки различных текстов, векторное пространство расширяется и уточняется. Если про черного кота LLM узнала не из одного текста, а из многих, близость слов «кот» и «черный» будет зафиксирована в результатах обучения LLM более прочно.

Естественный язык многогранен. Слова в предложениях и тексте связаны не только по смыслу, но и по синтаксису, позиции, ассоциациям, стилистике, концепциям.

Черный кот, живущий на крыше дома, напоминает не животное, а трубочиста.

Слова «черный» и «кот», «черный» и «напомнить» – связь смысловая и синтаксическая, так как это словосочетания. Слова «кот» и «трубочист» – связь ассоциативная. Слова «кот» и «животное» – связь концептуальная.

Поэтому в LLM используется механизм множественных голов внимания (multi-head attention). Каждая «голова» – это независимый блок внимания, обучающийся видеть определённый вид связей и вычислять соответствующие им весовые параметры. Так формируется сложная многослойная структура внимания, где LLM одновременно смотрит на текст под разными углами. Это делает его восприятие более точным и гибким, а внутреннее представление текста – многомерным.

Результатом всей процедуры является многомерная матрица внимания, в которой каждому слову присвоены веса, показывающие его важность для всех остальных слов по разным видам связей.

А теперь представим себе, какое количество связанных данных должно храниться в многомерном векторном пространстве после того, как LLM «прочитает» тысячи книг и сотни тысяч публикаций. Именно поэтому для больших языковых моделей понадобились нейросети с миллиардами параметров и огромные вычислительные мощности.

На этапе предварительного обучения LLM «проглатывает» огромное количество книг и публикаций, представляющих разные грани человеческого творчества – от юмористических рассказов до научных отчетов, от коротких новостных сообщений до романов. Обработать поступающие на вход тексты – первая задача LLM. Вторая задача – генерировать связанный текст в ответ на запросы пользователей.

Когда LLM генерирует текст, она не думает и не выбирает в человеческом смысле. У нее нет интуиции, воли или намерения. Есть только математическая структура, в которой каждое возможное слово имеет свои веса, зависящие от контекста. И есть стратегия генерации, которая формирует последовательность слов. Каждое следующее слово подбирается с учетом четырех основных факторов:

первый фактор – математическая структура поступившего на вход запроса пользователя;

второй фактор – математическая структура, сформированная на этапе предварительного обучения;

третий фактор – вероятностные алгоритмы, позволяющие подбирать наиболее подходящие слова (если в запросе есть слова «лаять» и «кусать», наиболее вероятное слово для подбора – «собака»);

четвертый фактор – сформированная до этого последовательность слов в ответе.

Вероятностные алгоритмы могут быть настроены разными способами. Можно использовать очевидное правило «подбирать слова в лоб, с самой высокой совокупной вероятностью».

Солнце взошло над…

Вероятность токена «море» – 0.45, токена «город» – 0.30, токена «стакан» – 0.001. Модель не задумываясь выбирает токен «море». Текст получается предсказуемым и … скучным. Если вероятностные алгоритмы настроить более тонко, можно получить красивую литературную фразу.

Солнце взошло над прекрасным просыпающимся городом.

После предварительного обучения LLM