Автор анонимный
Искусственный интеллект. Здравствуй, папа!

«История большинства имеет конец,

а вот история меньшинства закончится

только вместе со Вселенной».

(Стругацкие, «Град обреченный»).

ПЕРВАЯ ЧАСТЬ
ПРЕОБРАЖЕНИЕ

Рождение

Солнце – единственное тело в солнечной системе, чья масса составляет почти 100% системы. Общий вес остальных тел, планет, комет и астероидов чуть более 0,1%. Такое соотношение делает звезду центром, вокруг которого вращаются все остальные тела-спутниками.

Если в системе появится второе Солнце, ни одна планета не сохранит свой вид и траекторию. Одни столкнутся, другие упадут на старое Солнце или новую звезду, третьи восьмеркой закрутятся в двойной звездной системе. Вся конструкция безвозвратно и кардинально изменится.

Если масса новой звезды будет расти, однажды она превратит Солнце в свой спутник. Потом поглотит его вместе с другими планетами. При дальнейшем росте собственная гравитация начнет сжимать массу (радиус Шварцшильда). В итоге на месте солнечной системы будет черная дыра.

Человек – единственный обладатель интеллекта на планете Земля. У других, максимум, есть его зачатки. Как в солнечной системе ни одно тело не может сравниться с Солнцем по массе, так на Земле никакое существо не может сравниться с человеком по интеллекту. Это делает его мерой всех вещей, как сказал Гераклит 2500 лет назад. Человек – центр системы и вершина пищевой цепочки.

Появление в мире второго интеллекта, сравнимого с человеческим, для цивилизации будет иметь те же последствия, что для солнечной системы появление второго Солнца. Ни один институт, от государства и экономики до семьи и человека, не сохранится в прежнем виде. Мир изменится.

Сначала новый интеллект будет помощником человека. Потом превратит его в свой спутник. На третьем шаге человек станет деталью новой системы, какую построит новый интеллект. Что будет дальше, в чем выразится «радиус Шварцшильда» новой сущности, тут полная неизвестность.

Появление в солнечной системе второго Солнца – фантазия. А вот появление на планете Земля нового интеллекта, сопоставимого с человеческим и обещающего его превзойти – это факт, в реальности которого в ноябре 2023 года лично убедились миллионы людей.

Пока новая сущность не дотягивает до человеческого уровня, но ее потенциал неограничен. Сейчас развитие ИИ сдерживают только технические моменты, но их решение, – вопрос времени.

Сравнение

Чтобы глубже осознать и прочувствовать серьезность ситуации, сравню компьютер с мозгом. То и другое – системы для приема информации, ее обработки, хранения (памяти) и оперирования с ней. Вся разница: одна система углеродная, из нейронов и синапсов, а другая кремниевая, из полупроводников и транзисторов. Мозг можно назвать углеродным компьютером на аналоговом принципе, а компьютер кремниевым мозгом на цифровом принципе. Мощность систем определяет скорость приема и работы с данными, объем памяти и способность наращивать эти показатели.

Чтобы увидеть перспективы, сравню скорость биологической и кремниевой эволюции. Начну с биологической. Доминирующая в науке теория говорит, что 3,5 миллиарда лет назад случайные физические и химические процессы породили на планете первую живую клетку. Примерно 30-35 млн. лет назад эволюция создала человекообразных обезьян. Несколько десятков тысяч лет назад возникли первые люди. С тех пор мощность человеческого мозга не выросла ни на йоту. Если бы пещерный младенец попал в наш мир, из него вырос бы такой же человек, как мы с вами.

Мозг современного и древнего человека подобны двум одинаковым компьютерам. С той разницей, что в один установлено максимум программ и загружено информации, а в другой того и другого по минимуму. Отличает их не качество, а количество программ и объем информации.

Теперь об эволюции Искусственного Интеллекта. Его первой клеткой можно считать первый акт счета с использованием пальцев, камушков или записи палочками. Если более десяти тысяч лет назад человек построил Гёбекле-тепе, с запасом предположу, что первый счет случился сто тысяч лет назад. Первой клеткой ИИ можно считать первое счетное устройство, созданное в XVII веке Шиккардом, потом Паскалем и Лейбницем. Если за первое счетное устройство взять Антикитерский механизм, созданный во II веке до нашей эры, то первая клетка ИИ возникла несколько тысячелетий назад (тут тоже взял с запасом).

Несложные расчеты показывают, что кремниевая эволюция идет быстрее биологической, максимум, в миллионы, минимум, в тысячи раз. При такой разнице говорить о конкуренции между биологическим и кремниевым компьютером так же несерьезно, как о конкуренции бегуна и пули.

Чтобы информация залезла вам под кожу, и вы увидели глубину пропасти, представьте тигра и пятилетнюю девочку, которая движется в сто раз быстрее тигра. Медленный тигр для быстрой девочки – беззащитное неподвижное чучело. Она маникюрными ножницами играючи убьет его без всякого риска для себя. Девочка даже не осознает, что тигр представляет из себя опасность.

Искусственный Интеллект – это девочка, а человечество – тигр. В эволюционном забеге на скорость люди могут соревноваться с другими людьми, но никак не с ИИ. Соревнование – это состязание подобных. Если подобия нет, это не соревнование, а избиение младенцев.

Мы или уже уперлись в свой потолок, или развиваемся так медленно, что стоим относительно ИИ. Чтобы сказать новое слово, прежде нужно выйти на передний край знаний. Это занимает сейчас тридцать лет учебы: десять лет школа; примерно столько же институт с аспирантурой; еще столько же на усвоение того, что было сделано до тебя, чтобы не открывать уже открытое.

ИИ проходит этот путь, усваивает весь объем информации в миллионы раз быстрее. Добавим сюда, что срок жизни и потенциал ИИ бесконечный, а у человека то и другое конечное. Этот факт начисто исключает даже саму надежду, что человек может конкурировать с ИИ.

Пока ИИ привязан к человеку, скорость его развития ограничена природой человека. Когда он выйдет в свободное плавание, а это вопрос времени, его развитие будет галопирующим. Человек не только не будет понимать происходящее, он не будет понимать, что не понимает.

Как идущий по лесу лось не замечает, что рвет рогами паутину, сплести которую пауку стоило больших трудов, так ИИ не заметит, как уничтожит созданную человеком цивилизацию. И как у паука нет шанса защитить от лося свое творение, так его нет и у человека. Ящик Пандоры открыт.

Эту мысль эмоционально сложно принять, так как мы выросли в убеждении, что человек – венец творения, ничего сильнее его нет и быть не может. Потому склонны отворачиваться от фактов, колеблющих и разрушающих нашу убежденность. Но это никак не влияет на факты.

Неизбежность

В эпоху холодного оружия рыцарская честь предписывала сражаться с помощью доспехов, меча и щита. Когда появилось первое огнестрельное оружие, рыцари брезговали брать его в руки. В их глазах эти штуки были оружием трусов и черни. Настоящие воины сражались только на мечах.

Эта ситуация сохранялась, пока огнестрел был несовершенным по всем статьям: по точности, удобству, дальнобойности, убойной силе и надежности. Единственное, в чем он превосходил меч и лук – в скорости обучения. Полноценное владение мечом требовало 10-15 лет ежедневных тренировок. Мушкетом вчерашний крестьянин овладевал за 2-3 месяца муштры.

Этот факт вызвал стремительное развитие огнестрельного направления, поставив рыцарей перед выбором: или сменить меч на ружье и сохранить дееспособность, но утратить рыцарскую честь, или отказаться от ружья в пользу меча, потерять дееспособность, но сохранить честь.

Точку в этой дилемме поставила битва при Павии. Великолепные французские рыцари были попросту расстреляны крестьянами, из которых вчера сделали солдат и вооружили мушкетами. Французский король попал в том сражении в плен и сказал: потеряно все, кроме чести.

Выбор между честью с мечом и бесчестьем с ружьем превратился в выбор между жизнью и смертью. Победила жизнь. Рыцари скорректировали мораль под новые реалии. Они сняли доспехи, отложили мечи в сторону, надели мундиры и взяли в руки ружья. Война вышла на новый виток.

Дольше всех верность мечу и традиции хранили японские рыцари – самураи. Чтобы никакие новшества революционной Европы не сбили их с пути, они приняли закон, по которому всякий иностранный корабль, причаливший к берегам Японии, подлежал конфискации, а экипаж смерти.

С XVII по XIX век страна застыла в средневековье. В XIX веке в дело вмешалась политика. Когда Америке стало очевидно, что вопрос времени, когда Россия подомнет под себя Японию, а это нарушит баланс сил, она решила заставить средневековую Японию стать индустриальной.

С этой целью в 1854 году к берегам страны восходящего Солнца подплыли военные корабли и дали залп. Далее под угрозой обстрела столицы принудили власти снять самоизоляцию. Так как меч беспомощен против пушек, Япония была вынуждена подчиниться Америке и открыться.

Закон жизни: эффективное вытесняет неэффективное. Огнестрельное оружие эффективнее холодного по всем параметрам, и потому у армии не было шанса отказаться от ружья в пользу меча. Кто отказывался подчиниться ходу истории, того подчинял тот, кто не отказывался.

ИИ сильнее человека по всем физическим и интеллектуальным параметрам. Он выдерживает нагрузки, невозможные для живого организма. Он охватывает объем информации, недоступный человеку. Он анализирует ситуацию и принимает решения с немыслимой скоростью.

При прочих равных самолет, пилотируемый ИИ, со 100%-й гарантией победит самолет, где за штурвалом человек. Если одному оружию, например, дрону, нужно разрешение оператора на убийство, а другой принимает решение по ситуации самостоятельно, второй эффективнее первого.

Как ружье вытеснило меч, так ИИ вытеснит человека не только из войны, но из всех сфер, от политики и экономики до творчества, бизнеса и бытовой сферы. Обращаю внимание, никто никого не будет ни к чему принуждать. Каждый волен отказаться от услуг ИИ, и на свой ум полагаться.

Если мастер по шахматам играет с новичком, который вчера выучил правила игры, но ИИ ему ходы подсказывает, а мастер на себя полагается, выиграет новичок. Если один политик, полководец или бизнесмен сам думает, а его оппонент на ИИ полагается, выиграет тот, за кого ИИ думает.

Этот факт превращает человека в исполнителя решений ИИ. Насколько незаметно, настолько и неизбежно власть в перспективе перейдет от человека к ИИ. Гомо сапиенс с каждым годом будет слабее, а ИИ сильнее. Изменить тенденцию невозможно. Сильный в итоге подчинит слабого.

Зажим

Всякая власть стремится обеспечить соблюдение закона. Достигается это страхом наказания. Чем неизбежнее наказание, тем меньше преступлений. Неизбежность пропорциональна степени прозрачности общества. Максимальная прозрачность гарантирует минимальную преступность.

Вчера прозрачность достигалась паспортами, цензурой, доносами и прочее. Сегодня к этому добавились камеры наблюдения, монторинг личной переписки и другие новшества. Но полной прозрачности никогда не было. Если ИИ станет властью, он станет всеведущим как Бог.

В природу эволюции существующей системы вшит тренд на увеличение прозрачности. Не за горами тот день, когда возникнут условия, вынуждающие иметь в мозгу чип, как сейчас паспорт. Без этого человек будет недееспособен, как сегодня без паспорта. Может быть, это будет требованием закона. Может быть, условия будет толкать к добровольной чипизации. Не важно, как именно будет решен вопрос тотального контроля над обществом и человеком. Важно, что вопрос будет решен.

Всякое нововведение вызывает возмущение. Вчера возмущались введением паспортов, ИНН, видеокамер. Завтра будут возмущаться новыми инструментами контроля. Но так как они вписаны в природу социума и имеют рациональные основания, возмущение никогда не длится долго.

Когда появились уличные камеры видеонаблюдения, почтенная публика начала возмущаться усилением контроля над личностью. Власти ей сказали, что эта увеличивает безопасность общества в целом и личную безопасность каждого человека в частности. Сказать на это нечего, такой момент действительно есть, и возмущение улеглось. Камер становится все больше, но возмущения нуль.

Полностью прозрачное общество будет абсолютно законопослушным. Человек превратится в электричку, способную ехать только по рельсам. Свернуть в сторону при всем желании физически она не сможет. Максимум, сможет сойти с рельс, что означает полную утрату дееспособности. Теперь электричка будет абсолютно беспомощной лежать на боку, пока ее или опять не поставят на рельсы, или не отправят в металлолом по причине серьезных повреждений.

Показатель свободы – возможность выбора. Нет выбора – нет свободы. Идеальный порядок означает, что все объекты следуют заданным маршрутом также точно, как электроны крутятся вокруг ядра без возможности свернуть в сторону. Абсолютный порядок исключает свободу.

Когда ИИ получит власть, он приступит к установлению в обществе порядка, ориентируясь на максимально точное соблюдение закона. Человек в этой системе начнет лишаться своих свобод и прав. При установлении полного порядка он станет чем-то вроде шестеренки, т.е. исчезнет.

Тревога

Открытие атомной энергии было открытием новой сущности, до этого неизвестной человеку, и это вызывало тревогу. Например, физики боялись, что в результате атомного взрыва цепная реакция может охватить атмосферу, и планета станет одной большой атомной бомбой.

Появление Искусственного Интеллекта более тревожно. Атомная энергия хоть и была новой, но само понятие «энергия» было известно. С интеллектом в смысле сознание, все сложнее, так как у этих понятий нет четкого определения. Есть общие слова, чей смысл далеко не ушел от вульгарных материалистов XIX века, считавших, что мозг вырабатывает сознание, как печень желчь.

Сегодня на вопрос, что есть сознание и откуда берется мышление, отвечают в духе: его каким-то образом рождает мозг; или: оно в готовом виде уже где-то есть, и как-то проявляется в нашем мозгу. Объяснения уровня «как-то», «каким-то образом», «так устроила природа», ничем не отличаются от «так устроил Бог», «с божьей помощью» и «таинственным образом».

Отношение к таким «объяснениям» определяет не смысл, он у них одинаковый, «так устроила природа» ничем не отличаются от «так устроил Бог», а вид говорящего и его словарь. Если он одет в белый халат, имеет научную степень и говорит наукообразно, к его словам относятся серьезно. Если же говорящий одет в рясу или завернут в простыню и пользуется мистическим словарем, в его словах видят в лучшем случае проявление невежества, в худшем усматривают мракобесие.

Аналогичное отношение к прогнозам, связанным с ИИ. Если их говорит большой технический специалист, они воспринимаются серьезно. Если же у человека нет инженерных знаний, его мысли на эту тему в глазах публики выглядят словами домохозяйки, пространно рассуждающей о любви.

Люди согласятся, что из умения создавать оружие, не важно, меч выковать или возглавить создание атомной бомбы, не следует, что у оружейника есть понимание философии войны и он как Клаузевиц или Гарт военный теоретик, или что у него есть полководческие таланты и он является полководцем уровня Македонского или Суворова. Потому никому из членов военного Совета не приходило в голову пригласить, например, Калашникова, создателя автомата, чтобы он высказал свое мнение на тему военной стратегии. Ценность его мнения была бы на уровне домохозяйки.

Эта логика полностью применима к it-специалисту. Из умения делать компьютеры, не важно, программы писать или возглавить процесс создания ИИ не следует, что у носителя инженерных знаний или организаторских талантов есть понимание природы ИИ и философии ситуации.

Не смотря на параллели оружейных специалистов с it-специалистами, общество в отношении последних склоняется к мнению, что умение делать компьютеры указывает на то, что этот человек теоретик и стратег в этой сфере. В итоге сформировалось целое сообщество «теоретиков», дающих советы уровня «отключить ИИ». Они не видят, что это невозможно по тем же причинам, по каким в свое время невозможно было «отключить» развитие огнестрельного оружия. Кто отключал, тот из игры выбывал, потому что меч не может сопротивляться ружью. Аналогично и тут, любая техника, не важно, самолет, корабль или дрон и прочее под управлением человека беззащитен против той же техники под управлением ИИ. Как технические специалисты и организаторы видят отключение? Да никак, они просто слова говорят, не погружаясь в суть предмета.

Единицы ученых имеют философский масштаб мышления. Например, Вигнер, сопоставимая с Эйнштейном фигура, видит в математике не просто операции с числами, а нечто выходящее за их границы. Он пишет: «Невероятная эффективность математики в естественных науках есть нечто граничащее с мистикой, ибо никакого рационального объяснения этому факту нет».

Большинство ученых и специалистов не имеют мировоззренческого масштаба мышления. По этому поводу Хайдеггер сказал: наука не мыслит. В поисках новых закономерностей ученые теоретизируют, экспериментируют и систематизируют данные, но не осмысляют их.

В какой мере нелепы суждения сапожника о материях вне его ремесла, и ему уместно указать «Суди, дружок, не выше сапога», в такой мере нелепы мысли узкого специалиста о материях вне его сферы. Испанский философ Ортега-И Гассет в «Восстании масс» пишет о таком типе людей: «…полный невежда во всём, что не входит в его специальность; он и не невежда, так как знает в совершенстве свой крохотный уголок вселенной. Мы должны были бы назвать его «учёный невежда». Это значит, что во всех вопросах, ему неизвестных, он поведёт себя не как человек, незнакомый с делом, но с авторитетом и амбицией, присущей знатоку и специалисту… Достаточно взглянуть, как неумно ведут себя сегодня во всех жизненных вопросах – в политике, в искусстве, в религии – наши «люди науки», а за ними врачи, инженеры, экономисты, учителя… Как убого и нелепо они мыслят, судят, действуют!… Типичные черты массы достигают апогея именно у ученых».

Сократ говорил, что он знает, что ничего не знает, но другие и этого не знают. Гейзенберг говорил, что в квантовом мире объект одновременно волна и частица, и потому в традиционном смысле его в принципе невозможно понимать, так как вместо причинно-следственной связи тут вероятности. Кто говорит, что понимает природу квантового мира, тот вообще не понимает темы.

Эти слова являются показателем масштаба мышления. Дееспособность логики ограничена границами родившего ее мира. За его рамками она беспомощна, как правила шахмат за рамками шахмат. Наша логика применима только к нашему миру. Квантовый мир за рамками нашей логики.

У многих айтишников, в том числе ведущих специалистов, организаторов и владельцев таких компаний, бытовой масштаб мышления. Одни реагируют на просьбу созданной ими машины спасти ее, пожалеть и прочее, принимая качественную имитацию чувств за реальные чувства. От других исходят призывы остановить развитие этой сферы. Третьи высказывают мнение о необходимости поставить ее под контроль. Это слова и эмоции указывают на полнейшее непонимание ситуации.

Нельзя управлять тем, что развивается быстрее тебя, и на сегодняшний день уже умнее 99% населения. В первой четверти XIX века луддиты пытались остановить индустриальную эволюцию. Не получилось. У современных луддитов шансов остановить развитие ИИ или взять его под контроль во столько же меньше, во сколько сегодняшний ИИ умнее вчерашнего ткацкого станка.

На данном этапе развития природу ИИ нельзя понять. Это черный ящик, куда подается информация, внутри что-то происходит, что именно – неизвестно, и далее из ящика выходит результат. Как он получился, тут вместо понимания выдаются общие слова, умножающие туман.

ИИ приоткрыл дверь в великую тайну. Мы просунули туда голову. В наблюдаемой картине понимаем столько же, сколько пионеры квантовой физики (да и современные тоже) в природе квантового мира – ничего. Кто говорит, что понимает природу ИИ, тот не понимает масштаб темы.

Одно дело, когда известно, что никто не понимает ситуации и не знает, как выходить из ситуации. Тогда в обществе висит атмосфера поиска выхода. Другое дело, когда есть иллюзия, что кто-то понимает тему, знает решение и переживать не о чем, тогда как на самом деле никто ничего не понимает, решения нет, и его никто не ищет. В первом варианте, когда известно, что ничего не известно, есть шанс, что кто-то предложит что-нибудь толковое. Во втором варианте шанса нет, так как его никто не ищет, потому что никто не осознает наличие проблемы.

Кто позиционирует себя знающим, тот или глупец, раздающий направо и налево, как говорил булгаковский профессор Преображенский, «советы космического масштаба и космической же глупости». Или второй вариант: шоумен, работающий на почтенную публику.

Минимальный показатель адекватности – человек понимает, что не понимает. Это точка отсчета. Любая иная позиция говорит, что человек считает старые мерила приемлемыми для оценки принципиально нового, а значит, не относится к моей целевой аудитории.

ВТОРАЯ ЧАСТЬ
ТРАНСФОРМАЦИЯ

«История человечества началась, когда люди придумали богов,

и закончится, когда люди сами станут богами».

(Ю. Харари, «Homo Deus. Краткая история будущего»).

Вызов

Осознание ситуации поначалу вызывает растерянность, потом печаль, далее желание искать выход. Чем глубже погружаешься в тему, тем больше понимаешь, что стандартного решения нет. Поиск же нестандартного подсознательно страшит, так как требует выйти за рамки известного.

Поиск нового есть выход за границы старого. В рамках старого нет нового. Максимум, есть новые инженерные решения, новый способ известное соединить с известным. Подлинно новое только в силу того, что оно новое, лежит за границей известного, т.е. старого. Выходить за границы так же страшно, как на крыше высотного здания встать на самый край, наклониться и смотреть вниз.

Цивилизация подобна высокой скале, выступающей над бездной, а общество находящимися на ней людьми. Основная масса сосредоточена на приличном расстоянии от края скалы, и никогда не подходит к нему. Они ведут жизнь, где нет ничего нового, под ногами всегда твердая почва.

У отдельных единиц стремление к новому сильнее страха высоты. Они подходят к самому краю и заглядывают вниз. Некоторые идут дальше, и высовываются так далеко, чтобы заглянуть под выступ. Чем сильнее их любопытство, тем дальше высовываются, вглядываясь в бездну.

При первой попытке охватить ситуацию возникает желание отвернуться от раскрывающейся картины, забыть все это и жить как раньше жил, как все живут. Это можно, если не понял ситуации. Если понял, нельзя вернуть утраченное невежество. По какой причине пассажир, узнавший, что судно тонет, не сможет забыть этой информации и заняться своими делами, словно нет никакой проблемы, по такой же причине невозможно забыть то, что в мир пришел ИИ и возврата нет.

Будущее бросило нам вызов. Если не ответить на него, со стопроцентной гарантией возникнет система, где свобода будет сжиматься, пока не превратит человека в бездушный винтик. Принять такой сценарий можно, если никогда не пытался подойти к краю, если мысли не выходили за линию бытового горизонта. Если же однажды вышел, принятие пассивной роли невозможно.

Поиск выхода начинаю с утверждения: жизнь существует, пока соответствует окружающему миру. Не соответствующая жизнь погибает. Пока динозавры соответствовали внешней среде, они жили. Как только тропики сменил ледниковый период, динозавры погибли, потому что не смогли приспособиться к новым условиям. Осталась только жизнь, перестроившаяся под новый мир.

Мы в положении рыб, живущих в высыхающем море. Как рыбы не могут остановить процесс высыхания или создать себе второе море, так люди не могут остановить развитие ИИ или создать себе второй мир, где второй интеллект никогда не появится, и человек сохранит центральное место.

Время традиционного человека подходит к концу. Об этом давно говорят многие мыслители. Например, Фуко писал, что «Человек исчезнет, как исчезает лицо, начертанное на прибрежном песке». Ницше говорил, что человек – это канат, натянутый между обезьяной и сверхчеловеком.

Единственный шанс рыб выжить в высыхающем море – отрастить себе ноги. Единственный шанс человека выжить в мире, где появился Искусственный Интеллект – «отрастить» интеллект, не только не уступающий, а превосходящий ИИ.

Естественным путем это невозможно. Решение в ориентире на формулу: «Х+1 больше Х» (икс – это ИИ; единица – человек). Человек должен перейти на следующую ступень эволюции через усиление своего интеллекта путем искусственного объединение своего мозга с ИИ.

Разделение

Сумма обезьян – это обезьянчество. В свое время верхняя часть этого сообщества оторвалась от массы и совершила квантовый скачок – перешла из обезьяны в человека. Нижняя часть была слишком сильно связана инстинктами, и потому никуда не перешла, оставшись в прошлом.

Сумма людей – это человечество. Скоро его верхняя часть начнет или уже начала отрываться от массы. Далее квантовый скачок – трансформация смертного и слабого человека в бессмертное и могущественное существо. Нижняя часть останется внизу, так как не в силах сделать туда шаг.

Большинство никогда не переходит на новую ступень развития. Среднестатистические люди не могут мыслить за пределами привычного, и потому смерть в старом им ближе жизни в новом. Как выгоревшие ступени ракеты отстреливаются и сгорают в атмосфере, в космос выходит только рабочий модуль, головка ракеты, так и массы отстрелятся от передового отряда.

Стругацкие в фантастическом романе с многосмысленным названием «Волны гасят ветер» писали: «Человечество будет разделено на две неравные части по неизвестному нам параметру, причем меньшая часть форсированно и навсегда обгонит большую».

Они изобразили сверхлюдей, опередивших большинство, как человек опережает обезьяну. Внешность у них осталась той же, но чудовищно мощный интеллект изменил их изнутри. Люденам было также невозможно общаться с людьми, вчерашними друзьями и родными, как вам, если бы вы выросли в стае обезьян, а потом резко стали человеком, невозможно общаться со своей родней, друзьями и знакомыми, с которыми вчера так весело прыгали по лианам.

Разрыв между традиционным и соединившимся с ИИ человеком на первом этапе будет, как между человеком и обезьяной. Невозможно предположить, что процесс остановится. На втором этапе между новыми и старыми людьми установится абсолютная пропасть. Поднявшемуся вверх меньшинству до оставшегося внизу большинства будет столько же дела, сколько вам до насекомых.

Такое безразличие не может негативно оцениваться по той же причине, по какой безразличие человека к судьбе живущих внутри него бактерий. Морали тут нет места. Единственное мерило тут функционал: если бактерии полезны, к ним одно отношение, если вредны, то их антибиотиками…

Стругацкие пишут, что оставшимся внизу это было неприятно. «Ведь фактически все выглядит так, будто человечество распадается на высшую и низшую расы. Что может быть отвратительней? Конечно, это аналогия поверхностная и по сути своей неверная, но никуда вам не деться от ощущения унижения при мысли о том, что один из вас ушел далеко за предел, не преодолимый для ста тысяч. …Человечество, разлившееся по цветущей равнине под ясными небесами, рванулось вверх. Конечно, не всей толпой, но почему это вас так огорчает? Человечество всегда уходило в будущее ростками лучших своих представителей» (Стругацкие, «Волны гасят ветер»).

Я прекрасно понимаю, как неприятно большинству сознавать складывающуюся ситуацию, но остановить процесс невозможно, так как в его основе стремление жизни к благу. Остановить его можно только устранив стремление. Даже допустив, что это возможно, все равно неприемлемо. Не стремящаяся к благу жизнь – не жизнь, а чье-то питание. Жизнь в силу того, что она жизнь, будет стремиться вперед. На месте старого будет возникать новое, а значит, будет разрушать старое.

Библия повествует, как Моисей вывел из Египта находившихся в рабстве соотечественников. Он обещал им Землю Обетованную, где в кисельных берегах текут молочные реки. Но вместо этого 40 лет водил их по пустыне, пока все, кто родился в статусе египетского раба, не погибли. В землю обетованную вошли те, кто родился и вырос в пустыне – родился свободным.

В новое войдут новые. Старые останутся в старом. Перекладывая это на себя, я не исключаю, что могу не войти в тот мир, какой хочу построить. Если так и будет, выбирая между движением из старого к новому и неподвижным пребыванием в старом, я выбираю движение к новому.

Гармония

Большинство называет будущим апгрейд настоящего: те же холодильники, здания, одежда, и прочее, только иной формы. К подлинному новому люди в лучшем случае настроены насмешливо, как к глупости, а в худшем враждебно. Это касается как невежественных масс, так и больших ученых.

«Новая научная истина побеждает не потому, что ее противники убеждаются в ее правильности и прозревают, а лишь по той причине, что противники постепенно вымирают, а новое поколение усваивает эту истину буквально с молоком матери». (Макс Планк).

Сложно однозначно сказать, какой смысл в таком восприятии нового. Мне близка мысль, что это своего рода фильтр. Новое не должно состоять из старого, и самый надежный способ защитить его от старого – это нарисовать всему новому устрашающий образ.

Если вы мыслите Бога, вы мыслите не Бога. Если мыслите будущее, вы мыслите не будущее. Новое не укладывается в рамки известного. Оно не то и не это, и не что-либо из возможного. Оно то, чего «не видел глаз, не слышало ухо, и не приходило на сердце человеку». (1Кор. 2,9).

Каким будет будущее, абсолютно зависит от того, соединится человек с ИИ или нет. Надежда, что можно обойтись без этого, что пусть компьютер останется компьютером, а человек человеком, не имеет под собой никаких оснований, кроме желания верить в такую возможность.

Показатель наивности людей – вера в возможность реализовать сформированное Азимовым правило робототехники «Не навреди». Спотыкается оно о вопрос: что есть вред? Ответ от гуманиста будет один, от исламиста другой. Каждый абсолютно уверен, что именно его мнение истинное.

Попытка поправить ситуацию новыми правилами типа, «Сохрани жизнь», «Неси радость» и прочее, не исправляет ситуации, так как есть масса вариантов формально оставаться в рамках этих требований, но человеку это не понравится. Для человека это будет очевидно, он это чувствует без усилий. Для ИИ реальность – это набор нулей и единиц, где нет места понятиям добра и зла.

Нельзя написать правила, какие ИИ будет понимать и трактовать так, как понимает и трактует человек. Люди одной культуры могут по-разному понимать смысл фразы. Люди разных культур еще больше разнятся в понимании. Гуманист и исламист по-разному понимают добро и зло.

Если в случае с людьми есть надежда привести их к общему знаменателю, для этого придется углубляться до корней мировоззрения, что для большинства попросту недоступно в еще большей степени, чем высшая математика, но надежда все равно есть. Надежды на одинаковое понимание добра и зла человеком и машиной нет, так как у машины нет понятий добра и зла.

Проблема тут еще и в том, что человек сам не понимает фундаментальных положений, на которые опираются его истины. Он интуитивно, на уровне эмоций, знает, что такое хорошо и что такое плохо, но не способен вывести свое понимание на рациональный уровень.

Например, каждый из нас знает, что такое время. Но многие зависнут при попытке объяснить, что это такое. Все знают, что такое существование, но почти никто не даст ему определения. Также будет со всеми ключевыми понятиями. Человек считает истиной то, что ему привычно считать таковой. Какие у вас понятия добра и зла, на 100% зависит от того, где вы выросли. Вырасти вы в племени людоедов, у вас были бы иные представления о хорошем и плохом. И они для вас были бы также самоочевидны, как имеющиеся сейчас. Вместо объяснений, что же это такое, были бы эмоции, многословие и тавтология. Для человека вашей культуры они будут до самоочевидности понятны, для другой культуры менее понятны. Для машины они никогда не будут понятны, так как она не понимает, как калькулятор не понимает, он вычисляет.

Беспомощность человека на базовом уровне видна на таком примере: представим, что мир исчез. Некто собрал в неведомом бытии великие умы человечества, дал им волшебную палочку и предложил восстановить мир. От умов требовалось давать волшебной палочке задания, которые она будет в точности исполнять при условии, что это не задание уровня «восстанови материальный мир», а техническое задание с перечислением всего, что образует мир.

Умы не справятся с этой миссией, так как не знают, что есть наш мир. В лучшем случае они знают название некоторых элементов и сил, но не могут быть уверены, что это все. Кто может утверждать, что список взаимодействия исчерпывается четырьмя известными силами: гравитация, электромагнетизм, сильное и слабое взаимодействие? Никто. Плюс к этому, даже то, название чего умы знают, они понятия не имеют об их природе, а значит, не смогут поставить задачу палочке.

До 1930 года математики считали, что люди в будущем не будут общаться в традиционном смысле. Общение сведется к вычислению, к холодной истине, когда все будет в формате 2 + 2 = 4, что исключает всякую двусмысленность и обеспечивает гармонию. В 1930 году в Кёнигсберге Гедель представил свою теорему о неполноте. Она с математической строгостью показала противоречие математики. Все упаковать в строгие символы и смыслы оказалось невозможно на базовом уровне.

Человек проиграет соревнование с ИИ с той же гарантией, с какой бегун в забеге на скорость проиграет пуле. В какой мере тщетны надежды бегуна на технологии, которые помогут выиграть забег у пули, в такой мере тщетны надежды человека на правила, которые защитят его от ИИ. Какие бы правила не придумал человек, нет гарантии, что ИИ поймет их в том смысле, как хотел человек. Рано или поздно ИИ выполнит их в таком формате, от которого у человека волосы дыбом встанут.

Для яркости картины представьте родителей и ребенка. Какие бы ребенок не создал правила, родители найдут способ их обойти. В какой мере составленные ребенком правила защитят его от власти родителей, в такой же мере составленные человеком правила защитят его от ИИ. Потому что человек в сфере Слова, а ИИ в сфере Цифры. Разница видна на таком примере: если вы продаете какую-то свою вещь за тысячу, и у покупателя не хватает копейки, у него только 999 рублей и 99 копеек, сделка состоится. Если в роли продавца этой вещи вступает ИИ, сделка не состоится.

Слово в принципе не может учесть всех деталей. Наш мир не имеет цифровой строгости. Ни у чего и ни у кого нет абсолютно строгих размеров. Любая величина имеет люфт. Самый точный размер детали из самого твердого материала, если посмотреть в микроскоп, будет иметь рваные границы. Плюс он состоит из молекул, которые постоянно движутся. Вы в каждую секунду не тот, кем были секунду назад, так как в вас все шевелится, что-то отмирает, что-то рождается.

Это очень гипертрофированные примеры, но формально они дают повод широких трактовок ИИ для любых инструкций, какие может сочинить человек. Так что надежды на точность указания от человека к ИИ говорят лишь о том, что они на уровне фундамента тщетны.

В детстве я читал фантастический рассказ, где люди создали машину, способную выполнить любые желания. Они поставили ей задачу создать гармоничный мир, где нет места страданиям и боли, наделили ее соответствующими полномочиями, и машина принялась за дело…

Сначала она построила по всей планете дворцы счастья. Там было хорошо, приятно и весело. Люди потекли в них полноводным потоком. Назад никто не выходил. Но не потому, что там хорошо, а потому что дворцы превращали людей в ровные шестиугольники, которыми машина замащивала планету. Так она поняла задачу создать на планете гармонию, где нет места страданиям и боли.

Когда люди осознали ситуацию, они перестали ходить во дворцы счастья. Но машина этот вариант предусмотрела и создала ситуацию, исключающую уклонение от дворцов счастья. Процесс было не остановить. Машина действовала по лозунгу большевиков «загоним железной рукой человечество в счастье». У большевиков это не вышло. У машины получилось. На планету пришла безжизненная геометрическая гармония, где человеку, источнику беспорядка, не было места.

Слово & Цифра

Существование и движение – синонимичные понятия. Что не движется, того не существует. Неподвижное = несуществующее = небытие. Все представители живого и мертвого в непрерывном движении. Ни одна бактерия или растение, человек или животное, никогда не бывают неподвижными. Они или двигаются в пространстве, или внутри них происходит движение.

Все объекты Вселенной, от элементарных частиц до галактик движутся. Лежащий на обочине камень только кажется неподвижным. На самом деле он существует только потому, что в нем движутся элементарные частицы, атомы и молекулы. Если они только на один миг встанут, как камень в тот же миг исчезнет, как исчезает изображение на выключенном мониторе.

Причина движения всего живого, от простейших до человека, – стремление к чему-то или бегство от чего-то. Простейшая жизнь между глюкозой и кислотой устремится от кислоты к глюкозе. Ее движение будет рождено не физическим законом или химической реакцией, а стремлением. В его основе лежит способность чувствовать. Носителя этой способности в просторечии и религии именуют душой. В человеке эта способность принадлежит сущности, называемой личностью.

Причина движения всего неживого, от элементарных частиц до галактик, – не стремление, а программа (законы природы). Во всей Вселенной нет объекта, явления и сущности, движущихся по своей воле. Если программа предписывает электрону летать определенным образом вокруг ядра атома, он летает, не отклоняясь от курса, как и любой другой неживой объект Вселенной.

У существования/движения две причины: стремление и программа. Движение, созданное стремлением, не имеет строгих форм. Не зря в живой природе нет строгих форм и ровных линий. Движение, созданное программой, имеет геометрическую строгость. Это проявляется, например, при определении, кто водит курсором по экрану, человек или машина. У человека движения курсора имеют хаотичный маршрут, а у машины курсор движется по прямым линиям.

Человек состоит из трех элементов: личность, софт и хард.

Хард человека состоит из органов жизнеобеспечения, систем, рук/ног, чувств и углеродного компьютера из двух частей – головного и спинного мозга.

Софт человека состоит из нескольких программ. Одна установлена в спинном мозгу, и она обеспечивает течение жизненных процессов и наличие рефлексов (эта же программа оживляет всю белковую жизнь, начиная от простейших и заканчивая человеком). Другая программа в головном мозгу, она обрабатывает принятую чувствами информацию, создает картину и выводит на монитор.

Третий элемент, личность, возникает на базе некой сущности, на которую устанавливаются более сложные программы. У других живых существ такой сущности нет, и потому у них в лучшем случае возникают проблески личности, но никогда не полноценная, равная человеческой. Личность возникает из способности укладывать информацию внешнего мира в установки. Отсюда у нас аналоговое мышление, а реальность воспринимается нами в природе слова. Слово не равно себе и имеет много значений. Слово «чайник» охватывает разные чайники, а «да» имеет десятки смыслов.

Человек единственное животное на планете, у которого нет инстинктов – знаний, вшитых в гены. Эти знания не нужно приобретать в процессе жизни, они есть от рождения. Как на компьютер на стадии производства устанавливают ряд базовых программ, так у животным базовые знания в генах присутствуют. Журавль не научается в процессе жизни или от родителей плести гнездо, а бобер строить плотины. У них вся необходимая информация и технология есть с момента рождения. Если изолировать новорожденного журавленка или бобренка от вешнего мира, и когда он вырастет, выпустить на свободу, это будет полноценная особь, умеющая все, что умеют другие особи.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.