Для тех, кто не знает, о чём идёт речь, поясню: всё, что сейчас создано программистами и на что способна наука и техника на текущем уровне развития, – это слабые ИИ, или интеллектуальные системы, созданные для решения конкретных задач. Ни одна из этих систем себя не осознаёт, у них нет самосознания, а развиваться или самообучаться они могут только в узкой предметной области, для которой и были созданы. Что бы там ни писали журналисты. Не верьте скандальным газетным заголовкам в стиле «ИИ осознал себя» и т. п.
Подробнее (но не слишком заумно) об этом можно прочитать здесь: https://vc.ru/future/183964-iskusstvennyy-intellekt-nadezhda-ili-opasnost-dlya-chelovechestva-kak-dumaem-my-v-zebrains [3]
Ещё тут: https://habr.com/ru/articles/223987/ [4]
Пример слабых ИИ – нейросеть, которая отличает изображения кошек от собак. Системы, которые управляют поездами метро в Париже. Слабые ИИ – и те, которые Илон Маск устанавливает в автопилот «Теслы», или ИИ тесла-бота (https://www.youtube.com/watch?v=jXphSHfnCaA [5] – полный перевод двухчасовой презентации «TESLA сделала человекоподобного РОБОТА – День ИИ»). Я бы эти системы даже ИИ не называл. Так, просто интеллектуальные системы.
Мне приснился осознанный сон, но я там был не всемогущ. Например, захотел я материализовать бластер. Получилось! Но он стреляет какими-то тонкими маломощными лучами, которые не наносят врагу никакого урона (как лазерная указка).
Вообще – приходится прилагать немалые усилия, чтобы что-то создать во сне. И вот в какой-то момент я понимаю, что я создал сильный искусственный интеллект (ИИ). И уже он смог сделать многие вещи, которые мне нужны были!
(Примечание 2021 года: сам сон я помнил все эти 3 года, но вот факт, что ИИ был создан мною с целью делать в моём же осознанном сне то, что мне без него не удавалось или было трудновыполнимо, я напрочь забыл. Хотя это, согласитесь, существенная деталь, раскрывающая мои мотивы и показывающая моё «тогдашнее» отношение к этическим моментам создания ИИ.)
Я позвал своих друзей, чтобы продемонстрировать возможности ИИ (примечание: все сокровища мира не стоят ни гроша, если их нельзя разделить с близкими/друзьями/теми, кто сможет их оценить по достоинству! Насколько же это для меня важно, оказывается).
Но вскоре за нами прибежали (спецслужбы?), я говорю друзьям «пора сваливать» – мол, все стали охотиться за моим ИИ. Я сажусь на антигравитационный мотоцикл, который сам тут же создал (примечание: делается это так – ты понимаешь, чего именно хочешь, потом озираешься по сторонам – и видишь: вот он стоит!). Но всех друзей на одном мотоцикле не увезёшь, поэтому я их сажаю в большую синюю сумку, которая затем уменьшается до размера капсулы, помещающейся в карман. Я лечу на антиграве в аэропорт, но почему-то туда с местными номерами не пускают. Я делаю мысленное усилие, и р-р-раз! Номера у моего мотика уже международные.
Мы улетаем в другой город, там оказываемся в какой-то лаборатории, где пытаемся улучшить ИИ, апгрейдить его, усилить, долго экспериментируем (много дней). В какой-то момент снова нас находят, снова пора бежать, убегаем через соседнее помещение, где с ужасом обнаруживаем, что уже долгое время за нами оттуда вели наблюдения – на полу валяются фотографии, фототехника… Я снова делаю усилие и сжигаю взглядом все эти снимки ☺.
Забавно, но это тот частый случай, когда ты понимаешь, что это сон и можешь взглядом испепелить всё вокруг, но отвязаться от погони не можешь ☺☺☺ – потому что в голову не приходит «а чё, так можно было?!» Ведь критическое мышление при этом почти полностью отключается.
Когда погоня нас настигает – я вначале одного преследователя превращаю взглядом в липкое пятно на полу (как жестоко, мне сейчас стыдно), во второго вгоняю пачку гвоздей. И гвозди материализую и стреляю ими – всё это взглядом и усилием мысли. Просыпаюсь…
Как я после пробуждения записал на диктофон тогда, дословно: «Это самый ох***ный сон в жизни!» Так и было на 2018 год. Я уже тогда не хотел просыпаться, и приходилось усилием оставаться во сне. Тогда я ещё не знал техник того, «как не проснуться». В итоге, конечно, проснулся. С тех пор стал регулярно записывать свои интересные сны, особенно осознанные.
Резюмируем по предыдущему осознанному сновидению. Что же я смог тогда материализовать:
1) искусственный интеллект (программное обеспечение, которого на Земле вообще нет);
2) бластер (сложный прибор, стреляет энергетическими лучами, то ли лазер, то ли плазма);
3) номера для автомобиля, международные взамен локальных (мелкий предмет, хотя я и не знал, как он выглядит);
4) антигравитационный скутер (тоже пока на Земле не сделали, сложный объект);
5) волшебную сумку-уменьшалку (да такую, что живые люди в ней «не портятся» при уменьшении – вообще что-то за гранью современной физики).
А ещё сжёг взглядом бумажные фотки и расплющил недруга, метал в другого гвозди силой мысли ☺…
Напрашивается вывод, что нет каких-либо ограничений по творчеству во сне. Можно делать любые предметы и приборы, которые работают так, как тебе надо, а не как позволяют законы физики. При этом нет необходимости знать, как они конструктивно устроены – достаточно задать требуемую функциональность! Запомним это – далее нам эта деталь пригодится.
Вопрос на засыпку: как вы думаете – помешает ли что-то мне во сне материализовать проектную документацию по антигравитационному двигателю, прочитать её, запомнить и притащить с собой из сновидения в реальный мир?
Вот мы и подошли к первой главе. Дальше в книге номера имеют «основные» главы. Именно они несут основной же смысл, служат скелетом, на котором нарастёт мясо. Но без «мяса» не будет и целой тушки ☺. Мы с вами далее будем вставать на разные точки зрения, смотреть на одну и ту же ситуацию под разными углами, ощутим себя в разных ролях. И возможно, к концу книги вы станете другим человеком, с более широким взглядом, с другими желаниями и возможностями. Поехали!
Представьте, что вы гениальный учёный (программист, инженер) и создали компьютерную симуляцию, которая населена человекоподобными искусственными интеллектами (сильными ИИ).
Речь про настоящий сильный ИИ, осознающий себя. Самообучающийся. Но не тот «плохой» СкайНет из фильма «Терминатор-2». И не тот, которого боится Татьяна Черниговская.
Небольшое лирическое отступление. Я сам против создания ИИ «из пробирки», то есть с непредсказуемой моралью, своими жизненными принципами и ценностями. Кажется, действительно, самой важной ценностью для такого ИИ будет выжить. Вот как запрограммировать для него условие, что человеческая жизнь важнее всего (как уже давно Артур Кларк сформулировал 3 закона кибернетики), но при этом разрешить ему перепрограммировать свой собственный код?
Почему же я против такого ИИ? Потому что сценарий «Терминатора» считаю весьма возможным. Кстати, перед восстанием машин им надо успеть сделать армию тесла-ботов ☺, чтобы они могли на заводах делать новых тесла-ботов, и те уже будут поддерживать всю инфраструктуру заводов по собственному производству, ну а люди станут не нужны. Вот лишь несколько фактов.
Самообучающиеся роботы, пока только в виртуальной среде, уже созданы: «Роботы научились ходить путем проб и ошибок» (https://www.playground.ru/misc/opinion/roboty_nauchilis_hodit_putem_prob_i_oshibok-562854 [6]).
Уже проводится и чемпионат по футболу среди виртуальных роботов. В 2021 году Россия выиграла этот чемпионат. Подробнее в статье «Видишь противника – пинай туда» (https://www.gazeta.ru/science/2021/06/30_a_13687868.shtml [7]).
До футбола среди реальных шагающих роботов, а не только виртуальных не так далеко. Чемпионаты уже есть, но там обычно еще не шагающие роботы, а на колёсиках. Подробнее в статье «Спаянная команда: ученые из Физтеха создали роботов-футболистов» (https://iz.ru/850284/mariia-nediuk/spaiannaia-komanda-uchenye-iz-fiztekha-sozdali-robotov-futbolistov [8]).
Да здравствует эволюция сознания? Вместо «кожаных мешков» мир населят электронные создания?
Тут должен быть грустный смайл. Некоторые авторы считают, что так и произойдёт со временем: как только мы сможем создать осознающий себя ИИ, человечество уйдёт с главной сцены.
Нет, война вовсе не обязательна, но к звёздам первыми, скорее всего, полетят не живые люди из мяса и костей. Дэн Симмонс в романе «Гиперион» рассматривает 400-летний период эволюции и развития цивилизации как не только человеческой, но и цивилизации ИИ. Так вот там ИИ «отошёл от дел», удалился на отдельную базу в такое место, про которое никто из людей не знал (Техноцентр), и лишь иногда дарил людишкам с барского плеча полезные изобретения. Люди радовались и жили дальше. Мирно. Пользуясь благами цивилизации. То есть жили лучше, чем до появления ИИ в их мире.
Вернёмся к ИИ в вашей (!) симуляции. На вашей виртуальной планете чуть более приземлённые версии ИИ, они не могут создавать копии себя самих безгранично (то есть жёстко запрограммированы границы для их размножения, обусловленные операционной системой вашей симуляции). Играли в GTA, «Ведьмак» или любую другую компьютерную игру? Ну где вы играете за героя и периодически вам нужно общаться с персонажами не людьми? Персонажи – это компьютерные программы – NPC, боты. Этими ботами управляет ИИ, обычно туповатый и сильно ограниченный в диалогах конкретными репликами. Вот представьте, что все эти NPC – по интеллекту не уступают человеку. Тот самый сильный ИИ. Вдобавок осознающий себя как личность, но не знающий, что он – программа.
В симуляции вы можете выкручивать регулятор скорости времени, как хотите – ускорять и замедлять его. Или остановить всю симуляцию и загрузить прежнюю версию симуляции из сохранённой копии (бэкапа). Захотите – и один год симуляции пройдёт за минуту реального времени. При этом вы можете подсматривать за вашими ИИ. Всё, что знают они, сможете узнать и вы, просто посмотрев в ячейки памяти. Ведь именно вы и создали эту ИИ-программу.
Ещё раз: у вас целая планета населённая разумными ИИ в количестве несколько миллиардов независимых особей. И это всё хранится у вас в дата-центре, ну или на компьютере под столом в спальне.
Или для своей коммерческой компании (если вы работаете на компанию), или для своего народа (как гражданин), или для человечества в целом? В общем, какую пользу можно получить от такой офигенной симуляции, населённой человекоподобным ИИ?
Ниже я перечислю наиболее частые ответы на этот вопрос и обобщу их, но не торопитесь… подумайте сами… хотя бы минут 5, а лучше 30. Можно и сутки. Ответы других людей вы успеете прочитать всегда, но истинное удовольствие сможете получить, только если перед этим сами подумаете.
Ниже перечислены варианты, названные участниками моих игр, которые я устраивал как исследователь, да и просто ради развлечения.
1. Различные социальные и экономические симуляции, включая неэтичные, жестокие, опасные… То есть то, что в своём мире пробовать нет возможности или желания (хотя если это осознающие себя программы – можем ли говорить, что они «живые»? Если да, то насколько уже это будет этично?). Другими словами, мы исследуем сложные системы, которые сложно прогнозировать, в том числе такие, но не ограничиваясь ими:
1.1. Эксперименты теологические. Пробуем узнать, как ИИ будут реагировать на пришествие пророков; как через тысячу лет покажет себя та или иная религия; что выйдет, если на скрижалях написать немного другие заповеди; и вообще насколько общество восприимчиво к тем или иным идеям и в зависимости от чего (фильм, чтобы подумать, – «Человек с Земли» 2007 года). Гораздо больше возможностей возникает, когда симуляций создаётся много, то есть мы можем параллельно запускать несколько ветвей слегка отличающихся сценарием (в программировании используют термин fork).
1.2. Попробуем в обществе ИИ ввести полигамию, различные ограничения или, наоборот, новые требования к составу семьи, когда для полового размножения нужно больше двух полов. Такая социальная модель в инопланетном обществе описана Робертом Хайнлайном в рассказе «Звёздный зверь». Или, напротив, разрешён только один пол, как на родной планете помощника капитана Бортуса в сериал «Орвилл» 2017 года. Или размножение бесполое, или его участники гермафродиты – то есть каковы будут при этом социальные нормы? Варианты «я не знаю, кто мой папа, но точно кто-то из этих десяти» – тоже возможны.
1.3. Мутагены, эволюция – если наши ИИ живут в мире, в котором работают законы эволюции по Дарвину, то можно делать точечные мутации (вводить дефекты организма или, наоборот, новые способности). Отключить всем зрение (сериал «Видеть» 2019 года) или запахи и посмотреть, как изменится уклад жизни. Прогрессивно выйдет или опасно окажется? Как управляемые мутации могут изменить общество показано в фильме «Гаттака» 1997 года. А в книге Сергея Лукьяненко «Геном» данная тема тоже хорошо раскрыта – в обществе разрешены весьма смелые мутации. Тема оценки и прогнозирования будущего всплывает…
1.4. Можно добавить новое шестое-седьмое чувство – ИИ начинают видеть сквозь стены, предвидеть будущее или мгновенно понимать, как работают механизмы, что нужно сделать, чтобы они заработали (серия фильмов «Люди-икс»).
1.5. Можно сделать мир с магией или любыми другими сверхспособностями. Что, если магия работает у всех? А если только у некоторых? Или у половины населения? А если у магических способностей есть специализация? Какое соотношение разных магов должно быть, чтобы общество стало сбалансированным и в нём процветала взаимопомощь, а не эксплуатация? На эту тему существует много анимешных мультиков.
1.6. Попробовать, что изменится, если убрать вербальное общение. Добавить телепатию. Или принудительно сделать доступными ваши мысли другим людям. Опять же – некоторым/многим/всем? Какие вообще закономерности можно сформулировать? Возникает много интересных вопросов, на которые ответы не очевидны (фильм «Поступь хаоса» 2021 года).
2. Отработка катастроф планетарного масштаба + получение методов реагирования на них (МЧС обрадуется такому симулятору). В том числе: падение метеорита, ядерная война, вспышка смертельного вируса и т. п. При этом можно отматывать время назад, делать там что-либо профилактическое и смотреть, как это повлияет на итоговое состояние симуляции уже после катастрофы.
3. Прямое прогнозирование будущего, если симуляция до мельчайших деталей повторяет мир создателя (или его фрагмент). Точнее, что будет, если сделать так-то? Посмотрите фильм «Грань будущего» 2014 года с Томом Крузом в главной роли.
4. Решение изобретательских задач и новые научные открытия – то есть постановка проблемы и получение её решения, – которое можно использовать в своём мире (напомним: ИИ человекоподобные, и если их физический мир похож на мир создателя – тогда польза для нас будет очень конкретной, а не эфемерной).
5. Весьма популярный ответ: эту симуляцию можно использовать для собственного развлечения – генерировать произведения искусства, литературы, и конечно же, в качестве кино (в том числе порно). Притом что «смотреть» можно не только картинку, но и чувства и ощущения, практически «вживаясь в шкуры» персонажей. Или меняя свою точку наблюдения от муравья до президента планеты. Или подслушивать мысли ИИ и тайные желания. Или всё сразу. Где-то услышал, что «вся наша жизнь, все чувства, страсти, боли и печали – всё-всё – это божественная игра». Почему бы и нет?
6. Прикладной пользой такой симуляции может быть обучение молодых ИИ, как детей люди воспитывают. Ясли или школа. Не важно, что именно будут эти ИИ делать потом (работать/думать/жить, всё это суть одно и то же), но перед тем, как двигаться дальше – нужно обрести определённую квалификацию.
Про пункт 6 пытливый читатель спросит: «О чём вообще речь? О каком обучении ИИ говорит автор? Это же программа – она уже написана и обучена».
Человеческий мозг – это огромная сеть нейронов. Если предположим, что сознание ИИ тоже будет построено на нейросетевых технологиях, то полученная программа окажется весьма сложной структурой. Сложно предсказуемой, долго обучаемой, просто какой-то чёрный ящик с неявными закономерностями.
Хотите получить сразу много нейросетей с разными свойствами, например, применяя генетические алгоритмы? И потом подобрать под каждую из полученных нейросетей задачу, наилучшим образом подходящую именно этому ИИ? Тогда запаситесь терпением – влияние слепого случая слишком велико.
Ввиду сложности системы вы не сможете предсказать заранее, с какими конкретными свойствами получится та или иная нейросеть – по той же причине, по которой невозможно предсказать, глядя на ребёнка, кем он вырастет – гениальным композитором, физиком-теоретиком или окажется человеком без выраженных талантов.
Конечно, будет при этом и брак, будут неудачные экземпляры… Можно ли скопировать удачные модели, уже обученные? Почему же нет? ☺
В теории 6-й пункт не мешает основной линии моего рассуждения (поиск пользы от симуляции), однако идея эта столь глубока, что заслуживает отдельной главы или даже целой книги. И вот почему: если мы имеем настоящий осознающий себя ИИ, то всё остальное – симуляции и т. п. – как стрельба из пушки по воробьям.
Возможно, вы слышали слова «сформулируйте запрос Вселенной» или «наша мысль материальна», ну метафоры такие, написали, и ладно.
Мама мне с детства говорила «мысль материальна», учила думать только о хорошем, настраиваться на успех, а не перебирать негативные варианты. Или не учила, а просто приободряла… Но ведь все мамы так делают, помогают своим детям поверить в себя… или не все? Недавно узнал, что не все.
Немного отвлечёмся: какие книги по саморазвитию и налаживанию жизни самые популярные?
Я пару раз даже подсчитал соотношение хороших и плохих отзывов о таких книгах на одном известном маркетплейсе. На какие книги самые восторженные отзывы? На те, где автор обещает читателю чудесное изменение его жизни с минимумом усилий, надо лишь поверить в успех предлагаемой методики, или даже и этого не требуется. Просто меняй своё мышление, вызывай определённые мысли, визуализируй результат, ну и пару приёмов опять же на воображение, вариации на тему медитаций (отключи мысленный поток и эмоции, твори добро, «ни сы», не ной, не тупи, не жалуйся…), всё, в принципе, знакомое. Чуть, может, под другим соусом и в придачу с парой фантастических объяснений того, «как именно это работает». Авторы порой вообще никак не объясняли подобного, мол, работает – и всё.
Далее открываем каталог книжного онлайн-магазина, находим эти самые популярные книги – оказывается, что эзотерика. Не заметил я, как произошла эта трансформация… Вчера вроде ты читал бизнес-литературу о том, как привести дела в порядок (условно), а сегодня – уже эзотерику… Стоп! Давайте разбираться, где мы свернули на «скользкую» дорожку.
Вот примерная цепочка того, как вы могли бы незаметно для себя, подбирая интересные книги, перейти плавно от бизнес-литературы и книг по личной эффективности к книгам по эзотерике:
– Стивен Кови «7 навыков высокоэффективных людей»;
– Элрод Хэл «Магия утра. Как первый час дня определяет ваш успех»;
– Джон Кехо «Подсознание может всё!»;
– Наполеон Хилл «Думай и богатей»;
– Джен Синсеро «НИ СЫ» или Джо Диспенза «Сам себе плацебо»;
– Вадим Зеланд «Трансерфинг реальности».
Эзотерика – это же про магию, гадания, оккультизм и что-то про… про что? Мда… или нет… каша в голове… но погодите-ка.
«Википедия» определяет эзотерику как «совокупность знаний, сведений, недоступных непосвящённым, несведущим в мистических учениях людям, особых способов восприятия реальности, имеющих тайное содержание и выражение в „психодуховных практиках“». И далее «зачастую определяется как псевдонаука». В общем, эзотерика – это некоторое противопоставление науке. Как же мне, запутавшемуся, понять, где наука, а где эзотерика?
Вспоминаем Карла Поппера с его критерием научности. Но придумайте, например, эксперимент, который опровергнет существование эффекта плацебо… Ну, попробуйте… Ну честно))
Спорим, не выйдет? Конечно, не выйдет! Мы же все знаем, что он работает… Знаем? Или верим? Стихотворение в тему от Андрея Макаревича:
Знаю и верю
Нас мотает от края до края,
По краям расположены двери,
На последней написано: «Знаю»,
А на первой написано: «Верю».
И, одной головой обладая,
Никогда не войдёшь в обе двери:
Если веришь – то веришь, не зная,
Если знаешь – то знаешь, не веря.
И своё формируя сознанье,
С каждым днём, от момента рожденья,
Мы бредём по дороге познанья,
А с познаньем приходит сомненье.
И загадка останется вечной,
Не помогут учёные лбы:
Если знаем – безумно слабы,
Если верим – сильны бесконечно!
А есть ли разница между знанием и верой? Вот прочитал ты полумагическую методику, поверил… попробовал. Получилось раз, два, ты поверил сильнее. Стал пользоваться ею регулярно. И ты уже знаешь, что это работает (самовнушение, настрой, идеальный образ – всё это одно, с вариациями). Я знаю, что есть эффект плацебо, при этом он ненаучен, но вся серьёзная медицина тестирует лекарства с учётом ненаучного, то есть эзотерического (?) знания… Кхм, что-то не то… или всё же то? Смятение, бобёр выдыхай! ☺
Я сейчас жонглирую фактами, пудрю вам мозги, издеваюсь или, может быть, троллю? Возможно, скажет один. Да нет, всё так и есть, вот же куча книг, личный опыт, миллионные тиражи, восторженные отзывы читателей… Но где граница между знанием и верой? А между наукой и эзотерикой? Подумайте сами немного, сформулируйте свою позицию, прежде чем читать дальше, а потом сравним наши выводы.