Форма жизни № 4. Как остаться человеком в эпоху расцвета искусственного интеллекта – Евгений Черешнев

Глобально я согласен с Е.Черешневым: чем больше свободы и индивидуализма, тем лучше; чем больше «безопасности» и стадности, тем хуже. Да, мы оба скорее либертарианцы, чем что-либо ещё, хотя слова такого в книге и нет.Ну, а книга поделилась на три неравные части.Первая занимает примерно 1/5. В ней автор рассказывает нам о трёх видах искусственного интеллекта:

– узком (artificial narrow intelligence, ANI);

– общем (artificial general intelligence, AGI);

– и суперинтеллекте (artificial super intelligence, ASI).сам факт появления ASI считаю исключительно вопросом времениЦитата, надо сказать, приходит в определённое противоречие с самым концом книги. Там автор рассказывает, как мы можем избежать поглощения суперинтеллектом. Впрочем, противоречий в его тексте хватает.Скучнейшая многословнейшая центральная часть книги подробно рассказывает, как несправедливо устроен цифровой мир. По большей части это я знаю и без Черешнева.

Ну да, сервисы потому и кажутся бесплатными, что товаром являемся мы сами, наши данные, причём, товаром реально бесплатным для приобретателя. Мы сами рассказываем о себе условному Фейсбуку всё, что знаем о себе и окружающем мире, и этот Facebook (уже не условный, а тот самый) зарабатывает на собранных таким образом данных огромные сотни миллионов.

Одна вещь о Фейсбуке оказалась не то чтобы совсем новой, но ясно артикулированной для меня впервые. Своими словами расскажу, а то в книге это размазано на много страниц:Как только я регистрируюсь в Фейсбуке, я тут же в соответствии с лицензионным соглашением (которого я не читал) отдаю все свои данные, включая все свои будущие посты, картинки, комментарии, лайки и что-там-ещё-есть-или-будет в полную и безраздельную собственность Фейсбука.

Он может всё это продать, убить, кому-то подарить, как угодно отредактировать и опубликовать потом, не спрашивая моего согласия и не ставя меня в известность.Ну да, хрень полная, а сделать с этим ничего нельзя. Выбора нет: либо так, либо посылай людям информацию голубиной почтой.

Е.Черешнев приводит сотню примеров, потому что ему не терпится рассказать всем, какой он умный, талантливый и стройный. Люблю себя за ум и скромность.

Да, это, пожалуй, самый большой недостаток книги. Всё, что рассказывает автор, он рассказывает о себе, о Черешневе любимом.

Есть и большое количество ссылок на «внешние источники», но 9/10 таких ссылок – на просмотренные (Е.Черешневым) сериалы. Интересно, когда автор успевает их смотреть? Похоже, что отдельных серий он посмотрел намного больше, чем книг прочитал…

Есть и другие недостатки: параноидальность предлагаемых решений, тенденциозность подбора данных – не буду раскрывать, потому что не интересно это. Отмечу только один, поскольку он связан с тем же «Черешневым любимым». Это, как бы так необидно сказать… преувеличения. Автор вставил себе между большим и указательным пальцем чип с памятью в 1k, и вот:Я научился открывать любую дверь жестом, разблокировать смартфон касанием, логиниться на любой сайт просто присутствием у компьютера – без всяких логинов и паролей, избавился от документов, ключей, проездных для метро, паспорта, прав, офисных пропусков и дисконтных карт, бумажника, визитницы, записной книжки с телефонами – короче, доброй половины содержимого сумки.И это всё поместилось в один килобайт?

И ещё:У меня есть знакомый доктор наук в области астрофизики, который осознанно работает курьером. На мой вопрос «Зачем?!» он ответил, что для его работы не нужно ни офиса, ни кабинета, ни компьютера; все, что нужно, – это время подумать.Офигеть не встать! Зачем вам это, господин Черешнев? Зачем вам понадобилось выдумывать этого курьера-астрофизика? И так достаточно, что вы с Илоном Маском в переписке состоите и исследовали планету от Майорки до Окинавы. Матрицы, вон, перемножать научились. И питаетесь правильно… Зачем говорить о том, о чём явно не имеете понятия?

В общем, 3/5 книги, – те, что в параноидальной середине, – стоило бы сократить раз в 8…Зато последняя 1/5 часть снова интересна. Там прогнозы, рекомендации и выводы.И ещё раз скажу: при всех недостатках глобально почти во всём моё мнение в значительной степени совпадает с мнением автора!По прочтении возникает резонный вопрос: Что делать будем?

Если одним словом, то ничего, несмотря на пламенный пафос автора.

Поясню.

Право сильного заменилось сегодня правом умного. Лично я ничего не имею против. Считаю это даже справедливым. Кто мешал мне стать Илоном Маском? Никто. Ну, а раз так, то каждый из нас и получил своё.

Исчезновение профессий под давлением ИИ – не проблема. В XX веке и раньше исчезло множество профессий, как массовых (кучеров, например, и пастухов), так и элитных (типа кузнецов).

Моральные дилеммы типа «кого давить будем беспилотным транспортом?» тоже со временем будут решаться. И уж во всяком случае робот не напьётся за рулём и не станет гонять по Третьему транспортному кольцу со скоростью 250км/ч.

Реальная проблема возникнет лишь тогда, когда мы захотим роботов в качестве собственных детей. Тогда да, нам грозит полное вымирание. Но проблема ли это? Многие наши предки вымерли, те же кистепёрые рыбы – все, кроме одного вида – и что? Мы так уж о них жалеем? Динозавры освободили место для нас, ну и мы в нужное время освободим для роботов.

Со слежкой ничего не сделаешь, будем жить в прозрачном мире. Супружеские измены станут затруднены, но ведь мы ещё во времена Гоббса отказались от свободы. Когда-то мы путешествовали по миру без виз, но не сильно переживаем сегодня из-за такого ущемления прав. Европейцы так даже рады, что мы к ним не валим толпами. От слежки мы защищены своей многочисленностью и серостью. В самом деле, что с нас взять и кому мы так уж нужны? Будь я медийной персоной я бы, пожалуй, взволновался. Но только не по поводу Фейсбука. Честно говоря, наибольшее опасение в этом смысле вызывает у меня не условный американский Facebook, а как раз таки своя конкретная и родная власть.

Мечтания Е.Черешнева о безопасных «чёрных ящиках» и персональных искусственных интеллектах в роли добрых ангелов я готов прокомментировать, когда автор заткнёт в них хотя бы наиболее очевидные дыры. В дырах этих просто воет ветер.

Сомневаюсь также, что можно поставить во взаимно однозначное соответствие два мозга так, чтобы они смогли обмениваться мыслями. Совсем не очевидно, что все мозги одинаковые. Скорее уж они разные, и одинаковое возбуждение нервных импульсов приведёт в разных головах к существенно разным мыслям.

И не всё в этом мире можно посчитать. Даже задача трёх тел не может быть решена для достаточно далёкого будущего. Об этом Черешнев упоминает, но только единожды и вскользь. В целом же создаётся впечатление, что он надеется посчитать что угодно с любой степенью точности. Это большая ошибка.Так или иначе, книга неординарная. Она произвела на меня существенное впечатление, хотя где-то посередине хотелось убить файл с текстом и автором.Тем, у кого есть лишний час, рекомендую в дополнение кино «Робот, я люблю тебя». Прямо сейчас ссылка доступна, но, боюсь, её заблокируют скоро.

Для тех же, у кого лишнего часа нет, подойдёт коллекция картинок по запросу «мой новый паспорт». Увидите тысячи паспортных данных каких-то людей – берите кредит на любое имя :)))

Интересно, мой паспорт тоже есть среди них?..

Евгений Черешнев – личность не сказать, пожалуй, что эпохальная, но определённо известная в узких цифровых кругах. Поэтому, когда я обнаружила, что у него мало того, что книга вышла, так ещё и в лонг-листе «Просветителя» 2022 года оказалась, решила, что мне, пожалуй, стоит припасть к прекрасному. По крайней мере, я точно знала, что автор хотя бы разбирается в заявленном вопросе, что, увы, не всегда является обязательным для написания non-fiction.ИИ – тема горячая, так что обещало быть интересным. И даже, пожалуй, было."Форма жизни №4" погружает в чудесный цифровой мир, рассказывая о том, что такое Big Data и AI, как они зависят друг от друга, для чего можно использовать что первое, что второе, как оно уже используется и докатится ли-таки человечество до сингулярности в ближайшие сто лет. Попутно много информации о том, как этими данными торгуют, с позиции автора – несправедливо, как гигантские ИТ-корпорации перекраивают в том числе и реальный мир, а не только сеть, как государства сталкиваются с цифровизацией и что временами сильно ей проигрывают по скорости реакции, о трендах интернет-продаж. И что все мы под цифровым колпаком у маркетологов, которые впихивают нам ещё больше ненужных товаров, если кто-то вдруг ещё не знал.Книга не однозначная и не универсальная точно: с частью того, что описано о современной цифровой реальности, можно очень сильно поспорить («независимый» Starlink, который разрабатывают на гранты, выделяемые министерством обороны США, «безопасный» TorBrowser, у которого за последние пять лет было даже не помню, сколько скандалов с перехватом трафика на выходных нодах, история с Telegram, его блокировкой и первопричиной по прошествии нескольких лет тоже выглядит несколько иначе, etc), ещё с частью – поспорить сдержано. Позиция по GDPR у меня лично не такая уж и оптимистичная, как авторская.

С другой стороны, у него достаточно близкое мне отношение к растиражированной «свободе слова», которой в сети нет, и монополии ИТ-гигантов на рынке информации.Одновременно с этим, книга, безусловно, очень познавательная, а к её бо-ольшим достоинствам можно отнести то, что она подойдёт для почти любого читателя: Черешнев весьма многословен и подробен в описаниях, и любой человек, который умеет включать компьютер, сможет понять полёт авторской мысли. Если читатель никогда не сталкивался с популярными нынче тезисами «данные – новая нефть» или «если товар бесплатный, то товар – вы сами», ну или сталкивался, но не мог понять, что лежит в их основе, книга разжуёт всё в подробностях и несколько раз. Заодно примешает понимание приватности, персональных данных, регламентов по их обработке и самую чуточку – по безопасности в сети.

(Советы, которые даны в соответствующей главе, определённо рабочие, пусть и не идеальные; но они точно лучше, чем просто плыть по течению, предоставляемом Google. VPN и одноразовые почты никогда не бывают лишними.)Самая интересная часть книги, ИМХО, это три последних главы, где Черешнев заканчивает с описанием уже существующего всего, включая работу спецслужб и IoT, чтобы перейти наконец к прогнозированию нашего светлого будущего, той самой формы жизни №4, вынесенной в название. Опять же, не могу сказать, что я целиком согласна с его видением дальнейшего развития технологий, включая перспективы сильного ИИ, но в целом – весьма интересно. Будет ли впереди условный Skynet, который решит, что человечеству пора вымирать, читателю предлагается решить самому по итогам прочитанного.Если постараться всё это как-то резюмировать для краткости и чтобы подбить собственные впечатления, то «Форма жизни №4» – не самая захватывающая книга про ИИ, которую можно найти в современном научпопе, но она, тем не менее, хорошая. В ней много информации, пусть она и приправлена авторским мнением, которое местами само себе противоречит, есть над чем подумать на досуге. Несмотря на то, что я нового из неё особого ничего не узнала (кроме разве что многочисленных автобиографичных подробностей Черешнева, которых не было опубликовано в твитторе), потраченного времени не жаль.

Книга написана доступным и понятным языком для людей, не интересующихся ИИ, big data и пр.

Большая часть книги посвящена сбору информации о нас большими и маленькими компания, использованию ими наших данных в своих целях. Поднимается проблема «частных» данных, т.е. все действия, осуществляемые нами в сети Интернет, должны принадлежать человеку их производящему, сейчас это не так. Почему? читайте книгу:)

Про типы ИИ

Выделяют три типа ИИ: 1) ANI (машина работает по строгому алгоритму); 2) AGI (ИИ как человек, сможет выполнять любую работу, которую выполняет человек ; 3) ASI (Сверхразум, способный превзойти разум человека)

И если сейчас мы находимся на этапе ANI, то совсем скоро (а большие компании очень к этому стремятся) будет изобретён сперва AGI, а за ним и ASI. И тут очень интересно посмотреть что же будет дальше и как мы будем справляться с тем, что будет изобретён разум, способный уничтожить нас как биологический вид.P.S. Для любителей художественной литературы советую к прочтению «Клара и Солнце» Кадзуо Исигуро. Здесь как раз описывается машина андроид, способная наблюдать за поводками людей и их копировать, распознавать чувства