Анатолий Левенчук
Интеллект-стек 2023
Граница между мыслительным и прикладным мастерством размыта
Эволюция делает очень размытой саму границу между врождённым интеллектом в его биологических границах (человеческий детёныш рождается совсем не умным! Но потом растёт и быстро развивается. В том числе окружение этого детёныша и свойство пластичности мозга влияют на то, как развивается биологическая «аппаратная» часть интеллекта) и привнесённым культурой: усиления интеллекта в силу трансдисциплин и прикладных дисциплин. Щенок не умеет в момент рождения ходить, но научается потихоньку и ходить, и бегать, и прыгать – щенки играют с окружающим миром, это их обучение. Люди делают то же самое. Но кроме бегать-прыгать они ещё выучиваются читать-писать, а современный человек по идее должен выучивать ещё в школе, а затем в вузе трансдисциплины, увеличивать силу своего интеллекта, расширять диапазон проблем, которые он сможет решить при встрече с ними. Так что никакой ребёнок не рождается «умным» по абсолютной шкале силы его интеллекта, разве что есть биологическая возможность этим умным стать.
По большому счёту, у людей сейчас не естественный интеллект (вспомним людей-маугли, которые вырастают в джунглях и даже разговаривать не умеют), а вполне искусственный интеллект, полученный обучением знаниям, накопленным поколениями людей – и большинство этих знаний передаются самым умным людям вообще через бумагу и экраны с текстом, а не каким-то другим путём, например, получением «опыта» в решении проблем.
Это и есть «цивилизованность»: становиться умным от научения, а не просто быть потенциально умным от рождения. Интеллект можно и нужно развивать, а различие между естественным и искусственным интеллектом в этом плане будет несущественным.
Сам интеллект оказывается не абсолютным, а относительным: он зависит ещё и от прикладных задач. Интеллект белки, определяемый батареей тестов по разным задачам скакания по деревьям, будет выше, чем интеллект скачущего по деревьям человека. Это нормально. Другое дело, что их потом могут сравнить по общему числу возможных решаемых проблем, куда попадут и другие даже телесные задачи – и белка тут же проиграет, белка своим телом не сможет делать многое из того, что сумеет сделать человек. Ровно поэтому тесты интеллекта всегда задействуют максимально широкий набор задач, говорят о батарее тестов – проверяется универсальность, а не умение решить конкретную задачу. Тест только математики ничего не скажет про ваш интеллект. А вот тест собранности ума и тела, онтологии, риторики, системного мышления, информатики, трудового кругозора – вот такая батарея тестов будет говорить о вашем интеллекте много больше. А ещё могут быть тесты на вменяемость, на агентность. Всё по поводу тестирования интеллекта становится запутанным, на настоящее время не предложено никаких способов тестирования интеллекта: само понятие интеллекта предполагает возможность решения задач, которые не предусмотрены при обучении этого интеллекта. А если задачи предусмотрены, то это тестирование прикладного мастерства.
Интеллект зависит не только от «аппаратуры» устройства AI или человека, но и от учебного плана/curriculum, т.е. порядка предъявления задач, а также от количества информации, которая была предложена в ходе научения, а ещё от качества этой информации. В какой-то момент разработчикам AI казалось, что можно получать всё более сильный интеллект, просто увеличивая размер нейронной сети («объём мозга»), но оказалось, что есть зависимость между размером нейронной сети и количеством данных, которые требуется предъявить этой нейронной сети, чтобы полностью задействовать размер этой нейронной сети78. Поэтому стратегия поменялась: стали применять более простые «аппаратные решения» (алгоритмы нейросетей меньшего размера, требующие меньше вычислительной аппаратуры для работы с ними), но предобучать их на большем количестве данных, а ещё делать лучше сами данные (по двум параметрам прежде всего: уменьшать количество ошибок в данных, чтобы в обучение арифметике не попадали примеры типа 2*2=5, а также закрывать данными более широкие классы предметных областей, ибо оказалось лучше иметь по паре примеров из десяти предметных областей, чем двадцать примеров из одной предметной области). Оказывается, «образование» кремниевых нейросетей более важно, чем «врождённый интеллект» этих нейросетей. Для людей выполняется всё то же самое. Если потенциального Эйнштейна не учить читать и писать, то он так и останется дикарём, ему не поможет никакая «врождённая гениальность».
Если вам свезло с последовательностью предъявляемых задач, то ваш интеллект может оказаться по их итогам лучше. «Ему повезло попасть в хороший проект, он там сильно вырос за последнюю пару лет» так же важно, как «ему повезло с родителями, они ему дали хорошие гены для мощного интеллекта».
⠀
Важен порядок решения проблем:
их надо решать по мере возрастания сложности
Важен не только порядок обучения, но и порядок решения проблем! Проведено много экспериментов, показывающих, что решение какой-то одной трудной проблемы «с нуля» обучающимся вычислителем на базе нейронной сети и какого-то эволюционного алгоритма часто невозможно, но решение какой-то последовательности проблем возрастающей трудности возможно79.
Рабочая жизнь – это бесконечное развитие, бесконечное познание, бесконечное обучение. Опыт предыдущих проектов ведь тоже учит мастерству, учит не только образование, понимаемое как «импорт» уже полученного кем-то знания. Получается, что чем лучше учебный план по обучению мыслительному мастерству/интеллекту – тем сильнее будет получаемый по итогам обучения интеллект! Те, кто решает больше самых разных проблем и берёт их каждый раз на границе тумана будущего, то есть на пределе своих возможностей – у тех вырабатывается не только хороший набор прикладного мастерства, но и сильный интеллект, набор общих для самых разных прикладных умений мыслительных умений/способностей, дающий возможность на следующем такте решить проблему, которую нельзя решить «с нуля», просто потратив много времени именно на её решение. Время на «упереться и попробовать решить» таким не предобученным и неопытным агентом будет потрачено, но результата не будет! Именно это неизменно подтверждается в экспериментах по AI: с нуля агент не может научиться решать какой-то класс проблем, потратив много времени, но если агент накапливает опыт решения проблем промежуточной сложности, то он справляется и с той проблемой, которую не мог решить при попытке это сделать «в лоб», методом грубой вычислительной силы.
Это ровно то, чем отличаются «вечно подающие надежды, но никак не становящиеся мастерами» от в юности середнячков, которые воспитывают из себя настоящих интеллектуалов – и оказываются потом мастерами в прикладных практиках. IQ80, показывающий развитие «аппаратуры» мозга на специфических тестах зрительного восприятия, простых лингвистических тестах, оказывается коррелирующим с уровнем интеллекта, но не определяющим его! Мозг пластичен, синаптические связи в нём отращиваются, кровоснабжение адаптируется, интеллект вполне тренируем – как мышцы. Предобучение как хорошее образование перед занятием каким-то делом, правильно подобранная последовательность задач для этого предобучения, и правильно подобранные для этого обучения трансдисциплины влияют на интеллект даже больше, чем родительские гены.
Вы должны усиливать свой интеллект обучением себя по двум направлениям:
• обучаясь трансдисциплинам и давая себе деятельностный кругозор, то есть делая «прошивку интеллекта» в её самой современной версии, доступной человеческой цивилизации. Ещё пару веков тому назад такие трансдисциплины включали в себя чтение-письмо-арифметику. Нынешнее поколение чтение-письмо-арифметику не считает даже за отдельные дисциплины (но таки в начальной школе их учат!), а разные исследователи говорят о разных наборах этих дисциплин, мы в нашем курсе предлагаем свою версию.
• обучаясь полагаться в том числе и на внешние компьютерные средства присмотра за личным и коллективным вниманием на личной и коллективной внешней памяти, т.е. улучшая свою «аппаратуру» до самой современной версии, доступной цивилизации. Да, по факту нужно становиться киборгом. Вы уже не расстаётесь со смартфоном, признайтесь себе в этом! А смартфон подключает к вам огромные датацентры, которые начинают работать на вас, усиливая вашу аппаратуру мозга. Прошлое поколение усиливающей интеллект аппаратуры включало в себя ручку-бумажку, которые резко увеличивали объём памяти и внимания, нынешнее поколение такой аппаратуры – дата-центры (основные вычислительные мощности планеты в них!), настольные компьютеры, планшеты, смартфоны и средства связи, которые на предыдущем такте технологической эволюции люди и представить себе не могли. Человек с луком и стрелами может добыть не дающегося голым рукам зверя, человек с доступом к дата-центру может решить не дающуюся голым мозгам задачу.
Повторим: уровень IQ81 не так уж и важен для жизненного успеха. «Коэффициент интеллектуальности» – это просто умение решать какие-то классы задач, замеряемое в простых тестах. Конечно, на IQ влияет в том числе и генетика, но и обучение тоже (мозг пластичен! Если его упражнять, то он развивается). IQ дикарей меньше, ибо их мозг меньше тренировали в детстве. Более того, поскольку в 2020 году во всём мире принимались активные «антиковидные» меры по ограничению общения людей, их буквально запирали дома, как в тюрьме, возможности малышей получать новую информацию были существенно снижены. И для младенцев средний IQ (вербальные, моторные, когнитивные навыки) в США упал со 100 до 7882 именно из-за недостатка общения, стимуляции. Это непонятно, навсегда или временно, например, умение говорить должно быть освоено детьми, в более взрослом возрасте оно уже не осваивается, если человека выкормили животные и некому было его учить разговаривать. Будем надеяться, что это отставание будет навёрстано.
Но в любом случае, IQ оказывается не сильно связан с успехом в жизни: упорность и настойчивость в сочетании с удачливостью оказываются более важны. А с учётом того, что люди с низким IQ могут использовать в своих размышлениях результаты умственного труда других людей (в том числе с высоким IQ), и даже результаты вычислений компьютера, то разница и вообще становится небольшой.
Человек с низким IQ, которого выучили умножать в столбик и усилили тем самым его мозг ручкой, бумажкой и методом вычисления, может оказаться в этом умножении много искусней человека с высоким IQ, который пытается умножать в уме, да ещё и незнаком с методом умножения в столбик. Что уж говорить о более сложных умениях! Человек с низким IQ, который вовремя догадывается задавать вопросы Гуглу, легко победит в интеллекте человека с высоким IQ, который игнорирует Гугл и пытается каждый раз что-то сообразить самостоятельно. При этом лучшие умы человечества как раз используют Гугл, не стесняясь83 – а их «аппаратный IQ» вообще перестаёт играть большую роль. Большую роль играет образование (включая умение пользоваться инструментами!), использование этих инструментов (не лениться использовать! Всё записывать!), а также решение цепочек всё более трудных проблем вместо безуспешного решения запредельно трудной проблемы «в лоб» (важны способы решения проблем, которые используются, и этому тоже надо учиться).
Культурная (следующая каким-то выработанным цивилизацией шаблонам быстрого эффективного мышления, а эти шаблоны даёт хорошее образование) работа побеждает «творческое дикарство», равно как использование дополнительной вычислительной аппаратуры (от ручки-бумажки до современных дата-центров с софтом AI) уравнивает жизненные шансы людей с низким IQ и высоким IQ.
Кейс: интеллект как способность научиться
Собачка Тяпа научилась бегать и прыгать за полгода, а девочка Таня за пару лет, и то не очень. Какие из этих высказываний верны:
–– У Тяпы интеллект сильнее, ибо она научилась бегать и прыгать быстрее, чем Таня. ### Нет, интеллект сильнее у Тани, ибо она научится не только бегать и прыгать, но ещё и читать-писать, готовить, программировать, играть на рояле, а собачка Тяпа – никогда. Тут речь идёт об интеллекте в целом, его сила определяется по уровню общности в решении задач.
–– У Тяпы телесный интеллект сильнее, ибо она научилась бегать и прыгать быстрее, чем Таня. ### Нет, телесный интеллект сильнее у Тани, ибо она быстро научится не только бегать и прыгать, как собачка, но ещё и петь (мышечная работа), рисовать (мышечная работа), танцевать (мышечная работа), поднимать штангу (мышечная работа). А собачка Тяпа всего этого не сможет.
Пётр – отличный математик, никогда ничем кроме математики не занимался, «узкий специалист», но лауреат какой-то важной математической премии. Павел – занимался самым разным, и даже немножко математикой (совсем чуть-чуть, это оказалось «не его»), но там была и инженерия, и исследования по химии, и много чего ещё. Разбираться приходилось с нуля в каждом новом проекте. Премий Павел не получал, но со всеми работами справлялся, и часто получше, чем местные «узкие специалисты». У кого интеллект сильнее?
–– У Петра, у него ведь математическая премия ### Нет, интеллект определяется как эффективность в обучении новому, причём акцент на разнообразии этого нового. Пётр узкий специалист, у него интеллект «широкая генерализация» (мастерство), но не «экстремальная генерализация» (на что претендует Павел).
–– у Петра, он настоящий, глубокий специалист! ### Нет, «глубокий специалист» указывает как раз на узость предметной области (хотя сама по себе математика не так уж и узка, как предметная область, но в разнообразии задач, стоящих перед людьми, математические задачи – это крошечный класс задач)
+++ У Павла, он быстро научится любому новому делу ### Да, сила интеллекта определяется именно этим: скоростью обучения новым делам, акцент на широте этих дел, их разнообразии. «Любое новое дело» указывает на «экстремальную генерализацию» (то, чему можно научить людей), хотя понятно, что это сильное преувеличение, бытовой речевой оборот. Тем не менее, в определении силы интеллекта разнообразие выигрывает у узкой специализации.
Богдан на выходе из средней школы имел IQ 120, Марина IQ 130, Дженнифер IQ 140.
??? Кто из них разбогател через 15 лет после окончания школы?
+++ нельзя сказать ### Да, это невозможно сказать, ибо богатство больше определяется случаем, чем целенаправленными усилиями. IQ тут не влияет. Кроме того, мы даже не можем сказать, кто из них стал за 15 лет умнее (ибо кто-то мог получить хорошее высшее образование, а кто-то так и остался неучем – и никакой IQ тут не поможет). С другой стороны, статистика говорит, что у Дженнифер в плане «разбогатеть» шансы больше!
–– разбогатеет Дженнифер, у неё IQ выше всех ### нет, богатство и IQ не непосредственно связаны друг с другом. Во-первых, интеллект можно поднимать образованием, а во-вторых, богатство больше зависит от случая – чтобы стать богатым, не нужно иметь сверхвысокий IQ, достаточно не делать грубых ошибок, и чтобы удача была на твоей стороне. Поэтому нельзя сказать, кто разбогатеет. Может быть, и Дженнифер, но это определяется отнюдь не только её высоким IQ.
–– разбогатеет Марина, у неё средний IQ, поэтому у неё всё сбалансировано ### Нет, нельзя сказать, кто разбогатеет. Богатство практически не зависит от IQ, а «всё сбалансировано» – это вообще непонятно, что имеется в виду.
??? Кто из них стал самым успешным учёным, если известно, что все трое пошли в науку?
+++ нельзя сказать ### Да, это невозможно сказать, ибо успех в науке больше определяется случаем, упорством, организованностью, задействованием компьютеров, но не IQ.
–– лучше всех станет Дженнифер, у неё IQ выше всех ### нет, нобелевские премии получают учёные не с самым большим IQ, равно как разброс по IQ среди именитых и продуктивных учёных весьма велик. Может быть, великим учёным станет именно Дженнифер, но не по причине её высокого IQ.
Мышление – это функция/поведение/назначение интеллекта
Мышление – это поведение интеллекта, его функция. Интеллекты бывают разной направленности (удачные для разных классов проблем, которые только можно представить во вселенной – помним, что вычислители неодинаково эффективны для разных классов вычислений, теорема об отсутствии бесплатного обеда), разного калибра/силы/уровня/общности/эффективности в части «отращивания» разных видов прикладного мастерства. Учим интеллектам разной направленности и силы – учим мышлению разной направленности и силы. Качество мышления обученного нами интеллекта мы должны смотреть не на знакомых ему в ходе обучения ситуациях, и даже не на знакомых нам, его учителям, ситуациях, а на незнакомых ситуациях – на решении проблем, которые ранее ещё не встречались. И не в условиях «экзамена», а в условиях реальной жизни, в реальных проектах. Интеллект – это когда ты изучаешь что-то новое, научаешься новым мыслительным операциям, которые потом войдут в прикладное мастерство.
А что же с мышлением в ходе решения прикладных задач? Если будут затыки/проблемы, то это будет мышление. Если просто вы ещё и ещё раз будете решать знакомую вам задачу, то это будет не мышление. Мышление – это когда один алгоритм-интеллект составляет другой алгоритм-объяснение, кодирует правила рассуждений в объяснениях для незнакомой ранее предметной области. Если же просто производится работа прикладного вычислителя-мастерства, то в нашем случае это прикладные рассуждения, работа уже выученного робота, автоматизм. Конечно, это очень условное разделение, но оно кажется полезным, если обсуждать, каким образом прирастают знания и умения агентов. Прирост знаний – результат мышления, которое с учётом выхода «вычислений» в физический мир (эксперименты) называют «познание», а в машинном интеллекте предпочитают называть learning.
Конечно, мышление включает «просто рассуждения»/inference! Без этого никак! Это всё вычисления как операции над изменениями информации, записанной в памяти, причём эти операции делаются по определённым «правилам вывода/рассуждений/inference» – это и есть «рассуждения»/inference. Но вот использование знаний, полученных мышлением – это «просто рассуждения», а не «рассуждения мышления». Нам просто удобно разделить рассуждения::вычисления на происходящие при мышлении интеллекта и происходящие при пользовании прикладным мастерством. Так что интеллект можно задействовать для улучшения не только прикладного мастерства, но и рассуждений самого интеллекта, отрастить себе новую версию какого-то мыслительного мастерства, или даже отрастить её не в себе, а в инструменте, например, компьютере – или даже в нанятой для этих рассуждений фирме! И всё это оперирование с практиками требует интеллекта.
Если вы умеете читать, то вы просто читаете, задействуете привычное мастерство чтения, а не мыслите про чтение. Если вы умеете считать, то вы просто считаете. Работа интеллекта, мышление нужно было, когда вы знакомились с чтением и письмом, осваивали эти дисциплины. Мышление у вас работает в вузе, когда вам нужно разобраться за пару месяцев с очередной парой толстых томов с формулами. А когда вы уже пятый год на работе просто применяете эти формулы, вы это делаете автоматически, мышления не происходит – пока вы не встречаетесь с проблемой, которой раньше не было. Только в этот момент вы включаете мозг, ту его часть, которая ответственная за интеллект. И эта часть начинает работать – эта работа и есть мышление. Если проблем долго нет, то мозг пластичен: мышление не включается, пластичный мозг потихоньку деградирует, сила интеллекта потихоньку падает. В текущем году это падение с лихвой компенсировано информационно-коммуникационными технологиями: раньше нужно было «придумать решение проблемы», сегодня нужно «не забыть погуглить решение проблемы». Проще простого перейти в режим неинтеллектуальной обезьянки, которая проблемы не решает, но бодро щёлкает задачки, на которые она была надрессирована раньше – и так живёт годами, пока не окажется, что интеллект совсем зачах, прошивка мозга устарела, жизнь несётся мимо, и непонятно как вернуть те времена, когда интеллект в ходе обучения и решения проблем непрерывно усиливался, а не деградировал. Интеллект должен расти всю жизнь, это не дело, когда мышлением люди занимаются последний раз в вузе!
Напомним, что поведение вычислителя определяется не только и даже в силу универсальности вычислителей, не столько аппаратурой (хотя скорость работы аппаратуры и физика в основе работы аппаратуры – биологические нейроны, классическая электроника, квантовые явления влияют на поведение вычислителя), сколько программным обеспечением, «софтом». Тезис Тьюринга-Чёрча-Дойча про универсальность вычислителя говорит, что все вычислители независимо от физической их природы умеют вычислять ровно столько же видов функций, сколько простейшая машина Тьюринга, просто скорость вычисления будет разная. Этот тезис подробно раскрывается Дэвидом Дойчем в его книжках. И вообще, граница между аппаратурой и софтом весьма размыта.
Мы это для случая интеллекта-вычислителя и мышления как его вычислений формулируем так, что интеллект может быть не только врождённый «аппаратный» (человеческий, машинный, человеко-машинный, коллективный для людей и машин как аппаратных вычислителей, пришедших «с завода», без «предустановленного софта», необразованных), но и выученный/learned. И машины, и люди, и даже коллективы должны быть обучены, чтобы в них появился «софт» алгоритмов сильного интеллекта. Врождённого интеллекта никогда не хватает!
Можно говорить как об усилении интеллекта (вычислитель как функциональный объект), так и об усилении мышления (поведение вычислителя, его функция) – по сути, это одно и то же. «Мышление» неуловимо, как и любое поведение/работа: процессы сложно представлять, их сложно обсуждать. А интеллект как функциональная часть мозга, ответственный за освоение нового мастерства – вполне понятно, как о нём думать. В нужный момент, при появлении новой задачи, он включается, и начинает мыслить, то есть мастерить другую функциональную часть мозга, которая называется «прикладное мастерство» и будет ответственна за рассуждения по решению «на автомате» какого-то класса прикладных задач. Или даже какое-то мастерство (например, в логике) может быть ответственно за решение «на автомате» задач самого интеллекта! Поэтому развиваем интеллект (в инженерии было бы «создаём и развиваем», но мы не создаём врождённый интеллект в людях, а только развиваем его. Но в случае AI мы этот интеллект ещё и создаём), а уже потом развитый/усиленный интеллект проявляет сильное мышление во время его использования.
Всё, конечно, не так просто. Мы говорим про функциональную часть мозга, или функциональную часть компьютера, или функциональную часть мозга и компьютера вместе (гибридный интеллект человека и компьютера), или функциональную часть мозгов и компьютеров группы людей, да ещё и с неизвестным сегодня науке способом реализации конструктивными частями – анатомическими структурами мозга. Разве что в случае компьютеров тут можно рассказывать, как именно происходит мышление или рассуждения, но и тут есть оговорки: если речь идёт о компьютерных нейронных сетях, то до сих пор не очень понятно, как именно они работают. Но главное: никакой мистики, никакой психологии! Мышление, интеллект, правильные рассуждения, мастерство – обо всём этом мы можем говорить инженерно, и включать в рассуждения не голого человека, и обязательно одного, а команды людей с их компьютерами. И обсуждать как познание (обучение и исследования, образование и науку), так и работу с достижением целей на основе уже познанного: приложение мастерства.
Важно различать в обучении то, что ведёт к усилению интеллекта (знаний о том, как получать знания, как решать проблемы) и что ведёт к увеличению объёма прикладных знаний (знания о том, как решать какие-то известные классы задач, например, «умножать столбиком, если под рукой нет калькулятора, хотя сегодня калькулятор под рукой есть всегда»). При всей условности различения этих знаний, для образования нужно приоритетно выбирать знания по усилению интеллекта, то есть знания практик интеллект-стека: трансдисциплины интеллект-стека и инструменты (прежде всего моделеры) для поддержки рассуждений по этим трансдисциплинам. Это позволит решать всё более и более сложные проблемы, в том числе проблемы, связанные с развитием практик самого интеллект-стека.
