# Протокол безопасности

Александр Кислярский

Школьная экскурсия по инновационному предприятию внезапно оборачивается изоляцией: здание блокируется, а охранные боты берут под контроль посетителей. Спустя несколько часов становится понятно, что сама ситуация не решится. Героям предстоит изучить систему безопасности недалекого будущего, чтобы найти выход.

– Приветствую вас, юные представители разумных форм жизни, в нашем скромном по вселенским масштабам, но, тем не менее, значимом отделе НИОКР. Ваше присутствие здесь логично, учитывая интерес биологических форм к техническому прогрессу. Если вы будете внимательны и активны, эта экскурсия может стать полезным опытом и первым шагом на пути к пониманию принципов работы ИИ, робототехники и других современных технологий. Сегодня я ваш экскурсовод. Уверен, вы уже узнали меня, но для конспирации зовите меня Алексей Петрович. Я желаю вам продуктивного дня. Живите долго и процветайте. – С этими словами человек с накладными ушами, в синей рубашке с логотипом “Энтерпрайз” показал гостям вулканский салют.

Аудитория была разношерстной. Дарт Вейдер и пара штурмовиков соседствовали с человеком-амфибией. Голова профессора Доуэля на достаточно высокой тумбочке о чем-то перешептывалась с парой сталкеров. Робот Норби с интересом разглядывал выставочный зал. Мальчик в синем комбинезоне с желтой цифрой 13 на спине терпеливо дожидался конца заученного монолога, а когда экскурсовод умолк, вытянул руку и показал большой палец – то ли действительно оценив старания, то ли просто повторяя известный жест персонажа.

Азимовские дни научной фантастики постепенно набрали обороты. Началось все с успешных экранизаций-переосмыслений классики. “Солярис” Лема перекликался с актуальным вопросом, в какой момент ИИ можно считать живым. Цикл “Я, Робот” Азимова немного угрожающе намекал, что мы не можем четко сформулировать логику принятия решений искусственных нейронных сетей и на 100% предсказать их поведение в той или иной ситуации. “Обитаемый остров” Стругацких косвенно задевал сложность выделения качественной информации в современном бардаке.

Новые экранизации были не только актуальными, но и продуманными, красивыми, эффектными. На различных мероприятиях стали появляться люди в костюмах дона Руматы, Рэда Шухарта, робота Эндрю серии NDR и многих других персонажей. Именно для них и были изначально организованы дни НФ, хотя позже подтянулись и более привычные посетители комик-конов.

Со временем мероприятие стало притягивать и тех, кто метил на место в ряду компаний-инноваторов – ведь где еще лучше всего продавать будущее, или пытаться привлечь молодежь в свою отрасль? Так на Азимовских днях появились стенды с интелфонами (строго говоря, отличающимися от смартфонов только наличием проекторов и встроенной поддержкой ИИ), ботами разного назначения, биопринтерами, новым витком устройств для дополнительной и смешанной реальности и другими приспособлениями разной степени полезности и инновационности. В этом году предприятие решило провести день открытых дверей для школьников, чтобы, насколько это возможно, склонить их к научно-исследовательскому или инженерному пути в недалеком будущем.

Тон повествования, кажется, был выбран не совсем подходящий для десятилеток. От приветственной речи большинство из них отвлеклись так быстро, как только это было возможно. Однако среди становящихся все громче перешептываний можно было расслышать что-то вроде “О, офигеть, тут тоже в костюмах можно ходить!”. Учительница, возглавляющая необычный отряд героев, оперативно вмешалась, и, зарождающийся галдеж стих.

– Здравствуйте, Алексей Петрович, – пролепетал нестройный детский хор.

“Что-ж, не все герои носят плащи”, – подумал Алексей. – “А мне плюс за костюм и минус за речь. Надо сбавить обороты.”

– Давайте посмотрим, что интересного у нас тут есть, – проговорил мужчина, жестом приглашая процессию подойти к первому экспонату. – Это очень старый компьютер, который называется Deep Blue. Вернее, его точная копия. Кто-нибудь слышал о нем?

Неуверенно поднял руку мальчик, заметно выделяющийся на фоне остальной компании. Он выглядел более-менее обычно. Синие джинсы, зеленое поло с белым воротником, белой и синей полосами на коротких рукавах и на основной части. Можно было бы подумать, что он пришел без костюма, но, артефакты давно ушедшей эпохи говорили об обратном: наручные заводные часы и пленочный фотоаппарат со вспышкой. Образ смутно знакомый, но не вызвавший у экскурсовода конкретных ассоциаций.

Алексей кивнул мальчику, приглашая того высказать версию.

– Это компьютер, победивший чемпиона мира по шахматам… Правильно?

– Отличный ответ! – воскликнул “вулканец” со смесью удивления и одобрения, но тут же спохватился и попытался вернуться в роль. – Сейчас его характеристики совершенно не впечатляют, а современные компьютеры обыграют его в два счета. Ценность он несет только культурно-историческую. Но у нас он занимает особое место среди экспонатов. Он напоминает нам, как машины начали превосходить людей в задачах, всегда считавшихся человеческими, интеллектуальными.

А также о том, что машинам не нужно для высокой эффективности повторять наш путь. Для виртуальных шахматистов того времени вся игра – это оценка новых позиций на основе строгой математической функции и перебор невозможного для человека количества возможных ходов. Для каждого нового хода они считают контролируемые клетки, оставшиеся у себя и у противника фигуры и множество других параметров, а затем превращают их в число – чем оно больше, тем лучше ход. Люди же больше полагаются на интуицию и на знакомые по книжкам расстановки.

– А можно сыграть с ним? – послышалось откуда-то с задних рядов.

– Конечно! Экспонат полностью рабочий и подключен к вот этому терминалу, – для демонстрации Алексей подошел к вполне современному экрану и жестом переставил случайную белую фигуру. После небольшой задержки черные сделали ответный ход. – Видите? Но давайте оставим интерактивную часть до конца экскурсии.

Раздалось несколько разочарованных вздохов. Пара-тройка детей с подачи учительницы сделали фотографии двух массивных черных шкафов, скрытых за сеткой с надписью IBM, и связанного с ними терминала. Аудитория плавно переместилась к следующему экспонату.

На новом стенде расположилась прозрачная коробочка с четырьмя ручками регулировки. Они были разбиты по парам, в каждой паре был один “Вход” и один “Вес”. И от каждой в дискообразный центр конструкции шел провод. На циферблате диска красовалась цифра 0. И наконец, от центра в правую часть уходил последний провод, подключенный к выключенной лампочке с надписью “Выход”.

– А если вы узнаете этого приятеля, – Алексей положил руку на коробочку и слегка улыбнулся, – то вы уже на полпути, чтобы работать у нас, – дети отреагировали редкими смешками. – Нет, я серьезно, жду резюме у себя на столе!

К этому моменту экскурсовод решил отказаться от роли серьезного и рационального мистера Спока. Этот образ может и подходил ему лично, но, похоже, не нашел отклика у детей.

– Перед вами модель искусственного нейрона. В основе лежит идея о том, что если мы хотим решать сложные, плохо формализуемые задачи, то мы можем попытаться повторить структуру, которая уже успешно с этим справляется – человеческий мозг.

Этот небольшой элемент – всего лишь кирпичик, из которого строятся большие нейронные сети. Но он очень хочет нам понравится, поэтому даже он способен кое-чему научиться и стать полезным. Вы любите мороженое? Ну конечно любите – если человек не любит мороженое, ему нельзя доверять! Давайте научим нашего друга выбирать вкусный пломбир не сильно далеко от нас, – с этими словами Алексей подкрутил ручки весов так, чтобы все это видели.

– А теперь, давайте скажем, что на картах мы нашли точку с оценкой 4.5 звезд в двух километрах от нас, – ручки на входах заняли соответствующие положения, число на центральном диске перевалило за 0.5 и лампочка загорелась. – Вот так: он говорит, что нам надо пойти закупаться сладостями! Но допустим, что расстояние не 2, а 3 километра, – выход погас сразу же после ввода новой информации. – А вот таких усилий это мороженое уже не стоит. Однако, что, если оценка – все 5 звезд? – огонек снова засветился. – Он понимает, что за хорошими сладостями мы готовы идти дальше!

На самом деле, тут тоже одна сплошная математика. Устройство берет первое число, умножает на первый вес, так же поступает со вторым набором, а затем решает, достаточно ли суммы полученных чисел (в каком-то упрощенном смысле именно ее мы видим в центре) для того, чтобы зажечь лампочку. Веса – именно то место, где хранится “память” машины, логика, по которой она принимает решения. Как видите, тут нет волшебства, – экскурсовод развел руками словно фокусник, демонстрирующий пустые рукава. – И один нейрон в поле не воин, он не может решать сложные задачи. Тем не менее, вместе они – сила!

Рядом с физической моделью появилась проекция, на которой множество нейронов расположились последовательно слой за слоем. Каждый слой соединялся с предыдущим, информация в виде огоньков на дорожках текла от множества входов, передавалась от нейрона к нейрону по “взвешенным” проводкам. Каждый кирпичик самостоятельно решал, стоит ему активироваться и передавать информацию дальше или нет. И все это сводилось к единственному выходу – ответу на поставленный вопрос.

– Посмотрите на этот ансамбль! Столько связей, столько закодированной информации! Конечно мы не можем вручную подбирать все веса, чтобы нейросеть правильно отвечала на наши вопросы. Поэтому у нас есть специальные алгоритмы, позволяющие учить наши системы практически без участия человека. Мы показываем искусственному интеллекту ситуацию, на которую мы бы хотели, чтобы он отреагировал и говорим как реагировать. Это как если бы я в примере с мороженым многократно вводил оценку магазина и дальность, сам же отвечал на поставленный вопрос, а веса подбирались бы без моего участия, но так, чтобы ответы нейрона совпадали с моими, насколько это возможно.

Проекция нейросети уменьшилась, а рядом с ней появилась простая схема: если оценка равна 5, то идем за мороженым; иначе, если расстояние меньше двух километров, то идем за мороженым; иначе сидим – дома.

– Кто догадался, какой главный недостаток у обучающихся алгоритмов по сравнению с более традиционным способом программирования?

Несколько человек подняли руку. Мужчина прикрыл глаза одной рукой, и, после непродолжительного вращения второй, указал в случайном направлении. Выбор пал на одного из штурмовиков.

– Они сложные! – раздался звонкий голос девочки из-под шлема.

Дети захихикали, скорее всего посчитав ответ глупым, но Алексей поспешил заступиться.

– Не нужно смеяться, пять баллов галактической империи за правильный ответ! Главная проблема такой сложной структуры является следствием ее главной силы. Мы далеко не всегда можем сказать, на основе чего было принято то или иное решение. В море информации, которую мы показываем алгоритму при обучении могут случайно спрятаться подсказки, которые будут помогать во время тренировки, но сбивать с толку в реальных задачах.