Наталья Филатова
Четвертый закон
– Например, сколько ребенку не объясняй, что нельзя трогать электрическую розетку, пока его не тряханёт током, он ничего не поймет, а запомнит, только когда почувствует боль. Да, знаю, скажете, дети бывают разные. Кому-то достаточно слов, но лично я засовывала в детстве палец в розетку! – И тут в первый раз в жизни подумала, что с этого потрясения – все изменилось в моем сознании. Мои предвидения и развитое чувство эмпатии – последствия той травмы?
– Необычное рассуждение, – протянул Валерий. Он смотрел в окно, как будто там можно было найти выход или решение. Разрывая хмурость северного неба и зеркальную защиту стеклопакета, в кабинет неожиданно заглянуло солнце. Отблески света, солнечными зайчиками разбежались по кабинету, снимая напряжение и подбадривая меня.
– Сочувствие – чувствовать чужую боль, как свою. Искусственный интеллект пока не может понять душевную боль человека, но должен научиться анализировать переживания живого существа. Это станет тормозом для причинения моральной, душевной боли, – продолжала я разгонять свою мысль, хотя понимала, что это только мое видение проблемы. Я – мастерица, создать ажиотаж там, где обычные люди, пожимая плечами, пройдут мимо.
– Но мы же пишем определенные программы, которые не могут взломать даже вирусы, – терпеливо начал объяснять Валерий.
– Насколько я знаю, часто неэффективность работы программ бывает из-за плохого настроения или взглядов тех, кто вносит информацию в программу. Представляете, сколько проблем возникнет, когда создания с ИИ начнут самостоятельно подключаться к всемирной сети? Буллинг, троллинг, агрессия некоторых людей могут дать ИИ неверное представление обо всей цивилизации, и тогда возникнет повод для взаимной агрессии к человечеству. Как Вы планируете с этим бороться? – я занервничала, теряя путеводную нить заранее подготовленных рассуждений.
– Будем усовершенствовать ввод алгоритмов, ставить фильтры защиты, – уверенно ответил Валерий.
– Вы же понимаете – агрессивными могут быть и обычные слова. Ирония, цинизм. Как вы научите ИИ, отвергать эти эмоции? Даже психически стабильный человек может неосознанно встать на тропу зла в отношении непонятного явления. Уже сейчас есть люди – негативно относящиеся к ИИ. Они видят в нем конкурента и возможного агрессора, – выпалила в отчаянии. Я понадеялась на свою память, а надо было записать презентацию своих рассуждений и выводов.
– Интересные мысли, надо все обдумать, – устало произнес Виталий.
– Послушайте, вам надо заложить творческое начало в свои создания? А что такое творчество? Взгляд творца, видение художника. Взгляд души – так будет точнее. Душа – это способность любить, сопереживать. Разве не так? – это была моя последняя попытка объяснить свою идею.
– Я правильно понимаю, Алия думает, что нужен четвертый закон робототехники. Закон о душе и любви? – в глазах собеседников забегали огоньки иронии. Мне показалось, что на самом деле Валерий сказал: "Вот уж, эти женщины! Одна любовь у них на уме".
– Я не юрист, не программист. Скажем так, пока это мысли вслух, – сказав слово "пока" я немного испугалась. Во-первых, как бы мне самой не сказали: "пока! До свидания". Во-вторых – я намекала, что будет продолжение, значит, брала на себя определенные обязательства. "Мама дорогая! Язык мой – враг мой". Глубоко вдохнула, как перед погружением в бездну. Приготовила последний аргумент.
– Что может остановить человека – страх? Но думаю, для биороботов это не эффективно. Поможет – нежелание причинить боль любимому и любящему, другу. И конечно, взаимоуважение, между человечеством и ИИ, – добавила и сникла. Живя эмоциями, не всегда могла выразить их в словах, терялась в компании незнакомых людей.
– Вам нужно пройти медицинское обследование. Обычная процедура для всех сотрудников при приеме на работу в "Заслон". Елена проводит Вас, – нарушил минутную тишину Виталий. Мысленно все втроем облегченно вздохнули. Я поняла, что в серьезном учреждении, сказав "А" надо быть готовым произнести "Б", а не морочить собеседников своими предчувствиями. "Один в поле не воин", – почему-то вспомнила пословицу. Странно было надеяться, сразу встретить единомышленников в новом проекте.
Я и Елена спустились на несколько этажей ниже, прошли мимо бассейна, манящего мозаикой и мерцанием воды. "Сейчас бы взбодриться! Поплавать, смыть недовольство собой", – размечталась я. Мне все больше нравилось в центре. Терпение и интерес топ-менеджеров, выслушавших меня, подарили надежду. Может, примут в свое сообщество креатива?
Прошли мимо спортзала, зимнего сада. Медицинская зона состояла из нескольких кабинетов. УЗИ, томография, своя лаборатория – я была приятно удивлена заботой компании о здоровье своих сотрудников. После стандартных процедур снова встретилась с руководством.
– Послушайте, Алия. Вы заинтересовали нас своими идеями, но ваше гуманитарное образование и отсутствие опыта работы не позволяет нам взять Вас на вакансию психолога для ИИ, – я скорбно опустила уголки губ после слов Валерия, но он продолжил, – мы подумали и решили предложить Вам стать нянькой для биоробота. Официальное название вакансии – помощник психолога. Пройдете испытательный срок, работая с чтецом. Вы писали об этом, значит, имеете представление о процессе. После каждой смены будете отчитываться своему непосредственному руководителю.
"Да! Да, согласна!" – чуть не закричала я, но вовремя опомнилась, что буду выглядеть слишком легкомысленной. Как объяснить незнакомым людям, что для меня самое важное – ощущение комфорта в коллективе и уверенность в эффективности моей работы. Теплая внутренняя атмосфера притягивала и давала надежду. С умным видом я начала обсуждать график и условия будущей работы.
Выяснила, что психолог будет работать днем, а я буду общаться с ИИ ночью. Биороботы не нуждаются в отдыхе в отличие от людей. "Ночная смена для совы!" – совпадение моего биологического режима и графика работы меня полностью устраивало.
– Можно я буду читать биороботу книги? – удивленно поднятые брови требовали от меня объяснений, – понимаете, в свое время я очень много читала книги для своей внучки. Иногда один и тот же рассказ по несколько раз. Детям нравиться повторение историй. Видимо, как доказательство стабильности и нерушимости мира. В тоже время, в зависимости от настроения ребенка, я делала акценты на разные детали, меняла интонации голоса. Думаю, этот опыт пригодился бы для ИИ, чтобы в запасе у него было несколько вариантов прочтения текста в зависимости от настроения заказчика.
– Давайте поступим так: изложите все свои пожелания, и обсудите со своим непосредственным руководителем, – фраза Валерия, вдохновила меня, но в тоже время ненавязчиво намекала об окончании встречи.
Елена проводила меня в лабораторию. Строгий офисный стиль, стерильность, неизвестные мне приборы, показания на экране мониторов – только теперь я осознала реальность происходящего. Меня встретил инженер Антон. Добродушный, со смешинками в глазах, он старался выглядеть серьезнее и солиднее. Мы зашли в отдельный бокс, отгороженный прозрачными перегородками. Из угла выползло существо, настороженно смотревшее на нас. Может мне так показалось? Оно не умело моргать, поэтому возникло такое ощущение.
