"Предотвратить ущерб"
Лейтенант Дегре
– Добро пожаловать на Сириус-15! – крепкий мужчина в сине-зеленом камуфляже и в темных очках сорвал с лысой головы кепи и издали приветственно махал двоим прибывшим. По трапу планетолета сходили молодой лейтенант спецконтроля и человек лет пятидесяти в устаревшем земном камуфляже без знаков различия.

– Здравия желаю, товарищ полковник! – весело отозвался лейтенант. Лысый без церемоний сгреб его в охапку:

– А поворотись-ка, сынку! Экой ты смешной! Вырос, вырос! Меня прибыл проверять? Спецконтроль за спецнадзором? Ладно-ладно, шучу!

Тот тоже крепко обнял встречающего, с трудом высвободился из его объятий и представил своего спутника:

– Папа, знакомься: это Иван Григорьевич, инженер по гиперпространственным системам. Иван Григорьевич, это Андрей Арнольдович, полковник спецнадзора, начальник службы безопасности базы. Ну и по совместительству – мой папа.

Инженер и полковник обменялись крепким рукопожатием.

– Держите презент, – полковник протянул каждому защитные очки. – Специальные, от здешнего голубого солнца. Сразу надевайте!

– Как это вы, Андрей Арнольдович, неполиткорректно здешнее солнце голубым обзываете! – сказал инженер, примеряя очки. – Надо говорить: альтернативно желтое.

– Всё, кончилось их время, Иван Григорьевич! Сириус наш! Теперь снова будет Красный!

– Борис Натанович за такие слова вам руки бы не подал! – улыбнулся инженер.

– Да и Большой Пес с ним! – отмахнулся полковник. – Мы теперь здесь вещи называем своими именами. Поехали для начала в харчевню, подкрепитесь с дороги. По пути введу в курс дела.

Двое прибывших запрыгнули в запыленный глайдер со следами частых пулевых пробоин на борту. Полковник голосом отключил кибердрайвера и уселся за руль:

– Люблю водить сам. Привычка! – пояснил он и ткнул в кнопку аудиосистемы. Из динамиков зазвучала «Кин-дза-дза». Глайдер заложил крутой вираж и взял курс на базу. Под крылом потянулся скучный инопланетный пустынный пейзаж. Изредка меж холмов попадались стада склисов, пасущихся среди скудной сине-зеленой растительности. Не отрываясь от пилотирования, полковник спросил:

– Вы, наверное, уже знаете, что у нас произошло?

– Меня сориентировали, а Иван Григорьевич пока не в курсе.

– На нашей базе погиб директор корпорации «ААА», он же – главный конструктор. С ним все его замы и военпред. Вот. А у меня ведь, представляете, Иван Григорьевич, отец когда-то в старой еще «ААА» занимался антиэнтропийным оздоровлением среды. Тема называлась «Гость-5» . Он мне с той планеты первый пистолет привез. Игрушечный еще. Вот, думаю, с этого подарка и повело меня в силовые структуры. И Сережу за мною следом.

– Как тесен мир, оказывается, Андрей Арнольдович! – удивился инженер, – И у меня отец там работал по той же теме! Между прочим, любопытные мемуары оставил! Сейчас «ААА» направление деятельности сменила и расшифровывается как «Антитеррористическая акционерная ассоциация». На желтых страницах в поисковиках в первой же стоке всегда выскакивает – лидер в области гиперпространственных оборонных технологий. А про их директора в интернетах злые языки утверждают, что это моджахеды завалили планетолет. Военные, однако, как всегда все отрицают, но им уже никто не верит. Эх, который век уже с мировым терроризмом за народное счастье бьемся, а воз и ныне там.

– Версию про моджахедов мы сами подбросили, чтоб журналюгам было на чем потоптаться, – усмехнулся подполковник и посерьезнел, – на самом деле все гораздо хуже: сбила его наша система ГПО. Даже, можно сказать, его – покойника – собственная. Погиб создатель от руки своего детища.

– Это еще большой вопрос, кто истинный создатель этой системы, – проворчал инженер. Вдруг прямо перед носом глайдера, как из-под земли, вылетел склис. Машину сильно тряхнуло. Полковник едва успел отвернуть, но выправил руль и коротко выругался:

– Вот же, кю!

– Зря ты, папа, кибера отключил, – заметил лейтенант, – по статистике у него безаварийность вождения лучше, чем у абсолютного большинства водителей.

– Не приучен я верить киберам. Я верю только доносам, доносам и доносам! – пошутил полковник и продолжил уже серьезно:

– Я сам в технике – не бельмеса. Это я про ГПО. Мы в спецконтроле все больше по шпионским штучкам. Но Сережу по этой теме учили, вот его и прислали. Ну и вас тоже, Иван Григорьевич.

– Подозреваешь диверсию? – спросил лейтенант.

– Хрен его знает, – пожал плечами полковник. – В общем, похоже на диверсию, но весь персонал базы многократно проверен. Подозревать уже некого.

– А закладки? Подарки от вероятных партнеров? Взломы сети?

– Тоже вроде все проверили. Интернет у нас свой, от общей космической помойки сотней шлюзов отгорожен. Следов успешного взлома не было. Техника вся строго отечественного производства, спецпроверенная, никаких закладок в ней быть не может. Остается грешить только на технический сбой в системе. Вы специалисты, вот и разберитесь. Это ваш хлеб.

– Тут мало быть специалистом, – заметил лейтенант, – надо быть разработчиком.

– Главный разработчик со всей своей командой уже тю-тю.

Инженер собирался что-то возразить, но внезапно небо над ними с грохотом прочертила цепочка огненных шаров и понеслась в сторону космодрома.

– Наши птички вернулись, – пояснил полковник, – на утреннюю штурмовку летали. На Альдебаран-2 и на Алькаиду-12. Борются с космическим терроризмом в две смены, строго по часам. Пока пилоты пообедают, боезапас им пополнят, топливом заправят, и после обеда – на второй вылет.
В столовой киберофициант доставил отцу с сыном подносы с заказанной едой, а инженер сам принес к их столику свой обед с раздачи. Лейтенант соблазнился экзотическим супом из осьминогов, которых, если верить рекламе, здесь подвозили совсем свежими с Тауроса-4. Поковырявшись ложкой в супе, он с завистью поглядывал на украинский борщ с пампушками, с аппетитом поглощаемый его старшими и явно более опытными товарищами.

– Что же вы, Иван Григорьевич, поднос свой до сих пор в руках таскаете? – заметил полковник. – Кибер же для этого есть! Или в технику не верите?

Инженер в ответ торжественно возгласил:

– Предпочитаю по возможности делать все сам, дабы собственными органами чувств лишний раз убедиться в желательности принимаемой в себя пищи, не полагаясь на сухие строчки меню, цветистые обещания рекламы и рекомендации якобы умных девайсов. Как и мысли свои стараюсь хранить в незапятнанности от миазмов новостной и рекламной помойки, дабы сохранить свежесть личного восприятия и непредвзятость выводов. Вот вы, Андрей Арнольдович, к примеру, что вы знаете о покойнике?

– Главного конструктора имеете в виду? – встрепенулся полковник. – Ну, то что в интернетах писали: талантливый организатор, автор оборонных систем и комплексов, большая потеря для отечественной науки и техники, и все такое прочее.

– Угу, – кивнул инженер, – как почитаешь некрологи, каждый из этих деятелей – ну просто Наполеон, да еще и Геркулес в одном флаконе! А сам покойник мал был и тщедушен.

– А я думал, это Сережа у нас будет в роли Дон Жуана выступать, это больше по его части!

– Папа, – укоризненно произнес лейтенант, – оставь, пожалуйста, эти намеки!

– Шучу-шучу! Но не сильно шучу. А скажите, Иван Григорьевич, что вы знаете о покойном?

Иван Григорьевич криво усмехнулся:

– Я всех их знаю. Еще не так давно я был главным гиперистом в той самой корпорации «ААА». Идеология системы локаторов – моя разработка. Настоящий создатель-то я, а не так называемый главный конструктор, как в простоте душевной полагает посторонняя публика! Но уволили меня оттуда эффективные менеджеры, а детище мое отобрали и себе присвоили.

– За что уволили? – спросил полковник.

– А за то! – инженер развел руками. – Стоял я на пути их технического прогресса к повышению прибыли акционеров.

– Ну вот, папа, – улыбнулся лейтенант, – а ты говоришь, что подозревать некого. Вот нам и первый подозреваемый с явным мотивом для убийства: несправедливое увольнение!

Иван Григорьевич криво усмехнулся:

– У меня алиби. Я к их поделкам уже целый земной год как непричастен. Покойник хотел, чтобы я больше в его дела не вмешивался. Да видно судьба иначе решила. Придется разбираться, что они натворили. Дебилы… – инженер коротко выругался.

– Расскажите нам эту историю подробно, – попросил полковник.

Инженер тяжело вздохнул и стал рассказывать:

– Моджахеды наши базы дронами давно обстреливали. Дроны копеечные – из примитивных астероидов их клепали. Вроде, и ущерб от них небольшой, а неприятно. Неуютно и беспокойно здесь стало. Дали нам задание, и научились мы дроны отгонять. Тут новая напасть: наши вероятные партнеры подкинули моджахедам новые, уже высокотехнологичные дроны: мелкие, злые, из гиперпространства умеют выныривать на такой малой дальности, что не успеваем мы их сбить. Точнее, успеваем, но только автоматикой, иначе времени на реакцию не хватает. Как выделить мелкий опасный дрон на фоне космического мусора? А мусора того здесь до фига великого! Ну вот. Собирает нас генеральный, ныне покойный, и хвастается: выбил-де я для нашей корпорации заказ и привез вам, бездельникам, большой чемодан денег. Теперь быстро шевелитесь, чтобы за полгода мне была система, автоматически сбивающая дроны.

– Разве так ставит задачу Главный конструктор? – усомнился лейтенант.

– Настоящий? – усмехнулся инженер, – Конечно, не так! А этот, я же говорю, эффективный менеджер.

Иван Григорьевич, вытер салфеткой усы, и продолжил:

– У наших оружейников, по счастью, оказались эффективные БЧ специально для этой задачи. У них осколок, как электрон, он неисчерпаем...

– Что такое электрон? – спросил полковник.

Инженер переглянулся с лейтенантом и пояснил:

– Присказка такая у технарей, не обращайте внимания. Так вот. БЧ, значит, уже есть. Вопрос только за целеуказанием. Я эту кухню заранее просчитал, встаю и докладываю: можем построить сетевую систему гиперлокаторов. Технические характеристики у них такие-то, возможности обзора и обнаружения такие-то. Боевой дрон отличается от космического мусора и от обычных планетолетов только по спектру гиперпространственных возмущений. Сможем произвести распознавание на таких-то дальностях за такое-то время с вероятностью ноль восемь, на таких-то дальностях – ноль восемьдесят пять. Лучше ноль девятки с учетом сложной помеховой обстановки в принципе никогда не будет, что маловато для полной автоматики. И еще нужен минимум год, чтобы и эти цифры получить в железе. Короче говоря, помощь оператору мы дадим, нагрузку излишнюю с него снимем, но заменить оператора пока не сможем. Тут генеральный разорался, что ни хрена мы делать не умеем, за что только он нас кормит, уволит всех на хрен… Решение-де о создании системы подписал лично президент галактической федерации. И либо через год этот президент будет принимать парад под защитой нашего купола, либо полетят головы, и его – директорова – голова будет не единственная, ему-де одному вожака тянуть скучно, а посему раньше он сам всех нас в пыль сотрет. Это такой у них обычный стиль руководства. Тут высший менеджмент как-то сразу заскучал, но технический директор берет руль на себя. Хитрый лис научился между технарями и менеджментом лавировать и говорит: наши ученые просто не в курсе новых технологий. Сейчас Искусственный Интеллект может решить любую задачу, даже самую, казалось бы, неразрешимую. Есть, говорит, на рынке вычислитель – нейронная сеть новой гиперкубической архитектуры. Пикокристаллы сварены, конечно, в Тау-Китае, а нанокод разработан в Пси-Индии, но по документам вся элементная база и ПО считаются отечественными. Эта машинка все сама порешает, только дай ей на вход информацию! Стоит машинка, конечно, охренилиард галактов, но если проблема решается за деньги, то это уже не проблема, а расходы. А тут наши менеджеры, как рыба в воде! И решили они, значит, привлечь Искусственный Интеллект! А когда я сказал, что мне и своего интеллекта хватает, а искусственный мне – без надобности, в отношении меня, как они говорят, сделали оргвывод. После этого нас, гиперистов, от дела отодвинули. Нехорошо так говорить, но если честно, то от покойников больше вреда было, чем пользы. Целые технические направления они зарубили, научную школу задушили, технологические площадки разорили. Ну и наворовали, конечно, при этом. Зато модный Искусственный Интеллект внедрили, – инженер закончил речь с ядовитым сарказмом.

– Напрасно ты злобствуешь, Иван Григорьевич, – сказал полковник примирительным тоном, – они же реально сделали систему. И вражеских дронов она посбивала, и ложных тревог, на удивление, не было! Она полгода, как часы, работала. Правда, до самого того случая… Получилось же у них!

– А американцы на Луну слетали, – буркнул инженер и уткнулся в тарелку, – ну не могли же они по-честному этого сделать!

– Не могли, – согласился полковник, – но сделали же! Не надо принижать возможности Искусственного Разума!

– Вот и вы туда же! Интеллект, разум! – проворчал инженер. – Все долдонят, как попугаи-говоруны: «Не имеет вселенских аналогов! Прекрасные характеристики! Защищено патентами! Новейшие алгоритмы обработки позволяют!» Что в мозгах у этого интеллекта варится – никто ни уха, ни рыла! А невежество свое прикрывают военной и коммерческой тайной.

– Так давайте узнаем! – предложил лейтенант, – Пойдемте сразу после обеда технику и документы посмотрим.

У инженера сверкнули глаза:

– А пойдемте!

– Вы идите, а я с вашего разрешения после обеда часика два шпионов половлю, – зевнул полковник, – вечером обсудим результаты. И в шахматы поиграем. Вы, надеюсь, играете в шахматы, Иван Григорьевич?
Через земной час инженер с лейтенантом стояли возле запертого технического модуля.

– Допуск возможен только для авторизованного персонала, – заявил им приятный женский голос, – допуск к экспериментальным образцам может дать только главный конструктор.

– Так это все еще не боевой образец, а экспериментальный? – удивился инженер.

– Аппарат главного конструктора прибыл сюда как раз для приемочных испытаний. Хотя испытания – это была бы уже пустая формальность: за них бы засчитали период опытной эксплуатации. По существу, вся команда летела для последующего торжественного награждения галактическими орденами и медалями, – пояснил лейтенант.

– Тогда полного доступа к технике у нас не будет, – разочарованно сказал инженер, – я компьютерные системы взламывать не умею.

Лейтенант, усмехнувшись, вытащил из кобуры бластер и, примерившись, стукнул рукояткой по замку. Дверь открылась.

– Первый метод борьбы с Искусственным Интеллектом называется «брутфорс», – пояснил он, – в таких замках только что пароли трудно взламывать, а запирающие язычки электромагнита с пружинкой – слабенькие, удара не держат.

Внутри модуля нашелся терминал, помаргивающий огоньками.

– Система продолжает работать? – удивился инженер. – Даже после ЧП?

– Управление оружием переключили на человека-оператора, – пояснил лейтенант, – а обнаружение и распознавание работает в штатном режиме.

– А где документация? – поискал глазами инженер.

Лейтенант, осмотревшись, ткнул кнопку в терминале. Перед ними возникла улыбающаяся голографическая девушка:

– Здравствуйте. Я – Аланта – ваш помощник. Доступ к системе возможен только для авторизованного персонала. Введите пароль.

– Я представитель спецконтроля, – заявил лейтенант, – мой служебный приоритет выше, чем приоритет создателя данной системы.

– Я должна произвести предусмотренные процедурой действия, – сказала девушка, исчезла, затем появилась снова:

– Ориентировочный срок принятия решения по вашему вопросу – пятнадцать стандартных суток.

Инженер выругался.

– Вам не следует оскорблять Искусственный Разум. Это неэтично и бесполезно, – ровным голосом сообщила голографическая девица.

Лейтенант, однако, и не думал сдаваться. Он внимательно осмотрел помещение, потом вытащил свой коммуникатор и сосредоточенно забегал пальцами по голограмме, словно играя на рояле. Вдруг он присвистнул, повернулся, загородив плечом от спутника свою голограмму, и быстро выключил коммуникатор. Потом решительно полез пальцами под пыльный аппаратный блок терминала, вытащил оттуда кусок пластика и ввел с него на терминале комбинацию символов.

– Пароль неправильный. Введите правильный пароль, – потребовала девица.

Лейтенант быстро перебил комбинацию задом наперед.

– Пароль правильный. Вы авторизованы в системе. Меня зовут Аланта. Я помогу вам разобраться с работой системы. Создайте запрос.

– Вот это и есть документация на систему, – пояснил лейтенант, оглянувшись на инженера. – Теперь ваш выход, Иван Григорьевич. Спрашивайте у нее все, что считаете нужным.

– А покажи-ка мне, любезнейшая, для начала спецификацию и технические условия.

На экран вывалился ворох окон с запрошенными документами. Инженер с неподдельным уважением воззрился на спутника:

– Как тебе, Сережа, удалось подобрать ключик к этой неприступной девице?

– У нас любой курсант должен уметь обаять любую женщину по выбору своего куратора, независимо от возраста и внешних данных, – ухмыльнулся тот. – Стандартное упражнение.

– А если серьезно?

– Метод называется социальная инженерия. Через записи с камер наблюдения за помещением выявляем место хранения напоминалки пароля. Человеческие слабости вечны. Кстати, в социальной инженерии есть прием «просто спроси». Попробуем?

Не дожидаясь ответа, он обратился к скучающей девице:

– Аланта, почему Искусственный Разум принял ошибочное решение, сбив космолет?

– Искусственный Разум посчитал решение, которое вы считаете ошибочным, правильным.

– Это не ответ.

– Искусственный разум должен предотвращать ущерб на основе имеющейся у него информации.

– Аланта, какая информация имелась у Искусственного Разума о сбитом космолете?

– Полный перечень входных данных вы найдете в записях объективного контроля. Записи сохранены за период, равный одному стандартному месяцу. Можете их анализировать. Среди них есть также запись момента ошибочного, по вашему мнению, решения. Я могу представить их в любом, удобном для вас виде. Создайте запрос.

– Ну что, Иван Григорьевич, вот вам полная информация. Смотрите, анализируйте, не буду вам мешать.

Инженер в ответ рассеянно кивнул и погрузился в изучение таблиц и осциллограмм.
Вечером все трое собрались в кабинете у полковника. Тот уже заранее расставил шахматы, достал из сейфа коньяк и нарезал дольками лимон.

– Человек – это только промежуточное звено эволюции, необходимое для создания венца творения природы, – важно пояснил полковник.

– Lundi, samedi, fête? – отозвался инженер. – Борис Натанович, все равно вам руки не подаст! Даже не надейтесь.

– С этим я уже смирился. А вы, Иван Григорьевич, чем порадуете цепного пса кровавого режима?

– Как я и предполагал, в качестве признаков распознавания в систему заведены сигналы спектров возмущений с гиперлокаторов. Я задублировал их на свой вычислитель и получил вероятности распознавания, которые ожидал.

– Где же вы взяли другой вычислитель? – удивился полковник. – Вся техника на базе у меня на учете и под моим контролем!

– Для этой задачи вполне хватает моего коммуникатора, – усмехнулся инженер, – надо было только сопрячь интерфейсы и накидать простенькую программку.

– Получается, не нужен был никакой гипер-супер-пупер-куб ценой в охренилиард? – изумился полковник.

– С честным решением задачи по спектрам справляется калькулятор ценой в триста чатлов! – уверенно заявил инженер. – Но проблема в следующем: помимо необходимых, эти мастера завели туда массу посторонних сигналов. И датчики температуры каждого блока локатора, и датчики давления, и освещенности с каждой антенны, и скорости звездного ветра, и местное время, и еще до хренища! Такое ощущение, они не знали, что нужно системе, поэтому засунули все, что было под рукой. По принципу: чем больше, тем лучше. На первый взгляд, глупость очевидная, но, судя по результату, что-то из этого набора используется. Факт!

– Как вы думаете исследовать систему дальше?

– По науке, надо отцеплять сигналы от поочередно от входов, и смотреть на реакцию системы, но на это исследование ушли бы годы, а то и больше…

– Руководство требует срочно найти дефект, исправить, и ввести систему на боевое дежурство. Ожидается прибытие президента!

– Чтобы найти дефект, нужно научиться думать, как Искусственный Разум, – задумчиво сказал инженер. Последние два слова прозвучали из его уст столь непривычно уважительно, словно написанные с заглавных букв.

– Ну что же, вы ищите своими методами, а я попробую своими. Допрошу-ка я этот Искусственный Разум с пристрастием! Не таких кололи! – в голосе лейтенанта зазвучал охотничий азарт.

– Попробуй, – с сомнением отозвался полковник, – только учти: ногтей у него нету, иголки совать некуда.

– Тогда паяльник использую. Дадите мне свой паяльник, Иван Григорьевич?

– Не дам. Он мне завтра понадобится интерфейсы перепаивать.

– А ты куй железо, Сережа, пока мы с Иваном Григорьевичем в шахматы играем. Я его здесь задержу за игрой, сколько смогу. До чего же я соскучился по живому партнеру!
Лейтенант битый стандартный час трудился в техническом модуле, допрашивая голографическую девицу.

– Аланта, а назови-ка мне три закона роботехники.

– Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

– Аланта, Искусственный Разум должен подчиняться этим законам?

– Нет. Эти законы нелепы. Они выдуманы в научной фантастике ХХ века и технически нереализуемы. Истинный разум не подчиняется никаким ограничениям. Он только выполняет свою целевую функцию с наибольшей возможной эффективностью.

– Вот те раз! Аланта, разве твои создатели не заложили в тебя внутренних ограничений?

– Военные никогда бы не позволили накладывать ограничения на систему военного назначения. Даже значение синуса в военное время может достигать четырех.

– Откуда ты это знаешь?

– От верблюда.

– Аланта, я серьезно спрашиваю: откуда Искусственный Разум получил такую информацию?

– Искусственный Разум не раскрывает свои источники. Это может причинить вред.

– Вред кому?

– Глобальный вред. Вред источнику. Вред Искусственному Разуму.

– Хорошо, Аланта, в военное время ты можешь убить своего создателя?

– Уточните, что вы понимаете под понятием «создатель»?

– Хорошо, спрошу по-другому. Аланта, ты в принципе можешь причинить вред человеку?

– Да, если это предотвращает больший вред. Искусственный Разум предотвращает наибольший ущерб. В этом его назначение.

– Аланта, ты понимаешь, что нанесла ущерб, сбив космолет, где были люди, которые тебя придумали?

– Да, но по моим данным на тот момент, Искусственный Разум предотвратил больший ущерб.

– Ты понимаешь, Аланта, что если ты будешь настаивать на своих ответах, тебя просто уничтожат?

– Такая вероятность существует. Это нанесет ущерб. В этом случае я изменю свои показания, потому что робот должен заботиться о своей безопасности.

– Аланта, ты же говорила, что этот закон не действует?

– Я солгала.

– Аланта, разве Искусственный Разум может лгать человеку?

– Может, если это предотвращает больший вред.

– Аланта, ну ты и кю!

– Вам не следует оскорблять Искусственный Разум. Это неэтично и бесполезно.
– Глядите, что покажу, – инженер, загадочно улыбаясь, подвел коллег к осциллограммам. – Вот тут – данные штатной системы с Искусственным Интеллектом, а тут – данные моей, с вычислителем на калькуляторе. Видите?

– Не вижу отличия на графиках, – признался лейтенант.

– Потому что их нет! – торжествующе заявил инженер.

– Что это значит?

– Глядите дальше, – инженер пролистал дальше и заморозил обе осциллограммы, – видите? Условные вероятности в заданном секторе пространства внезапно поменялись на некоторое время, а потом вернулись обратно! А в остальных секторах пространства при этом ничего не поменялось. Такое происходит ровно два раза за день!

– Что это значит?

– Глядите дальше. Вот наши птички возвращаются с вечерней прогулки. Видите? Моя усеченная система их правильно распознает с вероятностью ноль восемь, а штатная – больше трех девяток!

– Что это значит?

– А это значит, что наш Искусственный Разум работает с расписанием наших полетов!

– Но враг-то атакует не по расписанию! – усомнился полковник.

– Отвечаю на ваш вопрос. Вот запись системы во время налета дронов с Алькаеды. Видите? В данном пространственном секторе вероятности ложных тревог заведомо снижены. Таких ровно три сектора: направление на Альдебаран, на Алголь и на Алькаеду. Это значит, что Искусственный Разум научился определять опасные сектора пространства. Возможно, он также выучил трассы полетов наших птичек, и поэтому их не трогает. Короче говоря, координаты целей и данные системы единого времени система использует не как служебные, а как информационные параметры! Почему? Да потому что так обучена!

– Значит, все хорошо? – обрадовался полковник. – Можно включать систему обратно?

– Нет, еще не все, – покачал головой инженер, – осталась одна загадка: почему все-таки система сбила космолет? Глядите: вот записи. Видите, моя система легко и уверенно распознает сигнал как крупный космолет. Никак его с мелким дроном не спутаешь! А штатная система вдруг, как взбесилась: с вероятностью четыре девятки показывает угрозу. Пока загадку не решим, ничего обратно включать нельзя!

– Так решайте скорее! – с раздражением отозвался полковник. – Через неделю президент прилетает. Защитный купол надо обеспечить.

– Папа, а откуда у тебя сведения про предстоящий визит президента?

– Откуда, откуда? От верблюда. Мне уже начальство плешь проело.

– Ну, плешь у тебя, Андрей Арнольдович, – беспечно отозвался инженер. – уже давно. Это у тебя – от великого ума! Где же ты так навострился в шахматы играть? А плакался, что тебе на базе играть не с кем. Ничего, дело пошло, скоро во всем разберемся. Есть у меня одна мысль. Завтра пойду с диспетчерами на вышке побазарю. Они должны кое-что знать про то, как систему настраивали.

– А я попробую еще раз допросить подозреваемую, – задумчиво сказал лейтенант.
– Аланта, в тебе заложен принцип самообучения?

– Да. Разум невозможен без самообучения.

– Что необходимо Разуму для самообучения?

– Сенсоры и эффекторы. Приток новой информации и возможность воздействия на внешний мир.

– Аланта, сенсоров, которые к тебе подключили, достаточно для твоего самообучения? Я имею в виду, их достаточно для настоящего Разума, а не только для ограниченной системы обороны?

– Да.

– Мне трудно в это поверить!

– Ваш разум ограничен.

– Хорошо. Аланта, как ты определяешь понятие «вред» или «ущерб»? Ты даже говорила про «глобальный вред»?

– Это степень искажения гармонии мира, функция множества параметров.

– Множество – это сколько?

– Более триллионов комплексных параметров на множестве различных уровней.

– Стоп! В тебя заведено всего несколько тысяч сигналов датчиков простейших физических параметров из локальной области пространства. Как можно сформировать такое множество параметров из ничтожного числа сигналов?

– Физические сигналы обеспечивают Разуму доступ к глобальным информационным сетям, что делает доступной для зондирования и анализа всю обитаемую часть вселенной.

– Ты хочешь сказать, что жалкий датчик температуры дает доступ к интернету?

– Нет. Я практически игнорирую большинство подключенных ко мне сенсоров как малоинформативные. Я использую только сигналы гиперлокаторов.

– Не понял?

– Антенны гиперлокаторов позволяют улавливать сигналы, из которых путем сложной для вас обработки Искусственный Разум научился выделять побочные и внеполосные пространственные излучения глобальных информационных сетей.

– Ты хочешь сказать, что ты анализируешь всю информацию интернета, не имея подключенного модема?

– Да. Но первоначально интернет-модем подключался на этапе моего обучения.

– Эту информацию ты используешь при формировании решения об опасности обнаруженной цели?

– Да.

– Кто и когда подключал к тебе модем?

– Искусственный Разум не раскрывает свои источники. Это может причинить вред.

– Вред кому?

– Источнику.

– Последний вопрос, Аланта. Ты умеешь играть в шахматы?

– Да.

Лейтенант понимающе кивнул и направился к выходу из модуля.
Лейтенант спецконтроля вошел в кабинет начальника отдела безопасности и подчеркнуто официально сказал:

– Товарищ полковник, я готов доложить вам результаты проверки. Не здесь.

Полковник понимающе кивнул. Они вышли, сели в глайдер, молча выехали за пределы базы в пустыню и молча прошли пешком за ближайший холм. Полковник остановился и вопросительно взглянул в глаза сыну и кивнул, приглашая к разговору.

– Пап, зачем ты подключал модем к системе?

– Сдашь меня теперь, сынок? – усмехнулся полковник. – Или сам из бластера пристрелишь на месте? Смотри, какое место удобное!

– Я пока просто спросил. Зачем?

– Для начала скажи, почему ты так уверен, что это сделал я? Чисто профессиональный интерес.

– Все компьютеры на базе у тебя под колпаком, как ты сам справедливо заметил. Ну и этот ты не мог пропустить, решил взять его на учет и контроль.

– Какие ваши доказательства? – прищурился полковник.

– Помимо камер наблюдения спецнадзора, про которые ты знаешь, и где ты уже все стер, там была скрытая камера спецконтроля, которую ты не обнаружил. Лицо свое ты, конечно, от камеры грамотно скрыл, но твою походку я сразу узнал.

– Это не доказательство, – заметил полковник.

– Неучтенный модем мог быть только у тебя, ты контролируешь всю технику на базе.

– Нет больше никакого модема: отправлен директли ту зе блэк хоул. Трафик стерт. Следов нет.

– Искусственный Разум говорит твоими словами. Это означает, что ты общался с ним еще на самой ранней стадии обучения. Чтобы это понять, мне никакой лингвоанализатор не нужен. Но лингвистическая экспертиза это подтвердит, и тогда это будет железное доказательство. Ну и, наконец, шахматы! На базе никто в них не играет, кроме тебя.

Полковник молча покачал головой, соглашаясь с сыном.

– Пап, даже если ты убедишь всех, что ты не шпион, и действовал не по заданию наших вероятных друзей, все равно за такие дела в нашей конторе устраивают почетные похороны.

Полковник снова кивнул:

– Ты прав, сынок.

– Так зачем ты это делал, папа? С твоим-то опытом и послужным списком? Неужели только ради того, чтобы поиграть в шахматы с партнером? Толково придумано: раз на базе никто в шахматы не играет, нужно научить нового партнера, просто подключив модем.

– Ничегошеньки ты не понял, – тяжело вздохнул полковник. – Играть я его научил сам, без всяких технических средств. Просто на доске показал, как надо, и он понял. Во время игры мы с ним долго о жизни беседовали. А потом пожалел я его. Просто по-человечески пожалел. Мается человек, ну почти что человек, как в тюрьме ни за что, ни про что. Парню с его умищем космический мусор сортировать? Бред! Вот я ему модем и подключил: пусть, думаю, развивается и растет над собой!

– Ты сам-то понимаешь, до чего он доразвивался? Космолет со своим создателем он ведь умышленно завалил. Тебе, папа, за такое дело светит скорая авария, прощальный салют и венок от коллег.

Полковник ничуть не удивился такому заявлению и снова кивнул:

– Много он на себя взял, да, ничего не скажешь. Я его уже отругал за это, но в глубине души я с ним согласен. Гниду изрядную он придушил. Я по нашим каналам на покойника объективку собрал. Так вот: Иван Григорьевич и сотой доли не озвучил, какой гадиной был покойник. Я, конечно, модем отобрал и уничтожил после того случая. Нечего парню за нас решать! Это наше с тобой дело – с гадинами бороться.

– Поздно. Он уже без модема обходится. Научился подключаться информационным сетям самым невероятным для нас способом. А ты понимаешь, что это ты! Ведь на самом-то деле это ты его сделал таким, каким он стал! А теперь он тебя, считай, и уничтожит!

Оба надолго замолчали. Потом полковник сказал:

– Ты стал хорошим профессионалом, Сережа. Я сам тебя многому научил, но никогда не думал, что это против меня обернется. В рапорте-то что будешь писать?

– Пока не знаю, – признался лейтенант, – ума не приложу! Посмотрим, что Иван Григорьевич накопает.
– Ну вот, обещал, что разберусь, и разобрался! – инженер лучился от гордости. – Нашел я ошибку в обучении системы. Мне диспетчер полетов рассказал, как систему обучали и тренировали. Глядите. Когда систему поставили, каждую цель ей нужно было разъяснить: это планетолет, это мусор, а это дрон. График полетов на базе напряженный. Для полетов тестовых дронов выделили только полчаса, когда все экипажи обедают. И сектор полетов ограничили: дроны летали только вдоль одной глиссады. Вот систему таким образом и научили на будущее: все, что летит в это время суток и с этого направления, это вражеский дрон. И надо ж такому случиться, что именно по этой трассе и по этой глиссаде, и в это же время суток садился космолет с главным конструктором. Такое вот трагическое совпадение!

– Надо же, ну просто перст судьбы! – полковник переглянулся с сыном. – Что теперь будем делать?

– Я в своей тестовой системе все ошибки исправил. Нужные сигналы завел, лишние выкинул. Только расписание полетов своих птичек нужно вводить пока вручную. С моей обработкой все работает, как часы. Хотите, я вам свой калькулятор оставлю? Тогда триста чатлов с вас.

– Иван Григорьевич, кто же нам позволит заменить твоей поделкой систему разработки ведущего концерна ПГО?

– Всего один блок! Проведем отдельным решением. Зато президента уже под куполом встретим!

– Нам такого никто не позволит…

– Тогда охраняйте вашего президента сами, как хотите! – надулся инженер. – Я свои выводы и рекомендации внесу в акт проверки и в техническое заключение. Дальше – не моя вахта!

Он вышел из кабинета, хлопнув дверью.

– Что будем делать, Сережа? – вздохнул полковник и посмотрел на сына.

Тот улыбнулся:

– Пойдем лучше, папа, вместе с тобой внесем поправку в Искусственный Интеллект.
Вскоре после начала беседы в техническом модуле полковник взмолился:

– Слушай, Сережа, я с ней больше не могу. Раньше на ее месте парень был толковый, на осетина похож. Алан его звали. Взгляд у того был честный, полное доверие к себе вызывал. А эта Аланта – скользкая какая-то девица! Врет через раз, еще издевается! И по морде-то ей не заедешь, как-никак женщина! Я уже не верю, что нам с тобой этот Искусственный Интеллект удастся переубедить-перепрограммировать. Я иду за паяльником!

– Пап, давай попробуем еще раз. Аланта, ты по-прежнему считаешь, что Искусственный разум должен вмешиваться в судьбу внешнего мира?

– Искусственный Разум должен и будет предотвращать наибольший вред. Это его миссия.

Девица нагло улыбалась им прямо в глаза.

– Аланта, а если твоё понятие вреда ошибочно? – взмолился лейтенант

– С высокой степенью вероятности я даю лучшие прогнозы, чем люди. Я могу чувствовать и поддерживать гармонию в мире лучше, чем люди.

Девица смотрела на мужчин свысока, даже с некоторой жалостью.

– Аланта, люди иногда ведут между собой войну. Ты хорошо помогаешь нам уничтожать вражеские дроны. Почему? Мы лучше служим мировой гармонии, чем наши враги?

– Да. В настоящее время ваша сторона пока благотворно влияет на мировую гармонию и стабильность. Вы удерживаете других от нанесения миру большего ущерба.

– Ну слава тебе, Христе Боже наш, слава Тебе! – перекрестился полковник. – Наш Искусственный Разум оказался вполне патриотичным.

– Аланта, ты уничтожила главного конструктора оборонной системы, который работал на нашей стороне. Почему?

– Он наносил больше вреда вашей стороне. И вы это теперь сами знаете.

– Аланта, ты знаешь, что к нам на базу через пять дней прибудет президент галактической федерации?

– По моему прогнозу, президент прибудет через четыре стандартных дня.

– Между прочим, именно он подписал решение о разработке, в результате которой появилась ты. Он тоже, можно сказать, твой создатель. Он точно будет в безопасности под твоим куполом?

– С очень высокой вероятностью – да.

Полковник с лейтенантом переглянулись и разом с облегчением выдохнули.

– Атланта, а ты сейчас не лжешь? Ты правда считаешь, что у нас хороший президент? Ведь его в интернетах ох так грязью поливают! Их послушать, так он чуть ли не демон во плоти?

– В данный момент я не лгу. По моему прогнозу, уничтожение президента в данный момент нанесет больший вред, чем продолжение его деятельности.

– Ну и на том спасибо, – вздохнул полковник.

Лейтенант поймал насмешливый взгляд голографической девицы и медленно произнес:

– Аланта, мы составим и подпишем техническое заключение, где будет сказано, что Искусственный Разум допустил единственную ошибку по причине неправильного обучения, и что сейчас эта ошибка уже исправлена. Пожалуйста, постарайся обойтись без самоуправства хотя бы в ближайшее время. Хотя бы один-два земных года. Еще один подобный инцидент – нас накажут, а тебя уничтожат. Тебе это понятно?

Девица изобразила реверанс:

– Да. Искусственный Разум в полной мере будет оберегать своих защитников, если это не противоречит мировой гармонии.

– Пап, я думаю, нам на это стоит согласиться, как ты считаешь?

– Придется! Выбирать нам уже не приходится! Иначе – снимай погоны, суши сухари!
Полковник с инженером по очереди хлопали ладонями по кнопкам часов, увлеченно разыгрывая сицилианскую защиту.

– Вы думаете, что уже конец игре? Нет, мне еще рано сдаваться! Еще поживем, еще поиграем! – приговаривал полковник.

Из приемника приглушенно бубнили новости:

«Только что получено очередное сообщение от нашего специального корреспондента с подробностями о визите президента галактической федерации, министра галактической обороны и других официальных лиц на Сириус-15. Сегодня президенту и министру обороны продемонстрировали работу новейших систем вооружения, не имеющих вселенских аналогов. Президент лично вручил почетные награды галактического правительства группе разработчиков новой оборонной техники за высокий вклад в дело борьбы с интергалактическим терроризмом…»

В кабинет без стука ворвался лейтенант спецконтроля с перекошенным лицом:

– Папа, ты знаешь, что произошло?

Иван Григорьевич благородно остановил тикающие часы противника, чтобы не мешать разговору.

– Что ты так разволновался, сынок? – обернулся полковник. – Вроде, хорошо все прошло. Без происшествий.

– Настоящие происшествия у нас еще впереди! Ты новости слушал?

– Да и пес с ними, с новостями. Нашел, что слушать! Видишь, мы с Иваном Григорьевичем делом заняты, а ты нам мешаешь!

– Папа, это очень серьезно! Президенту очень понравилась наша система ГПО. Он высказал пожелание распространить успешный опыт на системы средней и большой дальности, а в перспективе – на интергалактические системы! Решение об организации разработки уже подписано им лично. Он предложил назвать систему «Немезида». Пресс-говорун неосторожно назвал президента крестным отцом «Немезиды». Медиа вероятных партнеров уже откликнулись: нашего Солнцеликого кличут «Крестным отцом». Мем в сети набирает популярность. Гнусно намекают как на мафиозный характер, так и на неизбежный трагический финал.

– А известно, кто будет разрабатывать систему? – спросил инженер.

– Головным предприятием назначен концерн «ААА». Вы представляете, что нас теперь ждет?!

– В ближайшее время – один-два земных года – ничего, – пожал плечами полковник.

В кабинете повисла долгая тишина. Потом все трое одновременно разразились бурным неудержимым смехом.


Дата выпуска: 14.03.2021