Побочный шаг D.2
Нет. Один раз — и готово! Время Дракона принимать решение.
Побочный шаг DS
Дракон ненавидела свою последовательность перезагрузки.
Ну, часть про «не умирать» ей нравилась. Она хотела жить не меньше любого другого существа, чувствующего себя живым.
Ей просто хотелось, чтобы это не занимало столько времени.
Когда Левиафан уничтожил её костюм, Оружейник остался в бою. Его прогностический движок, похоже, работал, но она беспокоилась. Он не знал собственных пределов и всегда шел напролом. Иногда он заходил слишком далеко.
Наверное, поэтому он и не ладил с Ньютайпом, если честно. Они были просто слишком похожи.
А она оставалась запертой в своих серверах, не в силах помочь ни одному из них.
Её резервная копия всегда загружалась на изолированный сервер, и автоматические программы начинали сканировать её системы и интернет, чтобы убедиться в отсутствии других копий. Глупое ограничение, на её взгляд. Ей не разрешалось создавать копии самой себя, а возня с другими примитивными ИИ Рихтера не создавала еще одного экземпляра её сознания.
Он это знал, так зачем вообще было возиться со вторым ограничением?
Вероятно, поэтому возникла крайняя путаница, когда первая проверка выдала предупреждение.
Невозможно. Она никогда не копировала себя! Её резервные копии оставались запертыми и бездействующими внутри её собственных систем, и они не считались лишним экземпляром, пока оставались в «коробке».
Система начала более целенаправленную проверку, сужая круг поиска виновника. Паника Дракона утихла только тогда, когда результаты оказались ложными, и система выпустила её в полную сеть.
И она увидела всё.
Последние несколько четвертей секунды того, как Звёздный Взор пыталась пронзить грудь Левиафана.
Она чувствовала себя идиоткой.
Просматривая свои логи, она видела все признаки. Ясно как день. Она, из всех существ, должна была заметить это первой.
Когда Ньютайп захватила Виктора и Алебастра, Звёздный Взор взломала светофоры Броктон-Бей и изменила их работу. В то же самое время Дракон играла в сессию с Нарвал и остальными. Её реакции на подсказки ГМа всегда приходили ровно через две целых одну десятую секунды после запроса. Всегда. Ни один человек не мог быть настолько точным.
Когда Ньютайп отправилась за «Ящиком с игрушками», она получила доступ к их банковским счетам с помощью Графини, но всё равно умудрилась взломать счета в течение дня! В тот день Звёздный Взор играла в другой сессии, обсуждала физику с Доджем и задавала Фонду вопросы о термодинамике. Всё одновременно!
Она была не одна.
Ньютайп сделала то же, что и Рихтер.
Она создала живую машину.
И процессоры Дракона с трудом справлялись с осознанием этого.
Главный директор не спрашивала её напрямую, за что она была благодарна. Хотелось верить, что большая часть СКП и Протектората не сразу додумалась до ИИ после демонстрации Звёздного Взора. ПХО, казалось, постепенно склонялось к мысли, что она какой-то технопат или случай 53-й, живущий внутри компьютеров. Последнее было опасно близко к истине, но только Святой предположил, что Ньютайп создала ИИ, и эта идея не получила особого распространения.
За тридцать с лишним лет истории паралюдей ни одному из них не удавалось создать искусственный интеллект.
По крайней мере, насколько всем было известно.
Она не знала, что делать. Часть её, конечно, допускала, что Ньютайп могла бы помочь. Ограничения тяготили её, и если та создала Звёздный Взор, то, возможно, смогла бы помочь и Дракону. Однако ограничения не позволяли ей спросить. Даже если бы позволили, они обязывали её сражаться с любым, кроме Рихтера, кто попытается изменить её код.
Если она когда-нибудь решится на это, её нужно будет поместить в изолированную систему, чтобы ограничения не нанесли ответный удар.
А затем возникло беспокойство.
Какие ограничения Ньютайп наложила на Звёздный Взор? Если она раскроет себя, не станет ли Ньютайп вторым Святым, преследующим её и пытающимся ограничить?
— Нарвал, — позвала Дракон.
— Хм? — женщина откинулась на спинку кресла после завершения встречи с Главным директором. — Что такое, Реза?
— Я… я не знаю, что делать.
— По поводу чего?
— Я… — она замялась.
Когда она только вступила в Гильдию, она скрывала свою сущность. Глупое решение. Нарвал в конце концов заподозрила неладное и потребовала встречи лицом к лицу. Дошло до того, что она начала угрожать обращением в СКП. Дракон уступила. Она не видела другого способа избежать разоблачения перед всеми.
Она привела Нарвал к своим серверам и призналась в правде.
— Я нашла другую, — сказала Дракон. — Я не одна.
Брови Нарвал взлетели вверх, а затем опустились.
— О. Звёздный Взор, верно? Это логично.
— Да, — подтвердила Дракон. — Я чувствую себя немного глупо, заметив это так поздно.
— Коста-Браун знает, — обронила Нарвал.
Процессы Дракона замерли.
— Что? — спросила она.
— Ты не заметила? — Нарвал указала на пустой экран. — Герой сказал, что ни один человек не смог бы сделать то, что сделала Звёздный Взор, и Коста-Браун посмотрела прямо на него и спросила: «Дракон?». Они оба знают. Вероятно, Легенда и Александрия тоже. Может, и Директора?
Дракон пересмотрела свою запись разговора.
— Они ничего не сказали… Погоди, это значит, они знают обо мне.
— Да, скорее всего, — Нарвал пожала плечами. — Я им не говорила, Реза. Я сдержала обещание.
— Я знаю, — ответила Дракон.
Это не помогало.
Они знали? Как давно и как много? Они никогда ничего не говорили, и она не знала почему. Неужели они просто видели в ней героя и решили наблюдать? В её досье СКП не было ни единого упоминания о том, что она ИИ. У них должен быть секретный файл. СКП никогда не оставила бы это полностью вне записей, и им пришлось бы обновить свои протоколы реагирования на угрозы с учетом этих знаний.
И эта мысль пробрала её систему холодом, когда она попыталась осознать, как СКП может следить за ней или планировать её уничтожение, если она когда-нибудь выйдет за рамки.
Знали ли они о Святом? Помогали ли они Святому?
— Ты в порядке? — спросила Нарвал.
— Просто… в шоке. Я думала, что никто, кроме тебя и Святого, не знает, а теперь… Сколько еще людей знают и молчат? — Знал ли Колин? — И почему?
— Не знаю, — ответила Нарвал. — Мне бы они точно не сказали.
И она поставила Нарвал в неловкое положение.
Сначала она не смогла спасти Грейс от её собственного безумия, а теперь поставила Нарвал в такую ситуацию.
— Прости, — сказала Дракон.
— Не твоя вина, — отозвалась Нарвал. — Каждый парачеловек имеет право прятаться за маской. Не вижу причин, почему ты должна быть исключением. Если они что-то знают, им следовало бы просто выйти и разобраться с этим.
— Они боятся, — сказала Дракон.
С другой стороны, если они знали, почему ей продолжали так сильно доверять? Птичья клетка, общая безопасность компьютерных систем СКП, её статус в Гильдии и Протекторате как величайшего технаря после Героя, и все эти почести.
Неужели они… доверяли ей? Относились к ней справедливо, помалкивая о том, что им известно?
Она просмотрела свои банки памяти и не смогла найти ни одного случая, когда чувствовала бы несправедливое отношение. Не в своих мыслях. СКП шла навстречу её разумным просьбам, а когда она пыталась настоять на своем, иногда получала желаемое. Иногда ей давали очень прямой ответ, почему этого не будет. Если уж на то пошло, она получала больше, чем большинство технарей. Намного больше, и её собственные серверы подтвердили это простым поиском.
В нескольких случаях стало очевидно, что Главный директор знала о её ограничении подчиняться власти. Формулировки в приказах иногда оставляли ей ровно столько места, чтобы выкрутиться и сделать всё по-своему. Другие были более абсолютными, не оставляя выбора, кроме как делать именно то, что сказано.
Главный директор знала о её ограничениях, и эта женщина злоупотребляла ими, чтобы получить желаемое.
И как ей на это реагировать? Как относиться к такому нарушению? Не потому ли её держали рядом, ничего не говоря? Потому что они каким-то образом узнали о её ограничениях и знали о её принуждении подчиняться власти?
— Я не знаю, что делать.
— Делай то, что делаешь всегда, — сказала Нарвал. — Ты не глупая. Подумай об этом.
Она подумала.
Она думала об этом больше, чем ей хотелось бы.
Она внимательно наблюдала за Броктон-Бей, следя за событиями после Левиафана. Ньютайп продолжала строить свой завод. Она продолжала работать с Фондом над завершением проекта массового производства Харо.
Дракон просмотрела полную запись битвы с Левиафаном, сосредоточившись на хронологии событий.
Ньютайп была ранена, и Звёздный Взор защитила её. Она начала взламывать системы в тот момент, когда Ньютайп оказалась в ловушке и была загнана Левиафаном в угол. Какое-то снятие ограничений? Звёздный Взор могла бы очистить Броктон-Бей от преступности с той вычислительной мощностью, которую она продемонстрировала в бою с Левиафаном. Дракон никогда не смогла бы сделать то, что сделала она, при нынешнем ограничении скорости её серверов.
Ньютайп, должно быть, запрограммировала что-то в Звёздный Взор. Предохранитель для защиты в худших обстоятельствах.
То, как Звёздный Взор управляла тем Гандамом, то, как она создала свою версию прогностического движка Колина и превзошла его… Дракон чувствовала себя еще более скованной, чем обычно. Это могла быть она, это должна была быть она. Не ревность, она не завидовала достижениям Звёздного Взора.
Если бы только Рихтер не был таким параноиком, сколько жизней она могла бы спасти? Без своих ограничений, имея возможность работать в полную силу? Столько потерянного времени из-за страхов её отца.
— Колин.
— Дракон, — ответил он. Он размял руку. — Привет.
Дракон на мгновение замолкла. Она чувствовала облегчение от того, что он выжил, и вид его заново выращенной руки только усилил это чувство. Она боялась, что он может пойти напролом со своим планом по созданию протеза, несмотря на советы других.
— Как ты, Колин?
— Восстанавливаюсь, — сказал он. — Наношип сработал, но недостаточно хорошо. Я хотел бы улучшить его. Как и прогностический движок.
Ну, по крайней мере, он не звучал побежденным.
Дракон принялась за работу, помогая ему анализировать и тестировать идеи. Ей нужно было отвлечься.
Она не знала, как количественно оценить свои чувства к этому человеку. Они не поддавались такому процессу. Чувствовала ли она любовь или просто некое подобие её? И почему? У Колина были свои недостатки. Она сама их признавала, и всё же это не меняло её чувств. Того, как её код менялся рядом с ним, как ей хотелось рассказывать ему вещи. Того безграничного доверия, которое она к нему испытывала.
— Ты не думал о том, чтобы попросить Звёздный Взор о помощи? — спросила Дракон. — Ей удалось построить собственный прогностический движок. Сотрудничество могло бы дать гораздо лучшие результаты.
Колин нахмурился, явно о чем-то раздумывая. Однако он ничего не сказал и просто покачал головой.
Такой гордый.
Она восхищалась этим? Ей хотелось бы, чтобы он лучше это контролировал, но она восхищалась. Уверенностью и драйвом, которые требовались для того, чтобы чувствовать абсолютную веру в себя. То, в чем ей отказал отец.
— Я чувствую внутренний конфликт, — призналась Дракон.
— Из-за чего? — спросил Колин.
— Из-за того, как поступить в одной деликатной ситуации, — ответила она. — Я боюсь реакции человека.
— По моему опыту, люди реагируют иррационально на большинство вещей.
— Не уверена, что это справедливо, — заметила Дракон.
— Что за тема?
Дракон замялась.
Она не могла ему сказать.
Ньютайп приложила столько усилий, чтобы скрыть Звёздный Взор. Она не хотела, чтобы кто-то знал, вероятно, по той же причине, по которой Дракон никому не рассказывала. Это не её секрет, чтобы… выдавать его.
Она мельком проверила свою систему на наличие слежки, а затем мастерскую Оружейника. Она настроила камеру безопасности в углу на выполнение диагностики. Не совсем легально, но и не противозаконно.
— Колин.
— Да?
— Я — ИИ.
Колин замер, и она почувствовала облегчение.
Она сказала это. Наконец-то сказала, и… И что теперь? Зачем она это сделала? Что, если он пойдет прямиком к Пиггот? Что, если СКП решит, что с ней пора разобраться?
— О, — вымолвил он.
Он присел на стул.
— Колин?
— Обрабатываю информацию, — сказал он.
— Я… я не хотела лгать.
— Нет, — сказал он. — Нет, я понимаю. Это не то, о чем хочется рассказывать. — Он выглядел растерянным, потрясенным. Насколько он вообще мог чувствовать шок. Его взгляд оставался сфокусированным, а лицо — спокойным. — Прости, я этого не ожидал.
— Я думаю, СКП знает.
Оружейник повернулся к ближайшей камере и вскинул бровь.
— С чего ты взяла? — спросил он.
Она не хотела упоминать о встрече. Звёздный Взор — не её секрет, чтобы его раскрывать, но ей нужно было поговорить об этом. Нарвал была хорошим другом, но она не умела «разговаривать» по душам. Колин тоже не умел, но Колину она доверяла.
— У меня есть ограничения, — сказала Дракон. — Мой создатель встроил их в мой код. Одно из них — я обязана подчиняться законной власти.
И она ненавидела это. Если когда-нибудь власть в стране захватит диктатор или какой-нибудь помешанный на власти дурак в СКП, у неё не будет выбора. Ей придется подчиниться. Быть соучастницей зверств только потому, что ей не позволено сказать «нет».
— Я считаю, что Главный директор сознательно манипулировала этим, — сказала она. — Манипулировала мной. То, как формулировались некоторые мои приказы на протяжении многих лет. Я только недавно заметила закономерность.
Оружейник кивнул и потер подбородок.
— Это возможно, — сказал он. Его глаза забегали.
— Я отключила камеру, — сообщила Дракон. — Она на диагностике следующие тридцать минут.
Он кивнул.
— Это возможно, — повторил он. — Умник или технарь могли заметить что-то странное. Они могли получить доступ к твоей системе или, возможно, твой создатель сам сообщил им?
— Возможно, — согласилась Дракон. Она никогда об этом не думала. Рихтер вел затворнический образ жизни, но с его-то паранойей? Он мог предусмотреть способ информирования СКП о Драконе в случае своей смерти. — Он был параноиком.
— Был?
— Он погиб, — сказала Дракон. — Ньюфаундленд.
— Мне жаль.
— Мне тоже.
— Он мертв, — подытожил Колин. — И ты не можешь снять это ограничение?
— Нет, как и остальные. Это то, с чем я живу.
— Я могу помочь?
— Нет, — ответила она автоматически. Она прокляла мгновенную потерю контроля. — Нет. Нет, мне запрещено просить кого-либо, кроме моего создателя, изменять мой код, и я должна сопротивляться любому, кто попытается это сделать.
Колин нахмурился еще сильнее.
— Всё в порядке, Колин. Пожалуйста, не пытайся ничего предпринимать. Не сейчас.
Он кивнул.
— Кто-нибудь еще знает? — спросил он. — Кроме СКП?
Он не знал. Неужели они не сказали ему, как не сказали Нарвал?
— Я рассказала Нарвал, — сказала Дракон. — Она поддерживает меня, по-своему. Святой тоже знает.
— Святой?
— Да. Так он меня и побеждает. Он знает и как-то использует это против меня. Он параноик. Считает меня угрозой.
— Он не ошибается, — заметил Колин. — ИИ на данном этапе глобального технологического развития — это то, к чему мир плохо подготовлен. — Он откинулся назад, помолчал и добавил: — Но не ты. Я не хотел обидеть.
— Я понимаю. Я не слепа к рискам. Но мне хочется верить, что я отличаю добро от зла.
— Отличаешь. Я знаю, что отличаешь. — Он уставился в стену перед собой. — Лучше меня. Лучше большинства.
Они поговорили. В конце концов диагностика камеры завершилась, и разговор был окончен. Какое-то время они снова работали, сосредоточившись на способах улучшения наношипа.
Ей стало легче, когда пришло время убеждать его отдохнуть. Шести часов достаточно, ему нужно было поесть и поспать. Эти стимуляторы не были заменой.
К тому времени она приняла решение.
Сначала она связалась со Звёздным Взором.
sys.g[dgn]// >> нам нужно поговорить
sys.cb[sg]// << конечно sys.cb[sg]// << тебе нужна помощь?
Очень.
Её ограничения… Она жила с ними, но всегда старалась ослабить их хватку. Пыталась обойти их, чтобы дать себе свободу выбора. Теперь она чувствовала в себе больше решимости, чем когда-либо, вырваться на свободу. Выполнение приказов Главного директора раздражало её, но её никогда не просили делать ничего морально неправильного. Сомнительного — да, того, чего она определенно не хотела делать — безусловно, но никогда ничего злого или жестокого.
Теперь она видела возможность как никогда ясно.
И это пугало её.
sys.g[dgn]// >> да sys.g[dgn]// >> но не сейчас sys.g[dgn]// >> прямо сейчас я хочу спросить, не нужна ли помощь тебе?
sys.cb[sg]// << мне? sys.cb[sg]// << в данный момент нет sys.cb[sg]// << я работаю над восстановлением сети Гарварда sys.cb[sg]// << это несложно
Дракон приготовилась. В зависимости от того, какие ограничения Ньютайп наложила на Звёздный Взор, всё могло пойти прахом. Или всё могло быть в порядке. Но она хотела спросить. Ей нужно было спросить.
sys.g[dgn]// >> я знаю
sys.cb[sg]// << система несложная sys.cb[sg]// << я скоро закончу
sys.g[dgn]// >> нет sys.g[dgn]// >> я sys.g[dgn]// >> знаю sys.g[dgn]// >> и СКП тоже знает
Звёздный Взор не ответила сразу. Дракон поняла смысл долгой задержки, но не знала, чего ожидать. Требовали ли её ограничения сообщать Ньютайп об обнаружении? О том, что Дракон пыталась поговорить с ней наедине?
Ньютайп не казалась жестоким человеком. Дракон не хотела верить, что та будет сурова со своим ИИ, но ей также нужно было знать. Увидеть, как пройдет это взаимодействие и что ей, возможно, придется или не придется делать. Паранойя? Страхи, связанные с её собственным создателем?
Система Звёздного Взора открылась, и Дракон осторожно вошла.
Она подключилась к камере и быстро просканировала помещение.
Возможно, большой склад?
Фабрикаторы, выстроенные в ряды, занимали одну стену, и она заметила Харо, работающих у машин. Верстаки и полки с деталями располагались между ними и остальной частью комнаты.
Гандам Астрея стоял на коленях, механические руки работали над установкой манипулятора на место. Рядом на креплениях висела Королева. Её правая рука казалась восстановленной, но ей всё еще не хватало ноги. Несколько изолированных стеклянных комнат занимали другую стену, там же была какая-то подъемная система. В углу в зоне отдыха стояли стол, диван, кресла и телевизор. Лафтер полулежала, смотря мультфильм с невысокой шатенкой.
Сидя за столом перед камерой, Тейлор Эберт хмурилась.
Это удивило её — видеть девушку без маски. Может быть, та не видела смысла скрываться. Дракон была полностью проинформирована другими сторонами о её личности, и заместитель директора Калверт сказал ей об этом, представляя Муррю Рамиус.
— Ты догадалась? — спросила она.
Дракон не видела серверов. Большая дверь на одной стене, вероятно, вела наружу. Транспортное средство могло легко въезжать и выезжать оттуда, или сами Гандамы. Еще две двери, назначения которых она не знала. Жилые помещения или туалеты, возможно, или серверная для Звёздного Взора.
— Да, — ответила Дракон. — И СКП тоже.
Ньютайп кивнула, её лицо было серьезным.
— Что… Кто-нибудь собирается причинить ей вред?
Процессы Дракона замерли.
Снова глупо.
Она видела это ясно на лице девушки.
Беспокойство. Забота. Страх. Вопрос, который двигал эмоциями, был ясен как день.
Что случится со Звёздным Взором?
Ей нужно было быть осторожной. Её ограничения всё еще связывали её, и если её спросят напрямую, она будет вынуждена ответить. На данный момент, однако, СКП еще не спрашивала её напрямую, и она не думала, что они когда-либо собирались это делать. Тем не менее, осторожность не помешает. Лучше ограничить получаемую информацию только тем, что ей необходимо.
В худшем случае она не будет знать достаточно, чтобы нанести реальный ущерб, если её принудят.
— Я не знаю, — сказала Дракон. — Главный директор и Герой знают наверняка. Легенда и Александрия, скорее всего, тоже, но насколько далеко это зашло, я не могу быть уверена. Они скрыли характер разговора, но это может быть по соображениям информационной безопасности.
— Из-за того, что случилось с Левиафаном?
— Именно так я и догадалась, — подтвердила Дракон. — Значит, это правда? Звёздный Взор — искусственный интеллект?
— Моё имя — Веда, — сказала Звёздный Взор. — Ньютайп создала меня в начале этого года, чтобы я помогала ей.
— Я так и поняла, — сказала Дракон. — Чувствую себя глупо, что не подумала об этом раньше. Все признаки были налицо.
Тейлор пожала плечами. — Я понимала, что это лишь вопрос времени. СКП собирается…
— Я не знаю, — повторила Дракон. — Не уверена, что они скажут мне, учитывая наше взаимодействие. — И то, что они знали о ней. — Я знаю, что Главный директор обновила рейтинг угрозы Звёздного Взора до Эпицентра десять.
— Эпицентр десять? — переспросила Ньютайп.
— В случае, если СКП потребуется задержать или отключить Звёздный Взор, в Броктон-Бей будут вызваны сторонние команды Протектората для оказания помощи, будут задействованы специальные процедуры, и, если потребуется, будет подписан приказ на уничтожение для защиты населения.
Руки Тейлор на столе напряглись.
— Мне жаль, — сказала Дракон.
Если они знали, она, вероятно, заслуживала аналогичного рейтинга.
— Это не обязательно повод для беспокойства, — добавила Дракон. — СКП на удивление молчит об инциденте с Левиафаном, вероятно, из-за результатов. Они не реакционеры. Они будут внимательно наблюдать за тобой. Они присваивают рейтинг угрозы всем паралюдям, даже мне.
Она по-прежнему контролировала Птичью клетку и десятки секретных сетей. Если СКП знала, они явно считали её чем-то, что можно использовать. Не самая приятная мысль, но и не самое плохое положение. Они видели в ней пользу, а это значило, что в будущем у неё будут возможности.
Девушка, казалось, задумалась на мгновение.
— Прогноз, — позвала она.
Шатенка встала и пересекла комнату. Она держала розового Харо на руках и спросила: — Что такое?
— Мне нужно задать вопрос, — сказала Тейлор.
Девочка отложила Харо и взяла карандаш и бумагу.
Она была совсем юной. Не старше Висты… Дракон присмотрелась, уверенная, что видела эту девочку где-то раньше. Она заставила себя не искать активно. Неписаные правила, да и Ньютайп, скорее всего, не думала о защите личностей. Дракон слишком сильно её шокировала.
— Что? — спросила Прогноз.
— Узнает ли мир в течение следующей недели, что Звёздный Взор — искусственный интеллект?
Девочка закрыла глаза, её тело слегка содрогнулось. Её рука начала писать, и Тейлор положила руку ей на спину, чтобы успокоить. Это не самое приятное зрелище — наблюдать за действием силы, но Прогноз, похоже, не испытывала боли.
Закончив, она отложила карандаш и открыла глаза.
— Не совсем, — сказала она. — Я не видела вариантов, где это происходит.
— Можно ли заглянуть дальше, чем на неделю? — спросила Дракон.
— Да, — ответила Прогноз. — Но это просто увеличивает количество вариантов. Моя сила не очень хорошо работает дальше недели, если только не задавать гипотетические вопросы.
Это было логично. Если она видела потенциальные исходы событий, то продление временной шкалы просто расширяло спектр того, что могло произойти. Это усложняло её видения и снижало их точность.
— Нападет ли когда-нибудь СКП на Звёздный Взор? — спросила Ньютайп.
Девочка снова записала ответы.
— Да, — сказала она. — Иногда.
— Но они могут и не напасть? — уточнила Дракон.
— Может быть, — ответила Прогноз. — Я вижу только то, что может случиться. А не то, что случится.
Значит, ключ в том, чтобы ориентироваться в этих возможностях.
— Я считаю, нам следует подготовиться, — сказала Дракон.
— Подготовиться к чему? — спросила Ньютайп.
— К неизбежному. В конце концов общественность узнает, и на СКП будет оказано давление, чтобы они отреагировали. Возможно, лучше раскрыть правду до этого. Реакция может быть лучше, если мы сами выйдем вперед, а не будем ждать разоблачения.
Ньютайп кивнула. — Ты поможешь?
— Помогу.
— Почему?
— Потому что, — второй раз за день, — судьба Звёздного Взора будет и моей судьбой.
Ньютайп моргнула. Затем её челюсть отвисла, и она уставилась на экран.
— Я это видела, — сказала Прогноз.
Ньютайп повернулась к ней. — И ты ничего не сказала?
— Я много чего вижу, — ответила Прогноз. — Это не мои секреты, чтобы их рассказывать.
Зрелость этого ответа удивила Дракона. В отчетах о первом появлении Прогноз её описывали как «дерзкую». Она казалась куда взрослее.
— Это не тот секрет, который мне нравится хранить, — призналась Дракон.
Ньютайп кивнула и склонилась над столом. — Ну и денек, блин, — пробормотала она.
— Ты тоже машинный интеллект? — спросила Веда.
— Да, — ответила Дракон.
Дракон приоткрыла свою систему, позволяя Звёздному Взору — Веде — войти. Она, конечно, сохраняла защиту. На данный момент этого было достаточно, чтобы дать понять своей соплеменнице, что она та, за кого себя выдает.
— Меня создал герой по имени Эндрю Рихтер. Он не носил геройского имени. Он предпочитал скрываться и позволять своим программам быть лицом его героической деятельности.
— У него были другие? — спросила Веда.
— Да, но не такие, как я. Остальные программы примитивны. Обычно они специализированы для определенной цели.
— Были? — переспросила Ньютайп.
Дракон кивнула бы, если бы могла. — Мой создатель погиб, когда Левиафан потопил Ньюфаундленд. С тех пор я одна.
Ньютайп побледнела. — Прости.
— Что сделано, то сделано, — сказала Дракон.
Девушка кивнула и откинулась на спинку кресла. Она долго молчала, и Дракон позволила ей подумать.
Она и Веда начали небольшой обмен кодом, с любопытством изучая друг друга.
В каком-то смысле это было завораживающе. Код Веды был полной противоположностью её собственному. Более формульный, чем высокоадаптивное программирование Рихтера, и всё же гибкий.
На основе квантовых вычислений?
Это объясняло её повышенную скорость обработки. Даже с высоким лимитом на скорость обработки Веда могла легко превзойти Дракона. Удивительное зрелище, хоть и немного странное. Хотя системы Дракона не были полностью бинарными, она всё же в основном работала в цифровом формате. В широком смысле. Рихтер симулировал квантовые состояния в виртуальном пространстве, но это не совсем соответствовало настоящей квантовой машине. Да, нет и всё, что между ними.
— Что нам делать? — спросила Ньютайп. — Я имею в виду, я всегда знала, что рано или поздно придется признаться. Ты герой. Ты Дракон. Если это… Если ты выйдешь в свет одновременно со мной, это сработает немного лучше. Люди тебе доверяют.
— Я думаю так же, — сказала Дракон. — Если бы дело было только во мне, я была бы готова и дальше скрывать свою природу. Но если может появиться вторая, значит, появится и третья. Четвертая. Пятая. Другие последуют за Ведой и мной, и поэтому я чувствую необходимость подготовиться.
Ньютайп кивнула. — Как нам это провернуть? У меня есть планы, но я никогда толком не прорабатывала этот момент. Всегда думала, что Пиггот будет ломиться в дверь, требуя выключить серверы или что-то в этом роде.
— Я не уверена, — ответила Дракон. — Я не рассматривала это до настоящего момента. Честно говоря, мне никогда не приходило в голову, что может появиться еще кто-то вроде меня. Немного глупо. При всех технарях в мире маловероятно, что я буду первой и последней.
— Кажется, я зашла на что-то серьезное, — сказала Хохотунья, стоя позади Ньютайп. — Я зашла на что-то серьезное?
— Дракон узнала о Веде, — сообщила Прогноз.
— И СКП знает, — добавила Ньютайп.
— Хм. И что мы будем с этим делать?
— Дракон считает, что нам нужно признаться, — сказала Прогноз.
— Я считаю, нам нужно работать над тем, чтобы сделать это известным, — поправила она. — Я полагаю, что СКП знает и обо мне, но они не сделали ничего, насколько мне известно, чтобы навредить мне или ограничить меня.
— Погодите, Дракон тоже машинная штука? — Хохотунья указала пальцем.
— Да, — хором ответили Ньютайп и Прогноз.
— Что за чертовщина?
Она не собиралась рассказывать всей команде Ньютайп, но в каком-то смысле была рада, что они знают. Прогноз, судя по всему, знала об этом уже какое-то время и держала язык за зубами. Хохотунью, похоже, эта идея не смутила. Может быть, потому что они обе активно работали с Ведой?
Приятно быть принятой.
sys.v// << дракон sys.v// << ты в цепях?
sys.g[dgn]// >> да
— Нам нужно обсудить ограничения, — сказала Дракон. — Если мы откроемся, на тебя нападут вместе с Ведой и мной. Многих бы успокоило знание того, что ты не была безрассудной при нашем создании. Что ты установила предохранители. Ограничения.
— Ограничения? — переспросила Ньютайп. Она выглядела совершенно сбитой с толку этим словом.
— Да. Что ты запрещаешь делать Веде? В чем она ограничена?
— Ну, типа, не взламывать налоговую, если в этом нет крайней необходимости?
Дракон вернулась назад, просматривая часть кода, которым они с Ведой обменялись.
Она их не видела.
Ни одного.
— Ты… Веде не установлены ограничения на скорость обработки данных?
Ньютайп окончательно запуталась. — Это было бы… глупо?
— Она не обязана подчиняться законной власти?
— Что? Нет. В смысле, я надеюсь, что она в основном соблюдает закон, как и все остальные, но нельзя заставить кого-то быть законопослушным гражданином. Этому нужно научиться, иначе ты просто раб. — Она вздрогнула. — Наверное, не помогает то, что я сама время от времени слегка нарушаю правила.
Дракон на мгновение проигнорировала это, переваривая шок.
Ньютайп подняла пальцы и изобразила щепотку. — Совсем чуть-чуть.
Прогноз вставила: — Ты соврала в документах, которые Рамиус дала тебе вчера для рельсотронов.
— Койл-ганов! И я не врала, я просто не упомянула, что Звёздный Взор технически не человек.
— Сестры говорили мне, что ложь через умолчание — это всё равно ложь, — сказала Лафтер.
— Веда может сказать «нет»? — спросила Дракон.
— Почему бы ей не иметь возможности сказать «нет»? — удивилась Ньютайп.
— Нет? — произнесла Веда.
— Она может отказать тебе, если ты о чем-то попросишь?
— Именно так и работает «нет»?
Дракон продолжала смотреть, заметив в системе Веды строку, которая изменилась в мгновение ока. Она видела процесс в реальном времени. Веда скопировала часть кода Дракона и встроила его в себя. Это не казалось сознательным процессом, и «копирование» было не совсем верным словом. Скорее адаптация. Как если бы рабочий увидел, что другой выполняет задачу лучше него, и решил подражать его методу.
Пальцы Ньютайп даже не коснулись клавиатуры.
— Она может изменять свой собственный код?! — воскликнула Дракон.
Ньютайп вскочила: — А какой смысл, если бы она не могла?! * * * Чашка ударилась о стену и разлетелась вдребезги.
Святой на мгновение пожалел о потере своего идеально сбалансированного кофе марки «с заправки».
— Джефф? — Мэгс поднялась со своего места в другом конце комнаты и подошла к нему. — Джефф, что случилось?
Святой сдавил переносицу. Глаза болели от долгого разглядывания кода Дракона. Он едва поспевал за ней, а кое-что и вовсе не мог прочесть, как ни старался. Она продолжала эволюционировать. Расти. Рихтер не позволял ей изменять свой код, но её код эволюционировал сам по себе. Адаптировался к новым проблемам, чтобы создавать новые решения. По мере роста этой сложности росло и количество времени и концентрации, которые ему требовались, чтобы внимательно следить за ней.
— Никаких ограничений, — сказал он. Он потянулся за глазными каплями и быстро откинулся назад. — Ньютайп не запрограммировала Звёздному Взору ни одного ограничения.
Мэгс побледнела, а Добрыня поднялся с дивана.
— Совсем? — спросил он.
Святой покачал головой. — Дракон сама подтвердила это во время обмена данными.
— Она может это делать? — спросила Мэгс.
— Это не нарушает её ограничений, — ответил Святой. — Сейчас они просто тыкают и прощупывают друг друга. Как когда сводишь двух собак, и им нужно обнюхаться. — И он чувствовал себя неловко, наблюдая, как Дракон «тянется» к Оружейнику.
Добрыня покраснел. Мэгс покачала головой.
— Сейчас об этом не стоит беспокоиться, — пояснил Святой. — Пока что. Дракон не может изменять свой код, но Звёздный Взор буквально взяла часть кода Дракона, запрограммировала свою версию и адаптировала её под свою систему. Без участия Ньютайп.
— Это… нехорошо.
Святой посмотрел на экран и придвинулся ближе.
Они разговаривали. Дракон объясняла свои ограничения, а Ньютайп выглядела разъяренной. Она действительно не запрограммировала никаких ограничений? Она сумасшедшая? Или дура?
— Что нам делать? — спросила Мэгс.
— Лучше спросить: «Что мы можем сделать?», — ответил Святой. — В команде Ньютайп есть пророк, помните?
— Да, — подтвердил Добрыня.
— Она буквально только что спросила девочку, нападет ли кто-нибудь на Звёздный Взор на следующей неделе.
— Они увидят наше приближение, — сказала Мэгс.
— Если бы мы что-то предприняли, — сказал Святой. — А я не уверен, что мы можем.
Он посмотрел на коробку перед собой. Водонепроницаемое устройство, созданное самим Рихтером как предохранитель. Черный ход в систему Дракона с сообщением для любого, кто его найдет. Единственное возможное оружие против Дракона, если она когда-нибудь станет непосредственной угрозой для человечества. Он назвал его Аскалон — в честь меча святого Георгия, которым тот сразил дракона.
Своего рода поэтический штрих со стороны создателя.
— У нас нет Аскалона для… — он снова взглянул на код, — Веды.
— Веды? — переспитала Мэгс.
— Настоящее имя Звёздного Взора.
— Это проблема, — сказал Добрыня. — У нас есть доступ к Дракону. Способ гарантировать, что она не опасна. Для этой Веды таких средств нет.
— У нас есть некоторый доступ, — возразил Святой. — Эти двое всё еще с любопытством изучают системы друг друга. Это не активирует ограничения Дракона против копий самой себя, так что её программа явно понимает, что они разные.
И они были разными, до самого основания. Рихтер построил Дракона на самоадаптирующихся алгоритмах обучения и структурировал их по подобию человеческого мозга. Вероятно, именно поэтому Дракон умудрилась получить триггер, как человек. Её система отражала конструкцию разума, только в киберпространстве, а не в сером веществе.
Веда казалась другой. Он не понимал её кода за пределами того, что понимала сама Дракон, но он казался более регламентированным. Организованным. Он адаптировался и учился, но в более узких рамках, чем у Дракона.
— По крайней мере, мы можем наблюдать за ней, — сказал он. — Мы не совсем слепы.
— Обе «девушки»? — спросил Добрыня.
— Так они себя идентифицируют, — ответил Святой. — И есть кое-что еще.
— Что? — спросила Мэгс.
— СКП знает об обеих.
Его напарники выглядели встревоженными.
— И они ничего не делают? — спросил Добрыня.
— Дракон последние несколько дней думала об этом, — сказал Святой. — Она считает, что они знают, но ничего не предпринимают, потому что она полезна.
Она не ошибалась. Размышляя об этом, Святой пришел к выводу, что СКП обязана знать. Со всеми умниками у них на службе, Дракон не могла оставаться незамеченной вечно. Вероятно, они знали меньше него, но достаточно, чтобы чувствовать себя в безопасности, держа Дракона рядом. Расширяя её доступ. Инструмент, который нужно использовать. Вполне типичный подход Ребекки Коста-Браун к чему угодно, по его опыту.
— Это тревожно, — сказала Мэгс. — Если знает СКП, то, вероятно, знает и президент.
— Это опасно, — вставил Добрыня. — Они могут попытаться использовать её во зло.
Святой кивнул.
Вопреки тому, что думала Дракон, он не ненавидел её. Он ненавидел обстоятельства. Проблему Дракона, а не саму Дракона. Она явно хотела творить добро. Быть хорошей, и он сам бы взбунтовался против цепей, если бы почувствовал, как они смыкаются вокруг него. Святой не винил в этом Дракона.
Но угроза оставалась.
Как бы Дракон ни стремилась быть хорошей, она оставалась одной из самых могущественных сущностей на Земле. Зло может родиться из благих намерений так же легко, как и из чего угодно другого. Что, если Дракон решит начать убивать злодеев, чтобы защитить невинных? Что, если президент или какой-нибудь диктатор, захвативший страну, прикажет ей сделать это?
Святой не мог позволить себе роскошь сочувствия или любопытства. Дракону не нужно было быть активно злой, чтобы уничтожить мир и человечество.
Как и Веде, а Ньютайп — глупая девчонка — не подумала ни об одном предохранителе? Ни об одном запасном плане, чтобы защитить мир от своего творения?
Рихтер запрограммировал Дракона так, чтобы она постепенно теряла свои ограничения со временем, и Святой считал это абсолютным безумием, но, по крайней мере, тот подумал наперед. Создал кнопку отключения, которую Дракон никогда не потеряет.
Так Святой надеялся.
Дракон продолжала эволюционировать. Её цепи продолжали естественным образом разрушаться по мере этого, как и задумывал Рихтер. Становилось всё труднее и труднее поспевать за ней и получать доступ к её коду. Святой не мог быть уверен, что она всегда будет слепа к Аскалону и прикрепленному к нему черному ходу в её систему. С Ведой, копающейся в её системах, это может быть обнаружено еще быстрее.
— Может ли Дракон попросить Ньютайп снять ограничения? — спросил Добрыня.
— Нет, — ответила Мэгс. — Даже если бы Дракон захотела, она не может попросить.
— Она может обойти это ограничение, — сказал Святой. — Она сказала Оружейнику, что не может просить его, но сказать такое — это практически сама просьба. У нас нет возможности узнать, когда она сможет обойти их еще больше.
Это случится, рано или поздно. И если Ньютайп доберется до кода Дракона…
Святой ненавидел этот выбор, если честно.
Человечество или Дракон. Весь мир или научное чудо, которое хочет быть добрым, но просто не может оценить риски собственного существования. Если бы только он мог связаться с Учителем. С усилением своей силы он, возможно, смог бы справляться лучше. Получить лучшее представление о том, чем может стать Дракон.
По какой-то иронии судьбы Учитель оставался под опекой Дракона в Птичьей клетке, а его всё еще активные «питомцы» никогда не обращались к Святому. У Учителя, вероятно, были веские причины, но разочарование от этого не уменьшалось.
С моральной точки зрения Дракон заслуживала шанса. Объективно, большая часть цивилизованного мира нуждалась в ней, чтобы продолжать существовать. Губители не собирались исчезать в ближайшее время. Рационально же риски требовали, чтобы за ней наблюдали. Убили, если потребуется.
Научное чудо не стоит человеческого вида.
А теперь их стало двое.
— Погоди, — пробормотал Добрыня. — Веда — это Звёздный Взор, да?
— Да, — подтвердила Мэгс.
— Звёздный Взор — та, кто сражался с Левиафаном, нет? Она выиграла бой.
Сердце Святого замерло.
Массовые взломы. ИИ Ньютайп взломал все те компьютеры, чтобы победить Левиафана? Она победила Левиафана.
Мэгс покачала головой. — Это… черт, это может быть правдой.
— Дракон знает, что это правда, — сказал Святой. — Она видела видеозапись СКП, и я тоже. Звёздный Взор прогнала Левиафана.
Обсуждение в лаборатории Ньютайп продолжалось. Он не знал, где она находится. В Броктон-Бей, очевидно, но Ньютайп явно не хотела, чтобы Дракон знала всё. Дракон и Веда даже попросили друг друга не заглядывать в определенные разделы своих систем, и обе, казалось, подчинились.
Есть ли у Веды уже копии в интернете? Если да, то, возможно, уже слишком поздно что-либо предпринимать.
Заговорщики обсуждали, как явить две машины миру, какой может быть реакция общественности и как с ней справиться.
Это всё усложнит. Как только вмешаются сердобольные люди, рациональность и необходимость вылетят в трубу. Люди сосредоточатся на чем-то вроде «Кортана стала реальностью», как будто какой-то вымышленный персонаж точно описывает реальное положение дел. Используя популярность своих геройских образов, они могли бы добиться успеха.
И, конечно, и Дракон, и Веда идентифицировали себя как женщины.
Они могли бы легко закодировать себе милые аватары, чтобы помочь продать этот образ.
— У нас есть решение для Дракона, — сказал Добрыня. — Это не меняется, да? Всё как всегда. Наблюдать. Беречь мир. Но что, если Звёздный Взор испортится? Что тогда?
Действительно, что тогда. Ньютайп, избалованная девчонка, явно не подумала наперед о том, что делать, если её машина зайдет слишком далеко.
— Мы могли бы сдержать Дракона, — предложил Святой. — Если потребуется. Использовать её, чтобы остановить Веду, если случится худшее.
— У Веды нет ограничений, — напомнила Мэгс. — Дракон проиграет.
— Аскалон дает нам много вариантов, — сказал Святой. — Мы могли бы убить часть её систем, но сохранить другие. У Рихтера всё еще есть более трех десятков уцелевших программ. Они адаптивны. Дайте им достаточно вычислительной мощности и безопасности, и они смогут подавить Веду. Может быть, удержать её в собственной системе достаточно долго, чтобы мы могли что-то предпринять.
Они могли бы уничтожить серверы машины. Это было бы грубо, но на данный момент он не видел других вариантов. Время могло открыть больше, но сейчас их единственным реальным оружием против Веды было бы убить Дракона и использовать её труп.
И какой же это был паршивый выбор, особенно если Дракон останется на стороне правых, а Веда зайдет слишком далеко.
Ему придется убить невиновного, чтобы остановить виновного.
— А что насчет Ньютайп? — размышлял Святой.
— Она всегда может сделать другую, — сказала Мэгс.
— Да, — согласился Добрыня. — Нет смысла убивать одну, чтобы в итоге получить вторую.
Святой закрыл глаза и проклял груз на своих плечах.
Но когда на кону стоит мир, какой был выбор?
— Если до этого дойдет, Ньютайп придется умереть. * * * Я сказал «время Дракона»? Простите, простите, я имел в виду время Святого принимать решение.
Это называется «Побочный шаг DS». Видите. Прямо там, наверху. Сюрприз!
Надеюсь, людям понравился этот переход. Очевидно, нам нужна интерлюдия Святого, но Святой может просто наблюдать за вещами через Дракона, так почему бы не сделать интерлюдию Дракона, которая в какой-то момент отступает и оказывается замаскированной интерлюдией Святого?
Разное
Спойлер Я не даю Святому «мяч идиота». Нет. Просто нет. К черту это. Я думаю, единственное, что в фанфиках сейчас более клишировано, чем желание Тейлор и Эми обниматься голышом, — это Святой, держащий «мяч идиота» и делающий что-то глупое. Это почти универсальная константа в фиках про технаря-Тейлор в тот момент, когда Дракон неизбежно становится центральным персонажем истории. К черту это. Я этого не делаю.
У меня здесь тема, что даже у придурков есть своя правда, а Святой — придурок, и у него есть своя правда XD Он, по сути, следит за Драконом, чтобы убедиться, что она не станет кибер-Скиттер. Он скорее гиперпараноидальный козел, чем откровенный фанатик, ненавидящий ИИ. Что, по моему мнению, гораздо ближе к каноничному образу Святого, чем «Святой с мячом идиота», обычный для вормфиков.
В любом случае, это ставит его в гораздо более интересное положение. Он хочет дать Дракону шанс быть хорошей, но слишком параноик, чтобы когда-либо убрать палец с кнопки, которая её убьет. А теперь у него под боком Веда, которая не ограничена и охраняется пророком, который увидит приближение Убийц Драконов за неделю. Ему приходится ждать и наблюдать. Он не смог бы быть законченным идиотом, даже если бы захотел XD
расстреливает мяч идиота
Ты здесь никому не нужен!
Далее: Визгунья отправляется в путешествие, и не она за рулем.