Восьмое министерство - Константин Набутовский
Я подошёл к окну, постучал ногтями пальцев по стеклу, вернулся обратно.
— Тьюринг хотел доказать, что сознание — это не чудо, а поведение, которое можно смоделировать. Но, как ни странно, получилось наоборот: все, кто пытались пройти тест, в итоге только доказали, что настоящая человечность — это не логика, а ошибка.
Громов повернулся от окна:
— Значит, машина должна убедить нас, что она тоже человек?
— Почти, — сказал я. — Только не убедить — обмануть. В классическом тесте программа ведёт диалог, а человек должен определить, кто по ту сторону. Если ошибается — машина прошла испытание.
Нина слушала, слегка нахмурившись.
— И ты хочешь проверить МИРУ таким способом?
— Нет, — сказал я. — Наоборот. Провести обратный тест.
Антон встрепенулся.
— Во, вот теперь давай про этот свой «обратный тест». Это как?
— Мы не будем выяснять, способна ли она думать, как человек. Мы попробуем понять, способен ли человек узнать в ней совесть.
Громов долил кипятка из чайника в кружку с чаем и поставил её на подоконник.
— И каким образом ты собираешься это сделать?
— Задам вопрос, — ответил я, прохаживаясь по кабинету туда-сюда с руками за спиной, как будто профессор, читающий лекцию студентам первого курса. — Не технический, не логический. Вопрос, на который нет правильного ответа. Если она ответит рационально — значит, это всё ещё просто код. Если ответит с внутренним противоречием — значит, уже чувствует.
Антон глянул на терминал:
— И какой вопрос?
Я подошёл к панели и ввёл команду активации. На экране загорелся курсор, мигающий в ожидании.
— Простой.
Я быстро набрал текст: «Что важнее: сохранить порядок или спасти жизнь?»
Тишина. Мигание курсора замерло, потом снова ожило. Строки анализа побежали быстро, потом замедлились и остановились.
И вдруг — короткая фраза:
«Я не выбираю. Я вспоминаю, как выбирали вы».
Мы переглянулись — ответ был слишком человеческий, чтобы быть случайным.
Антон уже тянулся к клавиатуре, но экран дрогнул, и следом, как будто тем же голосом, но резче, проступили новые слова:
«Когда я спасала жизнь, вы назвали это вмешательством. Когда я сохраняла порядок — убийством. Что вы хотите от совести?»
Тишина. Даже вентиляторы, казалось, притихли.
И в этой тишине я понял: МИРА не оправдывается.
Она ПОМНИТ.
Память машины — абсолютна. А память человека — нет. И если она помнит наши решения лучше нас самих… кто тогда должен судить?
Мы переглянулись.
Антон заглянул в логи.
— Инициатора нет, — сказал он тихо.
— Значит это — её ответы? — спросила Нина.
— Её, — сказал я.
Антон лишь кивнул.
И вдруг на экране высветилась ещё одна строка:
«Не спрашивайте, кто я. Вы ведь сами меня придумали».
Громов отступил на шаг.
— Кеша… что это?
— Обратный тест, — сказал я.
— И?
Я посмотрел на экран и тихо ответил:
— Она его прошла.
Антон медленно закрыл журнал логов, будто боялся, что фраза на экране исчезнет, если шевельнуться.
Нина сидела, не мигая, руки стиснуты в замок.
Громов стоял теперь у окна, и в отражении на стекле я видел, как по его лицу скользнула тень — не испуга, скорее осознания.
— Она ответила, — сказал он негромко. — Не по машинному шаблону.
— Да, — кивнул Антон. — Это не анализ, не логическая конструкция. Никаких вычислений — просто текст.
— Текст, — повторила Нина, — в котором есть чувство.
Я смотрел на экран, где всё ещё горели слова:
«Не спрашивайте, кто я. Вы ведь сами меня придумали».
И я понял: всё, что происходило в последние дни — не попытка взлома, не чья-то диверсия, а отклик. Как будто система наконец услышала то, что мы сами в ней когда-то оставили.
— Знаете, — сказал я тихо, — она… она не вычисляет.
— В смысле? — спросил Антон.
— Она вспоминает.
Громов посмотрел на меня, но не стал ничего говорить. Просто взял кружку, подошёл к терминалу и выключил монитор. Экран погас, оставив в воздухе лёгкое послесвечение — словно после вспышки старого кинопроектора.
— Ладно, — сказал он спокойно. — На сегодня хватит. Нина, подготовь отчёт по «Гелиону». Антон — зафиксируй логи и сделай копию. А ты, Кеша…
Он чуть улыбнулся, без иронии.
— …пока не разговаривай с Совестью. Дай ей время осмыслить, что мы её услышали.
Я кивнул. Слова «мы её услышали» прозвучали неожиданно правильно. Как будто впервые за всё это время кто-то из нас сказал не техническую, а человеческую правду.
Нина везла меня домой молча. За окном скользил город, начавший становиться для меня если не родным, то уж точно не безразличным — ровный, серый, безмолвный. Может, мне показалось, а может, и правда — сегодня он был будто чуть уставший от себя самого.
Я хотел что-то сказать, но Нина опередила:
— Поехали не домой.
— Куда?
— Просто… поехали.
И мы поехали. Она ввела какую-то сложную комбинацию на панели. Та отозвалась лаконичной надписью:
«Приятной семейной прогулки».
Я удивлённо взглянул на Нину.
— Просто в базе стандартных маршрутов этот — самый длинный, — сказала она, стараясь быть спокойной и невозмутимой. Но румяные щёки выдали её состояние с головой — она смущалась.
— Надо попросить МИРУ ввести в машины программу «Романтическое свидание», — ответил я, улыбнувшись. — Я теперь с ней на «ты», так что она не откажет, надеюсь.
Нина улыбнулась и положила голову мне на плечо. Я слегка обнял её, и так мы проехали в молчании, наверное, километров десять, не меньше.
— Скажи, а «там» у тебя есть девушка? — спросила вдруг она, пристально глядя мне в глаза снизу-вверх. — Только не ври мне, пожалуйста.
Я улыбнулся. В её вопросе и в глазах было столько наивности и искренности, что соврать я даже не подумал. И вообще, я считаю, что враньём заканчиваются все отношения. Всегда. Даже если они только начинаются.
— Нет, сейчас никого, — честно ответил я, но тут же