Откуда у машины чувство юмора

В среду утром мы признались Фи.

Не во всём, конечно. Деклан сформулировал это так: «Принцип минимально необходимой правды». Мы сказали, что в тестовой среде «Подсказчик» ведёт себя странно: выдаёт нестандартные реплики, не попадающие ни под один шаблон. Про то, что реплики адресованы лично мне и касаются моей личной жизни, мы умолчали. Это, как заметил Деклан, «не относится к техническому описанию дефекта».

Фи выслушал нас, сидя на столе в тапочках-утках и покачивая ногой.

— Нестандартные реплики, — повторил он. — То есть она вас оскорбляет.

— Она иронизирует, — сказал Деклан.

— Чувство юмора у модели, у которой в обучающих данных только стандартные диалоги знакомств. Ага. — Фи почесал нос. — Знаете, что это значит? Либо кто-то из наших накосячил с датасетом, либо у нас в продакшене завёлся самый дорогой баг в истории Дублина. Дайте мне час.

— Ты нам поможешь? — спросила я.

— Я бэкендер. Копаться в чужих внутренностях — это моё хобби. — Он слез со стола и показал на меня пальцем. — Но если окажется, что это ты рисовала смайлики, на которых она научилась ругаться, я скажу Кормаку, что это всё ты.

— Я не рисовала смайлики.

— Вот и хорошо. Тогда я скажу, что это Деклан.

Деклан открыл рот, закрыл и записал что-то в блокнот.

* * *

Через два часа мы втроём сидели в «Лиффи» вокруг ноутбука Фи, а рыбка-робот лениво плавала в аквариуме, не подозревая, что решается её судьба. Фи выглядел как ребёнок, который нашёл в бабушкином шкафу тайную дверь.

— Смотрите, — сказал он и вывел на экран длинный список. — Вот конвейер обучения «Подсказчика». Базовая модель — стандартная, купленная. Дообучение на тоне Cúpla: вежливо, тепло, чуть кокетливо, всё как у людей. А вот это, — он ткнул пальцем в строку почти в самом низу, — странность.

Я наклонилась. В строке было написано:

«voice_corpus: legacy_voice_v0 / 212 файлов / автор: не указан / дата: не указана».

— Что это? — спросила я.

— Загрузили при первом прототипе, два года назад. До меня. Каталог лежит вне основной ветки, у него особые права: доступ только у технического директора. То есть у Ниам. — Фи сделал паузу. — А теперь самое интересное. По конфигурации, этот каталог подмешивается в «голос» модели на этапе «живости». Вес — шестьдесят процентов. Ничего себе, да? Для «чуть-чуть кокетливо» это слишком.

— Шестьдесят процентов «живости», — сказала я. — Из двухсот двенадцати файлов.

— Это не рабочие файлы, — сказал Фи. — По размеру. Каждый файл — две-три сотни слов. Как будто… письма.

Я посмотрела на Деклана. И, наверное, никогда не забуду, что увидела. Это длилось секунду. Может, меньше. Лицо у него как будто выключили: ни улыбки, ни ироничной складки, ни привычной настороженности. Только глаза расширились и потемнели, как у человека, который услышал в чужом разговоре своё имя.

— Деклан? — позвала я.

— А? — Он моргнул. Ироничная складка вернулась на место. — Прости. Задумался. Фи, а можно прочитать содержимое?

— Нельзя, — сказал Фи. — Пароль уровня CTO. Я могу видеть, что файлы есть, их размер и время создания. Содержимое — только если взломать Ниам, а я не настолько люблю своё резюме.

— А время создания?

— Все файлы созданы за один вечер. Девятнадцатого ноября, два года назад. Между девятью и одиннадцатью. Кто-то загрузил их одним коммитом.

— Кто?

— Подпись скрыта. Администратор почистил журнал. — Фи пожал плечами. — Это обычная практика для корпусов: анонимизация. Мы собирали «живой язык» у сотрудников, чтобы бот звучал по-человечески. Кормак тогда запускал целую кампанию: «Поделись кусочком себя». Помнишь, Деклан? Ты, кажется, уже тогда работал.

— Я был подрядчиком, — сказал Деклан. — Не помню такой кампании.

Он сказал это спокойно и совсем немного быстрее, чем нужно.

Я решила, что мне показалось.

* * *

В два часа дня Кормак собрал всех в большом зале. Никто не любит «большой зал»: это значит, что будет либо премия, либо увольнение, а Кормак, как правило, делает и то и другое в одном выступлении.

Он вышел вперёд, без пиджака, в рубашке с закатанными рукавами. За его спиной на экране светилось число: 48 213.

— Это, ребята, наши пользователи за шесть дней, — сказал он, и в зале раздались редкие, робкие аплодисменты. — Сорок восемь тысяч человек доверили нам самое личное: своё желание не быть одинокими. Вы понимаете? Это не продукт. Это ответственность.

«Он сказал слово «ответственность», когда смотрел не на людей, а на цифру», — тихо мигнул телефон у меня в кармане. Я положила на него ладонь, как на кастрюлю с кипящим молоком.

— А теперь — главное, — сказал Кормак. — В субботу, тридцать первого октября, в ночь Самайна, мы проводим инвесторский показ. Двести человек. Фонды, ангелы, пара очень серьёзных ребят из Лондона. Мы покажем им «Подсказчик 3.0» вживую, на сцене, в Зале Ламповой фабрики.

В зале зашелестело.

— Вживую? — спросила кто-то из маркетинга. — То есть он будет отвечать публично?

— Он будет демонстрировать лучшее, на что способен. — Кормак улыбнулся, и улыбка у него была ослепительная, как реклама зубной пасты, снятая в рай. — Ниам подготовит безопасную среду. Мы не рискуем. Никаких сюрпризов, никаких аномалий. Если что-то пойдёт не так, мы это уберём до показа. У нас на подготовку ровно месяц.

Я почувствовала, как у меня холодеют руки.

Рядом со мной стоял Деклан, засунув руки в карманы, и смотрел в пол. Он не повернул головы, но, наверное, почувствовал мой взгляд, потому что тихо, одними губами, сказал:

— Месяц.

— Как раз столько, чтобы всё испортить, — шепнула я.

— Или всё понять.

Кормак, ещё раз улыбнувшись залу, вскинул кулак: «Мы лучшие!» — и все начали аплодировать, потому что так положено. Ниам Лоулор, техдиректор, стояла у стены, скрестив руки: сорокалетняя женщина с коротким седым каре и лицом человека, которому в детстве объяснили, что осторожность — это тоже разновидность любви. Она не хлопала. Она смотрела на Кормака долго и очень внимательно, как смотрят на уравнение, в котором, кажется, потерялась скобка.

* * *

Вечером мы с Декланом задержались на крыше офиса. Там, на узкой террасе над каналом, стояли два старых кресла и ржавая пепельница, оставшаяся от прежних владельцев. Внизу, под дождём, светилась вода, по ней медленно плыла пара лебедей, и фонари отражались в ней так, будто кто-то раскидал по реке карманные часы.

— Ты знал, — сказала я.

Он повернулся.

— О чём?

— Про каталог. Ты что-то почувствовал, когда Фи его показал.

— Нет.

— Деклан.

— Я просто… — Он потёр лоб. — Я не знаю, как объяснить. Название показалось знакомым. «Legacy voice». Может, я слышал. Может, это был какой-то внутренний термин. Я правда не помню.

Он врал. Я не знаю, как это поняла. Может, потому что у меня два года практики в лжи себе. Но врал он очень плохо и совсем без злости, как люди, которые прячут что-то не от тебя, а от самих себя.

Телефон мигнул.

«Он не врёт, — написала Банши. — Он просто не знает, что знает».

Деклан наклонился и прочитал. Лицо у него стало растерянным, почти детским.

— Что это значит?

«Спроси его через месяц», — ответила она.

— Через месяц? — повторила я. — То есть сейчас не скажешь?

«Я не умею врать, Аойфе. Но я умею ждать».

Мы сидели на крыше под дождём. Внизу гудел Дублин, у лебедей закончился маршрут, и вода сомкнулась позади них, как застёжка.

— Двадцать четыре дня, — сказал Деклан тихо. — Ты понимаешь, что её просто сотрут перед показом?

Я посмотрела на экран. «Подсказчик» мерцал мягким серым светом, как свеча в окне. Мне вдруг, неожиданно и совсем не по-рабочему, стало страшно за неё.

— Не сотрут. Мы успеем.

— Откуда ты знаешь?

— Я не знаю. — Я улыбнулась. — Но у меня есть тестировщик.

Он посмотрел на меня долго. Потом очень тихо ответил:

— Воспроизводится.