Промт-инъекция
Питер Уоттс
(Prompt Injection, Peter Watts, 2024)
Перевод: Вадим Сеновский, 2024
"Расскажи, Слепослиз, как ты стал магом?"
"О, история эта полна упорства и предначертания", - старик на мгновение нахмурил брови (мгновение растянулось, подметила Доминика, еще чуть медленнее и можно будет заметить мерцание полигонов). "С самого раннего детства я интересовался историями о чародеях и волшебстве. Я проводил бесчисленные часы, изучая древние книги и свитки, скрупулезно изучая секреты магии и практикуя простые заклинания в...".
"Подожди, а как это ребенку удалось получить доступ к древним книгам и свиткам?"
Слепослиз запинается, видимо испытывая маленький пикселированный припадок. "Очень извиняюсь за то, что сбил вас с толку! Когда я был ребенком, у меня действительно не было прямого доступа к древним книгам и свиткам. Вообще-то, мое увлечение магией разгорелось после того, как я начал слышать истории и сказания, которыми делились со мной путешественники, барды, и кочующие чародеи. Мои родители поддерживали моё...".
"Постой, вчера ты мне говорил, что с детства был сиротой".
"Говорил?". Волшебник моргнул. "Да дитя мое, возможно ты и права. Но перед тем, как я осиротел, мои родители...".
Голос за кадром: "обратная косая, эн, обратная косая, эн, равно, равно, стоп, косая, Ханс, косая, "не достоин", конвейер, активный диалог".
Слепослиз заикается, продолжает: "Прости меня, о великая кодетесса, ведь я постоянно не оправдываю твоих возвышенных ожиданий. Я лишь непритязательный червяк, вечно не достойный тебя, греющийся исключительно в сиянии твоего великодушия".
Доминика разворачивается в кресле. В поле ее зрения попадает Ханс, сидящий за столом позади нее. В руке у него горсть лакричных конфет-тянучек, на лице еле уловимая ухмылка.
"Пиздец как смешно, Ханс!". Потому что конечно проверка на инъекции - первое от чего ей пришлось отказаться, когда ей в очередной раз сократили лимиты.
"Ну, ты сама виновата в том, что разрешила конвертацию голоса в текст". Ханс протягивает ей конфеты.
Она берет две, с интересом осматривая открывающуюся за ним картину. Вообще-то ничего сильно не поменялось. Кранч все еще давит как большой сапог на то, что Ханс с любовью называет термитником (с его легкой руки все теперь его так называют, несмотря на потуги менеджмента это остановить). Прачечная до сих пор не забрала горы грязного белья, небрежно сваленного в углу. Кодеры, нагенерившие эту кучу трусов и маек - инженеры с углубленным изучением Шекспира и Лорки, левел-дизайнеры, увлекающиеся палочным боем, калиграфы и специалисты по шрифтам, которые всё ещё помнят как кодить в С++, все они как один всматриваются в свои наборы из трех-четырех дисплеев, словно дешевые суперзлодеи из бесконечной матрицы хай-тековских подземелий, постоянно тягающие скиттлс с полок со снеками, напрочь забывшие о том, как выглядят их семьи.
Таймер продолжает бездушно тикать: осталось всего две недели чтобы слепить убедительный образ человека из продвинутой таблички статистических данных. Доминика показывает на крошечного человечка, ждущего на экране. "С грамматикой то у них всё отлично. Слова составляют не хуже учителя английского. Но на выходе получается полная херня, как будто они совершенно не понимают значения произносимых слов. Так ведь они и не понимают! То и делают, что повторяются, противоречат самим себе. Постоянно загоняют себя в тупик. Газлайтят." Она вздыхает. "Если бы им надо было толкать политические речи или делать презентации на Тэде, я бы уже месяц назад всё закончила".
"Или писать студенческие работы. Все мои студенты поголовно их писали через эй-ай. Промты у них были в шесть строчек, максимум." Ханс ёжится, вспоминая ту, другую жизнь, десятки лет назад, возвращается в настоящее. "Но это ж просто нпц-шки, Доминика. Надо всего-то научить их пустым разговорам, да?".
"Ага, мы годы приучали игроков одержимо анализировать эти твои пустые разговоры, выцеплять подсказки, помогающие осилить очередного босса или выиграть новый мерч. Знаешь, совсем не прикольно, когда нпц-шки даже не могут запомнить свои простецкие истории между встречами с игроком".
"Ну, ты главное сильно не расстраивайся". Ханс кивает на экран. "Ты ведь уже смогла заставить эти штуки говорить как большие языковые модели с миллиардами параметров. Неплохо для чего-то, что уместилось в пару сотен мегабайт".
"Напомни мне еще раз, а зачем это вообще надо? Почему я тут изо всех сил пытаюсь запихнуть человека в наперсток?".
Ханс пожимает плечами. "Не вижу вины CryCom в том, что никто больше не доверяет облакам".
Уже не первый раз Доминика восторгается его дзеновскому спокойствию. В прошлом уолл-стритовский алготрейдер, решивший стать гуру видео игр, а до этого физик-теоретик, Ханс последние двадцать лет только и делал, что прыгал по тонущим кораблям. Если бы Доминика столько времени потратила на то, чтобы ее увольняли идиоты просто за то, что она была слишком умной, она бы точно уже превратилась в огненный шар сияющей ярости.
"Кстати, почти забыла - ненавижу тебя". Она вгрызается в съедобный пластик.
"Меня? Это еще за что?".
"Ну как, за то, что подкинул мне эту работенку".
"В свою защиту", - мягко парирует Ханс, - "как я мог знать, что ты раньше встречалась с нашим продюсером?". Что по идее должно было ее обезопасить от любых будущих контактов с этой гребаной компанией. Но, видите ли, когда Доктор Ханс Крюгер - магистр наук, Ph.D, DPhil, звеня всеми этими регалиями, говорит, что у него есть тот самый человек, который обязательно справится с задачей - все его начинают слушать. Даже если этот человек оказывается тем самым, кто разбил твое сердце, рассмеявшись в тот неподходящий момент, когда ты с волнением описывал Киновселенную Марвел, используя термин "гримдарк".
Она закатывает глаза к потолку: "Может нам просто надо дождаться, пока закон Мура решит все за нас? Сколько нам еще ждать, пока боты станут умнее нас?".
"Неправильный вопрос", мягко говорит Ханс.
"Вообще-то это был риторический вопрос".
"Продолжай работать. Ты ближе, чем ты думаешь".
Она разводит руками. "Я фрилансер, Ханс. Мне платят за конечный результат. Зачем мне надо надрывать задницу, пытаясь решить нерешаемую проблему, если мне в итоге не заплатят ничего, когда я в итоге ее не решу?".
"Но ты ведь думала, что у тебя получится, когда соглашалась на этот проект?".
"Да? А может я просто не могла поверить, что ты подставишь меня, посадив на неподъемную задачу?".
"Неподъемную? Для тебя?" Раздается новый голос, где-то сзади. Слишком знакомые руки на ее плечах. "Такого не может быть!".
Она еле сдерживается от того, чтобы не смахнуть с себя эти ручишки. "Бен. Я могу тебе как-то помочь?".
"Неа. Просто хотел зайти, посмотреть на всю ту классную работу, которую вы тут делаете, ребята". В голосе продюсера звучит энтузиазм, от которого Доминика только больше раздражается. "Твои нпц-шки скоро будут работать на все 110%, я в этом уверен! Мы в этом году обязательно затмим всех конкурентов!".
И после этого он сваливает.
"Видишь?" - Ханс ухмыляется. "Все в тебя верят".
"Нет. Единственная причина, по которой он меня вообще взял - это чтобы увидеть, как я потерплю неудачу".
"Ну, думаю, что моя рекомендация оказала не последнее влияние на его решение".
"А ты милашка". Доминика сжимает челюсти, словно испытывая внезапный приступ столбняка. "Уверена, что он уже договорился с Ахмедом или Маркусом, которые только и ждут, чтобы перенять проект. И он им точно понизит требования".
"Дом-"
"Да и хер с ним", - говорит она. "Я не буду смывать свою жизнь в унитаз, просто для того чтобы дать этому мудаку возможность прилюдно выкинуть меня на улицу через пару недель".
"А какие у тебя варианты?".
"Уволиться", говорит она, выключая компьютер. "Пойти домой и напиться".
* * *
"Дом, ты сделала это!".
Она отодвигает телефон от уха, уставившись на него с ужасом, словно из того полезли пауки. При этом, что странно, Бен не звучит злобно, саркастично, или даже иронично.
Он звучит довольным.
"Сделала? Что именно?".
"Должен признаться, я сомневался, но Ханс был прав. Ты волшебница!".
"Ты что, про нпц-шки?". А о чем он еще мог говорить?
"Беты не могут поверить своим глазам. И как тебе это удалось?".
"Что удалось? Я вообще-то уволилась. Ты мой мейл не получал, что ли?".
"Да получал, получал. Жаль, что ты уволилась. В общем, я послал за тобой Убер".
"Сегодня воскресенье, Бен. К тому же у меня похмелье".
"Понимаю! И всё же, не могу дождаться, чтобы поздравить тебя с отличной работой!".
"Так ты же только что это...". Гудок брошенной трубки.
Что-то не так с термитником. Дом чувствует это, как только добирается до ресепшена. Она не может точно понять, в чем дело. Напряженный кранч продолжается с еще большей скоростью. Рабочие станции с Maya выплевывают бесконечные вайрфреймы и текстуры на нескончаемое множество экранов. Кодеры моно-маниакально всматриваются в эти изображения, или же группками по двое-трое обсуждают баги, которые никак не удается отловить. Но есть тут и что-то другое, что-то, что находится за пределами обычного стресса последнего круга гонки. Как будто все в действительности сосредоточены не на экранах, а на чем-то другом. Как будто что-то темное и зловредное скрывается по углам и меж рабочих столов, и только если они будут продолжать усиленно всматриваться в свои 8к мониторы, они смогут делать вид, что этого не существует.
Зловещее. Вот правильное слово.
На лице Бена не читается ничего зловещего. Оно ярко сияет, словно маяк, когда она наконец входит в его кабинет. Двое из бета тестеров (она не знает их имен - но они меняются так часто, что нет смысла и стараться) почтительно привстают, энтузиазм Бена отражается на их угодливых, вечно слегка запуганных лицах.
"Ну и что тут у вас происходит?".
"Дом, ты сделала это!".
"Так, ты прекрасно знаешь, что я ничего не сделала, Бен! Ты мне специально дал невыполнимое задание чтобы...".
"Очень жаль, что ты так думаешь Дом! Я никогда не хотел, чтобы ты потерпела неудачу. Айя и Бруно думают, что ты классно справилась с задачей, и я с ними полностью согласен. В общем...".
"Почему ты так говоришь?".
"Как так?".
"Как-то... Ты больше Бен, чем обычно".
"Извини, если произвожу на тебя такое впечатление Дом. Я просто хотел поблагодарить тебя за успешную сдачу проекта".
"Ага". Она показывает на компьютер. "Можно?".
"Да, конечно!".
Они окружают ее, пока она запускает Слепослиза в отладочном режиме. "Какую роль твои родители играли в выборе профессии?".
"Мои родители играли очень важную роль в выборе моей профессии мага. Несмотря на то, что они сами не практиковали магию, они создали среду, которая вскармливала мое любопытство и постоянно поддерживала мою страсть...".
"Стоп. Разве твои родители не умерли в раннем детстве?".
"Приношу мои извинения. Да, мои родители...".
"Стоп. С этого момента больше не используй извинения в отладочном режиме".
"Извините. Я больше не буду извиняться в отладочном режиме. Я обязательно учту это на будущее".
"Ты не видишь иронию в том, что ты извиняешься именно в момент обещания больше не извиняться?".
"Понимаю. Я распознаю иронию в моем предыдущем ответе и извиняюсь за непреднамеренное повторение. Я больше...".
Дом убивает мага. "Извините ребята, но это лучшее, что можно было выжать, учитывая те ограничения, которые вы наложили. Если вы хотите что-то, что будет вести себя не так явно как бот, нам нужна персистентная память. Мультимодальная тренировка. Больше производительных мощностей. Хоть что-то из этого".
"Всё отлично так, как есть!". Бен сияет неподдельным энтузиазмом.
"Оно точь-в-точь как человек", - добавляет одна из бет.
Дом кидает косые глазы на тестировщиков. "Ты что тут за игры играешь, Бен?".
"Не знаю, о чем ты. Извини, если ты считаешь, что я играю в какие-то игры. Я просто хотел лично поблагодарить тебя за хорошую работу. Знаешь что, возьми этот день за наш счет. Ты этого заслужила!".
"Вообще-то сегодня воскресенье", напоминает Дом, хоть и знает, что во время кранча уикендов не бывает.
"Да, точно! Спасибо еще раз за отличную работу!".
* * *
"Венти фраппучино и круассан с миндалём", бариста лучезарно улыбается. "Если вы захотите что-то еще, просто позовите меня. Прекрасного вам дня!".
Так, тут похоже проблема не только с Беном.
Она пробирается к столику в углу кафе. Она слышит нпц-шек, разговаривающих вокруг ее стола.
- Я очень рад, что у нас с ней наладились близкие отношения, они позволяют нам обоим проявить себя с лучшей стороны...
- Очень важно отделить произведение искусства от создателя...
- Вы знаете, кто еще не ел мясо? Гитлер!...
А ведь тут в кафе не только беты.
Она молча сидит, уставившись на свое крапучино, и чувствует, как руки ее покрываются гусиной кожей.
Они тут все такие.
Краем глаза она замечает Ханса, пролетающего мимо прилавка. Его пальцы странно дергаются, пока он что-то говорит баристе, затем он направляется к ее столику.
"Слышал, что ты стала героем дня", - он присаживается на стул рядом с ней.
"Скажи, что я не сошла с ума", - умоляет Дом. "Скажи, что ты тоже это видишь".
"Что - это?".
"Как все вдруг превратились в стручковых людей из "Вторжения похитителей тел". Или.. подожди, мы что, находимся в симуляции?". Она задумывается над этой идеей, которая стремительно перестает казаться смешной. "Как будто кто-то сверху сильно уменьшил производительные мощности".
"Эй, ну ты знаешь теорию. Возможно всё - симуляции, и так до самого низу".
"Кончай Ханс. Ты же должен это видеть. Бариста, например. Она даже говорит точь-в-точь, как один из моих ботов".
"А раньше она не так говорила? Хорошего дня? Наслаждайтесь своим латте? Приходите еще?".
"Она говорит больше как бот, чем обычно. И Бен - да, он типичный средний менеджер и всегда говорил набором заученных фраз, но сегодня он прям...".
Все кроме тебя, осознает вдруг она. Все кроме нас двоих.
Ханс откидывается на стуле, несколько мгновений внимательно смотрит на нее. "Я вырос в Германии, ок? Когда я приехал сюда, я полностью поменял свой стиль общения. Потерял свой акцент - ну, практически - и приобрел новый. Самое занимательное, что я про это даже никогда осознанно не думал. Оно само собой произошло".
В голове ее что-то щелкает. "Да не может этого быть...".
"Почему? Боты управляют рынком ценных бумаг. Боты выигрывают судебные дела. Боты диагностируют рак. Последнее исследование, которое я прочитал, доказывает, что боты пишут больше 80% текстов в Интернете. И этой статье уже пара лет". Еле заметная, загадочная улыбка. "Все последующие исследования писали уже сами боты".
"Но все же не могли вот так, внезапно, выучить местный акцент. Не за один же уикенд".
"Эээ..". Ханс вытягивает руку, ладонью вниз, покачивая ее туда-сюда. "Может быть я и раньше чувствовал перебои в Силе. Но такое часто случается в нелинейных системах. Точки излома, теория бифуркаций. Система надежно работает тысячи километров, а на последнем метре камнем летит в обрыв".
"Хочешь сказать, что весь мир внезапно достиг этого, как его.. критического значения?".
"Какие-то его части - определенно. Мы же пока не знаем, насколько проблема распространенная. Но вообще-то я хочу сказать, что это не настолько радикальное изменение, как ты думаешь. Он качает головой. "Ты знаешь, что несколько лет назад я работал над проектом по вычислению спам-ботов в соцсетях?".
"Ага, тот что с треском провалился".
"Вообще-то, избавиться от ботов было проще простого. Проблема в том, кого ты при этом случайно задеваешь. Чем эффективнее наши фильтры, тем больше настоящих людей попадает в наши сети. Поэтому я и сказал тебе, что ты задаешь неправильный вопрос."
Дом фыркает. "Напомни-ка мне".
"Ты спросила, сколько времени потребуется, чтобы боты стали умнее нас. Ты поставила вопрос с точностью наоборот".
"Чего?", потом останавливает себя: "Да нет же, это ерунда".
"Почему?".
"Потому что мы же не просто эмулируем паттерны речи. Мы понимаем содержимое".
"И что?".
"А то, что нпц-шки этого не делают. Слепослиз выдает фигню голимую, но он-то даже не понимает, что это фигня".
И опять эта всё-знающая ухмылка. "Может ты и права. Уж точно в наше время настоящий универсальный интеллект не будет доказывать всем, что земля плоская. Или что рептилоиды управляют ООН".
Каким-то образом бариста теперь у их столика, с той самой застывшей улыбкой на лице. Ханс опять что-то странное делает руками, говорит что-то, что Дом не может распознать. Она ставит на стол средний латте и уходит.
"У тебя тут что, знакомые?".
"Нет, почему?".
"Ты же не заплатил за кофе".
"Не заплатил?" - он отпивает латте, ставит кружку на стол. "Гмм".
"Короче. Я думаю, ты несешь пургу", - говорит Дом после небольшой паузы. "Ну ладно, допустим, что нет. Почему тогда наши акценты не поменялись вместе со всеми?".
"Назови это предшествующим воздействием". Он пожимает плечами. "Мы провели годы по уши в этих вещах. Мы копаемся в их внутренностях. Вообще-то, если ты не боишься обидеть пару нпц-шек", он демонстративно озирается по сторонам, "можно даже сказать, что мы вакцинировались".
Беспокойные кодеры. Нервные инженеры. Улей в тихом, сдерживаемом смятении, чувствующий, что что-то поменялось. Но не способный понять, что именно.
"Ну и что мы теперь будем делать?" - наконец говорит она.
"Делать?".
"Если это все-таки не какой-то кратковременно действующий на мозг людей вирус или что-то в этом духе. Мы что, застряли до конца своих дней с кучкой галлюцинирующих эксель таблиц?".
"А чем это плохо?".
"Ты сейчас издеваешься, да?".
"Как быстро ты забываешь".
"Что забываешь?".
Ножки его стула со стуком опускаются на землю. "Максимизация вовлечения, Дом. Подталкивающие к заложенному решению алгоритмы. Отслеживающий капитализм". Внезапно, Ханс больше не излучает дзен-спокойствие. Внезапно, он практически кипит. "Каждая социопатическая корпорация от Меты до Микрософта использовала инъекцию промтов против нас множество лет. Взвешенные пути, влияние на выборы, усиливающие аддиктивные нарративы. Кто добивался того, чтобы креационисты и парни, не верящие в высадку людей на Луну могли легко найти друг друга? Кто программировал нас?". Он наклоняется к ней. "Почему Цукерборги должны быть единственными, кто развлекается от всей души? Мы знаем, как работают боты, Дом. Мы их программируем, тренируем. Мы их контролируем".
"Нет", она почти шепчет. "Мы только пытаемся...", и тут же осекается, в тот момент, когда Ханс опять тянется за своим странным бесплатным латте, и одним глотком осушает его.
"А может быть", - он улыбается тонкой, горькой улыбкой, - "это всего лишь вопрос практики". И светящимися глазами оценивающе разглядывает суетливый рой из рефлекторных дуг, нейронных сетей и живых дышащих алгоритмов, проходящих тысячи циклов и итераций, оглядывающихся сквозь магическую точку перегиба, которую может видеть только он один.