Компания Writer, занимающаяся разработкой корпоративного искусственного интеллекта, представила Palmyra X6 — свою новую флагманскую модель, а также усовершенствованную управляющую оболочку («harness»), созданную для решения задачи, от которой индустрия почему-то воздерживалась: тратить меньше токенов.
Эта модель представляет собой результат постобучения открытой модели GLM-5.2 от Z.ai и становится доступна клиентам Writer уже сегодня.
Этот шаг предпринят в весьма напряженный момент. Поскольку автономные ИИ-агенты незаметно увеличивают количество шагов, а значит, и расход токенов для каждой задачи, счета корпоративных клиентов начали вызывать серьезное беспокойство.
Writer рассчитывает, что на рынке наступило разоблачение высоких цен, и она далеко не одинока в своем чутье: компания Baseten привлекла 1,5 млрд долларов, исходя из теории, что прибыль в сфере ИИ кроется в дешевом инференсе.
По определению Writer, управляющая оболочка — это оркестрационный слой, обернутый вокруг модели, то есть механизм, который определяет, как многошаговый агент фактически выполняет каждый запрос.
Оптимизируя этот слой, устраняя избыточные вызовы и раздутый контекст, которые имеют свойство накапливать агенты, можно сократить потребление токенов, вообще не затрагивая саму модель.
По данным Writer, экономия весьма существенна. Компания оценивает, что новая модель и оболочка в совокупности снижают затраты примерно на 50% при выполнении базовых задач, в то время как исследование Writer показало, что изменения только в эффективности самой оболочки сократили расходы в среднем примерно на 40% в ходе тестирования.
Особенность этой оболочки заключается в том, что она не привязана к конкретной модели. Она работает как с собственными моделями Writer, так и со сторонними решениями, предоставляемыми через Microsoft Azure и Amazon Bedrock, поэтому прирост эффективности не привязан к планам развития какого-то одного вендора.
«Оболочка — это тот самый компонент, чья эффективность умножается на каждую модель, используемую организацией в настоящее время и в будущем», — пишут исследователи Writer, позиционируя оркестрацию, а не чистое качество модели, как рычаг, который компании до сих пор игнорировали.
Это также весьма точечный удар. Основной тезис Writer заключается в том, что у крупных лабораторий мало стимулов помогать вам тратить меньше, поскольку их доходы растут с каждым сожженным токеном. Недоверие к такому положению дел играет ключевую роль в маркетинговой стратегии компании.
Генеральный директор Мэй Хабиб выразилась предельно прямо. «Корпоративный сектор уже до смерти устал гнаться за очередным бенчмарком, — заявила она. — Они хотят стабилизации расходов». Это изящная инверсия привычного рекламного сценария, в котором каждая новая модель работает быстрее, умнее и, неизменно, требует больше ресурсов.
Более широкий тренд на максимальную экономию, в рамках которого покупатели обращаются к более дешевым китайским моделям, уже начал подрывать оценки стоимости, лежащие в основе будущих IPO OpenAI и Anthropic, что является признаком того, что чувствительность к ценам перестала быть второстепенной проблемой.
Создание флагмана на базе GLM-5.2 само по себе показательно. Вместо того чтобы обучать передовую модель с нуля, Writer взяла за основу надежную открытую базу и специализировала ее с помощью постобучения — подход, который снижает затраты и отлично согласуется с продвигаемой концепцией бережливости.
Для европейских покупателей такой подход должен казаться знакомым. Скептицизм по поводу стимулов американских гиперскейлеров и предпочтение архитектур, не зависящих от одного поставщика, были сквозной темой по эту сторону Атлантики, и Writer целится прямо в эту аудиторию.
Стоит помнить и об определенных оговорках. К показателям эффективности, предоставленным самим вендором для своего продукта, стоит относиться с известной долей скепсиса, а формулировка «до 50%» не означает гарантию в 50%, однако общее направление движения трудно оспорить.
Более глубокий сдвиг заключается в том, что Writer называет инжинирингом оболочек (harness engineering): дисциплине расхода меньшего количества токенов на задачу вместо погони за еще одним пунктом в таблице лидеров. Если этот подход приживется — а стимулы все сильнее говорят о том, что так и будет, — эра вечно «голодных» моделей, возможно, наконец-то столкнется с жесткими бюджетными рамками.
Опубликовано 13 августа 2026 - 22:36 Наверх
