Её секрет — циклическая обработка. Для каждого токена Inkling 2 Mini трижды прогоняет через себя средние слои, поэтому может рассуждать дольше, записывая меньше. Впрочем, у этого преимущества есть компромисс, о котором лаборатория говорит прямо.
«Циклическая обработка позволяет модели дольше рассуждать, не записывая свои рассуждения, что важно для мониторинга», — написали в Thinking Machines.
Модель, созданная для циклической обработки
Inkling 2 Mini — модель со смесью экспертов, всего с 26,4 млрд параметров и 3,4 млрд активных параметров на токен. С учётом циклов на каждый токен приходится 5,4 млрд активаций весов. Её 24 слоя разделены на четыре блока по шесть слоёв. Первый и последний блоки выполняются один раз, а два средних — трижды.
Для работы всей модели требуется около 20 ГБ памяти. Большинство её весов обучали и запускали в формате NVFP4 с точностью 4 бита от Nvidia, поэтому последующее преобразование не приводит к потере качества. Кроме того, во время обучения лаборатория удалила две трети экспертов модели, а затем дообучила её на 1 трлн токенов из более крупной внутренней модели Inkling.
В собственных тестах лаборатории циклическая обработка дала результат. Версия без циклов обходилась на 7,5% дешевле в обучении, но для достижения результатов циклической версии ей требовалось на 140% больше вычислительных ресурсов во время работы.
Чтобы продемонстрировать возможности модели, исследователи лаборатории взяли её с собой в самолёт. Работая без подключения к интернету на MacBook Pro в авиарежиме, она за несколько минут создала играбельный авиасимулятор. В другой демонстрации один MacBook без подключения к интернету управлял всеми 20 жителями пиксельного городка, который модель также создала сама.
Дешевле и быстрее — согласно тестам
По данным лаборатории, модель набрала 48,2% в DeepSWE v1.1 и 77,9% на сложной подборке заданий SWE-bench Pro. Alibaba Qwen3.8-27B показала в тех же тестах 42,2% и 73,8%. Веса модели доступны на Hugging Face, а запускать её можно через Ollama на компьютерах Mac как минимум с 32 ГБ памяти.
Artificial Analysis, которая независимо тестирует модели, поставила Inkling 2 Mini 20 баллов в своём рейтинге Intelligence Index. Это столько же, сколько у Qwen3.8 27B, хотя активных параметров у Inkling примерно в пять раз меньше. Модель выпущена по лицензии Apache 2.0, длина её контекстного окна — 1 млн токенов.
По результатам тестирования компании, на каждое задание Inkling 2 Mini тратит примерно в шесть раз меньше средств и справляется примерно в четыре раза быстрее, чем Qwen3.8 27B. Одно задание обходится в 0,59 доллара и занимает девять минут против 3,53 доллара и 38,2 минуты. Однако при одинаковом результате модель использует примерно на 38% больше выходных токенов. Для сравнения: GPT-6 Luna от OpenAI набрала 28 баллов при стоимости 0,15 доллара за задание.
Лаборатория также перечисляет слабые стороны модели. Inkling 2 Mini не лучшая среди небольших моделей для многоэтапных диалогов и инструкций с множеством ограничений — здесь её превосходит Qwen3.8-27B. В сложных тестах на рассуждение она уступает более крупным моделям, а циклическая обработка не помогает ей запоминать больше фактов.
Можно ли по-прежнему читать её рассуждения?
Лаборатории, занимающиеся ИИ, отчасти контролируют модели, читая изложенные ими рассуждения, известные как цепочка мыслей. Циклическая модель может выполнять большую часть рассуждений внутри себя, скрывая их от наблюдателя. OpenAI столкнулась с тем же вопросом после того, как её модель Astra в сентябре показала выдающиеся результаты в тестах.
Thinking Machines также выпускает исследовательскую модель, способную проходить от одного до пяти циклов, чтобы внешние исследователи могли изучить этот эффект. В тестах рассуждения модели при пяти циклах были менее чем вдвое длиннее, чем при одном: 1 661 токен против 3 703. При этом они оставались столь же понятными. Увеличение числа циклов не помогло модели лучше скрывать саботаж от наблюдателя.
«На этом масштабе мы не видим значимого снижения возможности контролировать её рассуждения», — написали в лаборатории.
Там подчеркнули, что результаты предварительные. Исследовательскую модель обучали с подкреплением только при трёх циклах, а модель, обученная на большем их количестве, могла бы ещё сильнее сжимать рассуждения. Наблюдатель, который видел только вызовы инструментов и их результаты, также пропустил значительное число атак.
Этот выпуск последовал за выходом первой модели Inkling в июле — гигантской модели с открытыми весами, которую лаборатория сама признала не лучшей. Среди её новых конкурентов для локального запуска — Flint от Recursive, которая фигурирует в собственных рейтингах лаборатории по программированию.
Опубликовано 21 ноября 2026 - 07:49 Наверх



