Окно закрылось: стелс-модель union-alpha деанонилась как Pareto от Unbiased… и счёт за токены, который я не получил.
Вчера я опубликовал разбор стелс модели union-alpha: за один вечер она собрала рабочую ветку комментариев для НЕЛЬЗЯgram агента, мы прогнали её через аудит вторым ИИ, три живых теста и проверку памяти. Статья вышла вечером… Ирония: егодня утром стелса нет. Страница union-alpha сменила плашку:
На месте стелса уже платная unbiased/pareto: 2.50 у.е. за миллион входных токенов и 7.50 у.е. за выходной, те же 262K контекста, описание слово в слово то же самое, релиз 17 сентября.
Это уже второй виток одного паттерна. Прошлый стелс (ox-alpha0 неделю отвечал бесплатно, а потом деанонился как GLM 5.3 Flash от Z.ai. У union-alpha бесплатное окно прожило ровно сутки: 16 и 17 сентября. Мои тесты шли 17 = в последний день окна. Конечно хотелось бы почитать ещё, о том как кто протестировал эту union-alpha до её деанона…на Open router уже её «прогнали» за 2е суток по полной вижу:
-
За 17 сентября модель успела обработать небольшой объем: 120 млн входных токенов (Prompt) и 2,61 млн токенов ответа (Completion);
-
За 18 сентября (на момент публикации поста) виден гигантский скачок — суммарно обработано более 1,13 миллиарда Prompt-токенов (входных данных) и 21,7 миллиона Completion-токенов (ответов модели);
Теперь математика расходов:
Вчерашние мои прогоны данной llm — сборка одной ветки: ТЗ на 28200 токенов входа, чтение проекта, генерация семи файлов, итерации правок, три боя. Типичная сессия Cline такого масштаба это единицы миллионов токенов, где большая часть является кэш чтение. Возьмём средние 3 млн. входных (80-85% кеша) и около 50 тысяч выходных и подставим прайс Pareto:
-
вход без кеша: около 0,5 млн умножить на 2.50 у.е. = 1.25 у.е.
-
кеш чтение: около2,5 млн умножить на 0.25 у.е. = 0.63 у.е.
-
выход: 0,05 млн на 7.50 у.е. = 0.38 у.е.
Итого около 2.3 долларов за вечер работы модели, включая аудиты и три прогона. Мне повезло дважды: поймал окно и взял скромный масштаб задачи.
А теперь подставьте прошлый мой тест — эксперимент ( https://habr.com/ru/articles/1076084/) : 60,9 млн токенов за три дня, 85% кэш хитов. По прайсу GLM Flash тот прогон вышел около $4. По прайсу Pareto он же стоил бы в пределах 45-50 долларов. Разница в десять с лишним раз просто за то, что модель «сняла плащ» (и конечно обьём токенов то).
Вывод тем, кто «охотится» за стелсами, короткий:
-
Окна сужаются: у ox-alpha было неделя, у union-alpha — сутки. Успел за сутки = считай, заработал.
-
ТЗ и контекст готовь заранее: их цена от окна не зависит, а вот прогон зависит напрямую.
-
Бенчмарки кончено нужны, однако, когда есть живая задача и стелс окно «здесь и сейчас»: моей ветке комментов инсты было всё равно, станет ли модель платной завтра.. ей надо было работать сегодня))
Если интересны подробности и разбор моих тестов — прогонов с кодом скринами , то всё в статье ( https://habr.com/ru/articles/1083578/ ).
Всем добра, и спасибо за внимание =)