В первой статье я высказал простую идею: если вычисление можно свести к конечной таблице операции, его можно проверять, а не угадывать. То есть его можно свести не к «модель выдала вероятность 0,67», а просто открыть таблицу и сказать: вот ячейка, вот результат, rc=0. Эта статья — прямое продолжение первой статьи (сейчас у меня на руках […]
В этой уже 5 по счету статье мы поговорим про актуальность локального AI в мобильных приложениях а также займемся интеграцией плагина для локальных LLM в Capacitor приложение. Читать далее
Написал большую техническую статью на тему «Что считают 5-часовые лимиты в ChatGPT, Claude и других LLM — и почему модели вообще стоят по-разному» Там красиво и с картинками Новая статья дополняет две уже написанные мной ранее и рассказываете про еще более глубокие слои того, какие вычисления происходят за шторкой 5-ти часовых лимитов. Ссылка на саму статью (там много картинок, […]
Привет, Хабр! Это Андрей Ловлин, руководитель команды «Фабрика данных. Платформа» компании Диасофт. В предыдущей статье мы рассказывали про S3 Архипелаг – слой хранения для нашей «Фабрики данных» (Digital Q.DataFactory). Сегодня речь пойдет о другой задаче: построение конвейера интеллектуального распознавания документов, загружаемых в нашу «Фабрику данных». PDF-файлы, сканы, фотографии договоров – все это накапливается в организациях […]
Каждый, кто работал с большими языковыми моделями (LLM), знает эту боль. Ты задаёшь вопрос. Бот выдаёт уверенный, красивый, но абсолютно ложный ответ. Ты пишешь: «Что за дичь ты несёшь?» Бот извиняется: «Вы абсолютно правы, вот исправленный вариант». И выдаёт ещё большую дичь, чем в первый раз. Прямо как студент на экзамене. Сегодня разбираемся, почему так […]
Что делать, когда нужно описать опыт, для которого нет слов ни в одном языке? Третья статья цикла — о том, как в разговоре человека и LLM рождаются новые слова, почему они получились русскими, а не английскими, и как сама модель, оказывается, мыслит с английским акцентом. С отсылками к Хлебникову и Заболоцкому, японскому, а также языкам, […]
Политики QoS — это основа для управления веб-трафиком и реализации качественного соединения (особенно на инфраструктуре операторов связи). Мы в VAS Experts предлагаем решение PCEF, которое отвечает за применение политик качества обслуживания и контроль сетевого поведения. Однако сама область QoS активно развивается: регулярно появляются улучшенные алгоритмы и подходы к управлению трафиком, так что системным и сетевым […]
Согласно статистическому отчёту State of AI Traffic от Human Security, за последний год резко увеличилась активность ИИ-агентов, ботов и ИИ-инструментов в интернете. Например, трафик от ИИ-агентов увеличился почти в 80 раз (на 7851%), трафик от ИИ-скраперов — на 597%. Весь ИИ-трафик за последний год увеличился на 187%, а в целом он растёт в восемь раз […]
При работе с локальными LLM через Claude Desktop, Kilo Code, Cursor или другие MCP-клиенты часто возникает одна и та же ситуация: Нужен filesystem для работы с файлами,web-search для поиска в интернете,memory для хранения контекста между сессиями, sequential-thinking для сложных рассуждений. И ещё десяток серверов… Каждый MCP-сервер — это отдельный процесс, отдельная конфигурация, отдельная точка отказа. […]
Три месяца назад, в феврале, я написал комментарий, что LLM-агенты могут обновлять кодовую базу по тикетам конечных пользователей и сразу выкатываться на прод. Некоторые коллеги эту идею поддержали, некоторые наоборот — раскритиковали. Это нормально, у нас у всех свой собственный опыт, которым и форматируется наше мышление. Мой опыт говорит мне о том, что агентов можно […]