Китайская компания DeepSeek представила нейросетевую модель R1, которая в корень меняет правила игры. Эффективность её обучения вызывает споры о будущем индустрии и ставит под сомнение роль NVIDIA на рынке. DeepSeek R1 — это новая модель LLM (large language model), которая удивила рынок своей инновационной структурой и экономичной реализацией. В отличие от привычных подходов к обучению, […]
Исследователи из Нью-Йоркского университета обнаружили серьёзную уязвимость в работе языковых моделей (LLM), применяемых в медицинской сфере. Как показало исследование, опубликованное в журнале Nature Medicine, для нарушения работы искусственного интеллекта достаточно внедрить дезинформацию всего в 0,001% обучающих данных. В ходе эксперимента учёные намеренно внедрили сгенерированную ИИ медицинскую дезинформацию в популярный набор данных для обучения LLM под […]
В мире технологий редко какое событие вызывает столько обсуждений и ожиданий, как выпуск свежего обновления для iPhone. Несмотря на то что iOS 18 еще не получила все обещанные функции, до официального анонса iOS 19 остается не так много времени. Поэтому технологическое сообщество уже активно обсуждает потенциальные нововведения и изменения. Аналитики и инсайдеры делятся первой информацией […]
В последние годы большие языковые модели LLM стали неотъемлемой частью многих бизнес-процессов и приложений. Они позволяют автоматизировать взаимодействие с клиентами, генерировать контент и выполнять множество других задач. В этой статье мы рассмотрим, как российские пользователи могут получить доступ к различным языковым моделям (LLM) через сервис ProTalk, включая как бесплатные, так и платные варианты. Бесплатные LLM […]
Apple объявила о сотрудничестве с Nvidia в целях ускорения работы крупных языковых моделей (LLM) с использованием технологии с открытым исходным кодом Recurrent Drafter (сокращённо ReDrafter). Партнёрство направлено на решение вычислительных задач при авторегрессивной генерации токенов, что критически важно для повышения эффективности и снижения задержек в приложениях с языковыми моделями, работающими в реальном времени. ReDrafter, представленный […]
Разработчик Роб Копель представил проект Killed by LLM. Это мемориал бенчмаркам, коллекциям задач и набором данных, которые были побеждены прогрессом ИИ. Исходный код этого решения написан на HTML и TypeScript и опубликован на GitHub под лицензией MIT. Читать далее
LanhChain — фреймворк, предоставляющий обширный и удобный функционал по использованию LLM, он служит для разработки приложений на основе больших языковых моделей, создания AI-агентов, взаимодействия с векторными хранилищами и т.д. Читать далее
Илья Суцкевер, соучредитель и бывший главный ученый OpenAI, утверждает, что данные — это ископаемое топливо ИИ, и мы его исчерпали. Правда ли это? Это заявление сделано в контексте объяснения того, что ограничение для ИИ (особенно для LLM) заключается в качестве данных, необходимых для имитации интеллекта, — ограничение, часто называемое «энтропийным разрывом». Читать далее
Гордость «настоящего программиста» — это нечто. Он учился! У него и справка (диплом, сертификат) есть! Он крутой профессионал, с хорошей теоретической подготовкой! Поэтому простую функцию он просто написать не может. Он ее напишет максимально вычурно, с использованием специфических для его любимого языка приемов.То, что можно было написать в десяток строк — уложит в одну, то, […]
За последние годы качество LLM моделей сильно выросло, методы квантизации стали лучше, а видеокарты мощнее. Тем не менее качество генерации все еще напрямую зависит от размера весов и, как следствие, вычислительной сложности. Кроме того, генерация текста авторегрессионна — токен за токеном по одному, потому ее сложность зависит от размера контекста и количества генерируемых токенов. Но […]