Квантизация помогла портировать последнюю версию LLM Llama 3.2 на мобильные платформы — iOS и Android. Для этого разработчики выпустили квантованные версии Llama 3.2 1B и 3B, которые при тестах на ARM-процессорах показали высокую скорость инференса, по сравнению с несжатыми весами в формате BF16. Как вообще получилось, что Llama работает на мобильных процессорах, ведь для ее […]
Метка: SWIFT
GitHub выпустил предварительную версию ИИ-инструмента кодирования Copilot для Xcode. Он поможет разработчикам повысить производительность, ускорить разработку и улучшить их общий опыт кодирования. GitHub Copilot для Xcode предлагает ряд функций: • Завершение кода с предложениями кода в режиме реального времени • Поддержка нескольких языков, включая Swift и Objective-C • Многострочный код • Фильтрация контента для обеспечения…