Большие языковые модели где только не применяют: генерируют внешний вид автомобилей, домов и кораблей, саммаризируют круглые столы и конференции, придумывают тезисы к статьям, рассылкам и презентациям. Но при всех «плюшках» от внедрения ИИ, не стоит забывать про безопасность. Большие языковые модели атакуют разнообразными изощрёнными способами. В топе новостей о нейросетях — многомиллионные инвестиции в средства защиты […]
Всем привет, меня зовут Артём Семенов, я являюсь автором Телеграм канала PWN AI. С момента релиза GPT 3.5 прошло больше 2ух лет. Это явление, я про распространение LLM, стало революционным во всех сферах, включая кибербезопасность. Модели стали применять для разных вещей. Например, использовать как дополнение к SAST, анализатор Vulnhunter от protectai может использоваться для анализа […]
Несколько вопросов для LLM Screenshot-2025-01-05-at-09.54.13.png AGI пока откладывается, но это не значит, что LLM, уже сейчас, нельзя использовать по своему прямому назначению — для анализа и обработки данных. Сhappell University это огранизация, которая с 1992 года занимается подготовкой специалистов в области анализа сетевого трафика. Иногда они выкладывают простые задания для своих абитуриентов. https://www.chappell-university.com/post/wireshark-challenge-june11 Снимок сетевого трафика […]
Исследователи в области кибербезопасности из компании Palo Alto Networks Unit 42, подразделения, специализирующегося на кибербезопасности и исследовании угроз, раскрыли новую технику взлома, позволяющую обходить системы безопасности больших языковых моделей (LLM) и получать потенциально вредные или злонамеренные ответы. Эта стратегия получила кодовое название Bad Likert Judge. Её разработали исследователи Yongzhe Huang, Yang Ji, Wenjun Hu, Jay Chen, Akshata […]
AI-решения сейчас повсеместно и я решил не оставаться в стороне: внедрил LLM для фильтрации/кластеризации контента для своего пет-проекта с агрегацией объявлений. В статьей делюсь опытом, шишками и сравнением разных LLM. Читать далее
🚀 Представьте, что каждый раз, когда кто-то спрашивает совета у ChatGPT, он рекомендует именно ваш бизнес. Это становится возможным благодаря Generative Engine Optimization (GEO) — инновационной концепции, разработанной исследователями из Принстона, ETH Zürich и Гарварда. GEO — это больше, чем просто SEO для эпохи ИИ. Если традиционное SEO помогает вашему сайту попасть в топ поисковых […]
![[Перевод] GraphRAG: Повышение точности и полноты GenAI](https://habrastorage.org/getpro/habr/upload_files/347/b4c/5e2/347b4c5e21e4f747a28b3b33517c2d6b.jpg)
GraphRAG предоставляет «граф знаний» LLM. В отличие от текстовых документов, эти структуры данных четко отображают взаимосвязи между объектами. Читать далее
Стоит ли нам доверять тому, что не способно осознавать последствий своих действий? Кажется, что ответ очевиден, но по мере развития ниши лингвистических моделей мы всё чаще поручаем ИИ выполнять за нас часть рутинных задач. Меня зовут София, я сотрудница RnD-отдела компании Raft, работаю на стыке ML и backend. Сегодня мне бы хотелось обсудить вопросы этики […]
Как научить ИИ думать масштабно, но экономно? Представьте интеллект, который выбирает, какой «размер мозга» нужен для каждого запроса: от простого ответа «2+2» до сложных вычислений. Заставить модель говорить «я не знаю» и «просить о помощи», при этом эффективно расходуя ресурсы? Читать далее
Я задал следующий вопрос наиболее популярным LLM. Сделай прогноз на 2025 год.Какие существенные изменения произойдут в области разработки и внедрения систем ИИ по сравнению с текущим уровнем и какие принципиально новые уровни будут достигнуты. Как в связи с этим изменится наша жизнь. Ответ должен быть конкретным и реалистичным. И вот каков прогноз. Читать далее