Рубрики
Технологии

Я объяснил KERNEL маме за пять минут. Потом проверил, переживёт ли он LLM в production

Недавно я попробовал объяснить маме, как нормально ставить задачи ChatGPT.

Без temperature, context window, system prompt и прочих слов, после которых человек вполне справедливо решает, что проще уже сделать всё самому.

Я сказал примерно так: «Сформулируй, что тебе нужно. Объясни, каким должен быть результат. Если есть ограничения, напиши их сразу. Не сваливай пять разных задач в одну. И не заставляй модель угадывать то, что существует только у тебя в голове».

На всё ушло минут пять.

А потом я понял, что почти дословно пересказал KERNEL, один из фреймворков для написания промптов.

И тут стало интереснее: если базовый prompt engineering действительно можно объяснить человеку за пять минут, что происходит, когда LLM переезжает из вкладки браузера в реальный продукт?

Читать далее