Рубрики
Технологии

Алгоритм Google TurboQuant только усугубит катастрофу на рынке памяти? Различные аналитики считают, что мы столкнёмся с эффектом Джевонса

Кризис вообще не пройдёт?

Вполне возможно, что кризис на рынке памяти усугубится ещё сильнее, и всё благодаря новой разработке Google, с которой, напротив, связывали надежды на более быстрое его разрешение. Ряд аналитиков считает, что технология TurboQuant не снизит спрос на память, а приведёт к ещё большему его росту.

Напомним, TurboQuant представляет собой алгоритм сжатия памяти для искусственного интеллекта, который позволяет сократить затраты памяти при обучении моделей в четыре-восемь раз. Казалось бы, это здорово, ведь компаниям понадобится в разы меньше памяти. И сразу после анонса этой технологии акции производителей памяти резко пошли вниз. Однако, возможно, радоваться не стоит. Как минимум, согласно данным Financial Times, которые приводят мнения различных аналитиков.

Квон Сок-джун, профессор Университета Сонгюнкван в Сеуле, говорит, что TurboQuant потенциально снижает стоимость запуска больших языковых моделей в четыре-восемь раз, но радоваться не стоит.

Значительно более низкая стоимость вывода данных открывает доступ к задачам, выполнение которых ранее было слишком дорогостоящим, что приводит к увеличению, а не к снижению общей потребности в вычислительных ресурсах

Сюда профессор относит, к примеру, работу помощников по программированию в реальном времени и одновременный запуск нескольких агентов ИИ.

И Сок-джун не одинок в таком мнении. Хан Ин-су, один из исследователей, на чьей работе как раз основан алгоритм Google TurboQuant, говорит, что алгоритм может служить основой для реализации ранее невозможных сложных задач, таких как обработка гораздо более длинных контекстов в условиях ограниченных ресурсов памяти без ущерба для точности, или внедрение высокопроизводительного ИИ на более компактных устройствах.

Аналитик Ким Ён-гун видит в появлении TurboQuant аналогию с ситуацией, которая образовалась с появлением технологии «контейнеризации» Google Kubernetes. Она позволяет запускать несколько приложений на одном сервере, значительно повышая эффективность оборудования. Когда её запустили, на рынке опасались, что спрос на серверы и память снизится, поскольку компаниям потребуется меньше ресурсов для достижения тех же результатов. На практике произошло обратное: снижение затрат стимулировало гораздо более широкое использование.

Рынок в значительной степени неправильно оценил TurboQuant. Мы по-прежнему считаем, что по мере развития моделей ИИ и продвижения инноваций потребуется все больше памяти как для обучения, так и для вывода результатов

Всё это похоже на эффект (парадокс) Джевонса. Это термин, описывающий ситуацию, когда в рамках развития какой-то технологии резко повышается эффективность использования какого-либо ресурса, вследствие чего потребление этого ресурса не падает, а, напротив, растёт из-за более низких затрат.

Стоит отметить, что пока что TurboQuant не начал влиять на рынок. Источник говорит, что его реальное влияние станет очевидным после презентации на Международной конференции по обучению представлениям в Бразилии в конце апреля. После этого алгоритм смогут протестировать специалисты из других компаний.