Исследователи Google представили новый алгоритм сжатия памяти для систем искусственного интеллекта (ИИ) под названием TurboQuant, который позволяет значительно снизить объем используемой оперативной памяти нейросетями без потери производительности. Об этом сообщает издание TechCrunch.
Разработка направлена на устранение одного из ключевых ограничений современных ИИ – высокой нагрузки на оперативную память.
Алгоритм использует метод векторной квантизации для оптимизации так называемой рабочей памяти, благодаря чему системы могут обрабатывать больше данных, занимая меньше ресурсов и сохраняя точность вычислений.В Google отмечают, что технология позволяет уменьшить объем используемой памяти как минимум в шесть раз. Это может снизить стоимость эксплуатации ИИ и повысить эффективность работы моделей на этапе выполнения задач.
Разработку планируется представить на конференции ICLR 2026. Пока технология остается на стадии лабораторных исследований и не внедрена в коммерческие продукты.
Эксперты отмечают, что в случае успешного внедрения TurboQuant может существенно повысить эффективность ИИ-систем, однако он решает лишь часть проблемы, связанной с потреблением памяти, поскольку не затрагивает ресурсоемкий этап обучения моделей, который по-прежнему требует значительных вычислительных мощностей.
Свежие комментарии