Nvidia представила открытую модель Nemotron 3.5 Lightning для работы на одном GPU

Nvidia представила обновлённую версию открытой модели Nemotron 3.5 Lightning. Она продолжает линейку Nemotron, которую компания развивает с прошлого года. Главное отличие — модель теперь может работать на одном GPU, даже в ноутбуке или настольном компьютере.

Раньше для запуска подобных моделей требовались мощные серверы или кластеры GPU. Nemotron 3.5 Lightning упрощает доступ к технологии — достаточно обычного графического процессора. Это делает её удобной для разработчиков, которые хотят экспериментировать с ИИ без дорогого оборудования.

Nvidia открыла исходный код модели. Это позволяет свободно модифицировать и адаптировать её под конкретные задачи. Компания рассчитывает, что открытость ускорит развитие инструментов на основе Nemotron.

Модель подходит для генерации текста, анализа данных и других задач. Её можно использовать в локальных проектах, не зависящих от облачных сервисов. Это особенно важно для сфер, где критична конфиденциальность информации.

Nvidia не раскрыла точные требования к оборудованию, но подтвердила, что модель оптимизирована для работы на потребительских GPU. Технология доступна для скачивания на официальном сайте компании.