Nemotron 3.5 Super VL — это гибридная модель с архитектурой mixture-of-experts, которая активирует 12 млрд параметров на каждый токен, обеспечивая высокую производительность при относительно низких вычислительных затратах.
Модель способна одновременно работать с текстом и визуальной информацией, что позволяет использовать её для кода, веб-исследований, анализа документов, кибербезопасности и видеоаналитики.
NVIDIA открыла веса модели, обучающие наборы данных и рецепты дообучения, что даёт компаниям возможность адаптировать модель под свои задачи и запускать её на собственной инфраструктуре.
Развёртывание модели на AWS поддерживается через стандартные кластеры Amazon EKS, включая автоматическое масштабирование и интеграцию с GPU, что упрощает внедрение и эксплуатацию.
Тестирование показало высокую эффективность модели по ряду бенчмарков, а инструменты мониторинга помогают оптимизировать производительность и планировать ресурсы.
Nemotron 3.5 Super VL открывает новые горизонты для компаний, которые хотят внедрять сложные мультимодальные ИИ-решения с возможностью кастомизации и масштабирования на облачной инфраструктуре AWS. Это особенно актуально для отраслей с большими объёмами данных и необходимостью интеграции разных типов информации.
Материал подготовлен редакцией VOSHOD по открытому источнику. Мы сокращаем и адаптируем текст, чтобы выделить практический смысл.