Первые отзывы о новом наборе разработчика Nvidia Jetson AGX Thor говорят о том, что он впечатляющий, дорогой и будет только улучшаться.

Недавно Nvidia представила набор разработчика Jetson AGX Thor стоимостью 3,499 долларов. Эта платформа предназначена для разработки робототехники и периферийных приложений искусственного интеллекта (AI) и уже вызвала положительные отзывы критиков.

В основе системы лежит модуль Jetson T5000, построенный на архитектуре Blackwell. Этот модуль объединяет графический процессор с 2560 ядрами CUDA, 96 тензорными ядрами и процессором Arm Neoverse на 14 ядер. К нему подключены 128 ГБ памяти LPDDR5x, обеспечивающей пропускную способность свыше 270 ГБ в секунду, а также встроенный накопитель емкостью 1 ТБ. Для подключения предусмотрены порты: USB C, USB A, HDMI 2.1, Wi-Fi 6E, Bluetooth, гигабитный Ethernet и порт 100GbE.

Первые отзывы о наборе говорят о впечатляющих возможностях продукта от Nvidia, несмотря на его более высокую цену по сравнению с Jetson Oriin. Тестирование HotHardware показало отличную производительность системы, даже при ограниченном сравнении: контейнеры Arm64 от Nvidia работали гладко, однако сравнение с другим оборудованием Blackwell было невозможно из-за отсутствия такого оборудования в наличии для тестов. К тому же, комплект Jetson Oriin не смог выполнить задачи из предложенных рабочих нагрузок.

Разрыв между возможностями двух моделей был очевиден: если Jetson Oriin приближалась по производительности к RTX 3050, то Jetson AGX Thor демонстрировал уровни близкие к RTX 5070. Особенно впечатляюще показали себя модели больших языков, что подчеркивает важность этой функции в контексте использования таких комплектов для разработки робототехники и AI.

В обзоре HotHardware подчеркивалось: “LLM (модели большого языка) — это именно та область, где Jetson демонстрирует превосходные результаты, поскольку ожидается интеграция естественного языка с визуальными данными у человекообразных роботов”. В заключении обзора отмечалось наличие “огромной мощности” для проектов в области робототехники и AI.

Рецензент ServeTheHome также оценил производительность комплекта как близкую к заявленным характеристикам, включая показатели обработки токенов (149.1 против ожидаемых 150.8 на Llama 3.1 8B). Многопоточная производительность CPU находилась на уровне AMD Ryzen AI 7 350 или Mac Mini M4, что было признано достаточным для системы, фокусирующейся на GPU.

В ходе сравнительного тестирования Jetson AGX Thor неизменно обгонял Jetson Oriin во всех моделях. Ускорение на малых нагрузках (например, Qwen 2.5-VL 7B и Llama 3.1 8B) было умеренным — примерно в 1.3 раза быстрее. Хотя потребление энергии может вызвать проблемы с батарейным питанием, обзор от ServeTheHome заключил, что Thor предоставляет необходимые вычислительные ресурсы и объем памяти для продвинутых проектов в области робототехники. Также был упомянут встроенный SSD объемом 1 ТБ марки WD/SanDisk SN5000S.

Оба обзора охарактеризовали Jetson AGX Thor как значительный шаг вперед для разработчиков периферийных систем AI и роботов, высоко оценивая комбинацию вычислительной мощности, объема памяти и доступных инструментов разработки. При этом отмечалось, что для полного раскрытия потенциала продукта потребуются обновления программного обеспечения.