Часть 2. Одноплатные компьютеры компании Firefly: Специализированные ИИ-решения на SOPHON

В прошлых статях мы подробно рассмотрели линейку Mini SBC от Firefly – компактные, энергоэффективные платы, ориентированные на задачи IoT, простые интерфейсные устройства и мобильные решения. А также Standard Mainboards, которые занимают более высокий уровень по возможностям и применимости.

Специализированные ИИ-решения на SOPHON

Помимо плат на процессорах Rockchip, в ассортименте Standard Mainboards представлены решения на базе систем на кристалле от китайской компании SOPHON. Эти платы ориентированы на выполнение задач искусственного интеллекта «на краю» — от обработки изображений и видео в реальном времени до работы с большими языковыми моделями.

В отличие от SoC общего назначения, платформы SOPHON изначально разрабатываются с акцентом на встроенные TPU-ускорители, обеспечивающие высокую производительность при работе с нейросетями. При этом они поддерживают стандартные ОС Linux и популярные фреймворки машинного обучения, что упрощает их интеграцию в существующие проекты.

Модель AIO-186JD4: мощный TPU для ИИ-инференса

Одним из представителей является AIO-186JD4. Этот одноплатный компьютер основан на шестиядерном процессоре SOPHON CV186AH (6×Cortex-A53, 1,6 ГГц).

Ключевая особенность — интегрированный мощный TPU с производительностью до 7,2 TOPS (INT8), что делает плату оптимальным выбором для ИИ-инференса и компьютерного зрения.

Плата поддерживает:

• Работу с современными архитектурами глубокого обучения, включая трансформеры;
• Приватное развертывание больших языковых моделей (LLM), таких как Gemma-2B, LLaMA2-7B, Qwen-1.8B и ChatGLM3-6B;
• Традиционные сети: CNN, RNN, LSTM;
• Популярные фреймворки: TensorFlow, PyTorch, Caffe, PaddlePaddle и ONNX;
• Контейнеризацию приложений через Docker.

Видеовозможности и аппаратная часть AIO-186JD4

Видеовозможности AIO-186JD4 ориентированы на обработку потоков высокой четкости:

• одновременный ввод до 6 видеопотоков через MIPI CSI;
• поддержка сенсоров до 16 Мп @30fps или 8K@15fps;
• продвинутый AI-ISP с функциями HDR, шумоподавления, коррекции и улучшения изображения.

На выходе доступен HDMI 2.0 (4K@60fps) и MIPI DSI. Видеокодек поддерживает аппаратное декодирование и кодирование H.264 вплоть до 8K, что делает устройство подходящим для систем видеонаблюдения и интеллектуальных камер.

Аппаратная часть предоставляет гибкие возможности расширения:

• до 8 ГБ LPDDR4 RAM;
• eMMC до 256 ГБ;
• SSD через M.2 NVMe или SATA 3.0;
• два гигабитных Ethernet;
• опциональные модули Wi-Fi 6/BT 5.2 или LTE/4G.

Энергопотребление платы умеренное: около 6,6 Вт в обычном режиме и до 12 Вт максимум. Размеры соответствуют формату других Firefly AIO-плат (122×85 мм), а рабочий диапазон температур позволяет использовать устройство в промышленных условиях.

Флагманская ИИ-плата: AIO-1684XJD4

Наибольшей вычислительной мощностью среди плат на SOPHON в ассортименте Firefly обладает AIO-1684XJD4. Это высокопроизводительный одноплатный компьютер на базе процессора SOPHON BM1684X, ориентированный на задачи AI Edge.

Чип создан по 12-нм техпроцессу и включает:

• 8-ядерный ARM Cortex-A53 до 2,3 ГГц;
• мощный встроенный TPU, обеспечивающий до 32 TOPS (INT8), 16 TFLOPS (FP16/BF16) или 2 TFLOPS (FP32).

Такой диапазон вычислений делает платформу универсальной – от работы с классическими моделями компьютерного зрения до задач, требующих высокой точности, например, в финансовом анализе или умных промышленных системах.

Архитектура и возможности интеграции AIO-1684XJD4

С точки зрения архитектуры, плата AIO-1684XJD4 поддерживает все основные ИИ-фреймворки – TensorFlow, PyTorch, PaddlePaddle, Caffe, ONNX и другие. Она поставляется с открытым SDK и инструментами для удобной разработки и миграции алгоритмов.

Конфигурация памяти и интерфейсы:

• 16 ГБ LPDDR4/4x RAM (в зависимости от конфигурации);
• eMMC до 128 ГБ;
• расширение через M.2 SSD, TF-карту и SPI Flash;
• два гигабитных Ethernet;
• опциональные модули Wi-Fi, 4G и 5G;
• стандартные интерфейсы ввода-вывода (USB 3.0/2.0, RS232, RS485).

Компактный форм-фактор (149×97 мм) и умеренное энергопотребление при высоких вычислительных возможностях позволяют интегрировать AIO-1684XJD4 в широкий спектр отраслей – от систем безопасности до энергетики. По сути, это флагманский одноплатный компьютер на базе SOPHON, который сочетает серверный уровень ИИ-производительности и удобство разработки, привычное для встраиваемых решений.

Решения на базе NVIDIA Jetson

Помимо устройств на основе Rockchip и SOPHON, в категории Standard Mainboards представлены одноплатные компьютеры на основе NVIDIA Jetson. Это решения для задач, где требуется сочетание высокой производительности в области ИИ и удобства разработки.

Firefly выпускает платы на модулях Jetson Orin Nano и Jetson Orin NX, которые обеспечивают, соответственно, до 67 TOPS и 157 TOPS вычислительной мощности. Благодаря поддержке полного стека NVIDIA (CUDA, TensorRT, cuDNN и др.), они отлично подходят для задач генеративного ИИ, компьютерного зрения, робототехники и автономных систем.

Модель AIO-OrinNano: баланс производительности и эффективности

AIO-OrinNano основан на модуле Jetson Orin Nano (8 ГБ LPDDR5) и сочетает в себе:

• шестиядерный процессор ARM Cortex-A78AE (до 1,7 ГГц);
• GPU на архитектуре Ampere с 1024 ядрами и 32 тензорными ядрами.

Это обеспечивает до 67 TOPS производительности при ИИ-инференсе и открывает возможность работать не только с классическими моделями компьютерного зрения, но и с современными трансформерными архитектурами, включая генеративные модели для обработки текста и изображений.

Для мультимедийных приложений AIO-OrinNano поддерживает:

• декодирование видео до 4K@60fps;
• ввод через два интерфейса MIPI CSI;
• вывод на HDMI 2.0 (4K@30fps).

Плата оснащена гигабитным Ethernet, возможностью расширения Wi-Fi 6/BT 5.2, 4G и 5G-модулями, а также поддержкой NVMe SSD через M.2. Умеренное энергопотребление (от 6 Вт в нормальном режиме) и рабочий температурный диапазон от -20 до +60 °C делают её удобной для встраиваемых и мобильных решений.

Ключевое преимущество AIO-OrinNano — богатая программная экосистема. Плата поддерживает не только стандартные фреймворки вроде PyTorch и TensorFlow, но и специализированные библиотеки NVIDIA для ускорения ИИ-задач, а также Docker для контейнеризации.

Разработчики могут локально развёртывать:

• крупные языковые модели (например, LLaMA 3, Phi-3 Mini);
• визуальные модели (NanoSAM, EfficientViT);
• использовать плату в генеративных приложениях (AIGC), включая Stable Diffusion.

Всё это делает AIO-OrinNano отличным выбором для старта в проектах, где требуется баланс мощности и энергоэффективности.

Флагман производительности: AIO-OrinNX

AIO-OrinNX — самый мощный одноплатный компьютер в линейке Firefly, построенный на базе модуля NVIDIA Jetson Orin NX.

Его аппаратная основа:

• 8-ядерный ARM Cortex-A78AE до 2,0 ГГц;
• GPU архитектуры Ampere с 1024 CUDA-ядрами и 32 тензорными ядрами.

Эта конфигурация обеспечивает колоссальные 157 TOPS вычислительной мощности для задач ИИ. Такой уровень производительности позволяет запускать и масштабировать даже самые ресурсоёмкие модели — от крупных языковых до сложных генеративных и визуальных сетей, обеспечивая работу «на грани» сети без необходимости подключения к облаку.

Устройство ориентировано на профессиональные сценарии:

• робототехника;
• «умные» города;
• автономный транспорт;
• системы промышленного контроля и аналитики.

AIO-OrinNX поддерживает одновременную обработку множества видеопотоков:

• до 8K@30fps на декодировании;
• несколько потоков 4K или десятки потоков Full HD на кодировании.

Это делает его особенно актуальным для систем видеонаблюдения и ситуационного анализа, где требуется не только захват изображения, но и его мгновенная интерпретация нейросетями.

Программная экосистема и генеративный ИИ

Программная часть полностью базируется на экосистеме NVIDIA: CUDA, TensorRT, cuDNN, а также поддержке популярных фреймворков (PyTorch, TensorFlow, PaddlePaddle и др.).

Кроме того, AIO-OrinNX оптимизирован для работы с генеративными моделями. Он поддерживает приватное развёртывание:

• LLaMA 3, Phi-3 Mini;
• визуальных моделей (NanoSAM, EfficientViT);
• AIGC-фреймворков вроде Stable Diffusion и Flux.

Это делает плату мощным инструментом для работы с современными задачами в области ИИ.

При этом AIO-OrinNX сохраняет компактный форм-фактор (122 × 85 мм) и оснащен:

• поддержкой NVMe SSD через M.2;
• гигабитным Ethernet;
• расширяемыми модулями Wi-Fi 6/BT 5.2, 4G/5G.

Энергопотребление при пиковых нагрузках достигает 34,8 Вт, что вполне оправдано для устройства с серверным уровнем вычислительной мощности. По сути, это флагманский SBC Firefly, способный заменить специализированные ИИ-серверы в задачах Edge Computing.

В таблице ниже показаны основные характеристики моделей Standard Mainboards и аналоги.

Заключение: широкий выбор для любых задач

Одноплатные компьютеры категории Standard Mainboards от Firefly охватывают широкий спектр решений – от энергоэффективных плат на базе Rockchip до специализированных ИИ-ускорителей SOPHON и флагманских платформ на основе NVIDIA Jetson Orin.

Такой ассортимент позволяет подобрать оптимальное решение для различных проектов:

• мультимедийные системы;
• промышленные контроллеры;
• интеллектуальное видеонаблюдение;
• робототехника;
• проекты с генеративным искусственным интеллектом.

Все платы отличаются поддержкой популярных фреймворков, богатыми интерфейсами и возможностью расширения, что делает их удобными для быстрой интеграции в коммерческие и исследовательские проекты.

Где приобрести Standard Mainboards от Firefly в России?

Приобрести эти одноплатные компьютеры можно в компании Матрикс Электроника — официальном партнере Firefly. Это гарантирует доступ к актуальным моделям, технической поддержке и квалифицированным консультациям.