Новый блок искусственного интеллекта RK3588 выводит на рынок производительность искусственного интеллекта 6 TOPS Edge

Новый блок искусственного интеллекта RK3588 выводит на рынок производительность искусственного интеллекта 6 TOPS Edge

Задержка, затраты на полосу пропускания и риски безопасности, связанные с облачным машинным обучением, привели к постоянному изменению архитектуры цифровых вывесок и промышленных сетей Интернета вещей. Обработка данных в реальном времени — будь то выполнение алгоритмов обнаружения объектов для розничной аналитики или управление автоматизированными системами контроля качества — теперь требует локализованных вычислений на устройстве. Интеграция Rockchip RK3588, оснащенного гибридным NPU INT4/INT8/INT16/FP16, способным выполнять 6 тера операций в секунду (TOPS), устанавливает новую основу для коммерческого AI-бокс.

Для руководителей B-Suite приобретение устройства на базе RK3588 не является стандартным приобретением оборудования. Устойчивое выполнение моделей вывода нейронных сетей требует строгого управления температурным режимом, специализированных конфигураций ввода-вывода (I/O) и неограниченного программного управления, которое не могут обеспечить телевизионные приставки розничного уровня.

Теплофизика непрерывной нейронной обработки

Работа NPU на пиковой мощности для обработки нескольких видеопотоков высокого разрешения приводит к сильному локализованному нагреву. Оборудование для розничной торговли, спроектированное на основе компактных, экономичных печатных плат (PCBA) и пассивных фольговых радиаторов, подвергается быстрому тепловому насыщению при таких непрерывных рабочих нагрузках. Возникающее в результате тепловое регулирование снижает тактовую частоту NPU, создавая критическую задержку в конвейере вывода ИИ и в конечном итоге ускоряя выход из строя материнской платы.

Чтобы развернуть 6 TOPS AI-бокс в коммерческих средах, работающих круглосуточно и без выходных, вмешательство оборудования на этапе производства является обязательным. Инженеры SZTomato устраняют это физическое ограничение посредством специальных модификаций печатной платы. Мы отделяем блок управления питанием (PMU) и тяжелые компоненты от основной SoC RK3588, чтобы предотвратить накопление тепла. Кроме того, в этих коммерческих устройствах используются массивные экструдированные алюминиевые шасси, стратегические алгоритмы вентиляции и материалы термоинтерфейса промышленного класса. Эта настраиваемая тепловая архитектура гарантирует, что кремний будет работать в пределах безопасных температурных параметров, поддерживая непрерывную скорость вывода без потери кадров или нестабильности системы.

Разработка прошивки: обход песочницы розничной ОС

AI-бокс — это, по сути, пограничный сервер; развертывание системы под управлением универсальной операционной системы Android, ориентированной на потребителя, приводит к серьезным эксплуатационным трудностям. Фоновые розничные сервисы потребляют жизненно важную оперативную память, а заблокированные загрузчики не позволяют разработчикам эффективно развертывать собственные модели искусственного интеллекта с помощью таких платформ, как TensorFlow или PyTorch, с использованием набора инструментов RKNN от Rockchip.

Корпоративным приложениям требуется упрощенная и высокоэффективная ОС. SZTomato обеспечивает абсолютную автономность прошивки за счет прямой оптимизации ядра Linux (Ubuntu/Debian) и Android. Удалив ненужное потребительское раздутое ПО и предоставив доступ на корневом уровне, системные интеграторы могут выделить максимум системных ресурсов непосредственно для полезной нагрузки ИИ. Этот глубокий доступ также облегчает создание индивидуального встроенного ПО пользовательского интерфейса и пользовательского интерфейса, гарантируя, что устройства, развернутые в общедоступных или институциональных условиях, останутся заблокированными в безопасных, запатентованных режимах работы.

Интеграция периферийных устройств и архитектура безопасного развертывания

Экосистемы периферийных вычислений в значительной степени полагаются на входные данные датчиков и сетевую координацию. Стандартных конфигураций HDMI и USB недостаточно для сложных промышленных установок. Архитектура AI-бокс должна физически поддерживать конкретные параметры развертывания.

• Расширение пользовательского ввода-вывода: используя нашу производственную инфраструктуру OEM/ODM, SZTomato модифицирует печатную плату для предоставления необходимых промышленных интерфейсов. Сюда входит интеграция RS232/RS485 для устаревшего последовательного управления, контакты GPIO для триггеров аппаратного уровня и входы MIPI-CSI для прямой интеграции с промышленными камерами машинного зрения.

• Интеграция SDK/API: инженеры встроенного ПО предоставляют специальные перехватчики SDK, позволяющие собственной центральной системе управления (CMS) получать данные телеметрии, корректировать параметры вывода и отслеживать состояние оборудования в режиме реального времени.

• Безопасные OTA-обновления. Модели машинного обучения требуют частой доработки. Мы внедряем безопасные, зашифрованные системы обновления по беспроводной сети (OTA), которые позволяют сетевым администраторам распространять обновленные алгоритмы и исправления встроенного ПО по всему миру, не полагаясь на общедоступные незащищенные серверы обновлений.

Директива о закупках: поиск коммерческих преимуществ искусственного интеллекта

Возможности SoC RK3588 будут потрачены впустую, если он заключен в неадекватное оборудование. Для системных интеграторов попытка заставить бытовую электронику выполнять функции периферийных вычислений предприятия гарантирует отрицательную рентабельность инвестиций из-за сбоев на местах и ​​узких мест в программном обеспечении.

Обеспечение надежного AI Box требует партнерства с производителем оригинального дизайна, способным выполнить глубокую техническую настройку. Мы приглашаем менеджеров по закупкам и технических директоров B2B связаться с командой инженеров SZTomato. Обсудите ваши конкретные требования к компоновке печатной платы, ограничения по развертыванию нейронных сетей и производственные решения OEM/ODM, чтобы гарантировать, что ваша следующая периферийная интеллектуальная сеть будет построена на стабильной и масштабируемой основе.