1
У него 4 ГБ собственной ОЗУ и 128 ГБ флеш-памяти
Компания DFRobot представила DX-M1 — компактный ИИ-ускоритель в формате M.2, предназначенный для локальной обработки данных без необходимости в мощной видеокарте и доступе к облачным сервисам. Устройство обеспечивает производительность до 25 TOPS в привычных INT8 вычислениях, потребляя всего 2–5 Вт. Стоимость модуля составляет $140.
DX-M1 обладает 4 ГБ встроенной оперативной памяти LPDDR5, предназначенной для хранения весов нейронных сетей, а также 128 ГБ флеш-памяти QSPI NAND для прошивки или локального размещения скомпилированных моделей. Для подключения используется интерфейс PCIe 3.0. Ускоритель поддерживает PyTorch, TensorFlow, TensorFlowLite и ONNX через SDK DFRobot DXNN. Среди подходящих задач производитель выделяет распознавание объектов, анализ потокового видео, навигацию роботов и автоматизированный визуальный контроль.
Тем не менее, не стоит ожидать запуска крупных языковых моделей непосредственно на DX-M1. Четыре гигабайта памяти недостаточно для работы с тяжёлыми LLM — устройство в первую очередь предназначено для запуска уже обученных моделей, а не для их обучения.
Существует и ещё один нюанс: модуль занимает слот M.2, который мог бы быть использован для установки стандартного NVMe-накопителя. Встроенная флеш-память DX-M1 не предназначена для установки операционной системы и не заменяет SSD. Поэтому новинка в первую очередь нацелена на компактные компьютеры, промышленные системы и робототехнику, которым требуется энергоэффективное ускорение задач компьютерного зрения.
Источник