2
Накопитель PCIe 5.0 получил специальную область для хранения весов ИИ-моделей и промежуточных данных
Компания Orico представила твердотельный накопитель FlashMem FM9800, который также предназначен для работы с локальными системами искусственного интеллекта.
Новинка основана на памяти 3D TLC NAND, часть которой переведена в режим pSLC для создания специального кэша AI Cache. При этом основная память и выделенная область кэширования используют независимые механизмы управления износом и отдельные алгоритмы планирования операций чтения и записи.

Orico FlashMem FM9800 выполнен в форм-факторе M.2 2280 и совместим с интерфейсом PCIe 5.0. Для эффективного отвода тепла предусмотрена графеновая термопрокладка. Производитель предлагает две версии: с основным объемом 768 ГБ и дополнительным AI-кэшем на 85 ГБ, а также с 1638 ГБ основной памяти и 128 ГБ кэша. Таким образом, накопитель имеет отдельное пространство для операций, связанных с обработкой данных ИИ.
Специальный кэш способен сохранять веса ИИ-моделей, контекст и промежуточные данные локального инференса. В сочетании с программным обеспечением для управления хранением данных и механизмом локального вывода Herdsman, накопитель обеспечивает взаимодействие между видеопамятью GPU, системной оперативной памятью и флеш-кэшем.
Источник