Новые модели TPU 8tx и 8i Max предлагают аппаратную защиту данных для государственных учреждений и удваивают вычислительную плотность для сложных задач искусственного интеллекта
Google представила два свежих варианта своих ИИ-чипов — TPU 8tx и TPU 8i Max, расширив восьмое поколение до четырех систем. Это первый случай в истории компании, когда все новые модели появились в одном году. Чипы TPU (tensor processing unit) созданы специально для обучения и запуска нейронных сетей и прямо конкурируют с решениями Nvidia на рынке инфраструктуры ИИ.
Модель TPU 8tx нацелена на государственные учреждения и регулируемые сектора, где необходима обработка конфиденциальных данных. Она основана на том же кремнии, что и тренировочный чип TPU 8t, но архитектура дополнена уровнем аппаратной защиты для конфиденциальных вычислений. Данные и веса моделей физически изолируются от внешних процессов в процессе работы, что позволяет дообучать нейросети и запускать ИИ-агентов без передачи информации между кластерами. Улучшенная сетевая подсистема позволяет снизить задержки на 50% по сравнению со стандартной версией.
Вторая новинка, TPU 8i Max, решает проблему нехватки памяти при выполнении масштабных задач. Два чипа объединены в едином модуле, что удваивает вычислительную мощность, объем встроенной памяти и пропускную способность. Такая конфигурация оптимальна для ИИ-агентов, анализирующих целые кодовые базы, и систем, обрабатывающих видеопотоки продолжительностью в несколько часов. При этом в корпус стандартной стойки помещается в два раза больше кремния, что увеличивает плотность вычислений на квадратный метр и эффективность использования энергии.
По словам главного технолога Google по ИИ и инфраструктуре Амина Вадаата, экосистема TPU уже включает почти 100 клиентов, среди которых лаборатории, занимающиеся разработкой передовых моделей, финансовые учреждения, ритейлеры и университеты. Компания продолжает развивать сеть партнеров из четырех дизайнеров для совместного улучшения архитектуры. Точные сроки поставок и стоимость новых решений пока не известны, однако расширение линейки укрепляет позицию Google как ключевого альтернативного поставщика оборудования для масштабирования ИИ-сервисов.
Источник