ӘОЖ 300-399/2
Функциональные области центров обработки данных
, магистрант ЮКГУ им. М. Ауэзова, к. т.н. доцент
Аннотация
Данная статья содержит сведения, упрощающие процесс принятия решений, связанных с применением новых технологий и стратегий развертывания центров обработки данных, принимаемых при планировании и проектировании ЦОД. Также, статья содержит информацию о различных функциональных элементах и аспектах планирования, рекомендуемых к применению с учетом последних тенденций построения ЦОД.
Введение
Сегодня технические директора, управляющие центрами обработки данных и их инфраструктурой постоянно сталкиваются с беспрецедентными задачами: как поддержать современные потребности бизнеса, уменьшить вред, наносимый окружающей среде и достичь поставленные цели, используя меньшее количество ресурсов?
Разработаны в соответствии с требованиями современных ЦОД
Подобные сценарии требуют многоуровневого стратегического подхода, поддерживаемого высоким уровнем навыков и знаний различных элементов и инженерных систем ЦОД. Предприятия сталкиваются с небывалыми темпами роста объемов информации, передаваемой и хранящейся в сети предприятия. Для поддержки бизнес-процессов в подобных условиях требуется внедрение blade-серверов высокой плотности и сетевых хранилищ большой емкости, что ведет к экспоненциальному росту уровней потребления электрической и выделения тепловой энергии.
Пренебрежение важными аспектами проектирования может создать иллюзию снижения затрат, но в долгосрочной перспективе приведет к более высоким капитальным расходам, раннему износу оборудованию и нарушению работы сети. В данной статье рассматривается базовая концепция функциональных областей центра обработки данных, которая формирует предпосылки к созданию среды, способствующей максимальному использованию существующих ресурсов и готовой к внедрению новых технологий.
Базовые элементы в ЦОД
Основным назначением ЦОД является обеспечение работоспособности приложений, управляющих ключевыми деловыми и операционными данными организации. Интернет, потоковое видео (Youtube и подобные сервисы), заодно с электронной коммерцией и приложениями e-Business увеличивают потребление мощностей ЦОД значительно быстрее, чем предполагалось изначально. Это ведет к быстрому росту количества обрабатываемой информации, чему также способствует глобальная экономика, требующая доступа к информации в режиме 24/7.
Центры обработки данных—это специализированные помещения, в которых размещается оборудование, предназначенное для безопасного хранения, обмена и обработки информации.
Увеличение важности подобных задач оказало значительное влияние на развитие ЦОД-ов, которые прошли путь от простых «серверных комнат», обеспечивавших информационные потребности организаций, до современных специализированных предприятий, продающих услуги по обработке информации.
В силу указанных причин каждый элемент ЦОДа и сопутствующих инженерных систем должен обеспечивать согласованное взаимодействие с другими элементами, обеспечивая наиболее надежный доступ к ресурсам ЦОД. От физической инфраструктуры главным образом требуется обеспечение «бесшовного» перехода между различными технологиями, необходимого для постоянно изменяющихся требований бизнеса и поддержки новых приложений.
Два наиболее значимых стандарта на ЦОДы, ISO/ IEC 24764 и TIA/EIA 942 описывают схожую иерархическую структуру подсистем СКС. Эти иерархические структуры изображены на рис. 2. Оба варианта обеспечивают базовое описание того, как соединяются между собой различные области ЦОДа и как они взаимодействуют друг с другом. Дальнейший текст статьи опирается на стандарт ISO/ IEC 24764, поскольку он имеет международный статус.
«Хранилище данных» (Storage, DAS/NAS/SAN), главный распределительный узел (Main Distributor, MD) и зоновый распределительный узел (Zone Distributor, ZD) могут рассматриваться как базовые элементы архитектуры любого ЦОД. Для создания соединений между разнообразными элементами могут использоваться различные сетевые интерфейсы и приложения. К примеру, протокол Ethernet используется в области распределения и передачи данных, расположенных в главном распределителе, тогда как протоколы Fibre Channel (FC) и Fibre Channel over Ethernet (FCoE) применяются в области хранения данных. Необходимо подчеркнуть, что указанные приложения не ограничены физической средой передачи данных, поэтому в различных областях ЦОДа могут быть развернуты как оптические, так и медные кабельные системы. Для получения дополнительной информации рекомендуется обратиться к документу «Справочное руководство по приложениям LAN и SAN в ЦОД».
Варианты архитектуры хранилищ данных
Современный уровень развития коммуникаций предоставляет людям и организациям большое количество различных способов обмена информацией. Благодаря этому добавилось много возможностей для коммуникации, но, также, этим обусловлено появление новых проблем для ЦОД. Хранилища данных должны постоянно наращивать объем, по оценкам IDC, потребность в увеличении объема хранимых данных со стороны предприятий в течение 2012 года возрастает на 91,8% (1).
Хранилища данных стали, вероятно, наиболее критическими и, в то же время, наиболее уязвимыми функциональными элементами ЦОД. По этой причине организации должны более внимательно подходить к вопросу построения и поддержки инфраструктуры, предназначенной для доступа к наиболее важным цифровым активам—данным.
Несколько лет назад наибольшей популярностью пользовались традиционные хранилища с прямым подключением (Direct Attached Storage, DAS), по причине низкой стоимости владения. Однако, по мере усложнения используемых приложений на первое место вышла потребность в гибкости, что спровоцировало переход к централизованной структуре систем хранения данных.
В силу этих причин сетевые хранилища (Network Attached Storage, NAS) и сети хранения (Storage Area Networks (SAN) получили значительно большее распространение, поскольку с их применением становится возможным снизить количество сопутствующего активного оборудования и упростить кабельную инфраструктуру. К тому же, централизованные системы поддерживают более высокие скорости обмена информацией, такие как 10GbE – 40GbE – 100GbE (2) и 2GFC - 4GFC - 8GFC - 16GFC (3).
Теперь проведем краткий обзор различных систем хранения, для того чтобы лучше понимать преимущества и недостатки каждого варианта.
IDC storage report 2008(2) GbE Gigabit Ethernet
(3) GFC Gigabit Fibre Channel
Direct Attached Storage (DAS)
DAS является наиболее простым способом организации хранилища, представляющим собой стандартное устройство, наподобие, «жесткого диска», напрямую присоединенное к серверу или рабочей станции. В качестве интерфейса обмена данными используются Small Computer Systems Interface (SCSI), serial-attached SCSI (SAS), и Fibre Channel (FC). Несмотря на простоту планирования, системы DAS обладают существенными недостатками:
- Редко организуется резервирование, что может привести к увеличению времени простоя системы В системе DAS невозможна виртуализация, поэтому место, доступное для хранения данных, не может превышать физического объема установленных дисков. При этом часть свободного места всегда отводится под восстановление. В случае, если предприятие ожидает значительный рост объема хранимых данных, необходимо иметь в виду, что системы DAS крайне ограничены в масштабируемости.
3.3 Storage Area Network (SAN)
Система SAN соединяет между собой устройства хранения, такие как дисковые массивы и ленточные накопители, позволяя всем клиентам и приложениям, работающим в сети, иметь доступ к области хранения. Топология SAN позволяет увеличить емкость хранилища и упростить его администрирование за счет того, что множество серверов могут делить между собой дисковое пространство хранилища.

Системы SAN получили наибольшее распространение по причине возможности масштабирования по мере развития требований бизнеса. Сети SAN реализуются преимущественно на протоколе Fibre Channel (FC), хотя последнее время наблюдается все более частое применение протокола Fibre Channel over Ethernet (FCoE), с использованием топологии switched fabric.
Указанные протоколы передачи выбираются по причине способности обеспечивать высокую пропускную способность и низкие задержки ввода/вывода. В целом, SAN помогает увеличить гибкость сети передачи данных, облегчая планирование и построение ЦОД.
Network-Attached Storage (NAS)
По сути, топология NAS представляет собой обыкновенный сервер с минимальной операционной системой. Единственной целью является обеспечение файл - ориентированных сервисов хранения для других устройств в сети. Под устройствами подразумеваются Network File System (NFS), Server Message Block (SMB) или Common Internet File System (CIFS).
Преимуществом технологий NAS перед SAN или DAS является то, что пользователи сети могут получать доступ к одним и тем же данным одновременно, тогда как SAN или DAS обеспечивают доступ только одного пользователя единовременно. Это делает системы NAS идеальными для приложений, доступных большому количеству пользователей, таких как Web-контент или электронная почта. Технологии NAS являются прекрасным выбором для предприятий, ищущих простое и экономически эффективное решение для предоставления быстрого доступа к данным для большого количества пользователей.
С другой стороны, недостатком систем NAS является то, что не все приложения могут поддерживать такую архитектуру, поскольку большинство кластерных решений разработано для применения в системах SAN и требуют применения масштабируемых устройств хранения, вместо файл-ориентированных устройств.
Краткое сравнение систем хранения данных
Выбор правильного варианта реализации системы хранения для отдельно взятого бизнеса может оказаться непростой задачей, зачастую осложненной личными предпочтениями или предрассудками. На самом деле, универсального ответа для всех и для каждого не существует. Вместо его поиска лучше сосредоточиться на специфических потребностях и долговременных бизнес-задачах предприятия. Табл. 1 содержит набор ключевых параметров, которые должны приниматься во внимание при выборе наиболее успешного решения, которое обеспечит долговременную защиту инвестиций предприятия.
Как уже было упомянуто, информационные активы со временем будут только увеличиваться, поэтому первостепенную важность приобретает уверенность в том, что ваша инфраструктура хранения данных имеет большой потенциал масштабируемости и высокую эксплуатационную рентабельность. В силу рассмотренных причин необходимо выбрать структурированное кабельное решение, готовое к переходу на новые приложения и увеличению инвестиций в инфраструктуру хранения без необходимости замены каких - либо компонентов физической инфраструктуры Главным преимуществом подобного решения является то, что оно обеспечивает как поддержку существующих приложений, так и «бесшовный» переход к технологиям, которые появятся в будущем.
Хранение данных и IP-конвергенция
В настоящее время во многих ЦОД-ах параллельно используется нескольких сетевых инфраструктур с целью поддержки различных приложений. Неприятной особенностью такого подхода является то, что поддержка работоспособности нескольких сетевых инфраструктур оказывает огромное влияние на капитальные затраты. Поэтому в последнее время было предпринято несколько попыток соединения сетей ввода/вывода и сетей передачи данных в единую физическую инфраструктуру с применением Ethernet в качестве основного приложения. Это приобретает ещё больший смысл принимая во внимание появление приложений 40 Гбит/с и 100 Гбит/с, что свидетельствует о том, что Ethernet представляет собой эффективную и высокопроизводительную платформу консолидации ввода/вывода как в настоящее время, так и в перспективе.
Именно это и стало основной причиной внедрения технологии FCoE. Главным образом FCoE применяется в сетях хранения данных (storage area networks, SANs) центров обработки данных, где в полной мере проявляются его преимущества, заключающиеся в более простом планировании и строительстве ЦОДа. С использованием FCoE, сетевой трафик (IP) и трафик сети хранения (SAN) могут быть консолидированы в рамках единой сети передачи данных. Подобная консолидация способствует:
- сократить количество сетевых карт, применяемых для соединения сетей хранения и IP-сетей; сократить количество коммутаторов и аппаратных шнуров; сократить затраты на энергообеспечение и охлаждение ЦОД.
В табл. 2 приведено сравнение двух гипотетических систем, в одной из которых применена консолидация ввода/вывода, а в другой реализован традиционный подход «отдельные сети для различных приложений». Предполагается, что во втором варианте каждый сервер оснащен двумя сетевыми адаптерами (один для Ethernet, второй для FC), и, соответственно, использует два патч - корда для подключения к коммутаторам.
Это простое сравнение демонстрирует очевидные преимущества консолидации. Консолидированная система ввода/вывода способна обеспечить значительное сокращение количества применяемого оборудования, используемого монтажного пространства в стойках и количества соединений. В то же время, значительно увеличивается объем трафика, проходящего через кабельную инфраструктуру, что потенциально создает «узкое место» в системе и может приводить к потере данных.
Рис. 6 иллюстрирует темпы роста применения технологии FCoE в течение 2013 года. Учитывая это, необходимо проявить особенное внимание при выборе высокопроизводительной кабельной системы. Она должна поддерживать передачу больших объемов данных в любых условиях, обеспечивая в то же время минимальный уровень потерь сигнала.
Главный распределительный узел и зоновый распределительный узел
В соответствии со стандартом ISO/IEC 24764 главный распределитель включает в себя центральный кросс и активное оборудование, образующее ядро сети. Зонный распределитель может расцениваться как основная точка перехода между магистральной и горизонтальной кабельной проводкой и включает в себя коммутаторы LAN и SAN, соединенные с серверами и устройствами хранения.
Проскольку потребность в быстром расширении ЦОД-ов продолжает оставаться актуальной, основные проблемы, связанные с Главным распределительным узлом и Зоновым распределительным узлом, остаются неизменными. Должным образом спланированная инфраструктура ЦОДа должна обеспечивать три ключевых стратегических аспекта:
- Оперативность путем обеспечения оптимальной гибкости при планировании и вводе в эксплуатацию; Доступность сети передачи данных, даже в самых сложных условиях; Эффективность, обеспечиваемая высочайшими и наиболее надежными рабочими характеристиками сети передачи данных.
Желательно, чтобы эти аспекты были приняты во внимание при проектировании и внедрении физической инфраструктуры. Это поможет сохранить и защитить начальные инвестиции, а также обеспечит ЦОДу возможность соответствовать многочисленным изменениям в бизнес-процессах, которые будут происходить в ближайшее десятилетие.
Поскольку последние тенденции, связанные с виртуализацией и облачными вычислениями получают все большую поддержку в IT-отрасли, большое значение имеет создание в ЦОД-е такой среды, которая обладает хорошей масштабируемостью и соответствует ужесточающимся требованиям бизнеса.
В качестве примера можно рассмотреть тенденцию к переходу на технологии 40GbE и 100GbE; эти технологии необходимы для поддержки постоянно растущих темпов передачи данных между различными функциональными элементами ЦОД.
Рис. 8 отражает проникновение технологий 10GbE, 40GbE и 100GbE наряду с постепенным отказом от технологии 1GbE. При этом интересно отметить, что 10GbE продолжает играть главную роль в течение ближайших пяти лет, тогда как интенсивный перехода на 40GbE произойдет к концу десятилетия.
Это подчеркивает важность построения такой инфраструктуры, которая способна поддержать изменения в технологиях передачи данных, которые должны произойти в ближайшем будущем. Возможность оперативно реагировать на эти изменения является жизненно важной для нормального ведения бизнеса любой современной организации.
В силу указанных причин развертывание приложений 10GbE в настоящий момент имеет больший стратегический смысл, чем можно было бы предположить. По сути, в настоящее время сеть 10 GbE не только должна полностью поддерживать работоспособность этой технологии, но и обеспечить в дальнейшем легкогий переход на технологии 40GbE и 100GbE. Подобный подход опирается на стандарт IEEE 802.3ba, который устанавливает очень высокие требования к рабочим характеристикам кабелей.
a Согласно IEC 60793-2-10
b Согласно TIA-492AAAD
c Затухание в канале передачи рассчитано при условии максимальной длины (согласно таблице 86-2) и затухания в волокне в составе кабеля 3,5 дБ/км на длине волны 850 нм плюс запас на потери в соединителях и стыках волокон
d Штрафы мощности используются при расчете бюджета мощности линии. Они не являются обязательными параметрами и не подлежат измерению.
e Указанный невостребованный запас по затуханию не должен использоваться.
В качестве примера можно рассмотреть претерминированную оптическую сборку для 10GbE. Задача—продемонстрировать «бесшовный» вариант перехода к приложениям 40/100 GbE, базирующийся на идее гибкости, доступности и эффективности. Типовая инсталляция 10GbE
Главной целью успешной стратегии перехода является сохранение значительной части текущих инвестиций таким образом, чтобы сохранить возможность масштабирования сети и внедрения новейших технологий. Эта задача должна быть выполнена с минимальным влиянием на работу ЦОД, при этом рабочие характеристики после внесения изменений в кабельную инфраструктуры должны соответствовать требованиям стандартов. Наиболее простой способ достижения такой цели—замена отдельных компонентов при сохранении основной части физической инфраструктуры, вариант реализации этого представлен на рис. 10:
Таким образом, чрезвычайно важно использовать при построении физической инфраструктуры оптические волокна и компоненты с наименьшим уровнем потерь. Они должны быть разработаны таким образом, чтобы обеспечивать наименьший коэффициент битовых ошибок (Bit Error Rate, BER) и наименьший уровень вносимых потерь (Insertion Loss, IL) и возвратных потерь (Return Loss, RL). На рис. 11 изображена глазковая диаграмма BER в качестве оценки производительности канала 10GbE согласно требованиям стандарта IEEE 802.3ae.
Жизненный цикл центра обработки данных, его экономическая эффективность и срок возврата инвестиций находятся в сильной зависимости от решений, которые принимаются на этапе планирования и проектирования. Поэтому стратегический подход к физической инфраструктуре должен проявляться, начиная с первых этапов построения нового ЦОД-а. Только таким образом в настоящее время можно сократить количество ресурсов, которые требуются для реализации устанавливаемых бизнес-задач.
Заключение
В этой статье были рассмотрены различные функциональные элементы, составляющие основу современных ЦОД-ов. Очевидно, что успешным предприятиям необходимо концентрироваться на бизнес - потребностях и и выстравивать IT-стратегию таким образом, чтобы смотреть в будущее с уверенностью.
Когда заходит речь об элементах физической инфраструктуры, жизненно важным оказывается создание такой основы для сети передачи данных, которая будет не только обеспечивать текущие потребности потребителей, но и соответствовать задачам, которые будут появляться по мере внедрения новых, высокоскоростных информационных приложений.
Успешные стратегии перехода на новые технологии сформированы вокруг концепции оперативности, доступности и эффективности с целью сокращения капитальных инвестиций, минимизации рисков и создания надежного пути перехода к технологиям будущего.
Литература
1. М. Балкарова «Инженерные системы ЦОД
2. Охлаждение серверных и ЦОД
3. Электроснабжение серверных и ЦОД.


