«7 в 1» — как «Открытие» объединила инфраструктуру семи компаний в одном ЦОД
Группа компаний «Открытие» объединила разрозненную ИТ-инфраструктуру под крылом единого собственного центра обработки данных. Новый дата-центр подготовил инфраструктуру к росту бизнеса, снизил стоимость владения вычислительными мощностями и повысил доступность ИТ-сервисов в целом. Особенностью проекта стало то, что для технологического партнера — ИТ-компании «Инфосистемы Джет» — он является самым крупным инженерным проектом за всё время существования компании. Подробностями с нами поделились Андрей Иващенко, старший вице-президент, директор департамента ИТ-инфраструктуры банка «Открытие», Всеволод Воробьёв, руководитель направления ЦОД центра сетевых решений компании «Инфосистемы Джет», и Николай Зуев, руководитель направления по работе с банками и финансовыми организациями компании Vertiv.
CNews: Какие плюсы дает единый центр обработки данных?
Андрей Иващенко: Единый ЦОД для группы компаний «Открытие» стал, прежде всего, инструментом централизации всех дата-центров и серверных комнат на базе двух суперсовременных, высокодоступных и надежных ЦОД. Произошла унификация инфраструктуры компонентов ИТ-ландшафта, консолидация оборудования и ИТ систем группы компаний, повышение доступности ИТ-инфраструктуры и обеспечение её готовности к росту бизнеса.
Мы построили ЦОД с хорошим техническим запасом, который поможет в будущем наращивать ИТ-мощности компании. Еще один плюс заключается в оптимизации эксплуатационных затрат.
CNews: Можно ли считать строительство собственного дата-центра эволюцией в ИТ-инфраструктуре заказчика?
Всеволод Воробьёв: Создание собственного дата-центра — это правильный путь развития. У заказчика появляется возможность контролировать все, что происходит на его площадке. Служба безопасности наконец-то будет спать спокойно, потому что серверное оборудование и чувствительные данные находятся в собственном дата-центре, расположенном в охраняемом периметре компании. Такой подход повышает капитализацию актива компании. Проект ЦОД для финансовой группы «Открытие» — логичный шаг по консолидации разрозненных ИТ-площадок в две целевые. Это грамотный, эволюционный и разумный подход.
Все основные ИТ-сервисы на нем дублируются и в резервном дата-центре. Если случится авария на основном ЦОД, то резервный дата-центр моментально подхватит работу, и клиент банка этого даже не заметит.
CNews: Есть ли «подводные камни»? Может быть, стоимость владения инфраструктурой увеличивается?
Андрей Иващенко: Стоимость владения инфраструктурой увеличивается в первые несколько лет из-за больших капитальных затрат на строительство ЦОД. Но в перспективе четырех-шести лет такая архитектура с двумя дата-центрами вместо 20, конечно, выигрывает. Что поделать: вначале придется финансово вложиться в ЦОД, зато потом преимущество в виде уменьшения стоимости эксплуатации будет очевидно.
Еще
стоит отметить, что сейчас наблюдается дефицит стоек в коммерческих ЦОД, поэтому любой компании найти необходимую площадку с определенным уровнем надежности и мощности может быть не так-то легко. И вопрос тут не только в деньгах, но и в качестве предоставляемых услуг. Свой ЦОД снимает эту проблему.
CNews: В чём заключалась основная задача по проекту, которую предстояло решить системному интегратору «Инфосистемы Джет»?
Всеволод Воробьёв: ИТ-компания «Инфосистемы Джет» работала с заказчиком на самых ранних стадиях реализации проекта: от зарождения идеи до формирования ТСО-модели и создания разных сценариев по развитию дата-центра и выбора площадки. Мы рассмотрели несколько вариантов и сформулировали преимущества и недостатки по каждому из них, добавляя элементы эскизного проектирования. Затем мы выполнили полный комплекс подготовки проектной документации. После этого были выполнены все строительно-монтажные и пуско-наладочные работы.
CNews: Какие еще цели и задачи проекта нужно было решать?
Андрей Иващенко: Основными целями построения собственного ЦОД является оптимизация стоимости эксплуатации ИТ-службы, унификация оборудования и максимальная утилизация мощностей, а также надёжная связность основного и резервного ЦОД, исключающая необходимость множественной и дорогостоящей сети каналов, как это было в варианте эксплуатации большого количества ЦОД и серверных комнат. Поэтому нужно было правильно подобрать площадку, исходя из различных требований: учесть необходимую площадь, архитектурные элементы, доступность самой площадки (чтобы она находилась не за пределами, а в черте города), а также возможность подведения дополнительных мощностей.
CNews: Вы занимались реализацией проекта в самый непростой год. Были сложности? Например, с поставками оборудования? Как удалось их преодолеть? Может быть, были и другие осложняющие работу факторы?
Всеволод Воробьёв: Строительство началось в первую волну пандемии. С заказом и поставкой оборудования проблем не было. Наш партнер — компания Vertiv — поставила оборудование даже раньше указанного срока, за что ей огромное спасибо!
Во время проведения работ на объекте сотрудники использовали средства индивидуальной защиты, осуществлялся контроль температуры, были организованы изолированные пути прохода, чтобы работники меньше контактировали друг с другом. Но на общий срок реализации проекта пандемия особо не повлияла.
CNews: Построенный ЦОД занимает 4 тысячи кв. м. и имеет текущую загрузку в 366 стоек. У «Инфосистемы Джет» были ранее проекты такого масштаба? Как быстро удалось реализовать этот?
Всеволод Воробьёв: Без ложной скромности скажу, что этот проект — самый крупный ЦОД, построенный в период пандемии. Мы очень им гордимся. По площадям и мощностям новый ЦОД имеет ряд интересных технологических решений, которые выделяют его среди прочих подобных дата-центров.
Самый важный момент заключается в том, что мы разместили такой большой и крупный объект внутри уже существующего здания. Это накладывало большие ограничения на нашу фантазию при проектировании. В этом здании уже находился архив банка, что также повлияло на строительство и монтаж дата-центра. Мы участвовали в процессе подвода мощностей величиной 4 МВт, и это был по-настоящему хороший опыт.
CNews: В процессе работы были сделаны какие-то интересные шаги, применены необычные решения?
Всеволод Воробьёв: В рамках реализации проекта мы использовали систему кондиционирования с фрикуллингом с двухконтурной системой теплообменников, а также схему резервирования электроснабжения 3/2N. Кроме того, была разработана независимая система «парящих» изолированных холодных коридоров Free-Flying, которая позволяет устанавливать серверные стойки различных габаритов в монтированном коридоре без нарушения целостности системы.
В дата-центре установлена высокоплотная СКС с центральным кроссом и типом кроссировки cross-connect. В соответствии с фирменным стилем группы компаний «Открытие» была проведена строительная подготовка с элементами дизайна, выполнено оформление машзалов и других помещений. Помимо машзалов, мы достаточно детально проработали дополнительные помещения в здании, в том числе те, что отводятся для службы эксплуатации, хранения и тестирования оборудования, диспетчеризации систем и бытовых нужд. Нам удалось создать удобный комплекс для работы специалистов.
Мы просчитали всю логистику. Оборудование в ЦОД завозится через пандус, и предусмотрено специальное помещение, где техника может отстояться после уличных морозов, потому что сразу вводить её в эксплуатацию нельзя. Есть отдельное место, где оборудование распаковывается. Оттуда оно перемещается на временный склад и в комнату тестирования, где оно проверяется, настраивается и после этого уже перемещается в стойку. Мы детально продумали логистику, чтоб все процессы проходили последовательно, удобно и максимально безопасно.
Наши специалисты также подвели электричество, построили и смонтировали шесть трансформаторных подстанций. Важно, что от момента регистрации заявки до подачи напряжения в ЦОД прошло всего полгода.
В целом, проектирование дата-центра проводилось с использованием элементов BIM-моделирования. Основное его свойство заключается в том, что при проектировании работают несколько групп специалистов по разным подсистемам. И в BIM-проекте сразу понятно, где трассы пересекаются, и как этого не допустить при монтаже.
CNews: Расскажите про инженерные решения, которые были выбраны в качестве начинки ЦОД.
Всеволод Воробьёв: Заказчик провел мини-тендер, в рамках которого запросил у основных игроков рынка требования по строительству, стоимость оборудования и его обслуживания. В этом проекте собраны практически все мировые вендоры, и каждый отвечал за свою часть: в качестве поставщика ИБП была выбрана компания Vertiv, для дизель-генераторов — SDMO, для охлаждающих установок и кондиционеров — Stulz.
В рамках решения вопроса кондиционирования применялась система чиллер + фанкоил с фрикуллингом с двумя контурами. Система электроснабжения — это статические ИБП с батареями, в связке с дизельными генераторными установками.
CNews: Раз мы заговорили об ИБП, то поясните, какие именно источники питания использовались для ЦОД и почему выбрали именно эти модели? Какие характеристики или свойства данных ИБП говорят об их надежности и эффективности?
Николай Зуев: Мы видим несколько основных причин выбора наших продуктов. В первую очередь, это их широкая известность на рынке и высокая надежность, проверенная годами. ИБП от Vertiv применяются в ЦОД крупнейших коммерческих операторов.
Вместе с партнером и заказчиком мы выбирали из двух вариантов: модульный ИБП серии Trinergy и квазимодульный моноблочный ИБП Liebert EXL S1. В результате выбор был сделан в пользу моноблочного решения Vertiv Liebert EXL S1.
Такой ИБП обладает мощностью 400 кВт. Время автономной работы этого устройства в нормальном режиме — 15 минут, а в аварийном — около 10 минут. Этот источник используется для защиты инженерной нагрузки, что тоже повлияло на выбор. Еще одним дополнительным фактором в пользу данного источника бесперебойного питания стало то, что ИТ-нагрузка дата-центра растет постепенно, в два этапа. На первом этапе было достаточно иметь по два устройства мощностью 400 кВт в каждом плече. В дальнейшем для увеличения мощности потребуется добавить еще по одному устройству. Уникальное преимущество ИБП Vertiv Liebert EXL S1 позволяет добавлять дополнительный аппарат в группу без перевода всей цепочки устройств на байпас.
После выбора устройства и определения схемы резервирования началась активная работа всех систем.
CNews: Насколько эффективны установленные ИБП в эксплуатации? Просты ли они в обслуживании? И как обстоят дела с доступностью запасных частей для ИБП?
Николай Зуев: Так как Vertiv Liebert EXL S1 — очень востребованная модель ИБП среди российских заказчиков, запасные части для нее доступны как на складе в Москве, так и на европейских складах. Доставка быстрая. Стоит отметить, что за счет квазимодульности время восстановления оборудования в случае сбоя существенно меньше по сравнению с моноблочными ИБП и приближается ко времени восстановления модульных устройств.
Мы были на объекте заказчика после запуска наших устройств. Банк «Открытие» остался доволен исполнением работ, устройствами и результатами проекта. Специалисты со стороны заказчика прошли обучение по эксплуатации ИБП Vertiv, поэтому они отлично справляются. Сотрудники оперативно реагируют на все сообщения и сигналы, поступающие от устройств. Это позволяет избежать сбоев в работе всей системы. Также обширные знания, полученные во время тренинга с экспертами Vertiv, заметно упрощают коммуникацию сотрудников заказчика и специалистов технической поддержки.
CNews: Кстати говоря, какую роль (кроме очевидной) в проекте играл заказчик?
Всеволод Воробьёв: Заказчик сформировал команду великолепных специалистов с незаурядными компетенциями. Они большие профессионалы, с которыми комфортно работать! Мы вместе решали очень много сложных технологических задач и каждый раз находили наиболее оптимальное решение. В большинстве случаев вопросы решались прямо «на ходу», максимально быстро, коллеги оперативно реагировали на все наши предложения. Такая эффективная координация — одна из причин успешности проекта, без которой всё могло пойти по-другому.
CNews: Какой результат получил банк «Открытие»? Как это отразилось на его бизнесе? В целом, насколько сейчас выгодно владеть собственными ЦОД?
Андрей Иващенко: Мы в первую очередь получили высоконадежный ЦОД, обеспечивающий технические условия эксплуатации всего серверного оборудования и ИТ систем, а также оптимизировали затраты на аренду и обслуживание дата-центров, инженерных систем и серверных комнат. Была обеспечена возможность роста ИТ-систем, снижено время их простоя, обеспечена возможность проведения работ на инженерных информационных системах — всё это без влияния на бизнес-процессы компании. Мы создали единую службу эксплуатации ЦОД группы компаний «Открытие», организовали единую централизованная службу мониторинга дата-центра. Доступ к серверному оборудованию и данным теперь контролируется службами банка.
CNews: Поделитесь своими планами на будущее относительно строительства ЦОД?
Всеволод Воробьёв: У нас большие планы! По нашим прогнозам, рынок ЦОД будет активно расти в ближайшие годы. Этот рынок вообще достаточно динамичный и перспективный. В него инвестируют банки, девелоперы, телеком-операторы. Среди российских локаций, где дата-центры активно развиваются, можно отметить Москву и Санкт-Петербург. В Сибирском регионе сейчас прорабатываются несколько крупных проектов строительства дата-центров на сотни и тысячи стоек и десятки мегаватт, формируется коллаборация участников, которые эти проекты будут реализовывать. Мы в этих процессах тоже активно участвуем.