Сергей Дмитриев, Копейка: Большие базы и непрерывность бизнеса.

Розничная сеть -- это множество магазинов, каждый из которых торгует огромным ассортиментом товаров и обслуживает тысячи покупателей, желающих что-то приобрести. О том, какие требования предъявляют бизнес и корпоративная информационная система к ИТ-инфраструктуре такой сети, мы беседуем с директором Управления информационных технологий торгового дома "Копейка" Сергеем Дмитриевым.

Intelligent Enterprise: Как вы видите роль информационных технологий в деятельности "Копейки" и над какими основными задачами сейчас работает ваше подразделение?

Сергей Дмитриев: Роль ИТ я понимаю совсем просто: это средство управления. И когда менеджменту для эффективного управления необходимы какие-либо технические решения, мы их реализуем.

Системы управления обычно подразделяются на организационные и технологические. Первые обеспечивают учет хозяйственных операций в момент их совершения и формирование различных отчетов, необходимых для руководства. Вторые непосредственно обслуживают те или иные технологические процессы. Из применяемых в торговле самыми важными из них являются так называемый front office, т. е. обеспечение работы кассовых терминалов в точке обслуживания покупателя, и управление складом. В "Копейке" присутствуют системы обоих типов.

Осенью 2002 года начала работать наша основная управляющая система, которую мы с тех пор поддерживаем и развиваем. Это SAP for Retail -- отраслевое решение для розничной торговли на основе комплекса MySAP Business Suite, и с ним так или иначе связаны все наши последующие ИТ-проекты. Это справедливо и для проектов по автоматизации бизнес-процессов, и для инфраструктурных, включая и два последних по времени. В первой категории мы прошлой осенью реализовали такой крупный и важный для нас проект, как внедрение системы управления складом с использованием радиочастотных, или, как их еще называют, RF-терминалов сбора данных. А инфраструктурный проект у нас, если можно так выразиться, действует постоянно, поскольку компания интенсивно развивается, нагрузка на информационную систему все время увеличивается и, следовательно, инфраструктуру необходимо регулярно модернизировать.

Расскажите, пожалуйста, об RF-терминалах.

Это устройства, выпускаемые компанией Psion Teklogix, -- фактически переносные компьютеры в промышленном исполнении, хотя и непривычной формы. Они ударопрочны, влагонепроницаемы и т. д., имеют встроенный сканер штрихкодов, а радиочастотными, или RF, называются потому, что для обмена информацией с центральной системой в них используется радиоканал. Они подключаются к локальной сети беспроводным способом, по протоколу Wi-Fi.

На терминале запускается специализированный клиент SAP, поддерживающий складские транзакции. Алгоритм работы выглядит, грубо говоря, так: комплектовщик или грузчик с помощью своего устройства сообщает системе о готовности выполнить очередную операцию, получает целеуказание и подтверждает выполнение считыванием штрихкода на товаре или на ячейке склада, после чего все повторяется. А сами процессы комплектации и приемки товара организованы по стандартным логистическим технологиям с применением тех стратегий, которые дают наибольший эффект для наших распределительных центров.

Давайте теперь перейдем к модернизации инфраструктуры ЦОД, но начнем с предыстории. Давно ли создан действующий центр обработки данных и чем определяются его особенности?

Он был спроектирован и построен два года назад под потребности развивающейся компании -- тогда мы заменили систему на базе машин Compaq Alpha (на самом деле в 1998 году они покупались еще как DEC Alpha) на более мощную. Но чтобы объяснить особенности ЦОД, лучше, пожалуй, начать еще более издалека -- со специфики нашего бизнеса. Во-первых, и для отрасли в целом, и для нашего предприятия в частности характерны большие объемы информации, которые ежедневно генерируются при работе и должны оперативно обрабатываться. "Копейка" -- это две сотни магазинов и ассортимент в 2000 наименований, причем каждый магазин ежедневно посещает около 3000 покупателей, делающих в среднем по 7,8 покупки. Все это выливается в миллионы записей баз данных, которые невозможно обработать без современных информационных технологий.

На сегодня размер коммерческой, или, как мы говорим, продуктивной базы данных достиг уже 2,5 Тбайт. При этом за прошлый год она выросла на целый терабайт, а в нынешнем мы ожидаем прироста примерно на два терабайта, так как число магазинов в сети каждый год почти удваивается. Это значительные показатели, и они предъявляют высокие требования к системам хранения данных и резервного копирования. Нормальные устойчивые процессы здесь не обеспечиваются с помощью обычных тиражных технологий, которые широко представлены на рынке.

Во-вторых, для розничных сетей, в том числе и для "Копейки", огромное значение имеет непрерывность бизнеса. Хотя наши магазины для покупателей на ночь закрываются, логистика работает круглосуточно. Только новогодняя ночь с 31 декабря на 1 января у нас полностью нерабочая, все остальное время работа кипит. Так что главными нашими требованиями к ЦОД были непрерывность деятельности, сохранность информации и достаточная производительность на больших объемах, и чтобы их выполнить, следовало применить серьезные технологии.

Архитектура ЦОД включает четыре компонента -- систему хранения данных, центральный сервер (он же сервер баз данных), группировку серверов приложений и систему резервного копирования. Все они соединяются друг с другом по технологии fibre channel.
Для обслуживания базы данных было решено использовать кластерное решение -- отказоустойчивую архитектуру с автоматическим переносом нагрузки на заведомо исправные компоненты. Кластер состоит из двух серверов HP rp8400, которые поставлялись в конфигурации с восемью процессорами HP PA-RISC с частотой 875 МГц (с возможностью наращивания до 16 процессоров) и 10 Гбайт оперативной памяти. В качестве системы хранения установили HP StorageWorks XP 128, в ту пору емкостью 1,25 Тбайт, в качестве серверов приложений -- пять четырехпроцессорных Intel-машин. Эти серверы нужны для работы системы SAP: она базируется на трехзвенной архитектуре, когда все пользователи связываются с сервером приложений, а тот, в свою очередь, генерирует запросы к серверу базы данных. Четвертый обязательный компонент -- система резервного копирования, которая должна не дольше, чем за 12 часов, сделать резервную копию базы данных без остановки работы системы.

Поставщиком оборудования выступала компания HP, а в проектировании ЦОД, установке аппаратуры и ее настройке нам помогал системный интегратор "Инлайн Груп". При этом в конфигурировании всего комплекса участвовал общий центр компетенции HP и SAP, который находится в Вальдорфе. Мы взаимодействовали с ним через HP -- пересылали туда ответы на все анкеты и получали рекомендации по базовым решениям, основным параметрам конфигурации и другим существенным характеристикам.

Встретились ли вы с проблемами?

Наиболее серьезные проблемы в проектах обычно бывают методологического характера: с чего начать, какой из возможных путей выбрать и т. д. С ними мы практически не столкнулись благодаря центру компетенции, в котором SAP и HP консультировали нас в тесном взаимодействии друг с другом.

Возникли сложности внутреннего характера, связанные с непрерывностью бизнеса. По согласованию с бизнес-подразделениями (в особенности это важно для логистической службы) систему можно остановить максимум на 12 часов, в крайнем случае, с предварительным принятием различных мер по резервированию, -- на двое суток, но никак не больше. Поэтому все работы по модернизации нужно было провести в самые сжатые сроки, и здесь нам очень помогли специалисты "Инлайн Груп". Вместе с ними мы разработали технологию поэтапного запуска проекта.

На сайте "Инлайн Груп" опубликована история успеха, и там сказано, что технология перехода со старых серверов на новые являлась оригинальной разработкой сотрудников "Копейки".

Мы высказали идею, которая оказалась плодотворной, а навеяна она была американским фильмом "Настоящая Маккой". Там герои грабили банк, в котором системы защиты отслеживали перерыв в наблюдении более чем на три минуты, а операция укладывалась в десять минут. Грабители разбили ее на трехминутные куски -- заходили, делали часть того, что им было нужно, и отступали. Потом прибегала охрана и, не обнаружив ничего подозрительного, уходила, а грабители возвращались.

В нашем случае требовалось на реальной системе осуществить ряд операций, таких как перестройка индексов, экспорт и импорт баз данных. На все это бизнес-подразделения давали нам двое суток, в которые мы должны были уложиться во что бы то ни стало. Причем нам, почти как саперам, давалась всего одна попытка, попробовать второй раз нам не позволили бы как минимум еще полгода.

Если бы мы просто начали работу с того момента, как "время пошло", то наверняка наделали бы ошибок и сорвали срок. Поэтому мы заранее, примерно за месяц, начали предварительно проводить необходимые операции, четко отслеживая все возникавшие проблемы и исправляя ошибки. И когда подошло согласованное двухсуточное "окно", мы были полностью готовы, все шаги были расписаны поминутно, и вся операция завершилась успешно и вовремя.

До какой степени масштабируется существующая архитектура?

В 2003 году сеть "Копейки" насчитывала 60 магазинов, и комплекс проектировался с запасом -- в расчете на обслуживание сети примерно из 180 магазинов и одновременную работу 300 пользователей в ERP-системе. (Рабочие места SAP имеются в каждом магазине, офисе и распределительном центре, все они подключены к корпоративной сети передачи данных. Сеть строится на выделенных каналах, которые мы арендуем у операторов связи. Каналы, кстати, могут быть самые разные -- есть проводные, а есть и спутниковые, мы их используем уже почти год.) Теперь, когда количество магазинов стало больше расчетной величины, у нас назрела необходимость примерно удвоить возможности ЦОД, и в настоящий момент мы находимся в стадии его модернизации.

Возможности масштабирования самой системы SAP практически неограниченные, и у SAP есть клиенты с коммерческими базами данных, многократно превосходящими нашу, -- для примера назову хотя бы HP. Недавно я читал интервью Оуэна Кемпа, вице-президента HP и генерального директора "HP Россия", где он упомянул, что в базе их сервисного центра зарегистрировано два миллиарда клиентов! Нам до таких объемов еще далеко.

Конечно, чтобы не натолкнуться на ограничения, мы должны следить за оптимальной организацией бизнес-процессов, правильностью настроек и своевременно расширять техническую базу. У нас заключен с SAP договор о техническом сопровождении, по условиям которого служба поддержки поставщика должна несколько раз в год проводить измерения производительности и выдавать отчеты. Мы активно этим пользуемся и следуем полученным рекомендациям -- правда, в основном они касаются оптимизации программной среды, а не каких-то изменений в оборудовании.

Что из этого сейчас наращивается?

При создании ЦОД его архитектура позволяла обеспечить текущие нужды, и одновременно в нем были заложены резервы для модернизации. Именно такую плановую модернизацию мы сейчас и проводим. Добавляются процессоры в серверы, диски в систему хранения данных, приводы в систему резервного копирования, а кроме того, устанавливаются дополнительные серверы приложений -- их у нас было пять, теперь будет десять. То есть мы не меняем решение, а в его рамках наращиваем ресурсы: это, если можно так выразиться, экстенсивная модернизация.

Работы проводятся без сколько-нибудь продолжительной остановки системы. Процессоры мы уже поменяли, вся процедура заняла около полутора часов, с дисками ситуация такая же.

Как будет развиваться инфраструктура?

Этот вопрос решается на более высоком уровне, чем ИТ-отдел, потому что с нынешней модернизацией возможности наращивания ресурсов исчерпываются. Конфигурации, которая устанавливается сейчас, нам при существующих темпах развития хватит, может быть, на год или полтора, а после этого экстенсивное развитие инфраструктуры должно будет смениться интенсивным. Коль скоро мы установили последние восемь процессоров в 16-процессорные серверы и последнюю группу дисков в хранилище данных, следующая модернизация потребует уже перехода на другие продукты.

Скорее всего мы и в дальнейшем своем развитии будем опираться на оборудование HP. Менять поставщика экономически не выгодно, тем более что на платформы HP настроена вся наша инфраструктура и у нас есть специалисты с соответствующей квалификацией. Нет никаких причин от всего этого отказываться, и я уверен, что когда это станет актуально, HP сможет предложить адекватную конфигурацию для нашего ЦОД. Этот производитель выпускает самую передовую технику и до сих пор ни разу нас не подвел.