Начиная с Wolfpack Project компании Microsoft, кластеризация прошла большой путь, став важной частью любой реализации предприятия под управлением Windows. В этой лекции рассматриваются современные кластерные решения Microsoft и описывается их использование для масштабирования и расширения вашей сети Windows Server 2003.
Кластер проще всего определить как группу отдельных серверов, совместно работающих как одна система. Программы и клиенты "видят" кластер как один объект, и кластер управляется как единое целое. Кластеризация используется, чтобы обеспечить высокий уровень готовности для критически важных приложений, управляемости реализаций, работающих круглые сутки, и масштабируемости для крупных предприятий. В Microsoft Windows Server 2003 имеются две кластерные технологии.
Вы не можете применить обе технологии к одному серверу, но можете использовать эти два кластерных решения совместно для реализации дополняющих друг друга функций, например, сделать базу данных доступной для посетителей веб-сайта.
Network
NLB входит в следующие версии Windows Server 2003:
С помощью Network
Одно из главных преимуществ службы NLB - это высокая готовность, которая обеспечивается этой службой для приложений предприятия. Кластерное ПО может автоматически изменять распределение клиентских запросов в случае отказа сервера. Для этого кластер и отдельные серверы следят за состоянием друг друга. Между серверами, а также между каждым сервером и кластером происходит обмен групповыми или широковещательными сообщениями.
Если состояние сервера (или нескольких серверов) внутри кластера изменяется, то активные серверы запускают процесс, который называется "слиянием" (convergence),чтобы определить, какие серверы остались активными и как перераспределить нагрузку между ними. По умолчанию NLB определяет потерю члена кластера в течение пяти секунд и выполняет процесс слияния в течение следующих пяти секунд. Пока происходит слияние, каждый узел кластера продолжает обрабатывать пакеты приложений согласно правилам, существовавшим до начала процесса слияния.
Если слияние инициируется в результате потери одного из серверов, то запросы приложения, которые должны были обрабатываться отказавшим сервером, возвращаются невыполненными, пока не будет выполнено переназначение запросов (по окончании слияния). Это состояние ошибки должно учитываться в переходном состоянии пользователем или приложением, но не самой службой NLB.
Если к кластеру добавляется еще один хост-сервер, тот же самый процесс слияния позволяет новому хосту получать его долю трафика. В результате расширение кластера происходит совершенно прозрачным образом как для клиентов, так и для приложений.
NLB обеспечивает два уровня масштабируемости.
Администрирование Network
Network
Алгоритм, определенный во время процесса слияния кластера, позволяет каждому узлу кластера решать, нужно или не нужно обрабатывать очередной клиентский запрос. Обрабатывающий узел отправляет пакет в стек протоколов IP, а все остальные узлы отбрасывают этот пакет. Для каждого хоста можно задать его процент нагрузки или распределять нагрузку равномерно среди всех хостов.
NLB перехватывает только пакеты TCP и UDP. Пакеты других протоколов IP передаются в стек протоколов и обрабатываются всеми узлами NLB-кластера.
Служба NLB разработана таким образом, чтобы обеспечивать кластерную поддержку для серверных программ на основе TCP/IP. Для этого, конечно, требуется, чтобы TCP/IP был протоколом по умолчанию для системы. Версия NLB в Windows Server 2003 действует в локальных сетях на основе FDDI или Ethernet внутри кластера.
Вы можете повысить производительность NLB, установив два сетевых адаптера на каждом хосте. NLB использует один сетевой адаптер для трафика клиент-кластер и еще один - для всего остального сетевого трафика (включая обмен информацией в кластере). Дополнительные IP-адреса, назначаемые этим сетевым адаптерам, определяются автоматически.
Поступающие клиентские запросы отображаются в хосты кластера посредством распределяющего алгоритма. При поступлении пакета все хосты выполняют отображение одновременно. Это позволяет быстро определить, какой хост должен обрабатывать данный пакет. Этот алгоритм одновременной фильтрации является более эффективным для обработки пакетов, чем программы, использующие централизованные алгоритмы балансирования нагрузки. Централизованная фильтрация предусматривает модификацию и повторную передачу пакетов, что может увеличивать время задержки. С другой стороны, одновременная фильтрация обеспечивает высокую
NLB управляет распределением по соединениям для TCP и по дейтаграммам для UDP, применяя фильтрацию входного трафика, прежде чем происходит обращение к программам протокола TCP/IP. В TCP/IP обрабатываются только протоколы TCP и UDP, и все управление применяется на уровне портов.
ping, будут давать дублированные ответы при указании IP-адреса кластера. Чтобы избежать этого, используйте выделенный IP-адрес хоста, которому вы передаете ping.NLB можно сконфигурировать для обработки трафика кластера более детально путем использования таких средств, как правила для портов или родственность (
Служба Network
Виртуальные серверы обладают следующими свойствами.
Имеется несколько способов конфигурирования приложений в NLB-кластере. Кластер можно сконфигурировать таким образом, чтобы копия серверной программы выполнялась на каждом хосте; или приложение может выполняться на одном хосте, когда все запросы отправляются на этот хост вместо равномерного распределения нагрузки по всему кластеру. Принимаемое решение зависит от типа приложения. Например, приложения, которым требуется централизация, такие как Microsoft Exchange Server, принадлежат какому-либо одному хосту. Кроме того, запросы записи в базу данных могут отправляться на выделенный сервер базы данных в системе. Если нагрузка по базе данных сбалансирована в кластере, то каждый узел кластера может иметь свою собственную копию этих данных. Обновления в содержимом таблицы базы данных должны синхронизироваться путем регулярного слияния в режиме offline. Однако в большинстве случаев критически важные базы данных развертываются в среде кластера серверов, позволяющего выполнять переходы по отказам (
NLB в чистом виде наиболее подходит для нецентрализованного хранения данных или для приложений, которые не принимают данных от клиентов, выполняющих доступ к серверу (то есть для доступных только по чтению приложений на основе протокола TCP или UDP). Веб-сайты являются идеальными "кандидатами" для использования с NLB, поскольку это позволяет легко снабжать каждый хост текущей копией страниц (которые обычно являются статическими), обеспечивая простоту и скорость обработки больших объемов трафика. Для веб-клиентов, которым требуется доступ к базе данных, веб-серверы могут направлять запросы на сервер базы данных. Имеются также следующие кандидаты, для которых подходит NLB:
Приложение можно развертывать в NLB-кластере, если несколько экземпляров этого приложения можно выполнять одновременно без ошибок или какого-либо ущерба.
Имеется два вида соединений между клиентами и хостами для серверов приложений, и они обычно описываются термином stateful-соединение (соединение с изменяемым состоянием).
Служба NLB действует лучше всего, если она используется, чтобы обеспечивать масштабируемость для интерфейсных служб, не изменяющих своего состояния (например, для стандартного веб-приложения HTTP), даже если эти службы выполняют доступ к разделяемому прикладному серверу баз данных.
NLB никогда не следует использовать с interclient-соединениями. Приложения, которые используют этот тип stateful-соединения, не разрешают несколько экземпляров соединений, с помощью которых выполняется доступ к разделяемой базе данных и происходит одновременная синхронизация обновлений.
NLB можно использовать для масштабируемости приложений с intraclient-состояниями, даже в рамках сеанса, охватывающего несколько соединений. При включении одной из опций родственности (
NLB - это служба, которая привязывается к сетевому адаптеру и устанавливается автоматически (но не активизируется), когда вы устанавливаете сетевой адаптер в любой версии Windows Server, включающей в себя NLB. Параметры конфигурации задаются в диалоговом окне свойств Network
В Windows Server 2003 появилось улучшенное средство конфигурирования и управления NLB - nlbmgr.exe. Поскольку диалоговое окно NLB Properties используется в Windows Server 2003 и в более ранних версиях, сначала дается его описание. Nlbmgr.exe рассматривается ниже в разделе "Использование Nlbmgr.exe для конфигурирования кластеров и узлов".
Щелкните правой кнопкой на значке Local Area Connection (Соединение локальной сети), где вы хотите запустить NLB, и выберите пункт Properties (Свойства). Если на данном компьютере установлено несколько сетевых адаптеров, то каждый сетевой адаптер имеет свой собственный значок Local Area Connection.
В диалоговом окне Properties служба Network
(рис 15.1) NLB автоматически устанавливается вместе с Windows Server 2003, но не активизируется, пока вы не установите ее флажокЕсли служба Network
Оставив выделенной строку Network
Вкладка Cluster Parameters (рис. 15.2) содержит опции, применяемые ко всему кластеру. Чтобы сконфигурировать параметры кластера для каждого хоста в кластере используйте указания этого раздела.
(рис 15.2) Параметры NLB-кластера одинаковы для всех узлов кластераОсновной IP-адрес (IP address).Введите основной IP-адрес кластера, используя стандартную форму записи с точками для Интернет. Это виртуальный IP-адрес, поскольку он используется для кластера в целом. Вы должны использовать этот адрес для всех хостов в кластере.
Маска подсети (Subnet mask).Введите маску подсети, связанную с только что введенным IP-адресом (например, 255.255.255.0).
Полное интернет-имя кластера (Full Internet name).Введите полное интернет-имя этого кластера, например, nlbcluster.admin911.com. Это имя применяется к кластеру в целом и должно быть одинаковым для всех хостов в кластере. Это имя должно разрешаться (преобразовываться) в заданный основной IP-адрес кластера с помощью сервера DNS или файла HOSTS.
Сетевой адрес кластера (Network address).NLB автоматически генерирует сетевой адрес (MAC-адрес) для сетевого адаптера, через который будет происходить трафик клиент-кластер, исходя из основного IP-адреса кластера. Если включена поддержка групповой (multicast) передачи, то NLB использует локально администрируемый адрес, который тоже является групповым MAC-адресом.
Режим работы кластера (Cluster Operation Mode).Задайте режим Multicast (Групповой) или
Если выбран групповой (multicast) режим, то служба NLB продолжает использовать аппаратный MAC-адрес сетевого адаптера с помощью выделенного (уникального) IP-адреса узла, поэтому узлы кластера могут выполнять доступ друг к другу, используя сетевой адаптер с NLB. Однако NLB генерирует для кластерных операций групповой MAC-адрес. Это означает, что основной IP-адрес кластера будет разрешаться (преобразовываться) в этот групповой MAC-адрес в составе протокола ARP.
Учтите это, прежде чем активизировать режим multicast. Многие брандмауэры и маршрутизаторы, включая маршрутизаторы Cisco, не могут добавлять эту запись в свой кэш ARP, что не позволяет клиентам подсоединяться к кластеру, если вы не реализовали обходной способ (см. ниже). По это причине
Если клиенты выполняют доступ к работающему в режиме multicast кластеру через маршрутизатор, то этот маршрутизатор должен принимать ARP-ответ, содержащий один MAC-адрес в полезной информации структуры ARP, но этот ответ будет представлен как поступивший со станции, имеющей другой MAC-адрес (в заголовке Ethernet). Кроме того, маршрутизатор обязан принимать ARP-ответ, содержащий групповой MAC-адрес в полезной информации структуры ARP. Если маршрутизатор не отвечает этим требованиям, то у вас должна быть возможность добавления статической ARP-записи к потоку через маршрутизатор или брандмауэр из кластера, чтобы поддерживать разрешение однонаправленных IP-адресов в групповые MAC-адреса.
В режиме
Новый режим IGMP Multicast.IGMP Multicast - это новое средство для режима multicast, появившееся в Windows Server 2003. Это новое средство используется, чтобы избегать лавинной маршрутизации через переключатель (switch flooding), вызываемой групповым трафиком. Это явление возникает, когда переключателю не известно, какой порт переключателя обслуживает определенный MAC-адрес, и поэтому требуется отправка пакета во все порты переключателя. Это, конечно, означает, что вы теряете все преимущества переключения через хаб (концентратор).
Протокол IGMP (Internet Group Management Protocol) позволяет хостам IP сообщать об их членстве в multicast-группах соседним маршрутизаторам и переключателям. Переключателю уровня 3 известны сетевые протоколы и адреса более высоких уровней (такие как IP) в дополнение к протоколам аппаратного уровня 2 и соответствующим MAC-адресам. Если узлы NLB-кластера подсоединяются к сети через переключатель уровня 3, то IGMP снижает трафик через этот переключатель за счет того, что информирует переключатель, какие порты подсоединены к хостам, входящим в multicast-группу. Чтобы можно было эффективно использовать средство IGMP Multicast, узлы кластера должны быть подсоединены к сети через переключатель, который поддерживает IGMP Monitoring. Периодически (по умолчанию раз в минуту) каждый узел NLB-кластера отправляет сообщение IGMP Join, информируя восходящий поток через сетевое оборудование, что он является членом IGMP-группы данного кластера.
Если вы активизировали поддержку IGMP Multicast, то соответствующий групповой IP-адрес должен быть допустимым IP-адресом класса D, то есть адресом в диапазоне от 215.0.0.0 до 239.255.255.255.
Пароль для удаленного доступа (Remote Password).Вы можете задать пароль для доступа в кластер с удаленного компьютера Windows Server 2003. Этот пароль используется для аутентификации программой управления кластером Nlb.exe (она не используется при управлении операциями кластера с хоста кластера). Для выполнения операций удаленного управления из программы Nlb.exe требуется указывать параметр /passw в командной строке вместе с конкретным паролем.
Если у вас используется удаленное управление, то важно защитить кластер, поскольку злоумышленники могут проникнуть в окружение через порты удаленного управления. Используйте брандмауэр для управления доступом к UDP-портам управления Network nlbmgr.exe или какое-либо средство управления на основе Nlb.exe в режиме удаленного управления.
Nlb.exe работают неверно, если IPSec шифрует пакеты.Вкладка Host Parameters диалогового окна свойств Network
(рис 15.3) Каждый узел NLB-кластера должен иметь уникальный приоритет (Priority), но не обязательно должен иметь выделенный IP-адрес (Dedicated IP Address)Priority (Unique Host Identifier) [Приоритет (Уникальный идентификатор хоста)].Это приоритет данного хоста для обработки сетевого трафика по умолчанию для портов TCP и UDP, которые не заданы конкретно во вкладке Port Rules (см. следующий раздел). Приоритет - это уникальное значение, которое используется для слияния в кластере.
Это значение может изменяться в диапазоне от 1 до 32, где 32 - максимальное количество хостов, допустимое для NLB-кластера. Наиболее высокому приоритету соответствует значение 1, и чем больше значение, тем ниже приоритет. Каждый хост в кластере должен иметь уникальный приоритет (идентификатор).
При отказе какого-либо хоста в кластере процесс слияния должен получать информацию, какие из оставшихся хостов могут обрабатывать трафик отключившегося хоста. Выбирается хост с наиболее высоким приоритетом, и если происходит отказ этого хоста, то выбирается хост с наиболее высоким приоритетом среди оставшихся хостов. Такая система обеспечивает определенную отказоустойчивость для NLB-кластера.
Ведите записи о приоритетах, назначаемых каждому хосту. Если в кластере добавляется новый хост и для этого хоста задан дублированный приоритет, то новый хост не сможет присоединяться к этому кластеру (в журнале событий появится сообщение об этой проблеме).
Dedicated IP Address (Выделенный IP-адрес).Выделенный IP-адрес это уникальный IP-адрес хоста, который используется для сетевого кластера, не связанного с самим кластером. Введите этот адрес в стандартной форме записи с точками для Интернет. Этот IP-адрес используется для индивидуальной адресации каждого хоста, поэтому он должен быть уникальным. В большинстве случаев проще всего использовать исходный IP-адрес, поскольку он является уникальным для данного хоста. Вводите выделенный IP-адрес и маску подсети в виде статического IP-адреса. При работе с NLB в режиме
Initial Host State (Начальное состояние хоста).Параметр Default State (Состояние по умолчанию) определяет, следует ли запускать NLB, когда происходит загрузка операционной системы на данном хосте (вариант Started). Иначе хосты могут присоединяться к кластеру и выходить из него с помощью команд управления NLB, запускаемых из командной строки. Это полезно использовать, если имеются другие службы, которые требуется загружать на данном хосте (обычно вручную), прежде чем присоединять хост к кластеру.
Retain Suspended State after Computer Starts (Оставаться в состоянии задержки после загрузки компьютера).В состоянии задержки хост или кластер не выполняет никакой обработки приложений и отвечает только на команды Resume (Возобновить) и Query (Запрос). По умолчанию перезагрузка сервера, где находится задержанный член кластера, вызывает его присоединение к кластеру и возобновление обработки. Если установить этот флажок, то задержанные кластеры остаются в состоянии задержки при перезагрузке сервера.
Правила для портов помогают определить, каким образом трафик кластера будет обрабатываться для каждого порта, что упрощает конфигурирование и управление кластерами. Метод, посредством которого порт обрабатывает сетевой трафик, называют его режимом фильтрации.Во вкладке Port Rules (рис. 15.4) представлены текущие правила для портов.
Если щелкнуть на кнопке Add (Добавить) или Edit (Правка), то появится диалоговое окно, показанное на рис. 15.5, где вы можете создавать или изменять правила для портов.
Чтобы создать правило для портов, нужно задать набор параметров конфигурирования, которые определяют режим фильтрации. Каждое правило содержит следующие параметры.
(рис 15.4) По умолчанию правило для портов предусматривает вариант Single для родственности и равномерную нагрузку по всем портам TCP и UDP
(рис 15.5) В окне Add/Edit Port Rule вы можете назначить правило для портов одному виртуальному кластеру или всем кластерам данного сетевого адаптераКоличество и тип правил, которые создаются на одном хосте, должны повторяться на всех остальных хостах данного кластера. Если какой-либо хост пытается присоединиться к кластеру, используя неодинаковые правила для портов, то этот хост не будет принят как член кластера.
После установки служба NLB задает по умолчанию правило для портов, указывая NLB на необходимость обработки портов 0-65535 как для TCP, так и для UDP, равномерно распределяя нагрузку между всеми узлами NLB-кластера и указывая вариант Single (Один) для родственности (
NLB выполняет фильтрацию пакетов для всех портов TCP и UDP. Узел NLB-кластера и с минимальным номером идентификатора хоста (host ID) становится узлом по умолчанию и обрабатывает все пакеты, к которым не применяется никакого правила для портов.
В следующих разделах даются указания по использованию вкладки Port Rules для создания правила для портов.
Port Range (Диапазон портов).В этой секции задается диапазон портов, который будет охватываться данным правилом для портов. Можно указывать любые номера в диапазоне от 0 до 65535 (и это также диапазон по умолчанию). Чтобы задать один порт, введите одинаковые значения для начального и конечного номеров.
Protocols (Протоколы).Выберите конкретный протокол TCP/IP, который будет охватываться данным правилом для портов (вариант TCP, UDP или Both [Оба]). Это правило будет влиять на сетевой трафик только указанного здесь протокола. Весь остальной трафик будет обрабатываться с использованием режима фильтрации по умолчанию.
Filtering Mode (Режим фильтрации).Чтобы задать, что сетевой трафик для этого правила будет обрабатываться несколькими хостами данного кластера, выберите вариант Multiple Hosts (Несколько хостов). Распределяя нагрузку между несколькими хостами, вы получаете свойства отказоустойчивости и масштабирования производительности. Режим фильтрации позволяет также выбрать равномерную нагрузку между хостами или задать определенный процент нагрузки для конкретного хоста.
Выберите вариант Single Host (Один хост), чтобы задать, что сетевой трафик для данного правила должен обрабатываться каким-либо одним хостом в кластере согласно заданному для него приоритету обработки (поле Handling priority). Этот приоритет используется вместо приоритета (идентификатора хоста) для трафика через данный порт.
Выберите вариант Disabled (Отключен), чтобы задать, что сетевой трафик для этого правила должен быть блокирован. Это удобный способ создания брандмауэра, препятствующего сетевому доступу к заданному диапазону портов.
Nlb.exe для отключения правила (с помощью команды Affinity (Родственность).Вариант "родственности" с клиентами определяет, каким образом NLB будет назначать входящий трафик узлам кластера. Основное назначение этого параметра - поддержка приложений, для которых требуется, чтобы все запросы с одного и того же клиентского компьютера обрабатывались одним сервером NLB (то есть приложений, которые поддерживают определенный вид информации о состоянии клиента на этом сервере). Для алгоритма распределения используются части исходного IP-адреса в пакете, чтобы определить, какой сервер в кластере будет обрабатывать этот пакет.
Если у вас небольшое число пользователей приложений или пользователи вашего приложения работают позади брандмауэра, который реализует трансляцию сетевых адресов (NAT - Network Address Translation), то выбор варианта родственности Single (Один) или Class C (Класса C) может вызвать неравномерное распределение запросов по узлам кластера.
Выберите вариант None (Нет), чтобы задать, что служба NLB не обязательно должна направлять несколько запросов с одного клиентского компьютера на один хост кластера. В результате алгоритм хеширования NLB будет использовать все 4 байта IP-адреса отправителя в сочетании с исходным портом TCP или UDP при выборе узла NLB для обработки пакета. TCP/UDP изменяет исходный порт почти с каждым запросом, поэтому выбор варианта None дает всем узлам кластера возможность обработки пакетов от любого заданного клиентского компьютера.
Выберите варианта Single (вариант по умолчанию), чтобы задать, что несколько запросов с одного исходного IP-адреса должны направляться на один хост кластера. При выборе варианта родственности Single алгоритм хеширования NLB игнорирует исходный порт TCP или UDP. Родственность оказывает негативное влияние на производительность, но в определенных обстоятельствах это перевешивается эффективностью для клиента, направляющего несколько запросов. Например, если каждый запрос от клиента связывается с cookie-файлом, то более эффективно подсоединять этого клиента к одному хосту (на самом деле это необходимо). Для защищенных приложений HTTP (HTTPS через TCP Port 443) требуется вариант родственности Single.
Вариант родственности Class C используется для группы, а не для одного клиентского IP-адреса. При выборе этого варианта несколько запросов из одного диапазона адресов класса C TCP/IP направляются на один хост. При этой конфигурации клиенты, использующие несколько прокси-серверов, интерпретируются аналогично отдельным клиентским IP-адресам в варианте родственности Single. Если клиент, выполняющий доступ к кластеру через несколько прокси-серверов, направляет несколько запросов, эти запрос поступают как будто с различных компьютеров. Если все эти прокси-серверы находятся в одном диапазоне адресов класса C (обычно это разумное предположение), то выбор варианта Class C означает, что сеансы этого клиента будут обрабатываться аналогично варианту родственности Single.
Load Weight (Процент нагрузки).В режиме фильтрации Multiple Hosts вы можете использовать параметр Load Weight, чтобы задать процент трафика, который должен обрабатываться хостом по соответствующему правилу для портов. Чтобы на данный хост не поступал сетевой трафик, задайте значение 0. Чтобы задать какой-либо процент, используйте значение от 1 до 100.
При конфигурировании каждого хоста сумма отдельных значений параметра Load Weight не обязательно должна составлять 100 процентов. Реальная часть трафика рассчитывается динамически как частное от деления процента, заданного для хоста, на суммарный процент для всего кластера. Требование суммы в 100 процентов не имеет смысла, поскольку хосты время от времени включаются в кластер или выбывают из него.
Вариант Equal (Равномерное распределение нагрузки).Используйте вариант Equal, чтобы задать, что хост участвует в равномерно сбалансированном трафике в режиме фильтрации с несколькими хостами (Multiple hosts) по соответствующему правилу для портов.
Handling Priority (Приоритет обработки).Поле Handling priority используется в режиме фильтрации Single, и оно указывает уровень приоритета хоста для трафика по данному правилу. Хост с наиболее высоким приоритетом обработки для определенного правила будет обрабатывать весь трафик для этого правила. Введите значение от 1 до X, где X - это количество хостов. Каждый хост должен иметь уникальное значение этого параметра. Значение 1 соответствует наиболее высокому приоритету.
Во время установки NLB должны быть также сконфигурированы свойства TCP/IP для сетевого адаптера, который используется для NLB. Определение IP-адреса кластера или выделенного IP-адреса на страницах NLB Properties не дает автоматического определения адреса для стека протоколов TCP/IP. Следующие элементы должны быть заданы одинаково в конфигурации NLB и в конфигурации TCP/IP.
Конфигурирование NLB на странице свойств Network
NLB Manager позволяет вам создавать новые кластеры на основе Windows Server 2003 и добавлять узлы к существующим кластерам. Эта программа позволяет также создавать правила для портов и одновременно развертывать правила по всем узлам кластера.
NLB Manager можно запускать в системе Windows XP Professional или Windows Server 2003 для создания NLB-кластеров и управления ими в системах Windows Server 2003. NLB Manager находится в пакете Administrative Tools (\i386\adminpak.msi) на установочном CD Windows Server 2003.
Хотя узлы на основе Windows 2000 могут взаимодействовать с узлами на основе Windows Server 2003, NLB Manager работает с NLB-кластерами только на основе Windows Server 2003.
Хотя при использовании NLB Manager или конфигурировании каждого сервера с помощью диалогового окна Network
Решив использовать NLB Manager для конфигурирования и управления NLB-кластером, вы должны использовать NLB Manager постоянно. Не поддавайтесь искушению внести небольшие изменения с помощью диалогового окна NLB Properties, поскольку это может дать в результате конфигурацию одного или нескольких серверов, которая препятствует их слиянию с кластером.
Используя NLB Manager для создания кластера, вы должны сначала определить параметры кластера и правила для портов, а затем добавлять узлы в кластер. Для создания кластера выполните следующие шаги.
После задания элементов кластера, общих для всех узлов, NLB Manager проводит вас через остальные процессы, начиная с назначения первого сервера, который вы хотите включить в кластер. Для выполнения этого процесса выполните следующие шаги.
NLB Manager обновит как свойства NLB, так и свойства TCP/IP этого сервера и переведет кластер в состояние online. По завершении процесса NLB Manager выведет результаты и состояние кластера в отдельном окне управления кластерами (см. рис. 15.8).
Для добавления других хостов к кластеру щелкните правой кнопкой на имени этого кластера и выберите пункт Add Host To Cluster (Добавить хост к кластеру). Альтернативный способ - это выделить имя кластера и затем выбрать в линейке меню пункт Cluster/Add Host To Cluster. После этого NLB Manager будет сопровождать вас, используя описанные выше шаги.
(рис 15.8) NLB Manager выводит текущее состояние всех отслеживаемых кластеров, а также ведет журнал записей об успешном или неудачном завершении задач управления NLB-кластером
NLB Manager позволяет вам изменять конфигурацию кластера в целом или отдельных хостов кластера.
Для изменения параметров кластера откройте диалоговое окно свойств Cluster Properties (щелкните правой кнопкой на имени этого кластера и выберите пункт Properties или выделите имя кластера и затем выберите Cluster/Properties). Чтобы изменить свойства кластера, внесите соответствующие изменения и щелкните на кнопке OK. NLB Manager прекратит выполнение кластерных операций, внесет изменения в отдельные узлы кластера и затем перезапустит узлы в их начальном состоянии по умолчанию.
Чтобы внести изменения в параметры хоста кластера, откройте диалоговое окно Host Properties из контекстного меню этого хоста или из меню Host, выделив перед этим данный хост. Окно Host Properties содержит четыре вкладки (см. рис. 15.9). NLB Manager позволяет вам изменять параметры во вкладке Host Parameters а также изменять приоритет обработки (handling priority) для любых правил, относящихся к одному хосту. Вся остальная информация выводится только для сведения и не может быть изменена в диалоговом окне Host Properties.
После завершения всех процедур установки управление NLB-кластерами на повседневной основе не представляет особых сложностей. Вы можете проверять состояние кластера и его хостов, чтобы избежать серьезных проблем, или выполнять задачи обслуживания, чтобы разрешать проблемы.
У вас имеется два средства администрирования ваших NLB-кластеров: NLB Manager и Nlb.exe, которые рассматриваются в следующих разделах.
Используя NLB Manager, вы можете полностью управлять операциями кластера и отдельных хостов кластера. Щелкнув правой кнопкой мыши на имени кластера или на отдельном хосте кластера, вы можете выбрать вариант Control Host(s) [Управление хостом(ами)] или Control Ports (Управление портами).
Как показано на рис. 15.10, в меню Control Hosts можно выбрать для хоста или для всех хостов кластера команду Start, Stop, Drainstop, Suspend или Resume.
(рис 15.9) Вы можете задавать настройки конфигурации в диалоговом окне Host Properties
(рис 15.10) Меню Control Hosts позволяет вам управлять состоянием хостов кластераВ диалоговом окне Control Ports вы можете выбрать команду Enable, Disable или
После установки и конфигурирования службы NLB вы можете управлять ее операциями (и изменять настройки некоторых параметров) с помощью программы управления Network Nlb.exe ).
Вы можете использовать программу Nlb.exe, находящуюся в папке %SystemRoot%\System32, с хостов кластера или с любого удаленного компьютера Windows Server 2003, который может получать доступ к кластеру через локальную
или глобальную сеть. Nlb.exe - это программа, которая позволяет администраторам писать и выполнять скрипты командной строки для упрощения администрирования.
(рис 15.11) Окно Control Ports позволяет вам управлять правилами для хоста или кластераNlb.exe нельзя использовать для изменения параметров хоста с удаленного компьютера, хотя вы можете просматривать информацию об удаленном компьютере.Nlb.exe имеет следующий синтаксис.
nlb <команда> [<кластер>[:<хост>] [/passw [<пароль>]] [/port <порт>]]
где:
команда - одна из поддерживаемых команд (см. ниже); при доступе к кластеру с удаленного компьютера используются следующие параметры.
кластер - основной IP-адрес кластера.хост - IP-адрес хоста в этом кластере (если не указан, то все хосты)./passw <пароль> - пароль для удаленного доступа./port <порт> - порт UDP для удаленного доступа к кластеру.Имеются следующие команды.
ip2mac <кластер>. Преобразует IP-адрес кластера в MAC-адрес кластера.reload . Перезагружает параметры из реестра; действует только на локальной машине.query. Запрос, позволяющий увидеть, какие хосты входят на данный момент в кластер.display. Выводит параметры конфигурации, текущее состояние и недавние сообщения журнала событий.suspend. Задерживает управление операциями кластера; прекращает выполнение операций хостов кластера. Задержанные хосты кластера будут игнорировать все команды управления кластером, кроме Resume (и Query).resume. Возобновляет управление операциями кластера; не перезапускает работу задержанного кластера, а только разрешает ему принимать другие команды управления.start. Запускает операции кластера.stop. Прекращает выполнение операций кластера.drainstop. Разъединяет все существующие соединения и прекращает выполнение операций кластера.enable <порт>/all. Активизирует трафик для правила <порта> или для всех портов.disable <порт>/all. Отключает трафик для правила <порта> или для всех портов.drain <порт>/all. Отключает новый трафик для правила <порта> или для всех портов.igmp <enable/disable> <IP-адрес кластера>. Активизирует или отключает поддержку IGMP Multicast для кластера.Еще одним компонентом в кластеризации Windows являются кластеры серверов. Цель применения кластеров серверов несколько отличается от Network
Кластеры серверов обеспечивают готовность системы за счет использования технологии переходов по отказу (
Как и в случае NLB, кластер серверов - это группа компьютеров, которые совместно работают как единое целое. Версии Windows Server 2003 Enterprise Edition и Datacenter Edition поддерживают кластеры из восьми узлов. (Windows 2000 Advanced Server поддерживает в кластере серверов два компьютера, и Windows 2000 Datacenter Server поддерживает четыре компьютера.)
В кластере серверов каждый компьютер называется узлом,и каждый узел несет равную ответственность за поддержку готовности серверов и приложений. Кроме того, имеется общий набор ЗУ (запоминающих устройств), подсоединенный к каждому узлу с помощью разделяемой шины. Это позволяет перемещать эффективное владение ЗУ на другой узел в кластере, когда ответственность за обработку приложений, находящихся на этом ЗУ, передается с одного узла на другой. Это называется архитектурой "без разделяемых ресурсов",поскольку доступ к ресурсам, которые используются кластеризованными приложениями, одновременно выполняется не более чем из одного узла. Эта архитектура гарантирует, что узел отказывается от владения ресурсом, прежде чем этот ресурс будет захвачен и будет использоваться другим узлом кластера.
Кластеры серверов позволяют централизованно управлять системами. Поскольку кластеры серверов работают как единое целое, то ПО управления может работать так, как будто оно управляет одной системой. Это упрощает процесс доступа к кластерам серверов и управление ими, что позволяет вам работать более рационально и эффективно.
Кластеры серверов поддерживают высокий уровень готовности за счет обеспечения постоянного доступа к приложениям и узлам. Если узел или приложение должны перейти в состояние offline (в результате запланированного или не запланированного простоя), то другой узел этого кластера серверов должен немедленно взять на себя все задачи. Этот процесс называют переходом по отказу (
Переход по отказу.Переход по отказу - это одна из многих возможностей кластера серверов, которые отличают его от NLB-кластера. Переход по отказу возникает при отказе какого-либо приложения или узла. Например, когда какой-либо аппаратный ресурс в узле приводит к аварии системы, другой узел в кластере серверов немедленно берет на себя управление (и становится узлом восстановления).
Узел восстановления сначала берет на себя владение ресурсами отказавшего узла. Зависимые ресурсы переводятся в режим offline раньше, чем ресурсы, от которых они зависят. Служба Cluster делает это путем использования Resource Monitor (Монитора ресурсов) для соединения с DLL, которая управляет этим ресурсом (см. ниже раздел "Монитор ресурсов"). Если не удается установить контакт с ресурсом или отключить его нормальным образом, то он немедленно отключается. После отключения ресурсов узел восстановления начинает брать на себя управление этими ресурсами, получает IP-адрес отказавшего узла и, наконец, автоматически запускается, предоставляя клиентам услуги отказавшего узла путем возврата ресурсов и служб в режим online.
При отказе приложения выполняется аналогичный процесс, который все же несколько отличается от случая отказа узла. После обнаружения отказа приложения узел может сначала попытаться перезапустить это приложение. Если это не удается, то узел инициирует переход по отказу, чтобы это приложение было запущено другим узлом кластера серверов.
Следует помнить две вещи, относящиеся к переходу по отказу.
Возврат после восстановления.После перехода по отказу узел (или узлы) восстановления берет на себя службы из отключившегося узла или приложения. Вы должны всегда рассматривать переход по отказу как временное решение, поскольку это обычно вызывает перегрузку ресурсов. В результате вам следует постараться как можно быстрее вернуть приложение или узел в состояние online.
Механизм восстановления исходной конфигурации называется возвратом после восстановления (
Имеется два основных режима работы для кластеров Windows Server 2003 в вашей сетевой среде. Эти режимы не следует путать со сценариями кластеризации, которые могут быть реализованы в вашей среде. Это внутренние механизмы, обеспечивающие гибкость кластеров серверов в вашей среде. Два следующих режима работы поддерживаются кластерами Windows Server 2003.
Компоненты оборудования, необходимые для кластера серверов, являются еще одним фактором, отличающим кластеры серверов от NLB-кластеров. Иными словами, к кластерам серверов предъявляются более высокие требования по ресурсам (переход по отказу, возврат после восстановления и кластеризация типа active/active). В следующих разделах подробно описываются основные компоненты оборудования, необходимые для создания и поддержки кластера серверов.
Узлы.Как уже говорилось выше, кластер серверов состоит из двух и более отдельных компьютерных систем (узлов), которые действуют как единое целое. Клиентские компьютеры "видят" и используют кластеры серверов как один ресурс. Чтобы сервер мог стать узлом в кластере серверов, он должен отвечать следующим необходимым условиям.
При выполнении этих условий сервер может активно участвовать совместно с другими серверами в кластере серверов. Узлы, по определению, обладают следующими свойствами.
Узел может иметь различные состояния его участия в кластере серверов. В табл. 15.1 приводит список из пяти возможных состояний узла. Узел может находиться одновременно только в одном из этих состояний.
| Состояние | Описание |
|---|---|
| Down (Отключен) | Узел не работает в кластере серверов из-за отказа компьютера или приложения либо запланированного обслуживания. |
| Joining (Присоединение) | Узел становится членом кластера серверов. |
| Paused (Приостановлен) | Разделяемые ресурсы захвачены, поэтому узел находится в состоянии ожидания, пока не будут освобождены ресурсы. |
| Up (Включен) | Узел находится в активном состоянии и работает в кластере серверов. |
| Unknown (Неизвестно) | Рабочее состояние узла невозможно определить. |
Разделяемые ЗУ.Все узлы, участвующие в работе кластера серверов, совместно используют одно или несколько запоминающих устройств (ЗУ), как это показано на схеме рис. 15.12. Эти ЗУ используют разделяемую шину SCSI для подключения к двум узлам кластера серверов.
Если вы хотите поддерживать более двух узлов (до восьми узлов), то должны установить устройство с волоконно-оптическим каналом. Windows Server 2003 Enterprise Edition и Datacenter Edition поддерживают широкий диапазон устройств SCSI от различных изготовителей, но я настоятельно рекомендую обратиться к списку совместимости оборудования (
(рис 15.12) Кластеры серверов с двумя узлами могут использовать разделяемую шину SCSI для совместного использования ЗУНа самих ЗУ хранятся любые данные, которые требуются узлам для совместного использования, а также хранится вся информация о конфигурации и ресурсах кластера серверов. Только один узел может иметь временное владение данными, которые находятся на разделяемом(ых) ЗУ, что устраняет возможность конфликтов ресурсов.
Межсоединения.Межсоединение - это физический носитель, используемый для обмена информацией в кластере серверов. Межсоединением может быть сетевой адаптер, используемый для связи с остальной частью сети (он принимает входящие клиентские запросы) или другой сетевой адаптер, который выделен для обслуживания обмена информацией в кластере серверов. Для повышения производительности и поддержки избыточности используйте выделенный сетевой адаптер для обмена информацией кластера и второй сетевой адаптер для связи с остальной частью сети.
Наличие двух сетевых адаптеров в каждом узле не является обязательным, но, несомненно, рекомендуемым требованием. Причина этого очевидна. Во-первых, на сетевой трафик, генерируемый между двумя узлами, не оказывает влияния остальной трафик сети. Но важнее всего то, что вы снижаете количество единственных точек отказа в кластере серверов. Ведь это и есть основная причина того, что вы хотите использовать кластеры серверов.
Clusnet.sys, сетевой драйвер кластера, запускается в каждом узле и управляет обменом данных кластера серверов.
Несколько программных компонентов образуют кластеры серверов; они разделяются на две категории.
Служба Cluster.Служба Cluster запускается в каждом узле кластера серверов. Это
Монитор ресурсов (Resource Monitor).Любой физический или логический компонент в кластере серверов (большинство из них уже описано выше) рассматривается как ресурс службой Cluster. Чтобы повысить управляемость компонентов кластера серверов, используется Монитор ресурсов, помогающий осуществлять взаимодействие между службой Cluster и ресурсами кластера.
Мониторы ресурсов - это различные программные компоненты, которые используются как "посредники" между службой Cluster и ресурсами кластера серверов. Монитор ресурсов позволяет работать этим ресурсам отдельно друг от друга, а также от службы Cluster. Это
Монитор ресурсов не вызывает никаких операций кластера серверов, за двумя исключениями: сбор отчетов о состоянии от службы Cluster или от ресурсов и перевод в режим offline всех ресурсов узла в случае отказа службы Cluster. Когда Монитор ресурсов связывается с ресурсом, он фактически связывается с ресурсной DLL этого ресурса. Ресурсную DLL можно видеть как интерфейс с этим ресурсом. Возьмем, например, ресурс, где возникло какое-либо событие. Ресурсная DLL должна сообщить об этом событии службе Cluster. И здесь вступает в дело Монитор ресурсов; он фактически принимает сообщение и обеспечивает уведомление службы Cluster.
Cluster Administrator (Администратор кластеров).Cluster Administrator это основное средство администрирования и конфигурирования объектов кластера серверов, таких как узлы, группы и другие ресурсы. Он устанавливается по умолчанию в каждом узле кластера, но его можно также установить на любом компьютере с Windows Server 2003, Windows 2000 или Windows NT 4 с Service Pack, начиная с версии 3. Это позволяет вам управлять кластером серверов без необходимости физического присутствия в одном из узлов.
Программа Cluster Administrator вызывается из меню Administrative Tools версий Windows Server 2003 Standard Edition, Enterprise Edition и Datacenter Edition (но не Web Edition).
Утилита командной строки Cluster. Cluster.exe позволяет вам управлять кластером из командной строки или из скрипта, который вызывает cluster.exe. Эту утилиту можно запускать на компьютере с Windows Server 2003, Windows 2000 или Windows NT 4 с Service Pack, начиная с версии 3.
Прежде чем использовать cluster.exe, вам нужно изучить следующие важные синтаксические правила.
True и False ) указывайте 1 для True и 0 для False.Cluster.exe обрабатывает опции слева направо, и если какая-либо опция неверна, то команда прекращает свое выполнение на этой опции.Синтаксис cluster.exe зависит от объектов, которыми вы управляете. В табл. 15.2 описываются различные объекты, которыми вы можете управлять, с описанием соответствующего синтаксиса.
cluster.exe /? или cluster.exe /help в командной строке.Служба Cluster работает с приложениями, управляя логическими и физическими компонентами кластера.
Логические компоненты.Служба Cluster управляет множеством логических компонентов, включая следующие компоненты.
| Кластер | cluster [[/cluster:] имя_кластера ] /опция |
|---|---|
| Узел кластера | cluster [[/cluster:]имя_кластера] node имя_узла оn- |
| Кластерная группа | cluster [[/cluster:]имя_кластера] group имя_группы [/node:имя_узла] опция |
| Кластерная сеть | cluster [[/cluster:]имя_кластера] network имя_сети опция |
| Сетевой интерфейс кластера | cluster [[/cluster:]имя_кластера] netinterface /node: имя_узла /network:имя_сети опция |
| Кластерный ресурс | cluster [[/cluster:]имя_кластера] resource имя_ресурса опция |
| Тип кластерного ресурса | cluster [[/cluster:]имя_кластера] resourcetype отображаемое-имя-типа-ресурса опция |
Физические компоненты.Имеются следующие физические компоненты, поддерживающие логические компоненты кластера.
Критически важным шагом является планирование способа включения кластеров серверов в ваше сетевое окружение Windows Server 2003. Не упустите ни одного аспекта планирования, прежде чем приступить к реализации. К сожалению, многие администраторы уделяют слишком мало времени планированию, и в результате получается неудачное решение, которое не приносит реальных выгод предприятию или даже вызывает серьезные аварии.
Имеется несколько заранее подготовленных реализаций, и вы можете выбирать среди них, задавшись следующими вопросами.
В следующем разделе описываются модели конфигураций, которые предлагает вам рассмотреть вам Microsoft. Для простоты изложения эти модели описываются для кластера с двумя узлами. Помня об изложенных выше вопросах, оцените каждую модель, чтобы решить, какая из них больше подходит для вашего сетевого окружения Windows Server 2003.
Модель кластера с горячим резервированием (hot-
(рис 15.13) В модели кластера типа active/passive второй узел используется только при отказе первого узлаВ модели с горячим резервированием один узел кластера серверов обслуживает все запросы ресурсов. Второй узел простаивает, пока не возникает отказ активного узла. Вы можете интерпретировать это как выделенный резерв.
Обычно для пассивного узла используется та же конфигурация оборудования, что и для активного узла. В случае аварии это позволяет пассивному узлу быстро занять место активного узла и обеспечивать те же услуги.
Главным преимуществом этой модели является то, что она обеспечивает наиболее высокий уровень готовности без снижения уровней производительности. Вы можете предусмотреть использование этой модели для ваших наиболее критичных приложений и служб. Конечно, если говорить о финансовой стороне, то вам придется потратить дополнительные деньги на узел, который будет простаивать почти весь срок его службы.
Модель кластера типа active/active представляет два узла в кластере серверов, которые работают одновременно (рис. 15.14). Каждый узел отвечает за свои собственные ресурсы кластера серверов, пока не возникнет необходимость в переходе по отказу. При отказе одного узла работающий узел берет на себя ресурсы отказавшего узла.
(рис 15.14) В модели кластера типа active/active оба узла содержат различные виртуальные серверы и используют дополнительные мощности, чтобы брать на себя роль второго узла в случае его отказаЭта модель обеспечивает такой же уровень высокой готовности, как и модель кластера с горячим резервированием. Однако после отказа производительность может снизиться, если работающий узел не имеет адекватных возможностей, чтобы справиться с дополнительной рабочей нагрузкой. По этой причине важно обеспечить такую мощность каждого узла, чтобы он мог справляться с двойной рабочей нагрузкой (здесь тоже имеются финансовые соображения).
Модель с гибридной конфигурацией представляет конфигурацию, где одно или несколько приложений работают в узлах кластера вне управления службой Cluster, а одно или несколько приложений работают под управлением службы Cluster. Например, служба Cluster может управлять экземпляром SQL Server, в то время как DNS может работать вне контекста службы Cluster. В случае отказа узла SQL Server перейдет по отказу на другой работающий узел, а DNS не сможет это сделать.
В конфигурации с одним узлом вы устанавливаете службу Cluster на одном компьютере и определяете один или несколько виртуальных серверов в этом кластере. Эта конфигурация не дает обычных преимуществ кластеров серверов, касающихся высокой готовности, но имеет некоторые административные достоинства. Например, вы можете определить в кластере с одним узлом два виртуальных сервера, обслуживающих два различных отдела. Если вам потребуется более высокий уровень готовности или дополнительные ресурсы серверов, то вы добавите второй узел к этому кластеру. При этом с клиентской точки зрения ресурсы сервера не изменятся. Вы можете установить конфигурацию с одним узлом на сервере, где нет шины разделяемого ЗУ, но вы должны сразу сконфигурировать этот сервер с шиной SCSI или
Установка является реализацией ваших усилий по планированию и разработке. Вы должны устанавливать службу Cluster по отдельности в каждом узле. Если запустить операционную систему в нескольких узлах, прежде чем начнет работать в первом узле служба Cluster, то могут быть запорчены диски, используемые в кластере. После завершения и проверки физической установки вашего кластера, включая шину разделяемого ЗУ, кворум-ресурс, разделяемые диски, сетевой адаптер для обмена контрольными пакетами (
Поскольку большинство приложений, которые работают под управлением службы Cluster, поддерживают работу в кластере, не устанавливайте такое приложение в узлах кластера, пока не установите службу Cluster во всех узлах.
Все узлы кластера должны быть членами одного домена. Чтобы создать новый кластер, запустите Windows Server 2003 Enterprise Edition или Datacenter Edition в первом узле и проследите, чтобы были отключены все остальные компьютеры, подсоединенные к шине разделяемого ЗУ. Затем установите первый узел кластера, используя следующие шаги.

(рис 15.17) Учетная запись службы Cluster должна быть доменной учетной записью, а не учетной записью локального компьютера
(рис 15.18) Проверьте список конфигурирования, прежде чем продолжить работу Исправление ошибок конфигурированияКогда мастер New
(рис 15.19) Мастер выводит результаты конфигурирования Использование Cluster AdministratorCluster Administrator подсоединится к новому кластеру и выведет его состояние.

Во время установки все сетевые адаптеры активизированы как для частного обмена информацией кластера, так и для открытого обмена информацией с кластером. Если вы установили сетевой адаптер в частной сети, который хотите выделить для частного обмена информацией кластера, то используйте Cluster Administrator, чтобы открыть диалоговое окно Properties данного адаптера. Затем измените конфигурацию адаптера, чтобы разрешить только частный обмен информацией кластера.
Убедитесь, что служба работает без ошибок в этом узле, прежде начать процесс установки в следующем узле. Если вам требуется более подробная информация для
диагностирования какой-либо проблемы установки, то вы можете использовать файл журнала, который создается мастером установки в файле %SystemRoot%\ system32\logfiles\cluster\ClCfgSrv.log.
Для добавления других узлов к вашему кластеру нужно использовать аналогичную процедуру. Начните с проверки того, что первый узел кластера включен и работает нормально. Затем включите сервер, который хотите сделать следующим узлом кластера, и откройте Cluster Administrator. Щелкните правой кнопкой на имени вашего кластера и выберите в контекстном меню пункт New/Node (Создать/Узел), чтобы запустить мастер добавления компьютеров кластера (Add Cluster Computers Wizard). Следуйте указаниям этого мастера, чтобы выполнить конфигурирование других узлов, добавляя каждый раз по одному узлу. В каждом случае убедитесь, что соответствующий компьютер и служба Cluster работают без ошибок, прежде чем приступить к добавлению следующего узла.
Если у вас установлено хотя бы два узла, вы можете тестировать кластер путем перемещения группы. При перемещении группы происходит передача управления этой группой (и выполнения любых приложений, которые являются частью этой группы) другому узлу кластера. Откройте Cluster Administrator, щелкните правой кнопкой на имени этой группы и выберите в контекстном меню пункт Move Group (Переместить группу). Cluster Administrator выполнит следующие действия.
На рис. 15.20 показаны результаты после перемещения группы из узла CL1 в узел CL2.
(рис 15.20) Состояние кластера из двух узлов после перемещения группы
Процедуры установки приложений в кластере варьируются от приложения к приложению, поэтому подробные инструкции выходят за рамки изложения этого курса. В общем случае, когда вы устанавливаете приложение, поддерживающее кластеры, на сервере, где запущена служба Cluster, программы установки приложения предлагают вам опции установки, связанные с кластером. Изучите требования к приложению для работы в кластеризованной среде, прежде чем приступить к установке этого приложения.
Начиная с Wolfpack Project компании Microsoft, кластеризация прошла большой путь, став важной частью любой реализации предприятия под управлением Windows. В этой лекции рассматриваются современные кластерные решения Microsoft и описывается их использование для масштабирования и расширения вашей сети Windows Server 2003.
Кластер проще всего определить как группу отдельных серверов, совместно работающих как одна система. Программы и клиенты "видят" кластер как один объект, и кластер управляется как единое целое. Кластеризация используется, чтобы обеспечить высокий уровень готовности для критически важных приложений, управляемости реализаций, работающих круглые сутки, и масштабируемости для крупных предприятий. В Microsoft Windows Server 2003 имеются две кластерные технологии.
Вы не можете применить обе технологии к одному серверу, но можете использовать эти два кластерных решения совместно для реализации дополняющих друг друга функций, например, сделать базу данных доступной для посетителей веб-сайта.
Network
NLB входит в следующие версии Windows Server 2003:
С помощью Network
Одно из главных преимуществ службы NLB - это высокая готовность, которая обеспечивается этой службой для приложений предприятия. Кластерное ПО может автоматически изменять распределение клиентских запросов в случае отказа сервера. Для этого кластер и отдельные серверы следят за состоянием друг друга. Между серверами, а также между каждым сервером и кластером происходит обмен групповыми или широковещательными сообщениями.
Если состояние сервера (или нескольких серверов) внутри кластера изменяется, то активные серверы запускают процесс, который называется "слиянием" (convergence),чтобы определить, какие серверы остались активными и как перераспределить нагрузку между ними. По умолчанию NLB определяет потерю члена кластера в течение пяти секунд и выполняет процесс слияния в течение следующих пяти секунд. Пока происходит слияние, каждый узел кластера продолжает обрабатывать пакеты приложений согласно правилам, существовавшим до начала процесса слияния.
Если слияние инициируется в результате потери одного из серверов, то запросы приложения, которые должны были обрабатываться отказавшим сервером, возвращаются невыполненными, пока не будет выполнено переназначение запросов (по окончании слияния). Это состояние ошибки должно учитываться в переходном состоянии пользователем или приложением, но не самой службой NLB.
Если к кластеру добавляется еще один хост-сервер, тот же самый процесс слияния позволяет новому хосту получать его долю трафика. В результате расширение кластера происходит совершенно прозрачным образом как для клиентов, так и для приложений.
NLB обеспечивает два уровня масштабируемости.
Администрирование Network
Network
Алгоритм, определенный во время процесса слияния кластера, позволяет каждому узлу кластера решать, нужно или не нужно обрабатывать очередной клиентский запрос. Обрабатывающий узел отправляет пакет в стек протоколов IP, а все остальные узлы отбрасывают этот пакет. Для каждого хоста можно задать его процент нагрузки или распределять нагрузку равномерно среди всех хостов.
NLB перехватывает только пакеты TCP и UDP. Пакеты других протоколов IP передаются в стек протоколов и обрабатываются всеми узлами NLB-кластера.
Служба NLB разработана таким образом, чтобы обеспечивать кластерную поддержку для серверных программ на основе TCP/IP. Для этого, конечно, требуется, чтобы TCP/IP был протоколом по умолчанию для системы. Версия NLB в Windows Server 2003 действует в локальных сетях на основе FDDI или Ethernet внутри кластера.
Вы можете повысить производительность NLB, установив два сетевых адаптера на каждом хосте. NLB использует один сетевой адаптер для трафика клиент-кластер и еще один - для всего остального сетевого трафика (включая обмен информацией в кластере). Дополнительные IP-адреса, назначаемые этим сетевым адаптерам, определяются автоматически.
Поступающие клиентские запросы отображаются в хосты кластера посредством распределяющего алгоритма. При поступлении пакета все хосты выполняют отображение одновременно. Это позволяет быстро определить, какой хост должен обрабатывать данный пакет. Этот алгоритм одновременной фильтрации является более эффективным для обработки пакетов, чем программы, использующие централизованные алгоритмы балансирования нагрузки. Централизованная фильтрация предусматривает модификацию и повторную передачу пакетов, что может увеличивать время задержки. С другой стороны, одновременная фильтрация обеспечивает высокую
NLB управляет распределением по соединениям для TCP и по дейтаграммам для UDP, применяя фильтрацию входного трафика, прежде чем происходит обращение к программам протокола TCP/IP. В TCP/IP обрабатываются только протоколы TCP и UDP, и все управление применяется на уровне портов.
ping, будут давать дублированные ответы при указании IP-адреса кластера. Чтобы избежать этого, используйте выделенный IP-адрес хоста, которому вы передаете ping.NLB можно сконфигурировать для обработки трафика кластера более детально путем использования таких средств, как правила для портов или родственность (
Служба Network
Виртуальные серверы обладают следующими свойствами.
Имеется несколько способов конфигурирования приложений в NLB-кластере. Кластер можно сконфигурировать таким образом, чтобы копия серверной программы выполнялась на каждом хосте; или приложение может выполняться на одном хосте, когда все запросы отправляются на этот хост вместо равномерного распределения нагрузки по всему кластеру. Принимаемое решение зависит от типа приложения. Например, приложения, которым требуется централизация, такие как Microsoft Exchange Server, принадлежат какому-либо одному хосту. Кроме того, запросы записи в базу данных могут отправляться на выделенный сервер базы данных в системе. Если нагрузка по базе данных сбалансирована в кластере, то каждый узел кластера может иметь свою собственную копию этих данных. Обновления в содержимом таблицы базы данных должны синхронизироваться путем регулярного слияния в режиме offline. Однако в большинстве случаев критически важные базы данных развертываются в среде кластера серверов, позволяющего выполнять переходы по отказам (
NLB в чистом виде наиболее подходит для нецентрализованного хранения данных или для приложений, которые не принимают данных от клиентов, выполняющих доступ к серверу (то есть для доступных только по чтению приложений на основе протокола TCP или UDP). Веб-сайты являются идеальными "кандидатами" для использования с NLB, поскольку это позволяет легко снабжать каждый хост текущей копией страниц (которые обычно являются статическими), обеспечивая простоту и скорость обработки больших объемов трафика. Для веб-клиентов, которым требуется доступ к базе данных, веб-серверы могут направлять запросы на сервер базы данных. Имеются также следующие кандидаты, для которых подходит NLB:
Приложение можно развертывать в NLB-кластере, если несколько экземпляров этого приложения можно выполнять одновременно без ошибок или какого-либо ущерба.
Имеется два вида соединений между клиентами и хостами для серверов приложений, и они обычно описываются термином stateful-соединение (соединение с изменяемым состоянием).
Служба NLB действует лучше всего, если она используется, чтобы обеспечивать масштабируемость для интерфейсных служб, не изменяющих своего состояния (например, для стандартного веб-приложения HTTP), даже если эти службы выполняют доступ к разделяемому прикладному серверу баз данных.
NLB никогда не следует использовать с interclient-соединениями. Приложения, которые используют этот тип stateful-соединения, не разрешают несколько экземпляров соединений, с помощью которых выполняется доступ к разделяемой базе данных и происходит одновременная синхронизация обновлений.
NLB можно использовать для масштабируемости приложений с intraclient-состояниями, даже в рамках сеанса, охватывающего несколько соединений. При включении одной из опций родственности (
NLB - это служба, которая привязывается к сетевому адаптеру и устанавливается автоматически (но не активизируется), когда вы устанавливаете сетевой адаптер в любой версии Windows Server, включающей в себя NLB. Параметры конфигурации задаются в диалоговом окне свойств Network
В Windows Server 2003 появилось улучшенное средство конфигурирования и управления NLB - nlbmgr.exe. Поскольку диалоговое окно NLB Properties используется в Windows Server 2003 и в более ранних версиях, сначала дается его описание. Nlbmgr.exe рассматривается ниже в разделе "Использование Nlbmgr.exe для конфигурирования кластеров и узлов".
Щелкните правой кнопкой на значке Local Area Connection (Соединение локальной сети), где вы хотите запустить NLB, и выберите пункт Properties (Свойства). Если на данном компьютере установлено несколько сетевых адаптеров, то каждый сетевой адаптер имеет свой собственный значок Local Area Connection.
В диалоговом окне Properties служба Network
(рис 15.1) NLB автоматически устанавливается вместе с Windows Server 2003, но не активизируется, пока вы не установите ее флажокЕсли служба Network
Оставив выделенной строку Network
Вкладка Cluster Parameters (рис. 15.2) содержит опции, применяемые ко всему кластеру. Чтобы сконфигурировать параметры кластера для каждого хоста в кластере используйте указания этого раздела.
(рис 15.2) Параметры NLB-кластера одинаковы для всех узлов кластераОсновной IP-адрес (IP address).Введите основной IP-адрес кластера, используя стандартную форму записи с точками для Интернет. Это виртуальный IP-адрес, поскольку он используется для кластера в целом. Вы должны использовать этот адрес для всех хостов в кластере.
Маска подсети (Subnet mask).Введите маску подсети, связанную с только что введенным IP-адресом (например, 255.255.255.0).
Полное интернет-имя кластера (Full Internet name).Введите полное интернет-имя этого кластера, например, nlbcluster.admin911.com. Это имя применяется к кластеру в целом и должно быть одинаковым для всех хостов в кластере. Это имя должно разрешаться (преобразовываться) в заданный основной IP-адрес кластера с помощью сервера DNS или файла HOSTS.
Сетевой адрес кластера (Network address).NLB автоматически генерирует сетевой адрес (MAC-адрес) для сетевого адаптера, через который будет происходить трафик клиент-кластер, исходя из основного IP-адреса кластера. Если включена поддержка групповой (multicast) передачи, то NLB использует локально администрируемый адрес, который тоже является групповым MAC-адресом.
Режим работы кластера (Cluster Operation Mode).Задайте режим Multicast (Групповой) или
Если выбран групповой (multicast) режим, то служба NLB продолжает использовать аппаратный MAC-адрес сетевого адаптера с помощью выделенного (уникального) IP-адреса узла, поэтому узлы кластера могут выполнять доступ друг к другу, используя сетевой адаптер с NLB. Однако NLB генерирует для кластерных операций групповой MAC-адрес. Это означает, что основной IP-адрес кластера будет разрешаться (преобразовываться) в этот групповой MAC-адрес в составе протокола ARP.
Учтите это, прежде чем активизировать режим multicast. Многие брандмауэры и маршрутизаторы, включая маршрутизаторы Cisco, не могут добавлять эту запись в свой кэш ARP, что не позволяет клиентам подсоединяться к кластеру, если вы не реализовали обходной способ (см. ниже). По это причине
Если клиенты выполняют доступ к работающему в режиме multicast кластеру через маршрутизатор, то этот маршрутизатор должен принимать ARP-ответ, содержащий один MAC-адрес в полезной информации структуры ARP, но этот ответ будет представлен как поступивший со станции, имеющей другой MAC-адрес (в заголовке Ethernet). Кроме того, маршрутизатор обязан принимать ARP-ответ, содержащий групповой MAC-адрес в полезной информации структуры ARP. Если маршрутизатор не отвечает этим требованиям, то у вас должна быть возможность добавления статической ARP-записи к потоку через маршрутизатор или брандмауэр из кластера, чтобы поддерживать разрешение однонаправленных IP-адресов в групповые MAC-адреса.
В режиме
Новый режим IGMP Multicast.IGMP Multicast - это новое средство для режима multicast, появившееся в Windows Server 2003. Это новое средство используется, чтобы избегать лавинной маршрутизации через переключатель (switch flooding), вызываемой групповым трафиком. Это явление возникает, когда переключателю не известно, какой порт переключателя обслуживает определенный MAC-адрес, и поэтому требуется отправка пакета во все порты переключателя. Это, конечно, означает, что вы теряете все преимущества переключения через хаб (концентратор).
Протокол IGMP (Internet Group Management Protocol) позволяет хостам IP сообщать об их членстве в multicast-группах соседним маршрутизаторам и переключателям. Переключателю уровня 3 известны сетевые протоколы и адреса более высоких уровней (такие как IP) в дополнение к протоколам аппаратного уровня 2 и соответствующим MAC-адресам. Если узлы NLB-кластера подсоединяются к сети через переключатель уровня 3, то IGMP снижает трафик через этот переключатель за счет того, что информирует переключатель, какие порты подсоединены к хостам, входящим в multicast-группу. Чтобы можно было эффективно использовать средство IGMP Multicast, узлы кластера должны быть подсоединены к сети через переключатель, который поддерживает IGMP Monitoring. Периодически (по умолчанию раз в минуту) каждый узел NLB-кластера отправляет сообщение IGMP Join, информируя восходящий поток через сетевое оборудование, что он является членом IGMP-группы данного кластера.
Если вы активизировали поддержку IGMP Multicast, то соответствующий групповой IP-адрес должен быть допустимым IP-адресом класса D, то есть адресом в диапазоне от 215.0.0.0 до 239.255.255.255.
Пароль для удаленного доступа (Remote Password).Вы можете задать пароль для доступа в кластер с удаленного компьютера Windows Server 2003. Этот пароль используется для аутентификации программой управления кластером Nlb.exe (она не используется при управлении операциями кластера с хоста кластера). Для выполнения операций удаленного управления из программы Nlb.exe требуется указывать параметр /passw в командной строке вместе с конкретным паролем.
Если у вас используется удаленное управление, то важно защитить кластер, поскольку злоумышленники могут проникнуть в окружение через порты удаленного управления. Используйте брандмауэр для управления доступом к UDP-портам управления Network nlbmgr.exe или какое-либо средство управления на основе Nlb.exe в режиме удаленного управления.
Nlb.exe работают неверно, если IPSec шифрует пакеты.Вкладка Host Parameters диалогового окна свойств Network
(рис 15.3) Каждый узел NLB-кластера должен иметь уникальный приоритет (Priority), но не обязательно должен иметь выделенный IP-адрес (Dedicated IP Address)Priority (Unique Host Identifier) [Приоритет (Уникальный идентификатор хоста)].Это приоритет данного хоста для обработки сетевого трафика по умолчанию для портов TCP и UDP, которые не заданы конкретно во вкладке Port Rules (см. следующий раздел). Приоритет - это уникальное значение, которое используется для слияния в кластере.
Это значение может изменяться в диапазоне от 1 до 32, где 32 - максимальное количество хостов, допустимое для NLB-кластера. Наиболее высокому приоритету соответствует значение 1, и чем больше значение, тем ниже приоритет. Каждый хост в кластере должен иметь уникальный приоритет (идентификатор).
При отказе какого-либо хоста в кластере процесс слияния должен получать информацию, какие из оставшихся хостов могут обрабатывать трафик отключившегося хоста. Выбирается хост с наиболее высоким приоритетом, и если происходит отказ этого хоста, то выбирается хост с наиболее высоким приоритетом среди оставшихся хостов. Такая система обеспечивает определенную отказоустойчивость для NLB-кластера.
Ведите записи о приоритетах, назначаемых каждому хосту. Если в кластере добавляется новый хост и для этого хоста задан дублированный приоритет, то новый хост не сможет присоединяться к этому кластеру (в журнале событий появится сообщение об этой проблеме).
Dedicated IP Address (Выделенный IP-адрес).Выделенный IP-адрес это уникальный IP-адрес хоста, который используется для сетевого кластера, не связанного с самим кластером. Введите этот адрес в стандартной форме записи с точками для Интернет. Этот IP-адрес используется для индивидуальной адресации каждого хоста, поэтому он должен быть уникальным. В большинстве случаев проще всего использовать исходный IP-адрес, поскольку он является уникальным для данного хоста. Вводите выделенный IP-адрес и маску подсети в виде статического IP-адреса. При работе с NLB в режиме
Initial Host State (Начальное состояние хоста).Параметр Default State (Состояние по умолчанию) определяет, следует ли запускать NLB, когда происходит загрузка операционной системы на данном хосте (вариант Started). Иначе хосты могут присоединяться к кластеру и выходить из него с помощью команд управления NLB, запускаемых из командной строки. Это полезно использовать, если имеются другие службы, которые требуется загружать на данном хосте (обычно вручную), прежде чем присоединять хост к кластеру.
Retain Suspended State after Computer Starts (Оставаться в состоянии задержки после загрузки компьютера).В состоянии задержки хост или кластер не выполняет никакой обработки приложений и отвечает только на команды Resume (Возобновить) и Query (Запрос). По умолчанию перезагрузка сервера, где находится задержанный член кластера, вызывает его присоединение к кластеру и возобновление обработки. Если установить этот флажок, то задержанные кластеры остаются в состоянии задержки при перезагрузке сервера.
Правила для портов помогают определить, каким образом трафик кластера будет обрабатываться для каждого порта, что упрощает конфигурирование и управление кластерами. Метод, посредством которого порт обрабатывает сетевой трафик, называют его режимом фильтрации.Во вкладке Port Rules (рис. 15.4) представлены текущие правила для портов.
Если щелкнуть на кнопке Add (Добавить) или Edit (Правка), то появится диалоговое окно, показанное на рис. 15.5, где вы можете создавать или изменять правила для портов.
Чтобы создать правило для портов, нужно задать набор параметров конфигурирования, которые определяют режим фильтрации. Каждое правило содержит следующие параметры.
(рис 15.4) По умолчанию правило для портов предусматривает вариант Single для родственности и равномерную нагрузку по всем портам TCP и UDP
(рис 15.5) В окне Add/Edit Port Rule вы можете назначить правило для портов одному виртуальному кластеру или всем кластерам данного сетевого адаптераКоличество и тип правил, которые создаются на одном хосте, должны повторяться на всех остальных хостах данного кластера. Если какой-либо хост пытается присоединиться к кластеру, используя неодинаковые правила для портов, то этот хост не будет принят как член кластера.
После установки служба NLB задает по умолчанию правило для портов, указывая NLB на необходимость обработки портов 0-65535 как для TCP, так и для UDP, равномерно распределяя нагрузку между всеми узлами NLB-кластера и указывая вариант Single (Один) для родственности (
NLB выполняет фильтрацию пакетов для всех портов TCP и UDP. Узел NLB-кластера и с минимальным номером идентификатора хоста (host ID) становится узлом по умолчанию и обрабатывает все пакеты, к которым не применяется никакого правила для портов.
В следующих разделах даются указания по использованию вкладки Port Rules для создания правила для портов.
Port Range (Диапазон портов).В этой секции задается диапазон портов, который будет охватываться данным правилом для портов. Можно указывать любые номера в диапазоне от 0 до 65535 (и это также диапазон по умолчанию). Чтобы задать один порт, введите одинаковые значения для начального и конечного номеров.
Protocols (Протоколы).Выберите конкретный протокол TCP/IP, который будет охватываться данным правилом для портов (вариант TCP, UDP или Both [Оба]). Это правило будет влиять на сетевой трафик только указанного здесь протокола. Весь остальной трафик будет обрабатываться с использованием режима фильтрации по умолчанию.
Filtering Mode (Режим фильтрации).Чтобы задать, что сетевой трафик для этого правила будет обрабатываться несколькими хостами данного кластера, выберите вариант Multiple Hosts (Несколько хостов). Распределяя нагрузку между несколькими хостами, вы получаете свойства отказоустойчивости и масштабирования производительности. Режим фильтрации позволяет также выбрать равномерную нагрузку между хостами или задать определенный процент нагрузки для конкретного хоста.
Выберите вариант Single Host (Один хост), чтобы задать, что сетевой трафик для данного правила должен обрабатываться каким-либо одним хостом в кластере согласно заданному для него приоритету обработки (поле Handling priority). Этот приоритет используется вместо приоритета (идентификатора хоста) для трафика через данный порт.
Выберите вариант Disabled (Отключен), чтобы задать, что сетевой трафик для этого правила должен быть блокирован. Это удобный способ создания брандмауэра, препятствующего сетевому доступу к заданному диапазону портов.
Nlb.exe для отключения правила (с помощью команды Affinity (Родственность).Вариант "родственности" с клиентами определяет, каким образом NLB будет назначать входящий трафик узлам кластера. Основное назначение этого параметра - поддержка приложений, для которых требуется, чтобы все запросы с одного и того же клиентского компьютера обрабатывались одним сервером NLB (то есть приложений, которые поддерживают определенный вид информации о состоянии клиента на этом сервере). Для алгоритма распределения используются части исходного IP-адреса в пакете, чтобы определить, какой сервер в кластере будет обрабатывать этот пакет.
Если у вас небольшое число пользователей приложений или пользователи вашего приложения работают позади брандмауэра, который реализует трансляцию сетевых адресов (NAT - Network Address Translation), то выбор варианта родственности Single (Один) или Class C (Класса C) может вызвать неравномерное распределение запросов по узлам кластера.
Выберите вариант None (Нет), чтобы задать, что служба NLB не обязательно должна направлять несколько запросов с одного клиентского компьютера на один хост кластера. В результате алгоритм хеширования NLB будет использовать все 4 байта IP-адреса отправителя в сочетании с исходным портом TCP или UDP при выборе узла NLB для обработки пакета. TCP/UDP изменяет исходный порт почти с каждым запросом, поэтому выбор варианта None дает всем узлам кластера возможность обработки пакетов от любого заданного клиентского компьютера.
Выберите варианта Single (вариант по умолчанию), чтобы задать, что несколько запросов с одного исходного IP-адреса должны направляться на один хост кластера. При выборе варианта родственности Single алгоритм хеширования NLB игнорирует исходный порт TCP или UDP. Родственность оказывает негативное влияние на производительность, но в определенных обстоятельствах это перевешивается эффективностью для клиента, направляющего несколько запросов. Например, если каждый запрос от клиента связывается с cookie-файлом, то более эффективно подсоединять этого клиента к одному хосту (на самом деле это необходимо). Для защищенных приложений HTTP (HTTPS через TCP Port 443) требуется вариант родственности Single.
Вариант родственности Class C используется для группы, а не для одного клиентского IP-адреса. При выборе этого варианта несколько запросов из одного диапазона адресов класса C TCP/IP направляются на один хост. При этой конфигурации клиенты, использующие несколько прокси-серверов, интерпретируются аналогично отдельным клиентским IP-адресам в варианте родственности Single. Если клиент, выполняющий доступ к кластеру через несколько прокси-серверов, направляет несколько запросов, эти запрос поступают как будто с различных компьютеров. Если все эти прокси-серверы находятся в одном диапазоне адресов класса C (обычно это разумное предположение), то выбор варианта Class C означает, что сеансы этого клиента будут обрабатываться аналогично варианту родственности Single.
Load Weight (Процент нагрузки).В режиме фильтрации Multiple Hosts вы можете использовать параметр Load Weight, чтобы задать процент трафика, который должен обрабатываться хостом по соответствующему правилу для портов. Чтобы на данный хост не поступал сетевой трафик, задайте значение 0. Чтобы задать какой-либо процент, используйте значение от 1 до 100.
При конфигурировании каждого хоста сумма отдельных значений параметра Load Weight не обязательно должна составлять 100 процентов. Реальная часть трафика рассчитывается динамически как частное от деления процента, заданного для хоста, на суммарный процент для всего кластера. Требование суммы в 100 процентов не имеет смысла, поскольку хосты время от времени включаются в кластер или выбывают из него.
Вариант Equal (Равномерное распределение нагрузки).Используйте вариант Equal, чтобы задать, что хост участвует в равномерно сбалансированном трафике в режиме фильтрации с несколькими хостами (Multiple hosts) по соответствующему правилу для портов.
Handling Priority (Приоритет обработки).Поле Handling priority используется в режиме фильтрации Single, и оно указывает уровень приоритета хоста для трафика по данному правилу. Хост с наиболее высоким приоритетом обработки для определенного правила будет обрабатывать весь трафик для этого правила. Введите значение от 1 до X, где X - это количество хостов. Каждый хост должен иметь уникальное значение этого параметра. Значение 1 соответствует наиболее высокому приоритету.
Во время установки NLB должны быть также сконфигурированы свойства TCP/IP для сетевого адаптера, который используется для NLB. Определение IP-адреса кластера или выделенного IP-адреса на страницах NLB Properties не дает автоматического определения адреса для стека протоколов TCP/IP. Следующие элементы должны быть заданы одинаково в конфигурации NLB и в конфигурации TCP/IP.
Конфигурирование NLB на странице свойств Network
NLB Manager позволяет вам создавать новые кластеры на основе Windows Server 2003 и добавлять узлы к существующим кластерам. Эта программа позволяет также создавать правила для портов и одновременно развертывать правила по всем узлам кластера.
NLB Manager можно запускать в системе Windows XP Professional или Windows Server 2003 для создания NLB-кластеров и управления ими в системах Windows Server 2003. NLB Manager находится в пакете Administrative Tools (\i386\adminpak.msi) на установочном CD Windows Server 2003.
Хотя узлы на основе Windows 2000 могут взаимодействовать с узлами на основе Windows Server 2003, NLB Manager работает с NLB-кластерами только на основе Windows Server 2003.
Хотя при использовании NLB Manager или конфигурировании каждого сервера с помощью диалогового окна Network
Решив использовать NLB Manager для конфигурирования и управления NLB-кластером, вы должны использовать NLB Manager постоянно. Не поддавайтесь искушению внести небольшие изменения с помощью диалогового окна NLB Properties, поскольку это может дать в результате конфигурацию одного или нескольких серверов, которая препятствует их слиянию с кластером.
Используя NLB Manager для создания кластера, вы должны сначала определить параметры кластера и правила для портов, а затем добавлять узлы в кластер. Для создания кластера выполните следующие шаги.
После задания элементов кластера, общих для всех узлов, NLB Manager проводит вас через остальные процессы, начиная с назначения первого сервера, который вы хотите включить в кластер. Для выполнения этого процесса выполните следующие шаги.
NLB Manager обновит как свойства NLB, так и свойства TCP/IP этого сервера и переведет кластер в состояние online. По завершении процесса NLB Manager выведет результаты и состояние кластера в отдельном окне управления кластерами (см. рис. 15.8).
Для добавления других хостов к кластеру щелкните правой кнопкой на имени этого кластера и выберите пункт Add Host To Cluster (Добавить хост к кластеру). Альтернативный способ - это выделить имя кластера и затем выбрать в линейке меню пункт Cluster/Add Host To Cluster. После этого NLB Manager будет сопровождать вас, используя описанные выше шаги.
(рис 15.8) NLB Manager выводит текущее состояние всех отслеживаемых кластеров, а также ведет журнал записей об успешном или неудачном завершении задач управления NLB-кластером
NLB Manager позволяет вам изменять конфигурацию кластера в целом или отдельных хостов кластера.
Для изменения параметров кластера откройте диалоговое окно свойств Cluster Properties (щелкните правой кнопкой на имени этого кластера и выберите пункт Properties или выделите имя кластера и затем выберите Cluster/Properties). Чтобы изменить свойства кластера, внесите соответствующие изменения и щелкните на кнопке OK. NLB Manager прекратит выполнение кластерных операций, внесет изменения в отдельные узлы кластера и затем перезапустит узлы в их начальном состоянии по умолчанию.
Чтобы внести изменения в параметры хоста кластера, откройте диалоговое окно Host Properties из контекстного меню этого хоста или из меню Host, выделив перед этим данный хост. Окно Host Properties содержит четыре вкладки (см. рис. 15.9). NLB Manager позволяет вам изменять параметры во вкладке Host Parameters а также изменять приоритет обработки (handling priority) для любых правил, относящихся к одному хосту. Вся остальная информация выводится только для сведения и не может быть изменена в диалоговом окне Host Properties.
После завершения всех процедур установки управление NLB-кластерами на повседневной основе не представляет особых сложностей. Вы можете проверять состояние кластера и его хостов, чтобы избежать серьезных проблем, или выполнять задачи обслуживания, чтобы разрешать проблемы.
У вас имеется два средства администрирования ваших NLB-кластеров: NLB Manager и Nlb.exe, которые рассматриваются в следующих разделах.
Используя NLB Manager, вы можете полностью управлять операциями кластера и отдельных хостов кластера. Щелкнув правой кнопкой мыши на имени кластера или на отдельном хосте кластера, вы можете выбрать вариант Control Host(s) [Управление хостом(ами)] или Control Ports (Управление портами).
Как показано на рис. 15.10, в меню Control Hosts можно выбрать для хоста или для всех хостов кластера команду Start, Stop, Drainstop, Suspend или Resume.
(рис 15.9) Вы можете задавать настройки конфигурации в диалоговом окне Host Properties
(рис 15.10) Меню Control Hosts позволяет вам управлять состоянием хостов кластераВ диалоговом окне Control Ports вы можете выбрать команду Enable, Disable или
После установки и конфигурирования службы NLB вы можете управлять ее операциями (и изменять настройки некоторых параметров) с помощью программы управления Network Nlb.exe ).
Вы можете использовать программу Nlb.exe, находящуюся в папке %SystemRoot%\System32, с хостов кластера или с любого удаленного компьютера Windows Server 2003, который может получать доступ к кластеру через локальную
или глобальную сеть. Nlb.exe - это программа, которая позволяет администраторам писать и выполнять скрипты командной строки для упрощения администрирования.
(рис 15.11) Окно Control Ports позволяет вам управлять правилами для хоста или кластераNlb.exe нельзя использовать для изменения параметров хоста с удаленного компьютера, хотя вы можете просматривать информацию об удаленном компьютере.Nlb.exe имеет следующий синтаксис.
nlb <команда> [<кластер>[:<хост>] [/passw [<пароль>]] [/port <порт>]]
где:
команда - одна из поддерживаемых команд (см. ниже); при доступе к кластеру с удаленного компьютера используются следующие параметры.
кластер - основной IP-адрес кластера.хост - IP-адрес хоста в этом кластере (если не указан, то все хосты)./passw <пароль> - пароль для удаленного доступа./port <порт> - порт UDP для удаленного доступа к кластеру.Имеются следующие команды.
ip2mac <кластер>. Преобразует IP-адрес кластера в MAC-адрес кластера.reload . Перезагружает параметры из реестра; действует только на локальной машине.query. Запрос, позволяющий увидеть, какие хосты входят на данный момент в кластер.display. Выводит параметры конфигурации, текущее состояние и недавние сообщения журнала событий.suspend. Задерживает управление операциями кластера; прекращает выполнение операций хостов кластера. Задержанные хосты кластера будут игнорировать все команды управления кластером, кроме Resume (и Query).resume. Возобновляет управление операциями кластера; не перезапускает работу задержанного кластера, а только разрешает ему принимать другие команды управления.start. Запускает операции кластера.stop. Прекращает выполнение операций кластера.drainstop. Разъединяет все существующие соединения и прекращает выполнение операций кластера.enable <порт>/all. Активизирует трафик для правила <порта> или для всех портов.disable <порт>/all. Отключает трафик для правила <порта> или для всех портов.drain <порт>/all. Отключает новый трафик для правила <порта> или для всех портов.igmp <enable/disable> <IP-адрес кластера>. Активизирует или отключает поддержку IGMP Multicast для кластера.Еще одним компонентом в кластеризации Windows являются кластеры серверов. Цель применения кластеров серверов несколько отличается от Network
Кластеры серверов обеспечивают готовность системы за счет использования технологии переходов по отказу (
Как и в случае NLB, кластер серверов - это группа компьютеров, которые совместно работают как единое целое. Версии Windows Server 2003 Enterprise Edition и Datacenter Edition поддерживают кластеры из восьми узлов. (Windows 2000 Advanced Server поддерживает в кластере серверов два компьютера, и Windows 2000 Datacenter Server поддерживает четыре компьютера.)
В кластере серверов каждый компьютер называется узлом,и каждый узел несет равную ответственность за поддержку готовности серверов и приложений. Кроме того, имеется общий набор ЗУ (запоминающих устройств), подсоединенный к каждому узлу с помощью разделяемой шины. Это позволяет перемещать эффективное владение ЗУ на другой узел в кластере, когда ответственность за обработку приложений, находящихся на этом ЗУ, передается с одного узла на другой. Это называется архитектурой "без разделяемых ресурсов",поскольку доступ к ресурсам, которые используются кластеризованными приложениями, одновременно выполняется не более чем из одного узла. Эта архитектура гарантирует, что узел отказывается от владения ресурсом, прежде чем этот ресурс будет захвачен и будет использоваться другим узлом кластера.
Кластеры серверов позволяют централизованно управлять системами. Поскольку кластеры серверов работают как единое целое, то ПО управления может работать так, как будто оно управляет одной системой. Это упрощает процесс доступа к кластерам серверов и управление ими, что позволяет вам работать более рационально и эффективно.
Кластеры серверов поддерживают высокий уровень готовности за счет обеспечения постоянного доступа к приложениям и узлам. Если узел или приложение должны перейти в состояние offline (в результате запланированного или не запланированного простоя), то другой узел этого кластера серверов должен немедленно взять на себя все задачи. Этот процесс называют переходом по отказу (
Переход по отказу.Переход по отказу - это одна из многих возможностей кластера серверов, которые отличают его от NLB-кластера. Переход по отказу возникает при отказе какого-либо приложения или узла. Например, когда какой-либо аппаратный ресурс в узле приводит к аварии системы, другой узел в кластере серверов немедленно берет на себя управление (и становится узлом восстановления).
Узел восстановления сначала берет на себя владение ресурсами отказавшего узла. Зависимые ресурсы переводятся в режим offline раньше, чем ресурсы, от которых они зависят. Служба Cluster делает это путем использования Resource Monitor (Монитора ресурсов) для соединения с DLL, которая управляет этим ресурсом (см. ниже раздел "Монитор ресурсов"). Если не удается установить контакт с ресурсом или отключить его нормальным образом, то он немедленно отключается. После отключения ресурсов узел восстановления начинает брать на себя управление этими ресурсами, получает IP-адрес отказавшего узла и, наконец, автоматически запускается, предоставляя клиентам услуги отказавшего узла путем возврата ресурсов и служб в режим online.
При отказе приложения выполняется аналогичный процесс, который все же несколько отличается от случая отказа узла. После обнаружения отказа приложения узел может сначала попытаться перезапустить это приложение. Если это не удается, то узел инициирует переход по отказу, чтобы это приложение было запущено другим узлом кластера серверов.
Следует помнить две вещи, относящиеся к переходу по отказу.
Возврат после восстановления.После перехода по отказу узел (или узлы) восстановления берет на себя службы из отключившегося узла или приложения. Вы должны всегда рассматривать переход по отказу как временное решение, поскольку это обычно вызывает перегрузку ресурсов. В результате вам следует постараться как можно быстрее вернуть приложение или узел в состояние online.
Механизм восстановления исходной конфигурации называется возвратом после восстановления (
Имеется два основных режима работы для кластеров Windows Server 2003 в вашей сетевой среде. Эти режимы не следует путать со сценариями кластеризации, которые могут быть реализованы в вашей среде. Это внутренние механизмы, обеспечивающие гибкость кластеров серверов в вашей среде. Два следующих режима работы поддерживаются кластерами Windows Server 2003.
Компоненты оборудования, необходимые для кластера серверов, являются еще одним фактором, отличающим кластеры серверов от NLB-кластеров. Иными словами, к кластерам серверов предъявляются более высокие требования по ресурсам (переход по отказу, возврат после восстановления и кластеризация типа active/active). В следующих разделах подробно описываются основные компоненты оборудования, необходимые для создания и поддержки кластера серверов.
Узлы.Как уже говорилось выше, кластер серверов состоит из двух и более отдельных компьютерных систем (узлов), которые действуют как единое целое. Клиентские компьютеры "видят" и используют кластеры серверов как один ресурс. Чтобы сервер мог стать узлом в кластере серверов, он должен отвечать следующим необходимым условиям.
При выполнении этих условий сервер может активно участвовать совместно с другими серверами в кластере серверов. Узлы, по определению, обладают следующими свойствами.
Узел может иметь различные состояния его участия в кластере серверов. В табл. 15.1 приводит список из пяти возможных состояний узла. Узел может находиться одновременно только в одном из этих состояний.
| Состояние | Описание |
|---|---|
| Down (Отключен) | Узел не работает в кластере серверов из-за отказа компьютера или приложения либо запланированного обслуживания. |
| Joining (Присоединение) | Узел становится членом кластера серверов. |
| Paused (Приостановлен) | Разделяемые ресурсы захвачены, поэтому узел находится в состоянии ожидания, пока не будут освобождены ресурсы. |
| Up (Включен) | Узел находится в активном состоянии и работает в кластере серверов. |
| Unknown (Неизвестно) | Рабочее состояние узла невозможно определить. |
Разделяемые ЗУ.Все узлы, участвующие в работе кластера серверов, совместно используют одно или несколько запоминающих устройств (ЗУ), как это показано на схеме рис. 15.12. Эти ЗУ используют разделяемую шину SCSI для подключения к двум узлам кластера серверов.
Если вы хотите поддерживать более двух узлов (до восьми узлов), то должны установить устройство с волоконно-оптическим каналом. Windows Server 2003 Enterprise Edition и Datacenter Edition поддерживают широкий диапазон устройств SCSI от различных изготовителей, но я настоятельно рекомендую обратиться к списку совместимости оборудования (
(рис 15.12) Кластеры серверов с двумя узлами могут использовать разделяемую шину SCSI для совместного использования ЗУНа самих ЗУ хранятся любые данные, которые требуются узлам для совместного использования, а также хранится вся информация о конфигурации и ресурсах кластера серверов. Только один узел может иметь временное владение данными, которые находятся на разделяемом(ых) ЗУ, что устраняет возможность конфликтов ресурсов.
Межсоединения.Межсоединение - это физический носитель, используемый для обмена информацией в кластере серверов. Межсоединением может быть сетевой адаптер, используемый для связи с остальной частью сети (он принимает входящие клиентские запросы) или другой сетевой адаптер, который выделен для обслуживания обмена информацией в кластере серверов. Для повышения производительности и поддержки избыточности используйте выделенный сетевой адаптер для обмена информацией кластера и второй сетевой адаптер для связи с остальной частью сети.
Наличие двух сетевых адаптеров в каждом узле не является обязательным, но, несомненно, рекомендуемым требованием. Причина этого очевидна. Во-первых, на сетевой трафик, генерируемый между двумя узлами, не оказывает влияния остальной трафик сети. Но важнее всего то, что вы снижаете количество единственных точек отказа в кластере серверов. Ведь это и есть основная причина того, что вы хотите использовать кластеры серверов.
Clusnet.sys, сетевой драйвер кластера, запускается в каждом узле и управляет обменом данных кластера серверов.
Несколько программных компонентов образуют кластеры серверов; они разделяются на две категории.
Служба Cluster.Служба Cluster запускается в каждом узле кластера серверов. Это
Монитор ресурсов (Resource Monitor).Любой физический или логический компонент в кластере серверов (большинство из них уже описано выше) рассматривается как ресурс службой Cluster. Чтобы повысить управляемость компонентов кластера серверов, используется Монитор ресурсов, помогающий осуществлять взаимодействие между службой Cluster и ресурсами кластера.
Мониторы ресурсов - это различные программные компоненты, которые используются как "посредники" между службой Cluster и ресурсами кластера серверов. Монитор ресурсов позволяет работать этим ресурсам отдельно друг от друга, а также от службы Cluster. Это
Монитор ресурсов не вызывает никаких операций кластера серверов, за двумя исключениями: сбор отчетов о состоянии от службы Cluster или от ресурсов и перевод в режим offline всех ресурсов узла в случае отказа службы Cluster. Когда Монитор ресурсов связывается с ресурсом, он фактически связывается с ресурсной DLL этого ресурса. Ресурсную DLL можно видеть как интерфейс с этим ресурсом. Возьмем, например, ресурс, где возникло какое-либо событие. Ресурсная DLL должна сообщить об этом событии службе Cluster. И здесь вступает в дело Монитор ресурсов; он фактически принимает сообщение и обеспечивает уведомление службы Cluster.
Cluster Administrator (Администратор кластеров).Cluster Administrator это основное средство администрирования и конфигурирования объектов кластера серверов, таких как узлы, группы и другие ресурсы. Он устанавливается по умолчанию в каждом узле кластера, но его можно также установить на любом компьютере с Windows Server 2003, Windows 2000 или Windows NT 4 с Service Pack, начиная с версии 3. Это позволяет вам управлять кластером серверов без необходимости физического присутствия в одном из узлов.
Программа Cluster Administrator вызывается из меню Administrative Tools версий Windows Server 2003 Standard Edition, Enterprise Edition и Datacenter Edition (но не Web Edition).
Утилита командной строки Cluster. Cluster.exe позволяет вам управлять кластером из командной строки или из скрипта, который вызывает cluster.exe. Эту утилиту можно запускать на компьютере с Windows Server 2003, Windows 2000 или Windows NT 4 с Service Pack, начиная с версии 3.
Прежде чем использовать cluster.exe, вам нужно изучить следующие важные синтаксические правила.
True и False ) указывайте 1 для True и 0 для False.Cluster.exe обрабатывает опции слева направо, и если какая-либо опция неверна, то команда прекращает свое выполнение на этой опции.Синтаксис cluster.exe зависит от объектов, которыми вы управляете. В табл. 15.2 описываются различные объекты, которыми вы можете управлять, с описанием соответствующего синтаксиса.
cluster.exe /? или cluster.exe /help в командной строке.Служба Cluster работает с приложениями, управляя логическими и физическими компонентами кластера.
Логические компоненты.Служба Cluster управляет множеством логических компонентов, включая следующие компоненты.
| Кластер | cluster [[/cluster:] имя_кластера ] /опция |
|---|---|
| Узел кластера | cluster [[/cluster:]имя_кластера] node имя_узла оn- |
| Кластерная группа | cluster [[/cluster:]имя_кластера] group имя_группы [/node:имя_узла] опция |
| Кластерная сеть | cluster [[/cluster:]имя_кластера] network имя_сети опция |
| Сетевой интерфейс кластера | cluster [[/cluster:]имя_кластера] netinterface /node: имя_узла /network:имя_сети опция |
| Кластерный ресурс | cluster [[/cluster:]имя_кластера] resource имя_ресурса опция |
| Тип кластерного ресурса | cluster [[/cluster:]имя_кластера] resourcetype отображаемое-имя-типа-ресурса опция |
Физические компоненты.Имеются следующие физические компоненты, поддерживающие логические компоненты кластера.
Критически важным шагом является планирование способа включения кластеров серверов в ваше сетевое окружение Windows Server 2003. Не упустите ни одного аспекта планирования, прежде чем приступить к реализации. К сожалению, многие администраторы уделяют слишком мало времени планированию, и в результате получается неудачное решение, которое не приносит реальных выгод предприятию или даже вызывает серьезные аварии.
Имеется несколько заранее подготовленных реализаций, и вы можете выбирать среди них, задавшись следующими вопросами.
В следующем разделе описываются модели конфигураций, которые предлагает вам рассмотреть вам Microsoft. Для простоты изложения эти модели описываются для кластера с двумя узлами. Помня об изложенных выше вопросах, оцените каждую модель, чтобы решить, какая из них больше подходит для вашего сетевого окружения Windows Server 2003.
Модель кластера с горячим резервированием (hot-
(рис 15.13) В модели кластера типа active/passive второй узел используется только при отказе первого узлаВ модели с горячим резервированием один узел кластера серверов обслуживает все запросы ресурсов. Второй узел простаивает, пока не возникает отказ активного узла. Вы можете интерпретировать это как выделенный резерв.
Обычно для пассивного узла используется та же конфигурация оборудования, что и для активного узла. В случае аварии это позволяет пассивному узлу быстро занять место активного узла и обеспечивать те же услуги.
Главным преимуществом этой модели является то, что она обеспечивает наиболее высокий уровень готовности без снижения уровней производительности. Вы можете предусмотреть использование этой модели для ваших наиболее критичных приложений и служб. Конечно, если говорить о финансовой стороне, то вам придется потратить дополнительные деньги на узел, который будет простаивать почти весь срок его службы.
Модель кластера типа active/active представляет два узла в кластере серверов, которые работают одновременно (рис. 15.14). Каждый узел отвечает за свои собственные ресурсы кластера серверов, пока не возникнет необходимость в переходе по отказу. При отказе одного узла работающий узел берет на себя ресурсы отказавшего узла.
(рис 15.14) В модели кластера типа active/active оба узла содержат различные виртуальные серверы и используют дополнительные мощности, чтобы брать на себя роль второго узла в случае его отказаЭта модель обеспечивает такой же уровень высокой готовности, как и модель кластера с горячим резервированием. Однако после отказа производительность может снизиться, если работающий узел не имеет адекватных возможностей, чтобы справиться с дополнительной рабочей нагрузкой. По этой причине важно обеспечить такую мощность каждого узла, чтобы он мог справляться с двойной рабочей нагрузкой (здесь тоже имеются финансовые соображения).
Модель с гибридной конфигурацией представляет конфигурацию, где одно или несколько приложений работают в узлах кластера вне управления службой Cluster, а одно или несколько приложений работают под управлением службы Cluster. Например, служба Cluster может управлять экземпляром SQL Server, в то время как DNS может работать вне контекста службы Cluster. В случае отказа узла SQL Server перейдет по отказу на другой работающий узел, а DNS не сможет это сделать.
В конфигурации с одним узлом вы устанавливаете службу Cluster на одном компьютере и определяете один или несколько виртуальных серверов в этом кластере. Эта конфигурация не дает обычных преимуществ кластеров серверов, касающихся высокой готовности, но имеет некоторые административные достоинства. Например, вы можете определить в кластере с одним узлом два виртуальных сервера, обслуживающих два различных отдела. Если вам потребуется более высокий уровень готовности или дополнительные ресурсы серверов, то вы добавите второй узел к этому кластеру. При этом с клиентской точки зрения ресурсы сервера не изменятся. Вы можете установить конфигурацию с одним узлом на сервере, где нет шины разделяемого ЗУ, но вы должны сразу сконфигурировать этот сервер с шиной SCSI или
Установка является реализацией ваших усилий по планированию и разработке. Вы должны устанавливать службу Cluster по отдельности в каждом узле. Если запустить операционную систему в нескольких узлах, прежде чем начнет работать в первом узле служба Cluster, то могут быть запорчены диски, используемые в кластере. После завершения и проверки физической установки вашего кластера, включая шину разделяемого ЗУ, кворум-ресурс, разделяемые диски, сетевой адаптер для обмена контрольными пакетами (
Поскольку большинство приложений, которые работают под управлением службы Cluster, поддерживают работу в кластере, не устанавливайте такое приложение в узлах кластера, пока не установите службу Cluster во всех узлах.
Все узлы кластера должны быть членами одного домена. Чтобы создать новый кластер, запустите Windows Server 2003 Enterprise Edition или Datacenter Edition в первом узле и проследите, чтобы были отключены все остальные компьютеры, подсоединенные к шине разделяемого ЗУ. Затем установите первый узел кластера, используя следующие шаги.

(рис 15.17) Учетная запись службы Cluster должна быть доменной учетной записью, а не учетной записью локального компьютера
(рис 15.18) Проверьте список конфигурирования, прежде чем продолжить работу Исправление ошибок конфигурированияКогда мастер New
(рис 15.19) Мастер выводит результаты конфигурирования Использование Cluster AdministratorCluster Administrator подсоединится к новому кластеру и выведет его состояние.

Во время установки все сетевые адаптеры активизированы как для частного обмена информацией кластера, так и для открытого обмена информацией с кластером. Если вы установили сетевой адаптер в частной сети, который хотите выделить для частного обмена информацией кластера, то используйте Cluster Administrator, чтобы открыть диалоговое окно Properties данного адаптера. Затем измените конфигурацию адаптера, чтобы разрешить только частный обмен информацией кластера.
Убедитесь, что служба работает без ошибок в этом узле, прежде начать процесс установки в следующем узле. Если вам требуется более подробная информация для
диагностирования какой-либо проблемы установки, то вы можете использовать файл журнала, который создается мастером установки в файле %SystemRoot%\ system32\logfiles\cluster\ClCfgSrv.log.
Для добавления других узлов к вашему кластеру нужно использовать аналогичную процедуру. Начните с проверки того, что первый узел кластера включен и работает нормально. Затем включите сервер, который хотите сделать следующим узлом кластера, и откройте Cluster Administrator. Щелкните правой кнопкой на имени вашего кластера и выберите в контекстном меню пункт New/Node (Создать/Узел), чтобы запустить мастер добавления компьютеров кластера (Add Cluster Computers Wizard). Следуйте указаниям этого мастера, чтобы выполнить конфигурирование других узлов, добавляя каждый раз по одному узлу. В каждом случае убедитесь, что соответствующий компьютер и служба Cluster работают без ошибок, прежде чем приступить к добавлению следующего узла.
Если у вас установлено хотя бы два узла, вы можете тестировать кластер путем перемещения группы. При перемещении группы происходит передача управления этой группой (и выполнения любых приложений, которые являются частью этой группы) другому узлу кластера. Откройте Cluster Administrator, щелкните правой кнопкой на имени этой группы и выберите в контекстном меню пункт Move Group (Переместить группу). Cluster Administrator выполнит следующие действия.
На рис. 15.20 показаны результаты после перемещения группы из узла CL1 в узел CL2.
(рис 15.20) Состояние кластера из двух узлов после перемещения группы
Процедуры установки приложений в кластере варьируются от приложения к приложению, поэтому подробные инструкции выходят за рамки изложения этого курса. В общем случае, когда вы устанавливаете приложение, поддерживающее кластеры, на сервере, где запущена служба Cluster, программы установки приложения предлагают вам опции установки, связанные с кластером. Изучите требования к приложению для работы в кластеризованной среде, прежде чем приступить к установке этого приложения.
Для получения официальных документов о завершении программы дополнительного профессионального образования (удостоверения о повышении квалификации, дипломов о профессиональной переподготовке и MBA) необходимо предоставить:
Внимание! Вы можете не заказывать доставку бумажной версии официального документы, а скачать его в электронном виде и распечатать самостоятельно. Информация о выданном документе в течение 1 месяца загружается в Федеральную информационную систему «Федеральный реестр сведений о документах об образовании и (или) о квалификации, документах об обучении» - ФИС ФРДО.
Доступ на новый сайт осуществляется с использованием адреса электронной почты, который был указан вами при регистрации на "старом". Мы постарались перенести все ваши данные с прежнего ресурса, однако не исключена вероятность потери части информации.
При возникновении проблемы со входом, воспользуйтесь функцией сброса пароля
Если вы обнаружите несоответствия, пожалуйста, сообщите нам.