Основная цель планирования кластера
Здесь наступает очередь HACMP. В HACMP можно настроить мониторинг серверного оборудования, операционной системы и компонентов приложения. В случае отказа HACMP может предпринять корректирующие действия, в частности выполнить перемещение требуемых ресурсов (сервисных IP-адресов, хранилищ и приложений) на рабочие компоненты кластера, чтобы как можно быстрее восстановить доступность приложения.
HACMP является чрезвычайно гибким продуктом, поэтому разработка кластера под нужды организации требует тщательного планирования. Требования и режим функционирования приложения представляют важную входную информацию плана HACMP и являются основными факторами при определении схемы кластера. При разработке схемы кластера необходимо поставить перед собой следующие вопросы:
Хотя за внедрение HACMP обычно отвечают системные администраторы
Основные этапы успешного внедрения HACMP указаны на рис. 3.1. Обратите внимание на то, что внедрение кластера не завершается с успешным конфигурированием кластера. Процедуры тестирования кластера, резервного копирования, документирования и текущего управления одинаково важны для обеспечения текущей целостности кластера.
Используя понятия, описанные в лекции 1, "Введение в HACMP", внедрение HACMP начинается с разработки подробного плана конфигурирования и внедрения кластера
HACMP. Для направления этого процесса и записи информации о кластере можно
использовать такие инструменты планирования, как таблицы планирования на бумаге (Paper Planning
(рис 3.1) Этапы внедрения HACMPКак показано на рис. 3.1, планирование является основой, на которой строится внедрение. Надлежащее планирование должно затрагивать все аспекты внедрения кластера. Оно должно включать:
Для простоты описания мы представим планирование кластера на примере кластера из двух узлов со взаимным перехватом. Эта конфигурация является отправной точкой для более сложных установок. Лекция также содержит образцы таблиц планирования, так как цель лекции заключается в том, чтобы показать, как выполняется планирование кластера.
При планировании кластера HACMP можно использовать три инструмента:
И диаграмма кластера и таблицы планирования на бумаге представляют собой метод записи информации о кластере вручную. Система автоматизированного планирования представляет простой в использовании интерфейс на основе Java, который может применяться для записи и конфигурирования кластера.
Планирование кластера начинается с анализа текущей среды и своих ожиданий от HACMP:
На рис. 3.2 показана простая стартовая конфигурация, которую мы будем использовать в качестве примера. Она сосредоточена на обеспечении
Стартовая конфигурация показывает следующее:
Цель состоит в том, чтобы использовать два узла в конфигурации со взаимным перехватом, где приложение app1 обычно находится на узле node01, а приложение app2 обычно находится на узле node02. В случае отказа нужно, чтобы оба приложения выполнялись на оставшемся сервере. Из диаграммы мы видим, что нужно подготовить среду таким образом, чтобы каждый узел мог выполнять оба приложения.
Анализируя требования к кластеру HACMP, получаем три основные области, требующие внимания, как показано на рис. 3.2: сеть, приложение и хранилище. Все действия по планированию в какой-то мере предназначены для поддержки одного из трех этих элементов.
(рис 3.2) Первоначальная среда
В табл. 3.1 приведен обзор возможных единых точек отказа в инфраструктуре кластера и способов защиты от них. Эти аспекты следует учитывать во время разработки подробной схемы кластера.
| Объекты кластера | Способ устранения единой точки отказа | Поддержка в HACMP/ |
|---|---|---|
| Узлы | Использование нескольких узлов | До 32 |
| Источники питания | Использование нескольких электросетей или источников бесперебойного питания (ИБП) | Столько, сколько нужно |
| Сети | Использование нескольких сетей для соединения узлов | До 48 |
| Сетевые интерфейсы, устройства и IP-адреса | Использование резервных сетевых адаптеров | До 256 |
| Подсистема TCP/IP | Использование сетей "точка-точка" для соединения соседних узлов и клиентов | Столько, сколько нужно |
| Дисковые адаптеры | Использование резервных дисковых адаптеров | Столько, сколько нужно |
| Дисковые контроллеры | Использование резервных дисковых контроллеров | Столько, сколько нужно (ограничение на аппаратном уровне) |
| Диски | Использование резервного оборудования, а также технологий зеркального отображения, чередования или их сочетания | Столько, сколько нужно |
| Приложения | Назначение узла для перехвата приложения, конфигурирование мониторов приложений, конфигурирование кластеров с узлами на нескольких сайтах | Столько, сколько нужно |
| Сайты | Использование нескольких сайтов для аварийного восстановления ( |
2 |
| Группы ресурсов | Использование групп ресурсов с указанием, каким образом должен работать набор ресурсов | До 64 в кластере |
| Ресурсы кластера | Использование нескольких ресурсов кластера | До 128 в Clinfo (кластер может включать больше) |
После того как было сформировано представление о текущей среде, уяснены понятия HACMP и выявлены свои ожидания от кластера, можно начать разработку схемы кластера.
На этом этапе следует создать схему кластера HACMP. Рекомендуется начать с простого и постепенно увеличивать степень детализации по мере продвижения процесса планирования. Схема позволяет выявить единые точки отказа, требования приложений и поможет направлять процесс планирования.
Для записи информации о конфигурации и кластере следует также использовать таблицы планирования на бумаге или систему автоматизированного планирования.
Первоначальная схема кластера, используемого в нашем примере, представлена на рис. 3.3. На данный момент основное внимание сосредотачивается на высокоуровневом функционировании кластера, подробности кластера рассматриваются по мере прохождения этапа планирования.
(рис 3.3) Первоначальная схема кластераМы начинаем принимать решения относительно схемы топологии и режима работы кластера на основании своих требований. Например, в соответствии с требованиями первоначальная схема кластера включает следующее:
Этот список кратко описывает основные компоненты схемы кластера. Каждый элемент будет более подробно рассмотрен в процессе планирования.
Рекомендуем заполнить первоначальную таблицу, как мы это сделали в нашем примере. В этой лекции приведено 11 таблиц планирования, каждая их которых охватывает различные аспекты его планирования. Табл. 3.2 представляет первую таблицу со списком основных элементов кластера.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 1 из 11 ОБЗОР КЛАСТЕРА | ДАТА: июль 2005 | |
|---|---|---|
| ИМЯ КЛАСТЕРА | cluster10 | |
| ОРГАНИЗАЦИЯ | IBM ITSO | |
| ha53node1 | ||
| ha53node2 | ||
| ИМЯ HACMP УЗЛА 1 | node01 | |
| ИМЯ HACMP УЗЛА 2 | node02 | |
| КОММЕНТАРИИ | Это набор таблиц планирования для простого 2-узлового кластера HACMP 5.3 со взаимным перехватом с использованием перехвата IP-адреса посредством синонимов. | |
Схема кластера начинается с определения требуемого количества и типа узлов. Эти аспекты в значительной степени зависят от двух факторов:
При выборе узлов основное условие заключается в том, чтобы в случае перемещения при сбое оставшийся узел или узлы были способны выполнять приложения с отказавшего узла. Другими словами, если у вас есть кластер из двух узлов и при этом отказывает один узел, оставшийся узел должен иметь ресурсы, требуемые для выполнения приложений с отказавшего узла (помимо собственных приложений). Если это невозможно, можно рассмотреть вариант внедрения дополнительного узла в качестве дежурного или вариант использования динамических разделов (DLPAR, в системах POWER4™ или POWER5™). Как вы сможете заметить, HACMP допускает широкий выбор конфигураций кластера в зависимости от ваших требований.
HACMP работает практически с любым узлом, поддерживаемым
Хотя это не обязательно, мы рекомендуем использовать узлы кластера с похожими конфигурациями оборудования, чтобы упростить распространение ресурсов и выполнение административных операций. Другими словами, не пытайтесь выполнить перемещение при сбое с высокопроизводительного сервера на настольную систему, ожидая что все будет работать надлежащим образом; будьте благоразумны при выборе узлов.
Табл. 3.3 содержит сведения об оборудовании для нашего примера. Там, где это возможно, мы использовали избыточное оборудование, дополнительные коммутаторы Ethernet и SAN, а также убедились в достаточности ресурсов для поддержки одновременной работы приложений на каждом узле.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 2 из 11 | ДАТА: июль 2005 | |
|---|---|---|
| ОБОРУДОВАНИЕ КЛАСТЕРА | ||
| КОМПОНЕНТ ОБОРУДОВАНИЯ | СПЕЦИФИКАЦИИ | КОММЕНТАРИИ |
| p520 | Сервер pSeries | Количество – 2 |
| 2 процессора и 4 Гб памяти | *Последняя версия микрокода | |
| 4 внутренних SCSI-диска | Резервные источники питания. | |
| Достаточно ресурсов для выполнения обоих приложений на одном сервере | ||
| Ethernet-адаптеры | 10/100/1000 Ethernet | 2 NIC на узел (минимум) |
| Сетевые коммутаторы | Название производителя Модель | 2 коммутатора. |
| Каждый NIC на узле подключен к отдельному коммутатору. | ||
| Все порты сконфигурированы в одной VLAN. | ||
| Коммутаторы поддерживают
gratuitous ARP-запросы и отключенный алгоритм |
||
| Установлено оптимальное значение скорости порта коммутатора | ||
| Адаптеры SAN | 6239 2GB |
2 |
| Коммутаторы SAN | IBM 2109 | 2 коммутатора. |
| Каждый |
||
| Общий диск разделен на зоны для всех узлов, требующих доступа | ||
| Хранилище SAN | IBM |
Модель 800 |
| КОММЕНТАРИИ | Совместимость оборудования проверена. | |
Для обеспечения совместимости требуется провести анализ всех программных компонентов, которые планируется использовать в кластере. Необходимо рассмотреть
программное обеспечение
HACMP 5.3 поддерживается в
| Версия |
Версия RSCT | Минимальные наборы файлов (filesets) RSCT |
|---|---|---|
| 2.4.2 | rsct.compat.basic.hacmp.2.4.2.0, rsct.compat.clients.hacmp.2.4.2.0, rsct.core.sec.2.4.2.1, | |
| 2.3.6 | rsct.compat.basic.hacmp.2.3.6.0,
rsct.compat.clients.hacmp.2.3.6.0,
rsct.core.sec.2.3.6.1,
rsct.core. |
Для поддержки функций Virtual LAN (
Следующие наборы файлов являются обязательными для работы HACMP. Они должны быть установлены вместе с последней версией исправлений к соответствующему
уровню
Следующие наборы файлов являются обязательными, если вы планируете использовать аутентификацию или шифрование сообщений в HACMP для связи между узлами
кластера. Их можно установить с диска
Следующее программное обеспечение является необходимым, если вы планируете установить и сконфигурировать WebSmit. Представленные версии являются наиболее актуальными на момент написания этого курса.
Выберите "
С установочного носителя можно получить следующие наборы файлов HACMP (за исключением дополнительных языковых наборов файлов):
Помните о том, что следующие системные файлы могут быть изменены HACMP в процессе установки, верификации и синхронизации кластера.
/etc/hosts
Скрипты событий кластера используют файл /etc/hosts для разрешения имен. Все IP-интерфейсы узлов кластера должны быть указаны в этом файле на всех узлах. HACMP может изменить этот файл, чтобы обеспечить наличие всей необходимой информации в файле /etc/hosts на всех узлах для корректной работы HACMP.
При удалении сервисных IP-меток из конфигурации кластера с использованием
/etc/inittab
Файл /etc/
/etc/rc.net
Файл /etc/rc.net вызывается утилитой cfgmgr (cfgmgr – утилита
/etc/services
HACMP использует следующие сетевые порты для связи между узлами кластера (они все перечислены в файле /etc/services):
Помимо HACMP, следующие порты используются
Версия snmpd.conf зависит от того, какая версия системы используется:
Демон SNMP считывает файл конфигурации /etc/snmpd.conf при запуске, а также при обновлении или выдаче сигнала . Этот файл задает имена сообществ
(community names) и соответствующие
Чтобы включить HACMP
smux 1.3.6.1.4.1.2.3.1.2.1.5 "clsmuxpd_password" # HACMP clsmuxpd /etc/snmpd.peers
Файл /etc/snmpd.peers осуществляет настройку сторон подключения SMUX (snmpd SMUX peers). При установке HACMP добавляет следующую запись, чтобы включить clsmuxpd-пароль для этого файла:
clsmuxpd 1.3.6.1.4.1.2.3.1.2.1.5 "clsmuxpd_password" # HACMP clsmuxpd
/etc/syslog.conf
Файл конфигурации /etc/syslog.conf используется для управления выходными данными демона syslogd, который регистрирует системные сообщения. В процессе установки HACMP добавляет в этот файл записи, которые направляют вывод сообщений, связанных с HACMP в определенные файлы.
Пример:
Файл /etc/syslog.conf должен быть одинаковым на всех узлах.
/etc/trcfmt
Файл /etc/trcfmt представляет собой файл-шаблон для утилиты регистрации и создания отчетов трассировки системы, trcrpt. В процессе установки добавляется трассировка HACMP в файл формата трассировки. Трассировка HACMP выполняется для демонов clstrmgr и clinfo.
/var/spool/cron/crontab/root
В процессе установки HACMP в файл /var/
0 0 * * * /usr/es/sbin/cluster/utilities/clcycle 1>/dev/null 2>/dev/null # >. HACMP for AIX Logfile rotation
Обычно приложения не зависят от версии HACMP; они даже не знают о функционировании HACMP. Другими словами, HACMP просто запускает и останавливает приложения (HACMP также может осуществлять мониторинг приложений, однако обычно для этого подбирается метод, зависящий от приложения).
Тем не менее существует несколько приложений, в частности Oracle RAC 9i, которые в значительной степени зависят от используемой версии HACMP.
Свяжитесь с производителем приложения, чтобы убедиться в отсутствии проблем (например, с лицензированием) при использовании HACMP 5.3.
Необходимо принимать во внимание два аспекта лицензирования: лицензирование HACMP (функций) и лицензирование приложения.
HACMP
Начиная с HACMP V5.2 лицензирование HACMP основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP V5. Наличие лицензий HACMP является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP.
Лицензирование HACMP/XD V5 основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP/XD V5. Наличие лицензий HACMP V5 и HACMP/ XD V5 является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP/XD.
Лицензирование HACMP V5 Smart Assist основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP V5 Smart Assist. Наличие лицензий HACMP V5 и HACMP V5 Smart Assist является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP V5 Smart Assist.
Итак, вот что это значит:
Приложение
Некоторые приложения имеют особенные требования по лицензированию, например использование отдельной лицензии для каждого процессора, выполняющего приложение; это означает, что необходимо лицензировать приложение путем включения информации, относящейся к процессору, в приложение при его установке. В результате, несмотря на корректную обработку отказов узла программным обеспечением HACMP, оно может быть неспособно перезапустить приложение на узле перемещения при сбое из-за ограничения на количество лицензий для этого приложения в кластере.
Во избежание этой проблемы, убедитесь в наличии лицензии для каждой системы в кластере, которая потенциально может выполнять приложение.
Табл. 3.5 содержит полный список программного обеспечения, установленного в нашем примере.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 3 из 11 ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ КЛАСТЕРА | ДАТА: июль 2005 | |
|---|---|---|
| КОМПОНЕНТ ПО | ВЕРСИЯ | КОММЕНТАРИИ |
| 5.3 ML02 | Последняя версия |
|
| RSCT | 2.4.2.1 | Последняя версия RSCT |
| HACMP | 5.3 BASE | Версия GA |
| IBM SDD | 1.6.0.2 | ПО обеспечения множественных путей к хранилищу |
| ПРИЛОЖЕНИЕ | Тестовое приложение, Версия 1 | Укажите версии своих приложений |
| КОММЕНТАРИИ | Для всего ПО выполнена проверка совместимости. | |
| При выполнении приложений с HACMP проблем не возникает. | ||
| Лицензирование HACMP выполняется для четырех процессоров на каждом узле. | ||
| Лицензирование приложений проверено, и лицензии приобретены для обоих серверов. | ||
Помимо уровней и наборов файлов операционной системы
Требования к дисковому пространству
HACMP требует наличия следующих объемов дискового пространства для установки в группе томов rootvg:
Кроме того, рекомендуется выделить приблизительно 100 Мб свободного пространства в /var и /tmp для журналов HACMP. (Требуемое пространство зависит
от количества узлов в кластере, которое влияет на
Синхронизация времени
Синхронизация времени между узлами кластера важна как для приложения, так и для
журналов HACMP. Она относится к стандартным задачам системного администратора, и мы рекомендуем использовать
Настройки операционной системы
Для HACMP не требуется дополнительных настроек операционной системы. Используйте обычную настройку
Защита узлов кластера (и приложения) от несанкционированного доступа является важным фактором общей доступности системы. Существуют некоторые общие аспекты безопасности, а также аспекты, связанные с HACMP, которые мы рассмотрим в этом разделе.
Кластеру HACMP нужен способ аутентификации на всех своих узлах для выполнения
удаленных команд, связанных с верификацией кластера, синхронизацией и некоторыми административными операциями (C-
Защита кластера необходима для предотвращения неавторизованного доступа к узлам кластера. Начиная с HACMP 5.1 дополнительная защита кластера обеспечивается новым механизмом безопасности, использующим возможности демона коммуникаций кластера (clcomdES).
Была устранена зависимость от
Межузловая связь в HACMP осуществляется с использованием демона кластера
(clcomdES), что устраняет необходимость в "классических" удаленных командах
Режимы аутентификации подключения в HACMP
Для повышения безопасности можно также использовать VPN-
В стандартном режиме безопасности при удаленном выполнении команд HACMP в /usr/es/sbin/cluster используется принцип наименьших привилегий. При этом ни одна команда не может быть выполнена на удаленном узле с привилегиями "root", кроме команд, перечисленных в /usr/es/sbin/cluster. Эти команды HACMP считаются доверенными, и для них допускается запуск с привилегиями "root"; все остальные команды выполняются под учетной записью "nobody".
Для управления межузловыми коммуникациями демону коммуникаций кластера необходим список допустимых IP-меток или адресов кластера. Существует два способа предоставить эту информацию:
Автоматическое конфигурирование узлов
Если вы впервые осуществляете конфигурирование HACMP, файл /usr/es/sbin/cluster/ etc/rhosts на узле является пустым. Демон clcomdES должен выполнить аутентификацию IP-адреса входящего подключения, чтобы убедиться, что оно исходит от узла в кластере; правила проверки адресов основаны на следующем процессе:
Обычно пользователю не приходится вручную заполнять файл rhosts; это делает
clcomdES. Так как после установки этот файл пуст, он будет заполнен при первом
подключении с другого узла. Первое подключение обычно выполняется с целью
верификации и синхронизации, после чего происходит заполнение
Индивидуальное конфигурирование узлов
В качестве альтернативного решения, если вас в особенности интересует сетевая безопасность (построение кластера может выполняться на основе незащищенной сети), можно поместить все IP-адреса/метки в файл /usr/es/sbin/cluster/etc/rhosts до конфигурирования кластера.
При установке HACMP этот файл создается пустым и имеет разрешения чтения и записи только для пользователя "root".
Настройка файла /usr/es/sbin/cluster/etc/rhosts
Большинство приложений требует, чтобы информация о пользователях (идентификатор пользователя, членство в группе,
Это особенно важно в ситуациях перемещения при сбое (перехвата). Очень важно, чтобы пользователь приложения был способен осуществлять доступ к общим
файлам с любого узла в кластере. Обычно это означает, что идентификатор пользователя (UID) и
При подготовке к конфигурированию кластера важно это учитывать и в случае необходимости исправить; в противном случае могут возникнуть проблемы с обслуживанием во время перемещения при сбое.
После установки HACMP содержит средства управления учетными записями пользователей и групп
При установке HACMP, если группа hacmp не существует, она будет создана. При создании группы HACMP просто берет следующий доступный идентификатор
IP-порты HACMP
Помимо портов, перечисленных в файле /etc/services, следующие службы также требуют использования портов, однако эти порты выбираются произвольным образом при запуске процесса. В настоящее время нет способа выделения определенных портов, просто помните об их наличии. Для примера представлены типичные номера портов (однако при необходимости они могут быть изменены):
HACMP требует, чтобы определенные файлы были одинаковыми на всех узлах кластера. К таким файлам относятся скрипты обработки событий, скрипты приложений,
некоторые файлы конфигурации
Управление этими наборами файлов можно осуществлять через меню
Стандартные наборы файлов HACMP
При установке HACMP происходит установка следующих наборов файлов (file collections):
Configuration_Files
Набор Configuration_Files представляет контейнер для следующих важных системных файлов:
Можно изменять опции распространения для этого набора файлов, а также добавлять и удалять файлы из этого набора файлов.
HACMP_Files
Набор HACMP_Files представляет контейнер, в котором обычно находятся настраиваемые пользователем файлы конфигурации HACMP, в частности скрипты запуска/ остановки, настраиваемые события и т. д. Этот набор файлов не может быть удален или изменен, и файлы из этого набора нельзя удалить, изменить или добавить.
Конфигурация сети представляет основной компонент схемы кластера. В стандартной кластерной среде клиенты осуществляют доступ к приложениям через сеть TCP/IP (обычно через Ethernet) с использованием сервисного адреса.
HACMP обеспечивает
Чтобы не допустить возникновения единой точки отказа в сетевом протоколе TCP/IP, а также разделения кластера, HACMP также использует отличные от IP сети типа "точка-точка" для мониторинга пульса. Это позволяет HACMP определить причину отказа, например отказ TCP/IP или отказ узла.
В этом разделе мы рассмотрим каждый тип сети и выберем соответствующие сетевые подключения и адреса.
На рис. 3.4 представлен обзор сетей, используемых в кластере.
Сеть Ethernet применяется для открытого доступа; к ней с каждого узла подключается несколько адаптеров. Эта сеть содержит базовые IP-адреса, постоянные IP-адреса и сервисные IP-адреса. Можно использовать несколько сетей, однако для простоты описания мы будем применять только одну.
Также показана последовательная сеть RS232. Она представляет собой сеть типа "точка-точка" с прямым подключением, с кабельным соединением между последовательными портами на каждом узле.
Также представлена сеть пульса через диски (а также сеть типа "точка-точка"). При использовании SAN-дисков можно легко реализовать мониторинг пульса через диски, так как это не требует дополнительного оборудования. Кроме того, в multipathконфигурации устройств применение устройства vpath, в отличие от hdisk, позволяет использовать возможности программного обеспечения SDD. Другими словами, в hdisk применяется только один путь к устройству, тогда как в vpath обычно используется несколько путей. Multipath-устройства могут быть сконфигурированы при употреблении нескольких дисковых адаптеров на узле, нескольких адаптеров хранилища или при одновременном использовании и того и другого.
(рис 3.4) Сети кластера HACMPВсе сетевые подключения применяются HACMP для мониторинга состояния сети, адаптеров и узлов кластера.
В нашем примере мы планируем использовать сеть Ethernet и сеть пульса через диски, а не сеть RS232.
Этот раздел содержит краткий обзор терминологии, применяемой в обсуждениях сетевых возможностей HACMP.
IP-метки
IP-метки (IP labels) представляют собой имена, связанные с IP-адресами, подлежащими разрешению системой (/etc/hosts, BIND и т. д.).
Сервисная IP-метка/адрес
Сервисная IP-метка/адрес (service IP label/address) представляет собой IP-адрес или
метку, через которую осуществляется обслуживание. Обычно она представляет собой адрес, используемый клиентами для доступа к приложению. Она может быть привязана к узлу либо совместно использоваться узлами, и HACMP обеспечивает его
Постоянная IP-метка/адрес
Постоянная IP-метка/адрес (persistent IP label/address) – это IP-синоним, привязанный к узлу, управляемый HACMP. Другими словами, постоянный синоним никогда не перемещается на другой узел; иногда он называется привязанным к узлу (node-bound).
Коммуникационный интерфейс
Коммуникационный интерфейс (
Коммуникационное устройство
Коммуникационное устройство (
Коммуникационный адаптер
Коммуникационный адаптер (communication adapter) – это физический адаптер X25,
Сетевая интерфейсная карта (NIC)
Сетевая интерфейсная карта (
Данный раздел содержит множество аспектов, которые следует помнить при разработке конфигурации сети.
Поддерживаемые типы сетей
HACMP позволяет осуществлять межузловую связь в TCP/IP-сетях следующих типов. (следует заметить, что наиболее часто используемой сетью является Ethernet):
Следующие TCP/IP-сети не поддерживаются:
Можно сконфигурировать мониторинг пульса посредством сетей "точка-точка" следующих типов:
Сетевые подключения
HACMP требует, чтобы каждый узел в кластере имел как минимум одно прямое немаршрутизируемое сетевое подключение ко всем остальным узлам. Эти сетевые подключения передают сообщения пульса между узлами кластера для определения состояния всех узлов кластера, сетей и сетевых интерфейсов.
HACMP также требует, чтобы все коммуникационные интерфейсы для заданной сети кластера были определены в одной физической сети, осуществляли маршрутизацию пакетов и получали ответы друг от друга без помех от другого сетевого оборудования.
Не используйте интеллектуальные коммутаторы, маршрутизаторы или другое сетевое оборудование, которые не осуществляют прозрачную передачу широковещательной рассылки UDP и других пакетов между всеми узлами кластера.
Мосты, концентраторы и прочие пассивные устройства, не изменяющие поток пакетов, можно благополучно размещать между узлами кластера, а также между узлами и клиентами.
На рис. 3.5 показана физическая конфигурация Ethernet с двумя Ethernet-адаптерами на каждом узле, подключенными через два коммутатора; все узлы сконфигурированы в одной физической сети (VLAN). Это иногда называется расположением в одном "домене коллизий" MAC.
Etherchannel
HACMP поддерживает применение
(рис 3.5) Подключения к коммутаторам в сети Ethernet
Основное преимущество технологии
В дополнение к функции агрегации также можно выполнить назначение резервного адаптера. Этот адаптер конфигурируется как часть
Основное преимущество технологии
В дополнение к функции агрегации также можно выполнить назначение резервного адаптера. Этот адаптер конфигурируется как часть
При планировании сети
На рис. 3.6 представлена простая конфигурация
На рис. 3.7 показана несколько более сложная конфигурация, в которой каждый
узел имеет два адаптера

(рис 3.7) Etherchannel с резервированием сетевого интерфейса(рис 3.6) Конфигурация с несколькими адаптерами EtherchannelИмена хостов и имена узлов
Обычно
В том случае, если приложение требует переноса имени хоста в
Мы рекомендуем вам избегать таких ситуаций, так как они ограничивают варианты перемещения при сбое. Например, вы не можете изменить
/etc/hosts
IP-адрес и связанная с ним метка (имя) должны быть заданы в файле /etc/hosts. Мы рекомендуем выбрать один из узлов кластера для выполнения всех изменений в этом файле, а затем использовать FTP или наборы файлов HACMP для распространения файла /etc/hosts на другие узлы.
IP-метки
Постоянные IP-адреса (синонимы)
Основная цель использования постоянных синонимов состоит в том, чтобы обеспечить доступ к узлу с отключенными службами HACMP. Постоянный синоним представляет собой маршрутизируемый адрес, доступ к которому сохраняется, пока работает узел. Этот синоним требуется сконфигурировать через HACMP. При запуске HACMP выполняется проверка доступности синонима, и если он недоступен, HACMP конфигурирует его на доступном адаптере в выделенной сети. Если синоним уже доступен, HACMP сохраняет его.
Постоянный синоним
Примечание. Постоянный IP-адрес назначается HACMP на одном коммуникационном интерфейсе, входящем в сеть, определенную в HACMP.
Рис. 3.8 иллюстрирует понятие постоянного адреса. Заметьте, что он представляет собой просто еще один IP-адрес, сконфигурированный на одном из базовых интерфейсов. Команда netstat отображает его как дополнительный IP-адрес адаптера.
(рис 3.8) Постоянные синонимыПодсети
Требования к подсетям колеблются в зависимости от выбранной конфигурации (перехват IP-адреса посредством замены или посредством синонимов), однако в HACMP маски подсетей для всех коммуникационных интерфейсов, определенных в HACMP, должны быть одинаковыми.
При перехвате IP-адреса посредством замены:
При перехвате IP-адреса посредством синонимов:
Аспекты шлюза (маршрута) по умолчанию
В зависимости от конфигурации вашей IP-сети при управлении интерфейсами из HACMP может произойти потеря маршрута по умолчанию.
Если маршрут по умолчанию привязан к одной из подсетей базового адреса, то при отказе этого адаптера произойдет потеря маршрута по умолчанию.
Чтобы не допустить возникновения такой ситуации, мы рекомендуем использовать постоянный адрес и привязать маршрут по умолчанию к этой подсети. Постоянный адрес будет активным, пока будет активным узел; таким образом, маршрут по умолчанию также будет активным.
Если вы решите этого не делать, то придется создать скрипт постобработки события, чтобы восстановить маршрут по умолчанию при возникновении проблемы.
Обновление ARP-кеша
При изготовлении каждой сетевой интерфейсной карте (
После возникновения события в кластере, узлы и сетевые устройства HACMP, поддерживающие смешанный режим (
HACMP в коммутируемой сети
При использовании VLAN все интерфейсы, определенные в HACMP для заданной сети, должны относиться к одной VLAN. Таким образом, все адаптеры в одной сети должны быть подключены к одной физической сети и вести обмен данными друг с другом ("видеть" MAC-адреса друг друга).
Нужно убедиться, что коммутатор обеспечивает своевременную реакцию на ARPзапросы. Для многих моделей коммутаторов это означает отключение следующих функций:
Если требуется, чтобы алгоритм
Настройки скорости передачи в Ethernet
Так как согласование скорости передачи может вызвать проблемы в некоторых комбинациях адаптеров и коммутаторов, рекомендуется не использовать автоматическое согласование, а устанавливать требуемые значения скорости и дуплексного режима.
Перехват IP-адреса (IP Address Takeover, IPAT) представляет собой механизм, используемый HACMP для перемещения сервисных адресов между коммуникационными интерфейсами.
Существует два метода: перехват IP-адреса посредством замены (IPAT via replacement)
и перехват IP-адреса посредством синонимов (IPAT via
Для любой новой инсталляции мы рекомендуем использовать перехват IP-адреса посредством синонимов, так как этот метод прост в реализации и более гибок, чем перехват IP-адреса посредством замены. Можно применять несколько сервисных адресов для одного адаптера в любое время; кроме того, в случае перемещения при сбое имеет место некоторая экономия времени, так как HACMP просто нужно добавить синоним, а не выполнять повторное конфигурирование базового IP-адреса адаптера, что гораздо быстрее.
Некоторые конфигурации потребуют использования мониторинга пульса через синонимы. Например, если оба локальных базовых адаптера относятся к одной подсети или же если все базовые адаптеры на всех узлах относятся к разным подсетям.
Все варианты подробно рассматриваются в следующем разделе. В нашем примере применяется перехват IP-адреса посредством синонимов и мониторинг пульса через синонимы.
Перехват IP-адреса посредством замены
Этот способ конфигурирования сетей HACMP является более традиционным. HACMP при запуске осуществляет замену загрузочного адреса на сервисный адрес.
Для кластера из двух узлов требуется использование по меньшей мере одной подсети на коммуникационный интерфейс на узел (при использовании одинаковой маски подсети во всех подсетях). Для кластера с несколькими коммуникационными интерфейсами на узел требуется следующее:
Преимущество перехвата IP-адреса посредством замены состоит в том, что оно разрешает выполнять перехват
(рис 3.9) Перехват IP-адреса посредством заменыНа рис. 3.9 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, что HACMP при запуске заменяет загрузочный/базовый адрес сервисным адресом. Перемещение при сбое выполняется на дополнительный (дежурный) адаптер(ы), где, опять же, базовый (дежурный) адрес заменяется сервисным адресом. Количество сервисных адресов ограничено количеством резервных адаптеров, определенных в той же сети HACMP.
Перехват IP-адреса посредством синонимов
Этот метод назначения сервисных адресов является более новым и более гибким, чем перехват IP-адреса посредством замены. Используя перехват IP-адреса посредством синонимов, можно осуществлять назначение нескольких IP-адресов одному коммуникационному интерфейсу.
При запуске HACMP выполняется конфигурирование сервисного синонима поверх существующего базового IP-адреса доступного адаптера.
При использовании перехвата IP-адреса посредством синонимов следует учитывать следующие требования:
Мы рекомендуем использовать постоянный синоним и включить его в одну подсеть с маршрутом по умолчанию. Это обычно означает, что постоянный адрес должен быть включен в одну подсеть с сервисными адресами. Постоянный синоним можно использовать для доступа к узлу при отключенном HACMP, а также для преодоления проблем с маршрутом по умолчанию.
Можно выполнить настройку параметров размещения сервисных IP-меток, сконфигурированных в HACMP V5.3. Можно настроить размещение синонимов через
меню
(рис 3.10) Перехват IP-адреса посредством синонимовНа рис. 3.10 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, базовые адреса не изменяются. HACMP добавляет на базовые адаптеры сервисные и постоянные синонимы. Постоянные адреса всегда доступны, тогда как сервисные метки добавляются и удаляются при запуске и остановке HACMP. Перемещение при сбое выполняется путем переноса сервисной метки на другой доступный коммуникационный интерфейс. В нашем примере только сеть 192.168.100/24 является маршрутизируемой вне кластера.
HACMP требует использования отдельной подсети для мониторинга каждого базового адаптера. При конфигурации с применением двух Ethernet-адаптеров на узле требуется две подсети. При употреблении трех адаптеров требуется три подсети. Эти подсети не обязательно должны быть маршрутизируемыми вне сетей кластера.
Чтобы обеспечить средство мониторинга этих адаптеров (без изменения адреса базового адаптера), а также чтобы избежать возникновения проблем с подсетями, HACMP предоставляет функцию мониторинга пульса через синонимы. Этот метод не требует внесения каких-либо изменений в существующие базовые адреса. HACMP просто игнорирует базовые адреса и добавляет собственный набор синонимов для осуществления мониторинга пульса.
При использовании мониторинга пульса через IP-синонимы, IP-адреса, используемые при загрузке, могут располагаться либо в той же подсети, либо в других подсетях;
однако IP-адрес, применяемый во время загрузки, должен располагаться в подсети,
не включающей сервисные IP-метки. Как оказалось, если все адреса (базовые и сервисные) попадают в одну подсеть, возникают проблемы с маршрутизацией в связи с
функцией чередования маршрутов (route striping) операционной системы
Чтобы установить мониторинг пульса через IP-синонимы, следует настроить параметр "IP Address Offset for
Например, можно в качестве параметра смещения IP-адреса употреблять значение 1.1.1.1. При использовании сети с двумя NIC на каждом узле следует добавить маску подсети 255.255.255.0; в результате получим следующие IP-синонимы мониторинга пульса:
IP-синонимы мониторинга пульса добавляются при запуске HACMP на узле и удаляются при остановке HACMP. Эти IP-синонимы используются только для сообщений пульса. Для них не требуется осуществлять маршрутизацию, и их не следует применять для какого-либо другого трафика. Маска подсети совпадает с используемой для сервисных и несервисных синонимов.
На рис. 3.11 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, базовые адреса не изменяются. Помимо сервисных и постоянных синонимов, добавляемых HACMP на базовые адаптеры, также добавляются синонимы пульса. Последние удаляются при остановке HACMP вместе с сервисными синонимами. В нашем примере только сеть 192.168.100/24 является маршрутизируемой вне кластера.
Команда netstat -i выводит три IP-адреса для каждого адаптера при запущенном HACMP.
(рис 3.11) Мониторинг пульса через синонимы
Сети типа "точка-точка" играют важную роль в обеспечении
Назначение топологии последовательной сети или сети "точка-точка" состоит в том, чтобы обеспечить достаточное количество путей между узлами кластера, чтобы RSCT могла правильно оценить серьезность сбоя в кластере.
Разделение кластера
Разделение кластера (также называемое изоляцией узла или split brain) возникает в том случае, когда узел HACMP перестает получать весь трафик пульса с другого узла (по всем доступным сетям) и предполагает, что на этом узле произошел отказ. Проблема разделения кластера состоит в том, что узлы с одной стороны раздела воспринимают отсутствие пакетов пульса от узлов с другой стороны раздела как признак отказа узлов, генерируя события отказа для этих узлов. После этого узлы с каждой стороны кластера пытаются перехватить ресурсы (если настроен перехват) с узла, который на самом деле все еще активен и потому является законным владельцем этих ресурсов. Такие попытки перехвата могут привести к непредсказуемым результатам в кластере, например к повреждению данных в связи с реинициализацией дисков.
Наилучшая защита от возникновения подобных ситуаций состоит в том, чтобы использовать несколько сетей, как TCP/IP-сетей, так и сетей типа "точка-точка", чтобы обеспечить правильность оценки серьезности проблемы. Помните о том, что HACMP (в частности, RSCT) отправляет и получает пакеты пульса по всем доступным сетям, поэтому чем больше сетей, тем точнее HACMP сможет определить, имеет ли место отказ узла или отказ сети.
Следующий набор из четырех рисунков показывает, каким образом следует осуществлять добавление сетей в кластер, чтобы обеспечить наилучшую защиту от разделения кластера.
На рис. 3.12 показан кластер из четырех узлов с одним Ethernet-подключением к каждому серверу. Так как используется только одна сеть, то при потере любой связи часть кластера будет разделена. В примере показан разрыв связи между двумя Ethernetкоммутаторами, вызывающий отделение двух узлов слева от двух узлов справа. В данном случае могут возникнуть проблемы в результате попыток выполнить перехват ресурсов с активного узла.
Рис. 3.13 несколько более реалистичен; на нем представлены двойные Ethernetподключения с каждого узла. Каждый Ethernet-адаптер подключен к отдельному коммутатору. В этом случае для разделения кластера необходимо, чтобы произошел отказ двух коммутаторов или же обоих Ethernet-подключений на узле. Однако сама по себе сеть TCP/IP остается единой точкой отказа.

(рис 3.13) Разделение кластера(рис 3.12) Кластер без разделения с двойными Ethernet-подключениямиНа рис. 3.14 представлена рекомендованная конфигурация. Имеются двойные Ethernet-подключения к нескольким Ethernet-коммутаторам, а также добавлена кольцевая сеть типа "точка-точка". В кольцевой сети каждый узел подключен к своим непосредственным соседям. При потере одного подключения RSCT все еще сможет подключиться ко всем оставшимся узлам. Для разделения кластера потребуется возникновение двойного отказа на узле и отказа сети TCP/IP.
Для построения надежной конфигурации рассмотрим реализацию звездной топологии. При такой конфигурации, помимо сети TCP/IP, каждый узел подключен ко всем другим узлам кластера сетями типа "точка-точка". Это позволяет обеспечить связь RSCT с работающими узлами при отказе нескольких узлов. Эта конфигурация представлена на рис. 3.15.

(рис 3.15) Конфигурация с использованием Ethernet-сети и кольцевой сети типа "точка-точка"(рис 3.14) Конфигурация с использованием сети Ethernet и сети типа "точка-точка" звездной топологии
Сеть RS232 содержит по одному последовательному порту на каждом узле, подключенном через последовательный кабель. При наличии нескольких узлов потребуется несколько последовательных кабелей.
Если вы решите использовать последовательную сеть RS232, необходимо учитывать следующее:
Кабель для соединения двух последовательных портов должен быть подключен как полный нуль-модемный кабель; он не поставляется по умолчанию вместе с оборудованием. рис. 3.16 показывает нуль-модемное подключение. Фактически используемые разъемы подключения зависят от оборудования; скорее всего, будут использоваться разъемы DB9, DB25 или RJ50.
Чтобы определить, соответствуют ли ваши последовательные порты установленным требованиям, см. документацию к оборудованию и сообщения о поддержке HACMP.
(рис 3.16) Нуль-модемное кабельное подключение
Мониторинг пульса через диски представляет еще один тип сетей типа "точка-точка"
для обнаружения отказов. В предыдущих версиях HACMP можно было сконфигурировать отличные от IP сети мониторинга пульса через диски SCSI или
Начиная с HACMP 5.1, можно также сконфигурировать отличное от IP подключение мониторинга пульса через диски типа "точка-точка" с использованием любого
общего диска, входящего в группу томов в режиме расширенного одновременного
режима (enhanced
В сети мониторинга пульса через диски два узла, подключенные к диску, периодически записывают сообщения пульса и считывают сообщения пульса (записанные другим узлом) с небольшого участка диска, незанятого данными. Хотя сеть пульса через диски соединяет только два узла, кластеры, содержащие больше двух узлов, допускают использование нескольких дисков для мониторинга пульса.
При употреблении SAN-диска в качестве общего диска следует рассмотреть вариант использования мониторинга пульса через диски по следующим причинам:
Для того чтобы применять мониторинг пульса через диски, необходимы SAN-диски, доступные для обоих узлов и входящие в группу томов с расширенным одновременным доступом.
Любой общий диск из группы томов в режиме расширенного одновременного доступа может поддерживать подключение пульса типа "точка-точка". Каждый диск может поддерживать одно подключение между двумя узлами. Подключение использует общее дисковое оборудование в качестве пути для связи.
Сеть пульса через диски в кластере содержит:
При выборе диска для использования при мониторинге пульса необходимо учитывать следующее:
(рис 3.17) Сеть пульса через дискиНа рис. 3.17 показаны основные компоненты сети пульса через диски.
Обратите внимание на то, что номер vpath может отображаться различным образом
с разных узлов, что связано с нумерацией дисков в
Кроме того, рекомендуется запускать процесс обнаружения в HACMP и выбирать требуемые диски из выводимого списка.
Помимо конфигурирования топологии сети, есть еще два вопроса, которые следует рассмотреть при планировании кластера:
Все эти вопросы рассматриваются в данном разделе.
Взаимодействие HACMP с DNS и NIS
Чтобы обеспечить успешное и быстрое выполнение событий в кластере, HACMP отключает разрешение имен хоста в NSORDER = local. Поэтому файл /etc/hosts на каждом узле кластера должен содержать все IP-метки, определенные в HACMP для всех узлов кластера.
После завершения операции обмена доступ к DNS восстанавливается.
Мы предлагаем поместить запись hosts = local, bind4
в файл /etc/netsvc.conf, чтобы обеспечить
Сетевые модули
Каждая поддерживаемая сеть кластера имеет соответствующий сетевой модуль RSCT
(также называемый сетевым интерфейсным модулем –
В новых версиях HACMP передает соответствующие параметры настройки в сетевые модули RSCT для поддержки связи через следующие типы сетей:
Скорость обнаружения отказов
Скорость обнаружения отказов (
Время, требуемое для обнаружения отказа, может быть определено с использованием следующей формулы:
(скорость пульса) X (цикл отказа) X 2.
Скорость обнаружения отказов для сетевого модуля можно изменить двумя способами:
Предопределенные значения для каждого типа сети определяются таким образом, чтобы получались обоснованные результаты. Вам может потребоваться рассмотреть вариант изменения скорости обнаружения отказов с целью:
Сведения о чувствительности сети (также называемой скоростью обнаружения отказов) можно получить от служб топологии, как показано в примере 3.1.
p630n01# lssrc -ls topsvcs .................. Omitted lines....................... NIM's PID: 19978 net_ether_01_1 [1] 3 1 S 10.10.31.31 10.10.31.31 net_ether_01_1 [1] en0 0x42d56868 0x42d56872 HB Interval = 1.000 secs. Sensitivity = 10 missed beats .................. Omitted lines.......................
usr/sbin/cluster/netmon.cf
В конфигурациях кластера, содержащих сети, которые при определенных условиях могут стать сетями с одним адаптером, может быть сложно точно определить отказ того или иного адаптера. В таких ситуациях RSCT использует файл netmon.cf. Службы топологии RSCT сканируют конфигурацию netmon.cf во время запуска кластера. Когда сетевому монитору требуется проверить сеть, чтобы убедиться в функционировании адаптера, он направляет запросы ICMP ECHO на каждый IP-адрес.
После отправления запроса на все адреса сетевой монитор проверяет счетчик входящих пакетов, прежде чем определить, произошел ли отказ адаптера. Этот файл может содержать до 30 адресов или меток; для него применимы следующие указания:
Следующие таблицы содержат требуемую информацию о сети. Табл. 3.6 содержит спецификации сети Ethernet из нашего примера.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 4 из 11 ETHERNET-СЕТИ КЛАСТЕРА | ДАТА: июль 2005 | ||||
|---|---|---|---|---|---|
| ИМЯ СЕТИ | ТИП СЕТИ | ИМЕНА УЗЛОВ | IPAT ЧЕРЕЗ СИНОНИМЫ | Смещение IP-адреса для мониторинга пульса через IP-синонимы | |
| ether10 | ethernet (общего доступа) | 255.255.255.0 | node01, node02 | Включен | 1.1.1.1 |
| КОММЕНТАРИИ | ПРИМЕЧАНИЯ. Смещение IP-адреса добавляет IP-синонимы для каждого интерфейса Ethernet при запуске HACMP. Эти синонимы затем используются для мониторинга пульса, тогда как для адресов базового адаптера мониторинг не осуществляется. Выберите заданную по умолчанию скорость обнаружения отказов (ether = normal = 20 с) | ||||
Табл. 3.7 описывает сети типа "точка-точка", используемые в кластере. В нашем примере применяется только сеть пульса через диски, однако мы для образца дополнительно включили описание сети RS232.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 5 из 11 ПОСЛЕДОВАТЕЛЬНЫЕ СЕТИ КЛАСТЕРА И СЕТИ ТИПА "ТОЧКА-ТОЧКА" | ДАТА: июль 2005 | ||||
|---|---|---|---|---|---|
| ИМЯ СЕТИ | ТИП СЕТИ | ИМЕНА УЗЛОВ | Устройство | ИМЯ ИНТЕРФЕЙСА | МЕТКА АДАПТЕРА |
| serial10 | serial (закрытого доступа) | node01, node02 | Неприменимо | /dev/tty0 /dev/tty0 | node01_tty1 node02_tty1 |
| diskhb10 | diskhb | node01, node02 | vpath0 vpath0 | Неприменимо | node1_to_node2hb node2_to_node1hb |
| КОММЕНТАРИИ | ПРИМЕЧАНИЯ. Связи RS232, Target mode SCSI, Target mode |
||||
После описания сетей необходимо выполнить описание интерфейсов и IP-адресов, используемых HACMP, как показано в табл. 3.8.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 6 из 11 ИНТЕРФЕЙСЫ И IP-АДРЕСА | ДАТА: июль 2005 | ||||
|---|---|---|---|---|---|
| node01 | |||||
| IP-метка | Размещение IP-синонима | СЕТЕВОЙ ИНТЕРФЕЙС | ИМЯ СЕТИ | ФУНКЦИЯ ИНТЕРФЕЙСА | IP-АДРЕС/МАСКА |
| node01a | Неприменимо | en0 | ether10 | Базовый (несервисный) | 10.10.31.31 |
| node01b | Неприменимо | en1 | ether10 | Базовый (несервисный) | 10.10.32.31 |
| ha53node1 | Без совместного размещения (по умолчанию) | Неприменимо | ether10 | Постоянный | 192.168.100.31 |
| app1svc | Без совместного размещения (по умолчанию) | Неприменимо | ether10 | Сервисный | 192.168.100.131 255.255.255.0 |
| node02 | |||||
| IP-метка | Размещение IP-синонима | СЕТЕВОЙ ИНТЕРФЕЙС | ИМЯ СЕТИ | ФУНКЦИЯ ИНТЕРФЕЙСА | IP-АДРЕС/МАСКА |
| node02a | Неприменимо | en0 | ether10 | Базовый (несервисный) | 10.10.31.32 255.255.255.0 |
| node02b | Неприменимо | en1 | ether10 | Базовый (несервисный) | 10.10.32.32 255.255.255.0 |
| ha53node2 | Без совместного размещения (по умолчанию) | Неприменимо | ether10 | Постоянный | 192.168.100.32 255.255.255.0 |
| app2svc | Без совместного размещения (по умолчанию) | Неприменимо | ether10 | Сервисный | 192.168.100.132 255.255.255.0 |
| КОММЕНТАРИИ | Каждый узел содержит два базовых адаптера, каждый из которых находится в отдельной подсети. Каждый узел также содержит постоянный (привязанный к узлу) адрес и сервисный адрес. IPAT посредством синонимов используется так же, как и мониторинг пульса через синонимы (начальный диапазон = 1.1.1.1) | ||||
При планировании хранилища кластера необходимо учитывать следующие аспекты:
Внутренний диск узла обычно содержит rootvg, а также может содержать исполняемые файлы приложений. Мы рекомендуем организовать зеркальное отображение
внутреннего диска для обеспечения
Данные приложений располагаются на внешнем диске, что позволяет обеспечить доступ к ним со всех нужных узлов. Такие диски называются общими дисками (shared disks).
Мы советуем убедиться в том, что общая группа томов может быть активизирована вручную на каждом узле, прежде чем требовать управления активизацией от HACMP. В кластере HACMP общие диски подключаются к нескольким узлам кластера.
В конфигурации без одновременного доступа в любой момент времени только один узел является владельцем дисков. При отказе узла-владельца, чтобы восстановить обслуживание клиентов, другой узел кластера из списка узлов группы ресурсов перехватывает владение общими дисками и перезапускает приложения.
Как правило, в зависимости от количества дисков в группе ресурсов и от метода
перехвата дисков перехват может занимать от 30 до 300 с.
HACMP поддерживает использование следующих дисковых технологий производства IBM в качестве общих внешних дисков в кластере
Дисковые подсистемы сторонних производителей также могут поддерживаться, однако нужно предварительно получить сведения об их поддержке у изготовителя оборудования.
При работе с общей группой томов:
На рис. 3.18 показаны различные дисковые конфигурации, которые могут использоваться в кластере. Обратите внимание на то, что для внутренних дисков осуществляется зеркальное отображение (rootvg) и что на каждом узле существует несколько
адаптеров Fiber Сhannel (
Для проверки дисков следует использовать идентификаторы PVID, так как вполне
возможно, что номер vpath на разных узлах может различаться в связи с нумерацией
устройств в
Общие диски представлены разделенными на зоны для обоих узлов. Разделение
на зоны выполняется через программное обеспечение управления хранилищем
(SAN
(рис 3.18) Конфигурация физических дисков
Любой диск, для которого HACMP обеспечивает поддержку подключения к нескольким узлам, может использоваться для создания группы томов в режиме расширенного одновременного доступа (enhanced
При активизации группы томов в режиме расширенного одновременного доступа
LVM разрешает доступ к группе томов для всех узлов. Однако высокоуровневые подключения например, подключения (
В
Планирование общих логических томов связано с вопросом доступности данных.
Обеспечение
При планировании общих компонентов LVM необходимо учитывать следующие принципы:
После создания дисковой инфраструктуры
На рис. 3.19 представлены основные компоненты внешнего хранилища. Обратите
внимание на то, что имена всех логических томов и файловых систем являются уникальными, как и
(рис 3.19) Внешний диск SAN
HACMP автоматически обнаруживает отказы узлов и инициирует перехват дисков
в процессе перехвата группы ресурсов. Традиционный процесс перехвата диска
предполагает сброс бита резервирования диска SCSI (или
Начиная с HACMP 5.1 в связи с поддержкой групп томов с расширенным одновременным доступом в
Для существующих групп томов, входящих в группы ресурсов без одновременного доступа, можно выполнить преобразование этих групп томов в группы томов с расширенным одновременным доступом после обновления программного обеспечения HACMP.
Фактическое время быстрого перехвата диска в любой конфигурации зависит от множества факторов, выходящих за рамки контроля HACMP, таких, как вычислительная мощность узлов и активность узлов во время перемещения при сбое.
Следующие таблицы содержат необходимую информацию об общих группах томов. Совместно они дают достаточно полное представление об общей дисковой конфигурации.
Описание общих групп томов и физических дисков приведено в табл. 3.9:
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 7 из 11 ОБЩИЕ ДИСКИ | ДАТА: июль 2005 | ||||
|---|---|---|---|---|---|
| node01 | node02 | ||||
| VGNAME | VPATH | HDISK | HDISK | VPATH | VGNAME |
| app1vg | vpath0 | hdisk0, hdisk1, hdisk2, hdisk3 | hdisk0, hdisk1, hdisk2, hdisk3 | vpath0 | |
| vpath1 | hdisk4, hdisk5, hdisk6, hdisk7 | hdisk4, hdisk5, hdisk6, hdisk7 | vpath1 | app2vg | |
| КОММЕНТАРИИ. Все диски видимы с обоих узлов; app1vg обычно располагается на узле node01, app2vg обычно располагается на узле node02. | |||||
Запишите сведения об общих группах томов, как показано в табл. 3.10.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 8 из 11 ОБЩИЕ ГРУППЫ ТОМОВ (БЕЗ ОДНОВРЕМЕННОГО ДОСТУПА) | ДАТА: июль 2005 | |
|---|---|---|
| ГРУППА РЕСУРСОВ | ГРУППА ТОМОВ 1 | ГРУППА ТОМОВ 1 |
| C10RG1 | app1vg | Неприменимо |
| Основной номер = 90 | ||
| журнал = app1vglog | ||
| Логический том 1 = app1lv1 | ||
| Файловая система 1 = /app1 (20 Гб) | ||
| C10RG2 | app2vg | Неприменимо |
| Основной номер = 91 | ||
| журнал = app2vglog | ||
| Логический том 1 = app2lv1 | ||
| Файловая система 1 = /app2 (20 Гб) | ||
| КОММЕНТАРИИ | Создается общая группа томов на первом узле, после чего выполняется импорт на второй узел; | |
| #importvg -y app1vg -V 90 vpath0 (может быть необходимо сделать pv доступным с использованием chdev -l vpath0 -a pv=yes); | ||
| #chvg -an app1vg (отключает автоматическую активизацию для группы томов); | ||
| # |
||
| #umount /app1; | ||
| #varyoffvg app1vg (оставляет группу томов в отключенном режиме, оставляя HACMP управление группой) | ||
Практически любое приложение, работающее на автономном сервере
При планировании обеспечения
Вы должны полностью понимать, как приложение выполняется в среде с одним узлом и в среде с несколькими узлами. Мы рекомендуем в процессе подготовки приложения к работе в HACMP протестировать выполнение приложения вручную на обоих узлах, прежде чем передавать управление приложением в HACMP. Не следует ограничиваться предположениями о работе приложения в условиях перемещения при сбое.
Мы рекомендуем убедиться в корректности выполнения приложения на всех требуемых узлах прежде, чем конфигурировать управление приложением из HACMP.
Необходимо проанализировать и учитывать следующие аспекты:
При планировании защиты приложения в кластере HACMP необходимо учитывать следующее:
В HACMP под сервером приложения понимается просто набор скриптов, используемых для запуска и остановки приложения.
Сконфигурируйте свой сервер приложения, задав имя для использования в HACMP и выполнив привязку к скриптам запуска и остановки.
После создания сервера приложения следует связать его с группой ресурсов. Затем HACMP применяет эту информацию для управления приложением.
HACMP может осуществлять мониторинг приложения с использованием одного из двух методов:
Начиная с HACMP 5.2 можно применять несколько мониторов для одного приложения.
При определении собственного настраиваемого метода мониторинга необходимо помнить следующее:
Для измерения точного количества времени, в течение которого любое из приложений, определенных в HACMP, является доступным, можно использовать инструмент
анализа доступности (application availability
Некоторые приложения, включая Fast Connect Services и
Следующие таблицы описывают требуемую информацию для каждого приложения.
Заполните таблицу приложений, включив в нее всю требуемую информацию, как показано в табл. 3.11.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 9 из 11 ТАБЛИЦА ПРИЛОЖЕНИЙ | ДАТА: июль 2005 | |||
|---|---|---|---|---|
| APP1 | ||||
| ЭЛЕМЕНТ | КАТАЛОГ | ФАЙЛОВАЯ СИСТЕМА | РАСПОЛОЖЕНИЕ | ДОСТУП |
| ИСПОЛНЯЕМЫЕ ФАЙЛЫ | /app1/bin | /app1 | Хранилище SAN | Общий |
| ФАЙЛЫ КОНФИГУРАЦИИ | /app1/conf | /app1 | Хранилище SAN | Общий |
| ФАЙЛЫ ДАННЫХ | /app1/data | /app1 | Хранилище SAN | Общий |
| ФАЙЛЫ ЖУРНАЛОВ | /app1/logs | /app1 | Хранилище SAN | Общий |
| СКРИПТ ЗАПУСКА | /cluster/local/app1/start.sh | / | rootvg | Необщий (должен располагаться на обоих узлах) |
| СКРИПТ ОСТАНОВКИ | /cluster/local/app1/stop.sh | / | rootvg | Необщий (должен располагаться на обоих узлах) |
| СТРАТЕГИЯ ПЕРЕМЕЩЕНИЯ ПРИ СБОЕ | Перемещение при сбое на узел node02 | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОГО ЗАПУСКА | Убедиться в том, что сервер APP1 работает | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ВЕРИФИКАЦИИ | Выполнить следующую команду и убедиться в том, что APP1 активно. В противном случае отправить уведомление | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОЙ ОСТАНОВКИ | Убедиться в том, что сервер APP1 останавливается корректно | |||
| РЕИНТЕГРАЦИЯ УЗЛА | Должна осуществляться во время запланированного окна обслуживания, чтобы свести к минимуму нарушение работы клиентов | |||
| APP2 | ||||
| ЭЛЕМЕНТ | КАТАЛОГ | ФАЙЛОВАЯ СИСТЕМА | РАСПОЛОЖЕНИЕ | ДОСТУП |
| ИСПОЛНЯЕМЫЕ ФАЙЛЫ | /app2/bin | /app2 | Хранилище SAN | Общий |
| ФАЙЛЫ КОНФИГУРАЦИИ | /app2/conf | /app2 | Хранилище SAN | Общий |
| ФАЙЛЫ ДАННЫХ | /app2/data | /app2 | Хранилище SAN | Общий |
| ФАЙЛЫ ЖУРНАЛОВ | /app2/logs | /app2 | Хранилище SAN | Общий |
| СКРИПТ ЗАПУСКА | /cluster/local/app2/start.sh | / | rootvg | Необщий (должен располагаться на обоих узлах) |
| СКРИПТ ОСТАНОВКИ | /cluster/local/app2/stop.sh | / | rootvg | Необщий (должен располагаться на обоих узлах) |
| СТРАТЕГИЯ ПЕРЕМЕЩЕНИЯ ПРИ СБОЕ | Перемещение при сбое на узел node01 | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОГО ЗАПУСКА | Убедиться в том, что сервер APP2 работает | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ВЕРИФИКАЦИИ | Выполнить следующую команду и убедиться в том, что APP2 активно. В противном случае отправить уведомление | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОЙ ОСТАНОВКИ | Убедиться в том, что сервер APP2 останавливается корректно | |||
| РЕИНТЕГРАЦИЯ УЗЛА | Должна осуществляться во время запланированного окна обслуживания, чтобы свести к минимуму нарушение работы клиентов | |||
| КОММЕНТАРИИ | Обзор приложений | |||
Следует также заполнить таблицу мониторинга приложений, включив в нее всю информацию, необходимую для инструментов мониторинга приложений ( табл. 3.12).
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 10 из 11 МОНИТОРИНГ ПРИЛОЖЕНИЙ | ДАТА: июль 2005 |
|---|---|
| APP1 | |
| Можно ли осуществлять мониторинг приложения с использованием монитора процессов? | Да |
| Наблюдаемые процессы | app1 |
| root | |
| Счетчик экземпляров | 1 |
| Стабилизационный интервал | 30 |
| Счетчик перезапуска | 3 |
| Интервал перезапуска | 95 |
| Действие при отказе приложения | Перемещение при сбое |
| Метод уведомления | /usr/es/sbin/cluster/events/notify_app1 |
| Метод очистки | /usr/es/sbin/cluster/events/stop_app1 |
| Метод перезапуска | /usr/es/sbin/cluster/events/start_app1 |
| APP2 | |
| Можно ли осуществлять мониторинг приложения с использованием монитора процессов? | Да |
| Наблюдаемые процессы | app2 |
| root | |
| Счетчик экземпляров | 1 |
| Стабилизационный интервал | 30 |
| Счетчик перезапуска | 3 |
| Интервал перезапуска | 95 |
| Действие при отказе приложения | Перемещение при сбое |
| Метод уведомления | /usr/es/sbin/cluster/events/notify_app2 |
| Метод очистки | /usr/es/sbin/cluster/events/stop_app2 |
| Метод перезапуска | /usr/es/sbin/cluster/events/start_app2 |
В HACMP управление ресурсами осуществляется с использованием групп ресурсов.
Каждая группа ресурсов обрабатывается как контейнер, который может содержать следующие типы ресурсов: IP-метки, приложения, файловые системы и группы томов. Каждая группа ресурсов имеет настройки, которые определяют, когда и каким образом осуществляется ее перехват или освобождение. Можно выполнить точную настройку работы группы ресурсов без одновременного доступа при запуске узла, перемещении группы ресурсов на другой узел при отказе узла или при возврате группы ресурсов при реинтеграции узла.
К ресурсам и группам ресурсов применимы следующие правила и ограничения:
На рис. 3.20 упрощенно показана взаимосвязь между приложениями, группами томов и сервисными адресами, а также их совмещение в группах ресурсов. Группировка позволяет объединить приложение вместе с его общим дисковым хранилищем и сервисной IP-меткой в одну группу ресурсов. При этом все, что необходимо приложению, будет доступно, когда HACMP активизирует группу ресурсов.
(рис 3.20) Группы ресурсовПосле того как было решено, какие компоненты должны быть включены в группу ресурсов, необходимо выполнить планирование режимов работы группы ресурсов.
В таблице 3.13 приведены основные режимы работы (запуск, перемещение при сбое, возврат после восстановления), которые можно сконфигурировать для групп ресурсов в HACMP 5.3.
| Запуск | Перемещение при сбое | Возврат после восстановления |
|---|---|---|
| Подключение только на домашнем узле (Online on home node only, OHNO) для группы ресурсов | Перемещение на следующий по приоритету узел в списке | Без возврата после восстановления |
| Перемещение с использованием динамического приоритета узла | Возврат после восстановления на узел с более высоким приоритетом в списке | |
| Подключение с использованием политики распределения узлов | Перемещение на следующий по приоритету узел в списке | Без возврата после восстановления |
| Перемещение с использованием динамического приоритета узла | ||
| Подключение на первом доступном узле (Online on first available node, OFAN) | Перемещение на следующий по приоритету узел в списке | Без возврата после восстановления |
| Перемещение с использованием динамического приоритета узла | Возврат после восстановления на узел с более высоким приоритетом в списке | |
| Перевод в отключенный режим (только на ошибочном узле) | ||
| Подключение на всех доступных узлах | Перевод в отключенный режим (только на отказавшем узле) | Без возврата после восстановления |
Время установления при запуске
Атрибут времени установления (
Если узел запуска является домашним узлом для заданной группы ресурсов, время установления не выдерживается, вместо этого HACMP сразу же пытается подхватить группу ресурсов на этом узле.
Политика динамического приоритета узла
Настройка политики динамического приоритета узла (dynamic node priority, DNP)
позволяет выбирать резервный узел на основе определенных критериев производительности. При этом для выбора резервного узла используется переменная ресурсов
Если вы решите определить политики динамического приоритета узлов с использованием переменных ресурсов
Необходимо помнить о том, что выбор резервного узла также зависит от таких факторов, как доступность сетевого интерфейса на узле.
Таймер отсроченного возврата после восстановления
Таймер отсроченного возврата (delayed
Зависимости групп ресурсов
HACMP 5.3 предлагает множество конфигураций, где можно задавать отношения между группами ресурсов, для которых следует обеспечивать управление запуском, перемещением при сбое и возвратом после восстановления.
Можно сконфигурировать:
Несмотря на то что по умолчанию все группы ресурсов обрабатываются параллельно, обработка зависимых групп ресурсов в HACMP осуществляется в соответствии с порядком, определенным зависимостью, и не обязательно параллельно. Зависимости групп ресурсов имеют действие в масштабе кластера и замещают любые настройки последовательного порядка обработки для любых групп ресурсов, входящих в зависимость.
Зависимости между группами ресурсов представляют прогнозируемый и надежный способ построения кластеров с многоуровневыми приложениями.
Метод перехвата IP-адреса и группы ресурсов
Нельзя смешивать метки IPAT посредством синонимов и IPAT посредством замены в одной группе ресурсов. Это ограничение применяется во время верификации ресурсов кластера.
Перехват IP-адреса не применяется к группам ресурсов с одновременным доступом.
Группа ресурсов может включать несколько сервисных IP-меток. При перемещении группы ресурсов с перехватом IP-адреса посредством синонимов все сервисные метки в группе ресурсов перемещаются в виде синонимов на доступный сетевой интерфейс.
Планирование диспетчера рабочей нагрузки
Диспетчер рабочей нагрузки (
HACMP не проверяет каждый аспект конфигурации WLM, так что ответственность за
Таблица планирования групп ресурсов содержит всю требуемую информацию о планировании для групп ресурсов ( табл. 3.14).
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 11 из 11 ГРУППЫ РЕСУРСОВ | ДАТА: июль 2005 | |
|---|---|---|
| ИМЯ РЕСУРСА | C10RG1 | C10RG2 |
| Политика межсайтового управления | Игнорируется | Игнорируется |
| Имена узлов-участников | node01 node02 | node02 node01 |
| Политика запуска | Подключение только на домашнем узле (OHNO) | Подключение только на домашнем узле (OHNO) |
| Политика перемещения при сбое | Перемещение на следующий по приоритету узел в списке (FONP) | Перемещение на следующий по приоритету узел в списке (FONP) |
| Политика возврата после восстановления | Возврат на узел с более высоким приоритетом (FBHP) | Возврат на узел с более высоким приоритетом (FBHP) |
| Таймер отсроченного возврата | ||
| Время установления | ||
| Политики времени выполнения | ||
| Политика динамического приоритета узла Порядок обработки (параллельная, последовательная или настраиваемая) | ||
| Сервисная IP-метка | app1svc | app2svc |
| Серверы приложений | app1 | app2 |
| Группы томов | app1vg | app2vg |
| Файловые системы | /app1 | /app2 |
| Проверка согласованности файловой системы | fsck | fsck |
| Метод восстановления файловой системы | Последовательный | Последовательный |
| Файловые системы или каталоги для экспорта | ||
| Файловые системы или каталоги для подключения NFS | ||
| Сеть для подключения NFS | ether10 | ether10 |
| Основной класс WLM | ||
| Автоматический импорт групп томов | Нет | Нет |
| Подключение файловых систем перед конфигурированием IP | Нет | Нет |
| КОММЕНТАРИИ | Обзор двух групп ресурсов | |
Собрав все вместе и используя информацию, собранную при планировании кластера и записанную в таблицах планирования, теперь можно перейти к построению простой для восприятия подробной схемы кластера. На рис. 3.21 представлена подробная схема кластера из нашего примера. Эту схему можно использовать в качестве вспомогательного средства при конфигурировании кластера и диагностике проблем.
Разработка соответствующего плана тестирования для проверки работы кластера при отказах так же важна, как и планирование и конфигурирование кластера HACMP. Другими словами, нужно проверить, соответствует ли обработка отказов кластером ожиданиям. Необходимо протестировать (или подтвердить) возможности восстановления кластера, прежде чем кластер станет частью рабочей среды.
Как и в прежних версиях HACMP, вам следует разработать локальный набор тестов для проверки целостности кластера. Это обычно включает отключение сетевых кабелей, отключение интерфейсов и завершение работы узлов кластера в целях проверки возможностей восстановления кластера. Это упражнение все еще остается полезным, так как вы имеете возможность имитировать отказы и наблюдать за поведением кластера. Если что-то идет неправильно или не так, как ожидалось, следует остановить тестирование и изучить проблему. После успешного завершения всех тестов кластер можно переносить в рабочую среду.
В табл. 3.15 представлен пример плана тестирования, который можно использовать для тестирования кластера.
(рис ) Подробная схема кластера| План тестирования кластера | |||
|---|---|---|---|
| Тест № | Описание теста | Комментарии | Результаты |
| 1 | Запуск HACMP на node01 | node01 запускается и перехватывает группу ресурсов C10RG1 | |
| 2 | Запуск HACMP на node02 | node02 запускается и перехватывает группу ресурсов C10RG2 | |
| 3 | Постепенная остановка без перехвата (graceful stop without takeover) на node01 | Группа ресурсов C10RG1 отключается | |
| 4 | Запуск HACMP на node01 | node01 запускается и перехватывает группу ресурсов C10RG1 | |
| 5 | Постепенная остановка с перехватом (graceful stop with takeover) на node01 | Группа ресурсов C10RG1 перемещается на node02 | |
| 6 | Запуск HACMP на node01 | node01 запускается и требует группу ресурсов C10RG1 | |
| 7 | Отказ (отключение) сервисного интерфейса на node01 | Перемещение сервисного IP-адреса на второй базовый адаптер | |
| 8 | Переподключение сервисного интерфейса на node01 | Сервисный IP-адрес остается на втором базовом адаптере | |
| 9 | Отказ (отключение) сервисного интерфейса на node01 (теперь на втором адаптере) | Сервисный (и постоянный) IP-адрес перемещается на первый базовый адаптер | |
| 10 | Выполнение на node01 команды |
node01 останавливается – группа ресурсов C10RG1 перемещается на node02 | |
| 11 | Перезагрузка node01 и перезапуск HACMP | node01 перезагружается. После запуска HACMP, node01 требует C10RG1 | |
| 12 | Постепенная остановка без перехвата (graceful stop without takeover) на node02 | Группа ресурсов C10RG1 отключается | |
| 13 | Запуск HACMP на node02 | node02 запускается и перехватывает группу ресурсов C10RG2 | |
| 14 | Постепенная остановка с перехватом (graceful stop with takeover) на node01 | Группа ресурсов C10RG2 перемещается на node01 | |
| 15 | Запуск HACMP на node02 | node02 запускается и требует группу ресурсов C10RG2 | |
| 16 | Отказ (отключение) сервисного интерфейса на node02 | Перемещение сервисного IP-адреса на второй базовый адаптер | |
| 17 | Переподключение сервисного интерфейса на node02 | Сервисный IP-адрес остается на втором базовом адаптере | |
| 18 | Отказ (отключение) сервисного интерфейса на node02 (теперь на втором адаптере) | Сервисный (и постоянный) IP-адрес перемещается на первый базовый адаптер | |
| 19 | Выполнение на node02 команды |
node02 останавливается – группа ресурсов C10RG2 перемещается на node01 | |
| 20 | Перезагрузка node02 и перезапуск HACMP | node02 перезагружается. После запуска HACMP, node02 требует C10RG2 | |
Чтобы упростить тестирование кластера, HACMP 5.2 и 5.3 включают инструмент Cluster
Инструмент
Автоматическое тестирование
Инструмент тестирования содержит автоматический метод, предназначенный для быстрого тестирования функционирования кластера. Его выполнение обычно занимает от 30 до 60 мин., в зависимости от сложности кластера; при этом выполняются тесты, перечисленные ниже. Для выполнения этих тестов вы должны иметь доступ под записью root.
Тесты общей топологии кластера
Тесты групп ресурсов с неодновременным доступом
Если кластер включает одну или несколько групп ресурсов с неодновременным доступом, инструмент тестирования выполняет каждый из нижеперечисленных тестов в заданном порядке для каждой группы ресурсов:
Тест групп ресурсов с одновременным доступом
Если кластер содержит одну или несколько групп ресурсов с политикой управления запуском, настроенной на подключение на всех доступных узлах (online on all available nodes, OAAN), инструмент тестирования выполняет один тест, состоящий в отключении сервера приложений и восстановлении после отказа приложения.
Тест на фатальный отказ
Инструмент выполняет один тест на фатальный отказ, который останавливает диспетчер кластера на произвольно выбранном узле, на котором в данный момент находится как минимум одна активная группа ресурсов.
Выполнение автоматических тестов
Общие рекомендации советуют периодически подтверждать конфигурацию кластера. Существует два инструмента автоматизации выполнения этой задачи:
Эти инструменты можно использовать для реализации стандартной процедуры проверки. После выполнения первоначального теста тестирование вручную выполнять необязательно. Однако так как автоматический инструмент тестирования кластера предпринимает действия, которые могут вызвать перерыв в обслуживании, необходимо назначить использование этого инструмента на время, соответствующее окну обслуживания.
Инструмент
Для запуска автоматической процедуры тестирования:
smit hacmp.После планирования конфигурации и составления схемы кластера, нужно выполнить подготовку к установке.
При внедрении HACMP на существующих серверах следует выделить достаточное окно обслуживания для установки, конфигурирования и тестирования кластера. Если выполняется новая инсталляция, нужно выделить время на конфигурирование и тестирование базового кластера. После конфигурирования и тестирования кластера можно выполнять интеграцию необходимых приложений во время запланированного окна обслуживания.
Возвратившись к рис. 3.1, можно увидеть, что установке HACMP предшествует этап подготовки. Этот этап необходим для того, чтобы обеспечить готовность инфраструктуры к установке HACMP. Обычно это предполагает использование таблиц планирования и схемы кластера для подготовки узлов для установки HACMP 5.3.
Этап подготовки может занять некоторое время, в зависимости от сложности среды и количества используемых групп ресурсов и узлов. Нужно выделить достаточно времени на подготовку среды, так как нет смысла пытаться устанавливать HACMP в неподготовленной среде. Это обернется напрасной тратой времени на устранение неполадок в плохой инсталляции. Помните о том, что построение хорошо сконфигурированного кластера происходит на основе надежной инфраструктуры.
После завершения планирования кластера и подготовки среды узлы готовы к установке HACMP.
Установка кода достаточно проста. При установке с компакт-диска следует просто
использовать
После того как были установлены необходимые наборы файлов на всех узлах кластера, используйте таблицы планирования для конфигурирования кластера. У вас есть несколько инструментов, которые можно использовать для конфигурирования кластера:
Применить снимок кластера для конфигурирования кластера.
После конфигурирования, верификации и синхронизации кластера следует запустить инструмент
Проверьте все включенные вами уведомления об ошибках.
После успешного выполнения тестирования создайте резервные копии системы (mksysb) для каждого узла, а также снимок кластера с одного из узлов кластера. На этом этапе кластер должен быть готов к переносу в рабочую среду.
Теперь к управлению доступностью приложения применимы стандартные процессы управления изменениями и проблемами.
Основным средством резервного копирования кластера HACMP является снимок
кластера. Хотя файл описания кластера системы автоматизированного планирования (Online Planning
Основной информацией, сохраненной в снимке кластера, являются данные, находящиеся в классах базы данных конфигурации HACMP (таких, как HACMPcluster, HACMPnode, HACMPnetwork, HACMPdaemons). Эта информация используется для воссоздания конфигурации кластера при применении снимка кластера.
Снимок кластера не сохраняет какие-либо пользовательские скрипты, приложения и прочие параметры конфигурации, не связанные с HACMP. Например, имена серверов приложений и расположение их скриптов запуска и остановки сохраняются в объектном классе HACMPserver базы данных конфигурации. Однако сами скрипты, как и вызываемые ими приложения, не сохраняются.
Утилита создания снимков кластера сохраняет данные в двух разных файлах:
Для полного резервного копирования следует создать резервную копию (mksysb) каждого узла кластера с использованием стандартных методов. Выберите один узел для создания снимка кластера и сохраните снимок в безопасном месте в целях аварийного восстановления.
При возможности создайте снимок до создания резервной копии (mksysb) узла, чтобы он был включен в резервную копию системы.
Для эффективного управления кластером важно выполнять документирование конфигурации кластера. Хорошее документирование кластера позволяет обеспечить более эффективный контроль изменений и быстрое разрешение проблем на всех этапах, от управления изменениями в кластере до устранения неполадок. Мы рекомендуем вам вести точную схему кластера, которую можно использовать для управления изменениями и проблемами.
Кроме того, HACMP обеспечивает инструменты для упрощения сбора данных конфигурации кластера посредством использования системы автоматизированного планирования (OLPW).
В этом разделе описывается создание файла определения кластера через
Основные этапы создания отчета кластера следующие:
Можно создать файл определения кластера из активного кластера HACMP, после чего
открыть этот файл с использованием приложения Online Planning
Для создания файла определения кластера из
smit hacmp.Extended Configuration Move cursor to desired item and press Enter. Discover HACMP-related Information from Configured Nodes Extended Topology Configuration Extended Resource Configuration Extended Cluster Service Settings Extended Event Configuration Extended Performance Tuning Parameters Configuration Security and Users Configuration Snapshot Configuration Export Definition File for Online Planning Worksheets Extended Verification and Synchronization HACMP Cluster Test Tool
Кроме того, файл определения кластера также можно создать из снимка кластера
HACMP, после чего его можно открыть с использованием приложения Online Planning
Для создания файла определения кластера из снимка с применением
smit hacmp ;Отчет о конфигурации позволяет записать информацию о состоянии конфигурации кластера в формате HTML.
Отчет содержит обзорную информацию, включающую следующее:
Отчет также содержит разделы по следующим вопросам:
Для создания отчета о конфигурации:
(рис 3.22) Образец отчета о конфигурацииПри создании отчета в каталоге, содержащем отчет, создается каталог olpwimages.
Например, при сохранении файла отчета в каталоге /home/
На рис. 3.22 показан скриншот созданного отчета. Можно выполнять прокрутку страницы для просмотра информации.
После запуска кластера начинается работа по управлению изменениями и проблемами.
Эффективные процессы управления изменениями и проблемами необходимы для обеспечения доступности кластера. В целях эффективности текущая конфигурация кластера всегда должна быть "под рукой". Можно использовать OLPW для создания html-версии конфигурации, а также (рекомендуется) схемы текущего кластера.
Любые изменения в кластере должны быть всесторонне исследованы с точки зрения их воздействия на функционирование кластера. Даже те изменения, которые непосредственно не влияют на HACMP (например, добавление дополнительной нагрузки, не связанной с HACMP), могут отразиться на работе кластера. Необходимо выполнять планирование, назначение и документирование изменений, а после их внесения – тестирование кластера.
Чтобы упростить внедрение изменений в кластере, HACMP обеспечивает набор
Все возникающие проблемы в кластере следует немедленно изучать и исправлять. Так как основная задача HACMP состоит в том, чтобы скрывать любые возникающие ошибки от приложений, даже при наличии инструментов мониторинга вы можете не узнать о перемещении при сбое. Убедитесь в том, что включены уведомления об ошибках, сообщающие об отказах соответствующему персоналу.
В этом разделе подробно рассматриваются три основных инструмента планирования. Также включен образец схемы кластера и таблицы планирования.
Создание схемы для кластера HACMP позволяет четко представить работу кластера и помогает выявить единые точки отказа. Образец схемы кластера из двух узлов представлен на рис. 3.23.
(рис 3.23) Образец схемы кластера
Система автоматизированного планирования (Online Planning
Приложение сохраняет информацию в виде файла определения кластера, применимого для конфигурирования кластера. Приложение также проверяет данные на наличие всей необходимой информации.
Следующий порядок действий представляет эффективное использование инструмента OLPW при планировании, внедрении и документировании кластера.
cl_opsconfig.Запуск OLPW с компакт-диска в Windows
Запуск приложения с компакт-диска в AIX 5L
В системе
mount -v cdrfs -p -r cd_location mount_directory, где cd_location – расположение
компакт-диска; mount_directory – имя подключаемого каталога (точки монтирования). Например: mount -v cdrfs -p -r /dev/cd0 /mnt.java -jar mount_directory/olpw/worksheets .jar, где mount_directory – каталог, описанный выше.Установка OLPW
Установка приложения в системе
cluster.es.worksheets
Приложение Online Planning
Запуск приложения OLPW из графического интерфейса
/usr/es/sbin/cluster/worksheets/worksheets
Приложение проверяет наличие установленной требуемой версии
Установка приложения OLPW в системе Windows
Запуск приложения из системы Windows
Выполните команду из командной строки либо сделайте двойной
щелчок мышью по значку worksheet.jar в проводнике.
Описание главного окна
При открытии приложения Online Planning
Главное окно содержит две панели:
Информация о конфигурации вводится в правой панели.
(рис 3.24) Основное меню Online Planning WorksheetsСоздание нового файла описания кластера
В начале планирования кластера можно либо ввести всю информацию вручную, либо считать информацию о конфигурации кластера в OLPW, после чего ввести остальную информацию вручную.
Для создания файла определения кластера проделайте следующее:
Открытие существующего файла определения кластера
Чтобы открыть файл определения кластера, выберите File (Файл) > Open (Открыть). Одновременно можно открыть только один файл определения кластера.
Программа запросит вас о необходимости сохранения текущего файла, независимо от того, вносились ли в него какие-либо изменения, после чего главное окно выводится без информации о конфигурации.
Добавление примечаний о конфигурации кластера
При планировании конфигурации в файл определения кластера можно добавлять примечания. Для этого:
Сохранение файла определения кластера
Это можно сделать двумя способами:
При сохранении файла OLPW автоматически проверяет определение кластера, если только автоматическая проверка не была выключена.
Применение данных таблиц в кластере HACMP
После заполнения панелей конфигурации в приложении OLPW можно сохранить
файл, после чего применить его на узле кластера. При использовании приложения
Online Planning
Предварительные условия
Прежде чем применять файл определения кластера в кластере, убедитесь в том, что выполнены следующие условия:
Применение файла конфигурации кластера
Утилита cl_opsconfig выполняет проверку файла (если приложение Online Planning
cl_opsconfig можно просматривать на экране либо перенаправлять
в файл журнала.
Перенаправление стандартного потока вывода сообщений об ошибках осуществляется следующим образом (в оболочке korn shell; в других оболочках могут быть отличия):
/usr/sbin/cluster/utilities/cl_opsconfig your_config_file 2> output_file
Подробно таблицы планирования на бумаге представлены в прил. "А" в руководстве HACMP 5.3 Planning and Installation Guide.
Мы считаем, что полезно привести эти таблицы в формат, подходящий к вашей среде. Для этого мы включили ряд примеров специализированных таблиц, чтобы помочь вам в планировании простого кластера. Эти таблицы см. в прил. "А", "Таблицы планирования на бумаге".
Основная цель планирования кластера
Здесь наступает очередь HACMP. В HACMP можно настроить мониторинг серверного оборудования, операционной системы и компонентов приложения. В случае отказа HACMP может предпринять корректирующие действия, в частности выполнить перемещение требуемых ресурсов (сервисных IP-адресов, хранилищ и приложений) на рабочие компоненты кластера, чтобы как можно быстрее восстановить доступность приложения.
HACMP является чрезвычайно гибким продуктом, поэтому разработка кластера под нужды организации требует тщательного планирования. Требования и режим функционирования приложения представляют важную входную информацию плана HACMP и являются основными факторами при определении схемы кластера. При разработке схемы кластера необходимо поставить перед собой следующие вопросы:
Хотя за внедрение HACMP обычно отвечают системные администраторы
Основные этапы успешного внедрения HACMP указаны на рис. 3.1. Обратите внимание на то, что внедрение кластера не завершается с успешным конфигурированием кластера. Процедуры тестирования кластера, резервного копирования, документирования и текущего управления одинаково важны для обеспечения текущей целостности кластера.
Используя понятия, описанные в лекции 1, "Введение в HACMP", внедрение HACMP начинается с разработки подробного плана конфигурирования и внедрения кластера
HACMP. Для направления этого процесса и записи информации о кластере можно
использовать такие инструменты планирования, как таблицы планирования на бумаге (Paper Planning
(рис 3.1) Этапы внедрения HACMPКак показано на рис. 3.1, планирование является основой, на которой строится внедрение. Надлежащее планирование должно затрагивать все аспекты внедрения кластера. Оно должно включать:
Для простоты описания мы представим планирование кластера на примере кластера из двух узлов со взаимным перехватом. Эта конфигурация является отправной точкой для более сложных установок. Лекция также содержит образцы таблиц планирования, так как цель лекции заключается в том, чтобы показать, как выполняется планирование кластера.
При планировании кластера HACMP можно использовать три инструмента:
И диаграмма кластера и таблицы планирования на бумаге представляют собой метод записи информации о кластере вручную. Система автоматизированного планирования представляет простой в использовании интерфейс на основе Java, который может применяться для записи и конфигурирования кластера.
Планирование кластера начинается с анализа текущей среды и своих ожиданий от HACMP:
На рис. 3.2 показана простая стартовая конфигурация, которую мы будем использовать в качестве примера. Она сосредоточена на обеспечении
Стартовая конфигурация показывает следующее:
Цель состоит в том, чтобы использовать два узла в конфигурации со взаимным перехватом, где приложение app1 обычно находится на узле node01, а приложение app2 обычно находится на узле node02. В случае отказа нужно, чтобы оба приложения выполнялись на оставшемся сервере. Из диаграммы мы видим, что нужно подготовить среду таким образом, чтобы каждый узел мог выполнять оба приложения.
Анализируя требования к кластеру HACMP, получаем три основные области, требующие внимания, как показано на рис. 3.2: сеть, приложение и хранилище. Все действия по планированию в какой-то мере предназначены для поддержки одного из трех этих элементов.
(рис 3.2) Первоначальная среда
В табл. 3.1 приведен обзор возможных единых точек отказа в инфраструктуре кластера и способов защиты от них. Эти аспекты следует учитывать во время разработки подробной схемы кластера.
| Объекты кластера | Способ устранения единой точки отказа | Поддержка в HACMP/ |
|---|---|---|
| Узлы | Использование нескольких узлов | До 32 |
| Источники питания | Использование нескольких электросетей или источников бесперебойного питания (ИБП) | Столько, сколько нужно |
| Сети | Использование нескольких сетей для соединения узлов | До 48 |
| Сетевые интерфейсы, устройства и IP-адреса | Использование резервных сетевых адаптеров | До 256 |
| Подсистема TCP/IP | Использование сетей "точка-точка" для соединения соседних узлов и клиентов | Столько, сколько нужно |
| Дисковые адаптеры | Использование резервных дисковых адаптеров | Столько, сколько нужно |
| Дисковые контроллеры | Использование резервных дисковых контроллеров | Столько, сколько нужно (ограничение на аппаратном уровне) |
| Диски | Использование резервного оборудования, а также технологий зеркального отображения, чередования или их сочетания | Столько, сколько нужно |
| Приложения | Назначение узла для перехвата приложения, конфигурирование мониторов приложений, конфигурирование кластеров с узлами на нескольких сайтах | Столько, сколько нужно |
| Сайты | Использование нескольких сайтов для аварийного восстановления ( |
2 |
| Группы ресурсов | Использование групп ресурсов с указанием, каким образом должен работать набор ресурсов | До 64 в кластере |
| Ресурсы кластера | Использование нескольких ресурсов кластера | До 128 в Clinfo (кластер может включать больше) |
После того как было сформировано представление о текущей среде, уяснены понятия HACMP и выявлены свои ожидания от кластера, можно начать разработку схемы кластера.
На этом этапе следует создать схему кластера HACMP. Рекомендуется начать с простого и постепенно увеличивать степень детализации по мере продвижения процесса планирования. Схема позволяет выявить единые точки отказа, требования приложений и поможет направлять процесс планирования.
Для записи информации о конфигурации и кластере следует также использовать таблицы планирования на бумаге или систему автоматизированного планирования.
Первоначальная схема кластера, используемого в нашем примере, представлена на рис. 3.3. На данный момент основное внимание сосредотачивается на высокоуровневом функционировании кластера, подробности кластера рассматриваются по мере прохождения этапа планирования.
(рис 3.3) Первоначальная схема кластераМы начинаем принимать решения относительно схемы топологии и режима работы кластера на основании своих требований. Например, в соответствии с требованиями первоначальная схема кластера включает следующее:
Этот список кратко описывает основные компоненты схемы кластера. Каждый элемент будет более подробно рассмотрен в процессе планирования.
Рекомендуем заполнить первоначальную таблицу, как мы это сделали в нашем примере. В этой лекции приведено 11 таблиц планирования, каждая их которых охватывает различные аспекты его планирования. Табл. 3.2 представляет первую таблицу со списком основных элементов кластера.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 1 из 11 ОБЗОР КЛАСТЕРА | ДАТА: июль 2005 | |
|---|---|---|
| ИМЯ КЛАСТЕРА | cluster10 | |
| ОРГАНИЗАЦИЯ | IBM ITSO | |
| ha53node1 | ||
| ha53node2 | ||
| ИМЯ HACMP УЗЛА 1 | node01 | |
| ИМЯ HACMP УЗЛА 2 | node02 | |
| КОММЕНТАРИИ | Это набор таблиц планирования для простого 2-узлового кластера HACMP 5.3 со взаимным перехватом с использованием перехвата IP-адреса посредством синонимов. | |
Схема кластера начинается с определения требуемого количества и типа узлов. Эти аспекты в значительной степени зависят от двух факторов:
При выборе узлов основное условие заключается в том, чтобы в случае перемещения при сбое оставшийся узел или узлы были способны выполнять приложения с отказавшего узла. Другими словами, если у вас есть кластер из двух узлов и при этом отказывает один узел, оставшийся узел должен иметь ресурсы, требуемые для выполнения приложений с отказавшего узла (помимо собственных приложений). Если это невозможно, можно рассмотреть вариант внедрения дополнительного узла в качестве дежурного или вариант использования динамических разделов (DLPAR, в системах POWER4™ или POWER5™). Как вы сможете заметить, HACMP допускает широкий выбор конфигураций кластера в зависимости от ваших требований.
HACMP работает практически с любым узлом, поддерживаемым
Хотя это не обязательно, мы рекомендуем использовать узлы кластера с похожими конфигурациями оборудования, чтобы упростить распространение ресурсов и выполнение административных операций. Другими словами, не пытайтесь выполнить перемещение при сбое с высокопроизводительного сервера на настольную систему, ожидая что все будет работать надлежащим образом; будьте благоразумны при выборе узлов.
Табл. 3.3 содержит сведения об оборудовании для нашего примера. Там, где это возможно, мы использовали избыточное оборудование, дополнительные коммутаторы Ethernet и SAN, а также убедились в достаточности ресурсов для поддержки одновременной работы приложений на каждом узле.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 2 из 11 | ДАТА: июль 2005 | |
|---|---|---|
| ОБОРУДОВАНИЕ КЛАСТЕРА | ||
| КОМПОНЕНТ ОБОРУДОВАНИЯ | СПЕЦИФИКАЦИИ | КОММЕНТАРИИ |
| p520 | Сервер pSeries | Количество – 2 |
| 2 процессора и 4 Гб памяти | *Последняя версия микрокода | |
| 4 внутренних SCSI-диска | Резервные источники питания. | |
| Достаточно ресурсов для выполнения обоих приложений на одном сервере | ||
| Ethernet-адаптеры | 10/100/1000 Ethernet | 2 NIC на узел (минимум) |
| Сетевые коммутаторы | Название производителя Модель | 2 коммутатора. |
| Каждый NIC на узле подключен к отдельному коммутатору. | ||
| Все порты сконфигурированы в одной VLAN. | ||
| Коммутаторы поддерживают
gratuitous ARP-запросы и отключенный алгоритм |
||
| Установлено оптимальное значение скорости порта коммутатора | ||
| Адаптеры SAN | 6239 2GB |
2 |
| Коммутаторы SAN | IBM 2109 | 2 коммутатора. |
| Каждый |
||
| Общий диск разделен на зоны для всех узлов, требующих доступа | ||
| Хранилище SAN | IBM |
Модель 800 |
| КОММЕНТАРИИ | Совместимость оборудования проверена. | |
Для обеспечения совместимости требуется провести анализ всех программных компонентов, которые планируется использовать в кластере. Необходимо рассмотреть
программное обеспечение
HACMP 5.3 поддерживается в
| Версия |
Версия RSCT | Минимальные наборы файлов (filesets) RSCT |
|---|---|---|
| 2.4.2 | rsct.compat.basic.hacmp.2.4.2.0, rsct.compat.clients.hacmp.2.4.2.0, rsct.core.sec.2.4.2.1, | |
| 2.3.6 | rsct.compat.basic.hacmp.2.3.6.0,
rsct.compat.clients.hacmp.2.3.6.0,
rsct.core.sec.2.3.6.1,
rsct.core. |
Для поддержки функций Virtual LAN (
Следующие наборы файлов являются обязательными для работы HACMP. Они должны быть установлены вместе с последней версией исправлений к соответствующему
уровню
Следующие наборы файлов являются обязательными, если вы планируете использовать аутентификацию или шифрование сообщений в HACMP для связи между узлами
кластера. Их можно установить с диска
Следующее программное обеспечение является необходимым, если вы планируете установить и сконфигурировать WebSmit. Представленные версии являются наиболее актуальными на момент написания этого курса.
Выберите "
С установочного носителя можно получить следующие наборы файлов HACMP (за исключением дополнительных языковых наборов файлов):
Помните о том, что следующие системные файлы могут быть изменены HACMP в процессе установки, верификации и синхронизации кластера.
/etc/hosts
Скрипты событий кластера используют файл /etc/hosts для разрешения имен. Все IP-интерфейсы узлов кластера должны быть указаны в этом файле на всех узлах. HACMP может изменить этот файл, чтобы обеспечить наличие всей необходимой информации в файле /etc/hosts на всех узлах для корректной работы HACMP.
При удалении сервисных IP-меток из конфигурации кластера с использованием
/etc/inittab
Файл /etc/
/etc/rc.net
Файл /etc/rc.net вызывается утилитой cfgmgr (cfgmgr – утилита
/etc/services
HACMP использует следующие сетевые порты для связи между узлами кластера (они все перечислены в файле /etc/services):
Помимо HACMP, следующие порты используются
Версия snmpd.conf зависит от того, какая версия системы используется:
Демон SNMP считывает файл конфигурации /etc/snmpd.conf при запуске, а также при обновлении или выдаче сигнала . Этот файл задает имена сообществ
(community names) и соответствующие
Чтобы включить HACMP
smux 1.3.6.1.4.1.2.3.1.2.1.5 "clsmuxpd_password" # HACMP clsmuxpd /etc/snmpd.peers
Файл /etc/snmpd.peers осуществляет настройку сторон подключения SMUX (snmpd SMUX peers). При установке HACMP добавляет следующую запись, чтобы включить clsmuxpd-пароль для этого файла:
clsmuxpd 1.3.6.1.4.1.2.3.1.2.1.5 "clsmuxpd_password" # HACMP clsmuxpd
/etc/syslog.conf
Файл конфигурации /etc/syslog.conf используется для управления выходными данными демона syslogd, который регистрирует системные сообщения. В процессе установки HACMP добавляет в этот файл записи, которые направляют вывод сообщений, связанных с HACMP в определенные файлы.
Пример:
Файл /etc/syslog.conf должен быть одинаковым на всех узлах.
/etc/trcfmt
Файл /etc/trcfmt представляет собой файл-шаблон для утилиты регистрации и создания отчетов трассировки системы, trcrpt. В процессе установки добавляется трассировка HACMP в файл формата трассировки. Трассировка HACMP выполняется для демонов clstrmgr и clinfo.
/var/spool/cron/crontab/root
В процессе установки HACMP в файл /var/
0 0 * * * /usr/es/sbin/cluster/utilities/clcycle 1>/dev/null 2>/dev/null # >. HACMP for AIX Logfile rotation
Обычно приложения не зависят от версии HACMP; они даже не знают о функционировании HACMP. Другими словами, HACMP просто запускает и останавливает приложения (HACMP также может осуществлять мониторинг приложений, однако обычно для этого подбирается метод, зависящий от приложения).
Тем не менее существует несколько приложений, в частности Oracle RAC 9i, которые в значительной степени зависят от используемой версии HACMP.
Свяжитесь с производителем приложения, чтобы убедиться в отсутствии проблем (например, с лицензированием) при использовании HACMP 5.3.
Необходимо принимать во внимание два аспекта лицензирования: лицензирование HACMP (функций) и лицензирование приложения.
HACMP
Начиная с HACMP V5.2 лицензирование HACMP основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP V5. Наличие лицензий HACMP является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP.
Лицензирование HACMP/XD V5 основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP/XD V5. Наличие лицензий HACMP V5 и HACMP/ XD V5 является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP/XD.
Лицензирование HACMP V5 Smart Assist основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP V5 Smart Assist. Наличие лицензий HACMP V5 и HACMP V5 Smart Assist является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP V5 Smart Assist.
Итак, вот что это значит:
Приложение
Некоторые приложения имеют особенные требования по лицензированию, например использование отдельной лицензии для каждого процессора, выполняющего приложение; это означает, что необходимо лицензировать приложение путем включения информации, относящейся к процессору, в приложение при его установке. В результате, несмотря на корректную обработку отказов узла программным обеспечением HACMP, оно может быть неспособно перезапустить приложение на узле перемещения при сбое из-за ограничения на количество лицензий для этого приложения в кластере.
Во избежание этой проблемы, убедитесь в наличии лицензии для каждой системы в кластере, которая потенциально может выполнять приложение.
Табл. 3.5 содержит полный список программного обеспечения, установленного в нашем примере.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 3 из 11 ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ КЛАСТЕРА | ДАТА: июль 2005 | |
|---|---|---|
| КОМПОНЕНТ ПО | ВЕРСИЯ | КОММЕНТАРИИ |
| 5.3 ML02 | Последняя версия |
|
| RSCT | 2.4.2.1 | Последняя версия RSCT |
| HACMP | 5.3 BASE | Версия GA |
| IBM SDD | 1.6.0.2 | ПО обеспечения множественных путей к хранилищу |
| ПРИЛОЖЕНИЕ | Тестовое приложение, Версия 1 | Укажите версии своих приложений |
| КОММЕНТАРИИ | Для всего ПО выполнена проверка совместимости. | |
| При выполнении приложений с HACMP проблем не возникает. | ||
| Лицензирование HACMP выполняется для четырех процессоров на каждом узле. | ||
| Лицензирование приложений проверено, и лицензии приобретены для обоих серверов. | ||
Помимо уровней и наборов файлов операционной системы
Требования к дисковому пространству
HACMP требует наличия следующих объемов дискового пространства для установки в группе томов rootvg:
Кроме того, рекомендуется выделить приблизительно 100 Мб свободного пространства в /var и /tmp для журналов HACMP. (Требуемое пространство зависит
от количества узлов в кластере, которое влияет на
Синхронизация времени
Синхронизация времени между узлами кластера важна как для приложения, так и для
журналов HACMP. Она относится к стандартным задачам системного администратора, и мы рекомендуем использовать
Настройки операционной системы
Для HACMP не требуется дополнительных настроек операционной системы. Используйте обычную настройку
Защита узлов кластера (и приложения) от несанкционированного доступа является важным фактором общей доступности системы. Существуют некоторые общие аспекты безопасности, а также аспекты, связанные с HACMP, которые мы рассмотрим в этом разделе.
Кластеру HACMP нужен способ аутентификации на всех своих узлах для выполнения
удаленных команд, связанных с верификацией кластера, синхронизацией и некоторыми административными операциями (C-
Защита кластера необходима для предотвращения неавторизованного доступа к узлам кластера. Начиная с HACMP 5.1 дополнительная защита кластера обеспечивается новым механизмом безопасности, использующим возможности демона коммуникаций кластера (clcomdES).
Была устранена зависимость от
Межузловая связь в HACMP осуществляется с использованием демона кластера
(clcomdES), что устраняет необходимость в "классических" удаленных командах
Режимы аутентификации подключения в HACMP
Для повышения безопасности можно также использовать VPN-
В стандартном режиме безопасности при удаленном выполнении команд HACMP в /usr/es/sbin/cluster используется принцип наименьших привилегий. При этом ни одна команда не может быть выполнена на удаленном узле с привилегиями "root", кроме команд, перечисленных в /usr/es/sbin/cluster. Эти команды HACMP считаются доверенными, и для них допускается запуск с привилегиями "root"; все остальные команды выполняются под учетной записью "nobody".
Для управления межузловыми коммуникациями демону коммуникаций кластера необходим список допустимых IP-меток или адресов кластера. Существует два способа предоставить эту информацию:
Автоматическое конфигурирование узлов
Если вы впервые осуществляете конфигурирование HACMP, файл /usr/es/sbin/cluster/ etc/rhosts на узле является пустым. Демон clcomdES должен выполнить аутентификацию IP-адреса входящего подключения, чтобы убедиться, что оно исходит от узла в кластере; правила проверки адресов основаны на следующем процессе:
Обычно пользователю не приходится вручную заполнять файл rhosts; это делает
clcomdES. Так как после установки этот файл пуст, он будет заполнен при первом
подключении с другого узла. Первое подключение обычно выполняется с целью
верификации и синхронизации, после чего происходит заполнение
Индивидуальное конфигурирование узлов
В качестве альтернативного решения, если вас в особенности интересует сетевая безопасность (построение кластера может выполняться на основе незащищенной сети), можно поместить все IP-адреса/метки в файл /usr/es/sbin/cluster/etc/rhosts до конфигурирования кластера.
При установке HACMP этот файл создается пустым и имеет разрешения чтения и записи только для пользователя "root".
Настройка файла /usr/es/sbin/cluster/etc/rhosts
Большинство приложений требует, чтобы информация о пользователях (идентификатор пользователя, членство в группе,
Это особенно важно в ситуациях перемещения при сбое (перехвата). Очень важно, чтобы пользователь приложения был способен осуществлять доступ к общим
файлам с любого узла в кластере. Обычно это означает, что идентификатор пользователя (UID) и
При подготовке к конфигурированию кластера важно это учитывать и в случае необходимости исправить; в противном случае могут возникнуть проблемы с обслуживанием во время перемещения при сбое.
После установки HACMP содержит средства управления учетными записями пользователей и групп
При установке HACMP, если группа hacmp не существует, она будет создана. При создании группы HACMP просто берет следующий доступный идентификатор
IP-порты HACMP
Помимо портов, перечисленных в файле /etc/services, следующие службы также требуют использования портов, однако эти порты выбираются произвольным образом при запуске процесса. В настоящее время нет способа выделения определенных портов, просто помните об их наличии. Для примера представлены типичные номера портов (однако при необходимости они могут быть изменены):
HACMP требует, чтобы определенные файлы были одинаковыми на всех узлах кластера. К таким файлам относятся скрипты обработки событий, скрипты приложений,
некоторые файлы конфигурации
Управление этими наборами файлов можно осуществлять через меню
Стандартные наборы файлов HACMP
При установке HACMP происходит установка следующих наборов файлов (file collections):
Configuration_Files
Набор Configuration_Files представляет контейнер для следующих важных системных файлов:
Можно изменять опции распространения для этого набора файлов, а также добавлять и удалять файлы из этого набора файлов.
HACMP_Files
Набор HACMP_Files представляет контейнер, в котором обычно находятся настраиваемые пользователем файлы конфигурации HACMP, в частности скрипты запуска/ остановки, настраиваемые события и т. д. Этот набор файлов не может быть удален или изменен, и файлы из этого набора нельзя удалить, изменить или добавить.
Конфигурация сети представляет основной компонент схемы кластера. В стандартной кластерной среде клиенты осуществляют доступ к приложениям через сеть TCP/IP (обычно через Ethernet) с использованием сервисного адреса.
HACMP обеспечивает
Чтобы не допустить возникновения единой точки отказа в сетевом протоколе TCP/IP, а также разделения кластера, HACMP также использует отличные от IP сети типа "точка-точка" для мониторинга пульса. Это позволяет HACMP определить причину отказа, например отказ TCP/IP или отказ узла.
В этом разделе мы рассмотрим каждый тип сети и выберем соответствующие сетевые подключения и адреса.
На рис. 3.4 представлен обзор сетей, используемых в кластере.
Сеть Ethernet применяется для открытого доступа; к ней с каждого узла подключается несколько адаптеров. Эта сеть содержит базовые IP-адреса, постоянные IP-адреса и сервисные IP-адреса. Можно использовать несколько сетей, однако для простоты описания мы будем применять только одну.
Также показана последовательная сеть RS232. Она представляет собой сеть типа "точка-точка" с прямым подключением, с кабельным соединением между последовательными портами на каждом узле.
Также представлена сеть пульса через диски (а также сеть типа "точка-точка"). При использовании SAN-дисков можно легко реализовать мониторинг пульса через диски, так как это не требует дополнительного оборудования. Кроме того, в multipathконфигурации устройств применение устройства vpath, в отличие от hdisk, позволяет использовать возможности программного обеспечения SDD. Другими словами, в hdisk применяется только один путь к устройству, тогда как в vpath обычно используется несколько путей. Multipath-устройства могут быть сконфигурированы при употреблении нескольких дисковых адаптеров на узле, нескольких адаптеров хранилища или при одновременном использовании и того и другого.
(рис 3.4) Сети кластера HACMPВсе сетевые подключения применяются HACMP для мониторинга состояния сети, адаптеров и узлов кластера.
В нашем примере мы планируем использовать сеть Ethernet и сеть пульса через диски, а не сеть RS232.
Этот раздел содержит краткий обзор терминологии, применяемой в обсуждениях сетевых возможностей HACMP.
IP-метки
IP-метки (IP labels) представляют собой имена, связанные с IP-адресами, подлежащими разрешению системой (/etc/hosts, BIND и т. д.).
Сервисная IP-метка/адрес
Сервисная IP-метка/адрес (service IP label/address) представляет собой IP-адрес или
метку, через которую осуществляется обслуживание. Обычно она представляет собой адрес, используемый клиентами для доступа к приложению. Она может быть привязана к узлу либо совместно использоваться узлами, и HACMP обеспечивает его
Постоянная IP-метка/адрес
Постоянная IP-метка/адрес (persistent IP label/address) – это IP-синоним, привязанный к узлу, управляемый HACMP. Другими словами, постоянный синоним никогда не перемещается на другой узел; иногда он называется привязанным к узлу (node-bound).
Коммуникационный интерфейс
Коммуникационный интерфейс (
Коммуникационное устройство
Коммуникационное устройство (
Коммуникационный адаптер
Коммуникационный адаптер (communication adapter) – это физический адаптер X25,
Сетевая интерфейсная карта (NIC)
Сетевая интерфейсная карта (
Данный раздел содержит множество аспектов, которые следует помнить при разработке конфигурации сети.
Поддерживаемые типы сетей
HACMP позволяет осуществлять межузловую связь в TCP/IP-сетях следующих типов. (следует заметить, что наиболее часто используемой сетью является Ethernet):
Следующие TCP/IP-сети не поддерживаются:
Можно сконфигурировать мониторинг пульса посредством сетей "точка-точка" следующих типов:
Сетевые подключения
HACMP требует, чтобы каждый узел в кластере имел как минимум одно прямое немаршрутизируемое сетевое подключение ко всем остальным узлам. Эти сетевые подключения передают сообщения пульса между узлами кластера для определения состояния всех узлов кластера, сетей и сетевых интерфейсов.
HACMP также требует, чтобы все коммуникационные интерфейсы для заданной сети кластера были определены в одной физической сети, осуществляли маршрутизацию пакетов и получали ответы друг от друга без помех от другого сетевого оборудования.
Не используйте интеллектуальные коммутаторы, маршрутизаторы или другое сетевое оборудование, которые не осуществляют прозрачную передачу широковещательной рассылки UDP и других пакетов между всеми узлами кластера.
Мосты, концентраторы и прочие пассивные устройства, не изменяющие поток пакетов, можно благополучно размещать между узлами кластера, а также между узлами и клиентами.
На рис. 3.5 показана физическая конфигурация Ethernet с двумя Ethernet-адаптерами на каждом узле, подключенными через два коммутатора; все узлы сконфигурированы в одной физической сети (VLAN). Это иногда называется расположением в одном "домене коллизий" MAC.
Etherchannel
HACMP поддерживает применение
(рис 3.5) Подключения к коммутаторам в сети Ethernet
Основное преимущество технологии
В дополнение к функции агрегации также можно выполнить назначение резервного адаптера. Этот адаптер конфигурируется как часть
Основное преимущество технологии
В дополнение к функции агрегации также можно выполнить назначение резервного адаптера. Этот адаптер конфигурируется как часть
При планировании сети
На рис. 3.6 представлена простая конфигурация
На рис. 3.7 показана несколько более сложная конфигурация, в которой каждый
узел имеет два адаптера

(рис 3.7) Etherchannel с резервированием сетевого интерфейса(рис 3.6) Конфигурация с несколькими адаптерами EtherchannelИмена хостов и имена узлов
Обычно
В том случае, если приложение требует переноса имени хоста в
Мы рекомендуем вам избегать таких ситуаций, так как они ограничивают варианты перемещения при сбое. Например, вы не можете изменить
/etc/hosts
IP-адрес и связанная с ним метка (имя) должны быть заданы в файле /etc/hosts. Мы рекомендуем выбрать один из узлов кластера для выполнения всех изменений в этом файле, а затем использовать FTP или наборы файлов HACMP для распространения файла /etc/hosts на другие узлы.
IP-метки
Постоянные IP-адреса (синонимы)
Основная цель использования постоянных синонимов состоит в том, чтобы обеспечить доступ к узлу с отключенными службами HACMP. Постоянный синоним представляет собой маршрутизируемый адрес, доступ к которому сохраняется, пока работает узел. Этот синоним требуется сконфигурировать через HACMP. При запуске HACMP выполняется проверка доступности синонима, и если он недоступен, HACMP конфигурирует его на доступном адаптере в выделенной сети. Если синоним уже доступен, HACMP сохраняет его.
Постоянный синоним
Примечание. Постоянный IP-адрес назначается HACMP на одном коммуникационном интерфейсе, входящем в сеть, определенную в HACMP.
Рис. 3.8 иллюстрирует понятие постоянного адреса. Заметьте, что он представляет собой просто еще один IP-адрес, сконфигурированный на одном из базовых интерфейсов. Команда netstat отображает его как дополнительный IP-адрес адаптера.
(рис 3.8) Постоянные синонимыПодсети
Требования к подсетям колеблются в зависимости от выбранной конфигурации (перехват IP-адреса посредством замены или посредством синонимов), однако в HACMP маски подсетей для всех коммуникационных интерфейсов, определенных в HACMP, должны быть одинаковыми.
При перехвате IP-адреса посредством замены:
При перехвате IP-адреса посредством синонимов:
Аспекты шлюза (маршрута) по умолчанию
В зависимости от конфигурации вашей IP-сети при управлении интерфейсами из HACMP может произойти потеря маршрута по умолчанию.
Если маршрут по умолчанию привязан к одной из подсетей базового адреса, то при отказе этого адаптера произойдет потеря маршрута по умолчанию.
Чтобы не допустить возникновения такой ситуации, мы рекомендуем использовать постоянный адрес и привязать маршрут по умолчанию к этой подсети. Постоянный адрес будет активным, пока будет активным узел; таким образом, маршрут по умолчанию также будет активным.
Если вы решите этого не делать, то придется создать скрипт постобработки события, чтобы восстановить маршрут по умолчанию при возникновении проблемы.
Обновление ARP-кеша
При изготовлении каждой сетевой интерфейсной карте (
После возникновения события в кластере, узлы и сетевые устройства HACMP, поддерживающие смешанный режим (
HACMP в коммутируемой сети
При использовании VLAN все интерфейсы, определенные в HACMP для заданной сети, должны относиться к одной VLAN. Таким образом, все адаптеры в одной сети должны быть подключены к одной физической сети и вести обмен данными друг с другом ("видеть" MAC-адреса друг друга).
Нужно убедиться, что коммутатор обеспечивает своевременную реакцию на ARPзапросы. Для многих моделей коммутаторов это означает отключение следующих функций:
Если требуется, чтобы алгоритм
Настройки скорости передачи в Ethernet
Так как согласование скорости передачи может вызвать проблемы в некоторых комбинациях адаптеров и коммутаторов, рекомендуется не использовать автоматическое согласование, а устанавливать требуемые значения скорости и дуплексного режима.
Перехват IP-адреса (IP Address Takeover, IPAT) представляет собой механизм, используемый HACMP для перемещения сервисных адресов между коммуникационными интерфейсами.
Существует два метода: перехват IP-адреса посредством замены (IPAT via replacement)
и перехват IP-адреса посредством синонимов (IPAT via
Для любой новой инсталляции мы рекомендуем использовать перехват IP-адреса посредством синонимов, так как этот метод прост в реализации и более гибок, чем перехват IP-адреса посредством замены. Можно применять несколько сервисных адресов для одного адаптера в любое время; кроме того, в случае перемещения при сбое имеет место некоторая экономия времени, так как HACMP просто нужно добавить синоним, а не выполнять повторное конфигурирование базового IP-адреса адаптера, что гораздо быстрее.
Некоторые конфигурации потребуют использования мониторинга пульса через синонимы. Например, если оба локальных базовых адаптера относятся к одной подсети или же если все базовые адаптеры на всех узлах относятся к разным подсетям.
Все варианты подробно рассматриваются в следующем разделе. В нашем примере применяется перехват IP-адреса посредством синонимов и мониторинг пульса через синонимы.
Перехват IP-адреса посредством замены
Этот способ конфигурирования сетей HACMP является более традиционным. HACMP при запуске осуществляет замену загрузочного адреса на сервисный адрес.
Для кластера из двух узлов требуется использование по меньшей мере одной подсети на коммуникационный интерфейс на узел (при использовании одинаковой маски подсети во всех подсетях). Для кластера с несколькими коммуникационными интерфейсами на узел требуется следующее:
Преимущество перехвата IP-адреса посредством замены состоит в том, что оно разрешает выполнять перехват
(рис 3.9) Перехват IP-адреса посредством заменыНа рис. 3.9 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, что HACMP при запуске заменяет загрузочный/базовый адрес сервисным адресом. Перемещение при сбое выполняется на дополнительный (дежурный) адаптер(ы), где, опять же, базовый (дежурный) адрес заменяется сервисным адресом. Количество сервисных адресов ограничено количеством резервных адаптеров, определенных в той же сети HACMP.
Перехват IP-адреса посредством синонимов
Этот метод назначения сервисных адресов является более новым и более гибким, чем перехват IP-адреса посредством замены. Используя перехват IP-адреса посредством синонимов, можно осуществлять назначение нескольких IP-адресов одному коммуникационному интерфейсу.
При запуске HACMP выполняется конфигурирование сервисного синонима поверх существующего базового IP-адреса доступного адаптера.
При использовании перехвата IP-адреса посредством синонимов следует учитывать следующие требования:
Мы рекомендуем использовать постоянный синоним и включить его в одну подсеть с маршрутом по умолчанию. Это обычно означает, что постоянный адрес должен быть включен в одну подсеть с сервисными адресами. Постоянный синоним можно использовать для доступа к узлу при отключенном HACMP, а также для преодоления проблем с маршрутом по умолчанию.
Можно выполнить настройку параметров размещения сервисных IP-меток, сконфигурированных в HACMP V5.3. Можно настроить размещение синонимов через
меню
(рис 3.10) Перехват IP-адреса посредством синонимовНа рис. 3.10 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, базовые адреса не изменяются. HACMP добавляет на базовые адаптеры сервисные и постоянные синонимы. Постоянные адреса всегда доступны, тогда как сервисные метки добавляются и удаляются при запуске и остановке HACMP. Перемещение при сбое выполняется путем переноса сервисной метки на другой доступный коммуникационный интерфейс. В нашем примере только сеть 192.168.100/24 является маршрутизируемой вне кластера.
HACMP требует использования отдельной подсети для мониторинга каждого базового адаптера. При конфигурации с применением двух Ethernet-адаптеров на узле требуется две подсети. При употреблении трех адаптеров требуется три подсети. Эти подсети не обязательно должны быть маршрутизируемыми вне сетей кластера.
Чтобы обеспечить средство мониторинга этих адаптеров (без изменения адреса базового адаптера), а также чтобы избежать возникновения проблем с подсетями, HACMP предоставляет функцию мониторинга пульса через синонимы. Этот метод не требует внесения каких-либо изменений в существующие базовые адреса. HACMP просто игнорирует базовые адреса и добавляет собственный набор синонимов для осуществления мониторинга пульса.
При использовании мониторинга пульса через IP-синонимы, IP-адреса, используемые при загрузке, могут располагаться либо в той же подсети, либо в других подсетях;
однако IP-адрес, применяемый во время загрузки, должен располагаться в подсети,
не включающей сервисные IP-метки. Как оказалось, если все адреса (базовые и сервисные) попадают в одну подсеть, возникают проблемы с маршрутизацией в связи с
функцией чередования маршрутов (route striping) операционной системы
Чтобы установить мониторинг пульса через IP-синонимы, следует настроить параметр "IP Address Offset for
Например, можно в качестве параметра смещения IP-адреса употреблять значение 1.1.1.1. При использовании сети с двумя NIC на каждом узле следует добавить маску подсети 255.255.255.0; в результате получим следующие IP-синонимы мониторинга пульса:
IP-синонимы мониторинга пульса добавляются при запуске HACMP на узле и удаляются при остановке HACMP. Эти IP-синонимы используются только для сообщений пульса. Для них не требуется осуществлять маршрутизацию, и их не следует применять для какого-либо другого трафика. Маска подсети совпадает с используемой для сервисных и несервисных синонимов.
На рис. 3.11 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, базовые адреса не изменяются. Помимо сервисных и постоянных синонимов, добавляемых HACMP на базовые адаптеры, также добавляются синонимы пульса. Последние удаляются при остановке HACMP вместе с сервисными синонимами. В нашем примере только сеть 192.168.100/24 является маршрутизируемой вне кластера.
Команда netstat -i выводит три IP-адреса для каждого адаптера при запущенном HACMP.
(рис 3.11) Мониторинг пульса через синонимы
Сети типа "точка-точка" играют важную роль в обеспечении
Назначение топологии последовательной сети или сети "точка-точка" состоит в том, чтобы обеспечить достаточное количество путей между узлами кластера, чтобы RSCT могла правильно оценить серьезность сбоя в кластере.
Разделение кластера
Разделение кластера (также называемое изоляцией узла или split brain) возникает в том случае, когда узел HACMP перестает получать весь трафик пульса с другого узла (по всем доступным сетям) и предполагает, что на этом узле произошел отказ. Проблема разделения кластера состоит в том, что узлы с одной стороны раздела воспринимают отсутствие пакетов пульса от узлов с другой стороны раздела как признак отказа узлов, генерируя события отказа для этих узлов. После этого узлы с каждой стороны кластера пытаются перехватить ресурсы (если настроен перехват) с узла, который на самом деле все еще активен и потому является законным владельцем этих ресурсов. Такие попытки перехвата могут привести к непредсказуемым результатам в кластере, например к повреждению данных в связи с реинициализацией дисков.
Наилучшая защита от возникновения подобных ситуаций состоит в том, чтобы использовать несколько сетей, как TCP/IP-сетей, так и сетей типа "точка-точка", чтобы обеспечить правильность оценки серьезности проблемы. Помните о том, что HACMP (в частности, RSCT) отправляет и получает пакеты пульса по всем доступным сетям, поэтому чем больше сетей, тем точнее HACMP сможет определить, имеет ли место отказ узла или отказ сети.
Следующий набор из четырех рисунков показывает, каким образом следует осуществлять добавление сетей в кластер, чтобы обеспечить наилучшую защиту от разделения кластера.
На рис. 3.12 показан кластер из четырех узлов с одним Ethernet-подключением к каждому серверу. Так как используется только одна сеть, то при потере любой связи часть кластера будет разделена. В примере показан разрыв связи между двумя Ethernetкоммутаторами, вызывающий отделение двух узлов слева от двух узлов справа. В данном случае могут возникнуть проблемы в результате попыток выполнить перехват ресурсов с активного узла.
Рис. 3.13 несколько более реалистичен; на нем представлены двойные Ethernetподключения с каждого узла. Каждый Ethernet-адаптер подключен к отдельному коммутатору. В этом случае для разделения кластера необходимо, чтобы произошел отказ двух коммутаторов или же обоих Ethernet-подключений на узле. Однако сама по себе сеть TCP/IP остается единой точкой отказа.

(рис 3.13) Разделение кластера(рис 3.12) Кластер без разделения с двойными Ethernet-подключениямиНа рис. 3.14 представлена рекомендованная конфигурация. Имеются двойные Ethernet-подключения к нескольким Ethernet-коммутаторам, а также добавлена кольцевая сеть типа "точка-точка". В кольцевой сети каждый узел подключен к своим непосредственным соседям. При потере одного подключения RSCT все еще сможет подключиться ко всем оставшимся узлам. Для разделения кластера потребуется возникновение двойного отказа на узле и отказа сети TCP/IP.
Для построения надежной конфигурации рассмотрим реализацию звездной топологии. При такой конфигурации, помимо сети TCP/IP, каждый узел подключен ко всем другим узлам кластера сетями типа "точка-точка". Это позволяет обеспечить связь RSCT с работающими узлами при отказе нескольких узлов. Эта конфигурация представлена на рис. 3.15.

(рис 3.15) Конфигурация с использованием Ethernet-сети и кольцевой сети типа "точка-точка"(рис 3.14) Конфигурация с использованием сети Ethernet и сети типа "точка-точка" звездной топологии
Сеть RS232 содержит по одному последовательному порту на каждом узле, подключенном через последовательный кабель. При наличии нескольких узлов потребуется несколько последовательных кабелей.
Если вы решите использовать последовательную сеть RS232, необходимо учитывать следующее:
Кабель для соединения двух последовательных портов должен быть подключен как полный нуль-модемный кабель; он не поставляется по умолчанию вместе с оборудованием. рис. 3.16 показывает нуль-модемное подключение. Фактически используемые разъемы подключения зависят от оборудования; скорее всего, будут использоваться разъемы DB9, DB25 или RJ50.
Чтобы определить, соответствуют ли ваши последовательные порты установленным требованиям, см. документацию к оборудованию и сообщения о поддержке HACMP.
(рис 3.16) Нуль-модемное кабельное подключение
Мониторинг пульса через диски представляет еще один тип сетей типа "точка-точка"
для обнаружения отказов. В предыдущих версиях HACMP можно было сконфигурировать отличные от IP сети мониторинга пульса через диски SCSI или
Начиная с HACMP 5.1, можно также сконфигурировать отличное от IP подключение мониторинга пульса через диски типа "точка-точка" с использованием любого
общего диска, входящего в группу томов в режиме расширенного одновременного
режима (enhanced
В сети мониторинга пульса через диски два узла, подключенные к диску, периодически записывают сообщения пульса и считывают сообщения пульса (записанные другим узлом) с небольшого участка диска, незанятого данными. Хотя сеть пульса через диски соединяет только два узла, кластеры, содержащие больше двух узлов, допускают использование нескольких дисков для мониторинга пульса.
При употреблении SAN-диска в качестве общего диска следует рассмотреть вариант использования мониторинга пульса через диски по следующим причинам:
Для того чтобы применять мониторинг пульса через диски, необходимы SAN-диски, доступные для обоих узлов и входящие в группу томов с расширенным одновременным доступом.
Любой общий диск из группы томов в режиме расширенного одновременного доступа может поддерживать подключение пульса типа "точка-точка". Каждый диск может поддерживать одно подключение между двумя узлами. Подключение использует общее дисковое оборудование в качестве пути для связи.
Сеть пульса через диски в кластере содержит:
При выборе диска для использования при мониторинге пульса необходимо учитывать следующее:
(рис 3.17) Сеть пульса через дискиНа рис. 3.17 показаны основные компоненты сети пульса через диски.
Обратите внимание на то, что номер vpath может отображаться различным образом
с разных узлов, что связано с нумерацией дисков в
Кроме того, рекомендуется запускать процесс обнаружения в HACMP и выбирать требуемые диски из выводимого списка.
Помимо конфигурирования топологии сети, есть еще два вопроса, которые следует рассмотреть при планировании кластера:
Все эти вопросы рассматриваются в данном разделе.
Взаимодействие HACMP с DNS и NIS
Чтобы обеспечить успешное и быстрое выполнение событий в кластере, HACMP отключает разрешение имен хоста в NSORDER = local. Поэтому файл /etc/hosts на каждом узле кластера должен содержать все IP-метки, определенные в HACMP для всех узлов кластера.
После завершения операции обмена доступ к DNS восстанавливается.
Мы предлагаем поместить запись hosts = local, bind4
в файл /etc/netsvc.conf, чтобы обеспечить
Сетевые модули
Каждая поддерживаемая сеть кластера имеет соответствующий сетевой модуль RSCT
(также называемый сетевым интерфейсным модулем –
В новых версиях HACMP передает соответствующие параметры настройки в сетевые модули RSCT для поддержки связи через следующие типы сетей:
Скорость обнаружения отказов
Скорость обнаружения отказов (
Время, требуемое для обнаружения отказа, может быть определено с использованием следующей формулы:
(скорость пульса) X (цикл отказа) X 2.
Скорость обнаружения отказов для сетевого модуля можно изменить двумя способами:
Предопределенные значения для каждого типа сети определяются таким образом, чтобы получались обоснованные результаты. Вам может потребоваться рассмотреть вариант изменения скорости обнаружения отказов с целью:
Сведения о чувствительности сети (также называемой скоростью обнаружения отказов) можно получить от служб топологии, как показано в примере 3.1.
p630n01# lssrc -ls topsvcs .................. Omitted lines....................... NIM's PID: 19978 net_ether_01_1 [1] 3 1 S 10.10.31.31 10.10.31.31 net_ether_01_1 [1] en0 0x42d56868 0x42d56872 HB Interval = 1.000 secs. Sensitivity = 10 missed beats .................. Omitted lines.......................
usr/sbin/cluster/netmon.cf
В конфигурациях кластера, содержащих сети, которые при определенных условиях могут стать сетями с одним адаптером, может быть сложно точно определить отказ того или иного адаптера. В таких ситуациях RSCT использует файл netmon.cf. Службы топологии RSCT сканируют конфигурацию netmon.cf во время запуска кластера. Когда сетевому монитору требуется проверить сеть, чтобы убедиться в функционировании адаптера, он направляет запросы ICMP ECHO на каждый IP-адрес.
После отправления запроса на все адреса сетевой монитор проверяет счетчик входящих пакетов, прежде чем определить, произошел ли отказ адаптера. Этот файл может содержать до 30 адресов или меток; для него применимы следующие указания:
Следующие таблицы содержат требуемую информацию о сети. Табл. 3.6 содержит спецификации сети Ethernet из нашего примера.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 4 из 11 ETHERNET-СЕТИ КЛАСТЕРА | ДАТА: июль 2005 | ||||
|---|---|---|---|---|---|
| ИМЯ СЕТИ | ТИП СЕТИ | ИМЕНА УЗЛОВ | IPAT ЧЕРЕЗ СИНОНИМЫ | Смещение IP-адреса для мониторинга пульса через IP-синонимы | |
| ether10 | ethernet (общего доступа) | 255.255.255.0 | node01, node02 | Включен | 1.1.1.1 |
| КОММЕНТАРИИ | ПРИМЕЧАНИЯ. Смещение IP-адреса добавляет IP-синонимы для каждого интерфейса Ethernet при запуске HACMP. Эти синонимы затем используются для мониторинга пульса, тогда как для адресов базового адаптера мониторинг не осуществляется. Выберите заданную по умолчанию скорость обнаружения отказов (ether = normal = 20 с) | ||||
Табл. 3.7 описывает сети типа "точка-точка", используемые в кластере. В нашем примере применяется только сеть пульса через диски, однако мы для образца дополнительно включили описание сети RS232.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 5 из 11 ПОСЛЕДОВАТЕЛЬНЫЕ СЕТИ КЛАСТЕРА И СЕТИ ТИПА "ТОЧКА-ТОЧКА" | ДАТА: июль 2005 | ||||
|---|---|---|---|---|---|
| ИМЯ СЕТИ | ТИП СЕТИ | ИМЕНА УЗЛОВ | Устройство | ИМЯ ИНТЕРФЕЙСА | МЕТКА АДАПТЕРА |
| serial10 | serial (закрытого доступа) | node01, node02 | Неприменимо | /dev/tty0 /dev/tty0 | node01_tty1 node02_tty1 |
| diskhb10 | diskhb | node01, node02 | vpath0 vpath0 | Неприменимо | node1_to_node2hb node2_to_node1hb |
| КОММЕНТАРИИ | ПРИМЕЧАНИЯ. Связи RS232, Target mode SCSI, Target mode |
||||
После описания сетей необходимо выполнить описание интерфейсов и IP-адресов, используемых HACMP, как показано в табл. 3.8.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 6 из 11 ИНТЕРФЕЙСЫ И IP-АДРЕСА | ДАТА: июль 2005 | ||||
|---|---|---|---|---|---|
| node01 | |||||
| IP-метка | Размещение IP-синонима | СЕТЕВОЙ ИНТЕРФЕЙС | ИМЯ СЕТИ | ФУНКЦИЯ ИНТЕРФЕЙСА | IP-АДРЕС/МАСКА |
| node01a | Неприменимо | en0 | ether10 | Базовый (несервисный) | 10.10.31.31 |
| node01b | Неприменимо | en1 | ether10 | Базовый (несервисный) | 10.10.32.31 |
| ha53node1 | Без совместного размещения (по умолчанию) | Неприменимо | ether10 | Постоянный | 192.168.100.31 |
| app1svc | Без совместного размещения (по умолчанию) | Неприменимо | ether10 | Сервисный | 192.168.100.131 255.255.255.0 |
| node02 | |||||
| IP-метка | Размещение IP-синонима | СЕТЕВОЙ ИНТЕРФЕЙС | ИМЯ СЕТИ | ФУНКЦИЯ ИНТЕРФЕЙСА | IP-АДРЕС/МАСКА |
| node02a | Неприменимо | en0 | ether10 | Базовый (несервисный) | 10.10.31.32 255.255.255.0 |
| node02b | Неприменимо | en1 | ether10 | Базовый (несервисный) | 10.10.32.32 255.255.255.0 |
| ha53node2 | Без совместного размещения (по умолчанию) | Неприменимо | ether10 | Постоянный | 192.168.100.32 255.255.255.0 |
| app2svc | Без совместного размещения (по умолчанию) | Неприменимо | ether10 | Сервисный | 192.168.100.132 255.255.255.0 |
| КОММЕНТАРИИ | Каждый узел содержит два базовых адаптера, каждый из которых находится в отдельной подсети. Каждый узел также содержит постоянный (привязанный к узлу) адрес и сервисный адрес. IPAT посредством синонимов используется так же, как и мониторинг пульса через синонимы (начальный диапазон = 1.1.1.1) | ||||
При планировании хранилища кластера необходимо учитывать следующие аспекты:
Внутренний диск узла обычно содержит rootvg, а также может содержать исполняемые файлы приложений. Мы рекомендуем организовать зеркальное отображение
внутреннего диска для обеспечения
Данные приложений располагаются на внешнем диске, что позволяет обеспечить доступ к ним со всех нужных узлов. Такие диски называются общими дисками (shared disks).
Мы советуем убедиться в том, что общая группа томов может быть активизирована вручную на каждом узле, прежде чем требовать управления активизацией от HACMP. В кластере HACMP общие диски подключаются к нескольким узлам кластера.
В конфигурации без одновременного доступа в любой момент времени только один узел является владельцем дисков. При отказе узла-владельца, чтобы восстановить обслуживание клиентов, другой узел кластера из списка узлов группы ресурсов перехватывает владение общими дисками и перезапускает приложения.
Как правило, в зависимости от количества дисков в группе ресурсов и от метода
перехвата дисков перехват может занимать от 30 до 300 с.
HACMP поддерживает использование следующих дисковых технологий производства IBM в качестве общих внешних дисков в кластере
Дисковые подсистемы сторонних производителей также могут поддерживаться, однако нужно предварительно получить сведения об их поддержке у изготовителя оборудования.
При работе с общей группой томов:
На рис. 3.18 показаны различные дисковые конфигурации, которые могут использоваться в кластере. Обратите внимание на то, что для внутренних дисков осуществляется зеркальное отображение (rootvg) и что на каждом узле существует несколько
адаптеров Fiber Сhannel (
Для проверки дисков следует использовать идентификаторы PVID, так как вполне
возможно, что номер vpath на разных узлах может различаться в связи с нумерацией
устройств в
Общие диски представлены разделенными на зоны для обоих узлов. Разделение
на зоны выполняется через программное обеспечение управления хранилищем
(SAN
(рис 3.18) Конфигурация физических дисков
Любой диск, для которого HACMP обеспечивает поддержку подключения к нескольким узлам, может использоваться для создания группы томов в режиме расширенного одновременного доступа (enhanced
При активизации группы томов в режиме расширенного одновременного доступа
LVM разрешает доступ к группе томов для всех узлов. Однако высокоуровневые подключения например, подключения (
В
Планирование общих логических томов связано с вопросом доступности данных.
Обеспечение
При планировании общих компонентов LVM необходимо учитывать следующие принципы:
После создания дисковой инфраструктуры
На рис. 3.19 представлены основные компоненты внешнего хранилища. Обратите
внимание на то, что имена всех логических томов и файловых систем являются уникальными, как и
(рис 3.19) Внешний диск SAN
HACMP автоматически обнаруживает отказы узлов и инициирует перехват дисков
в процессе перехвата группы ресурсов. Традиционный процесс перехвата диска
предполагает сброс бита резервирования диска SCSI (или
Начиная с HACMP 5.1 в связи с поддержкой групп томов с расширенным одновременным доступом в
Для существующих групп томов, входящих в группы ресурсов без одновременного доступа, можно выполнить преобразование этих групп томов в группы томов с расширенным одновременным доступом после обновления программного обеспечения HACMP.
Фактическое время быстрого перехвата диска в любой конфигурации зависит от множества факторов, выходящих за рамки контроля HACMP, таких, как вычислительная мощность узлов и активность узлов во время перемещения при сбое.
Следующие таблицы содержат необходимую информацию об общих группах томов. Совместно они дают достаточно полное представление об общей дисковой конфигурации.
Описание общих групп томов и физических дисков приведено в табл. 3.9:
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 7 из 11 ОБЩИЕ ДИСКИ | ДАТА: июль 2005 | ||||
|---|---|---|---|---|---|
| node01 | node02 | ||||
| VGNAME | VPATH | HDISK | HDISK | VPATH | VGNAME |
| app1vg | vpath0 | hdisk0, hdisk1, hdisk2, hdisk3 | hdisk0, hdisk1, hdisk2, hdisk3 | vpath0 | |
| vpath1 | hdisk4, hdisk5, hdisk6, hdisk7 | hdisk4, hdisk5, hdisk6, hdisk7 | vpath1 | app2vg | |
| КОММЕНТАРИИ. Все диски видимы с обоих узлов; app1vg обычно располагается на узле node01, app2vg обычно располагается на узле node02. | |||||
Запишите сведения об общих группах томов, как показано в табл. 3.10.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 8 из 11 ОБЩИЕ ГРУППЫ ТОМОВ (БЕЗ ОДНОВРЕМЕННОГО ДОСТУПА) | ДАТА: июль 2005 | |
|---|---|---|
| ГРУППА РЕСУРСОВ | ГРУППА ТОМОВ 1 | ГРУППА ТОМОВ 1 |
| C10RG1 | app1vg | Неприменимо |
| Основной номер = 90 | ||
| журнал = app1vglog | ||
| Логический том 1 = app1lv1 | ||
| Файловая система 1 = /app1 (20 Гб) | ||
| C10RG2 | app2vg | Неприменимо |
| Основной номер = 91 | ||
| журнал = app2vglog | ||
| Логический том 1 = app2lv1 | ||
| Файловая система 1 = /app2 (20 Гб) | ||
| КОММЕНТАРИИ | Создается общая группа томов на первом узле, после чего выполняется импорт на второй узел; | |
| #importvg -y app1vg -V 90 vpath0 (может быть необходимо сделать pv доступным с использованием chdev -l vpath0 -a pv=yes); | ||
| #chvg -an app1vg (отключает автоматическую активизацию для группы томов); | ||
| # |
||
| #umount /app1; | ||
| #varyoffvg app1vg (оставляет группу томов в отключенном режиме, оставляя HACMP управление группой) | ||
Практически любое приложение, работающее на автономном сервере
При планировании обеспечения
Вы должны полностью понимать, как приложение выполняется в среде с одним узлом и в среде с несколькими узлами. Мы рекомендуем в процессе подготовки приложения к работе в HACMP протестировать выполнение приложения вручную на обоих узлах, прежде чем передавать управление приложением в HACMP. Не следует ограничиваться предположениями о работе приложения в условиях перемещения при сбое.
Мы рекомендуем убедиться в корректности выполнения приложения на всех требуемых узлах прежде, чем конфигурировать управление приложением из HACMP.
Необходимо проанализировать и учитывать следующие аспекты:
При планировании защиты приложения в кластере HACMP необходимо учитывать следующее:
В HACMP под сервером приложения понимается просто набор скриптов, используемых для запуска и остановки приложения.
Сконфигурируйте свой сервер приложения, задав имя для использования в HACMP и выполнив привязку к скриптам запуска и остановки.
После создания сервера приложения следует связать его с группой ресурсов. Затем HACMP применяет эту информацию для управления приложением.
HACMP может осуществлять мониторинг приложения с использованием одного из двух методов:
Начиная с HACMP 5.2 можно применять несколько мониторов для одного приложения.
При определении собственного настраиваемого метода мониторинга необходимо помнить следующее:
Для измерения точного количества времени, в течение которого любое из приложений, определенных в HACMP, является доступным, можно использовать инструмент
анализа доступности (application availability
Некоторые приложения, включая Fast Connect Services и
Следующие таблицы описывают требуемую информацию для каждого приложения.
Заполните таблицу приложений, включив в нее всю требуемую информацию, как показано в табл. 3.11.
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 9 из 11 ТАБЛИЦА ПРИЛОЖЕНИЙ | ДАТА: июль 2005 | |||
|---|---|---|---|---|
| APP1 | ||||
| ЭЛЕМЕНТ | КАТАЛОГ | ФАЙЛОВАЯ СИСТЕМА | РАСПОЛОЖЕНИЕ | ДОСТУП |
| ИСПОЛНЯЕМЫЕ ФАЙЛЫ | /app1/bin | /app1 | Хранилище SAN | Общий |
| ФАЙЛЫ КОНФИГУРАЦИИ | /app1/conf | /app1 | Хранилище SAN | Общий |
| ФАЙЛЫ ДАННЫХ | /app1/data | /app1 | Хранилище SAN | Общий |
| ФАЙЛЫ ЖУРНАЛОВ | /app1/logs | /app1 | Хранилище SAN | Общий |
| СКРИПТ ЗАПУСКА | /cluster/local/app1/start.sh | / | rootvg | Необщий (должен располагаться на обоих узлах) |
| СКРИПТ ОСТАНОВКИ | /cluster/local/app1/stop.sh | / | rootvg | Необщий (должен располагаться на обоих узлах) |
| СТРАТЕГИЯ ПЕРЕМЕЩЕНИЯ ПРИ СБОЕ | Перемещение при сбое на узел node02 | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОГО ЗАПУСКА | Убедиться в том, что сервер APP1 работает | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ВЕРИФИКАЦИИ | Выполнить следующую команду и убедиться в том, что APP1 активно. В противном случае отправить уведомление | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОЙ ОСТАНОВКИ | Убедиться в том, что сервер APP1 останавливается корректно | |||
| РЕИНТЕГРАЦИЯ УЗЛА | Должна осуществляться во время запланированного окна обслуживания, чтобы свести к минимуму нарушение работы клиентов | |||
| APP2 | ||||
| ЭЛЕМЕНТ | КАТАЛОГ | ФАЙЛОВАЯ СИСТЕМА | РАСПОЛОЖЕНИЕ | ДОСТУП |
| ИСПОЛНЯЕМЫЕ ФАЙЛЫ | /app2/bin | /app2 | Хранилище SAN | Общий |
| ФАЙЛЫ КОНФИГУРАЦИИ | /app2/conf | /app2 | Хранилище SAN | Общий |
| ФАЙЛЫ ДАННЫХ | /app2/data | /app2 | Хранилище SAN | Общий |
| ФАЙЛЫ ЖУРНАЛОВ | /app2/logs | /app2 | Хранилище SAN | Общий |
| СКРИПТ ЗАПУСКА | /cluster/local/app2/start.sh | / | rootvg | Необщий (должен располагаться на обоих узлах) |
| СКРИПТ ОСТАНОВКИ | /cluster/local/app2/stop.sh | / | rootvg | Необщий (должен располагаться на обоих узлах) |
| СТРАТЕГИЯ ПЕРЕМЕЩЕНИЯ ПРИ СБОЕ | Перемещение при сбое на узел node01 | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОГО ЗАПУСКА | Убедиться в том, что сервер APP2 работает | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ВЕРИФИКАЦИИ | Выполнить следующую команду и убедиться в том, что APP2 активно. В противном случае отправить уведомление | |||
| КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОЙ ОСТАНОВКИ | Убедиться в том, что сервер APP2 останавливается корректно | |||
| РЕИНТЕГРАЦИЯ УЗЛА | Должна осуществляться во время запланированного окна обслуживания, чтобы свести к минимуму нарушение работы клиентов | |||
| КОММЕНТАРИИ | Обзор приложений | |||
Следует также заполнить таблицу мониторинга приложений, включив в нее всю информацию, необходимую для инструментов мониторинга приложений ( табл. 3.12).
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 10 из 11 МОНИТОРИНГ ПРИЛОЖЕНИЙ | ДАТА: июль 2005 |
|---|---|
| APP1 | |
| Можно ли осуществлять мониторинг приложения с использованием монитора процессов? | Да |
| Наблюдаемые процессы | app1 |
| root | |
| Счетчик экземпляров | 1 |
| Стабилизационный интервал | 30 |
| Счетчик перезапуска | 3 |
| Интервал перезапуска | 95 |
| Действие при отказе приложения | Перемещение при сбое |
| Метод уведомления | /usr/es/sbin/cluster/events/notify_app1 |
| Метод очистки | /usr/es/sbin/cluster/events/stop_app1 |
| Метод перезапуска | /usr/es/sbin/cluster/events/start_app1 |
| APP2 | |
| Можно ли осуществлять мониторинг приложения с использованием монитора процессов? | Да |
| Наблюдаемые процессы | app2 |
| root | |
| Счетчик экземпляров | 1 |
| Стабилизационный интервал | 30 |
| Счетчик перезапуска | 3 |
| Интервал перезапуска | 95 |
| Действие при отказе приложения | Перемещение при сбое |
| Метод уведомления | /usr/es/sbin/cluster/events/notify_app2 |
| Метод очистки | /usr/es/sbin/cluster/events/stop_app2 |
| Метод перезапуска | /usr/es/sbin/cluster/events/start_app2 |
В HACMP управление ресурсами осуществляется с использованием групп ресурсов.
Каждая группа ресурсов обрабатывается как контейнер, который может содержать следующие типы ресурсов: IP-метки, приложения, файловые системы и группы томов. Каждая группа ресурсов имеет настройки, которые определяют, когда и каким образом осуществляется ее перехват или освобождение. Можно выполнить точную настройку работы группы ресурсов без одновременного доступа при запуске узла, перемещении группы ресурсов на другой узел при отказе узла или при возврате группы ресурсов при реинтеграции узла.
К ресурсам и группам ресурсов применимы следующие правила и ограничения:
На рис. 3.20 упрощенно показана взаимосвязь между приложениями, группами томов и сервисными адресами, а также их совмещение в группах ресурсов. Группировка позволяет объединить приложение вместе с его общим дисковым хранилищем и сервисной IP-меткой в одну группу ресурсов. При этом все, что необходимо приложению, будет доступно, когда HACMP активизирует группу ресурсов.
(рис 3.20) Группы ресурсовПосле того как было решено, какие компоненты должны быть включены в группу ресурсов, необходимо выполнить планирование режимов работы группы ресурсов.
В таблице 3.13 приведены основные режимы работы (запуск, перемещение при сбое, возврат после восстановления), которые можно сконфигурировать для групп ресурсов в HACMP 5.3.
| Запуск | Перемещение при сбое | Возврат после восстановления |
|---|---|---|
| Подключение только на домашнем узле (Online on home node only, OHNO) для группы ресурсов | Перемещение на следующий по приоритету узел в списке | Без возврата после восстановления |
| Перемещение с использованием динамического приоритета узла | Возврат после восстановления на узел с более высоким приоритетом в списке | |
| Подключение с использованием политики распределения узлов | Перемещение на следующий по приоритету узел в списке | Без возврата после восстановления |
| Перемещение с использованием динамического приоритета узла | ||
| Подключение на первом доступном узле (Online on first available node, OFAN) | Перемещение на следующий по приоритету узел в списке | Без возврата после восстановления |
| Перемещение с использованием динамического приоритета узла | Возврат после восстановления на узел с более высоким приоритетом в списке | |
| Перевод в отключенный режим (только на ошибочном узле) | ||
| Подключение на всех доступных узлах | Перевод в отключенный режим (только на отказавшем узле) | Без возврата после восстановления |
Время установления при запуске
Атрибут времени установления (
Если узел запуска является домашним узлом для заданной группы ресурсов, время установления не выдерживается, вместо этого HACMP сразу же пытается подхватить группу ресурсов на этом узле.
Политика динамического приоритета узла
Настройка политики динамического приоритета узла (dynamic node priority, DNP)
позволяет выбирать резервный узел на основе определенных критериев производительности. При этом для выбора резервного узла используется переменная ресурсов
Если вы решите определить политики динамического приоритета узлов с использованием переменных ресурсов
Необходимо помнить о том, что выбор резервного узла также зависит от таких факторов, как доступность сетевого интерфейса на узле.
Таймер отсроченного возврата после восстановления
Таймер отсроченного возврата (delayed
Зависимости групп ресурсов
HACMP 5.3 предлагает множество конфигураций, где можно задавать отношения между группами ресурсов, для которых следует обеспечивать управление запуском, перемещением при сбое и возвратом после восстановления.
Можно сконфигурировать:
Несмотря на то что по умолчанию все группы ресурсов обрабатываются параллельно, обработка зависимых групп ресурсов в HACMP осуществляется в соответствии с порядком, определенным зависимостью, и не обязательно параллельно. Зависимости групп ресурсов имеют действие в масштабе кластера и замещают любые настройки последовательного порядка обработки для любых групп ресурсов, входящих в зависимость.
Зависимости между группами ресурсов представляют прогнозируемый и надежный способ построения кластеров с многоуровневыми приложениями.
Метод перехвата IP-адреса и группы ресурсов
Нельзя смешивать метки IPAT посредством синонимов и IPAT посредством замены в одной группе ресурсов. Это ограничение применяется во время верификации ресурсов кластера.
Перехват IP-адреса не применяется к группам ресурсов с одновременным доступом.
Группа ресурсов может включать несколько сервисных IP-меток. При перемещении группы ресурсов с перехватом IP-адреса посредством синонимов все сервисные метки в группе ресурсов перемещаются в виде синонимов на доступный сетевой интерфейс.
Планирование диспетчера рабочей нагрузки
Диспетчер рабочей нагрузки (
HACMP не проверяет каждый аспект конфигурации WLM, так что ответственность за
Таблица планирования групп ресурсов содержит всю требуемую информацию о планировании для групп ресурсов ( табл. 3.14).
| ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 11 из 11 ГРУППЫ РЕСУРСОВ | ДАТА: июль 2005 | |
|---|---|---|
| ИМЯ РЕСУРСА | C10RG1 | C10RG2 |
| Политика межсайтового управления | Игнорируется | Игнорируется |
| Имена узлов-участников | node01 node02 | node02 node01 |
| Политика запуска | Подключение только на домашнем узле (OHNO) | Подключение только на домашнем узле (OHNO) |
| Политика перемещения при сбое | Перемещение на следующий по приоритету узел в списке (FONP) | Перемещение на следующий по приоритету узел в списке (FONP) |
| Политика возврата после восстановления | Возврат на узел с более высоким приоритетом (FBHP) | Возврат на узел с более высоким приоритетом (FBHP) |
| Таймер отсроченного возврата | ||
| Время установления | ||
| Политики времени выполнения | ||
| Политика динамического приоритета узла Порядок обработки (параллельная, последовательная или настраиваемая) | ||
| Сервисная IP-метка | app1svc | app2svc |
| Серверы приложений | app1 | app2 |
| Группы томов | app1vg | app2vg |
| Файловые системы | /app1 | /app2 |
| Проверка согласованности файловой системы | fsck | fsck |
| Метод восстановления файловой системы | Последовательный | Последовательный |
| Файловые системы или каталоги для экспорта | ||
| Файловые системы или каталоги для подключения NFS | ||
| Сеть для подключения NFS | ether10 | ether10 |
| Основной класс WLM | ||
| Автоматический импорт групп томов | Нет | Нет |
| Подключение файловых систем перед конфигурированием IP | Нет | Нет |
| КОММЕНТАРИИ | Обзор двух групп ресурсов | |
Собрав все вместе и используя информацию, собранную при планировании кластера и записанную в таблицах планирования, теперь можно перейти к построению простой для восприятия подробной схемы кластера. На рис. 3.21 представлена подробная схема кластера из нашего примера. Эту схему можно использовать в качестве вспомогательного средства при конфигурировании кластера и диагностике проблем.
Разработка соответствующего плана тестирования для проверки работы кластера при отказах так же важна, как и планирование и конфигурирование кластера HACMP. Другими словами, нужно проверить, соответствует ли обработка отказов кластером ожиданиям. Необходимо протестировать (или подтвердить) возможности восстановления кластера, прежде чем кластер станет частью рабочей среды.
Как и в прежних версиях HACMP, вам следует разработать локальный набор тестов для проверки целостности кластера. Это обычно включает отключение сетевых кабелей, отключение интерфейсов и завершение работы узлов кластера в целях проверки возможностей восстановления кластера. Это упражнение все еще остается полезным, так как вы имеете возможность имитировать отказы и наблюдать за поведением кластера. Если что-то идет неправильно или не так, как ожидалось, следует остановить тестирование и изучить проблему. После успешного завершения всех тестов кластер можно переносить в рабочую среду.
В табл. 3.15 представлен пример плана тестирования, который можно использовать для тестирования кластера.
(рис ) Подробная схема кластера| План тестирования кластера | |||
|---|---|---|---|
| Тест № | Описание теста | Комментарии | Результаты |
| 1 | Запуск HACMP на node01 | node01 запускается и перехватывает группу ресурсов C10RG1 | |
| 2 | Запуск HACMP на node02 | node02 запускается и перехватывает группу ресурсов C10RG2 | |
| 3 | Постепенная остановка без перехвата (graceful stop without takeover) на node01 | Группа ресурсов C10RG1 отключается | |
| 4 | Запуск HACMP на node01 | node01 запускается и перехватывает группу ресурсов C10RG1 | |
| 5 | Постепенная остановка с перехватом (graceful stop with takeover) на node01 | Группа ресурсов C10RG1 перемещается на node02 | |
| 6 | Запуск HACMP на node01 | node01 запускается и требует группу ресурсов C10RG1 | |
| 7 | Отказ (отключение) сервисного интерфейса на node01 | Перемещение сервисного IP-адреса на второй базовый адаптер | |
| 8 | Переподключение сервисного интерфейса на node01 | Сервисный IP-адрес остается на втором базовом адаптере | |
| 9 | Отказ (отключение) сервисного интерфейса на node01 (теперь на втором адаптере) | Сервисный (и постоянный) IP-адрес перемещается на первый базовый адаптер | |
| 10 | Выполнение на node01 команды |
node01 останавливается – группа ресурсов C10RG1 перемещается на node02 | |
| 11 | Перезагрузка node01 и перезапуск HACMP | node01 перезагружается. После запуска HACMP, node01 требует C10RG1 | |
| 12 | Постепенная остановка без перехвата (graceful stop without takeover) на node02 | Группа ресурсов C10RG1 отключается | |
| 13 | Запуск HACMP на node02 | node02 запускается и перехватывает группу ресурсов C10RG2 | |
| 14 | Постепенная остановка с перехватом (graceful stop with takeover) на node01 | Группа ресурсов C10RG2 перемещается на node01 | |
| 15 | Запуск HACMP на node02 | node02 запускается и требует группу ресурсов C10RG2 | |
| 16 | Отказ (отключение) сервисного интерфейса на node02 | Перемещение сервисного IP-адреса на второй базовый адаптер | |
| 17 | Переподключение сервисного интерфейса на node02 | Сервисный IP-адрес остается на втором базовом адаптере | |
| 18 | Отказ (отключение) сервисного интерфейса на node02 (теперь на втором адаптере) | Сервисный (и постоянный) IP-адрес перемещается на первый базовый адаптер | |
| 19 | Выполнение на node02 команды |
node02 останавливается – группа ресурсов C10RG2 перемещается на node01 | |
| 20 | Перезагрузка node02 и перезапуск HACMP | node02 перезагружается. После запуска HACMP, node02 требует C10RG2 | |
Чтобы упростить тестирование кластера, HACMP 5.2 и 5.3 включают инструмент Cluster
Инструмент
Автоматическое тестирование
Инструмент тестирования содержит автоматический метод, предназначенный для быстрого тестирования функционирования кластера. Его выполнение обычно занимает от 30 до 60 мин., в зависимости от сложности кластера; при этом выполняются тесты, перечисленные ниже. Для выполнения этих тестов вы должны иметь доступ под записью root.
Тесты общей топологии кластера
Тесты групп ресурсов с неодновременным доступом
Если кластер включает одну или несколько групп ресурсов с неодновременным доступом, инструмент тестирования выполняет каждый из нижеперечисленных тестов в заданном порядке для каждой группы ресурсов:
Тест групп ресурсов с одновременным доступом
Если кластер содержит одну или несколько групп ресурсов с политикой управления запуском, настроенной на подключение на всех доступных узлах (online on all available nodes, OAAN), инструмент тестирования выполняет один тест, состоящий в отключении сервера приложений и восстановлении после отказа приложения.
Тест на фатальный отказ
Инструмент выполняет один тест на фатальный отказ, который останавливает диспетчер кластера на произвольно выбранном узле, на котором в данный момент находится как минимум одна активная группа ресурсов.
Выполнение автоматических тестов
Общие рекомендации советуют периодически подтверждать конфигурацию кластера. Существует два инструмента автоматизации выполнения этой задачи:
Эти инструменты можно использовать для реализации стандартной процедуры проверки. После выполнения первоначального теста тестирование вручную выполнять необязательно. Однако так как автоматический инструмент тестирования кластера предпринимает действия, которые могут вызвать перерыв в обслуживании, необходимо назначить использование этого инструмента на время, соответствующее окну обслуживания.
Инструмент
Для запуска автоматической процедуры тестирования:
smit hacmp.После планирования конфигурации и составления схемы кластера, нужно выполнить подготовку к установке.
При внедрении HACMP на существующих серверах следует выделить достаточное окно обслуживания для установки, конфигурирования и тестирования кластера. Если выполняется новая инсталляция, нужно выделить время на конфигурирование и тестирование базового кластера. После конфигурирования и тестирования кластера можно выполнять интеграцию необходимых приложений во время запланированного окна обслуживания.
Возвратившись к рис. 3.1, можно увидеть, что установке HACMP предшествует этап подготовки. Этот этап необходим для того, чтобы обеспечить готовность инфраструктуры к установке HACMP. Обычно это предполагает использование таблиц планирования и схемы кластера для подготовки узлов для установки HACMP 5.3.
Этап подготовки может занять некоторое время, в зависимости от сложности среды и количества используемых групп ресурсов и узлов. Нужно выделить достаточно времени на подготовку среды, так как нет смысла пытаться устанавливать HACMP в неподготовленной среде. Это обернется напрасной тратой времени на устранение неполадок в плохой инсталляции. Помните о том, что построение хорошо сконфигурированного кластера происходит на основе надежной инфраструктуры.
После завершения планирования кластера и подготовки среды узлы готовы к установке HACMP.
Установка кода достаточно проста. При установке с компакт-диска следует просто
использовать
После того как были установлены необходимые наборы файлов на всех узлах кластера, используйте таблицы планирования для конфигурирования кластера. У вас есть несколько инструментов, которые можно использовать для конфигурирования кластера:
Применить снимок кластера для конфигурирования кластера.
После конфигурирования, верификации и синхронизации кластера следует запустить инструмент
Проверьте все включенные вами уведомления об ошибках.
После успешного выполнения тестирования создайте резервные копии системы (mksysb) для каждого узла, а также снимок кластера с одного из узлов кластера. На этом этапе кластер должен быть готов к переносу в рабочую среду.
Теперь к управлению доступностью приложения применимы стандартные процессы управления изменениями и проблемами.
Основным средством резервного копирования кластера HACMP является снимок
кластера. Хотя файл описания кластера системы автоматизированного планирования (Online Planning
Основной информацией, сохраненной в снимке кластера, являются данные, находящиеся в классах базы данных конфигурации HACMP (таких, как HACMPcluster, HACMPnode, HACMPnetwork, HACMPdaemons). Эта информация используется для воссоздания конфигурации кластера при применении снимка кластера.
Снимок кластера не сохраняет какие-либо пользовательские скрипты, приложения и прочие параметры конфигурации, не связанные с HACMP. Например, имена серверов приложений и расположение их скриптов запуска и остановки сохраняются в объектном классе HACMPserver базы данных конфигурации. Однако сами скрипты, как и вызываемые ими приложения, не сохраняются.
Утилита создания снимков кластера сохраняет данные в двух разных файлах:
Для полного резервного копирования следует создать резервную копию (mksysb) каждого узла кластера с использованием стандартных методов. Выберите один узел для создания снимка кластера и сохраните снимок в безопасном месте в целях аварийного восстановления.
При возможности создайте снимок до создания резервной копии (mksysb) узла, чтобы он был включен в резервную копию системы.
Для эффективного управления кластером важно выполнять документирование конфигурации кластера. Хорошее документирование кластера позволяет обеспечить более эффективный контроль изменений и быстрое разрешение проблем на всех этапах, от управления изменениями в кластере до устранения неполадок. Мы рекомендуем вам вести точную схему кластера, которую можно использовать для управления изменениями и проблемами.
Кроме того, HACMP обеспечивает инструменты для упрощения сбора данных конфигурации кластера посредством использования системы автоматизированного планирования (OLPW).
В этом разделе описывается создание файла определения кластера через
Основные этапы создания отчета кластера следующие:
Можно создать файл определения кластера из активного кластера HACMP, после чего
открыть этот файл с использованием приложения Online Planning
Для создания файла определения кластера из
smit hacmp.Extended Configuration Move cursor to desired item and press Enter. Discover HACMP-related Information from Configured Nodes Extended Topology Configuration Extended Resource Configuration Extended Cluster Service Settings Extended Event Configuration Extended Performance Tuning Parameters Configuration Security and Users Configuration Snapshot Configuration Export Definition File for Online Planning Worksheets Extended Verification and Synchronization HACMP Cluster Test Tool
Кроме того, файл определения кластера также можно создать из снимка кластера
HACMP, после чего его можно открыть с использованием приложения Online Planning
Для создания файла определения кластера из снимка с применением
smit hacmp ;Отчет о конфигурации позволяет записать информацию о состоянии конфигурации кластера в формате HTML.
Отчет содержит обзорную информацию, включающую следующее:
Отчет также содержит разделы по следующим вопросам:
Для создания отчета о конфигурации:
(рис 3.22) Образец отчета о конфигурацииПри создании отчета в каталоге, содержащем отчет, создается каталог olpwimages.
Например, при сохранении файла отчета в каталоге /home/
На рис. 3.22 показан скриншот созданного отчета. Можно выполнять прокрутку страницы для просмотра информации.
После запуска кластера начинается работа по управлению изменениями и проблемами.
Эффективные процессы управления изменениями и проблемами необходимы для обеспечения доступности кластера. В целях эффективности текущая конфигурация кластера всегда должна быть "под рукой". Можно использовать OLPW для создания html-версии конфигурации, а также (рекомендуется) схемы текущего кластера.
Любые изменения в кластере должны быть всесторонне исследованы с точки зрения их воздействия на функционирование кластера. Даже те изменения, которые непосредственно не влияют на HACMP (например, добавление дополнительной нагрузки, не связанной с HACMP), могут отразиться на работе кластера. Необходимо выполнять планирование, назначение и документирование изменений, а после их внесения – тестирование кластера.
Чтобы упростить внедрение изменений в кластере, HACMP обеспечивает набор
Все возникающие проблемы в кластере следует немедленно изучать и исправлять. Так как основная задача HACMP состоит в том, чтобы скрывать любые возникающие ошибки от приложений, даже при наличии инструментов мониторинга вы можете не узнать о перемещении при сбое. Убедитесь в том, что включены уведомления об ошибках, сообщающие об отказах соответствующему персоналу.
В этом разделе подробно рассматриваются три основных инструмента планирования. Также включен образец схемы кластера и таблицы планирования.
Создание схемы для кластера HACMP позволяет четко представить работу кластера и помогает выявить единые точки отказа. Образец схемы кластера из двух узлов представлен на рис. 3.23.
(рис 3.23) Образец схемы кластера
Система автоматизированного планирования (Online Planning
Приложение сохраняет информацию в виде файла определения кластера, применимого для конфигурирования кластера. Приложение также проверяет данные на наличие всей необходимой информации.
Следующий порядок действий представляет эффективное использование инструмента OLPW при планировании, внедрении и документировании кластера.
cl_opsconfig.Запуск OLPW с компакт-диска в Windows
Запуск приложения с компакт-диска в AIX 5L
В системе
mount -v cdrfs -p -r cd_location mount_directory, где cd_location – расположение
компакт-диска; mount_directory – имя подключаемого каталога (точки монтирования). Например: mount -v cdrfs -p -r /dev/cd0 /mnt.java -jar mount_directory/olpw/worksheets .jar, где mount_directory – каталог, описанный выше.Установка OLPW
Установка приложения в системе
cluster.es.worksheets
Приложение Online Planning
Запуск приложения OLPW из графического интерфейса
/usr/es/sbin/cluster/worksheets/worksheets
Приложение проверяет наличие установленной требуемой версии
Установка приложения OLPW в системе Windows
Запуск приложения из системы Windows
Выполните команду из командной строки либо сделайте двойной
щелчок мышью по значку worksheet.jar в проводнике.
Описание главного окна
При открытии приложения Online Planning
Главное окно содержит две панели:
Информация о конфигурации вводится в правой панели.
(рис 3.24) Основное меню Online Planning WorksheetsСоздание нового файла описания кластера
В начале планирования кластера можно либо ввести всю информацию вручную, либо считать информацию о конфигурации кластера в OLPW, после чего ввести остальную информацию вручную.
Для создания файла определения кластера проделайте следующее:
Открытие существующего файла определения кластера
Чтобы открыть файл определения кластера, выберите File (Файл) > Open (Открыть). Одновременно можно открыть только один файл определения кластера.
Программа запросит вас о необходимости сохранения текущего файла, независимо от того, вносились ли в него какие-либо изменения, после чего главное окно выводится без информации о конфигурации.
Добавление примечаний о конфигурации кластера
При планировании конфигурации в файл определения кластера можно добавлять примечания. Для этого:
Сохранение файла определения кластера
Это можно сделать двумя способами:
При сохранении файла OLPW автоматически проверяет определение кластера, если только автоматическая проверка не была выключена.
Применение данных таблиц в кластере HACMP
После заполнения панелей конфигурации в приложении OLPW можно сохранить
файл, после чего применить его на узле кластера. При использовании приложения
Online Planning
Предварительные условия
Прежде чем применять файл определения кластера в кластере, убедитесь в том, что выполнены следующие условия:
Применение файла конфигурации кластера
Утилита cl_opsconfig выполняет проверку файла (если приложение Online Planning
cl_opsconfig можно просматривать на экране либо перенаправлять
в файл журнала.
Перенаправление стандартного потока вывода сообщений об ошибках осуществляется следующим образом (в оболочке korn shell; в других оболочках могут быть отличия):
/usr/sbin/cluster/utilities/cl_opsconfig your_config_file 2> output_file
Подробно таблицы планирования на бумаге представлены в прил. "А" в руководстве HACMP 5.3 Planning and Installation Guide.
Мы считаем, что полезно привести эти таблицы в формат, подходящий к вашей среде. Для этого мы включили ряд примеров специализированных таблиц, чтобы помочь вам в планировании простого кластера. Эти таблицы см. в прил. "А", "Таблицы планирования на бумаге".
Для получения официальных документов о завершении программы дополнительного профессионального образования (удостоверения о повышении квалификации, дипломов о профессиональной переподготовке и MBA) необходимо предоставить:
Внимание! Вы можете не заказывать доставку бумажной версии официального документы, а скачать его в электронном виде и распечатать самостоятельно. Информация о выданном документе в течение 1 месяца загружается в Федеральную информационную систему «Федеральный реестр сведений о документах об образовании и (или) о квалификации, документах об обучении» - ФИС ФРДО.
Доступ на новый сайт осуществляется с использованием адреса электронной почты, который был указан вами при регистрации на "старом". Мы постарались перенести все ваши данные с прежнего ресурса, однако не исключена вероятность потери части информации.
При возникновении проблемы со входом, воспользуйтесь функцией сброса пароля
Если вы обнаружите несоответствия, пожалуйста, сообщите нам.