Реализация мультипроцессорных кластеров высокой доступности (HACMP)

Планирование

Разбить на страницы
Показывать лекцию целиком

Планирование высокой доступности

Основная цель планирования кластера высокой доступности состоит в том, чтобы исключить и свести к минимуму простои в работе требуемого приложения. С этой целью необходимо устранить единые точки отказа как в аппаратном, так и в программном обеспечении. Обычно это достигается путем дублирования оборудования по схеме "N+1", в частности путем дублирования источников питания, сетевых интерфейсов, адаптеров SAN и конфигураций зеркального отображения или RAIDдисков. Все эти компоненты увеличивают стоимость сервера, но могут не защитить приложение в случае отказа сервера или операционной системы.

Примечание. Подробные сведения о планировании приведены в руководстве High Availability Cluster Multi-Processing for AIX 5L Planning and Installation Guide, SC23-4861-06.

Здесь наступает очередь HACMP. В HACMP можно настроить мониторинг серверного оборудования, операционной системы и компонентов приложения. В случае отказа HACMP может предпринять корректирующие действия, в частности выполнить перемещение требуемых ресурсов (сервисных IP-адресов, хранилищ и приложений) на рабочие компоненты кластера, чтобы как можно быстрее восстановить доступность приложения.

HACMP является чрезвычайно гибким продуктом, поэтому разработка кластера под нужды организации требует тщательного планирования. Требования и режим функционирования приложения представляют важную входную информацию плана HACMP и являются основными факторами при определении схемы кластера. При разработке схемы кластера необходимо поставить перед собой следующие вопросы:

  • Для каких служб приложений необходимо обеспечить высокую доступность?
  • Каковы требования к уровню обслуживания для этих служб приложений (24x7, 8x5) и насколько быстро должно выполняться восстановление обслуживания в случае отказа?
  • Каковы потенциальные точки отказа в среде и как их можно устранить?
  • Какие точки отказа могут быть автоматически обнаружены HACMP и для каких потребуется написать специальный код для вызова события?
  • Каким должен быть уровень квалификации в группе, осуществляющей внедрение и обслуживание кластера?
  • Хотя за внедрение HACMP обычно отвечают системные администраторы AIX, как правило, они не могут заниматься этим самостоятельно. Для помощи в планировании HACMP следует создать команду, состоящую из следующих представителей, каждый из которых играет важную роль в успешной работе кластера:

  • сетевой администратор;
  • системный администратор AIX;
  • администратор баз данных;
  • разработчик приложений;
  • персонал поддержки;
  • пользователи приложения.
  • Планирование HACMP

    Основные этапы успешного внедрения HACMP указаны на рис. 3.1. Обратите внимание на то, что внедрение кластера не завершается с успешным конфигурированием кластера. Процедуры тестирования кластера, резервного копирования, документирования и текущего управления одинаково важны для обеспечения текущей целостности кластера.

    Используя понятия, описанные в лекции 1, "Введение в HACMP", внедрение HACMP начинается с разработки подробного плана конфигурирования и внедрения кластера HACMP. Для направления этого процесса и записи информации о кластере можно использовать такие инструменты планирования, как таблицы планирования на бумаге (Paper Planning Worksheets), описываемые в руководстве High Availability Cluster Multi-Processing for AIX 5L Planning and Installation Guide, SC23-4861-06, и система автоматизированного планирования (Online Planning Worksheets).

    (рис 3.1) Этапы внедрения HACMPВажно! Помните, что время, проведенное за планированием кластера, обернется более простым внедрением, так что не торопитесь.

    Как показано на рис. 3.1, планирование является основой, на которой строится внедрение. Надлежащее планирование должно затрагивать все аспекты внедрения кластера. Оно должно включать:

  • схему и режим работы кластера;
  • подробную конфигурацию кластера;
  • аспекты и план установки;
  • план тестирования целостности кластера;
  • стратегию резервного копирования для кластера;
  • процедуру документирования кластера;
  • план управления проблемами и изменениями в кластере.
  • Важно! Для успешного внедрения важно, чтобы планирование и подготовка кластера HACMP осуществлялись до установки и конфигурирования HACMP.

    Для простоты описания мы представим планирование кластера на примере кластера из двух узлов со взаимным перехватом. Эта конфигурация является отправной точкой для более сложных установок. Лекция также содержит образцы таблиц планирования, так как цель лекции заключается в том, чтобы показать, как выполняется планирование кластера.

    Инструменты планирования

    При планировании кластера HACMP можно использовать три инструмента:

  • диаграмму кластера;
  • таблицы планирования на бумаге (Paper Planning Worksheets);
  • система автоматизированного планирования (Online Planning Worksheets).
  • И диаграмма кластера и таблицы планирования на бумаге представляют собой метод записи информации о кластере вручную. Система автоматизированного планирования представляет простой в использовании интерфейс на основе Java, который может применяться для записи и конфигурирования кластера.

    Примечание. Если вы решили использовать систему автоматизированного планирования (Online Planning Worksheets, OLPW) или средство упрощенного конфигурирования кластера из двух узлов (Two-Node Cluster Configuration Assistant), все равно важно выполнить планирование и подготовку HACMP. Система автоматизированного планирования и средство упрощенного конфигурирования кластера из двух узлов предназначены только для того, чтобы упростить документирование и конфигурирование кластера; вам все равно нужно иметь отчетливое представление о планировании и подготовке.

    Приступая к работе

    Планирование кластера начинается с анализа текущей среды и своих ожиданий от HACMP:

  • Для каких приложений необходимо обеспечить высокую доступность?
  • Сколько узлов необходимо для поддержки приложений?
  • Существуют ли узлы достаточного размера (процессор/память) для выполнения нескольких приложений или устанавливаются новые узлы?
  • Как клиенты подключаются к приложению, какова конфигурация сети?
  • Какой тип общего диска будет использоваться?
  • Каковы ожидания от HACMP?
  • Текущая среда

    На рис. 3.2 показана простая стартовая конфигурация, которую мы будем использовать в качестве примера. Она сосредоточена на обеспечении высокой доступности двух приложений. Это может быть либо пара существующих серверов, либо два новых сервера.

    Стартовая конфигурация показывает следующее:

  • каждое приложение находится на отдельном узле (сервере);
  • клиенты осуществляют доступ к каждому приложению через выделенное Ethernetподключение на каждом сервере;
  • каждый узел имеет приблизительно один размер с точки зрения процессора и памяти, каждый имеет дополнительную мощность;
  • каждый узел имеет дополнительные источники питания и внутренние диски с зеркальным отображением;
  • приложения расположены на внешнем диске SAN;
  • каждое приложение имеет собственные надежные скрипты запуска и остановки;
  • существует инструмент мониторинга для проверки состояния каждого приложения;
  • AIX 5.3 уже установлен.
  • Важно! Каждое приложение, подлежащее интеграции в кластер, должно работать в автономном режиме (standalone mode). Кроме того, вы должны иметь возможность полностью контролировать приложение (запускать, останавливать и осуществлять тестирование).

    Цель состоит в том, чтобы использовать два узла в конфигурации со взаимным перехватом, где приложение app1 обычно находится на узле node01, а приложение app2 обычно находится на узле node02. В случае отказа нужно, чтобы оба приложения выполнялись на оставшемся сервере. Из диаграммы мы видим, что нужно подготовить среду таким образом, чтобы каждый узел мог выполнять оба приложения.

    Внимание! Каждое приложение, подлежащее интеграции в кластер, должно быть способно выполняться в автономном режиме на любом узле, на котором ему, возможно, придется выполняться (как в обычных условиях, так и в случае перемещения при сбое).

    Анализируя требования к кластеру HACMP, получаем три основные области, требующие внимания, как показано на рис. 3.2: сеть, приложение и хранилище. Все действия по планированию в какой-то мере предназначены для поддержки одного из трех этих элементов.

  • Сеть – каким образом клиенты подключаются к приложению (сервисный адрес). Сервисный адрес может перемещаться между всеми выделенными узлами кластера.
  • Приложение – какие ресурсы необходимы для приложения. Приложение должно располагать всем, что ему необходимо для работы на узле перемещения при сбое, включая ресурсы процессора и памяти, лицензии, исполняемые модули и данные конфигурации. Оно должно иметь надежные скрипты запуска и остановки, а также инструмент для мониторинга своего состояния.
  • Хранилище – какой тип общего диска будет использоваться. Данные приложения должны располагаться на общем диске, доступном для всех требуемых узлов кластера.
  • (рис 3.2) Первоначальная среда

    Устранение единых точек отказа

    В табл. 3.1 приведен обзор возможных единых точек отказа в инфраструктуре кластера и способов защиты от них. Эти аспекты следует учитывать во время разработки подробной схемы кластера.

    Единые точки отказа
    Объекты кластера Способ устранения единой точки отказа Поддержка в HACMP/AIX
    Узлы Использование нескольких узлов До 32
    Источники питания Использование нескольких электросетей или источников бесперебойного питания (ИБП) Столько, сколько нужно
    Сети Использование нескольких сетей для соединения узлов До 48
    Сетевые интерфейсы, устройства и IP-адреса Использование резервных сетевых адаптеров До 256
    Подсистема TCP/IP Использование сетей "точка-точка" для соединения соседних узлов и клиентов Столько, сколько нужно
    Дисковые адаптеры Использование резервных дисковых адаптеров Столько, сколько нужно
    Дисковые контроллеры Использование резервных дисковых контроллеров Столько, сколько нужно (ограничение на аппаратном уровне)
    Диски Использование резервного оборудования, а также технологий зеркального отображения, чередования или их сочетания Столько, сколько нужно
    Приложения Назначение узла для перехвата приложения, конфигурирование мониторов приложений, конфигурирование кластеров с узлами на нескольких сайтах Столько, сколько нужно
    Сайты Использование нескольких сайтов для аварийного восстановления (disaster recovery) 2
    Группы ресурсов Использование групп ресурсов с указанием, каким образом должен работать набор ресурсов До 64 в кластере
    Ресурсы кластера Использование нескольких ресурсов кластера До 128 в Clinfo (кластер может включать больше)

    Первоначальная схема кластера

    После того как было сформировано представление о текущей среде, уяснены понятия HACMP и выявлены свои ожидания от кластера, можно начать разработку схемы кластера.

    На этом этапе следует создать схему кластера HACMP. Рекомендуется начать с простого и постепенно увеличивать степень детализации по мере продвижения процесса планирования. Схема позволяет выявить единые точки отказа, требования приложений и поможет направлять процесс планирования.

    Для записи информации о конфигурации и кластере следует также использовать таблицы планирования на бумаге или систему автоматизированного планирования.

    Первоначальная схема кластера, используемого в нашем примере, представлена на рис. 3.3. На данный момент основное внимание сосредотачивается на высокоуровневом функционировании кластера, подробности кластера рассматриваются по мере прохождения этапа планирования.

    (рис 3.3) Первоначальная схема кластера

    Мы начинаем принимать решения относительно схемы топологии и режима работы кластера на основании своих требований. Например, в соответствии с требованиями первоначальная схема кластера включает следующее:

  • Кластер представляет собой кластер из двух узлов со взаимным перехватом.
  • В качестве имен узлов кластера можно использовать имена хостов, однако мы решили задавать имена узлов кластера.
  • Каждый узел содержит одно приложение, но способен выполнять оба (нужно рассмотреть сеть, хранилище, память, процессор, программное обеспечение).
  • Каждый узел имеет два Ethernet-адаптера, подключенные к одной физической сети Ethernet, каждый к отдельному коммутатору (или какой-либо тип резервного коммутатора).
  • Используется перехват IP-адреса посредством синонимом (а не посредством замены).
  • Каждый узел имеет постоянный IP-адрес (IP-синоним, всегда доступный при работе узла) и один сервисный IP-адрес (IP-синоним на одном из адаптеров, находящихся под управлением HACMP). Базовые адреса адаптера Ethernet относятся к разным подсетям. Так как используется мониторинг пульса через синонимы, это условие не является обязательным, при необходимости оба адаптера могут находится в одной подсети.
  • Общие диски находятся в SAN и доступны на обоих узлах.
  • Все группы томов на общих дисках создаются в режиме расширенного одновременного доступа (Enhanced Concurrent Mode, ECM), что позволяет обеспечить мониторинг пульса через диски и быстрый перехват дисков.
  • Последовательное подключение RS232 показано, однако в связи с использованием мониторинга пульса через диски можно опустить этот элемент схемы. Он показан как необязательный.
  • Используется мониторинг пульса через IP-синонимы (не показано).
  • Каждый узел имеет достаточно ресурсов процессора и памяти для выполнения обоих приложений.
  • Каждый узел имеет резервное оборудование и внутренние диски с зеркальным отображением.
  • Установлен AIX 5.3 ML02.
  • Используется HACMP 5.3.
  • Примечание. Если вы планируете использовать динамические разделы (DLPAR), имя хоста AIX, имя узла кластера и имя HMC LPAR (отображаемое в интерфейсе HMC) должны совпадать.

    Этот список кратко описывает основные компоненты схемы кластера. Каждый элемент будет более подробно рассмотрен в процессе планирования.

    Заполнение обзорной таблицы планирования кластера

    Рекомендуем заполнить первоначальную таблицу, как мы это сделали в нашем примере. В этой лекции приведено 11 таблиц планирования, каждая их которых охватывает различные аспекты его планирования. Табл. 3.2 представляет первую таблицу со списком основных элементов кластера.

    Обзор кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 1 из 11 ОБЗОР КЛАСТЕРА ДАТА: июль 2005
    ИМЯ КЛАСТЕРА cluster10
    ОРГАНИЗАЦИЯ IBM ITSO
    ИМЯ ХОСТА УЗЛА 1 ha53node1
    ИМЯ ХОСТА УЗЛА 2 ha53node2
    ИМЯ HACMP УЗЛА 1 node01
    ИМЯ HACMP УЗЛА 2 node02
    КОММЕНТАРИИ Это набор таблиц планирования для простого 2-узлового кластера HACMP 5.3 со взаимным перехватом с использованием перехвата IP-адреса посредством синонимов.

    Планирование оборудования кластера

    Схема кластера начинается с определения требуемого количества и типа узлов. Эти аспекты в значительной степени зависят от двух факторов:

  • количества ресурсов, требуемых каждым приложением;
  • режима перемещения при отказе в кластере.
  • Примечание. Количество узлов в кластере может варьироваться от 2 до 32.

    При выборе узлов основное условие заключается в том, чтобы в случае перемещения при сбое оставшийся узел или узлы были способны выполнять приложения с отказавшего узла. Другими словами, если у вас есть кластер из двух узлов и при этом отказывает один узел, оставшийся узел должен иметь ресурсы, требуемые для выполнения приложений с отказавшего узла (помимо собственных приложений). Если это невозможно, можно рассмотреть вариант внедрения дополнительного узла в качестве дежурного или вариант использования динамических разделов (DLPAR, в системах POWER4™ или POWER5™). Как вы сможете заметить, HACMP допускает широкий выбор конфигураций кластера в зависимости от ваших требований.

    HACMP работает практически с любым узлом, поддерживаемым AIX, от настольных систем до высокопроизводительных серверов. При выборе типа узла следует учитывать следующее:

  • Убедитесь, что все узлы имеют достаточно ресурсов процессора и памяти, чтобы система могла вести себя требуемым образом в случае перемещения при сбое. Ресурсы процессора и памяти должны быть способны поддерживать требуемые приложения в случае перемещения при сбое, иначе у клиентов могут возникнуть проблемы с производительностью. Если вы используете разделы LPAR, вам может быть полезно использовать возможности DLPAR для увеличения ресурсов в случае перемещения при сбое. При использовании автономных серверов такая возможность отсутствует, так что вам, возможно, придется рассмотреть вариант применения дежурного (резервного, standby) сервера.
  • На каждом сервере используйте оборудование высокой доступности и резервные компоненты там, где это возможно. Например, применяйте резервные источники питания и подключите их в отдельным электросетям.
  • На каждом узле обеспечьте защиту rootvg (копии локальной операционной системы) с использованием зеркального отображения или технологии RAID.
  • Установите как минимум два Ethernet-адаптера на каждом узле и подключите их к отдельным коммутаторам, чтобы защитить их от отказа одного из адаптеров или коммутаторов.
  • Установите два SAN-адаптера на каждом узле, чтобы защитить их от отказа одного из SAN-адаптеров.
  • Хотя это не обязательно, мы рекомендуем использовать узлы кластера с похожими конфигурациями оборудования, чтобы упростить распространение ресурсов и выполнение административных операций. Другими словами, не пытайтесь выполнить перемещение при сбое с высокопроизводительного сервера на настольную систему, ожидая что все будет работать надлежащим образом; будьте благоразумны при выборе узлов.

    Заполнение таблицы планирования оборудования кластера

    Табл. 3.3 содержит сведения об оборудовании для нашего примера. Там, где это возможно, мы использовали избыточное оборудование, дополнительные коммутаторы Ethernet и SAN, а также убедились в достаточности ресурсов для поддержки одновременной работы приложений на каждом узле.

    Оборудование кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 2 из 11 ДАТА: июль 2005
    ОБОРУДОВАНИЕ КЛАСТЕРА
    КОМПОНЕНТ ОБОРУДОВАНИЯ СПЕЦИФИКАЦИИ КОММЕНТАРИИ
    p520 Сервер pSeries Количество – 2
    2 процессора и 4 Гб памяти *Последняя версия микрокода
    4 внутренних SCSI-диска Резервные источники питания.
    Достаточно ресурсов для выполнения обоих приложений на одном сервере
    Ethernet-адаптеры 10/100/1000 Ethernet 2 NIC на узел (минимум)
    Сетевые коммутаторы Название производителя Модель 2 коммутатора.
    Каждый NIC на узле подключен к отдельному коммутатору.
    Все порты сконфигурированы в одной VLAN.
    Коммутаторы поддерживают gratuitous ARP-запросы и отключенный алгоритм Spanning Tree.
    Установлено оптимальное значение скорости порта коммутатора
    Адаптеры SAN 6239 2GB Fibre Channel 2 HBA на узел
    Коммутаторы SAN IBM 2109 2 коммутатора.
    Каждый HBA на узле подключен к отдельному коммутатору.
    Общий диск разделен на зоны для всех узлов, требующих доступа
    Хранилище SAN IBM ESS Модель 800
    КОММЕНТАРИИ Совместимость оборудования проверена.

    Планирование программного обеспечения кластера

    Для обеспечения совместимости требуется провести анализ всех программных компонентов, которые планируется использовать в кластере. Необходимо рассмотреть программное обеспечение AIX, RSCT, HACMP, приложения и хранилища. В этом разделе обсуждаются различные уровни программного обеспечения, а также вопросы совместимости.

    Уровни AIX и RSCT

    HACMP 5.3 поддерживается в AIX версий 5.2 и 5.3. Использовавшиеся в нашей среде уровни сочетания AIX и RSCT приведены в табл. 3.4.

    Уровни AIX и RSCT
    Версия AIX Версия RSCT Минимальные наборы файлов (filesets) RSCT
    AIX 5.3 ML02 (5300-02) или выше, с APARS 2.4.2 rsct.compat.basic.hacmp.2.4.2.0, rsct.compat.clients.hacmp.2.4.2.0, rsct.core.sec.2.4.2.1,
    AIX 5.2 ML06 (5200-06) или выше, с APARS IYXXXXX 2.3.6 rsct.compat.basic.hacmp.2.3.6.0, rsct.compat.clients.hacmp.2.3.6.0, rsct.core.sec.2.3.6.1, rsct.core.rmc.2.3.6.1

    Поддержка Virtual LAN и Virtual SCSI

    Для поддержки функций Virtual LAN (виртуальная локальная сеть) и Virtual SCSI, реализованных в IBM P5 Virtual I/O Server, необходимы следующие уровни программного обеспечения:

  • AIX 5.3 ML02 (5300-02) с APARs IY70082 и iFIX IY72974;
  • VIO Server V1.1 с Fixpack 6.2 и iFIX IY71303.062905.epkg.Z;
  • минимальные уровни RSCT:
  • rsct.basic.hacmp 2.4.2.1,
  • rsct.basic.rte 2.4.2.2,
  • rsct.compat.basic.hacmp 2.4.2.0.
  • Обязательные наборы файлов

    Следующие наборы файлов являются обязательными для работы HACMP. Они должны быть установлены вместе с последней версией исправлений к соответствующему уровню AIX перед установкой HACMP.

  • bos.adt.lib;
  • bos.adt.libm;
  • bos.adt.syscalls;
  • bos.net.tcp.client;
  • bos.net.tcp.server;
  • bos.rte.SRC;
  • bos.rte.libc;
  • bos.rte.libcfg;
  • bos.rte.libcur;
  • bos.rte.libpthreads;
  • bos.rte.odm;
  • bos.rte.lvm.rte (необходим только при использовании существующего или унаследованного 32-разрядного диспетчера Concurrent Logical Volume Manager для одновременного доступа);
  • bos.clvm.enh (необходим для логических томов с расширенным одновременным доступом; используется при мониторинге пульса через диски).
  • Наборы файлов безопасности AIX

    Следующие наборы файлов являются обязательными, если вы планируете использовать аутентификацию или шифрование сообщений в HACMP для связи между узлами кластера. Их можно установить с диска AIX 5L Expansion Pack CD-ROM.

  • rsct.crypt.des – для шифрования данных с использованием алгоритма аутентификации сообщений DES.
  • rsct.crypt.3des – для шифрования данных с использованием алгоритма аутентификации сообщений Triple DES.
  • rsct.crypt.aes256 – для шифрования данных с использованием алгоритма аутентификации сообщений AES (Advanced Encryption Standard).
  • Примечание. Эти наборы файлов не поддерживаются в AIX 5.1.

    Программное обеспечение, необходимое для работы WebSmit

    Следующее программное обеспечение является необходимым, если вы планируете установить и сконфигурировать WebSmit. Представленные версии являются наиболее актуальными на момент написания этого курса.

  • Apache-совместимый веб-сервер (Apache или IBM Http Server, IHS).
  • Apache 1.3.31 можно скопировать по адресу http://www-1.ibm.com/servers/aix/products/aixos/linux/download.html.
  • IBM IHS v2.0.47.1 можно скопировать по адресу http://www-306.ibm.com/software/webservers/httpservers/ .
  • RPM Package Manager (если еще не установлен в системе); expat-195.7-1.aix5.1.ppc. rpm можно скопировать по адресу http://www-1.ibm.com/servers/aix/products/aixos/linux/download.html
  • openssl может быть скопирован по адресу http://www-1.ibm.com/servers/aix/products/aixos/linux/download.html
  • Выберите "AIX Toolbox Cryptographic Content" и скопируйте следующие файлы:

  • apache-1.3.31-1ssl.aix5.1.ppc.rpm;
  • mod_ssl-2.8.19-1ssl.aix5.1.ppc.rpm;
  • openssl-0.9.7d-1.ssl.aix5.1.ppc.rpm.
  • Примечание. Вы должны зарегистрироваться на ibm.com®, при этом необходимо учитывать, что регистрация может занять 24 ч. Если вы НЕ зарегистрированы, вы не сможете скопировать файлы криптографического содержимого.

    Наборы файлов HACMP

    С установочного носителя можно получить следующие наборы файлов HACMP (за исключением дополнительных языковых наборов файлов):

  • cluster.adt.es.client.include;
  • cluster.adt.es.client.samples.clinfo;
  • cluster.adt.es.client.samples.clstat;
  • cluster.adt.es.client.samples.libcl;
  • cluster.adt.es.java.demo.monitor;
  • cluster.assist.license – HACMP Smart Assist Feature;
  • cluster.doc.en_US.assist.db2.html;
  • cluster.doc.en_US.assist.db2.pdf;
  • cluster.doc.en_US.assist.oracle.html;
  • cluster.doc.en_US.assist.oracle.pdf;
  • cluster.doc.en_US.assist.websphere.html;
  • cluster.doc.en_US.assist.websphere.pdf;
  • cluster.doc.en_US.es.html – HTML-документация по HAES;
  • cluster.doc.en_US.es.pdf – PDF-документация по HAES (англ.);
  • cluster.doc.en_US.glvm.html;
  • cluster.doc.en_US.glvm.pdf;
  • cluster.doc.en_US.pprc.pdf;
  • cluster.doc.en_US.pprc.html;
  • cluster.es.assist.common – HACMP Smart Assist Common;
  • cluster.es.assist.db2 – HACMP Smart Assist for DB2;
  • cluster.es.assist.oracle – HACMP Smart Assist for Oracle;
  • cluster.es.assist.websphere;
  • cluster.es.cfs.rte;
  • cluster.es.client.lib – библиотеки ES-клиента;
  • cluster.es.client.rte – среда выполнения ES-клиента;
  • cluster.es.client.utils – утилиты ES-клиента;
  • cluster.es.client.wsm – WebSmit;
  • cluster.es.clvm.rte – ES для одновременного доступа AIX;
  • cluster.es.cspoc.cmds – команды ES CSPOC;
  • cluster.es.cspoc.dsh – ES CSPOC dsh;
  • cluster.es.cspoc.rte – команды среды выполнения ES CSPOC;
  • cluster.es.ercmf.cmds;
  • cluster.es.ercmf.rte;
  • cluster.es.plugins.dns;
  • cluster.es.plugins.printserver;
  • cluster.es.plugins.dhcp;
  • cluster.es.pprc.cmds;
  • cluster.es.pprc.rte;
  • cluster.es.server.cfgast – двухузловая конфигурация ES;
  • cluster.es.server.diag – средства диагностики ES-сервера;
  • cluster.es.server.events – события ES-сервера;
  • cluster.es.server.rte – базовая среда выполнения ES-сервера;
  • cluster.es.server.testtool;
  • cluster.es.server.utils – утилиты ES-сервера;
  • cluster.es.svcpprc.cmds;
  • cluster.es.svcpprc.rte;
  • cluster.es.worksheets – система автоматизированного планирования (OLPW);
  • cluster.hativoli.client;
  • cluster.hativoli.server;
  • cluster.license – электронная лицензия HACMP;
  • cluster.man.en_US.assist.data;
  • cluster.man.en_US.es.data;
  • cluster.msg.en_US.assist;
  • cluster.msg.en_US.cspoc;
  • cluster.msg.en_US.ercmf;
  • cluster.msg.en_US.es.client;
  • cluster.msg.en_US.es.server;
  • cluster.msg.en_US.hativoli;
  • cluster.msg.en_US.pprc;
  • cluster.msg.en_US.svcpprc;
  • cluster.xd.glvm;
  • cluster.xd.license;
  • glvm.rpv.util – Geographic LVM;
  • glvm.rpv.client;
  • glvm.rpv.server;
  • glvm.rpv.msg.en_US;
  • hageo.doc.en_US.data;
  • hageo.gmdsizing;
  • hageo.man.en_US.message.data;
  • hageo.man.en_US.mirror.data;
  • hageo.manage.utils;
  • hageo.message.ext;
  • hageo.message.utils;
  • hageo.mirror.ext;
  • hageo.mirror.utils;
  • hageo.msg.en_US.message;
  • hageo.msg.en_US.mirror.
  • Файлы AIX, изменяемые HACMP

    Помните о том, что следующие системные файлы могут быть изменены HACMP в процессе установки, верификации и синхронизации кластера.

    /etc/hosts

    Скрипты событий кластера используют файл /etc/hosts для разрешения имен. Все IP-интерфейсы узлов кластера должны быть указаны в этом файле на всех узлах. HACMP может изменить этот файл, чтобы обеспечить наличие всей необходимой информации в файле /etc/hosts на всех узлах для корректной работы HACMP.

    При удалении сервисных IP-меток из конфигурации кластера с использованием SMIT рекомендуется также удалить их из файла /etc/hosts.

    /etc/inittab

    Файл /etc/inittab изменяется в следующих случаях:

  • При установке HACMP. При первоначальной установке HACMP добавляется следующая строка (она запускает подсистемы clcomdES и clstrmgrES, если они еще не запущены):hacmp:2:once:/ usr/es/sbin/cluster/etc/rc.init >/dev/console 2>1.Важно! Эта запись HACMP осуществляет запуск следующих демонов с использованием команды startsrc, если они еще не запущены:
  • startsrc -s syslogd,
  • startsrc -s snmpd,
  • startsrc -s clcomdES,
  • startsrc -s clstrmgrES.
  • При конфигурировании перехвата IP-адреса в HACMP:
  • harc:2:wait:/usr/es/sbin/cluster/etc/harc.net # HACMP network startup
  • если включен перехват IP-адреса, система редактирует файл /etc/inittab, изменяя rc.tcpip-и inet-зависимые записи с уровня выполнения " 2 " (многопользовательский уровень по умолчанию) на уровень выполнения " a ";
  • записи с уровнем выполнения " a " обрабатываются только при выполнении команды telinit с указанием этого уровня выполнения.
  • При выборе опции Start at System Restart на панели SMIT System Management (C-SPOC) > Manage HACMP Services > Start Cluster Services:
  • hacmp6000:2:wait:/usr/es/sbin/cluster/etc/rc.cluster -boot -i # Bring up Cluster;
  • при загрузке системы файл /etc/inittab вызывает скрипт /usr/es/sbin/cluster/ etc/rc.cluster для запуска HACMP;
  • так как inet-демоны не должны запускаться до тех пор, пока интерфейсы, управляемые HACMP, не перейдут на сервисный IP-адрес, HACMP также добавляет следующую запись в конец файла /etc/inittab, указывая таким образом что обработка файла /etc/inittab была завершена:
  • clinit:a:wait:/bin/touch /usr/es/sbin/cluster/.telinit #HACMP for AIX. These must be the last entry in run level "a" in inittab!
  • pst_clinit:a:wait:/bin/echo Created /usr/es/sbin/cluster/.telinit >. /dev/console #HACMP for AIX These must be the last entry in run. level "a" in inittab!
  • При установке Concurrent Logical Volume Manager (cluster.es.clvm) в HACMP. В файл /etc/inittab автоматически добавляется следующая запись: haclvm_cfg:2:wait:/usr/es/sbin/cluster/clvm/config_mode3.
  • Внимание! Хотя можно запускать службы кластера из inittab, настоятельно рекомендуем не использовать эту опцию. Лучше контролировать запуск HACMP вручную. Например, в случае отказа лучше определять причину отказа до перезапуска HACMP на узле. Примечание: В файл inittab также добавляется запись ha_star. Эта запись вносится вместе с набором файлов bos.rte.control, а не с HACMP.

    /etc/rc.net

    Файл /etc/rc.net вызывается утилитой cfgmgr (cfgmgr – утилита AIX 5L, осуществляющая конфигурирование устройств, а также, опционально, установку программного обеспечения устройств в системе) для настройки и запуска TCP/IP в процессе загрузки. Он задает имя хоста, шлюз по умолчанию и статические маршруты.

    /etc/services

    HACMP использует следующие сетевые порты для связи между узлами кластера (они все перечислены в файле /etc/services):

  • clinfo_deadman 6176/tcp;
  • clsmuxpd 6270/tcp;
  • clm_lkm 6150/tcp;
  • clm_smux 6175/tcp;
  • godm 6177/tcp;
  • topsvcs 6178/udp;
  • grpsvcs 6179/udp;
  • emsvcs 6180/udp;
  • #clver 6190/tcp (закомментировано, так как clverify теперь использует clcomd);
  • clcomd 6191/tcp;
  • clinfo_client 6174/tcp;
  • #cllockd 6100/udp (закомментировано – cllockd не поддерживается начиная с HACMP 5.2);
  • #clm_mig_1k 6151/tcp (закомментировано – cllockd не поддерживается начиная с HACMP 5.2).
  • Примечание. При установке HACMP/XD для GLVM в файл /etc/services на всех узлах локальных и удаленных сайтов, на которых установлено программное обеспечение, автоматически добавляется следующая запись с номером порта и протоколом подключения: rpv 6192/tcp. Требования приложения

    Помимо HACMP, следующие порты используются RMC:

  • #rmc 657/tcp;
  • #rmc 657/udp. WebSmit обычно использует порт (порт WebSmit является настраиваемым) #http 42267 (порт WebSmit) /etc/snmpd.conf
  • Версия snmpd.conf зависит от того, какая версия системы используется: AIX 5L V5.1 или более поздняя. В более поздних версиях системы AIX 5L, чем V5.1, по умолчанию используется файл snmpdv3.conf.

    Демон SNMP считывает файл конфигурации /etc/snmpd.conf при запуске, а также при обновлении или выдаче сигнала kill -1. Этот файл задает имена сообществ (community names) и соответствующие привилегии доступа и представления, хосты уведомления о ловушках (trap), атрибуты журналов, конфигурации параметров snmpd, а также конфигурации SMUX для snmpd. Процесс установки HACMP добавляет clsmuxpd-пароль для этого файла.

    Чтобы включить HACMP MIB с управлением из диспетчера кластера (Cluster Manager), в конец файла добавляется запись

    smux 1.3.6.1.4.1.2.3.1.2.1.5 "clsmuxpd_password" # HACMP clsmuxpd
    /etc/snmpd.peers

    Файл /etc/snmpd.peers осуществляет настройку сторон подключения SMUX (snmpd SMUX peers). При установке HACMP добавляет следующую запись, чтобы включить clsmuxpd-пароль для этого файла:

    clsmuxpd 1.3.6.1.4.1.2.3.1.2.1.5 
      "clsmuxpd_password" # HACMP clsmuxpd

    /etc/syslog.conf

    Файл конфигурации /etc/syslog.conf используется для управления выходными данными демона syslogd, который регистрирует системные сообщения. В процессе установки HACMP добавляет в этот файл записи, которые направляют вывод сообщений, связанных с HACMP в определенные файлы.

    Пример:

  • # HACMP Critical Messages from HACMP
  • local0.crit /dev/console
  • # HACMP Informational Messages from HACMP
  • local0.info /usr/es/adm/cluster.log
  • # HACMP Messages from Cluster Scripts
  • user.notice /usr/es/adm/cluster.log
  • # HACMP/ES for AIX Messages from Cluster Daemons
  • daemon.notice /usr/es/adm/cluster.log
  • Файл /etc/syslog.conf должен быть одинаковым на всех узлах.

    /etc/trcfmt

    Файл /etc/trcfmt представляет собой файл-шаблон для утилиты регистрации и создания отчетов трассировки системы, trcrpt. В процессе установки добавляется трассировка HACMP в файл формата трассировки. Трассировка HACMP выполняется для демонов clstrmgr и clinfo.

    /var/spool/cron/crontab/root

    В процессе установки HACMP в файл /var/spool/cron/crontab/root добавляется чередование файлов журналов HACMP.

    0 0 * * * /usr/es/sbin/cluster/utilities/clcycle 
     1>/dev/null 2>/dev/null # >.
    HACMP for AIX Logfile rotation

    Программное обеспечение приложений

    Обычно приложения не зависят от версии HACMP; они даже не знают о функционировании HACMP. Другими словами, HACMP просто запускает и останавливает приложения (HACMP также может осуществлять мониторинг приложений, однако обычно для этого подбирается метод, зависящий от приложения).

    Тем не менее существует несколько приложений, в частности Oracle RAC 9i, которые в значительной степени зависят от используемой версии HACMP.

    Свяжитесь с производителем приложения, чтобы убедиться в отсутствии проблем (например, с лицензированием) при использовании HACMP 5.3.

    Лицензирование

    Необходимо принимать во внимание два аспекта лицензирования: лицензирование HACMP (функций) и лицензирование приложения.

    HACMP

    Начиная с HACMP V5.2 лицензирование HACMP основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP V5. Наличие лицензий HACMP является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP.

    Лицензирование HACMP/XD V5 основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP/XD V5. Наличие лицензий HACMP V5 и HACMP/ XD V5 является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP/XD.

    Лицензирование HACMP V5 Smart Assist основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP V5 Smart Assist. Наличие лицензий HACMP V5 и HACMP V5 Smart Assist является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP V5 Smart Assist.

    Итак, вот что это значит:

  • если у вас есть сервер pSeries с четырьмя процессорами, работающими в режиме использования всех ресурсов в одном разделе (full system partition mode), вам необходима лицензия на 4 процессора;
  • если у вас есть сервер pSeries с четырьмя процессорами, обрабатывающими логические разделы, и HACMP выполняется только в разделе с двумя процессорами, вам необходима лицензия на 2 процессора;
  • конечно же, вам необходима лицензия для каждого сервера, на котором вы планируете запускать HACMP.
  • Примечание. Лицензирование HACMP по микроразделам не осуществляется. Необходимо выполнять лицензирование для процессоров целиком.

    Приложение

    Некоторые приложения имеют особенные требования по лицензированию, например использование отдельной лицензии для каждого процессора, выполняющего приложение; это означает, что необходимо лицензировать приложение путем включения информации, относящейся к процессору, в приложение при его установке. В результате, несмотря на корректную обработку отказов узла программным обеспечением HACMP, оно может быть неспособно перезапустить приложение на узле перемещения при сбое из-за ограничения на количество лицензий для этого приложения в кластере.

    Во избежание этой проблемы, убедитесь в наличии лицензии для каждой системы в кластере, которая потенциально может выполнять приложение.

    Важно! Свяжитесь с производителем приложения, чтобы убедиться в отсутствии проблем с лицензированием при использовании HACMP 5.3.

    Заполнение таблицы планирования программного обеспечения

    Табл. 3.5 содержит полный список программного обеспечения, установленного в нашем примере.

    Программное обеспечение кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 3 из 11 ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ КЛАСТЕРА ДАТА: июль 2005
    КОМПОНЕНТ ПО ВЕРСИЯ КОММЕНТАРИИ
    AIX 5.3 ML02 Последняя версия AIX
    RSCT 2.4.2.1 Последняя версия RSCT
    HACMP 5.3 BASE Версия GA
    IBM SDD 1.6.0.2 ПО обеспечения множественных путей к хранилищу
    ПРИЛОЖЕНИЕ Тестовое приложение, Версия 1 Укажите версии своих приложений
    КОММЕНТАРИИ Для всего ПО выполнена проверка совместимости.
    При выполнении приложений с HACMP проблем не возникает.
    Лицензирование HACMP выполняется для четырех процессоров на каждом узле.
    Лицензирование приложений проверено, и лицензии приобретены для обоих серверов.

    Аспекты операционной системы

    Помимо уровней и наборов файлов операционной системы AIX, существует еще несколько аспектов операционной системы, которые необходимо рассмотреть на этапе планирования.

    Требования к дисковому пространству

    HACMP требует наличия следующих объемов дискового пространства для установки в группе томов rootvg:

  • /usr требует 82 Мб свободного пространства для полной установки HACMP;
  • / (root) требует 710 Кб свободного пространства.
  • Кроме того, рекомендуется выделить приблизительно 100 Мб свободного пространства в /var и /tmp для журналов HACMP. (Требуемое пространство зависит от количества узлов в кластере, которое влияет на размер сообщений, записываемых в различные журналы HACMP.)

    Синхронизация времени

    Синхронизация времени между узлами кластера важна как для приложения, так и для журналов HACMP. Она относится к стандартным задачам системного администратора, и мы рекомендуем использовать NTP-сервер или другую процедуру синхронизации времени между узлами кластера.

    Примечание. Синхронизация времени между узлами особенно полезна для аудита и отладки проблем в кластере.

    Настройки операционной системы

    Для HACMP не требуется дополнительных настроек операционной системы. Используйте обычную настройку AIX в соответствии с рабочей нагрузкой приложений.

    Планирование безопасности

    Защита узлов кластера (и приложения) от несанкционированного доступа является важным фактором общей доступности системы. Существуют некоторые общие аспекты безопасности, а также аспекты, связанные с HACMP, которые мы рассмотрим в этом разделе.

    Безопасность кластера

    Кластеру HACMP нужен способ аутентификации на всех своих узлах для выполнения удаленных команд, связанных с верификацией кластера, синхронизацией и некоторыми административными операциями (C-SPOC).

    Защита кластера необходима для предотвращения неавторизованного доступа к узлам кластера. Начиная с HACMP 5.1 дополнительная защита кластера обеспечивается новым механизмом безопасности, использующим возможности демона коммуникаций кластера (clcomdES).

    Была устранена зависимость от AIX rsh (и таким образом, от файла /.rhosts). Так как некоторые внешние для HACMP команды, например пользовательские скрипты, могут все еще требовать удаленного выполнения команд с использованием r-команд, вам нужно проанализировать, есть ли необходимость оставить файл ~/.rhosts.

    Межузловая связь в HACMP осуществляется с использованием демона кластера (clcomdES), что устраняет необходимость в "классических" удаленных командах AIX.

    Режимы аутентификации подключения в HACMP

  • Стандартный режим безопасности:
  • стандартный режим безопасности (standard security mode) используется по умолчанию;
  • реализуется непосредственно демоном коммуникаций кластера (clcomdES);
  • использует информацию об узлах и адаптерах, хранящуюся в ODM-классах HACMP и файле /usr/es/sbin/cluster/etc/rhosts, для определения допустимых партнеров.
  • Расширенный режим безопасности (kerberos):
  • режим безопасности Kerberos (enhanced security mode) доступен только для кластеров HACMP, реализованных в кластере SP;
  • используется метод аутентификации Kerberos.
  • Для повышения безопасности можно также использовать VPN-туннели между узлами кластера. В этом случае трафик clcomdES для IP-интерфейсов/адресов, сконфигурированных в HACMP, направляется через VPN-туннели, предоставляемые AIX. При использовании VPN следует применять постоянные адреса для VPN-туннелей. Конфигурирование VPN сначала выполняется в AIX, а потом в HACMP. Для упрощения конфигурирования HACMP предоставляет меню SMIT.

    В стандартном режиме безопасности при удаленном выполнении команд HACMP в /usr/es/sbin/cluster используется принцип наименьших привилегий. При этом ни одна команда не может быть выполнена на удаленном узле с привилегиями "root", кроме команд, перечисленных в /usr/es/sbin/cluster. Эти команды HACMP считаются доверенными, и для них допускается запуск с привилегиями "root"; все остальные команды выполняются под учетной записью "nobody".

    Для управления межузловыми коммуникациями демону коммуникаций кластера необходим список допустимых IP-меток или адресов кластера. Существует два способа предоставить эту информацию:

  • автоматическое конфигурирование узлов (используется по умолчанию);
  • индивидуальное конфигурирование узлов (вручную).
  • Автоматическое конфигурирование узлов

    Если вы впервые осуществляете конфигурирование HACMP, файл /usr/es/sbin/cluster/ etc/rhosts на узле является пустым. Демон clcomdES должен выполнить аутентификацию IP-адреса входящего подключения, чтобы убедиться, что оно исходит от узла в кластере; правила проверки адресов основаны на следующем процессе:

  • Если файл /usr/es/sbin/cluster/etc/rhosts пуст и на этом узле не определен кластер HACMP, то первое подключение с другого узла будет аутентифицировано и принято. Содержимое файла /usr/es/sbin/cluster/etc/rhosts будет изменено; оно будет включать все базовые адреса сетевых адаптеров, доступные для ping-опроса с запрашивающего узла.
  • Если на узле уже определен кластер (ODM-класс HACMPcluster не пуст), то clcomdES ищет путь для связи (IP-адрес) в ODM-классе HACMPnode, а затем в HACMPadapter. Если он находит допустимый путь для связи, он берет первое вхождение (сначала из HACMPnode, затем из HACMPadapter); в противном случае выполняется поиск допустимого IP-адреса в файле /usr/es/sbin/cluster/etc/rhosts.
  • Если clcomdES не может выполнить аутентификацию входящих подключений, он выдаст ошибку и вам нужно будет вручную исправить файл /usr/es/sbin/cluster/ etc/rhosts, после чего повторно запустить демон clcomdES (stopsrc -s clcomdES, startsrc -s clcomdES)
  • Обычно пользователю не приходится вручную заполнять файл rhosts; это делает clcomdES. Так как после установки этот файл пуст, он будет заполнен при первом подключении с другого узла. Первое подключение обычно выполняется с целью верификации и синхронизации, после чего происходит заполнение ODM-классов HACMPnode и HACMPadapter. После синхронизации кластера файл rhosts можно очистить, но не удалить. Информация из классов HACMPnode и HACMPadapter затем используется для аутентификации clcomd.

    Внимание!
  • Чтобы гарантировать, что неавторизованный хост не подключится к узлу между установкой программного обеспечения HACMP и инициированием подключения от одного узла кластера к другому, можно вручную заполнить (отредактировать) файл /usr/es/sbin/cluster/etc/rhosts, добавив в него одну или несколько IP-меток/ адресов (являющихся частью кластера).
  • Если впоследствии вы решите переделать конфигурацию кластера (начать с самого начала или изменить базовые IP-адреса узлов), рекомендуется также очистить содержимое файла rhosts (НЕ УДАЛЯЯ ЕГО) на ВСЕХ узлах, на которых планируется реализовать кластер.
  • Индивидуальное конфигурирование узлов

    В качестве альтернативного решения, если вас в особенности интересует сетевая безопасность (построение кластера может выполняться на основе незащищенной сети), можно поместить все IP-адреса/метки в файл /usr/es/sbin/cluster/etc/rhosts до конфигурирования кластера.

    При установке HACMP этот файл создается пустым и имеет разрешения чтения и записи только для пользователя "root".

    Примечание. Убедитесь, что каждые IP-адрес/метка допустимы для кластера, иначе в файл /var/hacmp/clcomd/clcomd.log будет записана ошибка.

    Настройка файла /usr/es/sbin/cluster/etc/rhosts

  • Откройте файл /usr/es/sbin/cluster/etc/rhosts на узле под учетной записью "root".
  • Отредактируйте файл, добавив в него все возможные IP-адреса сетевых интерфейсов каждого узла.
  • Вводите по одной IP-метке или адресу в каждой строке.
  • Примечание. Если вы отключите демон коммуникаций кластера или полностью УДАЛИТЕ файл /usr/es/sbin/cluster/etc/rhosts, программы, требующие межузловой связи, такие, как C-SPOC, средства верификации и синхронизации кластера, наборы файлов и средства аутентификации и шифрования сообщений, работать не будут. По этой причине необходимо обеспечить постоянное выполнение clcomdES.

    Администрирование пользователей

    Большинство приложений требует, чтобы информация о пользователях (идентификатор пользователя, членство в группе, идентификатор группы) была согласованной на всех узлах кластера, чтобы пользователи могли подключиться к работающим узлам без возникновения проблем.

    Это особенно важно в ситуациях перемещения при сбое (перехвата). Очень важно, чтобы пользователь приложения был способен осуществлять доступ к общим файлам с любого узла в кластере. Обычно это означает, что идентификатор пользователя (UID) и идентификатор группы (GID), связанные с приложением, должны быть одинаковы на всех узлах.

    При подготовке к конфигурированию кластера важно это учитывать и в случае необходимости исправить; в противном случае могут возникнуть проблемы с обслуживанием во время перемещения при сбое.

    После установки HACMP содержит средства управления учетными записями пользователей и групп AIX 5L в кластере HACMP. Также имеется утилита для авторизации заданных пользователей и изменения их пароля на всех узлах в кластере HACMP.

    Внимание! При управлении учетными записями пользователей с применением таких утилит, как Network Information Service (NIS), средств управления пользователями PSSP или Distributed Computing Environment (DCE) Manager, НЕ употребляйте средства управления пользователями HACMP. Применение средств управления пользователями HACMP в такой среде может вызвать серьезную несогласованность в базах данных аутентификации пользователей.

    Группа HACMP

    При установке HACMP, если группа hacmp не существует, она будет создана. При создании группы HACMP просто берет следующий доступный идентификатор GID для группы hacmp.

    Примечание. Если вы предпочитаете контролировать идентификатор GID группы hacmp, рекомендуем создать группу hacmp перед установкой наборов файлов HACMP.

    IP-порты HACMP

    Помимо портов, перечисленных в файле /etc/services, следующие службы также требуют использования портов, однако эти порты выбираются произвольным образом при запуске процесса. В настоящее время нет способа выделения определенных портов, просто помните об их наличии. Для примера представлены типичные номера портов (однако при необходимости они могут быть изменены):

  • #clstrmgr 870/udp,
  • #clstrmgr 871/udp,
  • #hatsd 32789/udp,
  • #clinfo 32790/udp.
  • Планирование наборов файлов HACMP

    HACMP требует, чтобы определенные файлы были одинаковыми на всех узлах кластера. К таким файлам относятся скрипты обработки событий, скрипты приложений, некоторые файлы конфигурации AIX 5L и файлы конфигурации HACMP. Средство HACMP File Collections позволяет выполнять автоматическую синхронизацию этих файлов между узлами кластеров, выдавая предупреждения в случае неожиданных результатов (например, если один или несколько файлов из набора были удалены или имеют нулевую длину на одном или нескольких узлах кластера).

    Управление этими наборами файлов можно осуществлять через меню SMIT. С помощью SMIT можно добавлять, удалять и изменять наборы файлов для соответствия вашим потребностям.

    Стандартные наборы файлов HACMP

    При установке HACMP происходит установка следующих наборов файлов (file collections):

  • Configuration_Files,
  • HACMP_Files.
  • Configuration_Files

    Набор Configuration_Files представляет контейнер для следующих важных системных файлов:

  • /etc/hosts,
  • /etc/services,
  • /etc/snmpd.conf,
  • /etc/snmpdv3.conf,
  • /etc/rc.net,
  • /etc/inetd.conf,
  • /usr/es/sbin/cluster/netmon.cf,
  • /usr/es/sbin/cluster/etc/clhosts,
  • /usr/es/sbin/cluster/etc/rhosts.
  • Можно изменять опции распространения для этого набора файлов, а также добавлять и удалять файлы из этого набора файлов.

    HACMP_Files

    Набор HACMP_Files представляет контейнер, в котором обычно находятся настраиваемые пользователем файлы конфигурации HACMP, в частности скрипты запуска/ остановки, настраиваемые события и т. д. Этот набор файлов не может быть удален или изменен, и файлы из этого набора нельзя удалить, изменить или добавить.

    Примечание. Например, при определении сервера приложений в HACMP (создании скриптов запуска, остановки и необязательных скриптов мониторинга) HACMP автоматически включает эти файлы в набор HACMP_Files.

    Планирование сетей кластера

    Конфигурация сети представляет основной компонент схемы кластера. В стандартной кластерной среде клиенты осуществляют доступ к приложениям через сеть TCP/IP (обычно через Ethernet) с использованием сервисного адреса.

    HACMP обеспечивает высокую доступность этого сервисного адреса, а также при необходимости перемещение этого адреса между коммуникационными интерфейсами в одной сети. HACMP пересылает пакеты пульса между всеми коммуникационными интерфейсами (адаптерами) в сети, чтобы определить состояние адаптеров и узлов и предпринять необходимые меры.

    Чтобы не допустить возникновения единой точки отказа в сетевом протоколе TCP/IP, а также разделения кластера, HACMP также использует отличные от IP сети типа "точка-точка" для мониторинга пульса. Это позволяет HACMP определить причину отказа, например отказ TCP/IP или отказ узла.

    В этом разделе мы рассмотрим каждый тип сети и выберем соответствующие сетевые подключения и адреса.

    На рис. 3.4 представлен обзор сетей, используемых в кластере.

    Сеть Ethernet применяется для открытого доступа; к ней с каждого узла подключается несколько адаптеров. Эта сеть содержит базовые IP-адреса, постоянные IP-адреса и сервисные IP-адреса. Можно использовать несколько сетей, однако для простоты описания мы будем применять только одну.

    Также показана последовательная сеть RS232. Она представляет собой сеть типа "точка-точка" с прямым подключением, с кабельным соединением между последовательными портами на каждом узле.

    Также представлена сеть пульса через диски (а также сеть типа "точка-точка"). При использовании SAN-дисков можно легко реализовать мониторинг пульса через диски, так как это не требует дополнительного оборудования. Кроме того, в multipathконфигурации устройств применение устройства vpath, в отличие от hdisk, позволяет использовать возможности программного обеспечения SDD. Другими словами, в hdisk применяется только один путь к устройству, тогда как в vpath обычно используется несколько путей. Multipath-устройства могут быть сконфигурированы при употреблении нескольких дисковых адаптеров на узле, нескольких адаптеров хранилища или при одновременном использовании и того и другого.

    (рис 3.4) Сети кластера HACMP

    Все сетевые подключения применяются HACMP для мониторинга состояния сети, адаптеров и узлов кластера.

    В нашем примере мы планируем использовать сеть Ethernet и сеть пульса через диски, а не сеть RS232.

    Терминология

    Этот раздел содержит краткий обзор терминологии, применяемой в обсуждениях сетевых возможностей HACMP.

    IP-метки

    IP-метки (IP labels) представляют собой имена, связанные с IP-адресами, подлежащими разрешению системой (/etc/hosts, BIND и т. д.).

    Сервисная IP-метка/адрес

    Сервисная IP-метка/адрес (service IP label/address) представляет собой IP-адрес или метку, через которую осуществляется обслуживание. Обычно она представляет собой адрес, используемый клиентами для доступа к приложению. Она может быть привязана к узлу либо совместно использоваться узлами, и HACMP обеспечивает его высокую доступность.

    Постоянная IP-метка/адрес

    Постоянная IP-метка/адрес (persistent IP label/address) – это IP-синоним, привязанный к узлу, управляемый HACMP. Другими словами, постоянный синоним никогда не перемещается на другой узел; иногда он называется привязанным к узлу (node-bound).

    Коммуникационный интерфейс

    Коммуникационный интерфейс (communication interface) – это физический интерфейс, поддерживающий протокол TCP/IP. В качестве примера можно привести Ethernetадаптер. Представлен IP-меткой времени загрузки или базовой IP-меткой.

    Коммуникационное устройство

    Коммуникационное устройство (communication device) – это физическое устройство, представляющее сторону отличной от IP сети типа "точка-точка". Например: /dev/tty1 и /dev/vpath0.

    Коммуникационный адаптер

    Коммуникационный адаптер (communication adapter) – это физический адаптер X25, высокая доступность которого поддерживается HACMP.

    Сетевая интерфейсная карта (NIC)

    Сетевая интерфейсная карта (Network Interface Card, NIC) – это обычный физический адаптер, используемый для предоставления доступа к сети, например Ethernetадаптер считается сетевой интерфейсной картой.

    Общие аспекты сети

    Данный раздел содержит множество аспектов, которые следует помнить при разработке конфигурации сети.

    Поддерживаемые типы сетей

    HACMP позволяет осуществлять межузловую связь в TCP/IP-сетях следующих типов. (следует заметить, что наиболее часто используемой сетью является Ethernet):

  • Ethernet;
  • Token-Ring;
  • Fiber Distributed Data Interchange (FDDI);
  • ATM и эмуляция ATM LAN;
  • SP Switch1 и SP Switch2;
  • Etherchannel (или 802.3ad Link Aggregation).
  • Следующие TCP/IP-сети не поддерживаются:

  • Средство VIPA (Virtual IP Address) в системе AIX 5L;
  • Serial Optical Channel Converter (SOCC);
  • SLIP;
  • FC Switch (FCS);
  • IBM HPS (High Performance Switch);
  • 802_ether;
  • IP V6.
  • Можно сконфигурировать мониторинг пульса посредством сетей "точка-точка" следующих типов:

  • последовательная сеть RS232;
  • мониторинг пульса через диски (через диски в режиме расширенного одновременного доступа);
  • Target mode SSA (почти устарел);
  • Target mode SCSI (устарел).
  • Сетевые подключения

    HACMP требует, чтобы каждый узел в кластере имел как минимум одно прямое немаршрутизируемое сетевое подключение ко всем остальным узлам. Эти сетевые подключения передают сообщения пульса между узлами кластера для определения состояния всех узлов кластера, сетей и сетевых интерфейсов.

    HACMP также требует, чтобы все коммуникационные интерфейсы для заданной сети кластера были определены в одной физической сети, осуществляли маршрутизацию пакетов и получали ответы друг от друга без помех от другого сетевого оборудования.

    Не используйте интеллектуальные коммутаторы, маршрутизаторы или другое сетевое оборудование, которые не осуществляют прозрачную передачу широковещательной рассылки UDP и других пакетов между всеми узлами кластера.

    Мосты, концентраторы и прочие пассивные устройства, не изменяющие поток пакетов, можно благополучно размещать между узлами кластера, а также между узлами и клиентами.

    На рис. 3.5 показана физическая конфигурация Ethernet с двумя Ethernet-адаптерами на каждом узле, подключенными через два коммутатора; все узлы сконфигурированы в одной физической сети (VLAN). Это иногда называется расположением в одном "домене коллизий" MAC.

    Etherchannel

    HACMP поддерживает применение Etherchannel (или Link Aggregation) для подключения к сети Ethernet. Etherchannel может быть полезен, если вы посчитаете нужным использовать несколько Ethernet-адаптеров как для увеличения пропускной способности сети, так и для перемещения при сбое, но при этом также требуется сохранить простоту конфигурации HACMP. При употреблении Etherchannel можно просто задать интерфейс(рис 3.5) Подключения к коммутаторам в сети EthernetEtherchannel в качестве коммуникационного интерфейса; любые отказы в сети Ethernet, за исключением отказа самой сети Ethernet, можно обрабатывать без участия HACMP.

    EtherChannel представляет собой технологию агрегации сетевых портов, позволяющую объединять несколько Ethernet-адаптеров для создания одного псевдоEthernet-устройства. Например, ent0 и ent1 можно объединить в адаптер EtherChannel под названием ent3; затем можно настроить IP-адрес для интерфейса en3. Система считает эти объединенные адаптеры одним адаптером. Таким образом, IP-адрес настраивается для них как для любого Ethernet-адаптера. Кроме того, всем адаптерам в EtherChannel назначается один аппаратный (MAC) адрес, так что для удаленных систем они представляются как один адаптер.

    Основное преимущество технологии EtherChannel состоит в том, что она использует сетевую пропускную способность всех адаптеров. При отказе адаптера сетевой трафик автоматически передается на следующий доступный адаптер без разрыва существующих пользовательских подключений. После восстановления адаптер автоматически возвращается к работе.

    В дополнение к функции агрегации также можно выполнить назначение резервного адаптера. Этот адаптер конфигурируется как часть Etherchannel, но остается неактивным, пока не откажут все основные адаптеры. Это называется резервированием сетевого интерфейса (Network Interface Backup, NIB).

    EtherChannel представляет собой технологию агрегации сетевых портов, позволяющую объединять несколько Ethernet-адаптеров для создания одного псевдоEthernet-устройства. Например, ent0 и ent1 можно объединить в адаптер EtherChannel под названием ent3; затем можно настроить IP-адрес для интерфейса en3. Система считает эти объединенные адаптеры одним адаптером. Таким образом, IP-адрес настраивается для них как для любого Ethernet-адаптера. Кроме того, всем адаптерам в EtherChannel назначается один аппаратный (MAC) адрес, так что для удаленных систем они представляются как один адаптер.

    Основное преимущество технологии EtherChannel состоит в том, что она использует сетевую пропускную способность всех адаптеров. При отказе адаптера сетевой трафик автоматически передается на следующий доступный адаптер без разрыва существующих пользовательских подключений. После восстановления адаптер автоматически возвращается к работе.

    В дополнение к функции агрегации также можно выполнить назначение резервного адаптера. Этот адаптер конфигурируется как часть Etherchannel, но остается неактивным, пока не откажут все основные адаптеры. Это называется резервированием сетевого интерфейса (Network Interface Backup, NIB).

    При планировании сети Etherchannel необходимо учитывать следующее:

  • основные (агрегированные) линии должны быть подключены к одному коммутатору;
  • необходимо настроить сетевой коммутатор, указав, какие порты использует Etherchannel;
  • резервный сетевой интерфейс должен быть подключен к отдельному коммутатору;
  • использование адаптеров с разной скоростью передачи не поддерживается.
  • На рис. 3.6 представлена простая конфигурация Etherchannel с двумя адаптерами, подключенными к одному коммутатору, и с резервным адаптером, подключенным к отдельному коммутатору. В этой конфигурации HACMP настраивается на использование только одного базового адаптера на узел (en3). В нашем примере базовый, постоянный и сервисный IP-адреса будут находиться на одном адаптере, пока не произойдет перемещение при сбое на другой узел.

    На рис. 3.7 показана несколько более сложная конфигурация, в которой каждый узел имеет два адаптера Etherchannel, по одному на каждый коммутатор. При такой конфигурации HACMP использует адаптеры Etherchannel в качестве базовых.

    Примечание. Etherchannel может содержать от 1 до 8 основных адаптеров при одном резервном адаптере на Etherchannel. Это позволяет использовать только один адаптер в качестве основного и один адаптер в качестве резервного, если требуется обрабатывать отказы адаптера или коммутатора без использования HACMP. (рис 3.7) Etherchannel с резервированием сетевого интерфейса(рис 3.6) Конфигурация с несколькими адаптерами Etherchannel

    Имена хостов и имена узлов

    Обычно имя хоста совпадает с именем узла HACMP. При использовании пути конфигурации "Standard" ("Базовая") HACMP получает с узла имя хоста и использует его в качестве имени узла. При использовании расширенного пути конфигурирования (Extended Configuration path) можно задать имя узла самостоятельно.

    В том случае, если приложение требует переноса имени хоста в AIX 5L в случае перемещения при сбое на другой узел вместе с приложением, следует использовать скрипты преди постобработки для изменения имени хоста таким образом, чтобы оно соответствовало сервисной IP-метке при перемещении группы ресурсов, содержащей это приложение, на другой узел.

    Внимание! Если вы планируете использовать DLPAR, имя хоста в AIX, имя узла кластера и имя HMC LPAR должны совпадать.

    Мы рекомендуем вам избегать таких ситуаций, так как они ограничивают варианты перемещения при сбое. Например, вы не можете изменить имя хоста на резервном узле, если на нем уже выполняется приложение. В этом случае потребуется сконфигурировать дежурный узел.

    /etc/hosts

    IP-адрес и связанная с ним метка (имя) должны быть заданы в файле /etc/hosts. Мы рекомендуем выбрать один из узлов кластера для выполнения всех изменений в этом файле, а затем использовать FTP или наборы файлов HACMP для распространения файла /etc/hosts на другие узлы.

    Примечание. Мы настоятельно рекомендуем провести тестирование прямого и обратного разрешения имен на всех узлах в кластере и соответствующих пунктах управления оборудованием (Hardware Control Points, HMC ). Все эти компоненты должны выполнять разрешение имен идентичным образом, в противном случае могут возникнуть проблемы безопасности и другие проблемы, связанные с разрешением имен.

    IP-метки

    IP-метка представляет собой IP-адрес, сконфигурированный на NIC в дополнение к базовому IP-адресу NIC. Использование IP-синонимов является функцией AIX 5L, поддерживаемой HACMP. AIX 5L поддерживает использование нескольких IP-синонимов на NIC, как в одной, так и в разных подсетях. Примечание. AIX 5L допускает конфигурирование IP-синонимов с разными масками подсети для интерфейса, однако в HACMP эта функция еще не поддерживается.

    Постоянные IP-адреса (синонимы)

    Основная цель использования постоянных синонимов состоит в том, чтобы обеспечить доступ к узлу с отключенными службами HACMP. Постоянный синоним представляет собой маршрутизируемый адрес, доступ к которому сохраняется, пока работает узел. Этот синоним требуется сконфигурировать через HACMP. При запуске HACMP выполняется проверка доступности синонима, и если он недоступен, HACMP конфигурирует его на доступном адаптере в выделенной сети. Если синоним уже доступен, HACMP сохраняет его.

    Важно! Если на узле существует постоянный IP-адрес, он ДОЛЖЕН быть синонимом, а НЕ базовым адресом адаптера.

    Постоянный синоним

  • Всегда находится на одном узле (привязан к узлу).
  • Сосуществует с другими IP-метками на интерфейсе.
  • Не требует установки дополнительного физического интерфейса на узле.
  • Не входит в какую-либо группу ресурсов.
  • Мы рекомендуем выполнить конфигурирование постоянного синонима через AIX ("smitty inetalias"), прежде чем выполнять конфигурирование HACMP. После этого в качестве пути для связи с узлом рекомендуется использовать постоянный синоним, а не базовые адаптеры. Это дает вам свободу при необходимости впоследствии изменять базовые IP-адреса (при изменении адреса базового адаптера следует обязательно проверить файл /usr/es/sbin/cluster/etc/rhosts). После конфигурирования HACMP следует добавить постоянный синоним в конфигурацию HACMP.

    Примечание. Постоянный IP-адрес назначается HACMP на одном коммуникационном интерфейсе, входящем в сеть, определенную в HACMP.

    Рис. 3.8 иллюстрирует понятие постоянного адреса. Заметьте, что он представляет собой просто еще один IP-адрес, сконфигурированный на одном из базовых интерфейсов. Команда netstat отображает его как дополнительный IP-адрес адаптера.

    (рис 3.8) Постоянные синонимы

    Подсети

    Требования к подсетям колеблются в зависимости от выбранной конфигурации (перехват IP-адреса посредством замены или посредством синонимов), однако в HACMP маски подсетей для всех коммуникационных интерфейсов, определенных в HACMP, должны быть одинаковыми.

    При перехвате IP-адреса посредством замены:

  • базовый и сервисный IP-адреса на основном адаптере должны относиться к одной подсети;
  • все базовые IP-адреса на дополнительных адаптерах должны относиться к разным подсетям (должны быть отличными друг от друга и от основного адаптера).
  • Примечание. Адреса базового адаптера также называются "загрузочными" IP-адресами, если не используется мониторинг пульса через IP-синонимы (описано далее в этом разделе).

    При перехвате IP-адреса посредством синонимов:

  • все базовые IP-адреса на узле должны относиться к разным подсетям (если не используется мониторинг пульса через IP-синонимы);
  • все сервисные IP-адреса должны относиться к подсети, отличной от любой из базовых подсетей;
  • сервисные IP-адреса могут относиться как к одной, так и к различным подсетям;
  • постоянный IP-адрес может относиться как к той же подсети, к которой относится и сервисный IP-адрес, так и к другой подсети;
  • если вы решите использовать мониторинг пульса через IP-синонимы, то базовые IP-адреса могут относиться как к одной подсети, так и к различным подсетям, так как при этом HACMP не осуществляет их мониторинг, а только мониторинг синонимов, заданных в HACMP.
  • Аспекты шлюза (маршрута) по умолчанию

    В зависимости от конфигурации вашей IP-сети при управлении интерфейсами из HACMP может произойти потеря маршрута по умолчанию.

    Если маршрут по умолчанию привязан к одной из подсетей базового адреса, то при отказе этого адаптера произойдет потеря маршрута по умолчанию.

    Чтобы не допустить возникновения такой ситуации, мы рекомендуем использовать постоянный адрес и привязать маршрут по умолчанию к этой подсети. Постоянный адрес будет активным, пока будет активным узел; таким образом, маршрут по умолчанию также будет активным.

    Если вы решите этого не делать, то придется создать скрипт постобработки события, чтобы восстановить маршрут по умолчанию при возникновении проблемы.

    Обновление ARP-кеша

    При изготовлении каждой сетевой интерфейсной карте (Network Interface Card, NIC) назначается уникальный аппаратный адрес – MAC-адрес (Media Access Control). MACадрес представляет адрес, используемый сетевыми драйверами для отправки пакетов между сетевыми картами в локальной сети. Большинство систем ведут список, содержащий недавно использовавшиеся IP-адреса и соответствующие им MAC-адреса и называемый ARP-кешем. Так как HACMP может перемещать IP-адреса между сетевыми картами, некоторые записи клиентского ARP-кеша могут быть неточными.

    После возникновения события в кластере, узлы и сетевые устройства HACMP, поддерживающие смешанный режим (promiscuous mode), автоматически обновляют свои ARPкеши. Клиенты и сетевые устройства, не поддерживающие смешанный режим, продолжают содержать неправильные записи. Это можно исправить одним из двух способов:

  • Посредством использования альтернативных аппаратных адресов. Нужно настроить HACMP на перемещение как IP-адреса, так и MAC-адреса (работает только при перехвате IP-адреса посредством замены).
  • Обновлением ARP-кеша посредством использования записей ping_client_list в clinfo.rc.
  • HACMP в коммутируемой сети

    При использовании VLAN все интерфейсы, определенные в HACMP для заданной сети, должны относиться к одной VLAN. Таким образом, все адаптеры в одной сети должны быть подключены к одной физической сети и вести обмен данными друг с другом ("видеть" MAC-адреса друг друга).

    Примечание. НЕ все адаптеры должны содержать адреса, маршрутизируемые вне VLAN. Только сервисные и постоянные адреса должны быть маршрутизируемыми. Адреса базового адаптера и любые синонимы, используемые для мониторинга пульса, не должны обязательно быть маршрутизируемыми вне VLAN, так как они неизвестны клиентской стороне.

    Нужно убедиться, что коммутатор обеспечивает своевременную реакцию на ARPзапросы. Для многих моделей коммутаторов это означает отключение следующих функций:

  • алгоритм spanning tree,
  • portfast,
  • uplinkfast,
  • backbonefast.
  • Если требуется, чтобы алгоритм spanning tree был включен, то функция portfast также должна быть включена.

    Настройки скорости передачи в Ethernet

    Так как согласование скорости передачи может вызвать проблемы в некоторых комбинациях адаптеров и коммутаторов, рекомендуется не использовать автоматическое согласование, а устанавливать требуемые значения скорости и дуплексного режима.

    Планирование перехвата IP-адреса

    Перехват IP-адреса (IP Address Takeover, IPAT) представляет собой механизм, используемый HACMP для перемещения сервисных адресов между коммуникационными интерфейсами.

    Существует два метода: перехват IP-адреса посредством замены (IPAT via replacement) и перехват IP-адреса посредством синонимов (IPAT via aliases). Конфигурация вашей сети зависит от применяемого метода управления интерфейсами.

    Для любой новой инсталляции мы рекомендуем использовать перехват IP-адреса посредством синонимов, так как этот метод прост в реализации и более гибок, чем перехват IP-адреса посредством замены. Можно применять несколько сервисных адресов для одного адаптера в любое время; кроме того, в случае перемещения при сбое имеет место некоторая экономия времени, так как HACMP просто нужно добавить синоним, а не выполнять повторное конфигурирование базового IP-адреса адаптера, что гораздо быстрее.

    Некоторые конфигурации потребуют использования мониторинга пульса через синонимы. Например, если оба локальных базовых адаптера относятся к одной подсети или же если все базовые адаптеры на всех узлах относятся к разным подсетям.

    Все варианты подробно рассматриваются в следующем разделе. В нашем примере применяется перехват IP-адреса посредством синонимов и мониторинг пульса через синонимы.

    Перехват IP-адреса посредством замены

    Этот способ конфигурирования сетей HACMP является более традиционным. HACMP при запуске осуществляет замену загрузочного адреса на сервисный адрес.

    Для кластера из двух узлов требуется использование по меньшей мере одной подсети на коммуникационный интерфейс на узел (при использовании одинаковой маски подсети во всех подсетях). Для кластера с несколькими коммуникационными интерфейсами на узел требуется следующее:

  • базовый и сервисный адреса основного коммуникационного интерфейса должны относиться к одной подсети;
  • базовые IP-адреса всех дополнительных коммуникационных интерфейсов должны относиться к различным подсетям (относительно друг друга и относительно основного интерфейса).
  • Преимущество перехвата IP-адреса посредством замены состоит в том, что оно разрешает выполнять перехват аппаратного адреса (Hardware Address Takeover, HWAT) вместе с перехватом IP-адреса посредством замены. Эта возможность позволяет осуществлять перемещение (локально администрируемого) MAC-адреса адаптера, соответствующего сервисному IP-адресу, вместе с IP-адресом на дежурный адаптер. Это устраняет необходимость обновления ARP-кеша на стороне клиента в случае переноса IP-адресов.

    (рис 3.9) Перехват IP-адреса посредством замены

    На рис. 3.9 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, что HACMP при запуске заменяет загрузочный/базовый адрес сервисным адресом. Перемещение при сбое выполняется на дополнительный (дежурный) адаптер(ы), где, опять же, базовый (дежурный) адрес заменяется сервисным адресом. Количество сервисных адресов ограничено количеством резервных адаптеров, определенных в той же сети HACMP.

    Перехват IP-адреса посредством синонимов

    Этот метод назначения сервисных адресов является более новым и более гибким, чем перехват IP-адреса посредством замены. Используя перехват IP-адреса посредством синонимов, можно осуществлять назначение нескольких IP-адресов одному коммуникационному интерфейсу.

    HACMP позволяет использовать перехват IP-адреса посредством IP-синонимов для следующих типов сетей, поддерживающих gratuious ARP-запросы (в AIX):
  • Ethernet;
  • Token Ring;
  • FDDI;
  • SP Switch1 и SP Switch2.
  • Примечание. Перехват IP-адреса посредством IP-синонимов не поддерживается в сетях ATM.

    При запуске HACMP выполняется конфигурирование сервисного синонима поверх существующего базового IP-адреса доступного адаптера.

    При использовании перехвата IP-адреса посредством синонимов следует учитывать следующие требования:

  • Требования подсетей:
  • Каждый базовый адаптер должен относиться к отдельной подсети, чтобы можно было осуществлять мониторинг пульса. Базовые адреса не обязательно должны быть маршрутизируемыми вне кластера.Примечание. Это ограничение снимается при использовании мониторинга пульса через синонимы.
  • Сервисные адреса должны относиться к отдельной подсети относительно любой из базовых подсетей. Можно использовать несколько сервисных адресов, и все они могут относиться как к одной подсети, так и к различным подсетям.
  • Постоянный синоним может относиться либо к той же подсети, либо к другой подсети относительно сервисного адреса.
  • Все маски подсети должны быть одинаковыми.
  • Несколько сервисных меток могут совместно существовать как синонимы для заданного интерфейса.
  • Нельзя сконфигурировать перехват аппаратного адреса (Hardware Address Takeover, HWAT).
  • Мы рекомендуем использовать постоянный синоним и включить его в одну подсеть с маршрутом по умолчанию. Это обычно означает, что постоянный адрес должен быть включен в одну подсеть с сервисными адресами. Постоянный синоним можно использовать для доступа к узлу при отключенном HACMP, а также для преодоления проблем с маршрутом по умолчанию.

    Можно выполнить настройку параметров размещения сервисных IP-меток, сконфигурированных в HACMP V5.3. Можно настроить размещение синонимов через меню SMIT с использованием следующих вариантов:

  • Без совместного размещения (Anti-Collocation). Используется по умолчанию. HACMP распределяет сервисные IP-метки по всем доступным коммуникационным интерфейсам с использованием выбора по принципу наименьшей загруженности.
  • С совместным размещением (Collocation). HACMP размещает все сервисные IP-метки на одном коммуникационном интерфейсе (NIC).
  • Без совместного размещения и с постоянной меткой (Anti-Collocation with persistent label). HACMP размещает все сервисные IP-метки по всем активным коммуникационным интерфейсам, не содержащим постоянную IP-метку синонима. HACMP размещает сервисную IP-метку на интерфейсе, содержащем постоянную метку только в том случае, если другие сетевые интерфейсы недоступны. Если постоянные IP-метки не были сконфигурированы, HACMP позволяет выбрать метод размещения Anti-Collocation with Persistent (Без совместного размещения и с постоянной меткой), однако при этом выдается предупреждение и по умолчанию используется обычный метод без совместного размещения.(рис 3.10) Перехват IP-адреса посредством синонимов
  • С совместным размещением и с постоянной меткой (Collocation with persistent label). Все сервисные IP-метки располагаются на одной сетевой карте, содержащей постоянную IP-метку. Этот вариант может быть полезен при конфигурациях виртуальной частной сети (VPN) с брандмауэром, где только один интерфейс имеет внешний выход и все IP-адреса (постоянные и сервисные) должны располагаться на одном коммуникационном интерфейсе. Если постоянные IP-метки не были сконфигурированы, HACMP позволяет выбрать метод размещения Collocation with Persistent (С совместным размещением и с постоянной меткой), однако при этом выдается предупреждение и по умолчанию используется обычный метод с совместным размещением.
  • На рис. 3.10 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, базовые адреса не изменяются. HACMP добавляет на базовые адаптеры сервисные и постоянные синонимы. Постоянные адреса всегда доступны, тогда как сервисные метки добавляются и удаляются при запуске и остановке HACMP. Перемещение при сбое выполняется путем переноса сервисной метки на другой доступный коммуникационный интерфейс. В нашем примере только сеть 192.168.100/24 является маршрутизируемой вне кластера.

    Мониторинг пульса через синонимы

    HACMP требует использования отдельной подсети для мониторинга каждого базового адаптера. При конфигурации с применением двух Ethernet-адаптеров на узле требуется две подсети. При употреблении трех адаптеров требуется три подсети. Эти подсети не обязательно должны быть маршрутизируемыми вне сетей кластера.

    Чтобы обеспечить средство мониторинга этих адаптеров (без изменения адреса базового адаптера), а также чтобы избежать возникновения проблем с подсетями, HACMP предоставляет функцию мониторинга пульса через синонимы. Этот метод не требует внесения каких-либо изменений в существующие базовые адреса. HACMP просто игнорирует базовые адреса и добавляет собственный набор синонимов для осуществления мониторинга пульса.

    При использовании мониторинга пульса через IP-синонимы, IP-адреса, используемые при загрузке, могут располагаться либо в той же подсети, либо в других подсетях; однако IP-адрес, применяемый во время загрузки, должен располагаться в подсети, не включающей сервисные IP-метки. Как оказалось, если все адреса (базовые и сервисные) попадают в одну подсеть, возникают проблемы с маршрутизацией в связи с функцией чередования маршрутов (route striping) операционной системы AIX.

    Чтобы установить мониторинг пульса через IP-синонимы, следует настроить параметр "IP Address Offset for Heartbeating over IP Aliases" ("Смещение IP-адреса для мониторинга пульса через IP-синонимы") как часть конфигурирования сетей HACMP. IP-адреса, используемые для мониторинга пульса, определяются и назначаются системой HACMP с применением этого значения смещения. Маска подсети совпадает с той, которая используется для сервисных и несервисных адресов.

    Например, можно в качестве параметра смещения IP-адреса употреблять значение 1.1.1.1. При использовании сети с двумя NIC на каждом узле следует добавить маску подсети 255.255.255.0; в результате получим следующие IP-синонимы мониторинга пульса:

  • node01:
  • en0 1.1.1.1;
  • en1 1.1.2.1.
  • node02:
  • en0 1.1.1.2;
  • en1 1.1.2.2.
  • IP-синонимы мониторинга пульса добавляются при запуске HACMP на узле и удаляются при остановке HACMP. Эти IP-синонимы используются только для сообщений пульса. Для них не требуется осуществлять маршрутизацию, и их не следует применять для какого-либо другого трафика. Маска подсети совпадает с используемой для сервисных и несервисных синонимов.

    На рис. 3.11 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, базовые адреса не изменяются. Помимо сервисных и постоянных синонимов, добавляемых HACMP на базовые адаптеры, также добавляются синонимы пульса. Последние удаляются при остановке HACMP вместе с сервисными синонимами. В нашем примере только сеть 192.168.100/24 является маршрутизируемой вне кластера.

    Команда netstat -i выводит три IP-адреса для каждого адаптера при запущенном HACMP.

    (рис 3.11) Мониторинг пульса через синонимы

    Планирование сети, отличной от IP

    Сети типа "точка-точка" играют важную роль в обеспечении высокой доступности кластера. Достаточно небезопасно применять одну лишь TCP/IP-сеть для обеспечения доступности кластера и недопущения разделения кластера. Поэтому важно создавать сети типа "точка-точка". При использовании больших кластеров необходимо создавать соответствующие пути между всеми узлами в кластере.

    Назначение топологии последовательной сети или сети "точка-точка" состоит в том, чтобы обеспечить достаточное количество путей между узлами кластера, чтобы RSCT могла правильно оценить серьезность сбоя в кластере.

    Разделение кластера

    Разделение кластера (также называемое изоляцией узла или split brain) возникает в том случае, когда узел HACMP перестает получать весь трафик пульса с другого узла (по всем доступным сетям) и предполагает, что на этом узле произошел отказ. Проблема разделения кластера состоит в том, что узлы с одной стороны раздела воспринимают отсутствие пакетов пульса от узлов с другой стороны раздела как признак отказа узлов, генерируя события отказа для этих узлов. После этого узлы с каждой стороны кластера пытаются перехватить ресурсы (если настроен перехват) с узла, который на самом деле все еще активен и потому является законным владельцем этих ресурсов. Такие попытки перехвата могут привести к непредсказуемым результатам в кластере, например к повреждению данных в связи с реинициализацией дисков.

    Наилучшая защита от возникновения подобных ситуаций состоит в том, чтобы использовать несколько сетей, как TCP/IP-сетей, так и сетей типа "точка-точка", чтобы обеспечить правильность оценки серьезности проблемы. Помните о том, что HACMP (в частности, RSCT) отправляет и получает пакеты пульса по всем доступным сетям, поэтому чем больше сетей, тем точнее HACMP сможет определить, имеет ли место отказ узла или отказ сети.

    Следующий набор из четырех рисунков показывает, каким образом следует осуществлять добавление сетей в кластер, чтобы обеспечить наилучшую защиту от разделения кластера.

    На рис. 3.12 показан кластер из четырех узлов с одним Ethernet-подключением к каждому серверу. Так как используется только одна сеть, то при потере любой связи часть кластера будет разделена. В примере показан разрыв связи между двумя Ethernetкоммутаторами, вызывающий отделение двух узлов слева от двух узлов справа. В данном случае могут возникнуть проблемы в результате попыток выполнить перехват ресурсов с активного узла.

    Рис. 3.13 несколько более реалистичен; на нем представлены двойные Ethernetподключения с каждого узла. Каждый Ethernet-адаптер подключен к отдельному коммутатору. В этом случае для разделения кластера необходимо, чтобы произошел отказ двух коммутаторов или же обоих Ethernet-подключений на узле. Однако сама по себе сеть TCP/IP остается единой точкой отказа.

    (рис 3.13) Разделение кластера(рис 3.12) Кластер без разделения с двойными Ethernet-подключениями

    На рис. 3.14 представлена рекомендованная конфигурация. Имеются двойные Ethernet-подключения к нескольким Ethernet-коммутаторам, а также добавлена кольцевая сеть типа "точка-точка". В кольцевой сети каждый узел подключен к своим непосредственным соседям. При потере одного подключения RSCT все еще сможет подключиться ко всем оставшимся узлам. Для разделения кластера потребуется возникновение двойного отказа на узле и отказа сети TCP/IP.

    Для построения надежной конфигурации рассмотрим реализацию звездной топологии. При такой конфигурации, помимо сети TCP/IP, каждый узел подключен ко всем другим узлам кластера сетями типа "точка-точка". Это позволяет обеспечить связь RSCT с работающими узлами при отказе нескольких узлов. Эта конфигурация представлена на рис. 3.15.

    (рис 3.15) Конфигурация с использованием Ethernet-сети и кольцевой сети типа "точка-точка"(рис 3.14) Конфигурация с использованием сети Ethernet и сети типа "точка-точка" звездной топологии

    Планирование последовательных сетей RS232

    Сеть RS232 содержит по одному последовательному порту на каждом узле, подключенном через последовательный кабель. При наличии нескольких узлов потребуется несколько последовательных кабелей.

    Если вы решите использовать последовательную сеть RS232, необходимо учитывать следующее:

  • Некоторые серверы pSeries имеют ограничение на использование встроенных последовательных портов, некоторые порты недоступны, а некоторые порты должны назначаться группами (особенно в среде LPAR).
  • Если доступные последовательные порты отсутствуют, а ваша запланированная конфигурация HACMP для этого узла использует сеть RS232, то требуется использовать специальный PCI-адаптер для узла кластера (LPAR).
  • Все сети RS232, определенные в HACMP, автоматически настраиваются на использование последовательных портов на скорости 38 400 бод. В зависимости от длины последовательного кабеля RSCT поддерживает скорости передачи 38 400, 19 200, 9 600 бод.
  • Для мониторинга пульса можно использовать любой последовательный порт, соответствующий следующим требованиям: оборудование должно поддерживать применение этого последовательного порта для подключения модема;
  • последовательный порт должен быть свободен для исключительного использования в HACMP.
  • Кабель для соединения двух последовательных портов должен быть подключен как полный нуль-модемный кабель; он не поставляется по умолчанию вместе с оборудованием. рис. 3.16 показывает нуль-модемное подключение. Фактически используемые разъемы подключения зависят от оборудования; скорее всего, будут использоваться разъемы DB9, DB25 или RJ50.

    Чтобы определить, соответствуют ли ваши последовательные порты установленным требованиям, см. документацию к оборудованию и сообщения о поддержке HACMP.

    (рис 3.16) Нуль-модемное кабельное подключение

    Планирование мониторинга пульса через диски

    Мониторинг пульса через диски представляет еще один тип сетей типа "точка-точка" для обнаружения отказов. В предыдущих версиях HACMP можно было сконфигурировать отличные от IP сети мониторинга пульса через диски SCSI или SSA путем настройки сетей Target Mode SCSI (TMSCSI) и Target Mode SSA (TMSSA) типа "точка-точка".

    Начиная с HACMP 5.1, можно также сконфигурировать отличное от IP подключение мониторинга пульса через диски типа "точка-точка" с использованием любого общего диска, входящего в группу томов в режиме расширенного одновременного режима (enhanced concurrent mode, ECM).

    В сети мониторинга пульса через диски два узла, подключенные к диску, периодически записывают сообщения пульса и считывают сообщения пульса (записанные другим узлом) с небольшого участка диска, незанятого данными. Хотя сеть пульса через диски соединяет только два узла, кластеры, содержащие больше двух узлов, допускают использование нескольких дисков для мониторинга пульса.

    При употреблении SAN-диска в качестве общего диска следует рассмотреть вариант использования мониторинга пульса через диски по следующим причинам:

  • можно использовать любой имеющийся общий диск (включая диски, подключенные к SAN).
  • не требуется дополнительное оборудование или кабели.
  • Для того чтобы применять мониторинг пульса через диски, необходимы SAN-диски, доступные для обоих узлов и входящие в группу томов с расширенным одновременным доступом.

    Любой общий диск из группы томов в режиме расширенного одновременного доступа может поддерживать подключение пульса типа "точка-точка". Каждый диск может поддерживать одно подключение между двумя узлами. Подключение использует общее дисковое оборудование в качестве пути для связи.

    Сеть пульса через диски в кластере содержит:

  • Два узла, каждый из которых имеет адаптер SAN. Узел может входить в любое количество сетей пульса с использованием одного диска.
  • Диск в режиме расширенного одновременного доступа. Один диск может применяться только в одной сети пульса.
  • При выборе диска для использования при мониторинге пульса необходимо учитывать следующее:

  • Диск, используемый для мониторинга пульса, должен быть членом группы томов в расширенном одновременном режиме. Однако группы томов, связанные с дисками, используемыми для мониторинга пульса, не обязательно должны быть определены как ресурсы в группе ресурсов HACMP.
  • Диск, используемый для мониторинга пульса, не должен быть чрезмерно загружен, так как HACMP ожидает, что операции записи будут происходить в пределах заданных интервалов. Если вы решите применять диск со значительной нагрузкой ввода-вывода, необходимо увеличить значение параметра тайм-аута для сети пульса через диски. Вообще рекомендуется использовать диск, не осуществляющий более 60 операций поиска в секунду.(рис 3.17) Сеть пульса через диски
  • При установке драйвера Subsystem Device Driver (драйвер устройства для серии DS8XXX) и связывании группы томов с расширенным одновременным доступом с активным устройством vpath необходимо убедиться в том, что коммуникационное устройство мониторинга пульса через диски определено для использования устройства /dev/vpath (а не связанного устройства /dev/hdisk); это позволит применять многопутевое программное обеспечение.
  • Если в общей группе томов осуществляется зеркальное отображение, как минимум один диск в каждом зеркальном отображении должен использоваться для мониторинга пульса через диски.
  • В сети пульса через диски рекомендуется применять один LUN (диск) на пару узлов на дисковую стойку.
  • На рис. 3.17 показаны основные компоненты сети пульса через диски.

    Обратите внимание на то, что номер vpath может отображаться различным образом с разных узлов, что связано с нумерацией дисков в AIX. Поэтому рекомендуется проверять PVID, чтобы убедиться в том, что на всех узлах был выбран один и тот же диск.

    Кроме того, рекомендуется запускать процесс обнаружения в HACMP и выбирать требуемые диски из выводимого списка.

    Дополнительные аспекты планирования сети

    Помимо конфигурирования топологии сети, есть еще два вопроса, которые следует рассмотреть при планировании кластера:

  • взаимодействие HACMP с Domain Name Service (DNS) и Network Information Services (NIS);
  • сетевые модули HACMP.
  • Все эти вопросы рассматриваются в данном разделе.

    Взаимодействие HACMP с DNS и NIS

    Чтобы обеспечить успешное и быстрое выполнение событий в кластере, HACMP отключает разрешение имен хоста в NIS или DNS во время обмена сервисных IP-меток путем установки следующей переменной окружения AIX 5L: NSORDER = local. Поэтому файл /etc/hosts на каждом узле кластера должен содержать все IP-метки, определенные в HACMP для всех узлов кластера.

    После завершения операции обмена доступ к DNS восстанавливается. Мы предлагаем поместить запись hosts = local, bind4 в файл /etc/netsvc.conf, чтобы обеспечить чтение файла /etc/hosts перед попыткой поиска в DNS.

    Сетевые модули

    Каждая поддерживаемая сеть кластера имеет соответствующий сетевой модуль RSCT (также называемый сетевым интерфейсным модулем – network interface module, NIM), осуществляющий мониторинг трафика пульса через сеть кластера. Сетевые модули обеспечивают взаимное подключение в кластере, через которое диспетчеры кластера на всех узлах отправляют друг другу сообщения "keep-alive".

    В новых версиях HACMP передает соответствующие параметры настройки в сетевые модули RSCT для поддержки связи через следующие типы сетей:

  • Ethernet;
  • последовательная сеть (RS232);
  • сеть пульса через диски (с использованием дисков с расширенным одновременным доступом);
  • Target-mode SCSI;
  • Target-mode SSA;
  • Token-Ring;
  • FDDI;
  • SP Switch;
  • ATM.
  • Скорость обнаружения отказов

    Скорость обнаружения отказов (failure detection rate) определяет, через какой промежуток времени подключение считается отказавшим. Скорость обнаружения отказов включает два компонента:

  • Цикл отказа (cycle). Количество импульсов, которое может быть пропущено, прежде чем произойдет обнаружение отказа.
  • Скорость пульса (hbrate). Количество секунд между импульсами.
  • Время, требуемое для обнаружения отказа, может быть определено с использованием следующей формулы:

    (скорость пульса) X (цикл отказа) X 2.

    Скорость обнаружения отказов для сетевого модуля можно изменить двумя способами:

  • Выбрать одно из предопределенных значений скорости (медленная, нормальная или быстрая). Для сетей типа Ether применимо следующее:
  • быстрая – 10 с (5 x 1 x 2);
  • нормальная – 20 с (10 x 1 x 2);
  • медленная – 48 с (12 x 2 x 2).
  • Изменить составляющие параметров cycle или hbrate. Можно использовать меню SMIT "Change a Cluster Network Module using Custom Values" ("Изменение сетевого модуля кластера с использованием настраиваемых значений").
  • Предопределенные значения для каждого типа сети определяются таким образом, чтобы получались обоснованные результаты. Вам может потребоваться рассмотреть вариант изменения скорости обнаружения отказов с целью:

  • сократить время перемещения при сбое;
  • не допустить перегрузки процессора узла и последующих ложных перехватов.
  • Сведения о чувствительности сети (также называемой скоростью обнаружения отказов) можно получить от служб топологии, как показано в примере 3.1.

    p630n01# lssrc -ls topsvcs
    .................. Omitted lines.......................
    NIM's PID: 19978
    net_ether_01_1 [1] 3 1 S 10.10.31.31 10.10.31.31
    net_ether_01_1 [1] en0 0x42d56868 0x42d56872
    HB Interval = 1.000 secs. Sensitivity = 10 missed beats
    .................. Omitted lines.......................

    usr/sbin/cluster/netmon.cf

    В конфигурациях кластера, содержащих сети, которые при определенных условиях могут стать сетями с одним адаптером, может быть сложно точно определить отказ того или иного адаптера. В таких ситуациях RSCT использует файл netmon.cf. Службы топологии RSCT сканируют конфигурацию netmon.cf во время запуска кластера. Когда сетевому монитору требуется проверить сеть, чтобы убедиться в функционировании адаптера, он направляет запросы ICMP ECHO на каждый IP-адрес.

    После отправления запроса на все адреса сетевой монитор проверяет счетчик входящих пакетов, прежде чем определить, произошел ли отказ адаптера. Этот файл может содержать до 30 адресов или меток; для него применимы следующие указания:

  • файл netmon.cf содержит по одному IP-адресу или IP-метке на кабель;
  • каждый IP-адрес и соответствующую метку из файла netmon.cf необходимо включить в файл /etc/hosts.
  • Заполнение таблиц планирования сети

    Следующие таблицы содержат требуемую информацию о сети. Табл. 3.6 содержит спецификации сети Ethernet из нашего примера.

    Ethernet-сети кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 4 из 11 ETHERNET-СЕТИ КЛАСТЕРА ДАТА: июль 2005
    ИМЯ СЕТИ ТИП СЕТИ МАСКА СЕТИ ИМЕНА УЗЛОВ IPAT ЧЕРЕЗ СИНОНИМЫ Смещение IP-адреса для мониторинга пульса через IP-синонимы
    ether10 ethernet (общего доступа) 255.255.255.0 node01, node02 Включен 1.1.1.1
    КОММЕНТАРИИ ПРИМЕЧАНИЯ. Смещение IP-адреса добавляет IP-синонимы для каждого интерфейса Ethernet при запуске HACMP. Эти синонимы затем используются для мониторинга пульса, тогда как для адресов базового адаптера мониторинг не осуществляется. Выберите заданную по умолчанию скорость обнаружения отказов (ether = normal = 20 с)

    Табл. 3.7 описывает сети типа "точка-точка", используемые в кластере. В нашем примере применяется только сеть пульса через диски, однако мы для образца дополнительно включили описание сети RS232.

    Сети типа "точка-точка"
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 5 из 11 ПОСЛЕДОВАТЕЛЬНЫЕ СЕТИ КЛАСТЕРА И СЕТИ ТИПА "ТОЧКА-ТОЧКА" ДАТА: июль 2005
    ИМЯ СЕТИ ТИП СЕТИ ИМЕНА УЗЛОВ Устройство ИМЯ ИНТЕРФЕЙСА МЕТКА АДАПТЕРА
    serial10 serial (закрытого доступа) node01, node02 Неприменимо /dev/tty0 /dev/tty0 node01_tty1 node02_tty1
    diskhb10 diskhb node01, node02 vpath0 vpath0 Неприменимо node1_to_node2hb node2_to_node1hb
    КОММЕНТАРИИ ПРИМЕЧАНИЯ. Связи RS232, Target mode SCSI, Target mode SSA и мониторинга пульса через диски не используют протокол TCP/IP и не требуют использования маски сети или IP-адреса. Для сети serial10 конфигурация не выполняется, она выполняется только для сети diskhb10.

    После описания сетей необходимо выполнить описание интерфейсов и IP-адресов, используемых HACMP, как показано в табл. 3.8.

    Коммуникационные интерфейсы и IP-адреса кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 6 из 11 ИНТЕРФЕЙСЫ И IP-АДРЕСА ДАТА: июль 2005
    node01
    IP-метка Размещение IP-синонима СЕТЕВОЙ ИНТЕРФЕЙС ИМЯ СЕТИ ФУНКЦИЯ ИНТЕРФЕЙСА IP-АДРЕС/МАСКА
    node01a Неприменимо en0 ether10 Базовый (несервисный) 10.10.31.31
    node01b Неприменимо en1 ether10 Базовый (несервисный) 10.10.32.31
    ha53node1 Без совместного размещения (по умолчанию) Неприменимо ether10 Постоянный 192.168.100.31
    app1svc Без совместного размещения (по умолчанию) Неприменимо ether10 Сервисный 192.168.100.131 255.255.255.0
    node02
    IP-метка Размещение IP-синонима СЕТЕВОЙ ИНТЕРФЕЙС ИМЯ СЕТИ ФУНКЦИЯ ИНТЕРФЕЙСА IP-АДРЕС/МАСКА
    node02a Неприменимо en0 ether10 Базовый (несервисный) 10.10.31.32 255.255.255.0
    node02b Неприменимо en1 ether10 Базовый (несервисный) 10.10.32.32 255.255.255.0
    ha53node2 Без совместного размещения (по умолчанию) Неприменимо ether10 Постоянный 192.168.100.32 255.255.255.0
    app2svc Без совместного размещения (по умолчанию) Неприменимо ether10 Сервисный 192.168.100.132 255.255.255.0
    КОММЕНТАРИИ Каждый узел содержит два базовых адаптера, каждый из которых находится в отдельной подсети. Каждый узел также содержит постоянный (привязанный к узлу) адрес и сервисный адрес. IPAT посредством синонимов используется так же, как и мониторинг пульса через синонимы (начальный диапазон = 1.1.1.1)

    Планирование требований к хранилищу

    При планировании хранилища кластера необходимо учитывать следующие аспекты:

  • Физические диски:
  • Убедитесь в том, что для всех дисковых систем обеспечивается высокая доступность. Это может быть реализовано посредством зеркального отображения, технологии RAID и резервного оборудования.
  • Внутренние диски. Обычно являются местом расположения rootvg.
  • Внешние диски. Должны быть местом расположения данных приложения.
  • Компоненты LVM:
  • все общие хранилища имеют уникальные имена логических томов и файловых систем;
  • старшие номера устройств должны быть уникальными;
  • требуется ли обеспечить зеркальное отображение данных?
  • Внутренние диски

    Внутренний диск узла обычно содержит rootvg, а также может содержать исполняемые файлы приложений. Мы рекомендуем организовать зеркальное отображение внутреннего диска для обеспечения высокой доступности; другими словами, это позволяет устранить необходимость перемещения при сбое для всего узла по причине простого отказа внутреннего диска.

    Общие диски

    Данные приложений располагаются на внешнем диске, что позволяет обеспечить доступ к ним со всех нужных узлов. Такие диски называются общими дисками (shared disks).

    Важно! Все общие диски должны быть разделены на зоны, соответствующие узлам кластера, требующим доступа к определенным томам. Другими словами, общий диск должен иметь возможность активизации и доступа с любого узла, которому требуется выполнять определенное приложение.

    Мы советуем убедиться в том, что общая группа томов может быть активизирована вручную на каждом узле, прежде чем требовать управления активизацией от HACMP. В кластере HACMP общие диски подключаются к нескольким узлам кластера.

    В конфигурации без одновременного доступа в любой момент времени только один узел является владельцем дисков. При отказе узла-владельца, чтобы восстановить обслуживание клиентов, другой узел кластера из списка узлов группы ресурсов перехватывает владение общими дисками и перезапускает приложения.

    Как правило, в зависимости от количества дисков в группе ресурсов и от метода перехвата дисков перехват может занимать от 30 до 300 с. HACMP поддерживает использование следующих дисковых технологий производства IBM в качестве общих внешних дисков в кластере высокой доступности:

  • SCSI-приводы, включая подсистемы RAID;
  • SSA-адаптеры и дисковые подсистемы производства IBM;
  • адаптеры и дисковые подсистемы Fibre Channe;
  • устройства Data path (VPATH) – SDD 1.3.1.3 или выше.
  • Дисковые подсистемы сторонних производителей также могут поддерживаться, однако нужно предварительно получить сведения об их поддержке у изготовителя оборудования.

    При работе с общей группой томов:

  • Не включайте внутренний диск в общую группу томов, так как он не будет доступен для других узлов.
  • Не активизируйте (vary on) общие группы томов в кластере HACMP при загрузке системы. Для этого следует использовать скрипты обработки событий кластера. Убедитесь в том, что атрибут автоматической активизации в AIX 5L ODM для общих групп томов, перечисленных в группе ресурсов, установлен в значение No. Для исправления этого атрибута можно использовать утилиту верификации кластера.
  • Важно! При определении группы томов в HACMP не следует осуществлять для нее управление вручную с любого узла вне HACMP во время работы HACMP. Это может привести к непредсказуемым результатам. Если вам требуется выполнить некоторые действия над группой томов отдельно от HACMP, следует остановить службы кластера, выполнить задачу управления группой томов, оставить группу томов в деактивизированном состоянии (varied off), после чего перезапустить HACMP.

    Пример конфигурации дисков

    На рис. 3.18 показаны различные дисковые конфигурации, которые могут использоваться в кластере. Обратите внимание на то, что для внутренних дисков осуществляется зеркальное отображение (rootvg) и что на каждом узле существует несколько адаптеров Fiber Сhannel (HBA), каждый из которых подключен к отдельному SANкоммутатору (для обеспечения избыточности).

    Для проверки дисков следует использовать идентификаторы PVID, так как вполне возможно, что номер vpath на разных узлах может различаться в связи с нумерацией устройств в AIX.

    Общие диски представлены разделенными на зоны для обоих узлов. Разделение на зоны выполняется через программное обеспечение управления хранилищем (SAN Storage Manager).

    Важно! Нужно обязательно следовать правилам конфигурирования хранилища (разделение на зоны, маскировка LUN), соответствующим вашей среде. Это особенно важно в случаях, когда узлы HACMP совместно используют подсистемы хранения и SAN с другими серверами. (рис 3.18) Конфигурация физических дисков

    Группы томов в режиме расширенного одновременного доступа (ECM)

    Любой диск, для которого HACMP обеспечивает поддержку подключения к нескольким узлам, может использоваться для создания группы томов в режиме расширенного одновременного доступа (enhanced concurrent mode) как в средах с одновременным доступом, так и в средах с без одновременного доступа.

  • Среды с одновременным доступом. Приложение одновременно выполняется на всех активных узлах кластера. Чтобы такие приложения могли осуществлять доступ к своим данным, выполняется активизация групп томов с одновременным доступом на всех активных узлах кластера. После этого приложение отвечает за обеспечение согласованности доступа к данным.
  • Среды без одновременного доступа. Приложение в любой заданный момент времени выполняется только на одном узле. К группам томов не осуществляется одновременный доступ; в любой момент времени доступ осуществляется с одного узла.
  • При активизации группы томов в режиме расширенного одновременного доступа LVM разрешает доступ к группе томов для всех узлов. Однако высокоуровневые подключения например, подключения (mounts) JFS или NFS, запрещены для всех узлов, кроме узла, который на данный момент является владельцем группы томов в HACMP.

    В AIX 5.x группы томов в режиме ECM служат заменой классической опции одновременного доступа в HACMP. В новых версиях AIX (5.2 и выше) можно создавать только группы томов в режиме расширенного одновременного доступа. Хотя все еще можно использовать "старые" 32-разрядные группы томов с одновременным доступом, следует проанализировать ограничения, вызываемые обслуживанием таких групп томов в своем кластере. Дополнительные сведения см. в руководстве High Availability Cluster Multi-Processing for AIX 5L Planning and Installation Guide, SC23-4861-06.

    Примечание. Несмотря на то что можно задавать группы томов с расширенным одновременным доступом, это НЕ обязательно означает, что вам нужно использовать их для одновременного доступа, т.е., вы можете определить и использовать эти группы томов для обычного доступа к общей файловой системе. Тем не менее нельзя определять файловые системы в группах томов, предназначенных для одновременного доступа.

    Общие логические тома

    Планирование общих логических томов связано с вопросом доступности данных. Обеспечение высокой доступности данных с использованием зеркального отображения или технологии RAID является ключевым требованием. Помните, что защита от отказов дисков в HACMP обеспечивается использованием механизмов LVM и хранилища (RAID), поэтому очень важно обеспечить высокую доступность дисковой инфраструктуры.

    При планировании общих компонентов LVM необходимо учитывать следующие принципы:

  • Копии логических томов и RAID-массивы обеспечивают защиту от потери данных в результате отказа физического диска.
  • Все файлы операционной системы должны располагаться в корневой группе томов (root volume group, rootvg), а все пользовательские данные должны находиться вне этой группы.
  • Группы томов, содержащие по меньшей мере три физических тома, обеспечивают максимальную доступность при реализации зеркального отображения.
  • Если вы планируете задать для групп томов атрибут "Use Forced Varyon of Volume Groups if Necessary" ("При необходимости использовать принудительную активизацию групп томов"), то требуется применять максимально строгую политику выделения дисков для зеркальных физических томов – super strict.
  • При зеркальном отображении LVM каждый физический том, содержащий копию, должен использовать отдельный источник питания. При отказе одного источника питания другие источники питания обеспечат отсутствие единой точки отказа.
  • При планировании группы томов следует учитывать аспекты кворума. При включенном кворуме в группе томов из двух дисков возникает опасность потери кворума и доступа к данным. Следует либо построить трехдисковые группы томов(например, с использованием дисков/LUN для обеспечения кворума), либо отключить кворум.
  • Необходимо помнить о разработанной конфигурации кластера. Узел, для которого не сконфигурирован перехват ресурсов, не должен владеть критическими группами томов.
  • Убедитесь в том, что запланировано регулярное выполнение резервного копирования.
  • После создания дисковой инфраструктуры высокой доступности при планировании общих групп томов следует учитывать следующие элементы:

  • Все общие группы томов должны иметь уникальные имена логических томов и файловых систем. Это относится и к файлам журналов jfs/jfs2.
  • Не следует использовать встроенные журналы с общими файловыми системами JFS2.
  • Старшие номера устройств для каждой группы томов должны быть уникальными (особенно если вы планируете использовать NFS).
  • На рис. 3.19 представлены основные компоненты внешнего хранилища. Обратите внимание на то, что имена всех логических томов и файловых систем являются уникальными, как и старший номер устройства для каждой группы томов. Обеспечение высокой доступности данных достигается путем использования диска SAN и дублирования путей к устройствам.

    (рис 3.19) Внешний диск SAN

    Быстрый перехват диска

    HACMP автоматически обнаруживает отказы узлов и инициирует перехват дисков в процессе перехвата группы ресурсов. Традиционный процесс перехвата диска предполагает сброс бита резервирования диска SCSI (или SSA) перед активизацией (varying on) группы томов на резервном узле. Этот процесс может быть длительным, особенно при большом количестве дисков в группе томов.

    Начиная с HACMP 5.1 в связи с поддержкой групп томов с расширенным одновременным доступом в AIX стало возможным сократить время перехвата диска (а значит, и группы ресурсов) с использованием опции быстрого перехвата диска. Если группа томов, используемая для общего доступа к файловой системе, была определена в режиме расширенного одновременного доступа, HACMP автоматически это обнаруживает и активизирует группу томов на всех узлах, входящих в эту группу ресурсов. Это устраняет необходимость сброса резервирования диска в случае перехвата. Для работы функции быстрого перехвата диска необходимо выполнение следующих требований:

  • AIX 5L v.5.2 или выше;
  • HACMP 5.1 или выше с набором файлов (fileset) bos.clvm.enh, установленным на всех узлах в кластере;
  • использование групп томов в режиме расширенного одновременного доступа в группах ресурсов без одновременного доступа.
  • Для существующих групп томов, входящих в группы ресурсов без одновременного доступа, можно выполнить преобразование этих групп томов в группы томов с расширенным одновременным доступом после обновления программного обеспечения HACMP.

    Фактическое время быстрого перехвата диска в любой конфигурации зависит от множества факторов, выходящих за рамки контроля HACMP, таких, как вычислительная мощность узлов и активность узлов во время перемещения при сбое.

    Заполнение таблиц планирования хранения

    Следующие таблицы содержат необходимую информацию об общих группах томов. Совместно они дают достаточно полное представление об общей дисковой конфигурации.

    Описание общих групп томов и физических дисков приведено в табл. 3.9:

    Общие диски
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 7 из 11 ОБЩИЕ ДИСКИ ДАТА: июль 2005
    node01 node02
    VGNAME VPATH HDISK HDISK VPATH VGNAME
    app1vg vpath0 hdisk0, hdisk1, hdisk2, hdisk3 hdisk0, hdisk1, hdisk2, hdisk3 vpath0
    vpath1 hdisk4, hdisk5, hdisk6, hdisk7 hdisk4, hdisk5, hdisk6, hdisk7 vpath1 app2vg
    КОММЕНТАРИИ. Все диски видимы с обоих узлов; app1vg обычно располагается на узле node01, app2vg обычно располагается на узле node02.

    Запишите сведения об общих группах томов, как показано в табл. 3.10.

    Общие группы томов
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 8 из 11 ОБЩИЕ ГРУППЫ ТОМОВ (БЕЗ ОДНОВРЕМЕННОГО ДОСТУПА) ДАТА: июль 2005
    ГРУППА РЕСУРСОВ ГРУППА ТОМОВ 1 ГРУППА ТОМОВ 1
    C10RG1 app1vg Неприменимо
    Основной номер = 90
    журнал = app1vglog
    Логический том 1 = app1lv1
    Файловая система 1 = /app1 (20 Гб)
    C10RG2 app2vg Неприменимо
    Основной номер = 91
    журнал = app2vglog
    Логический том 1 = app2lv1
    Файловая система 1 = /app2 (20 Гб)
    КОММЕНТАРИИ Создается общая группа томов на первом узле, после чего выполняется импорт на второй узел;
    #importvg -y app1vg -V 90 vpath0 (может быть необходимо сделать pv доступным с использованием chdev -l vpath0 -a pv=yes);
    #chvg -an app1vg (отключает автоматическую активизацию для группы томов);
    #mount /app1 (для того, чтобы убедиться в возможности подключения файловой системы);
    #umount /app1;
    #varyoffvg app1vg (оставляет группу томов в отключенном режиме, оставляя HACMP управление группой)

    Планирование приложений

    Практически любое приложение, работающее на автономном сервере AIX, может быть интегрировано в кластер HACMP, так как приложения не знают о функционировании HACMP. Другими словами, HACMP запускает и останавливает приложения.

    При планировании обеспечения высокой доступности приложения нужно понимать, какие ресурсы необходимы приложению, и знать расположение этих ресурсов в кластере. Это даст возможность реализовать решение, которое позволит обеспечить корректную обработку ресурсов в HACMP при отказе узлов.

    Вы должны полностью понимать, как приложение выполняется в среде с одним узлом и в среде с несколькими узлами. Мы рекомендуем в процессе подготовки приложения к работе в HACMP протестировать выполнение приложения вручную на обоих узлах, прежде чем передавать управление приложением в HACMP. Не следует ограничиваться предположениями о работе приложения в условиях перемещения при сбое.

    Примечание. Основное условие обеспечения высокой доступности приложения состоит в том, чтобы сначала проверить корректность выполнения приложения в автономном режиме на каждом узле, на котором оно может находиться.

    Мы рекомендуем убедиться в корректности выполнения приложения на всех требуемых узлах прежде, чем конфигурировать управление приложением из HACMP.

    Необходимо проанализировать и учитывать следующие аспекты:

  • код приложения – двоичные файлы, скрипты, ссылки, файлы конфигурации и т. д.;
  • переменные окружения – все переменные окружения, которые требуется передать в приложение для его корректного выполнения;
  • данные приложения;
  • настройка сети – IP-адреса, имя хоста;
  • лицензирование приложения;
  • пользователи системы, определенные приложением.
  • При планировании защиты приложения в кластере HACMP необходимо учитывать следующее:

  • Приложение должно быть совместимо с используемой версией AIX.
  • Приложение должно быть совместимо с системой общего хранилища, так как она будет содержать данные приложения.
  • Убедитесь в том, что приложения успешно работают в среде с одним узлом. Выполнять отладку приложения в кластере гораздо сложнее, чем на одном сервере.
  • Следует распределить приложение и его данные таким образом, чтобы на общих внешних дисках находились только данные. Такое распределение не только предотвращает нарушение лицензий программного обеспечения, но и упрощает восстановление после сбоя.
  • Если вы планируете включить в группы ресурсов кластера с зависимостями "родительский объект/дочерний объект" многоуровневые приложения, например базы данных или сервер приложений, HACMP предоставляет простые в использовании меню SMIT, чтобы задать такое отношение.
  • Необходимо написать надежные скрипты как для запуска, так и для остановки приложения на узлах кластера. Скрипт запуска должен быть способен восстановить приложение после аварийного завершения. Убедитесь, что скрипты корректно выполняются в среде с одним узлом, прежде чем использовать их в HACMP.
  • Проверьте требования к лицензированию. Некоторые производители требуют использования отдельной лицензии для каждого процессора, на котором выполняется приложение; это означает, что вы должны лицензировать приложение, включив информацию о процессоре в приложение при его установке. В результате, несмотря на правильную обработку отказов узла программным обеспечением HACMP, оно может быть неспособно перезапустить приложение на резервном узле из-за недостаточного количества лицензий приложения, доступных в кластере. Во избежание этой проблемы убедитесь в наличии лицензии для каждого компонента системы в кластере, на котором приложение потенциально может выполняться.
  • Если требуется обеспечить одновременный доступ, проверьте, использует ли приложение собственный механизм блокировки.
  • Серверы приложений

    В HACMP под сервером приложения понимается просто набор скриптов, используемых для запуска и остановки приложения.

    Сконфигурируйте свой сервер приложения, задав имя для использования в HACMP и выполнив привязку к скриптам запуска и остановки.

    После создания сервера приложения следует связать его с группой ресурсов. Затем HACMP применяет эту информацию для управления приложением.

    Мониторинг приложения

    HACMP может осуществлять мониторинг приложения с использованием одного из двух методов:

  • мониторинга процесса – обнаруживает завершение процесса с использованием средства RSCT Resource Monitoring and Control (RMC).
  • настраиваемого мониторинга – осуществляет мониторинг состояния приложения с использованием заданного метода мониторинга, например скрипта.
  • Начиная с HACMP 5.2 можно применять несколько мониторов для одного приложения.

    При определении собственного настраиваемого метода мониторинга необходимо помнить следующее:

  • Можно сконфигурировать несколько мониторов приложения с уникальными именами и связать их с одним или несколькими серверами приложения.
  • Метод мониторинга должен представлять собой исполняемую программу, например скрипт оболочки (shell script), тестирующий приложение и на выходе возвращающий целочисленное значение, указывающее состояние приложения. Код завершения должен быть нулевым при нормальном состоянии приложения и ненулевым при отказе приложения.
  • HACMP не осуществляет передачу аргументов в метод мониторинга.
  • По умолчанию метод мониторинга записывает сообщения в файл /tmp/clappmond. application_monitor_name.monitor.log. Кроме того, по умолчанию при каждом запуске приложения происходит перезапись файла журнала мониторинга.
  • Метод не должен быть слишком сложным. Если метод мониторинга не возвращает значение в течение заданного интервала опроса, он удаляется.Важно! Так как процесс мониторинга зависит от времени выполнения, ВСЕГДА тестируйте свой метод мониторинга при различных нагрузках, чтобы подобрать правильное значение интервала опроса.
  • Инструмент анализа доступности

    Для измерения точного количества времени, в течение которого любое из приложений, определенных в HACMP, является доступным, можно использовать инструмент анализа доступности (application availability analysis tool). Программное обеспечение HACMP осуществляет сбор, простановку отметок времени и регистрацию информации по следующим событиям:

  • определение, изменение или удаление монитора приложения; запуск, остановка или отказ приложения;
  • отказ или прекращение работы узла либо возобновление работы узла; отключение или перемещение группы ресурсов;
  • приостановка или возобновление мониторинга приложения с использованием нескольких мониторов.
  • Приложения, интегрируемые с HACMP

    Некоторые приложения, включая Fast Connect Services и Workload Manager, могут быть сконфигурированы непосредственно как ресурсы высокой доступности без серверов приложений или дополнительных скриптов. Кроме того, верификация HACMP обеспечивает корректность и согласованность некоторых аспектов конфигурации Fast Connect Services или Workload Manager.

    Заполнение таблиц планирования приложений

    Следующие таблицы описывают требуемую информацию для каждого приложения.

    Заполните таблицу приложений, включив в нее всю требуемую информацию, как показано в табл. 3.11.

    Таблица приложений
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 9 из 11 ТАБЛИЦА ПРИЛОЖЕНИЙ ДАТА: июль 2005
    APP1
    ЭЛЕМЕНТ КАТАЛОГ ФАЙЛОВАЯ СИСТЕМА РАСПОЛОЖЕНИЕ ДОСТУП
    ИСПОЛНЯЕМЫЕ ФАЙЛЫ /app1/bin /app1 Хранилище SAN Общий
    ФАЙЛЫ КОНФИГУРАЦИИ /app1/conf /app1 Хранилище SAN Общий
    ФАЙЛЫ ДАННЫХ /app1/data /app1 Хранилище SAN Общий
    ФАЙЛЫ ЖУРНАЛОВ /app1/logs /app1 Хранилище SAN Общий
    СКРИПТ ЗАПУСКА /cluster/local/app1/start.sh / rootvg Необщий (должен располагаться на обоих узлах)
    СКРИПТ ОСТАНОВКИ /cluster/local/app1/stop.sh / rootvg Необщий (должен располагаться на обоих узлах)
    СТРАТЕГИЯ ПЕРЕМЕЩЕНИЯ ПРИ СБОЕ Перемещение при сбое на узел node02
    КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОГО ЗАПУСКА Убедиться в том, что сервер APP1 работает
    КОМАНДЫ И ПРОЦЕДУРЫ ВЕРИФИКАЦИИ Выполнить следующую команду и убедиться в том, что APP1 активно. В противном случае отправить уведомление
    КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОЙ ОСТАНОВКИ Убедиться в том, что сервер APP1 останавливается корректно
    РЕИНТЕГРАЦИЯ УЗЛА Должна осуществляться во время запланированного окна обслуживания, чтобы свести к минимуму нарушение работы клиентов
    APP2
    ЭЛЕМЕНТ КАТАЛОГ ФАЙЛОВАЯ СИСТЕМА РАСПОЛОЖЕНИЕ ДОСТУП
    ИСПОЛНЯЕМЫЕ ФАЙЛЫ /app2/bin /app2 Хранилище SAN Общий
    ФАЙЛЫ КОНФИГУРАЦИИ /app2/conf /app2 Хранилище SAN Общий
    ФАЙЛЫ ДАННЫХ /app2/data /app2 Хранилище SAN Общий
    ФАЙЛЫ ЖУРНАЛОВ /app2/logs /app2 Хранилище SAN Общий
    СКРИПТ ЗАПУСКА /cluster/local/app2/start.sh / rootvg Необщий (должен располагаться на обоих узлах)
    СКРИПТ ОСТАНОВКИ /cluster/local/app2/stop.sh / rootvg Необщий (должен располагаться на обоих узлах)
    СТРАТЕГИЯ ПЕРЕМЕЩЕНИЯ ПРИ СБОЕ Перемещение при сбое на узел node01
    КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОГО ЗАПУСКА Убедиться в том, что сервер APP2 работает
    КОМАНДЫ И ПРОЦЕДУРЫ ВЕРИФИКАЦИИ Выполнить следующую команду и убедиться в том, что APP2 активно. В противном случае отправить уведомление
    КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОЙ ОСТАНОВКИ Убедиться в том, что сервер APP2 останавливается корректно
    РЕИНТЕГРАЦИЯ УЗЛА Должна осуществляться во время запланированного окна обслуживания, чтобы свести к минимуму нарушение работы клиентов
    КОММЕНТАРИИ Обзор приложений

    Следует также заполнить таблицу мониторинга приложений, включив в нее всю информацию, необходимую для инструментов мониторинга приложений ( табл. 3.12).

    Таблица мониторинга приложений
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 10 из 11 МОНИТОРИНГ ПРИЛОЖЕНИЙ ДАТА: июль 2005
    APP1
    Можно ли осуществлять мониторинг приложения с использованием монитора процессов? Да
    Наблюдаемые процессы app1
    Владелец процесса root
    Счетчик экземпляров 1
    Стабилизационный интервал 30
    Счетчик перезапуска 3
    Интервал перезапуска 95
    Действие при отказе приложения Перемещение при сбое
    Метод уведомления /usr/es/sbin/cluster/events/notify_app1
    Метод очистки /usr/es/sbin/cluster/events/stop_app1
    Метод перезапуска /usr/es/sbin/cluster/events/start_app1
    APP2
    Можно ли осуществлять мониторинг приложения с использованием монитора процессов? Да
    Наблюдаемые процессы app2
    Владелец процесса root
    Счетчик экземпляров 1
    Стабилизационный интервал 30
    Счетчик перезапуска 3
    Интервал перезапуска 95
    Действие при отказе приложения Перемещение при сбое
    Метод уведомления /usr/es/sbin/cluster/events/notify_app2
    Метод очистки /usr/es/sbin/cluster/events/stop_app2
    Метод перезапуска /usr/es/sbin/cluster/events/start_app2

    Планирование групп ресурсов

    В HACMP управление ресурсами осуществляется с использованием групп ресурсов.

    Каждая группа ресурсов обрабатывается как контейнер, который может содержать следующие типы ресурсов: IP-метки, приложения, файловые системы и группы томов. Каждая группа ресурсов имеет настройки, которые определяют, когда и каким образом осуществляется ее перехват или освобождение. Можно выполнить точную настройку работы группы ресурсов без одновременного доступа при запуске узла, перемещении группы ресурсов на другой узел при отказе узла или при возврате группы ресурсов при реинтеграции узла.

    К ресурсам и группам ресурсов применимы следующие правила и ограничения:

  • Для обеспечения высокой доступности ресурса кластера в HACMP он должен быть частью группы ресурсов. Если требуется, чтобы ресурс содержался отдельно, можно определить группу для одного этого ресурса. В группе ресурсов может быть определен один или несколько ресурсов.
  • Ресурс не может входить в несколько групп ресурсов.
  • Мы рекомендуем поместить сервер приложения вместе с требуемыми им ресурсами в одну группу ресурсов (если нет причин поступить иначе).
  • При включении одного узла в списки узлов для нескольких групп ресурсов следует убедиться, что этот узел способен обслуживать все группы ресурсов одновременно.
  • На рис. 3.20 упрощенно показана взаимосвязь между приложениями, группами томов и сервисными адресами, а также их совмещение в группах ресурсов. Группировка позволяет объединить приложение вместе с его общим дисковым хранилищем и сервисной IP-меткой в одну группу ресурсов. При этом все, что необходимо приложению, будет доступно, когда HACMP активизирует группу ресурсов.

    (рис 3.20) Группы ресурсов

    После того как было решено, какие компоненты должны быть включены в группу ресурсов, необходимо выполнить планирование режимов работы группы ресурсов.

    В таблице 3.13 приведены основные режимы работы (запуск, перемещение при сбое, возврат после восстановления), которые можно сконфигурировать для групп ресурсов в HACMP 5.3.

    Режимы работы группы ресурсов
    Запуск Перемещение при сбое Возврат после восстановления
    Подключение только на домашнем узле (Online on home node only, OHNO) для группы ресурсов Перемещение на следующий по приоритету узел в списке Без возврата после восстановления
    Перемещение с использованием динамического приоритета узла Возврат после восстановления на узел с более высоким приоритетом в списке
    Подключение с использованием политики распределения узлов Перемещение на следующий по приоритету узел в списке Без возврата после восстановления
    Перемещение с использованием динамического приоритета узла
    Подключение на первом доступном узле (Online on first available node, OFAN) Перемещение на следующий по приоритету узел в списке Без возврата после восстановления
    Перемещение с использованием динамического приоритета узла Возврат после восстановления на узел с более высоким приоритетом в списке
    Перевод в отключенный режим (только на ошибочном узле)
    Подключение на всех доступных узлах Перевод в отключенный режим (только на отказавшем узле) Без возврата после восстановления

    Атрибуты группы ресурсов

    Время установления при запуске

    Атрибут времени установления (settling time) относится только к группам ресурсов с подключением на первом доступном узле (Online on First Available Node, OFAN) и устанавливает ожидание в течение заданного количества времени, прежде чем активизировать группу ресурсов. По истечении времени установления HACMP активизирует группу ресурсов на доступном узле с наивысшим приоритетом. Этот атрибут используется для того, чтобы избежать многократного перемещения групп ресурсов с одного узла на другой по мере подключения узлов с более высоким приоритетом.

    Если узел запуска является домашним узлом для заданной группы ресурсов, время установления не выдерживается, вместо этого HACMP сразу же пытается подхватить группу ресурсов на этом узле.

    Внимание! Этот атрибут действует в масштабе кластера и устанавливается для всех групп томов с подключением на первом доступном узле.

    Политика динамического приоритета узла

    Настройка политики динамического приоритета узла (dynamic node priority, DNP) позволяет выбирать резервный узел на основе определенных критериев производительности. При этом для выбора резервного узла используется переменная ресурсов RMC, например "наименьшая нагрузка на процессор". При включенной политике динамического приоритета порядок резервных узлов определяется состоянием кластера на момент события, измеряемый выбранной переменной ресурсов RMC.

    Если вы решите определить политики динамического приоритета узлов с использованием переменных ресурсов RMC для определения резервного узла для группы ресурсов, следует учитывать следующее:

  • политика динамического приоритета узла наиболее полезна в кластере, где все узлы имеют одинаковую вычислительную мощность и объем памяти;
  • политика динамического приоритета узла неприменима в кластерах, содержащих меньше трех узлов;
  • политика динамического приоритета узла неприменима для групп ресурсов с одновременным доступом.
  • Необходимо помнить о том, что выбор резервного узла также зависит от таких факторов, как доступность сетевого интерфейса на узле.

    Таймер отсроченного возврата после восстановления

    Таймер отсроченного возврата (delayed fallback timer) после восстановления позволяет выполнить для группы ресурсов возврат после восстановления на узел с более высоким приоритетом в заданное время. Группа ресурсов, для которой сконфигурирован таймер отсроченного возврата после восстановления и которая в заданный момент времени находится не на домашнем узле, выполняет возврат на узел с более высоким приоритетом.

    Зависимости групп ресурсов

    HACMP 5.3 предлагает множество конфигураций, где можно задавать отношения между группами ресурсов, для которых следует обеспечивать управление запуском, перемещением при сбое и возвратом после восстановления.

    Можно сконфигурировать:

  • зависимости "родительский объект/дочерний объект", чтобы все связанные приложения в различных группах ресурсов обрабатывались в правильном порядке;
  • зависимости расположения, чтобы определенные приложения в различных группах ресурсов подключались вместе на одном узле или сайте либо подключались на разных узлах.
  • Несмотря на то что по умолчанию все группы ресурсов обрабатываются параллельно, обработка зависимых групп ресурсов в HACMP осуществляется в соответствии с порядком, определенным зависимостью, и не обязательно параллельно. Зависимости групп ресурсов имеют действие в масштабе кластера и замещают любые настройки последовательного порядка обработки для любых групп ресурсов, входящих в зависимость.

    Зависимости между группами ресурсов представляют прогнозируемый и надежный способ построения кластеров с многоуровневыми приложениями.

    Метод перехвата IP-адреса и группы ресурсов

    Нельзя смешивать метки IPAT посредством синонимов и IPAT посредством замены в одной группе ресурсов. Это ограничение применяется во время верификации ресурсов кластера.

    Перехват IP-адреса не применяется к группам ресурсов с одновременным доступом.

    Группа ресурсов может включать несколько сервисных IP-меток. При перемещении группы ресурсов с перехватом IP-адреса посредством синонимов все сервисные метки в группе ресурсов перемещаются в виде синонимов на доступный сетевой интерфейс.

    Планирование диспетчера рабочей нагрузки

    Диспетчер рабочей нагрузки (Workload Manager, WLM) дает возможность пользователям задавать целевые значения и ограничения применения процессора, физической памяти и пропускной способности дисковой подсистемы для различных процессов и приложений. Это обеспечивает более эффективный контроль использования критических системных ресурсов при пиковых нагрузках. HACMP позволяет выполнять конфигурирование классов WLM в группах ресурсов HACMP таким образом, чтобы запуск и остановка WLM и активная конфигурация WLM были под контролем кластера.

    HACMP не проверяет каждый аспект конфигурации WLM, так что ответственность за целостность файлов конфигурации WLM возлагается на вас. После добавления классов WLM в группу ресурсов HACMP утилита верификации проверяет только лишь существование требуемых классов WLM. Таким образом, вы должны в полной мере понимать принципы работы WLM и внимательно выполнять конфигурирование классов WLM.

    Заполнение таблицы планирования групп ресурсов

    Таблица планирования групп ресурсов содержит всю требуемую информацию о планировании для групп ресурсов ( табл. 3.14).

    Таблицы групп ресурсов
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 11 из 11 ГРУППЫ РЕСУРСОВ ДАТА: июль 2005
    ИМЯ РЕСУРСА C10RG1 C10RG2
    Политика межсайтового управления Игнорируется Игнорируется
    Имена узлов-участников node01 node02 node02 node01
    Политика запуска Подключение только на домашнем узле (OHNO) Подключение только на домашнем узле (OHNO)
    Политика перемещения при сбое Перемещение на следующий по приоритету узел в списке (FONP) Перемещение на следующий по приоритету узел в списке (FONP)
    Политика возврата после восстановления Возврат на узел с более высоким приоритетом (FBHP) Возврат на узел с более высоким приоритетом (FBHP)
    Таймер отсроченного возврата
    Время установления
    Политики времени выполнения
    Политика динамического приоритета узла Порядок обработки (параллельная, последовательная или настраиваемая)
    Сервисная IP-метка app1svc app2svc
    Серверы приложений app1 app2
    Группы томов app1vg app2vg
    Файловые системы /app1 /app2
    Проверка согласованности файловой системы fsck fsck
    Метод восстановления файловой системы Последовательный Последовательный
    Файловые системы или каталоги для экспорта
    Файловые системы или каталоги для подключения NFS
    Сеть для подключения NFS ether10 ether10
    Основной класс WLM
    Автоматический импорт групп томов Нет Нет
    Подключение файловых систем перед конфигурированием IP Нет Нет
    КОММЕНТАРИИ Обзор двух групп ресурсов

    Подробная схема кластера

    Собрав все вместе и используя информацию, собранную при планировании кластера и записанную в таблицах планирования, теперь можно перейти к построению простой для восприятия подробной схемы кластера. На рис. 3.21 представлена подробная схема кластера из нашего примера. Эту схему можно использовать в качестве вспомогательного средства при конфигурировании кластера и диагностике проблем.

    Разработка плана тестирования кластера

    Разработка соответствующего плана тестирования для проверки работы кластера при отказах так же важна, как и планирование и конфигурирование кластера HACMP. Другими словами, нужно проверить, соответствует ли обработка отказов кластером ожиданиям. Необходимо протестировать (или подтвердить) возможности восстановления кластера, прежде чем кластер станет частью рабочей среды.

    Настраиваемый план тестирования

    Как и в прежних версиях HACMP, вам следует разработать локальный набор тестов для проверки целостности кластера. Это обычно включает отключение сетевых кабелей, отключение интерфейсов и завершение работы узлов кластера в целях проверки возможностей восстановления кластера. Это упражнение все еще остается полезным, так как вы имеете возможность имитировать отказы и наблюдать за поведением кластера. Если что-то идет неправильно или не так, как ожидалось, следует остановить тестирование и изучить проблему. После успешного завершения всех тестов кластер можно переносить в рабочую среду.

    В табл. 3.15 представлен пример плана тестирования, который можно использовать для тестирования кластера.

    (рис ) Подробная схема кластера
    Пример плана тестирования
    План тестирования кластера
    Тест № Описание теста Комментарии Результаты
    1 Запуск HACMP на node01 node01 запускается и перехватывает группу ресурсов C10RG1
    2 Запуск HACMP на node02 node02 запускается и перехватывает группу ресурсов C10RG2
    3 Постепенная остановка без перехвата (graceful stop without takeover) на node01 Группа ресурсов C10RG1 отключается
    4 Запуск HACMP на node01 node01 запускается и перехватывает группу ресурсов C10RG1
    5 Постепенная остановка с перехватом (graceful stop with takeover) на node01 Группа ресурсов C10RG1 перемещается на node02
    6 Запуск HACMP на node01 node01 запускается и требует группу ресурсов C10RG1
    7 Отказ (отключение) сервисного интерфейса на node01 Перемещение сервисного IP-адреса на второй базовый адаптер
    8 Переподключение сервисного интерфейса на node01 Сервисный IP-адрес остается на втором базовом адаптере
    9 Отказ (отключение) сервисного интерфейса на node01 (теперь на втором адаптере) Сервисный (и постоянный) IP-адрес перемещается на первый базовый адаптер
    10 Выполнение на node01 команды halt -q для принудительного отключения операционной системы node01 останавливается – группа ресурсов C10RG1 перемещается на node02
    11 Перезагрузка node01 и перезапуск HACMP node01 перезагружается. После запуска HACMP, node01 требует C10RG1
    12 Постепенная остановка без перехвата (graceful stop without takeover) на node02 Группа ресурсов C10RG1 отключается
    13 Запуск HACMP на node02 node02 запускается и перехватывает группу ресурсов C10RG2
    14 Постепенная остановка с перехватом (graceful stop with takeover) на node01 Группа ресурсов C10RG2 перемещается на node01
    15 Запуск HACMP на node02 node02 запускается и требует группу ресурсов C10RG2
    16 Отказ (отключение) сервисного интерфейса на node02 Перемещение сервисного IP-адреса на второй базовый адаптер
    17 Переподключение сервисного интерфейса на node02 Сервисный IP-адрес остается на втором базовом адаптере
    18 Отказ (отключение) сервисного интерфейса на node02 (теперь на втором адаптере) Сервисный (и постоянный) IP-адрес перемещается на первый базовый адаптер
    19 Выполнение на node02 команды halt -q для принудительного отключения операционной системы node02 останавливается – группа ресурсов C10RG2 перемещается на node01
    20 Перезагрузка node02 и перезапуск HACMP node02 перезагружается. После запуска HACMP, node02 требует C10RG2

    Инструмент Cluster Test Tool

    Чтобы упростить тестирование кластера, HACMP 5.2 и 5.3 включают инструмент Cluster Test Tool, позволяющий протестировать функции кластера, прежде чем он станет частью рабочей среды.

    Инструмент Cluster Test Tool работает только в кластере с HACMP 5.2 или более поздней версии с верифицированной и синхронизированной конфигурацией. Инструмент может работать в двух режимах:

  • Автоматическое тестирование. Процедура автоматического тестирования (предопределенный набор тестов), поставляемая вместе с инструментом, используется для выполнения базового тестирования кластера. Выполнение установки не требуется. Нужно просто запустить тест из SMIT и просмотреть результаты тестирования в файле журнала Cluster Test Tool.
  • Настраиваемое тестирование. Если вы являетесь опытным администратором HACMP и хотите выполнить точную настройку тестирования кластера для своей среды, можно создать настраиваемые тесты, которые можно запускать из SMIT. После установки настраиваемой среды тестирования выполняется запуск процедуры тестирования из SMIT, после чего результаты тестирования просматриваются в файле журнала Cluster Test Tool.
  • Cluster Test Tool использует демон коммуникаций кластера HACMP для организации связи между узлами кластера с целью обеспечения безопасности кластера HACMP.

    Автоматическое тестирование

    Инструмент тестирования содержит автоматический метод, предназначенный для быстрого тестирования функционирования кластера. Его выполнение обычно занимает от 30 до 60 мин., в зависимости от сложности кластера; при этом выполняются тесты, перечисленные ниже. Для выполнения этих тестов вы должны иметь доступ под записью root.

    Тесты общей топологии кластера

    Cluster Test Tool выполняет тесты общей топологии кластера в следующем порядке:

  • запуск служб кластера на всех доступных узлах;
  • постепенная (graceful) остановка служб кластера на узле;
  • перезапуск служб кластера на узле, который был остановлен;
  • остановка служб кластера с перехватом на другом узле;
  • перезапуск служб кластера на узле, который был остановлен;
  • принудительная остановка служб кластера на другом узле;
  • перезапуск служб кластера на узле, который был остановлен.
  • Тесты групп ресурсов с неодновременным доступом

    Если кластер включает одну или несколько групп ресурсов с неодновременным доступом, инструмент тестирования выполняет каждый из нижеперечисленных тестов в заданном порядке для каждой группы ресурсов:

  • отключение локальной сети на узле, чтобы инициировать перемещение группы ресурсов;
  • восстановление ранее отключенной сети;
  • отключение сервера приложений и восстановление после отказа приложения.
  • Тест групп ресурсов с одновременным доступом

    Если кластер содержит одну или несколько групп ресурсов с политикой управления запуском, настроенной на подключение на всех доступных узлах (online on all available nodes, OAAN), инструмент тестирования выполняет один тест, состоящий в отключении сервера приложений и восстановлении после отказа приложения.

    Тест на фатальный отказ

    Инструмент выполняет один тест на фатальный отказ, который останавливает диспетчер кластера на произвольно выбранном узле, на котором в данный момент находится как минимум одна активная группа ресурсов.

    Примечание. Если инструмент останавливает диспетчер кластера на контрольном узле, вам может потребоваться перезагрузить этот узел.

    Выполнение автоматических тестов

    Общие рекомендации советуют периодически подтверждать конфигурацию кластера. Существует два инструмента автоматизации выполнения этой задачи:

  • Инструмент автоматического тестирования кластера. Используется непосредственно для тестирования кластера.
  • Автоматическая верификация конфигурации кластера. Этот инструмент периодически проверяет и информирует о любых изменениях конфигурации, чтобы администратор кластера мог предпринять корректирующие действия (выполнить синхронизацию и повторное тестирование кластера).
  • Эти инструменты можно использовать для реализации стандартной процедуры проверки. После выполнения первоначального теста тестирование вручную выполнять необязательно. Однако так как автоматический инструмент тестирования кластера предпринимает действия, которые могут вызвать перерыв в обслуживании, необходимо назначить использование этого инструмента на время, соответствующее окну обслуживания.

    Инструмент Cluster Test Tool выполняет заданный набор тестов, произвольным образом выбирая узлы, сети, группы ресурсов и т. д. для тестирования. В процессе тестирования инструмент тестирует различные компоненты кластера.

    Важно! Прежде чем начать выполнение автоматического тестирования, убедитесь, что кластер не работает в режиме обслуживания в рабочей среде.

    Для запуска автоматической процедуры тестирования:

  • Введите smit hacmp.
  • В SMIT выберите Initialization and Standard Configuration > HACMP Cluster Test Tool и нажмите Enter.
  • Появится сообщение "Are you sure". Если вы еще раз нажмете Enter, запустится автоматическое тестирование.
  • Появится сообщение "Are you sure". Если вы еще раз нажмете Enter, запустится автоматическое тестирование.

    После планирования конфигурации и составления схемы кластера, нужно выполнить подготовку к установке.

    При внедрении HACMP на существующих серверах следует выделить достаточное окно обслуживания для установки, конфигурирования и тестирования кластера. Если выполняется новая инсталляция, нужно выделить время на конфигурирование и тестирование базового кластера. После конфигурирования и тестирования кластера можно выполнять интеграцию необходимых приложений во время запланированного окна обслуживания.

    Возвратившись к рис. 3.1, можно увидеть, что установке HACMP предшествует этап подготовки. Этот этап необходим для того, чтобы обеспечить готовность инфраструктуры к установке HACMP. Обычно это предполагает использование таблиц планирования и схемы кластера для подготовки узлов для установки HACMP 5.3.

  • Убедитесь в том, что установлены необходимые пакеты программного обеспечения узлов и операционной системы.
  • Убедитесь в правильности конфигурирования сети.
  • Убедитесь в правильности конфигурирования общих дисков.
  • Убедитесь в том, что требуемые приложения способны выполняться на всех узлах.
  • Этап подготовки может занять некоторое время, в зависимости от сложности среды и количества используемых групп ресурсов и узлов. Нужно выделить достаточно времени на подготовку среды, так как нет смысла пытаться устанавливать HACMP в неподготовленной среде. Это обернется напрасной тратой времени на устранение неполадок в плохой инсталляции. Помните о том, что построение хорошо сконфигурированного кластера происходит на основе надежной инфраструктуры.

    После завершения планирования кластера и подготовки среды узлы готовы к установке HACMP.

    Установка кода достаточно проста. При установке с компакт-диска следует просто использовать SMIT для установки требуемых наборов файлов. При установке из хранилища программного обеспечения можно выполнить NFS-подключение каталога, после чего использовать SMIT для установки из этого каталога. Убедитесь в том, что у вас есть лицензии на все устанавливаемые функции, такие, как Smart Assist и HACMP/XD.

    После того как были установлены необходимые наборы файлов на всех узлах кластера, используйте таблицы планирования для конфигурирования кластера. У вас есть несколько инструментов, которые можно использовать для конфигурирования кластера:

  • Можно настроить WebSmit и использовать его для конфигурирования кластера.
  • В кластере из двух узлов можно использовать Two-Node Configuration Assistant, реализованный на основе Java.
  • Можно использовать ASCII-экран и SMIT для выполнения конфигурирования.
  • Существует множество способов облегчить конфигурирование кластера. В следующей лекции каждый из них будет рассмотрен подробно, но, если вкратце, вы можете:
  • Использовать Two-Node Configuration Assistant для конфигурирования кластера. Этот инструмент позволяет сконфигурировать базовый двухузловой кластер с одной группой ресурсов.
  • Использовать панели SMIT "HACMP Standard Configuration" для конфигурирования кластера в стандартном формате.
  • Использовать панели SMIT "HACMP Extended Configuration" для конфигурирования кластера вручную.
  • Применить к кластеру файл *.haw, сгенерированный системой автоматизированного планирования (Online Planning Worksheets).
  • Применить снимок кластера для конфигурирования кластера.

    Примечание. При конфигурировании кластера мы рекомендуем начать с конфигурирования (сетевой) топологии кластера. После конфигурирования топологии кластера следует выполнить конфигурирование, верификацию и синхронизацию кластера, прежде чем переходить к ресурсам (общим группам томов, сервисным IP-адресам и приложениям). После успешной верификации и синхронизации топологии следует запустить службы кластера и проверить, все ли работает в соответствии с ожиданиями. Это позволяет выявить любые проблемы в сети до конфигурирования ресурсов кластера.

    После конфигурирования, верификации и синхронизации кластера следует запустить инструмент автоматического тестирования кластера, чтобы проверить функционирование кластера. Просмотрите результаты работы инструмента тестирования; если они являются успешными, выполните необходимые собственные тесты для дальнейшей верификации кластера.

    Проверьте все включенные вами уведомления об ошибках.

    После успешного выполнения тестирования создайте резервные копии системы (mksysb) для каждого узла, а также снимок кластера с одного из узлов кластера. На этом этапе кластер должен быть готов к переносу в рабочую среду.

    Теперь к управлению доступностью приложения применимы стандартные процессы управления изменениями и проблемами.

    Резервное копирование конфигурации кластера

    Основным средством резервного копирования кластера HACMP является снимок кластера. Хотя файл описания кластера системы автоматизированного планирования (Online Planning Worksheets) тоже описывает конфигурацию кластера, он менее полный, так как он не включает записи ODM.

    Основной информацией, сохраненной в снимке кластера, являются данные, находящиеся в классах базы данных конфигурации HACMP (таких, как HACMPcluster, HACMPnode, HACMPnetwork, HACMPdaemons). Эта информация используется для воссоздания конфигурации кластера при применении снимка кластера.

    Снимок кластера не сохраняет какие-либо пользовательские скрипты, приложения и прочие параметры конфигурации, не связанные с HACMP. Например, имена серверов приложений и расположение их скриптов запуска и остановки сохраняются в объектном классе HACMPserver базы данных конфигурации. Однако сами скрипты, как и вызываемые ими приложения, не сохраняются.

    Утилита создания снимков кластера сохраняет данные в двух разных файлах:

  • Файле данных ODM (.odm). Этот файл содержит все данные, сохраненные в объектных классах базы данных конфигурации HACMP для кластера. Этому файлу назначается определяемое пользователем имя с расширением .odm. Так как информация в базе данных конфигурации практически одинакова на всех узлах кластера, снимок кластера сохраняет значения только с одного узла.
  • Файле информации о состоянии кластера (.info). Этот файл содержит стандартные выходные данные AIX 5L и HACMP. Этому файлу назначается то же определяемое пользователем имя с расширением .info. По умолчанию этот файл больше не содержит информацию журнала кластера. Обратите внимание на то, что через SMIT можно задать сбор журналов кластера в этом файле при создании снимка кластера.
  • Для полного резервного копирования следует создать резервную копию (mksysb) каждого узла кластера с использованием стандартных методов. Выберите один узел для создания снимка кластера и сохраните снимок в безопасном месте в целях аварийного восстановления.

    При возможности создайте снимок до создания резервной копии (mksysb) узла, чтобы он был включен в резервную копию системы.

    Важно! Можно создать снимок с любого узла в кластере, даже при отключенном HACMP. Однако применить снимок к кластеру можно только в том случае, если все узлы доступны и выполняют одну версию HACMP (HACMP может осуществлять связь между узлами с использованием clcomdES).

    Документирование кластера

    Для эффективного управления кластером важно выполнять документирование конфигурации кластера. Хорошее документирование кластера позволяет обеспечить более эффективный контроль изменений и быстрое разрешение проблем на всех этапах, от управления изменениями в кластере до устранения неполадок. Мы рекомендуем вам вести точную схему кластера, которую можно использовать для управления изменениями и проблемами.

    Кроме того, HACMP обеспечивает инструменты для упрощения сбора данных конфигурации кластера посредством использования системы автоматизированного планирования (OLPW).

    В этом разделе описывается создание файла определения кластера через SMIT с последующим его использованием для создания отчета о конфигурации кластера через OLPW. Итоговый отчет имеет формат HTML и может быть просмотрен через веб-браузер.

    Основные этапы создания отчета кластера следующие:

  • Экспорт файла определения кластера с одного из узлов кластера с использованием SMIT:
  • файл обычно сохраняется в формате *.haw;
  • при использовании OLPW на рабочей станции следует передать файл определения через ftp на рабочую станцию.
  • Использование OLPW для открытия существующего файла определения.
  • Использование OLPW для создания отчета о конфигурации. При этом создается файл *.html.
  • Использование веб-браузера для просмотра файла. Рекомендуем сохранить файл на другом сервере или рабочей станции в целях аварийного восстановления.
  • Экспорт файла определения кластера с применением SMIT

    Можно создать файл определения кластера из активного кластера HACMP, после чего открыть этот файл с использованием приложения Online Planning Worksheets.

    Для создания файла определения кластера из SMIT проделайте следующее:

  • Введите smit hacmp.
  • Выберите Extended Configuration (Расширенное конфигурирование). Выберите Export Definition File for Online Planning Worksheets (Экспорт файла определения для OLPW) и нажмите Enter ( пример 3.2).
    Extended Configuration
    Move cursor to desired item and press Enter.
    Discover HACMP-related Information from Configured Nodes
    Extended Topology Configuration
    Extended Resource Configuration
    Extended Cluster Service Settings
    Extended Event Configuration
    Extended Performance Tuning Parameters Configuration
    Security and Users Configuration
    Snapshot Configuration
    Export Definition File for Online Planning Worksheets
    
    Extended Verification and Synchronization
    HACMP Cluster Test Tool
  • Введите значения следующих полей и нажмите Enter:
  • File Name (Имя файла). Полный путь к файлу определения кластера. По умолчанию используется путь /var/hacmp/log/cluster.haw.
  • Cluster Notes (Примечания кластера). Любые дополнительные комментарии, относящиеся к вашему кластеру. Введенная здесь информация будет выводиться в панели Cluster Notes (Примечания кластера) в Online Planning Worksheets.
  • Откройте файл определения кластера в Online Planning Worksheets.
  • Создание файла определения кластера из снимка с использованием SMIT

    Кроме того, файл определения кластера также можно создать из снимка кластера HACMP, после чего его можно открыть с использованием приложения Online Planning Worksheets.

    Для создания файла определения кластера из снимка с применением SMIT проделайте следующее:

  • введите smit hacmp ;
  • выберите Extended Configuration (Расширенное конфигурирование):
  • Snapshot Configuration (Конфигурация снимка) >;
  • Convert Existing Snapshot For Online Planning Worksheets (Преобразовать существующий снимок для OLPW);
  • выберите предварительно созданный снимок;
  • после создания файла определения кластера откройте его в Online Planning Worksheets.
  • Создание отчета о конфигурации

    Отчет о конфигурации позволяет записать информацию о состоянии конфигурации кластера в формате HTML.

    Отчет содержит обзорную информацию, включающую следующее:

  • имя каталога, содержащего изображения, используемые в отчете;
  • версия приложения Online Planning Worksheets;
  • автор и компания, указываемые на панели Cluster Configuration (Конфигурация кластера);
  • примечания кластера, добавленные с панели Cluster Notes (Примечания кластера);
  • последние дата и время, в которые система Online Planning Worksheets сохранила файл определения кластера.
  • Отчет также содержит разделы по следующим вопросам:

  • узлы и пути для связи;
  • приложения;
  • сети;
  • экспорт NFS;
  • IP-метки;
  • серверы приложений;
  • глобальная сеть;
  • мониторы приложений;
  • сайты;
  • пейджеры и мобильные телефоны;
  • диски;
  • удаленные уведомления;
  • группы ресурсов;
  • ресурсы накопителей на магнитной ленте;
  • группы томов;
  • политики времени выполнения для групп ресурсов;
  • логические тома;
  • обзор узлов;
  • наборы файлов;
  • верификация кластера;
  • межсайтовое зеркальное отображение LVM.
  • Для создания отчета о конфигурации:

  • выберите File (Файл) > Create Report (Создать отчет);
  • в диалоговом окне Save (Сохранение) введите имя и расположение файла отчета.(рис 3.22) Образец отчета о конфигурации
  • При создании отчета в каталоге, содержащем отчет, создается каталог olpwimages. Например, при сохранении файла отчета в каталоге /home/pat/reports в качестве каталога изображений используется /home/pat/reports/olpwimages. Каталог olpwimages содержит графические файлы, связанные с отчетом. При каждом создании отчета происходит замена файлов отчета и файлов в каталоге изображений.

    На рис. 3.22 показан скриншот созданного отчета. Можно выполнять прокрутку страницы для просмотра информации.

    Управление изменениями и проблемами

    После запуска кластера начинается работа по управлению изменениями и проблемами.

    Эффективные процессы управления изменениями и проблемами необходимы для обеспечения доступности кластера. В целях эффективности текущая конфигурация кластера всегда должна быть "под рукой". Можно использовать OLPW для создания html-версии конфигурации, а также (рекомендуется) схемы текущего кластера.

    Любые изменения в кластере должны быть всесторонне исследованы с точки зрения их воздействия на функционирование кластера. Даже те изменения, которые непосредственно не влияют на HACMP (например, добавление дополнительной нагрузки, не связанной с HACMP), могут отразиться на работе кластера. Необходимо выполнять планирование, назначение и документирование изменений, а после их внесения – тестирование кластера.

    Чтобы упростить внедрение изменений в кластере, HACMP обеспечивает набор SMIT-меню C-SPOC (Cluster Single Point of Control). Всегда, когда это возможно, следует использовать меню C-SPOC для внесения изменений. Используя C-SPOC, можно вносить изменения на одном узле, после чего они распространяются на другие узлы кластера.

    Все возникающие проблемы в кластере следует немедленно изучать и исправлять. Так как основная задача HACMP состоит в том, чтобы скрывать любые возникающие ошибки от приложений, даже при наличии инструментов мониторинга вы можете не узнать о перемещении при сбое. Убедитесь в том, что включены уведомления об ошибках, сообщающие об отказах соответствующему персоналу.

    Инструменты планирования

    В этом разделе подробно рассматриваются три основных инструмента планирования. Также включен образец схемы кластера и таблицы планирования.

    Схема кластера

    Создание схемы для кластера HACMP позволяет четко представить работу кластера и помогает выявить единые точки отказа. Образец схемы кластера из двух узлов представлен на рис. 3.23.

    (рис 3.23) Образец схемы кластера

    Система автоматизированного планирования

    Система автоматизированного планирования (Online Planning Worksheets, OLPW) представляет Java-версию таблиц планирования на бумаге. Используя это приложение, можно либо импортировать информацию о конфигурации HACMP из существующего кластера и отредактировать ее, либо ввести всю информацию о конфигурации вручную.

    Приложение сохраняет информацию в виде файла определения кластера, применимого для конфигурирования кластера. Приложение также проверяет данные на наличие всей необходимой информации.

    Следующий порядок действий представляет эффективное использование инструмента OLPW при планировании, внедрении и документировании кластера.

  • Подготовка к планированию кластера путем ознакомления с понятиями HACMP и со своей средой.
  • Запуск программы Online Planning Worksheet на своей рабочей станции с компакт-диска HACMP.
  • Заполнение таблиц OLPW и создание файла определения кластера. Установка HACMP на узлах кластера.
  • Копирование файла определения кластера на один из узлов кластера. Применение файла определения кластера в кластере с использованием команды cl_opsconfig.
  • Создание снимка кластера.
  • Документирование кластера путем создания отчета, при котором создается htmlфайл, который можно использовать для управления системами.
  • Внимание! Online Planning Worksheets представляет собой инструмент для конфигурирования и записи состояния кластера. Вы должны иметь четкое представление о планировании кластера, прежде чем использовать этот инструмент.

    Запуск OLPW с компакт-диска в Windows

  • Вставьте компакт-диск HACMP в соответствующий привод.
  • Найдите файл olpw/worksheets.bat и запустите его.
  • Примечание. Не закрывайте командное окно, использовавшееся для запуска приложения. При закрытии этого окна произойдет закрытие приложения.

    Запуск приложения с компакт-диска в AIX 5L

    В системе AIX 5L для запуска приложения Online Planning Worksheets с компакт-диска HACMP проделайте следующее:

  • Убедитесь в том, что в переменной окружения PATH установлен путь к JRE следующим образом:
  • AIX 5.3 /usr/java141/bin;
  • AIX 5.2 /usr/java131/bin;
  • AIX 5.1 /usr/java130/bin.
  • Подключите установочный носитель с использованием следующей команды: mount -v cdrfs -p -r cd_location mount_directory, где cd_location – расположение компакт-диска; mount_directory – имя подключаемого каталога (точки монтирования). Например: mount -v cdrfs -p -r /dev/cd0 /mnt.
  • Запустите приложение с использованием следующей команды: java -jar mount_directory/olpw/worksheets.jar, где mount_directory – каталог, описанный выше.
  • Установка OLPW

    Установка приложения в системе AIX 5L. Установка приложения Online Planning Worksheets выполняется с установочного носителя программного обеспечения HACMP. Устанавливаемый образ приложения:

    cluster.es.worksheets

    Приложение Online Planning Worksheets устанавливается в каталоге /usr/es/sbin/ cluster/worksheets.

    Запуск приложения OLPW из графического интерфейса AIX 5L. Выполните следующую команду:

    /usr/es/sbin/cluster/worksheets/worksheets

    Приложение проверяет наличие установленной требуемой версии JRE перед запуском приложения в фоновом режиме.

    Установка приложения OLPW в системе Windows

  • Установите Online Planning Worksheets с установочного носителя HACMP в системе AIX 5L.
  • Скопируйте файлы worksheets.bat и worksheets.jar в требуемый каталог в системе Windows.
  • Примечание. При копировании файлов через FTP обязательно задайте режим ASCII для .bat-файла и режим binary для .jar-файла.

    Запуск приложения из системы Windows

    Выполните команду worksheets.bat из командной строки либо сделайте двойной щелчок мышью по значку worksheet.jar в проводнике.

    Описание главного окна

    При открытии приложения Online Planning Worksheets выводится его главное окно, представленное на рис. 3.24:

    Главное окно содержит две панели:

  • левая панель позволяет осуществлять навигацию по компонентам кластера;
  • правая панель выводит панели, связанные со значками, выбранными на левой панели.
  • Информация о конфигурации вводится в правой панели.

    (рис 3.24) Основное меню Online Planning Worksheets

    Создание нового файла описания кластера

    В начале планирования кластера можно либо ввести всю информацию вручную, либо считать информацию о конфигурации кластера в OLPW, после чего ввести остальную информацию вручную.

    Для создания файла определения кластера проделайте следующее:

  • Введите все данные вручную с использованием информации планирования или считайте информацию о конфигурации непосредственно из кластера HACMP следующим образом:
  • Используя меню SMIT, создайте файл определения.
  • В OLPW выберите File (Файл) > Import HACMP Definition (Импорт определения HACMP), после чего выберите файл определения кластера.
  • Выводится диалоговое окно Import Validation (Проверка импорта). Здесь можно просмотреть информацию об ошибках проверки либо получить подтверждение об успешном импорте файла определения HACMP.
  • Введите всю дополнительную информацию вручную
  • Сохраните созданный файл определения.
  • Открытие существующего файла определения кластера

    Примечание. Файл определения кластера должен находиться на том же узле, на котором выполняется приложение Online Planning Worksheets. Приложение Online Planning Worksheets поддерживает открытие файлов определения кластера со следующими расширениями:
  • .haw. Это расширение является предпочтительным. Оно поддерживается в HACMP 5.2 и 5.3.
  • .xml. Это расширение также может использоваться. Оно поддерживается в HACMP 5.3.
  • .ws. Этот файловый формат поддерживается в HACMP 5.1.0.1. В целях обратной совместимости в HACMP 5.3 существует возможность открытия .ws-файлов; однако их следует сохранять с расширением .xml или .haw.
  • Чтобы открыть файл определения кластера, выберите File (Файл) > Open (Открыть). Одновременно можно открыть только один файл определения кластера.

    Программа запросит вас о необходимости сохранения текущего файла, независимо от того, вносились ли в него какие-либо изменения, после чего главное окно выводится без информации о конфигурации.

    Добавление примечаний о конфигурации кластера

    При планировании конфигурации в файл определения кластера можно добавлять примечания. Для этого:

  • на левой панели, либо в представлении Requisite®, либо в иерархическом представлении выберите Cluster Notes (Примечания кластера);
  • на панели Cluster Notes (Примечания кластера) введите информацию, которую требуется сохранить;
  • нажмите кнопку Apply (Применить).
  • Сохранение файла определения кластера

    Это можно сделать двумя способами:

  • Выберите File (Файл) > Save (Сохранить), чтобы использовать имя кластера в качестве имени файла.
  • Выберите File (Файл) > Save As (Сохранить как), чтобы ввести другое имя файла. В диалоговом окне Save (Сохранение) введите имя и расположение файла определения кластера; убедитесь, что имя файла имеет расширение .haw (или .xml), и нажмите Save (Сохранить).
  • При сохранении файла OLPW автоматически проверяет определение кластера, если только автоматическая проверка не была выключена.

    Применение данных таблиц в кластере HACMP

    После заполнения панелей конфигурации в приложении OLPW можно сохранить файл, после чего применить его на узле кластера. При использовании приложения Online Planning Worksheets в системе Windows необходимо сначала скопировать файл определения кластера на узел кластера, прежде чем его применять.

    Предварительные условия

    Прежде чем применять файл определения кластера в кластере, убедитесь в том, что выполнены следующие условия:

  • Программное обеспечение HACMP установлено на всех узлах кластера.
  • Все аппаратные устройства, заданные в конфигурации кластера, подключены.
  • В случае замены существующей конфигурации вся существующая информация кластера в базе данных конфигурации HACMP была сохранена в снимке.
  • Службы кластера остановлены на всех узлах.
  • Рабочий файл /usr/es/sbin/cluster/etc/rhosts присутствует на всех узлах кластера.
  • Это необходимо для выполнения утилиты cl_opsconfig.
  • Применение файла конфигурации кластера

  • Из приложения Online Planning Worksheets проверьте файл определения кластера.
  • Создайте отчет для документирования конфигурации кластера.
  • Сохраните файл и выйдите из приложения. Если файл конфигурации кластера находится в системе Windows, скопируйте файл на узел HACMP.
  • С узла кластера выполните команду cl_opsconfig: /usr/es/sbin/cluster/utilities/cl_opsconfig your_config_file где your_config_file – имя файла конфигурации на узле.
  • Утилита cl_opsconfig выполняет проверку файла (если приложение Online Planning Worksheets установлено локально), применяет информацию в кластере, выполняет синхронизацию и верификацию. Во время верификации на экран выводятся сообщения о возникающих событиях, а также предупреждения и ошибки. Сообщения об ошибках cl_opsconfig можно просматривать на экране либо перенаправлять в файл журнала.

    Перенаправление стандартного потока вывода сообщений об ошибках осуществляется следующим образом (в оболочке korn shell; в других оболочках могут быть отличия):

    /usr/sbin/cluster/utilities/cl_opsconfig 
      your_config_file 2> output_file

    Таблицы планирования на бумаге

    Подробно таблицы планирования на бумаге представлены в прил. "А" в руководстве HACMP 5.3 Planning and Installation Guide.

    Мы считаем, что полезно привести эти таблицы в формат, подходящий к вашей среде. Для этого мы включили ряд примеров специализированных таблиц, чтобы помочь вам в планировании простого кластера. Эти таблицы см. в прил. "А", "Таблицы планирования на бумаге".

    Страницы:

    Планирование высокой доступности

    Основная цель планирования кластера высокой доступности состоит в том, чтобы исключить и свести к минимуму простои в работе требуемого приложения. С этой целью необходимо устранить единые точки отказа как в аппаратном, так и в программном обеспечении. Обычно это достигается путем дублирования оборудования по схеме "N+1", в частности путем дублирования источников питания, сетевых интерфейсов, адаптеров SAN и конфигураций зеркального отображения или RAIDдисков. Все эти компоненты увеличивают стоимость сервера, но могут не защитить приложение в случае отказа сервера или операционной системы.

    Примечание. Подробные сведения о планировании приведены в руководстве High Availability Cluster Multi-Processing for AIX 5L Planning and Installation Guide, SC23-4861-06.

    Здесь наступает очередь HACMP. В HACMP можно настроить мониторинг серверного оборудования, операционной системы и компонентов приложения. В случае отказа HACMP может предпринять корректирующие действия, в частности выполнить перемещение требуемых ресурсов (сервисных IP-адресов, хранилищ и приложений) на рабочие компоненты кластера, чтобы как можно быстрее восстановить доступность приложения.

    HACMP является чрезвычайно гибким продуктом, поэтому разработка кластера под нужды организации требует тщательного планирования. Требования и режим функционирования приложения представляют важную входную информацию плана HACMP и являются основными факторами при определении схемы кластера. При разработке схемы кластера необходимо поставить перед собой следующие вопросы:

  • Для каких служб приложений необходимо обеспечить высокую доступность?
  • Каковы требования к уровню обслуживания для этих служб приложений (24x7, 8x5) и насколько быстро должно выполняться восстановление обслуживания в случае отказа?
  • Каковы потенциальные точки отказа в среде и как их можно устранить?
  • Какие точки отказа могут быть автоматически обнаружены HACMP и для каких потребуется написать специальный код для вызова события?
  • Каким должен быть уровень квалификации в группе, осуществляющей внедрение и обслуживание кластера?
  • Хотя за внедрение HACMP обычно отвечают системные администраторы AIX, как правило, они не могут заниматься этим самостоятельно. Для помощи в планировании HACMP следует создать команду, состоящую из следующих представителей, каждый из которых играет важную роль в успешной работе кластера:

  • сетевой администратор;
  • системный администратор AIX;
  • администратор баз данных;
  • разработчик приложений;
  • персонал поддержки;
  • пользователи приложения.
  • Планирование HACMP

    Основные этапы успешного внедрения HACMP указаны на рис. 3.1. Обратите внимание на то, что внедрение кластера не завершается с успешным конфигурированием кластера. Процедуры тестирования кластера, резервного копирования, документирования и текущего управления одинаково важны для обеспечения текущей целостности кластера.

    Используя понятия, описанные в лекции 1, "Введение в HACMP", внедрение HACMP начинается с разработки подробного плана конфигурирования и внедрения кластера HACMP. Для направления этого процесса и записи информации о кластере можно использовать такие инструменты планирования, как таблицы планирования на бумаге (Paper Planning Worksheets), описываемые в руководстве High Availability Cluster Multi-Processing for AIX 5L Planning and Installation Guide, SC23-4861-06, и система автоматизированного планирования (Online Planning Worksheets).

    (рис 3.1) Этапы внедрения HACMPВажно! Помните, что время, проведенное за планированием кластера, обернется более простым внедрением, так что не торопитесь.

    Как показано на рис. 3.1, планирование является основой, на которой строится внедрение. Надлежащее планирование должно затрагивать все аспекты внедрения кластера. Оно должно включать:

  • схему и режим работы кластера;
  • подробную конфигурацию кластера;
  • аспекты и план установки;
  • план тестирования целостности кластера;
  • стратегию резервного копирования для кластера;
  • процедуру документирования кластера;
  • план управления проблемами и изменениями в кластере.
  • Важно! Для успешного внедрения важно, чтобы планирование и подготовка кластера HACMP осуществлялись до установки и конфигурирования HACMP.

    Для простоты описания мы представим планирование кластера на примере кластера из двух узлов со взаимным перехватом. Эта конфигурация является отправной точкой для более сложных установок. Лекция также содержит образцы таблиц планирования, так как цель лекции заключается в том, чтобы показать, как выполняется планирование кластера.

    Инструменты планирования

    При планировании кластера HACMP можно использовать три инструмента:

  • диаграмму кластера;
  • таблицы планирования на бумаге (Paper Planning Worksheets);
  • система автоматизированного планирования (Online Planning Worksheets).
  • И диаграмма кластера и таблицы планирования на бумаге представляют собой метод записи информации о кластере вручную. Система автоматизированного планирования представляет простой в использовании интерфейс на основе Java, который может применяться для записи и конфигурирования кластера.

    Примечание. Если вы решили использовать систему автоматизированного планирования (Online Planning Worksheets, OLPW) или средство упрощенного конфигурирования кластера из двух узлов (Two-Node Cluster Configuration Assistant), все равно важно выполнить планирование и подготовку HACMP. Система автоматизированного планирования и средство упрощенного конфигурирования кластера из двух узлов предназначены только для того, чтобы упростить документирование и конфигурирование кластера; вам все равно нужно иметь отчетливое представление о планировании и подготовке.

    Приступая к работе

    Планирование кластера начинается с анализа текущей среды и своих ожиданий от HACMP:

  • Для каких приложений необходимо обеспечить высокую доступность?
  • Сколько узлов необходимо для поддержки приложений?
  • Существуют ли узлы достаточного размера (процессор/память) для выполнения нескольких приложений или устанавливаются новые узлы?
  • Как клиенты подключаются к приложению, какова конфигурация сети?
  • Какой тип общего диска будет использоваться?
  • Каковы ожидания от HACMP?
  • Текущая среда

    На рис. 3.2 показана простая стартовая конфигурация, которую мы будем использовать в качестве примера. Она сосредоточена на обеспечении высокой доступности двух приложений. Это может быть либо пара существующих серверов, либо два новых сервера.

    Стартовая конфигурация показывает следующее:

  • каждое приложение находится на отдельном узле (сервере);
  • клиенты осуществляют доступ к каждому приложению через выделенное Ethernetподключение на каждом сервере;
  • каждый узел имеет приблизительно один размер с точки зрения процессора и памяти, каждый имеет дополнительную мощность;
  • каждый узел имеет дополнительные источники питания и внутренние диски с зеркальным отображением;
  • приложения расположены на внешнем диске SAN;
  • каждое приложение имеет собственные надежные скрипты запуска и остановки;
  • существует инструмент мониторинга для проверки состояния каждого приложения;
  • AIX 5.3 уже установлен.
  • Важно! Каждое приложение, подлежащее интеграции в кластер, должно работать в автономном режиме (standalone mode). Кроме того, вы должны иметь возможность полностью контролировать приложение (запускать, останавливать и осуществлять тестирование).

    Цель состоит в том, чтобы использовать два узла в конфигурации со взаимным перехватом, где приложение app1 обычно находится на узле node01, а приложение app2 обычно находится на узле node02. В случае отказа нужно, чтобы оба приложения выполнялись на оставшемся сервере. Из диаграммы мы видим, что нужно подготовить среду таким образом, чтобы каждый узел мог выполнять оба приложения.

    Внимание! Каждое приложение, подлежащее интеграции в кластер, должно быть способно выполняться в автономном режиме на любом узле, на котором ему, возможно, придется выполняться (как в обычных условиях, так и в случае перемещения при сбое).

    Анализируя требования к кластеру HACMP, получаем три основные области, требующие внимания, как показано на рис. 3.2: сеть, приложение и хранилище. Все действия по планированию в какой-то мере предназначены для поддержки одного из трех этих элементов.

  • Сеть – каким образом клиенты подключаются к приложению (сервисный адрес). Сервисный адрес может перемещаться между всеми выделенными узлами кластера.
  • Приложение – какие ресурсы необходимы для приложения. Приложение должно располагать всем, что ему необходимо для работы на узле перемещения при сбое, включая ресурсы процессора и памяти, лицензии, исполняемые модули и данные конфигурации. Оно должно иметь надежные скрипты запуска и остановки, а также инструмент для мониторинга своего состояния.
  • Хранилище – какой тип общего диска будет использоваться. Данные приложения должны располагаться на общем диске, доступном для всех требуемых узлов кластера.
  • (рис 3.2) Первоначальная среда

    Устранение единых точек отказа

    В табл. 3.1 приведен обзор возможных единых точек отказа в инфраструктуре кластера и способов защиты от них. Эти аспекты следует учитывать во время разработки подробной схемы кластера.

    Единые точки отказа
    Объекты кластера Способ устранения единой точки отказа Поддержка в HACMP/AIX
    Узлы Использование нескольких узлов До 32
    Источники питания Использование нескольких электросетей или источников бесперебойного питания (ИБП) Столько, сколько нужно
    Сети Использование нескольких сетей для соединения узлов До 48
    Сетевые интерфейсы, устройства и IP-адреса Использование резервных сетевых адаптеров До 256
    Подсистема TCP/IP Использование сетей "точка-точка" для соединения соседних узлов и клиентов Столько, сколько нужно
    Дисковые адаптеры Использование резервных дисковых адаптеров Столько, сколько нужно
    Дисковые контроллеры Использование резервных дисковых контроллеров Столько, сколько нужно (ограничение на аппаратном уровне)
    Диски Использование резервного оборудования, а также технологий зеркального отображения, чередования или их сочетания Столько, сколько нужно
    Приложения Назначение узла для перехвата приложения, конфигурирование мониторов приложений, конфигурирование кластеров с узлами на нескольких сайтах Столько, сколько нужно
    Сайты Использование нескольких сайтов для аварийного восстановления (disaster recovery) 2
    Группы ресурсов Использование групп ресурсов с указанием, каким образом должен работать набор ресурсов До 64 в кластере
    Ресурсы кластера Использование нескольких ресурсов кластера До 128 в Clinfo (кластер может включать больше)

    Первоначальная схема кластера

    После того как было сформировано представление о текущей среде, уяснены понятия HACMP и выявлены свои ожидания от кластера, можно начать разработку схемы кластера.

    На этом этапе следует создать схему кластера HACMP. Рекомендуется начать с простого и постепенно увеличивать степень детализации по мере продвижения процесса планирования. Схема позволяет выявить единые точки отказа, требования приложений и поможет направлять процесс планирования.

    Для записи информации о конфигурации и кластере следует также использовать таблицы планирования на бумаге или систему автоматизированного планирования.

    Первоначальная схема кластера, используемого в нашем примере, представлена на рис. 3.3. На данный момент основное внимание сосредотачивается на высокоуровневом функционировании кластера, подробности кластера рассматриваются по мере прохождения этапа планирования.

    (рис 3.3) Первоначальная схема кластера

    Мы начинаем принимать решения относительно схемы топологии и режима работы кластера на основании своих требований. Например, в соответствии с требованиями первоначальная схема кластера включает следующее:

  • Кластер представляет собой кластер из двух узлов со взаимным перехватом.
  • В качестве имен узлов кластера можно использовать имена хостов, однако мы решили задавать имена узлов кластера.
  • Каждый узел содержит одно приложение, но способен выполнять оба (нужно рассмотреть сеть, хранилище, память, процессор, программное обеспечение).
  • Каждый узел имеет два Ethernet-адаптера, подключенные к одной физической сети Ethernet, каждый к отдельному коммутатору (или какой-либо тип резервного коммутатора).
  • Используется перехват IP-адреса посредством синонимом (а не посредством замены).
  • Каждый узел имеет постоянный IP-адрес (IP-синоним, всегда доступный при работе узла) и один сервисный IP-адрес (IP-синоним на одном из адаптеров, находящихся под управлением HACMP). Базовые адреса адаптера Ethernet относятся к разным подсетям. Так как используется мониторинг пульса через синонимы, это условие не является обязательным, при необходимости оба адаптера могут находится в одной подсети.
  • Общие диски находятся в SAN и доступны на обоих узлах.
  • Все группы томов на общих дисках создаются в режиме расширенного одновременного доступа (Enhanced Concurrent Mode, ECM), что позволяет обеспечить мониторинг пульса через диски и быстрый перехват дисков.
  • Последовательное подключение RS232 показано, однако в связи с использованием мониторинга пульса через диски можно опустить этот элемент схемы. Он показан как необязательный.
  • Используется мониторинг пульса через IP-синонимы (не показано).
  • Каждый узел имеет достаточно ресурсов процессора и памяти для выполнения обоих приложений.
  • Каждый узел имеет резервное оборудование и внутренние диски с зеркальным отображением.
  • Установлен AIX 5.3 ML02.
  • Используется HACMP 5.3.
  • Примечание. Если вы планируете использовать динамические разделы (DLPAR), имя хоста AIX, имя узла кластера и имя HMC LPAR (отображаемое в интерфейсе HMC) должны совпадать.

    Этот список кратко описывает основные компоненты схемы кластера. Каждый элемент будет более подробно рассмотрен в процессе планирования.

    Заполнение обзорной таблицы планирования кластера

    Рекомендуем заполнить первоначальную таблицу, как мы это сделали в нашем примере. В этой лекции приведено 11 таблиц планирования, каждая их которых охватывает различные аспекты его планирования. Табл. 3.2 представляет первую таблицу со списком основных элементов кластера.

    Обзор кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 1 из 11 ОБЗОР КЛАСТЕРА ДАТА: июль 2005
    ИМЯ КЛАСТЕРА cluster10
    ОРГАНИЗАЦИЯ IBM ITSO
    ИМЯ ХОСТА УЗЛА 1 ha53node1
    ИМЯ ХОСТА УЗЛА 2 ha53node2
    ИМЯ HACMP УЗЛА 1 node01
    ИМЯ HACMP УЗЛА 2 node02
    КОММЕНТАРИИ Это набор таблиц планирования для простого 2-узлового кластера HACMP 5.3 со взаимным перехватом с использованием перехвата IP-адреса посредством синонимов.

    Планирование оборудования кластера

    Схема кластера начинается с определения требуемого количества и типа узлов. Эти аспекты в значительной степени зависят от двух факторов:

  • количества ресурсов, требуемых каждым приложением;
  • режима перемещения при отказе в кластере.
  • Примечание. Количество узлов в кластере может варьироваться от 2 до 32.

    При выборе узлов основное условие заключается в том, чтобы в случае перемещения при сбое оставшийся узел или узлы были способны выполнять приложения с отказавшего узла. Другими словами, если у вас есть кластер из двух узлов и при этом отказывает один узел, оставшийся узел должен иметь ресурсы, требуемые для выполнения приложений с отказавшего узла (помимо собственных приложений). Если это невозможно, можно рассмотреть вариант внедрения дополнительного узла в качестве дежурного или вариант использования динамических разделов (DLPAR, в системах POWER4™ или POWER5™). Как вы сможете заметить, HACMP допускает широкий выбор конфигураций кластера в зависимости от ваших требований.

    HACMP работает практически с любым узлом, поддерживаемым AIX, от настольных систем до высокопроизводительных серверов. При выборе типа узла следует учитывать следующее:

  • Убедитесь, что все узлы имеют достаточно ресурсов процессора и памяти, чтобы система могла вести себя требуемым образом в случае перемещения при сбое. Ресурсы процессора и памяти должны быть способны поддерживать требуемые приложения в случае перемещения при сбое, иначе у клиентов могут возникнуть проблемы с производительностью. Если вы используете разделы LPAR, вам может быть полезно использовать возможности DLPAR для увеличения ресурсов в случае перемещения при сбое. При использовании автономных серверов такая возможность отсутствует, так что вам, возможно, придется рассмотреть вариант применения дежурного (резервного, standby) сервера.
  • На каждом сервере используйте оборудование высокой доступности и резервные компоненты там, где это возможно. Например, применяйте резервные источники питания и подключите их в отдельным электросетям.
  • На каждом узле обеспечьте защиту rootvg (копии локальной операционной системы) с использованием зеркального отображения или технологии RAID.
  • Установите как минимум два Ethernet-адаптера на каждом узле и подключите их к отдельным коммутаторам, чтобы защитить их от отказа одного из адаптеров или коммутаторов.
  • Установите два SAN-адаптера на каждом узле, чтобы защитить их от отказа одного из SAN-адаптеров.
  • Хотя это не обязательно, мы рекомендуем использовать узлы кластера с похожими конфигурациями оборудования, чтобы упростить распространение ресурсов и выполнение административных операций. Другими словами, не пытайтесь выполнить перемещение при сбое с высокопроизводительного сервера на настольную систему, ожидая что все будет работать надлежащим образом; будьте благоразумны при выборе узлов.

    Заполнение таблицы планирования оборудования кластера

    Табл. 3.3 содержит сведения об оборудовании для нашего примера. Там, где это возможно, мы использовали избыточное оборудование, дополнительные коммутаторы Ethernet и SAN, а также убедились в достаточности ресурсов для поддержки одновременной работы приложений на каждом узле.

    Оборудование кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 2 из 11 ДАТА: июль 2005
    ОБОРУДОВАНИЕ КЛАСТЕРА
    КОМПОНЕНТ ОБОРУДОВАНИЯ СПЕЦИФИКАЦИИ КОММЕНТАРИИ
    p520 Сервер pSeries Количество – 2
    2 процессора и 4 Гб памяти *Последняя версия микрокода
    4 внутренних SCSI-диска Резервные источники питания.
    Достаточно ресурсов для выполнения обоих приложений на одном сервере
    Ethernet-адаптеры 10/100/1000 Ethernet 2 NIC на узел (минимум)
    Сетевые коммутаторы Название производителя Модель 2 коммутатора.
    Каждый NIC на узле подключен к отдельному коммутатору.
    Все порты сконфигурированы в одной VLAN.
    Коммутаторы поддерживают gratuitous ARP-запросы и отключенный алгоритм Spanning Tree.
    Установлено оптимальное значение скорости порта коммутатора
    Адаптеры SAN 6239 2GB Fibre Channel 2 HBA на узел
    Коммутаторы SAN IBM 2109 2 коммутатора.
    Каждый HBA на узле подключен к отдельному коммутатору.
    Общий диск разделен на зоны для всех узлов, требующих доступа
    Хранилище SAN IBM ESS Модель 800
    КОММЕНТАРИИ Совместимость оборудования проверена.

    Планирование программного обеспечения кластера

    Для обеспечения совместимости требуется провести анализ всех программных компонентов, которые планируется использовать в кластере. Необходимо рассмотреть программное обеспечение AIX, RSCT, HACMP, приложения и хранилища. В этом разделе обсуждаются различные уровни программного обеспечения, а также вопросы совместимости.

    Уровни AIX и RSCT

    HACMP 5.3 поддерживается в AIX версий 5.2 и 5.3. Использовавшиеся в нашей среде уровни сочетания AIX и RSCT приведены в табл. 3.4.

    Уровни AIX и RSCT
    Версия AIX Версия RSCT Минимальные наборы файлов (filesets) RSCT
    AIX 5.3 ML02 (5300-02) или выше, с APARS 2.4.2 rsct.compat.basic.hacmp.2.4.2.0, rsct.compat.clients.hacmp.2.4.2.0, rsct.core.sec.2.4.2.1,
    AIX 5.2 ML06 (5200-06) или выше, с APARS IYXXXXX 2.3.6 rsct.compat.basic.hacmp.2.3.6.0, rsct.compat.clients.hacmp.2.3.6.0, rsct.core.sec.2.3.6.1, rsct.core.rmc.2.3.6.1

    Поддержка Virtual LAN и Virtual SCSI

    Для поддержки функций Virtual LAN (виртуальная локальная сеть) и Virtual SCSI, реализованных в IBM P5 Virtual I/O Server, необходимы следующие уровни программного обеспечения:

  • AIX 5.3 ML02 (5300-02) с APARs IY70082 и iFIX IY72974;
  • VIO Server V1.1 с Fixpack 6.2 и iFIX IY71303.062905.epkg.Z;
  • минимальные уровни RSCT:
  • rsct.basic.hacmp 2.4.2.1,
  • rsct.basic.rte 2.4.2.2,
  • rsct.compat.basic.hacmp 2.4.2.0.
  • Обязательные наборы файлов

    Следующие наборы файлов являются обязательными для работы HACMP. Они должны быть установлены вместе с последней версией исправлений к соответствующему уровню AIX перед установкой HACMP.

  • bos.adt.lib;
  • bos.adt.libm;
  • bos.adt.syscalls;
  • bos.net.tcp.client;
  • bos.net.tcp.server;
  • bos.rte.SRC;
  • bos.rte.libc;
  • bos.rte.libcfg;
  • bos.rte.libcur;
  • bos.rte.libpthreads;
  • bos.rte.odm;
  • bos.rte.lvm.rte (необходим только при использовании существующего или унаследованного 32-разрядного диспетчера Concurrent Logical Volume Manager для одновременного доступа);
  • bos.clvm.enh (необходим для логических томов с расширенным одновременным доступом; используется при мониторинге пульса через диски).
  • Наборы файлов безопасности AIX

    Следующие наборы файлов являются обязательными, если вы планируете использовать аутентификацию или шифрование сообщений в HACMP для связи между узлами кластера. Их можно установить с диска AIX 5L Expansion Pack CD-ROM.

  • rsct.crypt.des – для шифрования данных с использованием алгоритма аутентификации сообщений DES.
  • rsct.crypt.3des – для шифрования данных с использованием алгоритма аутентификации сообщений Triple DES.
  • rsct.crypt.aes256 – для шифрования данных с использованием алгоритма аутентификации сообщений AES (Advanced Encryption Standard).
  • Примечание. Эти наборы файлов не поддерживаются в AIX 5.1.

    Программное обеспечение, необходимое для работы WebSmit

    Следующее программное обеспечение является необходимым, если вы планируете установить и сконфигурировать WebSmit. Представленные версии являются наиболее актуальными на момент написания этого курса.

  • Apache-совместимый веб-сервер (Apache или IBM Http Server, IHS).
  • Apache 1.3.31 можно скопировать по адресу http://www-1.ibm.com/servers/aix/products/aixos/linux/download.html.
  • IBM IHS v2.0.47.1 можно скопировать по адресу http://www-306.ibm.com/software/webservers/httpservers/ .
  • RPM Package Manager (если еще не установлен в системе); expat-195.7-1.aix5.1.ppc. rpm можно скопировать по адресу http://www-1.ibm.com/servers/aix/products/aixos/linux/download.html
  • openssl может быть скопирован по адресу http://www-1.ibm.com/servers/aix/products/aixos/linux/download.html
  • Выберите "AIX Toolbox Cryptographic Content" и скопируйте следующие файлы:

  • apache-1.3.31-1ssl.aix5.1.ppc.rpm;
  • mod_ssl-2.8.19-1ssl.aix5.1.ppc.rpm;
  • openssl-0.9.7d-1.ssl.aix5.1.ppc.rpm.
  • Примечание. Вы должны зарегистрироваться на ibm.com®, при этом необходимо учитывать, что регистрация может занять 24 ч. Если вы НЕ зарегистрированы, вы не сможете скопировать файлы криптографического содержимого.

    Наборы файлов HACMP

    С установочного носителя можно получить следующие наборы файлов HACMP (за исключением дополнительных языковых наборов файлов):

  • cluster.adt.es.client.include;
  • cluster.adt.es.client.samples.clinfo;
  • cluster.adt.es.client.samples.clstat;
  • cluster.adt.es.client.samples.libcl;
  • cluster.adt.es.java.demo.monitor;
  • cluster.assist.license – HACMP Smart Assist Feature;
  • cluster.doc.en_US.assist.db2.html;
  • cluster.doc.en_US.assist.db2.pdf;
  • cluster.doc.en_US.assist.oracle.html;
  • cluster.doc.en_US.assist.oracle.pdf;
  • cluster.doc.en_US.assist.websphere.html;
  • cluster.doc.en_US.assist.websphere.pdf;
  • cluster.doc.en_US.es.html – HTML-документация по HAES;
  • cluster.doc.en_US.es.pdf – PDF-документация по HAES (англ.);
  • cluster.doc.en_US.glvm.html;
  • cluster.doc.en_US.glvm.pdf;
  • cluster.doc.en_US.pprc.pdf;
  • cluster.doc.en_US.pprc.html;
  • cluster.es.assist.common – HACMP Smart Assist Common;
  • cluster.es.assist.db2 – HACMP Smart Assist for DB2;
  • cluster.es.assist.oracle – HACMP Smart Assist for Oracle;
  • cluster.es.assist.websphere;
  • cluster.es.cfs.rte;
  • cluster.es.client.lib – библиотеки ES-клиента;
  • cluster.es.client.rte – среда выполнения ES-клиента;
  • cluster.es.client.utils – утилиты ES-клиента;
  • cluster.es.client.wsm – WebSmit;
  • cluster.es.clvm.rte – ES для одновременного доступа AIX;
  • cluster.es.cspoc.cmds – команды ES CSPOC;
  • cluster.es.cspoc.dsh – ES CSPOC dsh;
  • cluster.es.cspoc.rte – команды среды выполнения ES CSPOC;
  • cluster.es.ercmf.cmds;
  • cluster.es.ercmf.rte;
  • cluster.es.plugins.dns;
  • cluster.es.plugins.printserver;
  • cluster.es.plugins.dhcp;
  • cluster.es.pprc.cmds;
  • cluster.es.pprc.rte;
  • cluster.es.server.cfgast – двухузловая конфигурация ES;
  • cluster.es.server.diag – средства диагностики ES-сервера;
  • cluster.es.server.events – события ES-сервера;
  • cluster.es.server.rte – базовая среда выполнения ES-сервера;
  • cluster.es.server.testtool;
  • cluster.es.server.utils – утилиты ES-сервера;
  • cluster.es.svcpprc.cmds;
  • cluster.es.svcpprc.rte;
  • cluster.es.worksheets – система автоматизированного планирования (OLPW);
  • cluster.hativoli.client;
  • cluster.hativoli.server;
  • cluster.license – электронная лицензия HACMP;
  • cluster.man.en_US.assist.data;
  • cluster.man.en_US.es.data;
  • cluster.msg.en_US.assist;
  • cluster.msg.en_US.cspoc;
  • cluster.msg.en_US.ercmf;
  • cluster.msg.en_US.es.client;
  • cluster.msg.en_US.es.server;
  • cluster.msg.en_US.hativoli;
  • cluster.msg.en_US.pprc;
  • cluster.msg.en_US.svcpprc;
  • cluster.xd.glvm;
  • cluster.xd.license;
  • glvm.rpv.util – Geographic LVM;
  • glvm.rpv.client;
  • glvm.rpv.server;
  • glvm.rpv.msg.en_US;
  • hageo.doc.en_US.data;
  • hageo.gmdsizing;
  • hageo.man.en_US.message.data;
  • hageo.man.en_US.mirror.data;
  • hageo.manage.utils;
  • hageo.message.ext;
  • hageo.message.utils;
  • hageo.mirror.ext;
  • hageo.mirror.utils;
  • hageo.msg.en_US.message;
  • hageo.msg.en_US.mirror.
  • Файлы AIX, изменяемые HACMP

    Помните о том, что следующие системные файлы могут быть изменены HACMP в процессе установки, верификации и синхронизации кластера.

    /etc/hosts

    Скрипты событий кластера используют файл /etc/hosts для разрешения имен. Все IP-интерфейсы узлов кластера должны быть указаны в этом файле на всех узлах. HACMP может изменить этот файл, чтобы обеспечить наличие всей необходимой информации в файле /etc/hosts на всех узлах для корректной работы HACMP.

    При удалении сервисных IP-меток из конфигурации кластера с использованием SMIT рекомендуется также удалить их из файла /etc/hosts.

    /etc/inittab

    Файл /etc/inittab изменяется в следующих случаях:

  • При установке HACMP. При первоначальной установке HACMP добавляется следующая строка (она запускает подсистемы clcomdES и clstrmgrES, если они еще не запущены):hacmp:2:once:/ usr/es/sbin/cluster/etc/rc.init >/dev/console 2>1.Важно! Эта запись HACMP осуществляет запуск следующих демонов с использованием команды startsrc, если они еще не запущены:
  • startsrc -s syslogd,
  • startsrc -s snmpd,
  • startsrc -s clcomdES,
  • startsrc -s clstrmgrES.
  • При конфигурировании перехвата IP-адреса в HACMP:
  • harc:2:wait:/usr/es/sbin/cluster/etc/harc.net # HACMP network startup
  • если включен перехват IP-адреса, система редактирует файл /etc/inittab, изменяя rc.tcpip-и inet-зависимые записи с уровня выполнения " 2 " (многопользовательский уровень по умолчанию) на уровень выполнения " a ";
  • записи с уровнем выполнения " a " обрабатываются только при выполнении команды telinit с указанием этого уровня выполнения.
  • При выборе опции Start at System Restart на панели SMIT System Management (C-SPOC) > Manage HACMP Services > Start Cluster Services:
  • hacmp6000:2:wait:/usr/es/sbin/cluster/etc/rc.cluster -boot -i # Bring up Cluster;
  • при загрузке системы файл /etc/inittab вызывает скрипт /usr/es/sbin/cluster/ etc/rc.cluster для запуска HACMP;
  • так как inet-демоны не должны запускаться до тех пор, пока интерфейсы, управляемые HACMP, не перейдут на сервисный IP-адрес, HACMP также добавляет следующую запись в конец файла /etc/inittab, указывая таким образом что обработка файла /etc/inittab была завершена:
  • clinit:a:wait:/bin/touch /usr/es/sbin/cluster/.telinit #HACMP for AIX. These must be the last entry in run level "a" in inittab!
  • pst_clinit:a:wait:/bin/echo Created /usr/es/sbin/cluster/.telinit >. /dev/console #HACMP for AIX These must be the last entry in run. level "a" in inittab!
  • При установке Concurrent Logical Volume Manager (cluster.es.clvm) в HACMP. В файл /etc/inittab автоматически добавляется следующая запись: haclvm_cfg:2:wait:/usr/es/sbin/cluster/clvm/config_mode3.
  • Внимание! Хотя можно запускать службы кластера из inittab, настоятельно рекомендуем не использовать эту опцию. Лучше контролировать запуск HACMP вручную. Например, в случае отказа лучше определять причину отказа до перезапуска HACMP на узле. Примечание: В файл inittab также добавляется запись ha_star. Эта запись вносится вместе с набором файлов bos.rte.control, а не с HACMP.

    /etc/rc.net

    Файл /etc/rc.net вызывается утилитой cfgmgr (cfgmgr – утилита AIX 5L, осуществляющая конфигурирование устройств, а также, опционально, установку программного обеспечения устройств в системе) для настройки и запуска TCP/IP в процессе загрузки. Он задает имя хоста, шлюз по умолчанию и статические маршруты.

    /etc/services

    HACMP использует следующие сетевые порты для связи между узлами кластера (они все перечислены в файле /etc/services):

  • clinfo_deadman 6176/tcp;
  • clsmuxpd 6270/tcp;
  • clm_lkm 6150/tcp;
  • clm_smux 6175/tcp;
  • godm 6177/tcp;
  • topsvcs 6178/udp;
  • grpsvcs 6179/udp;
  • emsvcs 6180/udp;
  • #clver 6190/tcp (закомментировано, так как clverify теперь использует clcomd);
  • clcomd 6191/tcp;
  • clinfo_client 6174/tcp;
  • #cllockd 6100/udp (закомментировано – cllockd не поддерживается начиная с HACMP 5.2);
  • #clm_mig_1k 6151/tcp (закомментировано – cllockd не поддерживается начиная с HACMP 5.2).
  • Примечание. При установке HACMP/XD для GLVM в файл /etc/services на всех узлах локальных и удаленных сайтов, на которых установлено программное обеспечение, автоматически добавляется следующая запись с номером порта и протоколом подключения: rpv 6192/tcp. Требования приложения

    Помимо HACMP, следующие порты используются RMC:

  • #rmc 657/tcp;
  • #rmc 657/udp. WebSmit обычно использует порт (порт WebSmit является настраиваемым) #http 42267 (порт WebSmit) /etc/snmpd.conf
  • Версия snmpd.conf зависит от того, какая версия системы используется: AIX 5L V5.1 или более поздняя. В более поздних версиях системы AIX 5L, чем V5.1, по умолчанию используется файл snmpdv3.conf.

    Демон SNMP считывает файл конфигурации /etc/snmpd.conf при запуске, а также при обновлении или выдаче сигнала kill -1. Этот файл задает имена сообществ (community names) и соответствующие привилегии доступа и представления, хосты уведомления о ловушках (trap), атрибуты журналов, конфигурации параметров snmpd, а также конфигурации SMUX для snmpd. Процесс установки HACMP добавляет clsmuxpd-пароль для этого файла.

    Чтобы включить HACMP MIB с управлением из диспетчера кластера (Cluster Manager), в конец файла добавляется запись

    smux 1.3.6.1.4.1.2.3.1.2.1.5 "clsmuxpd_password" # HACMP clsmuxpd
    /etc/snmpd.peers

    Файл /etc/snmpd.peers осуществляет настройку сторон подключения SMUX (snmpd SMUX peers). При установке HACMP добавляет следующую запись, чтобы включить clsmuxpd-пароль для этого файла:

    clsmuxpd 1.3.6.1.4.1.2.3.1.2.1.5 
      "clsmuxpd_password" # HACMP clsmuxpd

    /etc/syslog.conf

    Файл конфигурации /etc/syslog.conf используется для управления выходными данными демона syslogd, который регистрирует системные сообщения. В процессе установки HACMP добавляет в этот файл записи, которые направляют вывод сообщений, связанных с HACMP в определенные файлы.

    Пример:

  • # HACMP Critical Messages from HACMP
  • local0.crit /dev/console
  • # HACMP Informational Messages from HACMP
  • local0.info /usr/es/adm/cluster.log
  • # HACMP Messages from Cluster Scripts
  • user.notice /usr/es/adm/cluster.log
  • # HACMP/ES for AIX Messages from Cluster Daemons
  • daemon.notice /usr/es/adm/cluster.log
  • Файл /etc/syslog.conf должен быть одинаковым на всех узлах.

    /etc/trcfmt

    Файл /etc/trcfmt представляет собой файл-шаблон для утилиты регистрации и создания отчетов трассировки системы, trcrpt. В процессе установки добавляется трассировка HACMP в файл формата трассировки. Трассировка HACMP выполняется для демонов clstrmgr и clinfo.

    /var/spool/cron/crontab/root

    В процессе установки HACMP в файл /var/spool/cron/crontab/root добавляется чередование файлов журналов HACMP.

    0 0 * * * /usr/es/sbin/cluster/utilities/clcycle 
     1>/dev/null 2>/dev/null # >.
    HACMP for AIX Logfile rotation

    Программное обеспечение приложений

    Обычно приложения не зависят от версии HACMP; они даже не знают о функционировании HACMP. Другими словами, HACMP просто запускает и останавливает приложения (HACMP также может осуществлять мониторинг приложений, однако обычно для этого подбирается метод, зависящий от приложения).

    Тем не менее существует несколько приложений, в частности Oracle RAC 9i, которые в значительной степени зависят от используемой версии HACMP.

    Свяжитесь с производителем приложения, чтобы убедиться в отсутствии проблем (например, с лицензированием) при использовании HACMP 5.3.

    Лицензирование

    Необходимо принимать во внимание два аспекта лицензирования: лицензирование HACMP (функций) и лицензирование приложения.

    HACMP

    Начиная с HACMP V5.2 лицензирование HACMP основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP V5. Наличие лицензий HACMP является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP.

    Лицензирование HACMP/XD V5 основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP/XD V5. Наличие лицензий HACMP V5 и HACMP/ XD V5 является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP/XD.

    Лицензирование HACMP V5 Smart Assist основано на количестве процессоров. Под количеством процессоров понимается суммарное количество процессоров, на которых установлен или выполняется HACMP V5 Smart Assist. Наличие лицензий HACMP V5 и HACMP V5 Smart Assist является обязательным на каждом компьютере, на котором устанавливается и выполняется HACMP V5 Smart Assist.

    Итак, вот что это значит:

  • если у вас есть сервер pSeries с четырьмя процессорами, работающими в режиме использования всех ресурсов в одном разделе (full system partition mode), вам необходима лицензия на 4 процессора;
  • если у вас есть сервер pSeries с четырьмя процессорами, обрабатывающими логические разделы, и HACMP выполняется только в разделе с двумя процессорами, вам необходима лицензия на 2 процессора;
  • конечно же, вам необходима лицензия для каждого сервера, на котором вы планируете запускать HACMP.
  • Примечание. Лицензирование HACMP по микроразделам не осуществляется. Необходимо выполнять лицензирование для процессоров целиком.

    Приложение

    Некоторые приложения имеют особенные требования по лицензированию, например использование отдельной лицензии для каждого процессора, выполняющего приложение; это означает, что необходимо лицензировать приложение путем включения информации, относящейся к процессору, в приложение при его установке. В результате, несмотря на корректную обработку отказов узла программным обеспечением HACMP, оно может быть неспособно перезапустить приложение на узле перемещения при сбое из-за ограничения на количество лицензий для этого приложения в кластере.

    Во избежание этой проблемы, убедитесь в наличии лицензии для каждой системы в кластере, которая потенциально может выполнять приложение.

    Важно! Свяжитесь с производителем приложения, чтобы убедиться в отсутствии проблем с лицензированием при использовании HACMP 5.3.

    Заполнение таблицы планирования программного обеспечения

    Табл. 3.5 содержит полный список программного обеспечения, установленного в нашем примере.

    Программное обеспечение кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 3 из 11 ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ КЛАСТЕРА ДАТА: июль 2005
    КОМПОНЕНТ ПО ВЕРСИЯ КОММЕНТАРИИ
    AIX 5.3 ML02 Последняя версия AIX
    RSCT 2.4.2.1 Последняя версия RSCT
    HACMP 5.3 BASE Версия GA
    IBM SDD 1.6.0.2 ПО обеспечения множественных путей к хранилищу
    ПРИЛОЖЕНИЕ Тестовое приложение, Версия 1 Укажите версии своих приложений
    КОММЕНТАРИИ Для всего ПО выполнена проверка совместимости.
    При выполнении приложений с HACMP проблем не возникает.
    Лицензирование HACMP выполняется для четырех процессоров на каждом узле.
    Лицензирование приложений проверено, и лицензии приобретены для обоих серверов.

    Аспекты операционной системы

    Помимо уровней и наборов файлов операционной системы AIX, существует еще несколько аспектов операционной системы, которые необходимо рассмотреть на этапе планирования.

    Требования к дисковому пространству

    HACMP требует наличия следующих объемов дискового пространства для установки в группе томов rootvg:

  • /usr требует 82 Мб свободного пространства для полной установки HACMP;
  • / (root) требует 710 Кб свободного пространства.
  • Кроме того, рекомендуется выделить приблизительно 100 Мб свободного пространства в /var и /tmp для журналов HACMP. (Требуемое пространство зависит от количества узлов в кластере, которое влияет на размер сообщений, записываемых в различные журналы HACMP.)

    Синхронизация времени

    Синхронизация времени между узлами кластера важна как для приложения, так и для журналов HACMP. Она относится к стандартным задачам системного администратора, и мы рекомендуем использовать NTP-сервер или другую процедуру синхронизации времени между узлами кластера.

    Примечание. Синхронизация времени между узлами особенно полезна для аудита и отладки проблем в кластере.

    Настройки операционной системы

    Для HACMP не требуется дополнительных настроек операционной системы. Используйте обычную настройку AIX в соответствии с рабочей нагрузкой приложений.

    Планирование безопасности

    Защита узлов кластера (и приложения) от несанкционированного доступа является важным фактором общей доступности системы. Существуют некоторые общие аспекты безопасности, а также аспекты, связанные с HACMP, которые мы рассмотрим в этом разделе.

    Безопасность кластера

    Кластеру HACMP нужен способ аутентификации на всех своих узлах для выполнения удаленных команд, связанных с верификацией кластера, синхронизацией и некоторыми административными операциями (C-SPOC).

    Защита кластера необходима для предотвращения неавторизованного доступа к узлам кластера. Начиная с HACMP 5.1 дополнительная защита кластера обеспечивается новым механизмом безопасности, использующим возможности демона коммуникаций кластера (clcomdES).

    Была устранена зависимость от AIX rsh (и таким образом, от файла /.rhosts). Так как некоторые внешние для HACMP команды, например пользовательские скрипты, могут все еще требовать удаленного выполнения команд с использованием r-команд, вам нужно проанализировать, есть ли необходимость оставить файл ~/.rhosts.

    Межузловая связь в HACMP осуществляется с использованием демона кластера (clcomdES), что устраняет необходимость в "классических" удаленных командах AIX.

    Режимы аутентификации подключения в HACMP

  • Стандартный режим безопасности:
  • стандартный режим безопасности (standard security mode) используется по умолчанию;
  • реализуется непосредственно демоном коммуникаций кластера (clcomdES);
  • использует информацию об узлах и адаптерах, хранящуюся в ODM-классах HACMP и файле /usr/es/sbin/cluster/etc/rhosts, для определения допустимых партнеров.
  • Расширенный режим безопасности (kerberos):
  • режим безопасности Kerberos (enhanced security mode) доступен только для кластеров HACMP, реализованных в кластере SP;
  • используется метод аутентификации Kerberos.
  • Для повышения безопасности можно также использовать VPN-туннели между узлами кластера. В этом случае трафик clcomdES для IP-интерфейсов/адресов, сконфигурированных в HACMP, направляется через VPN-туннели, предоставляемые AIX. При использовании VPN следует применять постоянные адреса для VPN-туннелей. Конфигурирование VPN сначала выполняется в AIX, а потом в HACMP. Для упрощения конфигурирования HACMP предоставляет меню SMIT.

    В стандартном режиме безопасности при удаленном выполнении команд HACMP в /usr/es/sbin/cluster используется принцип наименьших привилегий. При этом ни одна команда не может быть выполнена на удаленном узле с привилегиями "root", кроме команд, перечисленных в /usr/es/sbin/cluster. Эти команды HACMP считаются доверенными, и для них допускается запуск с привилегиями "root"; все остальные команды выполняются под учетной записью "nobody".

    Для управления межузловыми коммуникациями демону коммуникаций кластера необходим список допустимых IP-меток или адресов кластера. Существует два способа предоставить эту информацию:

  • автоматическое конфигурирование узлов (используется по умолчанию);
  • индивидуальное конфигурирование узлов (вручную).
  • Автоматическое конфигурирование узлов

    Если вы впервые осуществляете конфигурирование HACMP, файл /usr/es/sbin/cluster/ etc/rhosts на узле является пустым. Демон clcomdES должен выполнить аутентификацию IP-адреса входящего подключения, чтобы убедиться, что оно исходит от узла в кластере; правила проверки адресов основаны на следующем процессе:

  • Если файл /usr/es/sbin/cluster/etc/rhosts пуст и на этом узле не определен кластер HACMP, то первое подключение с другого узла будет аутентифицировано и принято. Содержимое файла /usr/es/sbin/cluster/etc/rhosts будет изменено; оно будет включать все базовые адреса сетевых адаптеров, доступные для ping-опроса с запрашивающего узла.
  • Если на узле уже определен кластер (ODM-класс HACMPcluster не пуст), то clcomdES ищет путь для связи (IP-адрес) в ODM-классе HACMPnode, а затем в HACMPadapter. Если он находит допустимый путь для связи, он берет первое вхождение (сначала из HACMPnode, затем из HACMPadapter); в противном случае выполняется поиск допустимого IP-адреса в файле /usr/es/sbin/cluster/etc/rhosts.
  • Если clcomdES не может выполнить аутентификацию входящих подключений, он выдаст ошибку и вам нужно будет вручную исправить файл /usr/es/sbin/cluster/ etc/rhosts, после чего повторно запустить демон clcomdES (stopsrc -s clcomdES, startsrc -s clcomdES)
  • Обычно пользователю не приходится вручную заполнять файл rhosts; это делает clcomdES. Так как после установки этот файл пуст, он будет заполнен при первом подключении с другого узла. Первое подключение обычно выполняется с целью верификации и синхронизации, после чего происходит заполнение ODM-классов HACMPnode и HACMPadapter. После синхронизации кластера файл rhosts можно очистить, но не удалить. Информация из классов HACMPnode и HACMPadapter затем используется для аутентификации clcomd.

    Внимание!
  • Чтобы гарантировать, что неавторизованный хост не подключится к узлу между установкой программного обеспечения HACMP и инициированием подключения от одного узла кластера к другому, можно вручную заполнить (отредактировать) файл /usr/es/sbin/cluster/etc/rhosts, добавив в него одну или несколько IP-меток/ адресов (являющихся частью кластера).
  • Если впоследствии вы решите переделать конфигурацию кластера (начать с самого начала или изменить базовые IP-адреса узлов), рекомендуется также очистить содержимое файла rhosts (НЕ УДАЛЯЯ ЕГО) на ВСЕХ узлах, на которых планируется реализовать кластер.
  • Индивидуальное конфигурирование узлов

    В качестве альтернативного решения, если вас в особенности интересует сетевая безопасность (построение кластера может выполняться на основе незащищенной сети), можно поместить все IP-адреса/метки в файл /usr/es/sbin/cluster/etc/rhosts до конфигурирования кластера.

    При установке HACMP этот файл создается пустым и имеет разрешения чтения и записи только для пользователя "root".

    Примечание. Убедитесь, что каждые IP-адрес/метка допустимы для кластера, иначе в файл /var/hacmp/clcomd/clcomd.log будет записана ошибка.

    Настройка файла /usr/es/sbin/cluster/etc/rhosts

  • Откройте файл /usr/es/sbin/cluster/etc/rhosts на узле под учетной записью "root".
  • Отредактируйте файл, добавив в него все возможные IP-адреса сетевых интерфейсов каждого узла.
  • Вводите по одной IP-метке или адресу в каждой строке.
  • Примечание. Если вы отключите демон коммуникаций кластера или полностью УДАЛИТЕ файл /usr/es/sbin/cluster/etc/rhosts, программы, требующие межузловой связи, такие, как C-SPOC, средства верификации и синхронизации кластера, наборы файлов и средства аутентификации и шифрования сообщений, работать не будут. По этой причине необходимо обеспечить постоянное выполнение clcomdES.

    Администрирование пользователей

    Большинство приложений требует, чтобы информация о пользователях (идентификатор пользователя, членство в группе, идентификатор группы) была согласованной на всех узлах кластера, чтобы пользователи могли подключиться к работающим узлам без возникновения проблем.

    Это особенно важно в ситуациях перемещения при сбое (перехвата). Очень важно, чтобы пользователь приложения был способен осуществлять доступ к общим файлам с любого узла в кластере. Обычно это означает, что идентификатор пользователя (UID) и идентификатор группы (GID), связанные с приложением, должны быть одинаковы на всех узлах.

    При подготовке к конфигурированию кластера важно это учитывать и в случае необходимости исправить; в противном случае могут возникнуть проблемы с обслуживанием во время перемещения при сбое.

    После установки HACMP содержит средства управления учетными записями пользователей и групп AIX 5L в кластере HACMP. Также имеется утилита для авторизации заданных пользователей и изменения их пароля на всех узлах в кластере HACMP.

    Внимание! При управлении учетными записями пользователей с применением таких утилит, как Network Information Service (NIS), средств управления пользователями PSSP или Distributed Computing Environment (DCE) Manager, НЕ употребляйте средства управления пользователями HACMP. Применение средств управления пользователями HACMP в такой среде может вызвать серьезную несогласованность в базах данных аутентификации пользователей.

    Группа HACMP

    При установке HACMP, если группа hacmp не существует, она будет создана. При создании группы HACMP просто берет следующий доступный идентификатор GID для группы hacmp.

    Примечание. Если вы предпочитаете контролировать идентификатор GID группы hacmp, рекомендуем создать группу hacmp перед установкой наборов файлов HACMP.

    IP-порты HACMP

    Помимо портов, перечисленных в файле /etc/services, следующие службы также требуют использования портов, однако эти порты выбираются произвольным образом при запуске процесса. В настоящее время нет способа выделения определенных портов, просто помните об их наличии. Для примера представлены типичные номера портов (однако при необходимости они могут быть изменены):

  • #clstrmgr 870/udp,
  • #clstrmgr 871/udp,
  • #hatsd 32789/udp,
  • #clinfo 32790/udp.
  • Планирование наборов файлов HACMP

    HACMP требует, чтобы определенные файлы были одинаковыми на всех узлах кластера. К таким файлам относятся скрипты обработки событий, скрипты приложений, некоторые файлы конфигурации AIX 5L и файлы конфигурации HACMP. Средство HACMP File Collections позволяет выполнять автоматическую синхронизацию этих файлов между узлами кластеров, выдавая предупреждения в случае неожиданных результатов (например, если один или несколько файлов из набора были удалены или имеют нулевую длину на одном или нескольких узлах кластера).

    Управление этими наборами файлов можно осуществлять через меню SMIT. С помощью SMIT можно добавлять, удалять и изменять наборы файлов для соответствия вашим потребностям.

    Стандартные наборы файлов HACMP

    При установке HACMP происходит установка следующих наборов файлов (file collections):

  • Configuration_Files,
  • HACMP_Files.
  • Configuration_Files

    Набор Configuration_Files представляет контейнер для следующих важных системных файлов:

  • /etc/hosts,
  • /etc/services,
  • /etc/snmpd.conf,
  • /etc/snmpdv3.conf,
  • /etc/rc.net,
  • /etc/inetd.conf,
  • /usr/es/sbin/cluster/netmon.cf,
  • /usr/es/sbin/cluster/etc/clhosts,
  • /usr/es/sbin/cluster/etc/rhosts.
  • Можно изменять опции распространения для этого набора файлов, а также добавлять и удалять файлы из этого набора файлов.

    HACMP_Files

    Набор HACMP_Files представляет контейнер, в котором обычно находятся настраиваемые пользователем файлы конфигурации HACMP, в частности скрипты запуска/ остановки, настраиваемые события и т. д. Этот набор файлов не может быть удален или изменен, и файлы из этого набора нельзя удалить, изменить или добавить.

    Примечание. Например, при определении сервера приложений в HACMP (создании скриптов запуска, остановки и необязательных скриптов мониторинга) HACMP автоматически включает эти файлы в набор HACMP_Files.

    Планирование сетей кластера

    Конфигурация сети представляет основной компонент схемы кластера. В стандартной кластерной среде клиенты осуществляют доступ к приложениям через сеть TCP/IP (обычно через Ethernet) с использованием сервисного адреса.

    HACMP обеспечивает высокую доступность этого сервисного адреса, а также при необходимости перемещение этого адреса между коммуникационными интерфейсами в одной сети. HACMP пересылает пакеты пульса между всеми коммуникационными интерфейсами (адаптерами) в сети, чтобы определить состояние адаптеров и узлов и предпринять необходимые меры.

    Чтобы не допустить возникновения единой точки отказа в сетевом протоколе TCP/IP, а также разделения кластера, HACMP также использует отличные от IP сети типа "точка-точка" для мониторинга пульса. Это позволяет HACMP определить причину отказа, например отказ TCP/IP или отказ узла.

    В этом разделе мы рассмотрим каждый тип сети и выберем соответствующие сетевые подключения и адреса.

    На рис. 3.4 представлен обзор сетей, используемых в кластере.

    Сеть Ethernet применяется для открытого доступа; к ней с каждого узла подключается несколько адаптеров. Эта сеть содержит базовые IP-адреса, постоянные IP-адреса и сервисные IP-адреса. Можно использовать несколько сетей, однако для простоты описания мы будем применять только одну.

    Также показана последовательная сеть RS232. Она представляет собой сеть типа "точка-точка" с прямым подключением, с кабельным соединением между последовательными портами на каждом узле.

    Также представлена сеть пульса через диски (а также сеть типа "точка-точка"). При использовании SAN-дисков можно легко реализовать мониторинг пульса через диски, так как это не требует дополнительного оборудования. Кроме того, в multipathконфигурации устройств применение устройства vpath, в отличие от hdisk, позволяет использовать возможности программного обеспечения SDD. Другими словами, в hdisk применяется только один путь к устройству, тогда как в vpath обычно используется несколько путей. Multipath-устройства могут быть сконфигурированы при употреблении нескольких дисковых адаптеров на узле, нескольких адаптеров хранилища или при одновременном использовании и того и другого.

    (рис 3.4) Сети кластера HACMP

    Все сетевые подключения применяются HACMP для мониторинга состояния сети, адаптеров и узлов кластера.

    В нашем примере мы планируем использовать сеть Ethernet и сеть пульса через диски, а не сеть RS232.

    Терминология

    Этот раздел содержит краткий обзор терминологии, применяемой в обсуждениях сетевых возможностей HACMP.

    IP-метки

    IP-метки (IP labels) представляют собой имена, связанные с IP-адресами, подлежащими разрешению системой (/etc/hosts, BIND и т. д.).

    Сервисная IP-метка/адрес

    Сервисная IP-метка/адрес (service IP label/address) представляет собой IP-адрес или метку, через которую осуществляется обслуживание. Обычно она представляет собой адрес, используемый клиентами для доступа к приложению. Она может быть привязана к узлу либо совместно использоваться узлами, и HACMP обеспечивает его высокую доступность.

    Постоянная IP-метка/адрес

    Постоянная IP-метка/адрес (persistent IP label/address) – это IP-синоним, привязанный к узлу, управляемый HACMP. Другими словами, постоянный синоним никогда не перемещается на другой узел; иногда он называется привязанным к узлу (node-bound).

    Коммуникационный интерфейс

    Коммуникационный интерфейс (communication interface) – это физический интерфейс, поддерживающий протокол TCP/IP. В качестве примера можно привести Ethernetадаптер. Представлен IP-меткой времени загрузки или базовой IP-меткой.

    Коммуникационное устройство

    Коммуникационное устройство (communication device) – это физическое устройство, представляющее сторону отличной от IP сети типа "точка-точка". Например: /dev/tty1 и /dev/vpath0.

    Коммуникационный адаптер

    Коммуникационный адаптер (communication adapter) – это физический адаптер X25, высокая доступность которого поддерживается HACMP.

    Сетевая интерфейсная карта (NIC)

    Сетевая интерфейсная карта (Network Interface Card, NIC) – это обычный физический адаптер, используемый для предоставления доступа к сети, например Ethernetадаптер считается сетевой интерфейсной картой.

    Общие аспекты сети

    Данный раздел содержит множество аспектов, которые следует помнить при разработке конфигурации сети.

    Поддерживаемые типы сетей

    HACMP позволяет осуществлять межузловую связь в TCP/IP-сетях следующих типов. (следует заметить, что наиболее часто используемой сетью является Ethernet):

  • Ethernet;
  • Token-Ring;
  • Fiber Distributed Data Interchange (FDDI);
  • ATM и эмуляция ATM LAN;
  • SP Switch1 и SP Switch2;
  • Etherchannel (или 802.3ad Link Aggregation).
  • Следующие TCP/IP-сети не поддерживаются:

  • Средство VIPA (Virtual IP Address) в системе AIX 5L;
  • Serial Optical Channel Converter (SOCC);
  • SLIP;
  • FC Switch (FCS);
  • IBM HPS (High Performance Switch);
  • 802_ether;
  • IP V6.
  • Можно сконфигурировать мониторинг пульса посредством сетей "точка-точка" следующих типов:

  • последовательная сеть RS232;
  • мониторинг пульса через диски (через диски в режиме расширенного одновременного доступа);
  • Target mode SSA (почти устарел);
  • Target mode SCSI (устарел).
  • Сетевые подключения

    HACMP требует, чтобы каждый узел в кластере имел как минимум одно прямое немаршрутизируемое сетевое подключение ко всем остальным узлам. Эти сетевые подключения передают сообщения пульса между узлами кластера для определения состояния всех узлов кластера, сетей и сетевых интерфейсов.

    HACMP также требует, чтобы все коммуникационные интерфейсы для заданной сети кластера были определены в одной физической сети, осуществляли маршрутизацию пакетов и получали ответы друг от друга без помех от другого сетевого оборудования.

    Не используйте интеллектуальные коммутаторы, маршрутизаторы или другое сетевое оборудование, которые не осуществляют прозрачную передачу широковещательной рассылки UDP и других пакетов между всеми узлами кластера.

    Мосты, концентраторы и прочие пассивные устройства, не изменяющие поток пакетов, можно благополучно размещать между узлами кластера, а также между узлами и клиентами.

    На рис. 3.5 показана физическая конфигурация Ethernet с двумя Ethernet-адаптерами на каждом узле, подключенными через два коммутатора; все узлы сконфигурированы в одной физической сети (VLAN). Это иногда называется расположением в одном "домене коллизий" MAC.

    Etherchannel

    HACMP поддерживает применение Etherchannel (или Link Aggregation) для подключения к сети Ethernet. Etherchannel может быть полезен, если вы посчитаете нужным использовать несколько Ethernet-адаптеров как для увеличения пропускной способности сети, так и для перемещения при сбое, но при этом также требуется сохранить простоту конфигурации HACMP. При употреблении Etherchannel можно просто задать интерфейс(рис 3.5) Подключения к коммутаторам в сети EthernetEtherchannel в качестве коммуникационного интерфейса; любые отказы в сети Ethernet, за исключением отказа самой сети Ethernet, можно обрабатывать без участия HACMP.

    EtherChannel представляет собой технологию агрегации сетевых портов, позволяющую объединять несколько Ethernet-адаптеров для создания одного псевдоEthernet-устройства. Например, ent0 и ent1 можно объединить в адаптер EtherChannel под названием ent3; затем можно настроить IP-адрес для интерфейса en3. Система считает эти объединенные адаптеры одним адаптером. Таким образом, IP-адрес настраивается для них как для любого Ethernet-адаптера. Кроме того, всем адаптерам в EtherChannel назначается один аппаратный (MAC) адрес, так что для удаленных систем они представляются как один адаптер.

    Основное преимущество технологии EtherChannel состоит в том, что она использует сетевую пропускную способность всех адаптеров. При отказе адаптера сетевой трафик автоматически передается на следующий доступный адаптер без разрыва существующих пользовательских подключений. После восстановления адаптер автоматически возвращается к работе.

    В дополнение к функции агрегации также можно выполнить назначение резервного адаптера. Этот адаптер конфигурируется как часть Etherchannel, но остается неактивным, пока не откажут все основные адаптеры. Это называется резервированием сетевого интерфейса (Network Interface Backup, NIB).

    EtherChannel представляет собой технологию агрегации сетевых портов, позволяющую объединять несколько Ethernet-адаптеров для создания одного псевдоEthernet-устройства. Например, ent0 и ent1 можно объединить в адаптер EtherChannel под названием ent3; затем можно настроить IP-адрес для интерфейса en3. Система считает эти объединенные адаптеры одним адаптером. Таким образом, IP-адрес настраивается для них как для любого Ethernet-адаптера. Кроме того, всем адаптерам в EtherChannel назначается один аппаратный (MAC) адрес, так что для удаленных систем они представляются как один адаптер.

    Основное преимущество технологии EtherChannel состоит в том, что она использует сетевую пропускную способность всех адаптеров. При отказе адаптера сетевой трафик автоматически передается на следующий доступный адаптер без разрыва существующих пользовательских подключений. После восстановления адаптер автоматически возвращается к работе.

    В дополнение к функции агрегации также можно выполнить назначение резервного адаптера. Этот адаптер конфигурируется как часть Etherchannel, но остается неактивным, пока не откажут все основные адаптеры. Это называется резервированием сетевого интерфейса (Network Interface Backup, NIB).

    При планировании сети Etherchannel необходимо учитывать следующее:

  • основные (агрегированные) линии должны быть подключены к одному коммутатору;
  • необходимо настроить сетевой коммутатор, указав, какие порты использует Etherchannel;
  • резервный сетевой интерфейс должен быть подключен к отдельному коммутатору;
  • использование адаптеров с разной скоростью передачи не поддерживается.
  • На рис. 3.6 представлена простая конфигурация Etherchannel с двумя адаптерами, подключенными к одному коммутатору, и с резервным адаптером, подключенным к отдельному коммутатору. В этой конфигурации HACMP настраивается на использование только одного базового адаптера на узел (en3). В нашем примере базовый, постоянный и сервисный IP-адреса будут находиться на одном адаптере, пока не произойдет перемещение при сбое на другой узел.

    На рис. 3.7 показана несколько более сложная конфигурация, в которой каждый узел имеет два адаптера Etherchannel, по одному на каждый коммутатор. При такой конфигурации HACMP использует адаптеры Etherchannel в качестве базовых.

    Примечание. Etherchannel может содержать от 1 до 8 основных адаптеров при одном резервном адаптере на Etherchannel. Это позволяет использовать только один адаптер в качестве основного и один адаптер в качестве резервного, если требуется обрабатывать отказы адаптера или коммутатора без использования HACMP. (рис 3.7) Etherchannel с резервированием сетевого интерфейса(рис 3.6) Конфигурация с несколькими адаптерами Etherchannel

    Имена хостов и имена узлов

    Обычно имя хоста совпадает с именем узла HACMP. При использовании пути конфигурации "Standard" ("Базовая") HACMP получает с узла имя хоста и использует его в качестве имени узла. При использовании расширенного пути конфигурирования (Extended Configuration path) можно задать имя узла самостоятельно.

    В том случае, если приложение требует переноса имени хоста в AIX 5L в случае перемещения при сбое на другой узел вместе с приложением, следует использовать скрипты преди постобработки для изменения имени хоста таким образом, чтобы оно соответствовало сервисной IP-метке при перемещении группы ресурсов, содержащей это приложение, на другой узел.

    Внимание! Если вы планируете использовать DLPAR, имя хоста в AIX, имя узла кластера и имя HMC LPAR должны совпадать.

    Мы рекомендуем вам избегать таких ситуаций, так как они ограничивают варианты перемещения при сбое. Например, вы не можете изменить имя хоста на резервном узле, если на нем уже выполняется приложение. В этом случае потребуется сконфигурировать дежурный узел.

    /etc/hosts

    IP-адрес и связанная с ним метка (имя) должны быть заданы в файле /etc/hosts. Мы рекомендуем выбрать один из узлов кластера для выполнения всех изменений в этом файле, а затем использовать FTP или наборы файлов HACMP для распространения файла /etc/hosts на другие узлы.

    Примечание. Мы настоятельно рекомендуем провести тестирование прямого и обратного разрешения имен на всех узлах в кластере и соответствующих пунктах управления оборудованием (Hardware Control Points, HMC ). Все эти компоненты должны выполнять разрешение имен идентичным образом, в противном случае могут возникнуть проблемы безопасности и другие проблемы, связанные с разрешением имен.

    IP-метки

    IP-метка представляет собой IP-адрес, сконфигурированный на NIC в дополнение к базовому IP-адресу NIC. Использование IP-синонимов является функцией AIX 5L, поддерживаемой HACMP. AIX 5L поддерживает использование нескольких IP-синонимов на NIC, как в одной, так и в разных подсетях. Примечание. AIX 5L допускает конфигурирование IP-синонимов с разными масками подсети для интерфейса, однако в HACMP эта функция еще не поддерживается.

    Постоянные IP-адреса (синонимы)

    Основная цель использования постоянных синонимов состоит в том, чтобы обеспечить доступ к узлу с отключенными службами HACMP. Постоянный синоним представляет собой маршрутизируемый адрес, доступ к которому сохраняется, пока работает узел. Этот синоним требуется сконфигурировать через HACMP. При запуске HACMP выполняется проверка доступности синонима, и если он недоступен, HACMP конфигурирует его на доступном адаптере в выделенной сети. Если синоним уже доступен, HACMP сохраняет его.

    Важно! Если на узле существует постоянный IP-адрес, он ДОЛЖЕН быть синонимом, а НЕ базовым адресом адаптера.

    Постоянный синоним

  • Всегда находится на одном узле (привязан к узлу).
  • Сосуществует с другими IP-метками на интерфейсе.
  • Не требует установки дополнительного физического интерфейса на узле.
  • Не входит в какую-либо группу ресурсов.
  • Мы рекомендуем выполнить конфигурирование постоянного синонима через AIX ("smitty inetalias"), прежде чем выполнять конфигурирование HACMP. После этого в качестве пути для связи с узлом рекомендуется использовать постоянный синоним, а не базовые адаптеры. Это дает вам свободу при необходимости впоследствии изменять базовые IP-адреса (при изменении адреса базового адаптера следует обязательно проверить файл /usr/es/sbin/cluster/etc/rhosts). После конфигурирования HACMP следует добавить постоянный синоним в конфигурацию HACMP.

    Примечание. Постоянный IP-адрес назначается HACMP на одном коммуникационном интерфейсе, входящем в сеть, определенную в HACMP.

    Рис. 3.8 иллюстрирует понятие постоянного адреса. Заметьте, что он представляет собой просто еще один IP-адрес, сконфигурированный на одном из базовых интерфейсов. Команда netstat отображает его как дополнительный IP-адрес адаптера.

    (рис 3.8) Постоянные синонимы

    Подсети

    Требования к подсетям колеблются в зависимости от выбранной конфигурации (перехват IP-адреса посредством замены или посредством синонимов), однако в HACMP маски подсетей для всех коммуникационных интерфейсов, определенных в HACMP, должны быть одинаковыми.

    При перехвате IP-адреса посредством замены:

  • базовый и сервисный IP-адреса на основном адаптере должны относиться к одной подсети;
  • все базовые IP-адреса на дополнительных адаптерах должны относиться к разным подсетям (должны быть отличными друг от друга и от основного адаптера).
  • Примечание. Адреса базового адаптера также называются "загрузочными" IP-адресами, если не используется мониторинг пульса через IP-синонимы (описано далее в этом разделе).

    При перехвате IP-адреса посредством синонимов:

  • все базовые IP-адреса на узле должны относиться к разным подсетям (если не используется мониторинг пульса через IP-синонимы);
  • все сервисные IP-адреса должны относиться к подсети, отличной от любой из базовых подсетей;
  • сервисные IP-адреса могут относиться как к одной, так и к различным подсетям;
  • постоянный IP-адрес может относиться как к той же подсети, к которой относится и сервисный IP-адрес, так и к другой подсети;
  • если вы решите использовать мониторинг пульса через IP-синонимы, то базовые IP-адреса могут относиться как к одной подсети, так и к различным подсетям, так как при этом HACMP не осуществляет их мониторинг, а только мониторинг синонимов, заданных в HACMP.
  • Аспекты шлюза (маршрута) по умолчанию

    В зависимости от конфигурации вашей IP-сети при управлении интерфейсами из HACMP может произойти потеря маршрута по умолчанию.

    Если маршрут по умолчанию привязан к одной из подсетей базового адреса, то при отказе этого адаптера произойдет потеря маршрута по умолчанию.

    Чтобы не допустить возникновения такой ситуации, мы рекомендуем использовать постоянный адрес и привязать маршрут по умолчанию к этой подсети. Постоянный адрес будет активным, пока будет активным узел; таким образом, маршрут по умолчанию также будет активным.

    Если вы решите этого не делать, то придется создать скрипт постобработки события, чтобы восстановить маршрут по умолчанию при возникновении проблемы.

    Обновление ARP-кеша

    При изготовлении каждой сетевой интерфейсной карте (Network Interface Card, NIC) назначается уникальный аппаратный адрес – MAC-адрес (Media Access Control). MACадрес представляет адрес, используемый сетевыми драйверами для отправки пакетов между сетевыми картами в локальной сети. Большинство систем ведут список, содержащий недавно использовавшиеся IP-адреса и соответствующие им MAC-адреса и называемый ARP-кешем. Так как HACMP может перемещать IP-адреса между сетевыми картами, некоторые записи клиентского ARP-кеша могут быть неточными.

    После возникновения события в кластере, узлы и сетевые устройства HACMP, поддерживающие смешанный режим (promiscuous mode), автоматически обновляют свои ARPкеши. Клиенты и сетевые устройства, не поддерживающие смешанный режим, продолжают содержать неправильные записи. Это можно исправить одним из двух способов:

  • Посредством использования альтернативных аппаратных адресов. Нужно настроить HACMP на перемещение как IP-адреса, так и MAC-адреса (работает только при перехвате IP-адреса посредством замены).
  • Обновлением ARP-кеша посредством использования записей ping_client_list в clinfo.rc.
  • HACMP в коммутируемой сети

    При использовании VLAN все интерфейсы, определенные в HACMP для заданной сети, должны относиться к одной VLAN. Таким образом, все адаптеры в одной сети должны быть подключены к одной физической сети и вести обмен данными друг с другом ("видеть" MAC-адреса друг друга).

    Примечание. НЕ все адаптеры должны содержать адреса, маршрутизируемые вне VLAN. Только сервисные и постоянные адреса должны быть маршрутизируемыми. Адреса базового адаптера и любые синонимы, используемые для мониторинга пульса, не должны обязательно быть маршрутизируемыми вне VLAN, так как они неизвестны клиентской стороне.

    Нужно убедиться, что коммутатор обеспечивает своевременную реакцию на ARPзапросы. Для многих моделей коммутаторов это означает отключение следующих функций:

  • алгоритм spanning tree,
  • portfast,
  • uplinkfast,
  • backbonefast.
  • Если требуется, чтобы алгоритм spanning tree был включен, то функция portfast также должна быть включена.

    Настройки скорости передачи в Ethernet

    Так как согласование скорости передачи может вызвать проблемы в некоторых комбинациях адаптеров и коммутаторов, рекомендуется не использовать автоматическое согласование, а устанавливать требуемые значения скорости и дуплексного режима.

    Планирование перехвата IP-адреса

    Перехват IP-адреса (IP Address Takeover, IPAT) представляет собой механизм, используемый HACMP для перемещения сервисных адресов между коммуникационными интерфейсами.

    Существует два метода: перехват IP-адреса посредством замены (IPAT via replacement) и перехват IP-адреса посредством синонимов (IPAT via aliases). Конфигурация вашей сети зависит от применяемого метода управления интерфейсами.

    Для любой новой инсталляции мы рекомендуем использовать перехват IP-адреса посредством синонимов, так как этот метод прост в реализации и более гибок, чем перехват IP-адреса посредством замены. Можно применять несколько сервисных адресов для одного адаптера в любое время; кроме того, в случае перемещения при сбое имеет место некоторая экономия времени, так как HACMP просто нужно добавить синоним, а не выполнять повторное конфигурирование базового IP-адреса адаптера, что гораздо быстрее.

    Некоторые конфигурации потребуют использования мониторинга пульса через синонимы. Например, если оба локальных базовых адаптера относятся к одной подсети или же если все базовые адаптеры на всех узлах относятся к разным подсетям.

    Все варианты подробно рассматриваются в следующем разделе. В нашем примере применяется перехват IP-адреса посредством синонимов и мониторинг пульса через синонимы.

    Перехват IP-адреса посредством замены

    Этот способ конфигурирования сетей HACMP является более традиционным. HACMP при запуске осуществляет замену загрузочного адреса на сервисный адрес.

    Для кластера из двух узлов требуется использование по меньшей мере одной подсети на коммуникационный интерфейс на узел (при использовании одинаковой маски подсети во всех подсетях). Для кластера с несколькими коммуникационными интерфейсами на узел требуется следующее:

  • базовый и сервисный адреса основного коммуникационного интерфейса должны относиться к одной подсети;
  • базовые IP-адреса всех дополнительных коммуникационных интерфейсов должны относиться к различным подсетям (относительно друг друга и относительно основного интерфейса).
  • Преимущество перехвата IP-адреса посредством замены состоит в том, что оно разрешает выполнять перехват аппаратного адреса (Hardware Address Takeover, HWAT) вместе с перехватом IP-адреса посредством замены. Эта возможность позволяет осуществлять перемещение (локально администрируемого) MAC-адреса адаптера, соответствующего сервисному IP-адресу, вместе с IP-адресом на дежурный адаптер. Это устраняет необходимость обновления ARP-кеша на стороне клиента в случае переноса IP-адресов.

    (рис 3.9) Перехват IP-адреса посредством замены

    На рис. 3.9 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, что HACMP при запуске заменяет загрузочный/базовый адрес сервисным адресом. Перемещение при сбое выполняется на дополнительный (дежурный) адаптер(ы), где, опять же, базовый (дежурный) адрес заменяется сервисным адресом. Количество сервисных адресов ограничено количеством резервных адаптеров, определенных в той же сети HACMP.

    Перехват IP-адреса посредством синонимов

    Этот метод назначения сервисных адресов является более новым и более гибким, чем перехват IP-адреса посредством замены. Используя перехват IP-адреса посредством синонимов, можно осуществлять назначение нескольких IP-адресов одному коммуникационному интерфейсу.

    HACMP позволяет использовать перехват IP-адреса посредством IP-синонимов для следующих типов сетей, поддерживающих gratuious ARP-запросы (в AIX):
  • Ethernet;
  • Token Ring;
  • FDDI;
  • SP Switch1 и SP Switch2.
  • Примечание. Перехват IP-адреса посредством IP-синонимов не поддерживается в сетях ATM.

    При запуске HACMP выполняется конфигурирование сервисного синонима поверх существующего базового IP-адреса доступного адаптера.

    При использовании перехвата IP-адреса посредством синонимов следует учитывать следующие требования:

  • Требования подсетей:
  • Каждый базовый адаптер должен относиться к отдельной подсети, чтобы можно было осуществлять мониторинг пульса. Базовые адреса не обязательно должны быть маршрутизируемыми вне кластера.Примечание. Это ограничение снимается при использовании мониторинга пульса через синонимы.
  • Сервисные адреса должны относиться к отдельной подсети относительно любой из базовых подсетей. Можно использовать несколько сервисных адресов, и все они могут относиться как к одной подсети, так и к различным подсетям.
  • Постоянный синоним может относиться либо к той же подсети, либо к другой подсети относительно сервисного адреса.
  • Все маски подсети должны быть одинаковыми.
  • Несколько сервисных меток могут совместно существовать как синонимы для заданного интерфейса.
  • Нельзя сконфигурировать перехват аппаратного адреса (Hardware Address Takeover, HWAT).
  • Мы рекомендуем использовать постоянный синоним и включить его в одну подсеть с маршрутом по умолчанию. Это обычно означает, что постоянный адрес должен быть включен в одну подсеть с сервисными адресами. Постоянный синоним можно использовать для доступа к узлу при отключенном HACMP, а также для преодоления проблем с маршрутом по умолчанию.

    Можно выполнить настройку параметров размещения сервисных IP-меток, сконфигурированных в HACMP V5.3. Можно настроить размещение синонимов через меню SMIT с использованием следующих вариантов:

  • Без совместного размещения (Anti-Collocation). Используется по умолчанию. HACMP распределяет сервисные IP-метки по всем доступным коммуникационным интерфейсам с использованием выбора по принципу наименьшей загруженности.
  • С совместным размещением (Collocation). HACMP размещает все сервисные IP-метки на одном коммуникационном интерфейсе (NIC).
  • Без совместного размещения и с постоянной меткой (Anti-Collocation with persistent label). HACMP размещает все сервисные IP-метки по всем активным коммуникационным интерфейсам, не содержащим постоянную IP-метку синонима. HACMP размещает сервисную IP-метку на интерфейсе, содержащем постоянную метку только в том случае, если другие сетевые интерфейсы недоступны. Если постоянные IP-метки не были сконфигурированы, HACMP позволяет выбрать метод размещения Anti-Collocation with Persistent (Без совместного размещения и с постоянной меткой), однако при этом выдается предупреждение и по умолчанию используется обычный метод без совместного размещения.(рис 3.10) Перехват IP-адреса посредством синонимов
  • С совместным размещением и с постоянной меткой (Collocation with persistent label). Все сервисные IP-метки располагаются на одной сетевой карте, содержащей постоянную IP-метку. Этот вариант может быть полезен при конфигурациях виртуальной частной сети (VPN) с брандмауэром, где только один интерфейс имеет внешний выход и все IP-адреса (постоянные и сервисные) должны располагаться на одном коммуникационном интерфейсе. Если постоянные IP-метки не были сконфигурированы, HACMP позволяет выбрать метод размещения Collocation with Persistent (С совместным размещением и с постоянной меткой), однако при этом выдается предупреждение и по умолчанию используется обычный метод с совместным размещением.
  • На рис. 3.10 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, базовые адреса не изменяются. HACMP добавляет на базовые адаптеры сервисные и постоянные синонимы. Постоянные адреса всегда доступны, тогда как сервисные метки добавляются и удаляются при запуске и остановке HACMP. Перемещение при сбое выполняется путем переноса сервисной метки на другой доступный коммуникационный интерфейс. В нашем примере только сеть 192.168.100/24 является маршрутизируемой вне кластера.

    Мониторинг пульса через синонимы

    HACMP требует использования отдельной подсети для мониторинга каждого базового адаптера. При конфигурации с применением двух Ethernet-адаптеров на узле требуется две подсети. При употреблении трех адаптеров требуется три подсети. Эти подсети не обязательно должны быть маршрутизируемыми вне сетей кластера.

    Чтобы обеспечить средство мониторинга этих адаптеров (без изменения адреса базового адаптера), а также чтобы избежать возникновения проблем с подсетями, HACMP предоставляет функцию мониторинга пульса через синонимы. Этот метод не требует внесения каких-либо изменений в существующие базовые адреса. HACMP просто игнорирует базовые адреса и добавляет собственный набор синонимов для осуществления мониторинга пульса.

    При использовании мониторинга пульса через IP-синонимы, IP-адреса, используемые при загрузке, могут располагаться либо в той же подсети, либо в других подсетях; однако IP-адрес, применяемый во время загрузки, должен располагаться в подсети, не включающей сервисные IP-метки. Как оказалось, если все адреса (базовые и сервисные) попадают в одну подсеть, возникают проблемы с маршрутизацией в связи с функцией чередования маршрутов (route striping) операционной системы AIX.

    Чтобы установить мониторинг пульса через IP-синонимы, следует настроить параметр "IP Address Offset for Heartbeating over IP Aliases" ("Смещение IP-адреса для мониторинга пульса через IP-синонимы") как часть конфигурирования сетей HACMP. IP-адреса, используемые для мониторинга пульса, определяются и назначаются системой HACMP с применением этого значения смещения. Маска подсети совпадает с той, которая используется для сервисных и несервисных адресов.

    Например, можно в качестве параметра смещения IP-адреса употреблять значение 1.1.1.1. При использовании сети с двумя NIC на каждом узле следует добавить маску подсети 255.255.255.0; в результате получим следующие IP-синонимы мониторинга пульса:

  • node01:
  • en0 1.1.1.1;
  • en1 1.1.2.1.
  • node02:
  • en0 1.1.1.2;
  • en1 1.1.2.2.
  • IP-синонимы мониторинга пульса добавляются при запуске HACMP на узле и удаляются при остановке HACMP. Эти IP-синонимы используются только для сообщений пульса. Для них не требуется осуществлять маршрутизацию, и их не следует применять для какого-либо другого трафика. Маска подсети совпадает с используемой для сервисных и несервисных синонимов.

    На рис. 3.11 показано состояние сетевых адаптеров до и после запуска HACMP на узлах. Обратите внимание на то, базовые адреса не изменяются. Помимо сервисных и постоянных синонимов, добавляемых HACMP на базовые адаптеры, также добавляются синонимы пульса. Последние удаляются при остановке HACMP вместе с сервисными синонимами. В нашем примере только сеть 192.168.100/24 является маршрутизируемой вне кластера.

    Команда netstat -i выводит три IP-адреса для каждого адаптера при запущенном HACMP.

    (рис 3.11) Мониторинг пульса через синонимы

    Планирование сети, отличной от IP

    Сети типа "точка-точка" играют важную роль в обеспечении высокой доступности кластера. Достаточно небезопасно применять одну лишь TCP/IP-сеть для обеспечения доступности кластера и недопущения разделения кластера. Поэтому важно создавать сети типа "точка-точка". При использовании больших кластеров необходимо создавать соответствующие пути между всеми узлами в кластере.

    Назначение топологии последовательной сети или сети "точка-точка" состоит в том, чтобы обеспечить достаточное количество путей между узлами кластера, чтобы RSCT могла правильно оценить серьезность сбоя в кластере.

    Разделение кластера

    Разделение кластера (также называемое изоляцией узла или split brain) возникает в том случае, когда узел HACMP перестает получать весь трафик пульса с другого узла (по всем доступным сетям) и предполагает, что на этом узле произошел отказ. Проблема разделения кластера состоит в том, что узлы с одной стороны раздела воспринимают отсутствие пакетов пульса от узлов с другой стороны раздела как признак отказа узлов, генерируя события отказа для этих узлов. После этого узлы с каждой стороны кластера пытаются перехватить ресурсы (если настроен перехват) с узла, который на самом деле все еще активен и потому является законным владельцем этих ресурсов. Такие попытки перехвата могут привести к непредсказуемым результатам в кластере, например к повреждению данных в связи с реинициализацией дисков.

    Наилучшая защита от возникновения подобных ситуаций состоит в том, чтобы использовать несколько сетей, как TCP/IP-сетей, так и сетей типа "точка-точка", чтобы обеспечить правильность оценки серьезности проблемы. Помните о том, что HACMP (в частности, RSCT) отправляет и получает пакеты пульса по всем доступным сетям, поэтому чем больше сетей, тем точнее HACMP сможет определить, имеет ли место отказ узла или отказ сети.

    Следующий набор из четырех рисунков показывает, каким образом следует осуществлять добавление сетей в кластер, чтобы обеспечить наилучшую защиту от разделения кластера.

    На рис. 3.12 показан кластер из четырех узлов с одним Ethernet-подключением к каждому серверу. Так как используется только одна сеть, то при потере любой связи часть кластера будет разделена. В примере показан разрыв связи между двумя Ethernetкоммутаторами, вызывающий отделение двух узлов слева от двух узлов справа. В данном случае могут возникнуть проблемы в результате попыток выполнить перехват ресурсов с активного узла.

    Рис. 3.13 несколько более реалистичен; на нем представлены двойные Ethernetподключения с каждого узла. Каждый Ethernet-адаптер подключен к отдельному коммутатору. В этом случае для разделения кластера необходимо, чтобы произошел отказ двух коммутаторов или же обоих Ethernet-подключений на узле. Однако сама по себе сеть TCP/IP остается единой точкой отказа.

    (рис 3.13) Разделение кластера(рис 3.12) Кластер без разделения с двойными Ethernet-подключениями

    На рис. 3.14 представлена рекомендованная конфигурация. Имеются двойные Ethernet-подключения к нескольким Ethernet-коммутаторам, а также добавлена кольцевая сеть типа "точка-точка". В кольцевой сети каждый узел подключен к своим непосредственным соседям. При потере одного подключения RSCT все еще сможет подключиться ко всем оставшимся узлам. Для разделения кластера потребуется возникновение двойного отказа на узле и отказа сети TCP/IP.

    Для построения надежной конфигурации рассмотрим реализацию звездной топологии. При такой конфигурации, помимо сети TCP/IP, каждый узел подключен ко всем другим узлам кластера сетями типа "точка-точка". Это позволяет обеспечить связь RSCT с работающими узлами при отказе нескольких узлов. Эта конфигурация представлена на рис. 3.15.

    (рис 3.15) Конфигурация с использованием Ethernet-сети и кольцевой сети типа "точка-точка"(рис 3.14) Конфигурация с использованием сети Ethernet и сети типа "точка-точка" звездной топологии

    Планирование последовательных сетей RS232

    Сеть RS232 содержит по одному последовательному порту на каждом узле, подключенном через последовательный кабель. При наличии нескольких узлов потребуется несколько последовательных кабелей.

    Если вы решите использовать последовательную сеть RS232, необходимо учитывать следующее:

  • Некоторые серверы pSeries имеют ограничение на использование встроенных последовательных портов, некоторые порты недоступны, а некоторые порты должны назначаться группами (особенно в среде LPAR).
  • Если доступные последовательные порты отсутствуют, а ваша запланированная конфигурация HACMP для этого узла использует сеть RS232, то требуется использовать специальный PCI-адаптер для узла кластера (LPAR).
  • Все сети RS232, определенные в HACMP, автоматически настраиваются на использование последовательных портов на скорости 38 400 бод. В зависимости от длины последовательного кабеля RSCT поддерживает скорости передачи 38 400, 19 200, 9 600 бод.
  • Для мониторинга пульса можно использовать любой последовательный порт, соответствующий следующим требованиям: оборудование должно поддерживать применение этого последовательного порта для подключения модема;
  • последовательный порт должен быть свободен для исключительного использования в HACMP.
  • Кабель для соединения двух последовательных портов должен быть подключен как полный нуль-модемный кабель; он не поставляется по умолчанию вместе с оборудованием. рис. 3.16 показывает нуль-модемное подключение. Фактически используемые разъемы подключения зависят от оборудования; скорее всего, будут использоваться разъемы DB9, DB25 или RJ50.

    Чтобы определить, соответствуют ли ваши последовательные порты установленным требованиям, см. документацию к оборудованию и сообщения о поддержке HACMP.

    (рис 3.16) Нуль-модемное кабельное подключение

    Планирование мониторинга пульса через диски

    Мониторинг пульса через диски представляет еще один тип сетей типа "точка-точка" для обнаружения отказов. В предыдущих версиях HACMP можно было сконфигурировать отличные от IP сети мониторинга пульса через диски SCSI или SSA путем настройки сетей Target Mode SCSI (TMSCSI) и Target Mode SSA (TMSSA) типа "точка-точка".

    Начиная с HACMP 5.1, можно также сконфигурировать отличное от IP подключение мониторинга пульса через диски типа "точка-точка" с использованием любого общего диска, входящего в группу томов в режиме расширенного одновременного режима (enhanced concurrent mode, ECM).

    В сети мониторинга пульса через диски два узла, подключенные к диску, периодически записывают сообщения пульса и считывают сообщения пульса (записанные другим узлом) с небольшого участка диска, незанятого данными. Хотя сеть пульса через диски соединяет только два узла, кластеры, содержащие больше двух узлов, допускают использование нескольких дисков для мониторинга пульса.

    При употреблении SAN-диска в качестве общего диска следует рассмотреть вариант использования мониторинга пульса через диски по следующим причинам:

  • можно использовать любой имеющийся общий диск (включая диски, подключенные к SAN).
  • не требуется дополнительное оборудование или кабели.
  • Для того чтобы применять мониторинг пульса через диски, необходимы SAN-диски, доступные для обоих узлов и входящие в группу томов с расширенным одновременным доступом.

    Любой общий диск из группы томов в режиме расширенного одновременного доступа может поддерживать подключение пульса типа "точка-точка". Каждый диск может поддерживать одно подключение между двумя узлами. Подключение использует общее дисковое оборудование в качестве пути для связи.

    Сеть пульса через диски в кластере содержит:

  • Два узла, каждый из которых имеет адаптер SAN. Узел может входить в любое количество сетей пульса с использованием одного диска.
  • Диск в режиме расширенного одновременного доступа. Один диск может применяться только в одной сети пульса.
  • При выборе диска для использования при мониторинге пульса необходимо учитывать следующее:

  • Диск, используемый для мониторинга пульса, должен быть членом группы томов в расширенном одновременном режиме. Однако группы томов, связанные с дисками, используемыми для мониторинга пульса, не обязательно должны быть определены как ресурсы в группе ресурсов HACMP.
  • Диск, используемый для мониторинга пульса, не должен быть чрезмерно загружен, так как HACMP ожидает, что операции записи будут происходить в пределах заданных интервалов. Если вы решите применять диск со значительной нагрузкой ввода-вывода, необходимо увеличить значение параметра тайм-аута для сети пульса через диски. Вообще рекомендуется использовать диск, не осуществляющий более 60 операций поиска в секунду.(рис 3.17) Сеть пульса через диски
  • При установке драйвера Subsystem Device Driver (драйвер устройства для серии DS8XXX) и связывании группы томов с расширенным одновременным доступом с активным устройством vpath необходимо убедиться в том, что коммуникационное устройство мониторинга пульса через диски определено для использования устройства /dev/vpath (а не связанного устройства /dev/hdisk); это позволит применять многопутевое программное обеспечение.
  • Если в общей группе томов осуществляется зеркальное отображение, как минимум один диск в каждом зеркальном отображении должен использоваться для мониторинга пульса через диски.
  • В сети пульса через диски рекомендуется применять один LUN (диск) на пару узлов на дисковую стойку.
  • На рис. 3.17 показаны основные компоненты сети пульса через диски.

    Обратите внимание на то, что номер vpath может отображаться различным образом с разных узлов, что связано с нумерацией дисков в AIX. Поэтому рекомендуется проверять PVID, чтобы убедиться в том, что на всех узлах был выбран один и тот же диск.

    Кроме того, рекомендуется запускать процесс обнаружения в HACMP и выбирать требуемые диски из выводимого списка.

    Дополнительные аспекты планирования сети

    Помимо конфигурирования топологии сети, есть еще два вопроса, которые следует рассмотреть при планировании кластера:

  • взаимодействие HACMP с Domain Name Service (DNS) и Network Information Services (NIS);
  • сетевые модули HACMP.
  • Все эти вопросы рассматриваются в данном разделе.

    Взаимодействие HACMP с DNS и NIS

    Чтобы обеспечить успешное и быстрое выполнение событий в кластере, HACMP отключает разрешение имен хоста в NIS или DNS во время обмена сервисных IP-меток путем установки следующей переменной окружения AIX 5L: NSORDER = local. Поэтому файл /etc/hosts на каждом узле кластера должен содержать все IP-метки, определенные в HACMP для всех узлов кластера.

    После завершения операции обмена доступ к DNS восстанавливается. Мы предлагаем поместить запись hosts = local, bind4 в файл /etc/netsvc.conf, чтобы обеспечить чтение файла /etc/hosts перед попыткой поиска в DNS.

    Сетевые модули

    Каждая поддерживаемая сеть кластера имеет соответствующий сетевой модуль RSCT (также называемый сетевым интерфейсным модулем – network interface module, NIM), осуществляющий мониторинг трафика пульса через сеть кластера. Сетевые модули обеспечивают взаимное подключение в кластере, через которое диспетчеры кластера на всех узлах отправляют друг другу сообщения "keep-alive".

    В новых версиях HACMP передает соответствующие параметры настройки в сетевые модули RSCT для поддержки связи через следующие типы сетей:

  • Ethernet;
  • последовательная сеть (RS232);
  • сеть пульса через диски (с использованием дисков с расширенным одновременным доступом);
  • Target-mode SCSI;
  • Target-mode SSA;
  • Token-Ring;
  • FDDI;
  • SP Switch;
  • ATM.
  • Скорость обнаружения отказов

    Скорость обнаружения отказов (failure detection rate) определяет, через какой промежуток времени подключение считается отказавшим. Скорость обнаружения отказов включает два компонента:

  • Цикл отказа (cycle). Количество импульсов, которое может быть пропущено, прежде чем произойдет обнаружение отказа.
  • Скорость пульса (hbrate). Количество секунд между импульсами.
  • Время, требуемое для обнаружения отказа, может быть определено с использованием следующей формулы:

    (скорость пульса) X (цикл отказа) X 2.

    Скорость обнаружения отказов для сетевого модуля можно изменить двумя способами:

  • Выбрать одно из предопределенных значений скорости (медленная, нормальная или быстрая). Для сетей типа Ether применимо следующее:
  • быстрая – 10 с (5 x 1 x 2);
  • нормальная – 20 с (10 x 1 x 2);
  • медленная – 48 с (12 x 2 x 2).
  • Изменить составляющие параметров cycle или hbrate. Можно использовать меню SMIT "Change a Cluster Network Module using Custom Values" ("Изменение сетевого модуля кластера с использованием настраиваемых значений").
  • Предопределенные значения для каждого типа сети определяются таким образом, чтобы получались обоснованные результаты. Вам может потребоваться рассмотреть вариант изменения скорости обнаружения отказов с целью:

  • сократить время перемещения при сбое;
  • не допустить перегрузки процессора узла и последующих ложных перехватов.
  • Сведения о чувствительности сети (также называемой скоростью обнаружения отказов) можно получить от служб топологии, как показано в примере 3.1.

    p630n01# lssrc -ls topsvcs
    .................. Omitted lines.......................
    NIM's PID: 19978
    net_ether_01_1 [1] 3 1 S 10.10.31.31 10.10.31.31
    net_ether_01_1 [1] en0 0x42d56868 0x42d56872
    HB Interval = 1.000 secs. Sensitivity = 10 missed beats
    .................. Omitted lines.......................

    usr/sbin/cluster/netmon.cf

    В конфигурациях кластера, содержащих сети, которые при определенных условиях могут стать сетями с одним адаптером, может быть сложно точно определить отказ того или иного адаптера. В таких ситуациях RSCT использует файл netmon.cf. Службы топологии RSCT сканируют конфигурацию netmon.cf во время запуска кластера. Когда сетевому монитору требуется проверить сеть, чтобы убедиться в функционировании адаптера, он направляет запросы ICMP ECHO на каждый IP-адрес.

    После отправления запроса на все адреса сетевой монитор проверяет счетчик входящих пакетов, прежде чем определить, произошел ли отказ адаптера. Этот файл может содержать до 30 адресов или меток; для него применимы следующие указания:

  • файл netmon.cf содержит по одному IP-адресу или IP-метке на кабель;
  • каждый IP-адрес и соответствующую метку из файла netmon.cf необходимо включить в файл /etc/hosts.
  • Заполнение таблиц планирования сети

    Следующие таблицы содержат требуемую информацию о сети. Табл. 3.6 содержит спецификации сети Ethernet из нашего примера.

    Ethernet-сети кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 4 из 11 ETHERNET-СЕТИ КЛАСТЕРА ДАТА: июль 2005
    ИМЯ СЕТИ ТИП СЕТИ МАСКА СЕТИ ИМЕНА УЗЛОВ IPAT ЧЕРЕЗ СИНОНИМЫ Смещение IP-адреса для мониторинга пульса через IP-синонимы
    ether10 ethernet (общего доступа) 255.255.255.0 node01, node02 Включен 1.1.1.1
    КОММЕНТАРИИ ПРИМЕЧАНИЯ. Смещение IP-адреса добавляет IP-синонимы для каждого интерфейса Ethernet при запуске HACMP. Эти синонимы затем используются для мониторинга пульса, тогда как для адресов базового адаптера мониторинг не осуществляется. Выберите заданную по умолчанию скорость обнаружения отказов (ether = normal = 20 с)

    Табл. 3.7 описывает сети типа "точка-точка", используемые в кластере. В нашем примере применяется только сеть пульса через диски, однако мы для образца дополнительно включили описание сети RS232.

    Сети типа "точка-точка"
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 5 из 11 ПОСЛЕДОВАТЕЛЬНЫЕ СЕТИ КЛАСТЕРА И СЕТИ ТИПА "ТОЧКА-ТОЧКА" ДАТА: июль 2005
    ИМЯ СЕТИ ТИП СЕТИ ИМЕНА УЗЛОВ Устройство ИМЯ ИНТЕРФЕЙСА МЕТКА АДАПТЕРА
    serial10 serial (закрытого доступа) node01, node02 Неприменимо /dev/tty0 /dev/tty0 node01_tty1 node02_tty1
    diskhb10 diskhb node01, node02 vpath0 vpath0 Неприменимо node1_to_node2hb node2_to_node1hb
    КОММЕНТАРИИ ПРИМЕЧАНИЯ. Связи RS232, Target mode SCSI, Target mode SSA и мониторинга пульса через диски не используют протокол TCP/IP и не требуют использования маски сети или IP-адреса. Для сети serial10 конфигурация не выполняется, она выполняется только для сети diskhb10.

    После описания сетей необходимо выполнить описание интерфейсов и IP-адресов, используемых HACMP, как показано в табл. 3.8.

    Коммуникационные интерфейсы и IP-адреса кластера
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 6 из 11 ИНТЕРФЕЙСЫ И IP-АДРЕСА ДАТА: июль 2005
    node01
    IP-метка Размещение IP-синонима СЕТЕВОЙ ИНТЕРФЕЙС ИМЯ СЕТИ ФУНКЦИЯ ИНТЕРФЕЙСА IP-АДРЕС/МАСКА
    node01a Неприменимо en0 ether10 Базовый (несервисный) 10.10.31.31
    node01b Неприменимо en1 ether10 Базовый (несервисный) 10.10.32.31
    ha53node1 Без совместного размещения (по умолчанию) Неприменимо ether10 Постоянный 192.168.100.31
    app1svc Без совместного размещения (по умолчанию) Неприменимо ether10 Сервисный 192.168.100.131 255.255.255.0
    node02
    IP-метка Размещение IP-синонима СЕТЕВОЙ ИНТЕРФЕЙС ИМЯ СЕТИ ФУНКЦИЯ ИНТЕРФЕЙСА IP-АДРЕС/МАСКА
    node02a Неприменимо en0 ether10 Базовый (несервисный) 10.10.31.32 255.255.255.0
    node02b Неприменимо en1 ether10 Базовый (несервисный) 10.10.32.32 255.255.255.0
    ha53node2 Без совместного размещения (по умолчанию) Неприменимо ether10 Постоянный 192.168.100.32 255.255.255.0
    app2svc Без совместного размещения (по умолчанию) Неприменимо ether10 Сервисный 192.168.100.132 255.255.255.0
    КОММЕНТАРИИ Каждый узел содержит два базовых адаптера, каждый из которых находится в отдельной подсети. Каждый узел также содержит постоянный (привязанный к узлу) адрес и сервисный адрес. IPAT посредством синонимов используется так же, как и мониторинг пульса через синонимы (начальный диапазон = 1.1.1.1)

    Планирование требований к хранилищу

    При планировании хранилища кластера необходимо учитывать следующие аспекты:

  • Физические диски:
  • Убедитесь в том, что для всех дисковых систем обеспечивается высокая доступность. Это может быть реализовано посредством зеркального отображения, технологии RAID и резервного оборудования.
  • Внутренние диски. Обычно являются местом расположения rootvg.
  • Внешние диски. Должны быть местом расположения данных приложения.
  • Компоненты LVM:
  • все общие хранилища имеют уникальные имена логических томов и файловых систем;
  • старшие номера устройств должны быть уникальными;
  • требуется ли обеспечить зеркальное отображение данных?
  • Внутренние диски

    Внутренний диск узла обычно содержит rootvg, а также может содержать исполняемые файлы приложений. Мы рекомендуем организовать зеркальное отображение внутреннего диска для обеспечения высокой доступности; другими словами, это позволяет устранить необходимость перемещения при сбое для всего узла по причине простого отказа внутреннего диска.

    Общие диски

    Данные приложений располагаются на внешнем диске, что позволяет обеспечить доступ к ним со всех нужных узлов. Такие диски называются общими дисками (shared disks).

    Важно! Все общие диски должны быть разделены на зоны, соответствующие узлам кластера, требующим доступа к определенным томам. Другими словами, общий диск должен иметь возможность активизации и доступа с любого узла, которому требуется выполнять определенное приложение.

    Мы советуем убедиться в том, что общая группа томов может быть активизирована вручную на каждом узле, прежде чем требовать управления активизацией от HACMP. В кластере HACMP общие диски подключаются к нескольким узлам кластера.

    В конфигурации без одновременного доступа в любой момент времени только один узел является владельцем дисков. При отказе узла-владельца, чтобы восстановить обслуживание клиентов, другой узел кластера из списка узлов группы ресурсов перехватывает владение общими дисками и перезапускает приложения.

    Как правило, в зависимости от количества дисков в группе ресурсов и от метода перехвата дисков перехват может занимать от 30 до 300 с. HACMP поддерживает использование следующих дисковых технологий производства IBM в качестве общих внешних дисков в кластере высокой доступности:

  • SCSI-приводы, включая подсистемы RAID;
  • SSA-адаптеры и дисковые подсистемы производства IBM;
  • адаптеры и дисковые подсистемы Fibre Channe;
  • устройства Data path (VPATH) – SDD 1.3.1.3 или выше.
  • Дисковые подсистемы сторонних производителей также могут поддерживаться, однако нужно предварительно получить сведения об их поддержке у изготовителя оборудования.

    При работе с общей группой томов:

  • Не включайте внутренний диск в общую группу томов, так как он не будет доступен для других узлов.
  • Не активизируйте (vary on) общие группы томов в кластере HACMP при загрузке системы. Для этого следует использовать скрипты обработки событий кластера. Убедитесь в том, что атрибут автоматической активизации в AIX 5L ODM для общих групп томов, перечисленных в группе ресурсов, установлен в значение No. Для исправления этого атрибута можно использовать утилиту верификации кластера.
  • Важно! При определении группы томов в HACMP не следует осуществлять для нее управление вручную с любого узла вне HACMP во время работы HACMP. Это может привести к непредсказуемым результатам. Если вам требуется выполнить некоторые действия над группой томов отдельно от HACMP, следует остановить службы кластера, выполнить задачу управления группой томов, оставить группу томов в деактивизированном состоянии (varied off), после чего перезапустить HACMP.

    Пример конфигурации дисков

    На рис. 3.18 показаны различные дисковые конфигурации, которые могут использоваться в кластере. Обратите внимание на то, что для внутренних дисков осуществляется зеркальное отображение (rootvg) и что на каждом узле существует несколько адаптеров Fiber Сhannel (HBA), каждый из которых подключен к отдельному SANкоммутатору (для обеспечения избыточности).

    Для проверки дисков следует использовать идентификаторы PVID, так как вполне возможно, что номер vpath на разных узлах может различаться в связи с нумерацией устройств в AIX.

    Общие диски представлены разделенными на зоны для обоих узлов. Разделение на зоны выполняется через программное обеспечение управления хранилищем (SAN Storage Manager).

    Важно! Нужно обязательно следовать правилам конфигурирования хранилища (разделение на зоны, маскировка LUN), соответствующим вашей среде. Это особенно важно в случаях, когда узлы HACMP совместно используют подсистемы хранения и SAN с другими серверами. (рис 3.18) Конфигурация физических дисков

    Группы томов в режиме расширенного одновременного доступа (ECM)

    Любой диск, для которого HACMP обеспечивает поддержку подключения к нескольким узлам, может использоваться для создания группы томов в режиме расширенного одновременного доступа (enhanced concurrent mode) как в средах с одновременным доступом, так и в средах с без одновременного доступа.

  • Среды с одновременным доступом. Приложение одновременно выполняется на всех активных узлах кластера. Чтобы такие приложения могли осуществлять доступ к своим данным, выполняется активизация групп томов с одновременным доступом на всех активных узлах кластера. После этого приложение отвечает за обеспечение согласованности доступа к данным.
  • Среды без одновременного доступа. Приложение в любой заданный момент времени выполняется только на одном узле. К группам томов не осуществляется одновременный доступ; в любой момент времени доступ осуществляется с одного узла.
  • При активизации группы томов в режиме расширенного одновременного доступа LVM разрешает доступ к группе томов для всех узлов. Однако высокоуровневые подключения например, подключения (mounts) JFS или NFS, запрещены для всех узлов, кроме узла, который на данный момент является владельцем группы томов в HACMP.

    В AIX 5.x группы томов в режиме ECM служат заменой классической опции одновременного доступа в HACMP. В новых версиях AIX (5.2 и выше) можно создавать только группы томов в режиме расширенного одновременного доступа. Хотя все еще можно использовать "старые" 32-разрядные группы томов с одновременным доступом, следует проанализировать ограничения, вызываемые обслуживанием таких групп томов в своем кластере. Дополнительные сведения см. в руководстве High Availability Cluster Multi-Processing for AIX 5L Planning and Installation Guide, SC23-4861-06.

    Примечание. Несмотря на то что можно задавать группы томов с расширенным одновременным доступом, это НЕ обязательно означает, что вам нужно использовать их для одновременного доступа, т.е., вы можете определить и использовать эти группы томов для обычного доступа к общей файловой системе. Тем не менее нельзя определять файловые системы в группах томов, предназначенных для одновременного доступа.

    Общие логические тома

    Планирование общих логических томов связано с вопросом доступности данных. Обеспечение высокой доступности данных с использованием зеркального отображения или технологии RAID является ключевым требованием. Помните, что защита от отказов дисков в HACMP обеспечивается использованием механизмов LVM и хранилища (RAID), поэтому очень важно обеспечить высокую доступность дисковой инфраструктуры.

    При планировании общих компонентов LVM необходимо учитывать следующие принципы:

  • Копии логических томов и RAID-массивы обеспечивают защиту от потери данных в результате отказа физического диска.
  • Все файлы операционной системы должны располагаться в корневой группе томов (root volume group, rootvg), а все пользовательские данные должны находиться вне этой группы.
  • Группы томов, содержащие по меньшей мере три физических тома, обеспечивают максимальную доступность при реализации зеркального отображения.
  • Если вы планируете задать для групп томов атрибут "Use Forced Varyon of Volume Groups if Necessary" ("При необходимости использовать принудительную активизацию групп томов"), то требуется применять максимально строгую политику выделения дисков для зеркальных физических томов – super strict.
  • При зеркальном отображении LVM каждый физический том, содержащий копию, должен использовать отдельный источник питания. При отказе одного источника питания другие источники питания обеспечат отсутствие единой точки отказа.
  • При планировании группы томов следует учитывать аспекты кворума. При включенном кворуме в группе томов из двух дисков возникает опасность потери кворума и доступа к данным. Следует либо построить трехдисковые группы томов(например, с использованием дисков/LUN для обеспечения кворума), либо отключить кворум.
  • Необходимо помнить о разработанной конфигурации кластера. Узел, для которого не сконфигурирован перехват ресурсов, не должен владеть критическими группами томов.
  • Убедитесь в том, что запланировано регулярное выполнение резервного копирования.
  • После создания дисковой инфраструктуры высокой доступности при планировании общих групп томов следует учитывать следующие элементы:

  • Все общие группы томов должны иметь уникальные имена логических томов и файловых систем. Это относится и к файлам журналов jfs/jfs2.
  • Не следует использовать встроенные журналы с общими файловыми системами JFS2.
  • Старшие номера устройств для каждой группы томов должны быть уникальными (особенно если вы планируете использовать NFS).
  • На рис. 3.19 представлены основные компоненты внешнего хранилища. Обратите внимание на то, что имена всех логических томов и файловых систем являются уникальными, как и старший номер устройства для каждой группы томов. Обеспечение высокой доступности данных достигается путем использования диска SAN и дублирования путей к устройствам.

    (рис 3.19) Внешний диск SAN

    Быстрый перехват диска

    HACMP автоматически обнаруживает отказы узлов и инициирует перехват дисков в процессе перехвата группы ресурсов. Традиционный процесс перехвата диска предполагает сброс бита резервирования диска SCSI (или SSA) перед активизацией (varying on) группы томов на резервном узле. Этот процесс может быть длительным, особенно при большом количестве дисков в группе томов.

    Начиная с HACMP 5.1 в связи с поддержкой групп томов с расширенным одновременным доступом в AIX стало возможным сократить время перехвата диска (а значит, и группы ресурсов) с использованием опции быстрого перехвата диска. Если группа томов, используемая для общего доступа к файловой системе, была определена в режиме расширенного одновременного доступа, HACMP автоматически это обнаруживает и активизирует группу томов на всех узлах, входящих в эту группу ресурсов. Это устраняет необходимость сброса резервирования диска в случае перехвата. Для работы функции быстрого перехвата диска необходимо выполнение следующих требований:

  • AIX 5L v.5.2 или выше;
  • HACMP 5.1 или выше с набором файлов (fileset) bos.clvm.enh, установленным на всех узлах в кластере;
  • использование групп томов в режиме расширенного одновременного доступа в группах ресурсов без одновременного доступа.
  • Для существующих групп томов, входящих в группы ресурсов без одновременного доступа, можно выполнить преобразование этих групп томов в группы томов с расширенным одновременным доступом после обновления программного обеспечения HACMP.

    Фактическое время быстрого перехвата диска в любой конфигурации зависит от множества факторов, выходящих за рамки контроля HACMP, таких, как вычислительная мощность узлов и активность узлов во время перемещения при сбое.

    Заполнение таблиц планирования хранения

    Следующие таблицы содержат необходимую информацию об общих группах томов. Совместно они дают достаточно полное представление об общей дисковой конфигурации.

    Описание общих групп томов и физических дисков приведено в табл. 3.9:

    Общие диски
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 7 из 11 ОБЩИЕ ДИСКИ ДАТА: июль 2005
    node01 node02
    VGNAME VPATH HDISK HDISK VPATH VGNAME
    app1vg vpath0 hdisk0, hdisk1, hdisk2, hdisk3 hdisk0, hdisk1, hdisk2, hdisk3 vpath0
    vpath1 hdisk4, hdisk5, hdisk6, hdisk7 hdisk4, hdisk5, hdisk6, hdisk7 vpath1 app2vg
    КОММЕНТАРИИ. Все диски видимы с обоих узлов; app1vg обычно располагается на узле node01, app2vg обычно располагается на узле node02.

    Запишите сведения об общих группах томов, как показано в табл. 3.10.

    Общие группы томов
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 8 из 11 ОБЩИЕ ГРУППЫ ТОМОВ (БЕЗ ОДНОВРЕМЕННОГО ДОСТУПА) ДАТА: июль 2005
    ГРУППА РЕСУРСОВ ГРУППА ТОМОВ 1 ГРУППА ТОМОВ 1
    C10RG1 app1vg Неприменимо
    Основной номер = 90
    журнал = app1vglog
    Логический том 1 = app1lv1
    Файловая система 1 = /app1 (20 Гб)
    C10RG2 app2vg Неприменимо
    Основной номер = 91
    журнал = app2vglog
    Логический том 1 = app2lv1
    Файловая система 1 = /app2 (20 Гб)
    КОММЕНТАРИИ Создается общая группа томов на первом узле, после чего выполняется импорт на второй узел;
    #importvg -y app1vg -V 90 vpath0 (может быть необходимо сделать pv доступным с использованием chdev -l vpath0 -a pv=yes);
    #chvg -an app1vg (отключает автоматическую активизацию для группы томов);
    #mount /app1 (для того, чтобы убедиться в возможности подключения файловой системы);
    #umount /app1;
    #varyoffvg app1vg (оставляет группу томов в отключенном режиме, оставляя HACMP управление группой)

    Планирование приложений

    Практически любое приложение, работающее на автономном сервере AIX, может быть интегрировано в кластер HACMP, так как приложения не знают о функционировании HACMP. Другими словами, HACMP запускает и останавливает приложения.

    При планировании обеспечения высокой доступности приложения нужно понимать, какие ресурсы необходимы приложению, и знать расположение этих ресурсов в кластере. Это даст возможность реализовать решение, которое позволит обеспечить корректную обработку ресурсов в HACMP при отказе узлов.

    Вы должны полностью понимать, как приложение выполняется в среде с одним узлом и в среде с несколькими узлами. Мы рекомендуем в процессе подготовки приложения к работе в HACMP протестировать выполнение приложения вручную на обоих узлах, прежде чем передавать управление приложением в HACMP. Не следует ограничиваться предположениями о работе приложения в условиях перемещения при сбое.

    Примечание. Основное условие обеспечения высокой доступности приложения состоит в том, чтобы сначала проверить корректность выполнения приложения в автономном режиме на каждом узле, на котором оно может находиться.

    Мы рекомендуем убедиться в корректности выполнения приложения на всех требуемых узлах прежде, чем конфигурировать управление приложением из HACMP.

    Необходимо проанализировать и учитывать следующие аспекты:

  • код приложения – двоичные файлы, скрипты, ссылки, файлы конфигурации и т. д.;
  • переменные окружения – все переменные окружения, которые требуется передать в приложение для его корректного выполнения;
  • данные приложения;
  • настройка сети – IP-адреса, имя хоста;
  • лицензирование приложения;
  • пользователи системы, определенные приложением.
  • При планировании защиты приложения в кластере HACMP необходимо учитывать следующее:

  • Приложение должно быть совместимо с используемой версией AIX.
  • Приложение должно быть совместимо с системой общего хранилища, так как она будет содержать данные приложения.
  • Убедитесь в том, что приложения успешно работают в среде с одним узлом. Выполнять отладку приложения в кластере гораздо сложнее, чем на одном сервере.
  • Следует распределить приложение и его данные таким образом, чтобы на общих внешних дисках находились только данные. Такое распределение не только предотвращает нарушение лицензий программного обеспечения, но и упрощает восстановление после сбоя.
  • Если вы планируете включить в группы ресурсов кластера с зависимостями "родительский объект/дочерний объект" многоуровневые приложения, например базы данных или сервер приложений, HACMP предоставляет простые в использовании меню SMIT, чтобы задать такое отношение.
  • Необходимо написать надежные скрипты как для запуска, так и для остановки приложения на узлах кластера. Скрипт запуска должен быть способен восстановить приложение после аварийного завершения. Убедитесь, что скрипты корректно выполняются в среде с одним узлом, прежде чем использовать их в HACMP.
  • Проверьте требования к лицензированию. Некоторые производители требуют использования отдельной лицензии для каждого процессора, на котором выполняется приложение; это означает, что вы должны лицензировать приложение, включив информацию о процессоре в приложение при его установке. В результате, несмотря на правильную обработку отказов узла программным обеспечением HACMP, оно может быть неспособно перезапустить приложение на резервном узле из-за недостаточного количества лицензий приложения, доступных в кластере. Во избежание этой проблемы убедитесь в наличии лицензии для каждого компонента системы в кластере, на котором приложение потенциально может выполняться.
  • Если требуется обеспечить одновременный доступ, проверьте, использует ли приложение собственный механизм блокировки.
  • Серверы приложений

    В HACMP под сервером приложения понимается просто набор скриптов, используемых для запуска и остановки приложения.

    Сконфигурируйте свой сервер приложения, задав имя для использования в HACMP и выполнив привязку к скриптам запуска и остановки.

    После создания сервера приложения следует связать его с группой ресурсов. Затем HACMP применяет эту информацию для управления приложением.

    Мониторинг приложения

    HACMP может осуществлять мониторинг приложения с использованием одного из двух методов:

  • мониторинга процесса – обнаруживает завершение процесса с использованием средства RSCT Resource Monitoring and Control (RMC).
  • настраиваемого мониторинга – осуществляет мониторинг состояния приложения с использованием заданного метода мониторинга, например скрипта.
  • Начиная с HACMP 5.2 можно применять несколько мониторов для одного приложения.

    При определении собственного настраиваемого метода мониторинга необходимо помнить следующее:

  • Можно сконфигурировать несколько мониторов приложения с уникальными именами и связать их с одним или несколькими серверами приложения.
  • Метод мониторинга должен представлять собой исполняемую программу, например скрипт оболочки (shell script), тестирующий приложение и на выходе возвращающий целочисленное значение, указывающее состояние приложения. Код завершения должен быть нулевым при нормальном состоянии приложения и ненулевым при отказе приложения.
  • HACMP не осуществляет передачу аргументов в метод мониторинга.
  • По умолчанию метод мониторинга записывает сообщения в файл /tmp/clappmond. application_monitor_name.monitor.log. Кроме того, по умолчанию при каждом запуске приложения происходит перезапись файла журнала мониторинга.
  • Метод не должен быть слишком сложным. Если метод мониторинга не возвращает значение в течение заданного интервала опроса, он удаляется.Важно! Так как процесс мониторинга зависит от времени выполнения, ВСЕГДА тестируйте свой метод мониторинга при различных нагрузках, чтобы подобрать правильное значение интервала опроса.
  • Инструмент анализа доступности

    Для измерения точного количества времени, в течение которого любое из приложений, определенных в HACMP, является доступным, можно использовать инструмент анализа доступности (application availability analysis tool). Программное обеспечение HACMP осуществляет сбор, простановку отметок времени и регистрацию информации по следующим событиям:

  • определение, изменение или удаление монитора приложения; запуск, остановка или отказ приложения;
  • отказ или прекращение работы узла либо возобновление работы узла; отключение или перемещение группы ресурсов;
  • приостановка или возобновление мониторинга приложения с использованием нескольких мониторов.
  • Приложения, интегрируемые с HACMP

    Некоторые приложения, включая Fast Connect Services и Workload Manager, могут быть сконфигурированы непосредственно как ресурсы высокой доступности без серверов приложений или дополнительных скриптов. Кроме того, верификация HACMP обеспечивает корректность и согласованность некоторых аспектов конфигурации Fast Connect Services или Workload Manager.

    Заполнение таблиц планирования приложений

    Следующие таблицы описывают требуемую информацию для каждого приложения.

    Заполните таблицу приложений, включив в нее всю требуемую информацию, как показано в табл. 3.11.

    Таблица приложений
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 9 из 11 ТАБЛИЦА ПРИЛОЖЕНИЙ ДАТА: июль 2005
    APP1
    ЭЛЕМЕНТ КАТАЛОГ ФАЙЛОВАЯ СИСТЕМА РАСПОЛОЖЕНИЕ ДОСТУП
    ИСПОЛНЯЕМЫЕ ФАЙЛЫ /app1/bin /app1 Хранилище SAN Общий
    ФАЙЛЫ КОНФИГУРАЦИИ /app1/conf /app1 Хранилище SAN Общий
    ФАЙЛЫ ДАННЫХ /app1/data /app1 Хранилище SAN Общий
    ФАЙЛЫ ЖУРНАЛОВ /app1/logs /app1 Хранилище SAN Общий
    СКРИПТ ЗАПУСКА /cluster/local/app1/start.sh / rootvg Необщий (должен располагаться на обоих узлах)
    СКРИПТ ОСТАНОВКИ /cluster/local/app1/stop.sh / rootvg Необщий (должен располагаться на обоих узлах)
    СТРАТЕГИЯ ПЕРЕМЕЩЕНИЯ ПРИ СБОЕ Перемещение при сбое на узел node02
    КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОГО ЗАПУСКА Убедиться в том, что сервер APP1 работает
    КОМАНДЫ И ПРОЦЕДУРЫ ВЕРИФИКАЦИИ Выполнить следующую команду и убедиться в том, что APP1 активно. В противном случае отправить уведомление
    КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОЙ ОСТАНОВКИ Убедиться в том, что сервер APP1 останавливается корректно
    РЕИНТЕГРАЦИЯ УЗЛА Должна осуществляться во время запланированного окна обслуживания, чтобы свести к минимуму нарушение работы клиентов
    APP2
    ЭЛЕМЕНТ КАТАЛОГ ФАЙЛОВАЯ СИСТЕМА РАСПОЛОЖЕНИЕ ДОСТУП
    ИСПОЛНЯЕМЫЕ ФАЙЛЫ /app2/bin /app2 Хранилище SAN Общий
    ФАЙЛЫ КОНФИГУРАЦИИ /app2/conf /app2 Хранилище SAN Общий
    ФАЙЛЫ ДАННЫХ /app2/data /app2 Хранилище SAN Общий
    ФАЙЛЫ ЖУРНАЛОВ /app2/logs /app2 Хранилище SAN Общий
    СКРИПТ ЗАПУСКА /cluster/local/app2/start.sh / rootvg Необщий (должен располагаться на обоих узлах)
    СКРИПТ ОСТАНОВКИ /cluster/local/app2/stop.sh / rootvg Необщий (должен располагаться на обоих узлах)
    СТРАТЕГИЯ ПЕРЕМЕЩЕНИЯ ПРИ СБОЕ Перемещение при сбое на узел node01
    КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОГО ЗАПУСКА Убедиться в том, что сервер APP2 работает
    КОМАНДЫ И ПРОЦЕДУРЫ ВЕРИФИКАЦИИ Выполнить следующую команду и убедиться в том, что APP2 активно. В противном случае отправить уведомление
    КОМАНДЫ И ПРОЦЕДУРЫ ОБЫЧНОЙ ОСТАНОВКИ Убедиться в том, что сервер APP2 останавливается корректно
    РЕИНТЕГРАЦИЯ УЗЛА Должна осуществляться во время запланированного окна обслуживания, чтобы свести к минимуму нарушение работы клиентов
    КОММЕНТАРИИ Обзор приложений

    Следует также заполнить таблицу мониторинга приложений, включив в нее всю информацию, необходимую для инструментов мониторинга приложений ( табл. 3.12).

    Таблица мониторинга приложений
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 10 из 11 МОНИТОРИНГ ПРИЛОЖЕНИЙ ДАТА: июль 2005
    APP1
    Можно ли осуществлять мониторинг приложения с использованием монитора процессов? Да
    Наблюдаемые процессы app1
    Владелец процесса root
    Счетчик экземпляров 1
    Стабилизационный интервал 30
    Счетчик перезапуска 3
    Интервал перезапуска 95
    Действие при отказе приложения Перемещение при сбое
    Метод уведомления /usr/es/sbin/cluster/events/notify_app1
    Метод очистки /usr/es/sbin/cluster/events/stop_app1
    Метод перезапуска /usr/es/sbin/cluster/events/start_app1
    APP2
    Можно ли осуществлять мониторинг приложения с использованием монитора процессов? Да
    Наблюдаемые процессы app2
    Владелец процесса root
    Счетчик экземпляров 1
    Стабилизационный интервал 30
    Счетчик перезапуска 3
    Интервал перезапуска 95
    Действие при отказе приложения Перемещение при сбое
    Метод уведомления /usr/es/sbin/cluster/events/notify_app2
    Метод очистки /usr/es/sbin/cluster/events/stop_app2
    Метод перезапуска /usr/es/sbin/cluster/events/start_app2

    Планирование групп ресурсов

    В HACMP управление ресурсами осуществляется с использованием групп ресурсов.

    Каждая группа ресурсов обрабатывается как контейнер, который может содержать следующие типы ресурсов: IP-метки, приложения, файловые системы и группы томов. Каждая группа ресурсов имеет настройки, которые определяют, когда и каким образом осуществляется ее перехват или освобождение. Можно выполнить точную настройку работы группы ресурсов без одновременного доступа при запуске узла, перемещении группы ресурсов на другой узел при отказе узла или при возврате группы ресурсов при реинтеграции узла.

    К ресурсам и группам ресурсов применимы следующие правила и ограничения:

  • Для обеспечения высокой доступности ресурса кластера в HACMP он должен быть частью группы ресурсов. Если требуется, чтобы ресурс содержался отдельно, можно определить группу для одного этого ресурса. В группе ресурсов может быть определен один или несколько ресурсов.
  • Ресурс не может входить в несколько групп ресурсов.
  • Мы рекомендуем поместить сервер приложения вместе с требуемыми им ресурсами в одну группу ресурсов (если нет причин поступить иначе).
  • При включении одного узла в списки узлов для нескольких групп ресурсов следует убедиться, что этот узел способен обслуживать все группы ресурсов одновременно.
  • На рис. 3.20 упрощенно показана взаимосвязь между приложениями, группами томов и сервисными адресами, а также их совмещение в группах ресурсов. Группировка позволяет объединить приложение вместе с его общим дисковым хранилищем и сервисной IP-меткой в одну группу ресурсов. При этом все, что необходимо приложению, будет доступно, когда HACMP активизирует группу ресурсов.

    (рис 3.20) Группы ресурсов

    После того как было решено, какие компоненты должны быть включены в группу ресурсов, необходимо выполнить планирование режимов работы группы ресурсов.

    В таблице 3.13 приведены основные режимы работы (запуск, перемещение при сбое, возврат после восстановления), которые можно сконфигурировать для групп ресурсов в HACMP 5.3.

    Режимы работы группы ресурсов
    Запуск Перемещение при сбое Возврат после восстановления
    Подключение только на домашнем узле (Online on home node only, OHNO) для группы ресурсов Перемещение на следующий по приоритету узел в списке Без возврата после восстановления
    Перемещение с использованием динамического приоритета узла Возврат после восстановления на узел с более высоким приоритетом в списке
    Подключение с использованием политики распределения узлов Перемещение на следующий по приоритету узел в списке Без возврата после восстановления
    Перемещение с использованием динамического приоритета узла
    Подключение на первом доступном узле (Online on first available node, OFAN) Перемещение на следующий по приоритету узел в списке Без возврата после восстановления
    Перемещение с использованием динамического приоритета узла Возврат после восстановления на узел с более высоким приоритетом в списке
    Перевод в отключенный режим (только на ошибочном узле)
    Подключение на всех доступных узлах Перевод в отключенный режим (только на отказавшем узле) Без возврата после восстановления

    Атрибуты группы ресурсов

    Время установления при запуске

    Атрибут времени установления (settling time) относится только к группам ресурсов с подключением на первом доступном узле (Online on First Available Node, OFAN) и устанавливает ожидание в течение заданного количества времени, прежде чем активизировать группу ресурсов. По истечении времени установления HACMP активизирует группу ресурсов на доступном узле с наивысшим приоритетом. Этот атрибут используется для того, чтобы избежать многократного перемещения групп ресурсов с одного узла на другой по мере подключения узлов с более высоким приоритетом.

    Если узел запуска является домашним узлом для заданной группы ресурсов, время установления не выдерживается, вместо этого HACMP сразу же пытается подхватить группу ресурсов на этом узле.

    Внимание! Этот атрибут действует в масштабе кластера и устанавливается для всех групп томов с подключением на первом доступном узле.

    Политика динамического приоритета узла

    Настройка политики динамического приоритета узла (dynamic node priority, DNP) позволяет выбирать резервный узел на основе определенных критериев производительности. При этом для выбора резервного узла используется переменная ресурсов RMC, например "наименьшая нагрузка на процессор". При включенной политике динамического приоритета порядок резервных узлов определяется состоянием кластера на момент события, измеряемый выбранной переменной ресурсов RMC.

    Если вы решите определить политики динамического приоритета узлов с использованием переменных ресурсов RMC для определения резервного узла для группы ресурсов, следует учитывать следующее:

  • политика динамического приоритета узла наиболее полезна в кластере, где все узлы имеют одинаковую вычислительную мощность и объем памяти;
  • политика динамического приоритета узла неприменима в кластерах, содержащих меньше трех узлов;
  • политика динамического приоритета узла неприменима для групп ресурсов с одновременным доступом.
  • Необходимо помнить о том, что выбор резервного узла также зависит от таких факторов, как доступность сетевого интерфейса на узле.

    Таймер отсроченного возврата после восстановления

    Таймер отсроченного возврата (delayed fallback timer) после восстановления позволяет выполнить для группы ресурсов возврат после восстановления на узел с более высоким приоритетом в заданное время. Группа ресурсов, для которой сконфигурирован таймер отсроченного возврата после восстановления и которая в заданный момент времени находится не на домашнем узле, выполняет возврат на узел с более высоким приоритетом.

    Зависимости групп ресурсов

    HACMP 5.3 предлагает множество конфигураций, где можно задавать отношения между группами ресурсов, для которых следует обеспечивать управление запуском, перемещением при сбое и возвратом после восстановления.

    Можно сконфигурировать:

  • зависимости "родительский объект/дочерний объект", чтобы все связанные приложения в различных группах ресурсов обрабатывались в правильном порядке;
  • зависимости расположения, чтобы определенные приложения в различных группах ресурсов подключались вместе на одном узле или сайте либо подключались на разных узлах.
  • Несмотря на то что по умолчанию все группы ресурсов обрабатываются параллельно, обработка зависимых групп ресурсов в HACMP осуществляется в соответствии с порядком, определенным зависимостью, и не обязательно параллельно. Зависимости групп ресурсов имеют действие в масштабе кластера и замещают любые настройки последовательного порядка обработки для любых групп ресурсов, входящих в зависимость.

    Зависимости между группами ресурсов представляют прогнозируемый и надежный способ построения кластеров с многоуровневыми приложениями.

    Метод перехвата IP-адреса и группы ресурсов

    Нельзя смешивать метки IPAT посредством синонимов и IPAT посредством замены в одной группе ресурсов. Это ограничение применяется во время верификации ресурсов кластера.

    Перехват IP-адреса не применяется к группам ресурсов с одновременным доступом.

    Группа ресурсов может включать несколько сервисных IP-меток. При перемещении группы ресурсов с перехватом IP-адреса посредством синонимов все сервисные метки в группе ресурсов перемещаются в виде синонимов на доступный сетевой интерфейс.

    Планирование диспетчера рабочей нагрузки

    Диспетчер рабочей нагрузки (Workload Manager, WLM) дает возможность пользователям задавать целевые значения и ограничения применения процессора, физической памяти и пропускной способности дисковой подсистемы для различных процессов и приложений. Это обеспечивает более эффективный контроль использования критических системных ресурсов при пиковых нагрузках. HACMP позволяет выполнять конфигурирование классов WLM в группах ресурсов HACMP таким образом, чтобы запуск и остановка WLM и активная конфигурация WLM были под контролем кластера.

    HACMP не проверяет каждый аспект конфигурации WLM, так что ответственность за целостность файлов конфигурации WLM возлагается на вас. После добавления классов WLM в группу ресурсов HACMP утилита верификации проверяет только лишь существование требуемых классов WLM. Таким образом, вы должны в полной мере понимать принципы работы WLM и внимательно выполнять конфигурирование классов WLM.

    Заполнение таблицы планирования групп ресурсов

    Таблица планирования групп ресурсов содержит всю требуемую информацию о планировании для групп ресурсов ( табл. 3.14).

    Таблицы групп ресурсов
    ТАБЛИЦА КЛАСТЕРА HACMP – ЧАСТЬ 11 из 11 ГРУППЫ РЕСУРСОВ ДАТА: июль 2005
    ИМЯ РЕСУРСА C10RG1 C10RG2
    Политика межсайтового управления Игнорируется Игнорируется
    Имена узлов-участников node01 node02 node02 node01
    Политика запуска Подключение только на домашнем узле (OHNO) Подключение только на домашнем узле (OHNO)
    Политика перемещения при сбое Перемещение на следующий по приоритету узел в списке (FONP) Перемещение на следующий по приоритету узел в списке (FONP)
    Политика возврата после восстановления Возврат на узел с более высоким приоритетом (FBHP) Возврат на узел с более высоким приоритетом (FBHP)
    Таймер отсроченного возврата
    Время установления
    Политики времени выполнения
    Политика динамического приоритета узла Порядок обработки (параллельная, последовательная или настраиваемая)
    Сервисная IP-метка app1svc app2svc
    Серверы приложений app1 app2
    Группы томов app1vg app2vg
    Файловые системы /app1 /app2
    Проверка согласованности файловой системы fsck fsck
    Метод восстановления файловой системы Последовательный Последовательный
    Файловые системы или каталоги для экспорта
    Файловые системы или каталоги для подключения NFS
    Сеть для подключения NFS ether10 ether10
    Основной класс WLM
    Автоматический импорт групп томов Нет Нет
    Подключение файловых систем перед конфигурированием IP Нет Нет
    КОММЕНТАРИИ Обзор двух групп ресурсов

    Подробная схема кластера

    Собрав все вместе и используя информацию, собранную при планировании кластера и записанную в таблицах планирования, теперь можно перейти к построению простой для восприятия подробной схемы кластера. На рис. 3.21 представлена подробная схема кластера из нашего примера. Эту схему можно использовать в качестве вспомогательного средства при конфигурировании кластера и диагностике проблем.

    Разработка плана тестирования кластера

    Разработка соответствующего плана тестирования для проверки работы кластера при отказах так же важна, как и планирование и конфигурирование кластера HACMP. Другими словами, нужно проверить, соответствует ли обработка отказов кластером ожиданиям. Необходимо протестировать (или подтвердить) возможности восстановления кластера, прежде чем кластер станет частью рабочей среды.

    Настраиваемый план тестирования

    Как и в прежних версиях HACMP, вам следует разработать локальный набор тестов для проверки целостности кластера. Это обычно включает отключение сетевых кабелей, отключение интерфейсов и завершение работы узлов кластера в целях проверки возможностей восстановления кластера. Это упражнение все еще остается полезным, так как вы имеете возможность имитировать отказы и наблюдать за поведением кластера. Если что-то идет неправильно или не так, как ожидалось, следует остановить тестирование и изучить проблему. После успешного завершения всех тестов кластер можно переносить в рабочую среду.

    В табл. 3.15 представлен пример плана тестирования, который можно использовать для тестирования кластера.

    (рис ) Подробная схема кластера
    Пример плана тестирования
    План тестирования кластера
    Тест № Описание теста Комментарии Результаты
    1 Запуск HACMP на node01 node01 запускается и перехватывает группу ресурсов C10RG1
    2 Запуск HACMP на node02 node02 запускается и перехватывает группу ресурсов C10RG2
    3 Постепенная остановка без перехвата (graceful stop without takeover) на node01 Группа ресурсов C10RG1 отключается
    4 Запуск HACMP на node01 node01 запускается и перехватывает группу ресурсов C10RG1
    5 Постепенная остановка с перехватом (graceful stop with takeover) на node01 Группа ресурсов C10RG1 перемещается на node02
    6 Запуск HACMP на node01 node01 запускается и требует группу ресурсов C10RG1
    7 Отказ (отключение) сервисного интерфейса на node01 Перемещение сервисного IP-адреса на второй базовый адаптер
    8 Переподключение сервисного интерфейса на node01 Сервисный IP-адрес остается на втором базовом адаптере
    9 Отказ (отключение) сервисного интерфейса на node01 (теперь на втором адаптере) Сервисный (и постоянный) IP-адрес перемещается на первый базовый адаптер
    10 Выполнение на node01 команды halt -q для принудительного отключения операционной системы node01 останавливается – группа ресурсов C10RG1 перемещается на node02
    11 Перезагрузка node01 и перезапуск HACMP node01 перезагружается. После запуска HACMP, node01 требует C10RG1
    12 Постепенная остановка без перехвата (graceful stop without takeover) на node02 Группа ресурсов C10RG1 отключается
    13 Запуск HACMP на node02 node02 запускается и перехватывает группу ресурсов C10RG2
    14 Постепенная остановка с перехватом (graceful stop with takeover) на node01 Группа ресурсов C10RG2 перемещается на node01
    15 Запуск HACMP на node02 node02 запускается и требует группу ресурсов C10RG2
    16 Отказ (отключение) сервисного интерфейса на node02 Перемещение сервисного IP-адреса на второй базовый адаптер
    17 Переподключение сервисного интерфейса на node02 Сервисный IP-адрес остается на втором базовом адаптере
    18 Отказ (отключение) сервисного интерфейса на node02 (теперь на втором адаптере) Сервисный (и постоянный) IP-адрес перемещается на первый базовый адаптер
    19 Выполнение на node02 команды halt -q для принудительного отключения операционной системы node02 останавливается – группа ресурсов C10RG2 перемещается на node01
    20 Перезагрузка node02 и перезапуск HACMP node02 перезагружается. После запуска HACMP, node02 требует C10RG2

    Инструмент Cluster Test Tool

    Чтобы упростить тестирование кластера, HACMP 5.2 и 5.3 включают инструмент Cluster Test Tool, позволяющий протестировать функции кластера, прежде чем он станет частью рабочей среды.

    Инструмент Cluster Test Tool работает только в кластере с HACMP 5.2 или более поздней версии с верифицированной и синхронизированной конфигурацией. Инструмент может работать в двух режимах:

  • Автоматическое тестирование. Процедура автоматического тестирования (предопределенный набор тестов), поставляемая вместе с инструментом, используется для выполнения базового тестирования кластера. Выполнение установки не требуется. Нужно просто запустить тест из SMIT и просмотреть результаты тестирования в файле журнала Cluster Test Tool.
  • Настраиваемое тестирование. Если вы являетесь опытным администратором HACMP и хотите выполнить точную настройку тестирования кластера для своей среды, можно создать настраиваемые тесты, которые можно запускать из SMIT. После установки настраиваемой среды тестирования выполняется запуск процедуры тестирования из SMIT, после чего результаты тестирования просматриваются в файле журнала Cluster Test Tool.
  • Cluster Test Tool использует демон коммуникаций кластера HACMP для организации связи между узлами кластера с целью обеспечения безопасности кластера HACMP.

    Автоматическое тестирование

    Инструмент тестирования содержит автоматический метод, предназначенный для быстрого тестирования функционирования кластера. Его выполнение обычно занимает от 30 до 60 мин., в зависимости от сложности кластера; при этом выполняются тесты, перечисленные ниже. Для выполнения этих тестов вы должны иметь доступ под записью root.

    Тесты общей топологии кластера

    Cluster Test Tool выполняет тесты общей топологии кластера в следующем порядке:

  • запуск служб кластера на всех доступных узлах;
  • постепенная (graceful) остановка служб кластера на узле;
  • перезапуск служб кластера на узле, который был остановлен;
  • остановка служб кластера с перехватом на другом узле;
  • перезапуск служб кластера на узле, который был остановлен;
  • принудительная остановка служб кластера на другом узле;
  • перезапуск служб кластера на узле, который был остановлен.
  • Тесты групп ресурсов с неодновременным доступом

    Если кластер включает одну или несколько групп ресурсов с неодновременным доступом, инструмент тестирования выполняет каждый из нижеперечисленных тестов в заданном порядке для каждой группы ресурсов:

  • отключение локальной сети на узле, чтобы инициировать перемещение группы ресурсов;
  • восстановление ранее отключенной сети;
  • отключение сервера приложений и восстановление после отказа приложения.
  • Тест групп ресурсов с одновременным доступом

    Если кластер содержит одну или несколько групп ресурсов с политикой управления запуском, настроенной на подключение на всех доступных узлах (online on all available nodes, OAAN), инструмент тестирования выполняет один тест, состоящий в отключении сервера приложений и восстановлении после отказа приложения.

    Тест на фатальный отказ

    Инструмент выполняет один тест на фатальный отказ, который останавливает диспетчер кластера на произвольно выбранном узле, на котором в данный момент находится как минимум одна активная группа ресурсов.

    Примечание. Если инструмент останавливает диспетчер кластера на контрольном узле, вам может потребоваться перезагрузить этот узел.

    Выполнение автоматических тестов

    Общие рекомендации советуют периодически подтверждать конфигурацию кластера. Существует два инструмента автоматизации выполнения этой задачи:

  • Инструмент автоматического тестирования кластера. Используется непосредственно для тестирования кластера.
  • Автоматическая верификация конфигурации кластера. Этот инструмент периодически проверяет и информирует о любых изменениях конфигурации, чтобы администратор кластера мог предпринять корректирующие действия (выполнить синхронизацию и повторное тестирование кластера).
  • Эти инструменты можно использовать для реализации стандартной процедуры проверки. После выполнения первоначального теста тестирование вручную выполнять необязательно. Однако так как автоматический инструмент тестирования кластера предпринимает действия, которые могут вызвать перерыв в обслуживании, необходимо назначить использование этого инструмента на время, соответствующее окну обслуживания.

    Инструмент Cluster Test Tool выполняет заданный набор тестов, произвольным образом выбирая узлы, сети, группы ресурсов и т. д. для тестирования. В процессе тестирования инструмент тестирует различные компоненты кластера.

    Важно! Прежде чем начать выполнение автоматического тестирования, убедитесь, что кластер не работает в режиме обслуживания в рабочей среде.

    Для запуска автоматической процедуры тестирования:

  • Введите smit hacmp.
  • В SMIT выберите Initialization and Standard Configuration > HACMP Cluster Test Tool и нажмите Enter.
  • Появится сообщение "Are you sure". Если вы еще раз нажмете Enter, запустится автоматическое тестирование.
  • Появится сообщение "Are you sure". Если вы еще раз нажмете Enter, запустится автоматическое тестирование.

    После планирования конфигурации и составления схемы кластера, нужно выполнить подготовку к установке.

    При внедрении HACMP на существующих серверах следует выделить достаточное окно обслуживания для установки, конфигурирования и тестирования кластера. Если выполняется новая инсталляция, нужно выделить время на конфигурирование и тестирование базового кластера. После конфигурирования и тестирования кластера можно выполнять интеграцию необходимых приложений во время запланированного окна обслуживания.

    Возвратившись к рис. 3.1, можно увидеть, что установке HACMP предшествует этап подготовки. Этот этап необходим для того, чтобы обеспечить готовность инфраструктуры к установке HACMP. Обычно это предполагает использование таблиц планирования и схемы кластера для подготовки узлов для установки HACMP 5.3.

  • Убедитесь в том, что установлены необходимые пакеты программного обеспечения узлов и операционной системы.
  • Убедитесь в правильности конфигурирования сети.
  • Убедитесь в правильности конфигурирования общих дисков.
  • Убедитесь в том, что требуемые приложения способны выполняться на всех узлах.
  • Этап подготовки может занять некоторое время, в зависимости от сложности среды и количества используемых групп ресурсов и узлов. Нужно выделить достаточно времени на подготовку среды, так как нет смысла пытаться устанавливать HACMP в неподготовленной среде. Это обернется напрасной тратой времени на устранение неполадок в плохой инсталляции. Помните о том, что построение хорошо сконфигурированного кластера происходит на основе надежной инфраструктуры.

    После завершения планирования кластера и подготовки среды узлы готовы к установке HACMP.

    Установка кода достаточно проста. При установке с компакт-диска следует просто использовать SMIT для установки требуемых наборов файлов. При установке из хранилища программного обеспечения можно выполнить NFS-подключение каталога, после чего использовать SMIT для установки из этого каталога. Убедитесь в том, что у вас есть лицензии на все устанавливаемые функции, такие, как Smart Assist и HACMP/XD.

    После того как были установлены необходимые наборы файлов на всех узлах кластера, используйте таблицы планирования для конфигурирования кластера. У вас есть несколько инструментов, которые можно использовать для конфигурирования кластера:

  • Можно настроить WebSmit и использовать его для конфигурирования кластера.
  • В кластере из двух узлов можно использовать Two-Node Configuration Assistant, реализованный на основе Java.
  • Можно использовать ASCII-экран и SMIT для выполнения конфигурирования.
  • Существует множество способов облегчить конфигурирование кластера. В следующей лекции каждый из них будет рассмотрен подробно, но, если вкратце, вы можете:
  • Использовать Two-Node Configuration Assistant для конфигурирования кластера. Этот инструмент позволяет сконфигурировать базовый двухузловой кластер с одной группой ресурсов.
  • Использовать панели SMIT "HACMP Standard Configuration" для конфигурирования кластера в стандартном формате.
  • Использовать панели SMIT "HACMP Extended Configuration" для конфигурирования кластера вручную.
  • Применить к кластеру файл *.haw, сгенерированный системой автоматизированного планирования (Online Planning Worksheets).
  • Применить снимок кластера для конфигурирования кластера.

    Примечание. При конфигурировании кластера мы рекомендуем начать с конфигурирования (сетевой) топологии кластера. После конфигурирования топологии кластера следует выполнить конфигурирование, верификацию и синхронизацию кластера, прежде чем переходить к ресурсам (общим группам томов, сервисным IP-адресам и приложениям). После успешной верификации и синхронизации топологии следует запустить службы кластера и проверить, все ли работает в соответствии с ожиданиями. Это позволяет выявить любые проблемы в сети до конфигурирования ресурсов кластера.

    После конфигурирования, верификации и синхронизации кластера следует запустить инструмент автоматического тестирования кластера, чтобы проверить функционирование кластера. Просмотрите результаты работы инструмента тестирования; если они являются успешными, выполните необходимые собственные тесты для дальнейшей верификации кластера.

    Проверьте все включенные вами уведомления об ошибках.

    После успешного выполнения тестирования создайте резервные копии системы (mksysb) для каждого узла, а также снимок кластера с одного из узлов кластера. На этом этапе кластер должен быть готов к переносу в рабочую среду.

    Теперь к управлению доступностью приложения применимы стандартные процессы управления изменениями и проблемами.

    Резервное копирование конфигурации кластера

    Основным средством резервного копирования кластера HACMP является снимок кластера. Хотя файл описания кластера системы автоматизированного планирования (Online Planning Worksheets) тоже описывает конфигурацию кластера, он менее полный, так как он не включает записи ODM.

    Основной информацией, сохраненной в снимке кластера, являются данные, находящиеся в классах базы данных конфигурации HACMP (таких, как HACMPcluster, HACMPnode, HACMPnetwork, HACMPdaemons). Эта информация используется для воссоздания конфигурации кластера при применении снимка кластера.

    Снимок кластера не сохраняет какие-либо пользовательские скрипты, приложения и прочие параметры конфигурации, не связанные с HACMP. Например, имена серверов приложений и расположение их скриптов запуска и остановки сохраняются в объектном классе HACMPserver базы данных конфигурации. Однако сами скрипты, как и вызываемые ими приложения, не сохраняются.

    Утилита создания снимков кластера сохраняет данные в двух разных файлах:

  • Файле данных ODM (.odm). Этот файл содержит все данные, сохраненные в объектных классах базы данных конфигурации HACMP для кластера. Этому файлу назначается определяемое пользователем имя с расширением .odm. Так как информация в базе данных конфигурации практически одинакова на всех узлах кластера, снимок кластера сохраняет значения только с одного узла.
  • Файле информации о состоянии кластера (.info). Этот файл содержит стандартные выходные данные AIX 5L и HACMP. Этому файлу назначается то же определяемое пользователем имя с расширением .info. По умолчанию этот файл больше не содержит информацию журнала кластера. Обратите внимание на то, что через SMIT можно задать сбор журналов кластера в этом файле при создании снимка кластера.
  • Для полного резервного копирования следует создать резервную копию (mksysb) каждого узла кластера с использованием стандартных методов. Выберите один узел для создания снимка кластера и сохраните снимок в безопасном месте в целях аварийного восстановления.

    При возможности создайте снимок до создания резервной копии (mksysb) узла, чтобы он был включен в резервную копию системы.

    Важно! Можно создать снимок с любого узла в кластере, даже при отключенном HACMP. Однако применить снимок к кластеру можно только в том случае, если все узлы доступны и выполняют одну версию HACMP (HACMP может осуществлять связь между узлами с использованием clcomdES).

    Документирование кластера

    Для эффективного управления кластером важно выполнять документирование конфигурации кластера. Хорошее документирование кластера позволяет обеспечить более эффективный контроль изменений и быстрое разрешение проблем на всех этапах, от управления изменениями в кластере до устранения неполадок. Мы рекомендуем вам вести точную схему кластера, которую можно использовать для управления изменениями и проблемами.

    Кроме того, HACMP обеспечивает инструменты для упрощения сбора данных конфигурации кластера посредством использования системы автоматизированного планирования (OLPW).

    В этом разделе описывается создание файла определения кластера через SMIT с последующим его использованием для создания отчета о конфигурации кластера через OLPW. Итоговый отчет имеет формат HTML и может быть просмотрен через веб-браузер.

    Основные этапы создания отчета кластера следующие:

  • Экспорт файла определения кластера с одного из узлов кластера с использованием SMIT:
  • файл обычно сохраняется в формате *.haw;
  • при использовании OLPW на рабочей станции следует передать файл определения через ftp на рабочую станцию.
  • Использование OLPW для открытия существующего файла определения.
  • Использование OLPW для создания отчета о конфигурации. При этом создается файл *.html.
  • Использование веб-браузера для просмотра файла. Рекомендуем сохранить файл на другом сервере или рабочей станции в целях аварийного восстановления.
  • Экспорт файла определения кластера с применением SMIT

    Можно создать файл определения кластера из активного кластера HACMP, после чего открыть этот файл с использованием приложения Online Planning Worksheets.

    Для создания файла определения кластера из SMIT проделайте следующее:

  • Введите smit hacmp.
  • Выберите Extended Configuration (Расширенное конфигурирование). Выберите Export Definition File for Online Planning Worksheets (Экспорт файла определения для OLPW) и нажмите Enter ( пример 3.2).
    Extended Configuration
    Move cursor to desired item and press Enter.
    Discover HACMP-related Information from Configured Nodes
    Extended Topology Configuration
    Extended Resource Configuration
    Extended Cluster Service Settings
    Extended Event Configuration
    Extended Performance Tuning Parameters Configuration
    Security and Users Configuration
    Snapshot Configuration
    Export Definition File for Online Planning Worksheets
    
    Extended Verification and Synchronization
    HACMP Cluster Test Tool
  • Введите значения следующих полей и нажмите Enter:
  • File Name (Имя файла). Полный путь к файлу определения кластера. По умолчанию используется путь /var/hacmp/log/cluster.haw.
  • Cluster Notes (Примечания кластера). Любые дополнительные комментарии, относящиеся к вашему кластеру. Введенная здесь информация будет выводиться в панели Cluster Notes (Примечания кластера) в Online Planning Worksheets.
  • Откройте файл определения кластера в Online Planning Worksheets.
  • Создание файла определения кластера из снимка с использованием SMIT

    Кроме того, файл определения кластера также можно создать из снимка кластера HACMP, после чего его можно открыть с использованием приложения Online Planning Worksheets.

    Для создания файла определения кластера из снимка с применением SMIT проделайте следующее:

  • введите smit hacmp ;
  • выберите Extended Configuration (Расширенное конфигурирование):
  • Snapshot Configuration (Конфигурация снимка) >;
  • Convert Existing Snapshot For Online Planning Worksheets (Преобразовать существующий снимок для OLPW);
  • выберите предварительно созданный снимок;
  • после создания файла определения кластера откройте его в Online Planning Worksheets.
  • Создание отчета о конфигурации

    Отчет о конфигурации позволяет записать информацию о состоянии конфигурации кластера в формате HTML.

    Отчет содержит обзорную информацию, включающую следующее:

  • имя каталога, содержащего изображения, используемые в отчете;
  • версия приложения Online Planning Worksheets;
  • автор и компания, указываемые на панели Cluster Configuration (Конфигурация кластера);
  • примечания кластера, добавленные с панели Cluster Notes (Примечания кластера);
  • последние дата и время, в которые система Online Planning Worksheets сохранила файл определения кластера.
  • Отчет также содержит разделы по следующим вопросам:

  • узлы и пути для связи;
  • приложения;
  • сети;
  • экспорт NFS;
  • IP-метки;
  • серверы приложений;
  • глобальная сеть;
  • мониторы приложений;
  • сайты;
  • пейджеры и мобильные телефоны;
  • диски;
  • удаленные уведомления;
  • группы ресурсов;
  • ресурсы накопителей на магнитной ленте;
  • группы томов;
  • политики времени выполнения для групп ресурсов;
  • логические тома;
  • обзор узлов;
  • наборы файлов;
  • верификация кластера;
  • межсайтовое зеркальное отображение LVM.
  • Для создания отчета о конфигурации:

  • выберите File (Файл) > Create Report (Создать отчет);
  • в диалоговом окне Save (Сохранение) введите имя и расположение файла отчета.(рис 3.22) Образец отчета о конфигурации
  • При создании отчета в каталоге, содержащем отчет, создается каталог olpwimages. Например, при сохранении файла отчета в каталоге /home/pat/reports в качестве каталога изображений используется /home/pat/reports/olpwimages. Каталог olpwimages содержит графические файлы, связанные с отчетом. При каждом создании отчета происходит замена файлов отчета и файлов в каталоге изображений.

    На рис. 3.22 показан скриншот созданного отчета. Можно выполнять прокрутку страницы для просмотра информации.

    Управление изменениями и проблемами

    После запуска кластера начинается работа по управлению изменениями и проблемами.

    Эффективные процессы управления изменениями и проблемами необходимы для обеспечения доступности кластера. В целях эффективности текущая конфигурация кластера всегда должна быть "под рукой". Можно использовать OLPW для создания html-версии конфигурации, а также (рекомендуется) схемы текущего кластера.

    Любые изменения в кластере должны быть всесторонне исследованы с точки зрения их воздействия на функционирование кластера. Даже те изменения, которые непосредственно не влияют на HACMP (например, добавление дополнительной нагрузки, не связанной с HACMP), могут отразиться на работе кластера. Необходимо выполнять планирование, назначение и документирование изменений, а после их внесения – тестирование кластера.

    Чтобы упростить внедрение изменений в кластере, HACMP обеспечивает набор SMIT-меню C-SPOC (Cluster Single Point of Control). Всегда, когда это возможно, следует использовать меню C-SPOC для внесения изменений. Используя C-SPOC, можно вносить изменения на одном узле, после чего они распространяются на другие узлы кластера.

    Все возникающие проблемы в кластере следует немедленно изучать и исправлять. Так как основная задача HACMP состоит в том, чтобы скрывать любые возникающие ошибки от приложений, даже при наличии инструментов мониторинга вы можете не узнать о перемещении при сбое. Убедитесь в том, что включены уведомления об ошибках, сообщающие об отказах соответствующему персоналу.

    Инструменты планирования

    В этом разделе подробно рассматриваются три основных инструмента планирования. Также включен образец схемы кластера и таблицы планирования.

    Схема кластера

    Создание схемы для кластера HACMP позволяет четко представить работу кластера и помогает выявить единые точки отказа. Образец схемы кластера из двух узлов представлен на рис. 3.23.

    (рис 3.23) Образец схемы кластера

    Система автоматизированного планирования

    Система автоматизированного планирования (Online Planning Worksheets, OLPW) представляет Java-версию таблиц планирования на бумаге. Используя это приложение, можно либо импортировать информацию о конфигурации HACMP из существующего кластера и отредактировать ее, либо ввести всю информацию о конфигурации вручную.

    Приложение сохраняет информацию в виде файла определения кластера, применимого для конфигурирования кластера. Приложение также проверяет данные на наличие всей необходимой информации.

    Следующий порядок действий представляет эффективное использование инструмента OLPW при планировании, внедрении и документировании кластера.

  • Подготовка к планированию кластера путем ознакомления с понятиями HACMP и со своей средой.
  • Запуск программы Online Planning Worksheet на своей рабочей станции с компакт-диска HACMP.
  • Заполнение таблиц OLPW и создание файла определения кластера. Установка HACMP на узлах кластера.
  • Копирование файла определения кластера на один из узлов кластера. Применение файла определения кластера в кластере с использованием команды cl_opsconfig.
  • Создание снимка кластера.
  • Документирование кластера путем создания отчета, при котором создается htmlфайл, который можно использовать для управления системами.
  • Внимание! Online Planning Worksheets представляет собой инструмент для конфигурирования и записи состояния кластера. Вы должны иметь четкое представление о планировании кластера, прежде чем использовать этот инструмент.

    Запуск OLPW с компакт-диска в Windows

  • Вставьте компакт-диск HACMP в соответствующий привод.
  • Найдите файл olpw/worksheets.bat и запустите его.
  • Примечание. Не закрывайте командное окно, использовавшееся для запуска приложения. При закрытии этого окна произойдет закрытие приложения.

    Запуск приложения с компакт-диска в AIX 5L

    В системе AIX 5L для запуска приложения Online Planning Worksheets с компакт-диска HACMP проделайте следующее:

  • Убедитесь в том, что в переменной окружения PATH установлен путь к JRE следующим образом:
  • AIX 5.3 /usr/java141/bin;
  • AIX 5.2 /usr/java131/bin;
  • AIX 5.1 /usr/java130/bin.
  • Подключите установочный носитель с использованием следующей команды: mount -v cdrfs -p -r cd_location mount_directory, где cd_location – расположение компакт-диска; mount_directory – имя подключаемого каталога (точки монтирования). Например: mount -v cdrfs -p -r /dev/cd0 /mnt.
  • Запустите приложение с использованием следующей команды: java -jar mount_directory/olpw/worksheets.jar, где mount_directory – каталог, описанный выше.
  • Установка OLPW

    Установка приложения в системе AIX 5L. Установка приложения Online Planning Worksheets выполняется с установочного носителя программного обеспечения HACMP. Устанавливаемый образ приложения:

    cluster.es.worksheets

    Приложение Online Planning Worksheets устанавливается в каталоге /usr/es/sbin/ cluster/worksheets.

    Запуск приложения OLPW из графического интерфейса AIX 5L. Выполните следующую команду:

    /usr/es/sbin/cluster/worksheets/worksheets

    Приложение проверяет наличие установленной требуемой версии JRE перед запуском приложения в фоновом режиме.

    Установка приложения OLPW в системе Windows

  • Установите Online Planning Worksheets с установочного носителя HACMP в системе AIX 5L.
  • Скопируйте файлы worksheets.bat и worksheets.jar в требуемый каталог в системе Windows.
  • Примечание. При копировании файлов через FTP обязательно задайте режим ASCII для .bat-файла и режим binary для .jar-файла.

    Запуск приложения из системы Windows

    Выполните команду worksheets.bat из командной строки либо сделайте двойной щелчок мышью по значку worksheet.jar в проводнике.

    Описание главного окна

    При открытии приложения Online Planning Worksheets выводится его главное окно, представленное на рис. 3.24:

    Главное окно содержит две панели:

  • левая панель позволяет осуществлять навигацию по компонентам кластера;
  • правая панель выводит панели, связанные со значками, выбранными на левой панели.
  • Информация о конфигурации вводится в правой панели.

    (рис 3.24) Основное меню Online Planning Worksheets

    Создание нового файла описания кластера

    В начале планирования кластера можно либо ввести всю информацию вручную, либо считать информацию о конфигурации кластера в OLPW, после чего ввести остальную информацию вручную.

    Для создания файла определения кластера проделайте следующее:

  • Введите все данные вручную с использованием информации планирования или считайте информацию о конфигурации непосредственно из кластера HACMP следующим образом:
  • Используя меню SMIT, создайте файл определения.
  • В OLPW выберите File (Файл) > Import HACMP Definition (Импорт определения HACMP), после чего выберите файл определения кластера.
  • Выводится диалоговое окно Import Validation (Проверка импорта). Здесь можно просмотреть информацию об ошибках проверки либо получить подтверждение об успешном импорте файла определения HACMP.
  • Введите всю дополнительную информацию вручную
  • Сохраните созданный файл определения.
  • Открытие существующего файла определения кластера

    Примечание. Файл определения кластера должен находиться на том же узле, на котором выполняется приложение Online Planning Worksheets. Приложение Online Planning Worksheets поддерживает открытие файлов определения кластера со следующими расширениями:
  • .haw. Это расширение является предпочтительным. Оно поддерживается в HACMP 5.2 и 5.3.
  • .xml. Это расширение также может использоваться. Оно поддерживается в HACMP 5.3.
  • .ws. Этот файловый формат поддерживается в HACMP 5.1.0.1. В целях обратной совместимости в HACMP 5.3 существует возможность открытия .ws-файлов; однако их следует сохранять с расширением .xml или .haw.
  • Чтобы открыть файл определения кластера, выберите File (Файл) > Open (Открыть). Одновременно можно открыть только один файл определения кластера.

    Программа запросит вас о необходимости сохранения текущего файла, независимо от того, вносились ли в него какие-либо изменения, после чего главное окно выводится без информации о конфигурации.

    Добавление примечаний о конфигурации кластера

    При планировании конфигурации в файл определения кластера можно добавлять примечания. Для этого:

  • на левой панели, либо в представлении Requisite®, либо в иерархическом представлении выберите Cluster Notes (Примечания кластера);
  • на панели Cluster Notes (Примечания кластера) введите информацию, которую требуется сохранить;
  • нажмите кнопку Apply (Применить).
  • Сохранение файла определения кластера

    Это можно сделать двумя способами:

  • Выберите File (Файл) > Save (Сохранить), чтобы использовать имя кластера в качестве имени файла.
  • Выберите File (Файл) > Save As (Сохранить как), чтобы ввести другое имя файла. В диалоговом окне Save (Сохранение) введите имя и расположение файла определения кластера; убедитесь, что имя файла имеет расширение .haw (или .xml), и нажмите Save (Сохранить).
  • При сохранении файла OLPW автоматически проверяет определение кластера, если только автоматическая проверка не была выключена.

    Применение данных таблиц в кластере HACMP

    После заполнения панелей конфигурации в приложении OLPW можно сохранить файл, после чего применить его на узле кластера. При использовании приложения Online Planning Worksheets в системе Windows необходимо сначала скопировать файл определения кластера на узел кластера, прежде чем его применять.

    Предварительные условия

    Прежде чем применять файл определения кластера в кластере, убедитесь в том, что выполнены следующие условия:

  • Программное обеспечение HACMP установлено на всех узлах кластера.
  • Все аппаратные устройства, заданные в конфигурации кластера, подключены.
  • В случае замены существующей конфигурации вся существующая информация кластера в базе данных конфигурации HACMP была сохранена в снимке.
  • Службы кластера остановлены на всех узлах.
  • Рабочий файл /usr/es/sbin/cluster/etc/rhosts присутствует на всех узлах кластера.
  • Это необходимо для выполнения утилиты cl_opsconfig.
  • Применение файла конфигурации кластера

  • Из приложения Online Planning Worksheets проверьте файл определения кластера.
  • Создайте отчет для документирования конфигурации кластера.
  • Сохраните файл и выйдите из приложения. Если файл конфигурации кластера находится в системе Windows, скопируйте файл на узел HACMP.
  • С узла кластера выполните команду cl_opsconfig: /usr/es/sbin/cluster/utilities/cl_opsconfig your_config_file где your_config_file – имя файла конфигурации на узле.
  • Утилита cl_opsconfig выполняет проверку файла (если приложение Online Planning Worksheets установлено локально), применяет информацию в кластере, выполняет синхронизацию и верификацию. Во время верификации на экран выводятся сообщения о возникающих событиях, а также предупреждения и ошибки. Сообщения об ошибках cl_opsconfig можно просматривать на экране либо перенаправлять в файл журнала.

    Перенаправление стандартного потока вывода сообщений об ошибках осуществляется следующим образом (в оболочке korn shell; в других оболочках могут быть отличия):

    /usr/sbin/cluster/utilities/cl_opsconfig 
      your_config_file 2> output_file

    Таблицы планирования на бумаге

    Подробно таблицы планирования на бумаге представлены в прил. "А" в руководстве HACMP 5.3 Planning and Installation Guide.

    Мы считаем, что полезно привести эти таблицы в формат, подходящий к вашей среде. Для этого мы включили ряд примеров специализированных таблиц, чтобы помочь вам в планировании простого кластера. Эти таблицы см. в прил. "А", "Таблицы планирования на бумаге".

    Вернуться к учебному плану