Московский государственный университет имени М.В.Ломоносова
Опубликован: 16.06.2008 | Доступ: свободный | Студентов: 721 / 117 | Оценка: 4.39 / 3.96 | Длительность: 07:59:00
Специальности: Программист
Лекция 4:

Проектирование архитектуры кластерной системы

< Лекция 3 || Лекция 4: 123 || Лекция 5 >
Аннотация: В данной лекции рассмотрено размещение и компоновка кластера, требования структуры задач на вычислительные узлы, выбор процессоров, иерархию памяти, локальных дисков, управляющий узел, файл-сервер. Рассмотрено богатство инфраструктуры, составление схемы кластера
Ключевые слова: кластер, SMPS, Windows, мощность, коммуникационная среда, класс решаемых, сервер, Интернет, Fast Ethernet, кластерная система, производительность, стоимость, отказоустойчивость, энергопотребление, отношение, файл-сервер, сетевая инфраструктура, конструктор, бюджет проекта, компоновка, kit, доступ, расстояние, коммуникационная сеть, Gigabit Ethernet, пиковая производительность, KVM, переключатель, монитор, мышь, ПО, поддержка, периферия, вычислительная задача, EM64T, AMD, itanium, программа, hyper-threading, тактовая частота, процессор, основная модель, материнская плата, слот, ядро, иерархия памяти, сетевые проблемы, DHCP, NFS, TFTP, определение, память, свопинг, NFS-сервер, диск, операции, DVD, USB, запуск, параллельная программа, оперативная память, компьютер, RAID, надежность, контроль четности, spare, информация, массив, транспортная, компонент, латентность, пропускная способность, скорость передачи, MPI, параллельный процесс, Ethernet, SCI, архитектура, опыт, выход, программное обеспечение, PCI-X, infiniband, IBM, SUN, маршрутизация, балансировка нагрузки, топология, FAT, базовая, gbit, передача данных, сетевая файловая система, транспортная сеть, коммутатор, сеть, затраты, системная консоль, плата, remote, management, UPS, путь, целый, on-site, место, поле

Если говорить совсем кратко, то вычислительный кластер - это совокупность компьютеров, объединенных в рамках некоторой сети для решения одной задачи. В качестве вычислительных узлов обычно используются доступные на рынке однопроцессорные компьютеры, двух или четырехпроцессорные SMP-серверы. Каждый узел работает под управлением своей копии операционной системы, в качестве которой чаще всего используются варианты стандартных ОС: Linux, Windows, Solaris и другие. Состав и мощность узлов могут меняться даже в рамках одного кластера, что дает возможность создавать неоднородные системы. Выбор конкретной коммуникационной среды определяется многими факторами: особенностями класса решаемых задач, доступным финансированием, необходимостью последующего расширения кластера и т. п. Часто включают в конфигурацию кластера специализированные компьютеры, например, файл- сервер. Как правило, предоставляется возможность удаленного доступа на кластер через Интернет.

Ясно, что простор для творчества при проектировании кластеров огромен. Узлы могут не содержать локальных дисков, коммуникационная среда может одновременно использовать различные сетевые технологии, узлы не обязаны быть одинаковыми и масса прочих нюансов. Рассматривая крайние точки, кластером можно считать как пару ПК, связанных локальной сетью Fast Ethernet, так и рекордные вычислительные системы из первых строк списка 500 самых мощных систем мира, объединяющих тысячи процессоров.

Рассмотрим аппаратную сторону будущей кластерной системы. Возможны различные варианты критериев, с позиций которых будут оцениваться принимаемые в дальнейшем решения. Однозначно посоветовать что-либо здесь просто невозможно, все определяется задачами каждого конкретного проекта. Часто при заданном бюджете требуется получить максимальную производительность системы на решении некоторого класса задач. Другой вариант - минимизировать стоимость проекта при заданной производительности. Для кого-то важна компактность системы, для других ее отказоустойчивость и высокая степень доступности. В последнее время очень важной характеристикой становится энергопотребление, которую рассматривают либо в абсолютном исчислении, либо принимают в расчет отношение производительности системы к ее энергопотреблению. Вариантов оценки и выбора существует много, поэтому, начиная проектирование кластера, определитесь, что первично, а чем в какой-то степени можно и пожертвовать.

Рассмотрим базовые компоненты и их характеристики, которые должны учитываться при построении кластерных систем:

  • размещение и компоновка кластера,
  • вычислительные узлы,
  • управляющий узел,
  • файл-сервер и хранилище данных,
  • сетевая инфраструктура,
  • источники бесперебойного питания.

В процессе проектирования важно осознать, что сейчас для конструирования кластерной системы в руки дается мощный конструктор, с помощью которого можно собрать именно ту систему, которая в наибольшей степени будет соответствовать решаемым задачам и бюджету проекта. Нужно правильно сформулировать свои пожелания и вовремя высказать их фирме-поставщику.

Начнем с того, что для эффективного обслуживания кластера не последнюю роль будет играть его компоновка. Лучшее решение - это расположение кластера в стойке. Даже для небольшого кластера из 4-6 узлов стойка уже уместна (рис. 3.1), при этом увеличение стоимости решения будет не столь существенным.

Пример стойки с пятью узлами и монитором

Рис. 3.1. Пример стойки с пятью узлами и монитором

Не стоит сильно экономить на собственно стойке, так как недоработки ее конструкции могут в последствии превратиться в неожиданные проблемы. При выборе стойки следует обратить внимание на следующие нюансы.

  • Соответствие формата стойки формату узлов кластера (обычно это стандарт 19-дюймовой стойки).
  • Наличие в комплектах узлов, головного узла, файл-сервера и сетевых коммутаторов рельсов (rail kit) для крепления в стойку.
  • Соответствие крепежа рельсов и стойки. На практике используются два основных стандарта, которые называют Compaq и HP. В первом случае отверстия для крепления в профилях стойки будут круглыми, во втором - квадратными. Переходников с одного стандарта на другой не существует.
  • Наличие кабельных органайзеров. К каждому вычислительному узлу кластера будут приходить как минимум питание и сеть, поэтому представьте, что будет твориться в местах скопления этих проводов.
  • Перфорированная лицевая дверь стойки. Если поставить сплошную дверь, например, стеклянную, то обеспечить полноценный доступ холодного воздуха к узлам будет невозможно, однако почти все современные стоечные серверы захватывают воздух для охлаждения только спереди.

Расположить стойку в помещении нужно так, чтобы был удобный доступ к узлам и спереди, и сзади. Спереди должно быть достаточно места для того, чтобы поместился узел из стойки и человек. Сзади будет выходить тепло, поэтому расстояние до стены должно быть достаточным для его рассеивания.

Обратите внимание, что стоечный крепеж обычно поставляется отдельно, поэтому, приобретая стойку, купите там же соответствующие винты и гайки. Стоит закупить их с запасом, чтобы сберечь свое время в будущем.

Не менее важным, чем выбор стойки, является выбор форм-фактора вычислительных узлов. Устоявшихся решений в настоящее время существует несколько.

Пример стойки с 30 узлами формата 1 U

Рис. 3.2. Пример стойки с 30 узлами формата 1 U

Стоечное решение с серверами 3-4 U. Обслуживание такого решения, наверное, самое легкое. Любое дополнительное периферийное оборудование устанавливается в такие серверы без особых проблем, охлаждение в них производится легко. Основным недостатком этого решения является то, что много таких узлов в стойку не войдет.

Стоечное решение с серверами 1-2 U (рис. 3.2). Вариант компактен, таких узлов в стойку войдет уже больше, чем в предыдущем случае, однако установить в них какую-то дополнительную плату иногда бывает весьма сложно. Тщательно продумайте конфигурацию узлов. Охлаждение в серверах небольшого размера, как правило, организуется сложнее, поэтому еще раз проверьте параметры и общий план разворачивания системы кондиционирования. Холодный воздух должен подаваться к передней части стойки, и кондиционер не должен располагаться слишком близко.

Стоечное решение на блейд-серверах (лезвиях). Самое компактное решение, поэтому и стоимость его при прочих равных условиях немного выше. Управление блейд-серверами обычно организуется с помощью специальных средств, которые нужно будет дополнительно изучить. Такие серверы, как правило, ограничены в плане расширения, и далеко не всегда в них можно установить необходимую новую плату. Например, если штатная коммуникационная сеть на базе Gigabit Ethernet не устраивает, то стоит задуматься о целесообразности такого решения. Некоторые компании предлагают на выбор несколько вариантов сетевого комплектования.

< Лекция 3 || Лекция 4: 123 || Лекция 5 >
Максим Глотов
Максим Глотов
Россия
Тимофей Маханько
Тимофей Маханько
Россия