Лаборатория Параллельных информационных технологий НИВЦ МГУ
Опубликован: 22.04.2008 | Доступ: свободный | Студентов: 1032 / 283 | Оценка: 4.30 / 4.19 | Длительность: 08:05:00
Специальности: Программист
Лекция 6:

Виртуальные топологии

< Лекция 5 || Лекция 6: 12 || Лекция 7 >
Аннотация: В этой лекции мы рассмотрим механизм сопоставления процессам некоторого коммуникатора альтернативной схемы адресации, либо виртуальные топологии.Какие типы топологий предусмотрены в MPI, в каких случаях они используются и т.д

Топология - это механизм сопоставления процессам некоторого коммуникатора альтернативной схемы адресации. В MPI топологии виртуальны, то есть они не связаны с физической топологией коммуникационной сети. Топология используется программистом для более удобного обозначения процессов, и таким образом, приближения параллельной программы к структуре математического алгоритма. Кроме того, топология может использоваться системой для оптимизации распределения процессов по физическим процессорам используемого параллельного компьютера при помощи изменения порядка нумерации процессов внутри коммуникатора.

В MPI предусмотрены два типа топологий:

  • декартова топология (прямоугольная решетка произвольной размерности);
  • топология графа.
MPI_TOPO_TEST(COMM, TYPE, IERR) INTEGER COMM, TYPE, IERR

Процедура определения типа топологии, связанной с коммуникатором сомм. Возможные возвращаемые значения параметра TYPE:

  • MPI_GRAPH для топологии графа;
  • MPI_CART для декартовой топологии;
  • MPI_UNDEFINED - с коммуникатором сомм не связана никакая топология.

Декартова топология

MPI_CART_CREATE(COMM, NDIMS, DIMS, PERIODS, REORDER, COMM_CART,IERR)
INTEGER COMM, NDIMS, DIMS(*), COMM_CART, IERR
LOGICAL PERIODS(*), REORDER

Создание коммуникатора COMM_CART, обладающего декартовой топологией, из процессов коммуникатора сомм. Параметр NDIMS задает размерность получаемой декартовой решетки, DIMS (I) - число элементов в измерении I, 1<I<NDIMS. PERIODS - логический массив из NDIMS элементов, определяющий, является ли решетка периодической (значение .TRUE.) вдоль каждого измерения, REORDER - логический параметр, определяющий, что при значении .TRUE, системе разрешено менять порядок нумерации процессов для оптимизации распределения процессов по физическим процессорам используемого параллельного компьютера.

Процедура является коллективной, а значит, должна быть вызвана всеми процессами коммуникатора сомм. Если количество процессов в задаваемой топологии COMM_CART меньше числа процессов в исходном коммуникаторе сомм, то некоторым процессам может вернуться значение MPI_COMM_NULL, a значит, они не будут принимать участия в создаваемой топологии. Если количество процессов в задаваемой топологии больше числа процессов в исходном коммуникаторе, то вызов будет ошибочным.

В следующем примере создается трехмерная топология 4x3x2, каждое измерение которой является периодическим, кроме того, разрешается переупорядочение процессов. Данный фрагмент должен выполняться не менее чем на 24 процессах.

dims(1) = 4 dims(2) = 3 dims(3) = 2 periods(1) = .TRUE, periods(2) = .TRUE, periods(3) = .TRUE.
call MPI_CART_CREATE(MPI_COMM_WORLD, 3, dims, periods,
& .TRUE., comm_cart, ierr)

Процедура MPI_DIMS_CREATE(NNODES, NDIMS, DIMS, IERR) INTEGER NNODES, NDIMS, DIMS(*), IERR помогает определить размеры DIMS(I) для каждой из NDIMS размерностей при создании декартовой топологии для NNODES процессов. Предпочтительным считается создание топологии, в которой число процессов по разным размерностям примерно одно и то же. Пользователь может управлять числом процессов в некоторых размерностях следующим образом. Значение DIMS(I) рассчитывается данной процедурой, если перед вызовом оно равно О, иначе оставляется без изменений. Отрицательные значения элементов массива DIMS ЯВЛЯЮТСЯ ошибочными. Перед вызовом процедуры значение NNODES должно быть кратно произведению ненулевых значений массива DIMS. Выходные значения массива DIMS, переопределенные данной процедурой, будут упорядочены в порядке убывания. Процедура является локальной и не требует межпроцессного взаимодействия.

В следующей таблице приведены четыре примера использования процедуры MPI_DIMS_CREATE для создания трехмерных топологий. В первом примере б процессов образуют решетку 3x2x1, причем размеры упорядочены в порядке убывания. Во втором примере делается попытка распределить 7 процессов по трем измерениям, единственный возможный вариант - решетка 7x1x1. В третьем примере для второй размерности изначально задано значение 3, две оставшиеся размерности определяют решетку 2x3x1. Четвертый вызов ошибочен, так как общее число процессов (7) не делится нацело на заданный размер во второй размерности (3).

dims перед вызовом вызов процедуры dims после вызова
(0, 0,0) MP_DIM_CREATE (6, 3, dims, ierr) (3, 2, 1)
(0, 0,0) MP_DIM_CREATE (73, dims, ierr) (7, 1, 1)
(0, 3,0) MP_DIM_CREATE (63, dims, ierr) (2, 3, 1)
(0, 3,0) MP_DIM_CREATE (73, dims, ierr) ошибка
MPI_CART_COORDS(COMM, RANK, MAXDIMS, COORDS, IERR) 
 INTEGER COMM, RANK, MAXDIMS, COORDS(*), IERR

Определение декартовых координат процесса по его рангу RANK В коммуникаторе сомм. Координаты возвращаются в массиве COORDS с числом элементов MAXDIMS. Отсчет координат по каждому измерению начинается с нуля.

MPI_CART_RANK(COMM, COORDS, RANK, IERR) INTEGER COMM, COORDS(*), RANK, IERR

Определение ранга RANK процесса в коммуникаторе сомм по его декартовым координатам COORDS. ДЛЯ периодических решеток координаты вне допустимых интервалов пересчитываются, для непериодических решеток они являются ошибочными.

MPI_CART_SUB(COMM, DIMS, NEWCOMM, IERR) 
 INTEGER COMM, NEWCOMM, IERR LOGICAL DIMS(*)

Расщепление коммуникатора сомм, с которым связана декартова топология при помощи процедуры MPI_CART_CREATE, на подгруппы, соответствующие декартовым подрешеткам меньшей размерности. I-ый элемент логического массива DIMS устанавливается равным значению .TRUE., если I-ое измерение должно остаться в формируемой подрешетке, связанной с коммуникатором NEWCOMM.

Возьмем трехмерную топологию, созданную в предыдущем примере. Ниже показано, как расщепить топологию 4x3x2 на 3 двумерных подрешетки 4x2 по 8 процессов в каждой.

dims(0) = .TRUE.
dims(1) = .FALSE.
dims(2) = .TRUE.
call MPI_CART_SUB(comm_cart, dims, newcomm, ierr)
MPI_CARTDIM_GET(COMM, NDIMS, IERR) INTEGER COMM, NDIMS, IERR

Определение размерности NDIMS декартовой топологии, связанной с коммуникатором сомм.

MPI_CART_GET(COMM, MAXDIMS, DIMS, PERIODS, COORDS, IERR)
  INTEGER COMM, MAXDIMS, DIMS(*), COORDS(*), IERR
LOGICAL PERIODS(*)

Получение информации о декартовой топологии коммуникатора сомм и координатах в ней вызвавшего процесса, MAXDIMS задает размерность декартовой топологии. В параметре DIMS возвращается количество процессов для каждого измерения, в параметре PERIODS - периодичность по каждому измерению, в параметре COORDS - координаты вызвавшего процесса в декартовой топологии.

MPI_CART_SHIFT(COMM, DIRECTION, DISP, SOURCE, DEST, IERR)
  INTEGER COMM, DIRECTION, DISP, SOURCE, DEST, IERR

Получение номеров посылающего (SOURCE) И принимающего (DEST) процессов в декартовой топологии коммуникатора сомм для осуществления сдвига вдоль измерения DIRECTION на величину DISP.

Для периодических измерений осуществляется циклический сдвиг, для непериодических - линейный сдвиг. В случае линейного сдвига на некоторых процессах в качестве номеров посылающего или принимающего процессов может быть получено значение MPI_PROC_NULL, означающее выход за границы диапазона. В случае циклического сдвига последний процесс по данному измерению осуществляет обмены с нулевым процессом. Для n-мерной декартовой решетки значение DIRECTION должно быть в пределах от О до n-1.

Значения SOURCE и DEST МОЖНО использовать, например, для обмена с помощью Процедуры MPI_SENDRECV.

В следующем примере создается двумерная декартова решетка, периодическая по обоим измерениям, определяются координаты процесса в данной решетке. Потом при помощи процедуры MPI_CART_SHIFT вычисляются координаты процессов, с которыми нужно совершить обмен данными для осуществления циклического сдвига с шагом 2 по измерению 1. В конце фрагмента полученные значения номеров процессов используются для обмена данными при помощи процедуры MPI_SENDRECV_REPLACE.

periods(1) = .TRUE.
periods(2) = .TRUE.
call MPI_CART_CREATE(MPI_COMM_WORLD, 2, dims,
& periods, .TRUE., comm, ierr)
call MPI_COMM_RANK(comm, rank, ierr)
call MPI_CART_COORDS(comm, rank, 2, coords, ierr)
shift = 2
dest = 1
call MPI_CART_SHIFT(comm, 0, shift, source, dest, ierr)
call MPI_SENDRECV_REPLACE(a, 1, MPI_REAL, dest, 0,
& source, 0, comm, status, ierr)
< Лекция 5 || Лекция 6: 12 || Лекция 7 >
Александр Качанов
Александр Качанов
Япония, Токио
Евгений Жуков
Евгений Жуков
Россия