Опубликован: 28.07.2007 | Доступ: свободный | Студентов: 2034 / 506 | Оценка: 4.53 / 4.26 | Длительность: 25:10:00
ISBN: 978-5-9556-0096-3
Специальности: Программист
Теги:
Лекция 3:
Оценка коммуникационной трудоемкости параллельных алгоритмов
Аннотация: Лекция посвящена вопросам анализа информационных
потоков, возникающих при выполнении параллельных алгоритмов.
Дается общая характеристика механизмов передачи данных,
проводится анализ трудоемкости основных операций обмена
информацией, рассматриваются методы логического представления
структуры многопроцессорных вычислительных систем
Ключевые слова: алгоритмы маршрутизации, адаптивного алгоритма, методы передачи данных, операции передачи данных, ПО, прямой, гиперкуб, топология, размер сообщения, значение, переменная, размерность, прием сообщений на каждом процессоре от всех процессоров сети, задача редукции, матричные вычисления, операция циклического сдвига, сеть, передача данных, TCP/IP, операции, размер пакета, Windows, fast, Ethernet, байт, латентность, анализ, оценка трудоемкости коммуникационных операций, IBM, PC, MPI, погрешность, сети передачи данных, передача данных от одного процессора всем остальным процессорам сети, передача данных от всех процессоров всем процессорам сети, затраты, точность, топология сети передачи данных
3.1. Общая характеристика механизмов передачи данных
3.1.1. Алгоритмы маршрутизации
Алгоритмы маршрутизации определяют путь передачи данных от процессора – источника сообщения до процессора, к которому сообщение должно быть доставлено. Среди возможных способов решения данной задачи различают:
- оптимальные, определяющие всегда наикратчайшие пути передачи данных, и неоптимальные алгоритмы маршрутизации ;
- детерминированные и адаптивные методы выбора маршрутов (адаптивные алгоритмы определяют пути передачи данных в зависимости от существующей загрузки коммуникационных каналов).
К числу наиболее распространенных оптимальных алгоритмов относится класс методов покоординатной маршрутизации ( dimension-ordered routing ), в которых поиск путей передачи данных осуществляется поочередно для каждой размерности топологии сети коммуникации. Так, для двумерной решетки такой подход приводит к маршрутизации, при которой передача данных сначала выполняется по одному направлению (например, по горизонтали до достижения вертикали, на которой располагается процессор назначения), а затем данные передаются вдоль другого направления (данная схема известна под названием алгоритма XY-маршрутизации ).
Для гиперкуба покоординатная схема маршрутизации может состоять, например, в циклической передаче данных процессору, определяемому первой различающейся битовой позицией в номерах процессоров — того, на котором сообщение располагается в данный момент времени, и того, на который оно должно быть передано.
3.1.2. Методы передачи данных
Время передачи данных между процессорами определяет коммуникационную составляющую ( communication latency ) длительности выполнения параллельного алгоритма в многопроцессорной вычислительной системе. Основной набор параметров, описывающих время передачи данных, состоит из следующего ряда величин:
- время начальной подготовки ( tн ) характеризует длительность подготовки сообщения для передачи, поиска маршрута в сети и т. п.;
- время передачи служебных данных ( tс ) между двумя соседними процессорами (т.е. для процессоров, между которыми имеется физический канал передачи данных). К служебным данным может относиться заголовок сообщения, блок данных для обнаружения ошибок передачи и т. п.;
- время передачи одного слова данных по одному каналу передачи данных ( tк ). Длительность подобной передачи определяется полосой пропускания коммуникационных каналов в сети.
К числу наиболее распространенных методов передачи данных относятся два основных способа коммуникации (см., например, [51]). Первый из них ориентирован на передачу сообщений ( метод передачи сообщений или МПС ) как неделимых (атомарных) блоков информации ( store-and-forward routing или SFR ). При таком подходе процессор, содержащий сообщение для передачи, готовит весь объем данных для передачи, определяет процессор, которому следует направить данные, и запускает операцию пересылки данных. Процессор, которому направлено сообщение, в первую очередь осуществляет прием полностью всех пересылаемых данных и только затем приступает к пересылке принятого сообщения далее по маршруту. Время пересылки данных tпд для метода передачи сообщения размером m байт по маршруту длиной l определяется выражением:
 |
( 3.1) |
При достаточно длинных сообщениях временем передачи служебных данных можно пренебречь и выражение для времени передачи данных может быть записано в более простом виде:
 |
( 3.2) |
Второй способ коммуникации основывается на представлении пересылаемых сообщений в виде блоков информации меньшего размера – пакетов, в результате чего передача данных может быть сведена к передаче пакетов ( метод передачи пакетов или МПП ). При таком методе коммуникации ( cut-through routing или CTR ) принимающий процессор может осуществлять пересылку данных по дальнейшему маршруту непосредственно сразу после приема очередного пакета, не дожидаясь завершения приема данных всего сообщения. Время пересылки данных при использовании метода передачи пакетов определяется выражением:
 |
( 3.3) |
Сравнивая полученные выражения, можно заметить, что в большинстве случаев метод передачи пакетов приводит к более быстрой пересылке данных; кроме того, данный подход снижает потребность в памяти для хранения пересылаемых данных при организации приема-передачи сообщений, а для передачи пакетов могут использоваться одновременно разные коммуникационные каналы. С другой стороны, реализация пакетного метода требует разработки более сложного аппаратного и программного обеспечения сети, может увеличить накладные расходы (время подготовки и время передачи служебных данных). Кроме того, при передаче пакетов возможно возникновение конфликтных ситуаций (дедлоков).
