Лекция 5: Элементы оптимизации прикладных программ для Intel Xeon Phi. Intel C/C++ Compiler

Неявная схема работы с памятью в режиме offload

Вторым способом работы с сопроцессором является неявный режим, основанный на использовании ключевых слов – расширений языков C/C++ (не поддерживается языком Fortran). Основная идея неявной схемы состоит в использовании разделяемой между CPU и MIC памяти в рамках единого виртуального адресного пространства ( рис. 5.3).

увеличить изображение
Рис. 5.3. Неявная схема работы с памятью в режиме offload

Основным достоинством неявной схемы является возможность работы со сложными типами данных (возможность побитового копирования необязательна), размещаемыми в разделяемой памяти. При этом все операции по обмену такими данными берет на себя компилятор.

Для выделения участка разделяемой памяти динамически необходимо воспользоваться функциями:

• void *_Offload_shared_malloc(size_t size) ;
• void *_Offload_shared_aligned_malloc(size_t size, size_t alignment) ;

Удаление памяти выполняется соответственно с помощью функций:

• void _Offload_shared_free(void *p) ;
• void _Offload_shared_aligned_free(void *p) ;

Синхронизация данных в разделяемой памяти происходит в двух местах: в начале и в конце offload секции кода. Реально передаются только модифицированные данные. Если структура (или класс) в качестве одного из своих полей содержит указатель на данные в разделяемой памяти, что эти данные также будут синхронизированы автоматически.

Код сопроцессора может содержать стандартные методы синхронизации доступа к разделяемой памяти, такие как мьютексы, семафоры, критические секции и т.п.

Заметим, что неявная схема является частью расширения Intel Cilk Plus.

Ключевое слово _Cilk_shared используется для размещения переменных и функций в разделяемой памяти. Примеры его использования приведены в таблице 5.4.

 int _Cilk_shared f(int x)
{ return x + 1; } 

 _Cilk_shared int x = 0; 

 static _Cilk_shared int x; 

 class _Cilk_shared x {…}; 

 int _Cilk_shared *p; 

 int* _Cilk_shared p; 

 #pragma offload_attribute(push, target(mic))
…
#pragma offload_attribute(pop) 

Выполнение кода на сопроцессоре обеспечивается ключевым словом _Cilk_offload (таблица 5.5).

 x = _Cilk_offload func(y); 

 x = _Cilk_offload_to(card_num) func(y); 

 x = _Cilk_spawn _Cilk_offload func(y); 

 _Cilk_offload _Cilk_for(i=0; i<N; ++i)
{ a[i] = b[i] + c[i]; } 

Использование неявной схемы продемонстрируем на примере функции для вычисления числа Пи ( рис. 5.4).

В данном примере используется глобальная переменная pi, размещаемая в разделяемой памяти CPU и сопроцессора. Используется функция compute_pi(), объявленная как общая для CPU и MIC. При вызове указывается необходимость ее запуска на сопроцессоре, если это возможно.

увеличить изображение
Рис. 5.4. Вычисления числа Пи с использованием неявной схемы работы с памятью

Сравнение явной и неявной схемы работы с памятью

В таблице 6 приводятся основные моменты, на которые стоит обратить внимание при выборе той или иной схемы работы с памятью. Вкратце, неявная схема более удобна в использовании, а явная предоставляет больше возможностей для контроля и оптимизации.

Для обеих схем компилятор генерирует два типа бинарных кодов процессорную и сопроцессорную версию. Версия для CPU содержит все переменные и функции независимо от того, отмечены ли они offload директивами (ключевыми словами), или нет. Сопроцессорная версия содержит только функции и переменные, отмеченные как offload. Обе версии объединены в один исполняемый файл.