4267

Состав NVIDIA CUDA. Модель программирования CUDA

Контрольная

Информатика, кибернетика и программирование

Состав NVIDIA CUDA CUDA включает два API: высокого уровня (CUDA Runtime API) и низкого (CUDA Driver API), хотя в одной программе одновременное использование обоих невозможно, нужно использовать или один или другой. Высокоуровневый работает «сверху» ...

Русский

2012-11-15

118.94 KB

28 чел.

Состав NVIDIA CUDA

CUDA включает два API: высокого уровня (CUDA Runtime API) и низкого (CUDA Driver API), хотя в одной программе одновременное использование обоих невозможно, нужно использовать или один или другой. Высокоуровневый работает «сверху» низкоуровневого, все вызовы runtime транслируются в простые инструкции, обрабатываемые низкоуровневым Driver API. Но даже «высокоуровневый» API предполагает знания об устройстве и работе видеочипов NVIDIA, слишком высокого уровня абстракции там нет. 

Есть и ещё один уровень, даже более высокий — две библиотеки:

CUBLAS CUDA вариант BLAS (Basic Linear Algebra Subprograms), предназначенный для вычислений задач линейной алгебры и использующий прямой доступ к ресурсам GPU;

CUFFT — CUDA вариант библиотеки Fast Fourier Transform для расчёта быстрого преобразования Фурье, широко используемого при обработке сигналов. Поддерживаются следующие типы преобразований: complex-complex (C2C), real-complex (R2C) и complex-real (C2R).

Модель программирования CUDA

CUDA использует параллельную модель вычислений, когда каждый из SIMD процессоров выполняет ту же инструкцию над разными элементами данных параллельно. GPU является вычислительным устройством, сопроцессором (device) для центрального процессора (host), обладающим собственной памятью и обрабатывающим параллельно большое количество потоков. Ядром (kernel) называется функция для GPU, исполняемая потоками (аналогия из 3D графики — шейдер).

Мы говорили выше, что видеочип отличается от CPU тем, что может обрабатывать одновременно десятки тысяч потоков, что обычно для графики, которая хорошо распараллеливается. Каждый поток скалярен, не требует упаковки данных в 4-компонентные векторы, что удобнее для большинства задач. Количество логических потоков и блоков потоков превосходит количество физических исполнительных устройств, что даёт хорошую масштабируемость для всего модельного ряда решений компании.

Модель программирования в CUDA предполагает группирование потоков. Потоки объединяются в блоки потоков (thread block) — одномерные или двумерные сетки потоков, взаимодействующих между собой при помощи разделяемой памяти и точек синхронизации. Программа (ядро, kernel) исполняется над сеткой (grid) блоков потоков (thread blocks), см. рисунок ниже. Одновременно исполняется одна сетка. Каждый блок может быть одно-, двух- или трехмерным по форме, и может состоять из 512 потоков на текущем аппаратном обеспечении. 

Блоки потоков выполняются в виде небольших групп, называемых варп (warp), размер которых — 32 потока. Это минимальный объём данных, которые могут обрабатываться в мультипроцессорах. И так как это не всегда удобно, CUDA позволяет работать и с блоками, содержащими от 64 до 512 потоков. Кеплер позволяет определять на 1 варп до 2048 потоков.

Модель памяти CUDA

Модель памяти в CUDA отличается возможностью побайтной адресации, поддержкой как gather, так и scatter. Доступно довольно большое количество регистров на каждый потоковый процессор, до 1024 штук. Доступ к ним очень быстрый, хранить в них можно 32-битные целые или числа с плавающей точкой.

Каждый поток имеет доступ к следующим типам памяти: 

Глобальная память — самый большой объём памяти, доступный для всех мультипроцессоров на видеочипе, размер составляет от 256 мегабайт до 1.5 гигабайт на текущих решениях (и до 4 Гбайт на Tesla). Обладает высокой пропускной способностью, более 100 гигабайт/с для топовых решений NVIDIA, но очень большими задержками в несколько сот тактов. Не кэшируется, поддерживает обобщённые инструкции load и store, и обычные указатели на память.

Локальная память — это небольшой объём памяти, к которому имеет доступ только один потоковый процессор. Она относительно медленная — такая же, как и глобальная.

Разделяемая память — это 16-килобайтный (в видеочипах нынешней архитектуры) блок памяти с общим доступом для всех потоковых процессоров в мультипроцессоре. Эта память весьма быстрая, такая же, как регистры. Она обеспечивает взаимодействие потоков, управляется разработчиком напрямую и имеет низкие задержки. Преимущества разделяемой памяти: использование в виде управляемого программистом кэша первого уровня, снижение задержек при доступе исполнительных блоков (ALU) к данным, сокращение количества обращений к глобальной памяти.

Память констант — область памяти объемом 64 килобайта (то же — для нынешних GPU), доступная только для чтения всеми мультипроцессорами. Она кэшируется по 8 килобайт на каждый мультипроцессор. Довольно медленная — задержка в несколько сот тактов при отсутствии нужных данных в кэше.

Текстурная память — блок памяти, доступный для чтения всеми мультипроцессорами. Выборка данных осуществляется при помощи текстурных блоков видеочипа, поэтому предоставляются возможности линейной интерполяции данных без дополнительных затрат. Кэшируется по 8 килобайт на каждый мультипроцессор. Медленная, как глобальная — сотни тактов задержки при отсутствии данных в кэше.

Естественно, что глобальная, локальная, текстурная и память констант — это физически одна и та же память, известная как локальная видеопамять видеокарты. Их отличия в различных алгоритмах кэширования и моделях доступа. Центральный процессор может обновлять и запрашивать только внешнюю память: глобальную, константную и текстурную. 

CUDA предполагает специальный подход к разработке, не совсем такой, как принят в программах для CPU. Нужно помнить о разных типах памяти, о том, что локальная и глобальная память не кэшируется и задержки при доступе к ней гораздо выше, чем у регистровой памяти, так как она физически находится в отдельных микросхемах.

Типичный, но не обязательный шаблон решения задач:

  1.  задача разбивается на подзадачи;
  2.  входные данные делятся на блоки, которые вмещаются в разделяемую память;
  3.  каждый блок обрабатывается блоком потоков;
  4.  подблок подгружается в разделяемую память из глобальной;
  5.  над данными в разделяемой памяти проводятся соответствующие вычисления;
  6.  результаты копируются из разделяемой памяти обратно в глобальную.

Парадигма программирования подразумевает под собой не только тип программирования, но и среду разработки. В последнее время стали пользоваться огромной популярностью мобильные телефоны. А они соответственно имеют свою ОС. Наиболее известные – Symbian, WM, Android, IOS.

Каждая из этих ОС имеет свою среду разработки, на которых подробнее мы останавливаться не будем.

Рассмотрим еще одно направление программирования для ПК с точки зрения среды разработки – WPF.

Windows Presentation Foundation (WPF) — система для построения клиентских приложений Windows с визуально привлекательными возможностями взаимодействия с пользователем, графическая (презентационная) подсистема в составе .NET Framework (начиная с версии 3.0), использующая язык XAML.

WPF предустановлена в Windows Vista(.NET Framework 3.0) и Windows 7(.NET Framework 3.5 SP1). С помощью WPF можно создавать широкий спектр как автономных, так и запускаемых в браузере приложений.

 WPF позволяет расширить возможности программиста и дизайнера вместе с помощью продукта от MicrosoftBlend. Это ПО позволяет создавать XAML одинаковый как для программиста, так и для дизайнера. Больше нет этого сложного перехода.

Основные преимущества WPF:

  1.  Декларативное определение UI – XAML
  2.  Вовлечение дизайнеров
  3.  Универсальный подход работы с любыми медиа-источниками
  4.  Векторная отрисовка
  5.  Аппаратное ускорение
  6.  3D
  7.  Легкость разворачивания

Главной, на мой взгляд, особенностью является то, что именно за WPF будущее программирования. В современных условиях у этой технологии есть один важный плюс – ориентированность на пользователя. Выделяется эта технология тем, что она вполне внедрима как в WinForm, так и WinForm внедрима в нее. Впредь эта технология будет расширяться и внедряться в массы.


 

А также другие работы, которые могут Вас заинтересовать

42595. Метод измерения Рн прибором п-201 40.5 KB
  Цель работы: ознакомится с принципом действия и устройством промышленного Рнметра выполнить проверку ознакомится с устройством имитатора электронной системы. Схема собранная на преобразователе П201 назначение приборов П201 преобразовает сигнал с электродов Rt замеряет температуру среды И02 иммитаор для проверки преобразователя М325 Рнметр предел измерений от 2 до12 МСР63 блок сопротивлений Соединительная схема протокол поверки: порядок работы проверку проверку производят при нормальных условиях T20C влажность...
42596. Геометрии токарных резцов 175.5 KB
  Наименование резца: А тип резца проходной Б расположение главной режущей кромки правый В форма и расположение головки резца прямой Г способ крепления режущей части напайной 2 Наименование резца: А тип резца подрезной Б расположение главной режущей кромки правый В форма и расположение головки резца отогнутый Г способ крепления режущей части напайной Результаты измерений Измеряемые элементы Обозначение Величина ВК81 ВК8 Главный передний угол γ 750 20 Передний угол фаски γ _ _ Главный задний угол α 130 1650 Угол...
42597. Методологія розробки програмних продуктів та великих програмних систем 333.5 KB
  2010 18:00 77 Общий сбор scrum meeting 71.2010 9:00 78 Общий сбор scrum meeting 1 .2010 9:00 79 Общий сбор scrum meeting 2 .2010 9:00 80 Общий сбор scrum meeting 3 .
42598. Метод измерения Рн-прибором п-201с применением измерительных электродов 37 KB
  Березниковский филиал Пермского Государственного Технического Университета лабораторная работа №3 По курсу: методика автоматического анализа Тема: метод измерения Рнприбором п201с применением измерительных электродов Выполнил: студент гр. Цель работы: произвести измерение с помощью электродов сравнить данные с приборов с истинным значением сделать вывод. назначение приборов П201 преобразовывает сигнал с электродов Rt замеряет температуру среды М325...
42599. Изучение конструкции и геометрических параметров спиральных сверл 517 KB
  Угол наклона винтовой канавки а расчетный б по отпечатку в по угломеру ЛМТ ω1 ω2 ω3 280 270 270 9. Угол при вершине сверла Угол при режущей кромки 1 Угол при режущей кромки 2 2φ φ1 φ2 3440 34020 34020 11. Угол наклона поперечной режущей кромки: по угломеру ψ 5310 13. Главный задний угол в осевой плоскости: rx=09r rx=04r 108 48 16.
42600. ФИЗИОЛОГИЯ СОСУДИСТОЙ СИСТЕМЫ. КРОВЯНОЕ ДАВЛЕНИЕ И ПУЛЬС 220.37 KB
  Кровяное давление как основной показатель гемодинамики. Факторы, обуславливающие величину артериального и венозного давления. Методы исследования. Артериальный и венный пульс, их происхождение. Анализ сфигмограммы и флебограммы.
42601. Конструктивные элементы и геометрические параметры фрез 150.5 KB
  Фреза — инструмент с несколькими режущими лезвиями (зубьями) для фрезерования. Виды фрез по геометрии(исполнению) бывают — цилиндрические, торцевые, червячные, концевые, конические и др. Виды фрез по обрабатываемому материалу - дерево,сталь, чугун, нержавеющая сталь, закаленная сталь, медь, алюминий, графит. Материал режущей части — быстрорежущая сталь, твёрдый сплав, минералокерамика, металокерамика или алмаз, массив кардной проволоки.
42602. Классификация токарных резцов 82 KB
  Характеристика резцов Материал режущей части Назначение Форма и расположения головки Направления подачи Конструкция Характер обработки Форма передней поверхности 1 ВК 6 Проходной прямой левый Прямая Левое Напайная Черновая Плоская с положительным передним углом 2 ВК 8 Подрезной торцевой левый Прямая Левое Напайная Черновая Плоская с положительным передним углом 3 ВК 8 Подрезной торцевой левый Отогнутая Левое Напайная Черновая Плоская с положительным передним углом 4 Проходной прямой левый Отогнутая Правое Цельная Черновая Плоская с...
42603. Формы в HTML-документах 80 KB
  enctype Атрибут указывающий способ кодирования содержимого формы для передачи программеобработчику. type Атрибут type определяет вид элемента INPUT. Значения атрибута type элемента INPUT: type= text по умолчанию Создание поля ввода в котором можно сразу после загрузки страницы разместить произвольный текст используя атрибут vlue. Например INPUT nme= T1 vlue= Родион type= pssword Создание поля для ввода пароля.