4267

Состав NVIDIA CUDA. Модель программирования CUDA

Контрольная

Информатика, кибернетика и программирование

Состав NVIDIA CUDA CUDA включает два API: высокого уровня (CUDA Runtime API) и низкого (CUDA Driver API), хотя в одной программе одновременное использование обоих невозможно, нужно использовать или один или другой. Высокоуровневый работает «сверху» ...

Русский

2012-11-15

118.94 KB

24 чел.

Состав NVIDIA CUDA

CUDA включает два API: высокого уровня (CUDA Runtime API) и низкого (CUDA Driver API), хотя в одной программе одновременное использование обоих невозможно, нужно использовать или один или другой. Высокоуровневый работает «сверху» низкоуровневого, все вызовы runtime транслируются в простые инструкции, обрабатываемые низкоуровневым Driver API. Но даже «высокоуровневый» API предполагает знания об устройстве и работе видеочипов NVIDIA, слишком высокого уровня абстракции там нет. 

Есть и ещё один уровень, даже более высокий — две библиотеки:

CUBLAS CUDA вариант BLAS (Basic Linear Algebra Subprograms), предназначенный для вычислений задач линейной алгебры и использующий прямой доступ к ресурсам GPU;

CUFFT — CUDA вариант библиотеки Fast Fourier Transform для расчёта быстрого преобразования Фурье, широко используемого при обработке сигналов. Поддерживаются следующие типы преобразований: complex-complex (C2C), real-complex (R2C) и complex-real (C2R).

Модель программирования CUDA

CUDA использует параллельную модель вычислений, когда каждый из SIMD процессоров выполняет ту же инструкцию над разными элементами данных параллельно. GPU является вычислительным устройством, сопроцессором (device) для центрального процессора (host), обладающим собственной памятью и обрабатывающим параллельно большое количество потоков. Ядром (kernel) называется функция для GPU, исполняемая потоками (аналогия из 3D графики — шейдер).

Мы говорили выше, что видеочип отличается от CPU тем, что может обрабатывать одновременно десятки тысяч потоков, что обычно для графики, которая хорошо распараллеливается. Каждый поток скалярен, не требует упаковки данных в 4-компонентные векторы, что удобнее для большинства задач. Количество логических потоков и блоков потоков превосходит количество физических исполнительных устройств, что даёт хорошую масштабируемость для всего модельного ряда решений компании.

Модель программирования в CUDA предполагает группирование потоков. Потоки объединяются в блоки потоков (thread block) — одномерные или двумерные сетки потоков, взаимодействующих между собой при помощи разделяемой памяти и точек синхронизации. Программа (ядро, kernel) исполняется над сеткой (grid) блоков потоков (thread blocks), см. рисунок ниже. Одновременно исполняется одна сетка. Каждый блок может быть одно-, двух- или трехмерным по форме, и может состоять из 512 потоков на текущем аппаратном обеспечении. 

Блоки потоков выполняются в виде небольших групп, называемых варп (warp), размер которых — 32 потока. Это минимальный объём данных, которые могут обрабатываться в мультипроцессорах. И так как это не всегда удобно, CUDA позволяет работать и с блоками, содержащими от 64 до 512 потоков. Кеплер позволяет определять на 1 варп до 2048 потоков.

Модель памяти CUDA

Модель памяти в CUDA отличается возможностью побайтной адресации, поддержкой как gather, так и scatter. Доступно довольно большое количество регистров на каждый потоковый процессор, до 1024 штук. Доступ к ним очень быстрый, хранить в них можно 32-битные целые или числа с плавающей точкой.

Каждый поток имеет доступ к следующим типам памяти: 

Глобальная память — самый большой объём памяти, доступный для всех мультипроцессоров на видеочипе, размер составляет от 256 мегабайт до 1.5 гигабайт на текущих решениях (и до 4 Гбайт на Tesla). Обладает высокой пропускной способностью, более 100 гигабайт/с для топовых решений NVIDIA, но очень большими задержками в несколько сот тактов. Не кэшируется, поддерживает обобщённые инструкции load и store, и обычные указатели на память.

Локальная память — это небольшой объём памяти, к которому имеет доступ только один потоковый процессор. Она относительно медленная — такая же, как и глобальная.

Разделяемая память — это 16-килобайтный (в видеочипах нынешней архитектуры) блок памяти с общим доступом для всех потоковых процессоров в мультипроцессоре. Эта память весьма быстрая, такая же, как регистры. Она обеспечивает взаимодействие потоков, управляется разработчиком напрямую и имеет низкие задержки. Преимущества разделяемой памяти: использование в виде управляемого программистом кэша первого уровня, снижение задержек при доступе исполнительных блоков (ALU) к данным, сокращение количества обращений к глобальной памяти.

Память констант — область памяти объемом 64 килобайта (то же — для нынешних GPU), доступная только для чтения всеми мультипроцессорами. Она кэшируется по 8 килобайт на каждый мультипроцессор. Довольно медленная — задержка в несколько сот тактов при отсутствии нужных данных в кэше.

Текстурная память — блок памяти, доступный для чтения всеми мультипроцессорами. Выборка данных осуществляется при помощи текстурных блоков видеочипа, поэтому предоставляются возможности линейной интерполяции данных без дополнительных затрат. Кэшируется по 8 килобайт на каждый мультипроцессор. Медленная, как глобальная — сотни тактов задержки при отсутствии данных в кэше.

Естественно, что глобальная, локальная, текстурная и память констант — это физически одна и та же память, известная как локальная видеопамять видеокарты. Их отличия в различных алгоритмах кэширования и моделях доступа. Центральный процессор может обновлять и запрашивать только внешнюю память: глобальную, константную и текстурную. 

CUDA предполагает специальный подход к разработке, не совсем такой, как принят в программах для CPU. Нужно помнить о разных типах памяти, о том, что локальная и глобальная память не кэшируется и задержки при доступе к ней гораздо выше, чем у регистровой памяти, так как она физически находится в отдельных микросхемах.

Типичный, но не обязательный шаблон решения задач:

  1.  задача разбивается на подзадачи;
  2.  входные данные делятся на блоки, которые вмещаются в разделяемую память;
  3.  каждый блок обрабатывается блоком потоков;
  4.  подблок подгружается в разделяемую память из глобальной;
  5.  над данными в разделяемой памяти проводятся соответствующие вычисления;
  6.  результаты копируются из разделяемой памяти обратно в глобальную.

Парадигма программирования подразумевает под собой не только тип программирования, но и среду разработки. В последнее время стали пользоваться огромной популярностью мобильные телефоны. А они соответственно имеют свою ОС. Наиболее известные – Symbian, WM, Android, IOS.

Каждая из этих ОС имеет свою среду разработки, на которых подробнее мы останавливаться не будем.

Рассмотрим еще одно направление программирования для ПК с точки зрения среды разработки – WPF.

Windows Presentation Foundation (WPF) — система для построения клиентских приложений Windows с визуально привлекательными возможностями взаимодействия с пользователем, графическая (презентационная) подсистема в составе .NET Framework (начиная с версии 3.0), использующая язык XAML.

WPF предустановлена в Windows Vista(.NET Framework 3.0) и Windows 7(.NET Framework 3.5 SP1). С помощью WPF можно создавать широкий спектр как автономных, так и запускаемых в браузере приложений.

 WPF позволяет расширить возможности программиста и дизайнера вместе с помощью продукта от MicrosoftBlend. Это ПО позволяет создавать XAML одинаковый как для программиста, так и для дизайнера. Больше нет этого сложного перехода.

Основные преимущества WPF:

  1.  Декларативное определение UI – XAML
  2.  Вовлечение дизайнеров
  3.  Универсальный подход работы с любыми медиа-источниками
  4.  Векторная отрисовка
  5.  Аппаратное ускорение
  6.  3D
  7.  Легкость разворачивания

Главной, на мой взгляд, особенностью является то, что именно за WPF будущее программирования. В современных условиях у этой технологии есть один важный плюс – ориентированность на пользователя. Выделяется эта технология тем, что она вполне внедрима как в WinForm, так и WinForm внедрима в нее. Впредь эта технология будет расширяться и внедряться в массы.


 

А также другие работы, которые могут Вас заинтересовать

47172. Ремонт поверхностей деталей. Способ дополнительных ремонтных деталей, способ замены части детали. Ремонт корпусных деталей 73.28 KB
  Способ дополнительных ремонтных деталей способ замены части детали. Ремонт корпусных деталей. В ремонтной практике применяют несколько способов восстановления деталей.
47173. Возникновение Австро-Венгрии 73.5 KB
  Административнотерриториальное деление Цислейтания земли австрийской короны королевства: Богемия Далмация Галиция и Лодомерия; эрцгерцогства: Нижняя Австрия Верхняя Австрия; герцоргства: Буковина Каринтия Крайна Зальцбург Штирия Верхняя и Нижняя Силезия; маркграфства Моравия Истрия; княжеские округа: Тироль Горица и Градишка; земля Форарльберг; Австрийское Приморье; город Триест Транслейтания земли венгерской короны королевства: Венгрия Хорватия и Славония; город Фиуме Босния и Герцеговина с 1908 года ...
47174. Информационное обеспечение менеджмента 73.5 KB
  Инвестиции: определение виды Инвестиции в объекты предпринимательской деятельности осуществляются в различных формах. По объектам вложения денежных средств выделяют реальные и финансовые инвестиции. Реальные инвестиции авансирование денег в материальные и нематериальные активы. Финансовые инвестиции вложения средств в ценные бумаги: долевые акции и долговые облигации.
47175. Ймовірність складних подій 73.5 KB
  Знайти: а імовірність того що деталь яку вилучили з третоьго ящика буде стандартною; б імовірність того що деталь яку вилучили з третього ящика належала першому ящику коли вона виявилась стандартною.93856 Задача 6 1 деталь 1 деталь а Для розв’язання цієї задачі скористаємося формулою повної ймовірності. Позначимо через А подію “з третього ящика вилучена стандартна детальâ€. Шукана ймовірність того що з третьої...
47177. Профессиональные объединения издателей. Международная роль ассоциаций. Специализированные ассоциации 74.5 KB
  Профессиональные объединения издателей На Западе ассоциации союзы занимают важное место в общей системе издательского дела. Вопросов которыми занимаются ассоциации издателей довольно много: осуществление связи с правительственными органами имеющими отношение к книгоизданию представительство интересов издательского дела как отрасли перед правительством; осуществление связей с книготорговой и полиграфической отраслями с профессиональными объединениями книготорговцев и полиграфистов; разработка юридических вопросов касающихся...
47178. КЛЕТКА КАК ОТКРЫТАЯ СИСТЕМА 74.5 KB
  Для поддержания сложной динамической структуры живой клетки требуется непрерывная затрата энергии. Так же энергия необходима для осуществления большинства функций клетки. Различают: Анаболизм ассимиляция – эндотермический процесс уподобления поступающих в клетку веществ веществам самой клетки.
47179. Субъекты и объекты природопользования 74.68 KB
  Бринчука 1 может выступать в двух основных качествах: а как возможный по закону обладатель такого права пользования и б как обладатель субъективного права пользования природными ресурсами носитель установленных законом прав и обязанностей который является субъектом правоотношений пользования землей ее недрами водами и лесами объектами животного мира и атмосферным воздухом. В качестве субъекта права общего природопользования выступают граждане Российской Федерации иностранцы и лиц без гражданства поскольку они обладает...