4267

Состав NVIDIA CUDA. Модель программирования CUDA

Контрольная

Информатика, кибернетика и программирование

Состав NVIDIA CUDA CUDA включает два API: высокого уровня (CUDA Runtime API) и низкого (CUDA Driver API), хотя в одной программе одновременное использование обоих невозможно, нужно использовать или один или другой. Высокоуровневый работает «сверху» ...

Русский

2012-11-15

118.94 KB

24 чел.

Состав NVIDIA CUDA

CUDA включает два API: высокого уровня (CUDA Runtime API) и низкого (CUDA Driver API), хотя в одной программе одновременное использование обоих невозможно, нужно использовать или один или другой. Высокоуровневый работает «сверху» низкоуровневого, все вызовы runtime транслируются в простые инструкции, обрабатываемые низкоуровневым Driver API. Но даже «высокоуровневый» API предполагает знания об устройстве и работе видеочипов NVIDIA, слишком высокого уровня абстракции там нет. 

Есть и ещё один уровень, даже более высокий — две библиотеки:

CUBLAS CUDA вариант BLAS (Basic Linear Algebra Subprograms), предназначенный для вычислений задач линейной алгебры и использующий прямой доступ к ресурсам GPU;

CUFFT — CUDA вариант библиотеки Fast Fourier Transform для расчёта быстрого преобразования Фурье, широко используемого при обработке сигналов. Поддерживаются следующие типы преобразований: complex-complex (C2C), real-complex (R2C) и complex-real (C2R).

Модель программирования CUDA

CUDA использует параллельную модель вычислений, когда каждый из SIMD процессоров выполняет ту же инструкцию над разными элементами данных параллельно. GPU является вычислительным устройством, сопроцессором (device) для центрального процессора (host), обладающим собственной памятью и обрабатывающим параллельно большое количество потоков. Ядром (kernel) называется функция для GPU, исполняемая потоками (аналогия из 3D графики — шейдер).

Мы говорили выше, что видеочип отличается от CPU тем, что может обрабатывать одновременно десятки тысяч потоков, что обычно для графики, которая хорошо распараллеливается. Каждый поток скалярен, не требует упаковки данных в 4-компонентные векторы, что удобнее для большинства задач. Количество логических потоков и блоков потоков превосходит количество физических исполнительных устройств, что даёт хорошую масштабируемость для всего модельного ряда решений компании.

Модель программирования в CUDA предполагает группирование потоков. Потоки объединяются в блоки потоков (thread block) — одномерные или двумерные сетки потоков, взаимодействующих между собой при помощи разделяемой памяти и точек синхронизации. Программа (ядро, kernel) исполняется над сеткой (grid) блоков потоков (thread blocks), см. рисунок ниже. Одновременно исполняется одна сетка. Каждый блок может быть одно-, двух- или трехмерным по форме, и может состоять из 512 потоков на текущем аппаратном обеспечении. 

Блоки потоков выполняются в виде небольших групп, называемых варп (warp), размер которых — 32 потока. Это минимальный объём данных, которые могут обрабатываться в мультипроцессорах. И так как это не всегда удобно, CUDA позволяет работать и с блоками, содержащими от 64 до 512 потоков. Кеплер позволяет определять на 1 варп до 2048 потоков.

Модель памяти CUDA

Модель памяти в CUDA отличается возможностью побайтной адресации, поддержкой как gather, так и scatter. Доступно довольно большое количество регистров на каждый потоковый процессор, до 1024 штук. Доступ к ним очень быстрый, хранить в них можно 32-битные целые или числа с плавающей точкой.

Каждый поток имеет доступ к следующим типам памяти: 

Глобальная память — самый большой объём памяти, доступный для всех мультипроцессоров на видеочипе, размер составляет от 256 мегабайт до 1.5 гигабайт на текущих решениях (и до 4 Гбайт на Tesla). Обладает высокой пропускной способностью, более 100 гигабайт/с для топовых решений NVIDIA, но очень большими задержками в несколько сот тактов. Не кэшируется, поддерживает обобщённые инструкции load и store, и обычные указатели на память.

Локальная память — это небольшой объём памяти, к которому имеет доступ только один потоковый процессор. Она относительно медленная — такая же, как и глобальная.

Разделяемая память — это 16-килобайтный (в видеочипах нынешней архитектуры) блок памяти с общим доступом для всех потоковых процессоров в мультипроцессоре. Эта память весьма быстрая, такая же, как регистры. Она обеспечивает взаимодействие потоков, управляется разработчиком напрямую и имеет низкие задержки. Преимущества разделяемой памяти: использование в виде управляемого программистом кэша первого уровня, снижение задержек при доступе исполнительных блоков (ALU) к данным, сокращение количества обращений к глобальной памяти.

Память констант — область памяти объемом 64 килобайта (то же — для нынешних GPU), доступная только для чтения всеми мультипроцессорами. Она кэшируется по 8 килобайт на каждый мультипроцессор. Довольно медленная — задержка в несколько сот тактов при отсутствии нужных данных в кэше.

Текстурная память — блок памяти, доступный для чтения всеми мультипроцессорами. Выборка данных осуществляется при помощи текстурных блоков видеочипа, поэтому предоставляются возможности линейной интерполяции данных без дополнительных затрат. Кэшируется по 8 килобайт на каждый мультипроцессор. Медленная, как глобальная — сотни тактов задержки при отсутствии данных в кэше.

Естественно, что глобальная, локальная, текстурная и память констант — это физически одна и та же память, известная как локальная видеопамять видеокарты. Их отличия в различных алгоритмах кэширования и моделях доступа. Центральный процессор может обновлять и запрашивать только внешнюю память: глобальную, константную и текстурную. 

CUDA предполагает специальный подход к разработке, не совсем такой, как принят в программах для CPU. Нужно помнить о разных типах памяти, о том, что локальная и глобальная память не кэшируется и задержки при доступе к ней гораздо выше, чем у регистровой памяти, так как она физически находится в отдельных микросхемах.

Типичный, но не обязательный шаблон решения задач:

  1.  задача разбивается на подзадачи;
  2.  входные данные делятся на блоки, которые вмещаются в разделяемую память;
  3.  каждый блок обрабатывается блоком потоков;
  4.  подблок подгружается в разделяемую память из глобальной;
  5.  над данными в разделяемой памяти проводятся соответствующие вычисления;
  6.  результаты копируются из разделяемой памяти обратно в глобальную.

Парадигма программирования подразумевает под собой не только тип программирования, но и среду разработки. В последнее время стали пользоваться огромной популярностью мобильные телефоны. А они соответственно имеют свою ОС. Наиболее известные – Symbian, WM, Android, IOS.

Каждая из этих ОС имеет свою среду разработки, на которых подробнее мы останавливаться не будем.

Рассмотрим еще одно направление программирования для ПК с точки зрения среды разработки – WPF.

Windows Presentation Foundation (WPF) — система для построения клиентских приложений Windows с визуально привлекательными возможностями взаимодействия с пользователем, графическая (презентационная) подсистема в составе .NET Framework (начиная с версии 3.0), использующая язык XAML.

WPF предустановлена в Windows Vista(.NET Framework 3.0) и Windows 7(.NET Framework 3.5 SP1). С помощью WPF можно создавать широкий спектр как автономных, так и запускаемых в браузере приложений.

 WPF позволяет расширить возможности программиста и дизайнера вместе с помощью продукта от MicrosoftBlend. Это ПО позволяет создавать XAML одинаковый как для программиста, так и для дизайнера. Больше нет этого сложного перехода.

Основные преимущества WPF:

  1.  Декларативное определение UI – XAML
  2.  Вовлечение дизайнеров
  3.  Универсальный подход работы с любыми медиа-источниками
  4.  Векторная отрисовка
  5.  Аппаратное ускорение
  6.  3D
  7.  Легкость разворачивания

Главной, на мой взгляд, особенностью является то, что именно за WPF будущее программирования. В современных условиях у этой технологии есть один важный плюс – ориентированность на пользователя. Выделяется эта технология тем, что она вполне внедрима как в WinForm, так и WinForm внедрима в нее. Впредь эта технология будет расширяться и внедряться в массы.


 

А также другие работы, которые могут Вас заинтересовать

40217. Состав и размеры нематериальных активов. аморти-зация нематериальных активов 30 KB
  Состав и размеры нематериальных активов. амортизация нематериальных активов. Оценка нематериальных активов необходима при: совершении сделки куплипродажи нематериальных активов; внесении нематериальных активов в уставный капитал предприятия и определении имущественных долей учредителей приходящихся на них; страховании нематериальных активов; определении доли нематериальных активов в намеченных к реализации инвестиционных проектах; разработке бизнесплана и определении экономического эффекта от использования нематериальных активов;...
40218. Финансирование основных средств и нематериальных активов 25 KB
  Финансирование основных средств и нематериальных активов. Основные средства это материальные активы которые предприятие удерживает с целью использования их в процессе производства или снабжения товаров и услуг предоставления в аренду другим лицам или для осуществления административных функций ожидаемый срок полезного использования эксплуатации которых превышает один год или операционный цикл более года. На объемы потребности в капитале для финансирования основных средств и нематериальных активов влияют такие факторы: вид...
40219. Показатели оценки качества основных средств и эффективности их использования 30 KB
  Показатели оценки качества основных средств и эффективности их использования Анализ эффективности использования основных средств Основные средства это один из видов производственных ресурсов. Под запасами ресурсов понимается наличный объем ресурсов на отчетную дату по балансу под затратами текущие расходы ресурсов в частности по основным средствам амортизация. Обобщающим показателем эффективности использования основных средств является фондоотдача. При расчете фондоотдачи в стоимости основных средств учитываются собственные и...
40220. Капитальные вложении как способ воспроизводства основных фондов. Источники финансирования капиталь-ного строительства, виды, капитальных вложений 34 KB
  В мировой практике различают следующие виды инвестиций:реальные прямые инвестиции это вложение капитала непосредственно в средства производства;финансовые инвестиции вложения в ценные бумаги а также помещение капитала в банки;интеллектуальные инвестиции покупка лицензий патентов ноухау подготовка и переподготовка кадров.Источниками финансирования капитальных вложений являются:собственные финансовые ресурсы и внутрихозяйственные резервы;заемные финансовые средства;привлеченные финансовые средства получаемые от продажи акций паевых...
40221. Доходы организации сущность, виды, факторы, влияющие на их величину 30 KB
  Доходы организации сущность виды факторы влияющие на их величину. Факторы влияющие на величину доходов На величину дохода предприятия влияют как внутренние так и внешние факторы. Перечисленные факторы являются внешними так как они не зависят от деятельности предприятия но могут влиять на объем полученного дохода. Внутренние факторы это те факторы которые непосредственно зависят от деятельности сотрудников предприятия.
40222. Подходы к планированию выручки 26.5 KB
  На начальном этапе эксперты специалисты коммерческого отдела получают для изучения результаты анализа рынка сбыта. К тому же экспертные оценки будущих продаж могут оказаться несостоятельными в случае существенной перегруппировки рынка появления принципиально новых видов продукции и т. Сильная сторона в том что экспертные оценки могут с успехом применяться в отсутствие статистических данных о состоянии и динамике рынка накопленной истории продаж. Применение метода от достигнутого актуально для компаний со стабильной конъюнктурой рынка...
40223. Расходы организации состав и классификация 24.5 KB
  Расходы также классифицируются на четыре группы: расходы по обычным видам деятельности: себестоимость произведенных товаров продукции работ услуг и произведенные расходы сопутствующие поступлению выручки; операционные расходы: расходы связанные с предоставлением за плату во временное пользование активов и прав организации; расходы связанные с продажей выбытием и прочим списанием основных средств и иных активов; расходы связанные с участием в уставных капиталах других организаций; проценты уплаченные за пользование денежными...
40224. Систематизация и управление издержками производства 22.5 KB
  Соотношение отдельных элементов затрат себестоимости составляет структуру себестоимости. Постоянное влияние на нее оказывают следующие факторы: состояние экономики инфляционный процесс налоги; увеличение затрат на рекламу; поведение покупателей; уровень конкуренции с учетом качества сервиса предлагаемого конкурентами; состояние кредитноденежной и платежной дисциплины; совершенствование структуры управления; внедрение квалифицированного менеджмента. Систематическое определение и анализ структуры затрат на предприятии...
40225. Планирование затрат 29.5 KB
  Планирование затрат. В сущности планирование затрат является одним из основных методов управления как непосредственно производством так и общеэкономической деятельностью предприятия. Вопросы планирования затрат на производство и реализацию продукции работ услуг являются непростыми задачами как стратегического так и оперативного экономического анализа. Необходимость предъявления повышенных требований к организации учета затрат на производство и реализацию продукции обусловлена тем что от правильности и своевременности определения...