69296

Багатопроцесорні та розподілені системи

Лекция

Информатика, кибернетика и программирование

У багатопроцесорних системах набір процесорів перебуває в одному корпусі та використовує спільну пам’ять а також периферійні пристрої. Типи багатопроцесорних систем Залежно від особливостей апаратної реалізації багатопроцесорні системи бувають такі: з однорідним доступом до пам’яті...

Украинкский

2014-10-02

54.5 KB

21 чел.

Лекція № 23

Тема: Багатопроцесорні та розподілені системи

План

  1.  Типи багатопроцесорних систем
  2.  Підтримка багатопроцесорності в операційних системах
  3.  Продуктивність багатопроцесорних систем

Сьогодні є два основні підходи до збільшення обчислювальної потужності комп'ютерних систем. Перший з них пов'язаний із підвищенням тактової частоти процесора. При цьому у розробників виникають технологічні проблеми, які пов'язані з необхідністю організовувати охолодження процесорів і тим, що швидкість поширення сигналів обмежена. Крім того, єдиний процесор системи є її «вузьким місцем» у надійності — його вихід із ладу призводить до неминучого краху всієї системи. Альтернативним підходом, про який ітиметься в цьому розділі, є організація паралельних обчислень на кількох процесорах. З одного боку, внаслідок збільшення кількості процесорів можна досягти більшої потужності, ніж доступна на цей момент для однопроцесорних систем. З іншого, такі системи мають більшу стійкість до збоїв — у разі виходу одного із процесорів із ладу на його місці можна використати інший.

Як було зазначено в розділі 1, можна виділити дві основні категорії систем, що використовують кілька процесорів. У багатопроцесорних системах набір процесорів перебуває в одному корпусі та використовує спільну пам'ять (а також периферійні пристрої). У розподілених системах процесори перебувають у складі окремих комп'ютерів, з'єднаних мережею. Паралельні обчислення організовані на базі спеціального програмного забезпечення, що приховує наявність мережі від користувачів системи.

Багатопроцесорні системи

Тут зупинимося на основних типах багатопроцесорних систем і особливостях їхньої підтримки в сучасних ОС на прикладі Linux і Windows XP.

Типи багатопроцесорних систем

Залежно від особливостей апаратної реалізації, багатопроцесорні системи бувають такі:

з однорідним доступом до пам'яті або UMA-системи (Uniform Memory Access), у яких доступ до будь-якої адреси у пам'яті здійснюється з однаковою швидкістю;

з неоднорідним доступом до пам'яті або NUMA-системи (Non-Uniform Memory Access), для яких це не виконується.

Однорідний доступ до пам'яті

Архітектура UMA-систем передбачає, що доступ будь-якого процесора до будь-якого модуля пам'яті відбувається однаково. Найпоширенішим підходом до реалізації такої системи є архітектура зі спільною шиною, коли всі процесори і модулі пам'яті з'єднані між собою спільною шиною пам'яті. У разі необхідності отримати доступ до пам'яті процесор перевіряє, чи не зайнята шина, і, якщо вона вільна, виконує фізичний доступ за заданою адресою.

Якщо шина зайнята, процесор чекає, поки вона не звільниться. Необхідність такого очікування є головним недоліком базової архітектури зі спільною шиною. Кількість процесорів, які можна використати в цій архітектурі, невелика (від 2 до 4).

Найпоширенішим способом зменшення часу очікування на спільній шині є оснащення кожного процесора власним апаратним кешем досить великого обсягу. При цьому, якщо відбувається вдале звертання до кеша, доступ до шини не потрібен. Навантаження на шину знижується, отже, у системі може підтримуватися більша кількість процесорів.

У цьому разі, однак, виникає інша проблема, пов'язана із необхідністю підтримки когерентності кеша (cache coherence) — погодженості даних, які перебувають у кешах різних процесорів.

Роз'яснимо це поняття. Є ймовірність, що одна й та саме ділянка пам'яті (наприклад, яка відповідає деякій структурі даних) буде одночасно збережена в кешах кількох процесорів. Розглянемо ситуацію, коли код одного з потоків змінює цю структуру даних. У результаті зміниться вміст основної пам'яті та кеш процесора, на якому виконувався цей потік. Вміст кешів інших процесорів при цьому залишиться незмінним і перестане відповідати даним, які перебувають в основній пам'яті, — кеш втратить когерентність.

Забезпечення когерентності кеша спричиняє зниження продуктивності. Необхідно, аби процесор, що змінює дані в пам'яті, передавав шиною спеціальний сигнал, який сповіщає інші процесори про цю зміну. У разі отримання сигналу кожен процесор, який визначив, що він кешував ті ж самі дані, має вилучити їх із кеша (зробити перехресне очищення кеша, cross invalidation). Періодичні звертання процесорів до шини для виявлення сигналу і перехресне очищення кеша займають багато часу. Крім того, підвищується ймовірність промаху під час доступу до кеша.

Незважаючи на ці проблеми, UMA-архітектуру із когерентним кешем широко використовують на практиці.

Неоднорідний доступ до пам'яті

Реалізація когерентного кеша не вирішує всіх проблеми, пов'язаних із наявністю спільної шини в UMA-архітектурі. Для створення багатопроцесорних систем, які розраховані на значну кількість процесорів (більше ніж 100) і матимуть можливість подальшого масштабування, потрібно використати неоднорідний доступ до пам'яті (NUMA-архітектуру).

В NUMA-архітектурі із кожним процесором пов'язують його власну локальну пам'ять. Єдиний для всіх процесорів адресний простір при цьому збережено -кожен процесор у системі може одержати доступ до локальної пам'яті будь-якого іншого процесора, але доступ до такої віддаленої пам'яті відбувається повільніше, ніж до локальної.

Фактично NUMA-система складається з набору вузлів (nodes), кожен із яких містить один або кілька процесорів та мікросхеми їхньої локальної пам'яті (а також, можливо, засоби введення-виведення). Вузли з'єднані між собою спільною шиною. Очевидно, що доступ до локальної пам'яті не вимагає звертання до шини, внаслідок чого навантаження на неї значно знижується. Крім того, звичайно організовують когерентний кеш для операцій доступу до цієї шини (системи із таким кешем називають CC-NUMACache-Coherent NUMA).

Підтримка багатопроцесорності в операційних системах

Розглянемо підходи до реалізації підтримки багатопроцесорності в ОС на програмному рівні.

Асиметрична багатопроцесорність

У разі використання асиметричної багатопроцесорності кожен процесор виконує код операційної системи незалежно від інших процесорів. Кожна копія ОС може бути завантажена в окрему ділянку пам'яті, можливе також спільне використання коду ОС різними процесорами з виділенням окремих ділянок пам'яті для даних. Цей підхід було використано на ранніх стадіях розвитку підтримки багатопроцесорних архітектур в ОС. Наведемо його недоліки.

♦ Усі процеси користувача деякої копії ОС виконуються на тому самому процесорі, що й сама копія. Немає можливості організувати паралельне виконання коду в рамках окремого процесу, не можна вирівнювати навантаження на окремі процесори і на пам'ять.

♦ Неможливо організувати дисковий кеш через те, що копії ОС різних процесорів кепгуватимуть дискові блоки окремо. Якщо різні процесори одночасно модифікують один і той самий дисковий блок у кеші, а потім спробують зберегти ці зміни на диск, втратиться інформація, оскільки тільки одна з цих змін буде справді записана на диск.

Симетрична багатопроцесорність

Основним підходом, який застосовують нині для підтримки UMA-архітектур, є симетрична багатопроцесорність (SMP). У даному разі у спільну пам'ять завантажують єдину копію операційної системи і всіх її даних, при цьому її код може бути виконаний кожним із процесорів або кількома процесорами одночасно.

Особливості SMP-систем наведено нижче.

♦ Усі процесори системи доступні з коду ОС. Планувальник ОС може організувати виконання її коду або коду потоку користувача на будь-якому процесорі.

♦ Для всіх процесорів доступні спільні дані, при цьому когерентність кеша підтримується апаратно.

♦ Потоки користувача і потоки ядра можуть виконуватися паралельно на різних процесорах. Під час виконання потік може мігрувати із процесора на процесор.

♦ Спроба повторного читання одних і тих самих даних процесором CPUA може дати інший результат внаслідок того, що ці дані були змінені процесором CPUB.

♦ У системі можливе вирівнювання навантаження між процесорами, для чого планувальник ОС може передавати новий потік для виконання найменш завантаженому процесору.

♦ Додавання нового процесора у систему автоматично робить його доступним для виконання коду ОС або процесів користувача. При цьому навантаження на інші процесори автоматично знижується.

Для того щоб скористатися перевагами багатопроцесорної архітектури, код ОС має бути багатопотоковим і реентерабельним. При цьому необхідна підтримка синхронізації на рівні ядра.

Найпримітивнішим підходом до забезпечення синхронізації є велике блокування ядра (big kernel lock). При цьому кожен процесор перед виконанням будь-якого коду ОС займає глобальний м'ютекс. Цей підхід неефективний, оскільки в конкретний момент часу код ОС може бути виконаний тільки на одному процесорі.

Сучасні ОС реалізують гнучкіший підхід, у якому код ядра розбивають на незалежні критичні ділянки, із кожною з яких пов'язують окремий м'ютекс.

Підтримка NUMA-архітектур

ОС, що підтримує NUMA-архітектуру, має прагнути до підвищення продуктивності внаслідок планування потоків для виконання на процесорах, що перебувають у тих самих вузлах, що і пам'ять, використовувана цими потоками. Природно, що повністю уникнути звертань до віддаленої пам'яті неможливо, але їхня кількість має бути мінімальною.

Звичайно для організації більш якісного планування у системі підтримують структуру даних, що описує топологію конкретної NUMA-системи (вузли, їхні характеристики і зв'язки між ними). Крім того, мають бути передбачені системні виклики, що дають змогу задавати вузли, на яких виконуватиметься потік.

Продуктивність багатопроцесорних систем

Масштабування навантаження

Під масштабуванням навантаження (workload scalability) у SMP-системах розуміють вплив додавання нових процесорів на продуктивність системи. У реальних умовах воно залежить від багатьох факторів.

♦ У разі збільшення кількості процесорів зростає навантаження на системну шину та пам'ять і, як наслідок, ціна промаху кеша.

♦ Кількість промахів кеша при цьому теж збільшується внаслідок того, що в системі збільшено кількість потоків, які потрібно планувати.

♦ Що більше процесорів, то більше зусиль потрібно докладати для забезпечення когерентності кеша.

♦ Кількість блокувань у системі зростає із ростом кількості процесорів.
Найбільший рівень "масштабування навантаження досягають для потоків, об
межених можливостями процесора, найменший — для потоків, обмежених мож
ливостями пристроїв введення-виведення.

Продуктивність окремих застосувань

Розглянемо, яким чином впливає наявність кількох процесорів на час виконання програмного коду.

Багатопроцесорність дає змогу поліпшити характеристики програми тільки тоді, коли в ній наявний паралелізм (як було зазначено в розділі 3.2, за умов бага-топроцесорності може бути реалізовано справжній паралелізм, коли окремі частини програми виконуються одночасно кількома процесорами). При цьому для того щоб ОС мала можливість організувати такий паралелізм, код програми має бути багатопотоковим. Якщо програма не використовує багатопотоковість, її виконання у багатопроцесорній системі може спричинити зниження продуктивності через очікування на додаткових блокуваннях і міграцію між процесорами.

Крім того, навіть якщо програма є багатопотоковою, максимальне поліпшення її продуктивності обмежене відповідно до закону Амдала

де S — виграш у швидкості виконання; Т— загальний обсяг коду, Гпосл — обсяг коду, що не може бути виконаний паралельно, п — кількість процесорів.

Питання для самоконтролю:

  1.  Типи багатопроцесорних систем
  2.  Однорідний доступ до пам’яті
  3.  Неоднорідний доступ до пам’яті
  4.  Асиметрична багатопроцесорність
  5.  Симетрична багатопроцесорність
  6.  Особливості SMP-систем
  7.  Підтримка NUMA-архітектур
  8.  Масштабування навантаження
  9.  Продуктивність окремих застосувань


 

А также другие работы, которые могут Вас заинтересовать

71100. Человек как элемент эргатической системы. Понятие риска. Управление риском 344.5 KB
  Антропометрические характеристики определяются размерами тела человека и его отдельных частей и используются для проектирования наиболее рациональных условий труда. Они позволяют рассчитывать пространственную организацию рабочего места, устанавливать зоны досягаемости и видимости, конструктивные параметры рабочего места...
71101. ПРОИЗВОДСТВЕННОЕ ОСВЕЩЕНИЕ 82.5 KB
  Через зрительный анализатор (ЗА) к нам поступает большая часть информации об окружающем мире. Зрительная работоспособность, производительность труда тесно связаны с рациональным производственным освещением. Свет оказывает влияние на эмоциональное состояние человека...
71102. ПСИХОЛОГИЯ ЛИЧНОСТИ 135.66 KB
  Соотношение индивидуальности и личности определяется тем что это два способа бытия человека два его различных определения. Несовпадение же этих понятий проявляется в частности в том что существуют два отличающихся процесса становления личности и индивидуальности.
71103. Специфика и сущность философского знания 25.64 KB
  Основные типы мировоззрения: Миф это самая древняя форма мировоззрения на уровне мироощущения и миропонимания которая характеризуется символическим фантастическо-образным целостным представлением о природе обществе и человеке.
71105. Средневековая философия (IV-XIV вв.) 32.5 KB
  Квинт Септимий Тертуллиан из Карфагена (160-240) – Платона, Аристотеля, Эпикура, Гераклита, Эмпедокла и других мыслителей античности Тертуллиан считает “патриархами еретиков”. Следовательно, все кто ищет истину на путях, пройденных античной философией, попадает...
71106. Философия эпохи Возрождения (XIV-XVI вв.) 43.27 KB
  Философия эпохи Возрождения – совокупность философских направлений, возникших и развивавшихся в Европе в XIV-XVI вв., которые объединяли антицерковная и антисхоластическая направленность, устремленность к человеку, вера в его великий физический и духовный потенциал...
71107. Философия Нового времени (XVII-XVIII вв.) 43.37 KB
  Развернутая критика средневековой схоластики – если в средние века вера возвышается над разумом, то теперь речь идет о развитии разума, независимо от веры. В таком виде разум оказывается уже орудием не богословов, а ученых.
71108. Философия эпохи Просвещения (18 век, Франция) 23.43 KB
  Основные черты философии: Радикализм - радикальная критика того состояния, в котором находилось общественная жизнь и мысль Франции 18 века. Просвещение – задача просветить народные массы, очистить их сознание от предрассудков, которые мешали освободиться от устаревших феодальных порядков.