Системы с массовой параллельной обработкой
Синонимы: Системы с массовой параллельной обработкой; MPP; MPP-системы;Система с массовой параллельной обработкой (МРР, Massively Parallel Processing) - система, состоящая из однородных вычислительных узлов, обладающих всеми средствами для независимого функционирования. В MPP-архитектуре реализована модель распределенной памяти.
Основные причины появления систем с массовой параллельной обработкой - это, во-первых, необходимость построения ВС с гигантской производительностью и, во-вторых, стремление раздвинуть границы производства ВС в большом диапазоне производительности и стоимости. Для МРР-системы, в которой количество вычислительных узлов может меняться в широких пределах, всегда реально подобрать конфигурацию с заранее заданной вычислительной мощностью и финансовыми вложениями.
МРР-система состоит из множества однородных вычислительных узлов, число которых может исчисляться тысячами. Узел содержит полный комплекс устройств, необходимых для независимого функционирования (процессор, память, подсистему ввода/вывода, коммуникационное оборудование), то есть, по сути, является полноценной вычислительной машиной. Узлы объединены коммуникационной сетью с высокой пропускной способностью и малыми задержками.
Работу узлов МРР-системы координирует главная управляющая вычислительная машина (хост-компьютер). Это может быть отдельная ВМ, как, например, в Cray T3D, или один из узлов системы. В последнем случае функции главной ВМ возлагаются на какой-то определенный узел ВС (в течение всего сеанса вычислений). В SMP-системе особые полномочия одному из ПЭ придаются только на время загрузки системы, после чего он опять становится равноправным элементом системы.
Если система содержит выделенный хост-компьютер, то полноценная операционная система (ОС) функционирует только на нем, а на узлы устанавливается ее урезанный вариант, поддерживающий лишь функции ядра ОС. При отсутствии главной ВМ полноценная ОС устанавливается на каждый узел МРР-системы. Таким образом, каждый узел функционирует под управлением собственной операционной системы.
Хост-компьютер (или его заменитель из числа узлов) распределяет задания между множеством подчиненных ему узлов. Схема взаимодействия в общих чертах довольно проста:
- хост-компьютер формирует очередь заданий, каждому из которых назначается некоторый уровень приоритета;
- по мере освобождения узлов им передаются задания из очереди;
- узлы оповещают хост-компьютер о ходе выполнения задания; в частности о завершении выполнения или о потребности в дополнительных ресурсах;
- у хост-компьютера имеются средства для контроля работы подчиненных процессоров, в том числе для обнаружения нештатных ситуаций, прерывания выполнения задания в случае появления более приоритетной задачи и т.п.
В некотором приближении имеет смысл считать, что на главной ВМ выполняется ядро операционной системы (планировщик заданий), а на подчиненных ей узлах - приложения. Подчиненность может быть реализована как на аппаратном, так и на программном уровне.
Процессоры в узлах имеют доступ только к своей локальной памяти. Для доступа к памяти другого узла пара узлов (клиент и «сервер») должна обменяться сообщениями. Такой режим исключает возможность конфликтов, возникающих в разделяемой памяти при одновременном обращении к ней со стороны нескольких процессоров. Снимается также проблема когерентности кэш-памяти. Как следствие, появляется возможность наращивания количества процессоров до нескольких тысяч. По этой причине основным признаком, по которому вычислительную систему относят к МРР-типу, часто служит количество процессоров n. Строгой границы не существует, но обычно при n ≥ 128 считается, что это уже МРР. На самом деле, отличительной чертой МРР является ее архитектура, позволяющая добиться высочайшей производительности. Благодаря свойству масштабируемости МРР-системы являются сегодня лидерами по достигнутой производительности.
Так, список наиболее производительных ВС на конец 2009 года возглавляла МРР-система Jaguar Cray ХТ5-НЕ с теоретической пиковой производительностью 2331 TFLOPS. Система состоит из 224 256 вычислительных ядер. Каждое ядро содержит два 6-ядерных процессора Opteron, 16GB памяти и маршрутизатор - сетевое устройство, обеспечивающее объединение узлов ВС и передачу сообщений по этой сети. Помимо системы Jaguar в десятку лидеров по производительности входят еще 5 вычислительных систем с архитектурой МРР.
Распараллеливание вычислений в МРР-системах является трудной задачей. Достаточно сложно найти задания, которые сумели бы эффективно загрузить множество вычислительных узлов. Сегодня не так уж много приложений могут эффективно выполняться на МРР-системе. Появляется также проблема переносимости программ между системами с различной архитектурой. Эффективность распараллеливания во многих случаях сильно зависит от деталей архитектуры МРР-системы, например топологии соединения вычислительных узлов.
Самой эффективной была бы топология, в которой любой узел мог бы напрямую связаться с любым другим узлом, но в ВС на основе МРР это технически нереализуемо. Если в первых МРР-компьютерах использовались топологии двухмерной решетки (SGI/Pyramid RM1000) и гиперкуба (nCube), то в современных наиболее масштабируемых и производительных ВС, например семействах XT (Cray) и Blue Gene/P (IBM), применяют трехмерный тор. Диаметр такой сети для различных моделей упомянутых систем лежит в диапазоне от 20 до 60, он существенно влияет на задержки в передаче сообщений. Когда множественные сообщения начинают разделять ресурсы сети, данный эффект (применительно к сообщениям большого размера) становится очевидным. Таким образом, при распределении задач по узлам ВС необходимо учитывать топологию системы.
Время передачи информации от узла к узлу зависит от стартовой задержки и скорости передачи. В любом случае, за время передачи процессорные узлы успевают выполнить много команд, и такое соотношение (быстродействия процессорных узлов и передающей системы), вероятно, будет сохраняться - прогресс в производительности процессоров гораздо весомее, чем в пропускной способности каналов связи. Поэтому инфраструктура каналов связи в МРР-системах является объектом наиболее пристального внимания разработчиков.
Слабым местом МРР является хост-компьютер - при выходе его из строя вся система оказывается неработоспособной. Повышение надежности главной ВМ лежит на путях упрощения аппаратуры хост-компьютера и/или ее дублирования.
Несмотря на все сложности, сфера применения ВС с массовым параллелизмом постоянно расширяется. Различные системы этого класса эксплуатируются во многих ведущих суперкомпьютерных центрах мира. Следует особенно отметить тот факт, что мировой лидер производства векторных ВС, компания Cray Research, уже не ориентируется исключительно на векторные системы, отдавая предпочтение МРР. На ноябрь 2009 года доля МРР-систем составляет 16,2%.
Главные особенности, по которым вычислительную систему причисляют к классу МРР, можно сформулировать следующим образом:- вычислительный узел обладает всеми средствами для независимого функционирования (стандартные микропроцессоры с кэш-памятью, локальная память, подсистема ввода/вывода);
- каждый узел содержит сетевой адаптер, используемый для объединения узлов;
- реализована модель распределенной памяти - доступ к памяти других узлов обеспечивается путем асинхронного обмена сообщениями;
- сеть соединений обычно проектируется под конкретную систему для обеспечения высокой пропускной способности и малых задержек;
- система хорошо масштабируется (до тысяч узлов);
- работа системы координируется главной ВМ (хост-компьютером) или одним из узлов, выполняющим роль главной ВМ;
- на каждом узле установлена операционная система или ее урезанный вариант, если имеется хост-компьютер с полноценной операционной системой;
- вычисления представляют собой множество процессов, имеющих отдельные адресные пространства.
Ключевые термины, связанные с термином "Системы с массовой параллельной обработкой":
- Blue Gene
- Cray T3D
- Cray T3E
- Cray X1
- Cray XT3
- Cray XT4
- Jaguar
- JUQUEEN
- Mira
- Sequoia
- Titan
- Vulcan
- Кластерные вычислительные системы
Литература
Основная:
- Цилькер Б.Я. Организация ЭВМ и систем : Учебник для вузов / Б.Я. Цилькер, С.А. Орлов. - 2-е изд. - СПб.: Питер, 2011. - 688 с. - ISBN 978-5-49807-862-5.
Ключевые термины (головные): Архитектура вычислительной машины; Классификация Флинна; MIMD-архитектура; Топология;
|Головная|
|Преподавание|
| Современные проблемы
информатики|
|Информатика|
|Ключевые термины|
|Персоны|
© 1998-2024, Новосибирский государственный университет, Новосибирск
© 1998-2024, Институт вычислительных технологий СО РАН, Новосибирск
© 1998-2024, Федотов А.М.
Дата последней модификации:
02.12.2013
![[SBRAS]](http://www.nsc.ru/gif/s_sigma.gif)