Новосибирский государственный университет Факультет информационных технологий

А.М.Федотов

Словарь-справочник по информатике (онтология информатики)

Параллельные вычислительные системы

Параллельные вычислительные системы - это физические компьютерные, а также программные системы, реализующие тем или иным способом параллельную обработку данных на многих вычислительных узлах.

В идеальном случае система из n процессоров могла бы ускорить вычисления в n раз. В реальности достичь такого показателя по ряду причин не удается. Главная из этих причин заключается в невозможности полного распараллеливания ни одной из задач. Как правило, в каждой программе имеется фрагмент кода, который принципиально должен выполняться последовательно и только одним из процессоров. Известные проблемы возникают и с той частью задачи, которая поддается распараллеливанию. Здесь идеальным был бы вариант, когда параллельные ветви программы постоянно загружали бы все процессоры системы, причем так, чтобы нагрузка на каждый процессор была одинакова. К сожалению, оба этих условия на практике трудно реализуемы. Таким образом, ориентируясь на параллельную ВС, необходимо четко сознавать, что добиться прямо пропорционального числу процессоров увеличения производительности не удастся, и, естественно, встает вопрос о том, на какое реальное ускорение можно рассчитывать. Ответ зависит от того, каким образом использовать вычислительные мощности ВС, возросшие в результате увеличения числа процессоров. Наиболее характерными являются три варианта:

• Объем вычислений не изменяется, а главная цель расширения ВС - сократить время вычислений. Достижимое в этом случае ускорение определяется законом Амдала.
• Время вычислений с расширением системы не меняется, но при этом увеличивается объем решаемой задачи. Цель такого подхода - за заданное время выполнить максимальный объем вычислений. Эту ситуацию характеризует закон Густафсона.
• Данный вариант похож на предыдущий, но с одним условием: увеличение объема решаемой задачи ограничено емкостью доступной памяти. Ускорение в такой формулировке определяет закон Сана и Ная.

Литература
• Gottlieb A. Almasi G.S. Highly parallel computing. - Redwood City, Calif.: Benjamin/Cummings, 1989.
• Цилькер Б.Я. Организация ЭВМ и систем: учебник для вузов / С.А. Орлов, Б.Я. Цилькер. - СПб.: Питер, 2011. - 688 с.

Ключевые термины, связанные с термином "Параллельные вычислительные системы":

1. Классификация параллельных вычислительных систем
2. Модель коллектива вычислителей

Литература

Основная:

1. Цилькер Б.Я. Организация ЭВМ и систем : Учебник для вузов / Б.Я. Цилькер, С.А. Орлов. - 2-е изд. - СПб.: Питер, 2011. - 688 с. - ISBN 978-5-49807-862-5.

Дополнительная:

1. Э.В. Евреинов, Ю.Г. Косарев Однородные универсальные вычислительные системы высокой производительности. // Новосибирск: Наука, 1966.

Ключевые термины (головные):  Вычислительная система;   Параллельная обработка данных;   Параллельные вычисления;   Параллелизм;   Закон Амдала;   Закон Густафсона;   Закон Сана-Ная;

Контекстный поиск: Задайте образец для поиска:

Федотов Анатолий Михайлович

НГУ ФИТ НГУ ИВТ СО РАН