Введение в Hyper-Threading Technology Нижегородский государственный университет им. Н.И. Лобачевского Факультет вычислительной математики и кибернетики Учебно-исследовательская лаборатория "Информационные технологии"

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин 2-22 Содержание Немного фактов Необходимость роста вычислительной мощности. Multithreading Подронее о работе одно-потокового процессора SuperThreading Hyper-threading или SMT Воплощение технологии hyper-threading Копированные ресурсы Секционированные ресурсы Общие Ресурсы КЭШ и система с SMT Конфликты КЭШа Влияние пустых циклов Результаты сравнительного тестирования на iXBT Ссылки Библиография Приложение 1

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин 3-22 Определение HyperThreading предоставляет доступ к двум логическим процессорам используя один физический процессор путем добавления минимального количества управляющей и контролирующей логики в кристал. Это делает возможным использование большей части ранее свободных ресурсов физического процессора в еденицу времени. HyperThreading предоставляет доступ к двум логическим процессорам используя один физический процессор путем добавления минимального количества управляющей и контролирующей логики в кристал. Это делает возможным использование большей части ранее свободных ресурсов физического процессора в еденицу времени.

Необходимость и возможности роста производительности Вычисления при моделировании сложных процессов в реальном времени Вычисления при моделировании сложных процессов в реальном времени Распознавание и перевод речи Распознавание и перевод речи Коммерческий интерес при продаже Коммерческий интерес при продаже Повышение тактовой частоты Наращивание ресурсов процессора Использование многопроцессорных систем Оптимизация работы существующего процессора

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин 5-22 Как можно оптимизировать? Time-Slice Multithreading. Time-Slice Multithreading. Switch-on-Event Multithreading. Switch-on-Event Multithreading. Simultaneous Multithreading. Simultaneous Multithreading. Superthreading. Superthreading.

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин 6-22 Иллюзия многопоточности В каждый момент времени исполняется один поток В каждый момент времени исполняется один поток Порядок исполнения команд в потоке определяется процессором Порядок исполнения команд в потоке определяется процессором Преймущественная и кооперативная многозадачность. Преймущественная и кооперативная многозадачность. Ограничения на совмещение команд исполняемых в один такт процессора Ограничения на совмещение команд исполняемых в один такт процессора

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин 7-22 Двухпроцессорность Стоимость процессоров удваивается. Стоимость процессоров удваивается. Стоимость материнской платы растет. Стоимость материнской платы растет. Задержки на синхронизацию КЭШа Задержки на синхронизацию КЭШа Ограницения наисполнение коменд в каждом процессоре не изменились – эффективность такая же. Ограницения наисполнение коменд в каждом процессоре не изменились – эффективность такая же.

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин 8-22 SuperThreading Возможность загрузки в процессор двух потоков и переключения между ними без потери такта. Возможность загрузки в процессор двух потоков и переключения между ними без потери такта. В один такт выполняются команды одного потока с учетом ограничений. В один такт выполняются команды одного потока с учетом ограничений. Уровень параллельности остается тем же для каждого потока. Уровень параллельности остается тем же для каждого потока.

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин 9-22 Hyperthreading или SMT Возможно исполнение команд из двух разных потоков за один такт. Возможно исполнение команд из двух разных потоков за один такт. Исполнение происходит на тех же ресурсах. Исполнение происходит на тех же ресурсах. Верхний уровень иммитирует два независимых процессора. Верхний уровень иммитирует два независимых процессора. Внедрение технологии увеличило площадь кристала всего на 5%. Внедрение технологии увеличило площадь кристала всего на 5%.

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Копированн ые Логика переименования регистров (Register renaming logic ) Указатель на инструкции( Instruction Pointer ) ITLB Return stack predictor Другие регистры. Секциониро ванные (динамичес ки разделяемы е) Re-order buffers (ROBs) Буфферы сохранения/загрузки Различные очереди. Общие КЭШ: trace cache, L1, L2, L3 Микроархитектурные регистры Конвееры.

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Копированные ресурсы Некоторые ресурсы необходимо копиросать чтобы получить два независимых процессора – IP, RAT. Некоторые ресурсы необходимо копиросать чтобы получить два независимых процессора – IP, RAT. Увеличение числа копируемых ресурсов ведет к усложнению и следовательно удорожанию процессора Увеличение числа копируемых ресурсов ведет к усложнению и следовательно удорожанию процессора

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Секционированные ресурсы В основном это Очереди В основном это Очереди Можно разделить на статически и динамически разделяемые. Можно разделить на статически и динамически разделяемые.

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Общие Ресурсы Общие ресурсы остались неизменными от предудыщих поколений. Общие ресурсы остались неизменными от предудыщих поколений. Исполнительные модули Исполнительные модули Поле регистров Поле регистров КЭШ КЭШ Существует опасность спада производительности при монополизации ресурсов одним потоком. Существует опасность спада производительности при монополизации ресурсов одним потоком. Существенное отличие от SMP – влияние пустых циклов. Существенное отличие от SMP – влияние пустых циклов.

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Немного фактов Intel® 845GE/E/PE/G/GV, 850E, 865G/P/PE и 875P чипсеты в настоящее время выпускаются и поддерживают Hyper-Threading Technology Intel® 845GE/E/PE/G/GV, 850E, 865G/P/PE и 875P чипсеты в настоящее время выпускаются и поддерживают Hyper-Threading Technology845GE850E865G/P/PE875PHyper-Threading Technology845GE850E865G/P/PE875PHyper-Threading Technology Intel Hyper-Threading Technology основываетс на имеющихся достоинствах архитектуры Intel® NetBurst. Intel Hyper-Threading Technology основываетс на имеющихся достоинствах архитектуры Intel® NetBurst. Код написанный для двухпроцессорных станций (DP) и для многопроцессорныйх (MP) совместим с технологией Hyper-Threading Technology. Код написанный для двухпроцессорных станций (DP) и для многопроцессорныйх (MP) совместим с технологией Hyper-Threading Technology. Среднестатистический набор инструкций Intel® IA-32 использует только 35% архитектуры Intel® NetBurst. Hyper-Threading Technology позволяет использовать ольше ресурсов, путем предоставления свободных ресурсов для исполнения второй нити кода, тем самым увеличивая производительность многопотоковых приложений. Среднестатистический набор инструкций Intel® IA-32 использует только 35% архитектуры Intel® NetBurst. Hyper-Threading Technology позволяет использовать ольше ресурсов, путем предоставления свободных ресурсов для исполнения второй нити кода, тем самым увеличивая производительность многопотоковых приложений. При использовании Hyper-Threading Technology систем некоторые потоки кода имеющие циклы Spin-wait могут занимать общие ресурсы при этом не производя вычислений и тем самым снижая общую производительность системы. При использовании Hyper-Threading Technology систем некоторые потоки кода имеющие циклы Spin-wait могут занимать общие ресурсы при этом не производя вычислений и тем самым снижая общую производительность системы. В настоящее время технологию HT поддерживают процессоры Intel Xeon и Pentium 4 с тактовой частотой выше 3.06G В настоящее время технологию HT поддерживают процессоры Intel Xeon и Pentium 4 с тактовой частотой выше 3.06G MS-DOS являлся однопотоковой системой предназначенной для запуска на одном процесоре – самая примитивная конфигурация MS-DOS являлся однопотоковой системой предназначенной для запуска на одном процесоре – самая примитивная конфигурация В тестировании большинства приложений наблюдается прирост производительности около 30% В тестировании большинства приложений наблюдается прирост производительности около 30%

Результаты тестирования Задачи: Оценить влияние Hyper-Threading на производительность приложений различного класса. Оценить влияние Hyper-Threading на производительность приложений различного класса. Сравнить этот эффект с эффектом от установки второго процессора. Сравнить этот эффект с эффектом от установки второго процессора. Проверить, насколько "честно" ресурсы отдаются активному логическому процессору, когда второй LP бездействует. Проверить, насколько "честно" ресурсы отдаются активному логическому процессору, когда второй LP бездействует.

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Однопотоковая загрузка

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Рендеринг

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин 18-22

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Open-GL

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин CAD-приложения

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Серверные приложения

ИТЛаб ВМК ННГУ, Июнь 2003 Hyper Threading © Д.Кукушкин Контакты: Нижегородский университет, Факультет вычислительной математики и кибернетики, Учебно-исследовательская Лаборатория "Информационные технологии" , Нижний Новгород, пр. Гагарина, 23, р.т.: +7 (8312) ,