Технологии GRID на примере проекта ARC NorduGrid Установка и настройка вычислительного кластера, подключенного к ARC NorduGrid Макаров Алексей Санкт-Петербургский Государственный Университет, Физический Факультет Кафедра Вычислительной Физики Научный руководитель: кандидат физ.-мат. наук, доцент Степанова Маргарита Михайловна V Всероссийская межвузовская конференция молодых ученых – Апрель – 2008 – Санкт- Петербург

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Почему ARC? Стабильность работы Поддержка ПО и продолжающаяся разработка сообществом NorduGrid Простая интеграция с кластерным и прикладным ПО Легкая и простая в использовании клиентская часть

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Введение в ARC NorduGrid ПО ARC middleware реализует все основные сервисы Grid Стандартная система безопасности: единая подпись, Grid ACLs (GACL), VOs (VOMS) Запуск задач: непосредственно на указанный ресурс или поиск подходящего через брокер ресурсов Информационная система: сбор информации о ресурсах и задачах, предоставление информации пользователю Реализует базовую функциональность передачи данных Автоматическая передача входных/выходных файлов Сервис индексации данных (RLS) Управление задачами и слежение за ходом их выполнения Сервис сбора статистической информации о задачах Построен на основе стандартных решений и протоколов Globus Toolkit® pre-WS API and libraries (no services!) OpenLDAP, OpenSSL, SASL, SOAP, GridFTP, GSI

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Введение в архитектуру ARC NorduGrid ПО ARC состоит из отдельных сервисов, взаимодействующих друг с другом Grid manager – отвечает за управление задачами, предоставляет интерфейс для локального менеджера ресурсов GridFTP – сервис, отвечающий за передачу данных Grid Infosys – информационная система собирает и публикует информацию используя LDAP Httpsd – https сервер для Smart Storage Element – сервис предоставляющий возможность передачи данных через шифрованное соединение Monitor – вэб-интерфейс для информационной системы Client – легковесный пользовательский интерфейс со встроенным брокером ресурсов Авторизация – используется система сертификатов Центры авторизации – подписание сертификатов для подтверждения их аутентичности

Компоненты ARC Рисунок взят из NorduGrid, the middleware and related projects, NDGF/Lund University GRID06 - June 26, 2006 – Dubna, Oxana Smirnova

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Создание вычислительного кластера Настройка операционной системы ( sshd, NFS, firewall ) Установка и настройка менеджера ресурсов и системы очередей PBS ( TORQUE ) на front-end сервере и вычислительных нодах Установка и настройка ПО, поддерживающего технологии параллельного программирования MPI2 и OpenMP ( MPICH-2.0 и gcc ) Тестирование производительности вычислительного кластера High Performance Linpack Benchmark – система тестирования производительности вычислительных кластеров Top500 – список наиболее производительных кластеров в мире. Создается на основе тестирования системой HPL. Производительность нашего кластера 5.136e+01 Gflops

Оборудование GigEthernet LAN: CiscoCatalyst 2960G Front-end сервер (ap8.gridzone.ru): Intel Pentium 4 Dual Core 3.2GHz 2 x 1024MB DDR2 ECC Вычислительные ноды (w3,w4,w7,w8): 2 x Intel Xeon Dual Core 3.0GHz 2 x 2048MB DDR ECC REG OS: ScientificLinux 4.4

Структура сайта ap8.gridzone.ru Grid Manager Grid Infosys GridFTP SSE Grid Monitor LocalCA External Dependences ARC Middleware SimpleCA GPT Globus Toolkit® packages VOMS Python, MySQL, libxml2 libraries PBS Server PBS Scheduler Ganglia Cluster 32 CPU PBS Client MPICH-2.0 Gcc Ganglia client Менеджер ресурсов и кластерное ПО устанавливается независимо от ПО ARC ПО ARC Middleware устанавливается только на front-end сервер

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Локальный центр авторизации Пользовательские сертификаты для локально поддерживаемых пользователей Сертификаты хоста предоставляющие возможность создавать локальную инфраструктуру Грид Простота работы с локальными сертификатами (выдача, отзыв, продление)

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Тестирование ARC front-end сервера Информационная система ( LdapBrowser, ldapsearch, grid-monitor, ngtest ) Система передачи данных ( ngls, ngcp, ngrm, ngcat, ngtest ) Система работы с задачами ( ngsub, ngstat, ngget, ngresub, ngkill, ngrenew, ngtest )

СПбГУ-Физический Факультет- Кафедра Вычислительной Физики Данные информационной системы через Ldap Browser

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Системы мониторинга Grid Monitor вэб-интерфес для информационной системы ARC NorduGrid Ganglia масштабируемая система мониторинга для высокопроизводительных вычислительных систем, таких как кластеры Nagios система мониторинга сервисов, состояния сети, серверов Logger независимо разработанная система сбора статистической информации о задачах

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Грид монитор

Спасибо за внимание.

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Список использованной литературы 1. I. Foster, C. Kesselmann, S. Tuecke, «The Anatomy of the Grid», I. Foster, C. Kesselmann, S. Tuecke, J.M.Nick «The Physiology of the Grid», Oxana Smirnova, «NorduGrid, the middleware and related projects», NDGF/Lund University GRID06 - June 26, 2006 – Dubna 4. M. Ellert, A.Konstantinov, B. Kónya, O.Smirnova, A.Wäänänen. Architecture Proposal, NORDUGRID-TECH-1,

СПбГУ-Физический Факультет-Кафедра Вычислительной Физики Ganglia