GRID для БАК и участие ПИЯФ. Рябов Ю.Ф., заведующий Отделом Информационных Технологий и Автоматизации. - презентация

1 GRID для БАК и участие ПИЯФ. Рябов Ю.Ф., заведующий Отделом Информационных Технологий и Автоматизации

2 27 декабря 2006 г.Научная сессия ОФВЭ Данные БАК столкновений в секунду После фильтрации, остаётся только 100 событий в секунду Объём оцифрованных данных для одного события ~ 1Мб За год необходимо записать событий = 10 Петабайт данных в год 1 Мегабайт (1MB) Цифровая фотография 1 Гигабайт (1GB) = 1000MB DVD фильм 1 Терабайт (1TB) = 1000GB Объём всех книг, изданных за год в мире 1 Петабайт (1PB) = 1000TB Производит за год один эксперимент БАК 1 Экзобайт (1EB) = 1000 PB Объём информации, которую производит за год всё человечество CMSLHCbATLASALICE

3 27 декабря 2006 г.Научная сессия ОФВЭ Необходимость ГРИД для БАК Объём получаемых данных LHC соответствует 20 миллионам записанных CD дисков в год. Где их хранить? Анализ данных LHC потребует вычислительных мощностей, эквивалентных мощности самых современных процессоров. Где их взять? Ресурсы ЦЕРН уже сейчас составляют более х процессорных ПК и 1 Пб памяти на дисках и на лентах. Но этого мало!!! Выход – объединение вычислительных ресурсов физиков всего мира Конкорд (15 Км) Воздушный шар (30 Км) Стопка CD дисков с данными БАК за 1 год (~ 20 Км) Монблан (4.8 Км)

4 27 декабря 2006 г.Научная сессия ОФВЭ LHC Computing Grid Project (LCG) Основной задачей проекта LCG является создание глобальной инфраструктуры региональных центров для обработки, хранения и анализа данных физических экспериментов LHC. Новейшие технологии GRID являются основой построения этой инфраструктуры. Проект LCG осуществляется в две фазы. 1 фаза ( гг.) - создание прототипа и разработка проекта системы (LCG TDR). 2 фаза ( гг.) - создание инфраструктуры LCG, готовой к обработке, хранению и анализу данных на момент начала работы ускорителя в 2007 году.

5 27 декабря 2006 г.Научная сессия ОФВЭ Online system Tier 0 Tier 1 Tier 2 Tier 3 Offline farm Церн вычисл.центр. Tier2 Center InstituteB InstituteA... workstation Regional Center Regional Center Regional Center recorded data Модель обработки данных

6 27 декабря 2006 г.Научная сессия ОФВЭ Архитектура ГРИД БАК

7 27 декабря 2006 г.Научная сессия ОФВЭ RAL IN2P3 BNL FZK CNAF PIC ICEPP FNAL LHC Computing Model (simplified!!) Tier-0 – the accelerator centre Filter raw data Reconstruction summary data (ESD) Record raw data and ESD Distribute raw and ESD to Tier-1 Tier-1 – Permanent storage and management of raw, ESD, calibration data and databases grid-enabled data service: Data-heavy analysis Re-processing raw ESD Managed mass storage Tier-2 – Well-managed disk storage grid-enabled: Simulation End-user analysis – batch and interactive (High performance parallel analysis ) USC NIKHEF Krakow CIEMAT Rome Taipei TRIUMF CSCS Legnaro UB IFCA IC MSU Prague Budapest Cambridge Tier-1 small centres Tier-2 desktops portables

8 27 декабря 2006 г.Научная сессия ОФВЭ Топология сети для обработки данных с БАК

9 27 декабря 2006 г.Научная сессия ОФВЭ Основные цели проекта EGEE (Enable Grid for E-sciencE) -Основная цель проекта EGEE - объединить национальные, региональные и тематические Grid-разработки в единую цельную Grid-инфраструктуру для поддержки научных исследований (в первую очередь ФВЭ и Биоинформатика) -Предоставить исследователям круглосуточный доступ к вычислительным ресурсам независимо от их географического положения. Пользоваться инфраструктурой смогут сообщества исследователей(ВО), которые готовы объединить свои собственные вычислительные мощности и согласны с принципами общего доступа. -Проект поддерживают финансирующие учреждения ЕС, но предназначен он для работы во всем мире. Значительные средства поступают от США, России и других участников проекта, не входящих в ЕС.

10 27 декабря 2006 г.Научная сессия ОФВЭ EGEE-II More than 90 partners 32 countries 12 federations Major and national Grid projects in Europe, USA, Asia + 27 countries through related projects: BalticGrid SEE-GRID EUMedGrid EUChinaGrid EELA

11 27 декабря 2006 г.Научная сессия ОФВЭ Проект EGEE/LCG EGEE/LCG-2 грид: > 200 центров, 32 страны > процессоров, >10 PB памяти Другие национальные и региональные гриды: ~60 центров, ~6,000 процессоров Страны - поставщики ресурсов Страны, готовые вступить

12 27 декабря 2006 г.Научная сессия ОФВЭ Мониторинг узлов EGEE/LCG

13 27 декабря 2006 г.Научная сессия ОФВЭ Всемирный компьютинг для БАК The EGEE and OSG projects are the basis of the Worldwide LHC Computing Grid Project( WLCG) Inter-operation between Grids is working!

14 27 декабря 2006 г.Научная сессия ОФВЭ Timeline First physics First beams Cosmics GRID 3 EGEE 1 LCG 1 Service Challenges Data Challenges EU DataGrid WLCG GriPhyN, iVDGL, PPDG EGEE 2 OSG LCG 2

15 27 декабря 2006 г.Научная сессия ОФВЭ Распределение CPU time в EGEE/LCG по VO

16 27 декабря 2006 г.Научная сессия ОФВЭ Участие России в проекте EGEE/LCG В целях обеспечения полномасштабного участия России в этом проекте был образован консорциум РДИГ (Российский ГРИД для интенсивных операций с данными – Russian Data Intensive GRID, RDIG) для эффективного выполнения работ по проекту и развитию в России инфраструктуры EGEE, с вовлечением на следующих этапах проекта других организаций из различных областей науки, образования и промышленности. Консорциум РДИГ, согласно принятой в проекте EGEE структуре, входит в проект в качестве региональной федерации Россия (Russia). Главной задачей РДИГ является участие в обработке данных с Большого Андронного Коллайдера(БАК)

17 27 декабря 2006 г.Научная сессия ОФВЭ Russian Data Intensive GRID (RDIG)- участники: ИФВЭ (Институт физики высоких энергий, Протвино) ИМПБ РАН (Институт математических проблем биологии, Пущино) ИТЭФ (Институт теоретической и экспериментальной физики) ОИЯИ (Объединенный институт ядерных исследований, Дубна) ИПМ РАН (Институт прикладной математики) ПИЯФ РАН (Петербургский институт ядерной физики, Гатчина) РНЦ КИ (Российский научный центр «Курчатовский институт») НИИЯФ МГУ (Научно-исследовательский институт ядерной физики МГУ) СПбГУ (Санкт-Петербургский государственный университет) НГУ (Новгородский государственный университет)

18 27 декабря 2006 г.Научная сессия ОФВЭ Российский региональный центр: the DataGrid cloud PNPI ITEP IHEP RRC KI SPbSU JINR SINP MSU RRC-LHC LCG Tier1/Tier2 cloud CERN … 1Gbits/s FZK Regional connectivity: cloud backbone –1Gbit/s to labs – 100–1000 Mbit/s Collaborative centers Tier2 cluster GRID access

19 27 декабря 2006 г.Научная сессия ОФВЭ Распределение CPU time по регионам

20 27 декабря 2006 г.Научная сессия ОФВЭ Распределение процессорного времени по российским организациям(сайтам)

21 27 декабря 2006 г.Научная сессия ОФВЭ Активность RDIG в EGEE/LCG за 2006г.

22 27 декабря 2006 г.Научная сессия ОФВЭ Активность RDIG в EGEE/LCG за 2006г.

23 27 декабря 2006 г.Научная сессия ОФВЭ Использование кластера ПИЯФ( гг)

24 27 декабря 2006 г.Научная сессия ОФВЭ СПИИРАН Узел Академический ПИЯФ РАН Узел Центральный 1 (АО Ленэнерго) Внешние каналы Узел Центральный 2 (Боровая, д 57) SPB-IX ФТИ Транспортная среда для организации распределённых вычислений(ВО nw-ru) WDM VPN

25 27 декабря 2006 г.Научная сессия ОФВЭ Ресурсы кластера ПИЯФ Вычислительные ресурсы: 30 вычислительных узлов 2xP4 3GHz (60 процессоров) Теоретическая производительность SpecInt 2000 В ближайшее время будет установлено еще 22 узла (44 процессора) Производительность к началу 2007 года: SpecInt 2000 Дисковые ресурсы: 2 выделенных дисковых сервера, включающих 4 отказоустойчивых RAID массива по 2TB (всего 8TB) 6TB доступно для данных 2TB под прикладное ПО Программное обеспечение: ScientificLinux 3 (ОС) + Glite 3 (Грид) ПО экспериментов ФВЭ (ATLAS, Alice, CMS, LHCb) ПО прочих прикладных областей

26 27 декабря 2006 г.Научная сессия ОФВЭ Коннективность ПИЯФ с внешним миром Catalyst WS-C3750G Cisco 2651XM 1000 Mbps Cisco Catalyst 2970G Интернет ОАО СЗТ ЛВС ПИЯФ Опорная сеть СПбНЦ Интернет RUNNET 1000 MBps MBps 1000 Mbps Вычислительный кластер 100 Mbps Catalyst WS-C2950G (СПб) ИК 100 Mbps

27 27 декабря 2006 г.Научная сессия ОФВЭ Статистика внешнего канала ПИЯФ (входящий трафик) за 2006 г.

28 27 декабря 2006 г.Научная сессия ОФВЭ Финансовое обеспечение работ по ГРИД в ПИЯФ Оплата телекоммуникационных услуг осуществляется по проекту Развитие ИНТЕРНЕТ в ПИЯФ(программа Совета РАН «Высокопроизводительные вычисления, научные телекоммуникации и информационная инфраструктура») Развитие аппаратных средств осуществлялось за счет: Комплексного междисциплинарного проекта СПбНЦ РАН Создание ресурсных центров в ПИЯФ и СПбФ МСЦ для организации распределенной вычислительной среды на базе технологий GRID Программа Совета РАН «Высокопроизводительные вычисления, научные телекоммуникации и информационная инфраструктура».; Совместный проект с КИАЭ; Централизованных средств ПИЯФ.

29 27 декабря 2006 г.Научная сессия ОФВЭ Обучение технологии ГРИД в ПИЯФ Лекции об основах технологии ГРИД Практические занятия: Запуск задач в ГРИД Управление данными в ГРИД Информационное обеспечение ГРИД WEB-интерфейсы для ГРИД (ГРИД-порталы) Учебные пособия Введение в ГРИД ( Как стать пользователем ГРИД ( Для проведения практических занятий в ЛИВС имеется сетевой компьютерный класс ( 7 рабочих мест)

30 27 декабря 2006 г.Научная сессия ОФВЭ Добро пожаловать работать в ГРИД! Спасибо за внимание