EGEE-II INFSO-RI Enabling Grids for E-sciencE Введение в проект EGEE Олешко С.Б. Петербургский институт ядерной физики г.Гатчина

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Название проекта EGEE- Enabling Grigs for E-sciencE Развертывание инфраструктуры Грид для науки

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Содержание Основные цели и задачи проекта Функциональность проекта EGEE Основные направления работ в проекте Ресурсы EGEE-II Проект БАК (LHC) LCG : LHC computing GRID Роль ЦЕРНа в EGEE Россия в проекте EGEE

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Основные цели и задачи проекта Обеспечить создание высокопроизводительной продукционной GRID инфраструктуры, ее поддержку и развитие Предоставлять круглосуточный доступ к вычислительным ресурсам независимо от их географического положения Объединить национальные, региональные и тематические грид-разработки в единую цельную грид-инфраструктуру для поддержки научных исследований Привлекать пользователей из различных сфер деятельности (медицина, экономика, культура,… ) и обеспечить им высокий уровень обучения и поддержки

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Функциональность проекта EGEE Упрощённый доступ. EGEE уменьшает издержки, связанные с разнообразием не связанных между собой систем учёта пользователей. Пользователи могут объединяться в виртуальные организации с доступом к grid – инфраструктуре, содержащей нужные каждому пользователю рабочие ресурсы. Выполнение вычислений по требованию. Эффективно распределяя ресурсы, grid-технологии значительно сокращают время ожидания доступа к ним. Географически распределённый доступ. Инфраструктура доступна отовсюду, где обеспечен хороший доступ к сети. Ресурсы становятся широко доступными. Исключительно большой объём ресурсов. Благодаря согласованности ресурсов и пользовательских групп, в прикладной работе в рамках EGEE будут доступны ресурсы таких объёмов, какие не может предоставить ни один компьютерный центр. Совместное использование программного обеспечения и данных. Благодаря единой структуре вычислительных средств, в EGEE пользователям легко совместно использовать программное обеспечение и базы данных и разрабатывать программное обеспечение. Высокий уровень поддержки приложений. Компетентность всех участников EGEE обеспечивает тщательную, всестороннюю поддержку всех основных приложений.

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Временные рамки проекта Апрель 2004: проект стартовал

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, EGEE-II: Участники и партнёры Более 90 партнёров 36 стран 12 федераций Ведущие международные и национальные Грид проекты в Европе, США, Азии Всего ~80 потенциальных стран-партнёров, участвующих в партнёрских и других проектах: –BalticGrid, SEE-GRID, EUMedGrid, EUChinaGrid, EUIndiaGrid, EELA, Naregi, OSG, TeraGrid

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Ресурсы EGEE-II сейчас 240 центров в 45 странах ~ CPU ~ 5 PB дисковой памяти, + tape MSS распределённое управление >200 ВО из различных областей науки 98k jobs/day

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Мониторинг узлов EGEE

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Мониторинг узлов EGEE

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Активности в EGEE NA2 – Распространение информации WEB сайты, e-почта, презентации, визиты, конференции,публикации,... NA3 – Обучение Подготовка обучающих материалов. Проведение курсов NA4 – Применение и поддержка Grid-структуры в приложениях Поддержка приложений использующихся в EGEE. Привлечение пользователей. Определение общих интерфейсов и инструментария.. SA1 – Поддержка функционирования Европейского Grid Мониторинг и управление Grid структурой. Распространение Grid ПО и включение новых вычислительных ресурсов.Поддержка пользователей. SA2 – Обеспечение сетевыми ресурсами Взаимодействие с сетевыми провайдерами. Решение сетевых проблем. SA3 – Интеграция, тестирование и сертификация Grid ПО JRA1 – Ре-инжиниринг ППО gLite. Стандартизация созданного ППО. Адаптация и оптимизация под другие платформы и требования.

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Управление ГРИД EGEE Операционный центр управления (OMС) -ЦЕРН - общая координация Центры базовой инфраструктуры (CIC) - 5 центров (Великобритания, Франция, ЦЕРН, Италия, Россия) -обеспечение постоянной (24x7) работы базовых грид-служб, мониторинг системы; -реализация и контроль за выполнением правил, выработанных OMS -обеспечение поддержки узлов 2-го уровня Региональные операционные центры (ROC) ~ 11 центров -поддержка пользователей и администраторов ресурсов -координация региональных ресурсов

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Ресурсные центры CIC RC ROC RC ROC RC ROC RC ROC OMC RC = Resource Centre

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, О ЦЕРНе (CERN) Расположен на границе Щвейцарии-Франции. Крупнейший в мире исследовательский центр по ФВЭ Работают представители ~500 университетов и институтов (штат~2500чел., 6500 визитеров из ~40 стран) Сделано много открытий и разработано много новых технологии, включая WWW. Большинство Нобелевских лауреатов по физике последних лет так или иначе связаны с ЦЕРН.

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Большой адронный коллайдер (LHC) Длина окружности ускорителя – 27 км. Запуск – в 2008 году

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Эксперименты на БАК

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Место для детектора ATLAS

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Детектор ATLAS

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Детектор ATLAS

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Данные БАК столкновений в секунду После фильтрации, остаётся только 100 событий в секунду Объём оцифрованных данных для одного события ~ 1Мб За год необходимо записать событий = 10 Петабайт данных в год 1 Мегабайт (1MB) Цифровая фотография 1 Гигабайт (1GB) = 1000MB DVD фильм 1 Терабайт (1TB) = 1000GB Объём всех книг, изданных за год в мире 1 Петабайт (1PB) = 1000TB Производит за год один эксперимент БАК 1 Экзобайт (1EB) = 1000 PB Объём информации, которую производит за год всё человечество CMSLHCbATLASALICE

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Необходимость ГРИД для БАК Объём получаемых данных БАК соответствует 20 миллионам записанных CD дисков в год. Где их хранить? Анализ данных LHC потребует вычислительных мощностей, эквивалентных мощности самых современных процессоров. Где их взять? Ресурсы ЦЕРН уже сейчас составляют более х процессорных ПК и 1 Пб памяти на дисках и на лентах. Но этого мало!!! Выход – объединение вычислительных ресурсов физиков всего мира Конкорд (15 Км) Воздушный шар (30 Км) Стопка CD дисков с данными БАК за 1 год (~ 20 Км) Монблан (4.8 Км)

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Роль ЦЕРНа в проекте EGEE Эксперименты на LHC предполагают беспрецедентное использование компьютеров для хранения и обработки данных. LHC Computing GRID (LCG проект) и GRID технологии являются ответственностью CERN. ППО LCG-2 было выбрано как стартовая версия для EGEE (EGEE-0). По этим принципам CERN является головным партнером в EGEE проекте.

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Приложения в EGEE для экспериментов на ускорителе LHC (ATLAS, CMS, ALICE, LHCb) - LCG биомедицина и биоинформатика GATE - медицинская томография и планирование процедур радиотерапии gPTM3D - Грид-ориентированные методы сбора, обработки и анализа трёхмерных радиологических изображений человеческих органов, Mammogrid - проект, посвящённый созданию всеевропейской базы данных маммограмм : портал по биоинформатике, посвящённый различным средствам для анализа белков CDSS - клиническая система поддержки принятия решений моделирование взаимодействия потенциальных лекарств с белками-мишенями (проект WISDOM )

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Проект WISDOM Приложение Drug Discovery, позволяющее вычислять вероятность прямого контакта между потенциальным лекарством и белком- мишенью Первый в истории биомедицины сеанс массовой обработки данных (малярия) Исследовано 46 миллионов посадочных лиганд Получено более 1 Тб данных Использованы ~1000 компьютеров из 15 стран, что составляет ~ 80 машино/лет Средний фактор ускорения – 600 Второй сеанс (птичий грипп) Использованы ~5000 компьютеров из 27 стран, что составляет ~ 420 машино/лет Получено более 2 Тб данных Средний фактор ускорения – 2000

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Другие приложения Науки о Земле: наблюдения за поверхностью Земли со спутников, гидрология – проникновение морской воды в прибрежный водоносный слой, климатология – прогнозирование наводнений, физика Земли - численное моделирование землетрясений. Геофизика (промышленное приложение Geocluster) Астрофизика (проекты MAGIC, Planck, ANTARES, NEMO) Термоядерный синтез (проект ITER) Вычислительная химия (проекты CHARON, CompChem) Археология Финансовые приложения (проект EGRID) (Всего свыше 200 виртуальных организаций)

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Распределение время/ВО

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Распределение время/регион

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Национальные Грид инициативы Англия UK National Grid Service Австрия Austrian Grid Initiative Бельгия BEgrid Болгария Bulgarian Grid Consortium, BGGC, Хорватия CRO-GRID Чехия METACentrum Эстония Estonian Grid, working under Estonian Educational and Research Network (EENet) Финляндия CSC – Scientific Computing Ltd., Франция EGEE-FranceGermanyD-Grid, Греция HellasGrid, HG, Ирландия Grid-Ireland Израиль Israel Academic Grid (IAG) Италия Italian Grid Infrastructure, IGI, Литва Lithuanian Grid LitGrid Голландия Netherlands National Science Grid, internally known as BIGGRID project Норвегия Norwegian Grid (NorGrid), Польша PL-Grid, (public part in preparation) Португалия Iniciativa Nacional Grid – INGRID Румыния RoGrid URL: (old version) Россия Russian Data Intensive Grid (RDIG): Сербия SerbiaAcademic and Educational Grid Initiative of Serbia AEGIS Украина Ukrainian Grid, UGrid Швеция Swedish Grid, SweGrid, and Турция TR-Grid National Grid Initiative, TR-Grid NGI Германия(D-initiative)

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Участие России в проекте EGEE В целях обеспечения полномасштабного участия России в этом проекте был образован консорциум РДИГ (Российский ГРИД для интенсивных операций с данными – Russian Data Intensive GRID, RDIG) для эффективного выполнения работ по проекту и развитию в России инфраструктуры EGEE, с вовлечением на следующих этапах проекта других организаций из различных областей науки, образования и промышленности. Консорциум РДИГ, согласно принятой в проекте EGEE структуре, входит в проект в качестве региональной федерации Россия (Russia). Сейчас в РДИГ ( входят 15 институтов (в 2003 году - 8)

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, РДИГ (% кол-ва заданий/сайт)

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Заключение EGEE – самая большая в мире грид-инфраструктура, используемая в интересах многих областей науки Постоянно растёт число виртуальных организаций и приложений Россия участвует в деятельности EGEE РДИГ – первая реальная ГРИД-инфраструктура в России Первый ГРИД-проект всероссийского уровня, поддержанный Правительством России Для участников – опыт работы в большом общеевропейском проекте по эгидой ЕС

Enabling Grids for E-sciencE EGEE-II INFSO-RI Saint-Petersburg, EGEE tutorial, Европейская Грид инициатива (EGI) Необходимость подготовки постоянной, общей Грид инфраструктуры Поддержка долговременной Европейской e-инфраструктуры, независимо от выполняемых краткосрочных (1-2 года) проектов Координация интеграции и взаимодействия между Национальными Грид Инфраструктурами (NGI) Управление Европейским уровнем производственной Грид инфраструктуры для широкого круга научных дисциплин совместно с NGIs.