Введение в Grid и пакет Глобус (Globus Toolkit) Вероника Нефёдова The Globus Project Argonne National Laboratory USC Information Sciences Institute

Презентация:



Advertisements
Похожие презентации
1. Определить последовательность проезда перекрестка
Advertisements

РЕАЛИЗАЦИЯ GRID-СЕРВИСОВ В ОКЕАНОГРАФИЧЕСКОЙ ИНФОРМАЦИОННО-АНАЛИТИЧЕСКОЙ СИСТЕМЕ ДВО РАН Антушев С. Г., Голик А. В
Enabling Grids for E-sciencE GILDA Grid Demonstrator Олешко Сергей Петербургский институт ядерной физики РАН.
GLORIAD-современное состояние Солдатов А.А. Директор по научному развитию РНЦ КИ д.ф.-м.н.
Рисуем параллелепипед Известно, что параллельная проекция тетраэдра, без учета пунктирных линий, однозначно определяется заданием проекций его вершин (рис.
Разработка и первичная апробация технологии предоставления доступа к суперкомпьютерным ресурсам сети ДВО РАН на основе Web и GRID-технологий Антушев С.
Архитектура LCG Ткачев Игорь ОИЯИ, Дубна, Россия 16 мая 2006 г.
Урок повторения по теме: «Сила». Задание 1 Задание 2.
Дисциплина: Организация, принципы построения и функционирования компьютерных сетей Лекция 4 Многоуровневые коммуникации в сетях.
ИС «Научный институт РАН» А.Н.Бездушный, ВЦ РАН. 2 ЕНИП РАН Эта инициатива призвана помочь научным коллективам: сделать несколько шагов в направлении.
1 Современные системы программирования. Часть 2. Системное и прикладное программное обеспечение Малышенко Владислав Викторович.
Проектирование архитектуры ИСО 1. UML 2 Структура определения языка 4.
Архитектура, возможности и методы использования платформы облачных вычислений Microsoft Windows Azure Лекция 2 Понятие об облачных вычислениях. Обзор платформ.
Web-узлы. Разработка и администрирование.. Часть 1. Web-технология.
Файловые архивы Internet Файловые архивы Internet Протокол FTP Протокол FTP Режимы обмена данными Режимы обмена данными Программное обеспечение доступа.
К построению и контролю соблюдения политик безопасности распределенных компьютерных систем на основе механизмов доверия А. А. Иткес В. Б. Савкин Институт.
А.Минаенко 17 мая 2005 ИФВЭ, Протвино Модель компьютинга эксперимента АТЛАС.
1 Демонстрационный пример использования некоторых возможностей Grid Open Source Forum, Russia, April 2005,
Автоматизированная библиотечная система и электронный архив открытого доступа Разделение задач, функций и технологических решений Негуляев Е. А. Пятая.
Сети и Интернет. Интернет, ЛВС История развития сетей Мейнфреймы: Один многозадачный компьютер Множество рабочих терминалов.
Транксрипт:

Введение в Grid и пакет Глобус (Globus Toolkit) Вероника Нефёдова The Globus Project Argonne National Laboratory USC Information Sciences Institute

September 22, Introduction to Grid Computing Содержание l Введение в Grid (Grid Computing) l Определения l Архитектура Grid l Проблема программирования l Глобус (The Globus Toolkit) –Введение, защита, управление ресурсами, информационный сервис, управление данными l Будущие направления

September 22, Introduction to Grid Computing Проблема Grid l Гибкое, защищённое, координированное пользование динамичными ресурсами между различными динамичными группами персональных пользователей и организаций. From The Anatomy of the Grid: Enabling Scalable Virtual Organizations l Сделать возможным для различных групп пользователей (виртуальных организаций) совместное использование географически удалённых ресурсов при совместной работе – подразумевая отсутствие… –Центрального расположения, –Централизированного контроля, –Атмосферы доверия в рабочих отношений.

September 22, Introduction to Grid Computing Состовляющие Проблемы l Совместное использование ресурсов –Компьютеры, хранение данных, сети, … –Совместное использование ресурсов всегда возможно только при определённых условиях: вопросы доверия, внутренних правил, оплата, переговоры, … l Координированное решение задач –Анализ удалённых данных, вычисления, совместная работа, … l Виртуальные организации - динамичные, включающие различные Институты, группы –Научные сообщества включают различные классические организации –Многочисленные или нет, динамичные или статичные

September 22, Introduction to Grid Computing DOE X-ray grand challenge: ANL, USC/ISI, NIST, U.Chicago Томографическая реконструкция Сбор данных в режиме реального времени wide-area dissemination ПК & ВР совместное управление Advanced Photon Source Доступ в сети к научным инструментам архивы

September 22, Introduction to Grid Computing Image courtesy Harvey Newman, Caltech Grids в Физике Высоких энергий Tier2 Centre ~1 TIPS Online System Offline Processor Farm ~20 TIPS CERN Computer Centre FermiLab ~4 TIPS France Regional Centre Italy Regional Centre Germany Regional Centre Institute Institute ~0.25TIPS Physicist workstations ~100 MBytes/sec ~622 Mbits/sec ~1 MBytes/sec There is a bunch crossing every 25 nsecs. There are 100 triggers per second Each triggered event is ~1 MByte in size Physicists work on analysis channels. Each institute will have ~10 physicists working on one or more channels; data for these channels should be cached by the institute server Physics data cache ~PBytes/sec ~622 Mbits/sec or Air Freight (deprecated) Tier2 Centre ~1 TIPS Caltech ~1 TIPS ~622 Mbits/sec Tier 0 Tier 1 Tier 2 Tier 4 1 TIPS is approximately 25,000 SpecInt95 equivalents

September 22, Introduction to Grid Computing Maтематики решили задачу NUG30 l Поиск решения NUG30 quadratic assignment problem l Совместная работа математиков и компьютерных специалистов l Condor-G произвёл 3.46E8 CPU секунд за 7 дней (мах 1009 процессоров) в США и Италии (8 организаций) 14,5,28,24,1,3,16,15, 10,9,21,2,4,29,25,22, 13,26,17,30,6,20,19, 8,18,7,27,12,11,23 MetaNEOS: Argonne, Iowa, Northwestern, Wisconsin

September 22, Introduction to Grid Computing l Кто = –1000s домашних ПК –компания Entropia –Научно- исследовательская компания Scripps l Единая Цель = ускорить исследования в области СПИДа Домашние компьютеры тестируют лекарства от СПИДа

September 22, Introduction to Grid Computing Расширенный контекст l Grid Computing имеет много общего с различными индустриальными приложениями –Business-to-business, Peer-to-peer, Application Service Providers, Storage Service Providers, Distributed Computing, Internet Computing… l Проблема совместного использования ресурсов на сегодня не решена –Сложные требования : Запустить программу X на домене организации Y при условии ограничений данной организации P, обеспечивая доступ к данным на домене организации, Z при условии ограничений Q –Высокая производительность : новые требования высоко-производительных систем

September 22, Introduction to Grid Computing Компьютерные сети l Сети vs. Производительность компьютеров –Вычислительные скорости удваиваются каждые 18 месяцев –Скорости сетей удваиваются каждые 9 месяцев –Разница на целый порядок за 5 лет l 1986 to 2000 –компьютеры: x 500 –сети: x 340,000 l 2001 to 2010 –компьютеры: x 60 –сети: x 4000 Moores Law vs. storage improvements vs. optical improvements. Graph from Scientific American (Jan- 2001) by Cleo Vilett, source Vined Khoslan, Kleiner, Caufield and Perkins.

September 22, Introduction to Grid Computing Глобус - The Globus Project мы делаем работу в сети (Grid) реальностью l Тесное сотрудничество с реальными Grid проектами в науке и промышленности l Разработка и распространение стандартных протоколов для Grid с целью достижения совместимости и создания инфраструктуры l Разработка и распространение стандартного програмного обеспечения для Grid - универсального и мультиплатформного l Пакет Глобус - The Globus Toolkit: Бесплатное, в прямом доступе; база для создания различных приложений и создания Grid инфраструктуры l Global Grid Forum: Разработка стандартных протоколов и приложений для Grid

September 22, Introduction to Grid Computing Некоторые Grid Проекты NameURL & SponsorsFocus Access Grid accessgrid; DOE, NSF Создание и распространение систем сотрудничества используя новейшие технологии BlueGridIBM Создание единой Grid для тестирования для лабораторий IBM DISCOM discom DOE Defense Programs Создание реальной Grid для доступа к ресурсам для 3-х оборонных лабораторий (U.S. DOE) DOE Science Grid sciencegrid.org DOE Office of Science Создание реальной Grid для доступа к ресурсам для U.S. DOE, научных лабораторий и университетов Earth System Grid (ESG) earthsystemgrid.org DOE Office of Science Создание инфраструктуры для удалённого доступа и анализа данных моделирования климата European Union (EU) DataGrid eu-datagrid.org European Union Создание реальной Grid для различных приложений в области Физики Высоких Энергий, Биоинформатики и ООС. g g g g g g New

September 22, Introduction to Grid Computing Некоторые Grid Проекты NameURL/SponsorFocus EuroGrid, Grid Interoperability (GRIP) eurogrid.org European Union Создание технологий для удалённого доступа к суперкомпьютерам и их приложениям Fusion Collaboratory fusiongrid.org DOE Off. Science Создание национального сотрудничества для Термоядерных исследований Globus Project globus.org DARPA, DOE, NSF, NASA, Msoft Исследование в области Grid технологий; создание и тех. поддержка Globus Toolkit; приложения. GridLab gridlab.org European Union Grid технологии и приложения GridPP gridpp.ac.uk U.K. eScience Создание реальной Grid в Англии для исследований в области Физики Элементарных Частиц. Grid Research Integration Dev. & Support Center grids-center.org NSF Создание и поддержка промежуточной Grid инфрaструктуры для образования g g g g g g New

September 22, Introduction to Grid Computing Некоторые Grid Проекты NameURL/SponsorFocus Grid Application Dev. Software hipersoft.rice.edu/ grads; NSF Исследование и создание технологий для Grid приложений Grid Physics Network griphyn.org NSF Cоздание технологий для анализа данных в физике: ATLAS, CMS, LIGO, SDSS Information Power Grid ipg.nasa.gov NASA Создание реальной Grid для аэроисследований NASA International Virtual Data Grid Laboratory ivdgl.org NSF Создание реальной международной Grid для экспериментов над Grid технологиями и приложениями Network for Earthquake Eng. Simulation Grid neesgrid.org NSF Создание реальной Grid для исследований в сейсмологии Particle Physics Data Grid ppdg.net DOE Science Создание реальной Grid для анализа данных в Физике Высоких Энергий и Ядерной физике g g g g g New g

September 22, Introduction to Grid Computing Некоторые Grid Проекты NameURL/SponsorFocus TeraGrid teragrid.org NSF Научная инфраструктура в США, связывающая 4 организации 40 Gb/s UK Grid Support Center grid-support.ac.uk U.K. eScience Центр технической поддержки для Grid проектов внутри Великобритании. UnicoreBMBFTТехнологии для удалённого доступа к суперкомпьютерам g g New Also many technology R&D projects: e.g., Condor, NetSolve, Ninf, NWS See also

September 22, Introduction to Grid Computing The 13.6 TF TeraGrid: Computing at 40 Gb/s HPSS 5 UniTree External Networks Site Resources NCSA/PACI 8 TF 240 TB SDSC 4.1 TF 225 TB CaltechArgonne TeraGrid/DTF: NCSA, SDSC, Caltech, Argonne

September 22, Introduction to Grid Computing U.S. PIs: Avery, Foster, Gardner, Newman, Szalay iVDGL: International Virtual Data Grid Laboratory Tier0/1 facility Tier2 facility 10 Gbps link 2.5 Gbps link 622 Mbps link Other link Tier3 facility

September 22, Introduction to Grid Computing Для Информации l Globus Project – l Grid Forum – l Книга (Morgan Kaufman) –

Некоторые Определения The Globus Project Argonne National Laboratory USC Information Sciences Institute

September 22, Introduction to Grid Computing Некоторые Важные Определения l Ресурс l Протокол сети l Сервис, обеспечиваемый сетью l Интерфейс приложения - Application Programmer Interface (API) l Software Development Kit (SDK) l Синтаксис

September 22, Introduction to Grid Computing Ресурс l Всё, что можно использовать совместно –Компьютеры, накопители информации, данные, компьютерные программы и т.д. l Не обязательно должен быть физической единицей –Condor pool, distributed file system, … l Определяется интерфейсами, а не устройствами –планировщик (such as LSF and PBS) определяет комьютерный ресурс –Open/close/read/write определяет доступ к распределённой системе файлов, e.g. NFS, AFS, DFS

September 22, Introduction to Grid Computing Протокол сети l Формальное описание форматов сообщений и набор правил для обмена сообщениями –Правила могут определять последовательность обмена сообщениями –Протокол может определять изменение состояния ситемы в конечной точке (например, изменение состояния системы файлов) l Хорошие протоколы созданы с одной целью –Протоколы можно накладывать друг на друга l Примеры Протоколов –IP, TCP, TLS (was SSL), HTTP, Kerberos

September 22, Introduction to Grid Computing Сервис, обеспечиваемый сетью l Создание протокола, который определяет набор возможностей –Протокол определяет связь с сервисом –Все сервисы нуждаются в протоколе –Не все протоколы используются для предоставления сервиса(e.g. IP, TLS) l Примеры: FTP и Web серверы Web Server IP Protocol TCP Protocol TLS Protocol HTTP Protocol FTP Server IP Protocol TCP Protocol FTP Protocol Telnet Protocol

September 22, Introduction to Grid Computing Application Programming Interface (API) l Набор спецификаций для приложения –Относится к функциональному определению, а не к конкретному воплощению –Например, существует много воплощений MPI l Часто эти спецификации бывают привязаны к конкретному языку программирования –Название программы, количество и тип аргументов, определённые языковые конструкции –Поведение функции или программы l Примеры –GSS API (security), MPI (message passing)

September 22, Introduction to Grid Computing Средство для создания програмных продуктов (SDK) l Определённое воплощение API l SDK состоит из библиотек и программ –Представляет собой воплощение спецификаций API l Для одного API может быть много SDKs

September 22, Introduction to Grid Computing Синтаксис l Правила для расшифровки информации –XML, Condor ClassAds, Globus RSL –X.509 certificate format (RFC 2459) –Cryptographic Message Syntax (RFC 2630) l Не протокол ! –Один и тот же синтаксис может быть использован разными протоколами (e.g., XML); а также быть использован в других целях l Синтаксис может быть наложен один на другой –E.g., Condor ClassAds -> XML -> ASCII –Очень важно понимать концепцию наложения синтаксиса при сравнениях и оценке.

September 22, Introduction to Grid Computing Протокол может иметь множество APIs l TCP/IP APIs включают в себя BSD sockets, Winsock, System V streams, … l Протокол предоставляет совместимость: программы, использующие разные APIs, могут обмениваться информацией l Мне не нужно знать API другого пользователя TCP/IP Protocol: Reliable byte streams WinSock APIBerkeley Sockets API Application

September 22, Introduction to Grid Computing API может иметь много протоколов l MPI - портативно: любая правильная программа должна компилироваться и работать на любой платформе l Не предоставляет совместимость:все процессы должны использовать одинSDK – E.g., MPICH и LAM версии MPI Application MPI API LAM SDK LAM protocol MPICH-P4 SDK MPICH-P4 protocol TCP/IP Разный формат сообтщений, частоты обмена и пр.

September 22, Introduction to Grid Computing APIs и Протоколы очень важны l Стандартные APIs/SDKs важны –Они дают приложению портативность –Но без стандартных протоколов внутренняя совместимость невозможна (любой SDK понимет любой протокол?) l Стандартные протоколы важны –Дают внутреннюю совместимость независимости от месторасположения –Делают возможным совместные инфраструктуры –Но без стандартных APIs/SDKs становится невозможным портативность приложения (различные платформы работают с протоколами по-разному)

Архитектура Grid The Globus Project Argonne National Laboratory USC Information Sciences Institute

September 22, Introduction to Grid Computing Зачем обсуждать Архитектуру? l Описание –Предлoжить общие термины для обсуждения Grid систем l Направление работ –Определить основные области, требующие создания сервиса l Предопределение –Определить стандартные Intergrid протоколы и APIs для создания совместимых и портативных приложений

September 22, Introduction to Grid Computing Некоторые Требования l Идентификация l Авторизация&правила l Поиск ресурсов l Описание ресурсов l Резервирование ресурсов l Распределённые алгоритмы l Доступ к удалённым данным l Высоко-скоростная пересылка данных l Гарантирование производительности l Обнаружение несанкционированного доступа l Распределение ресурсов l Счета и оплата l Обнаружение неполадок l Эволюция систем l Мониторинг l И т.д. l …

September 22, Introduction to Grid Computing В итоге, Grid Архитектура, ориентированная на Протоколы: l Создание протоколов и сервисной оболочки Grid –Доступ к удалённым ресурсам через протоколы –Новые сервисы: предоставление ресурсов –работать в Grid = понимать Intergrid протоколы –В основном уже имеющиеся протоколы или их расширения l Создание Grid APIs & SDKs –Интефейсы к Grid протоколам и сервисной оболочкe –Помощь в создании приложений путём созданий абстракций на более высоком уровне l Модель, имеющая огромный успех - Internet

September 22, Introduction to Grid Computing Многоуровневая Архитектура Grid (По Аналогии с Архитектутой Интернета) Application Fabric локальный контроль над ресурсами: Доступ и контроль ресурсов Connectivity Коммуникация: коммуникация (Internet протоколы) & защищённость Resource Совместное использование одних ресурсов: доступ по договору, использование под контролем Collective Координация многочисленных ресурсов: специфические сервисы Internet Transport Application Link Internet Protocol Architecture

September 22, Introduction to Grid Computing Протоколы, Сервис и APIs находятся на каждом уровне Язык/Frameworks Fabric Layer Приложение Протоколы и APIs локального доступа APIs and SDKs общего сервиса Общий сервис Протоколы общего сервиса APIs and SDKs ресурсов Сервис ресурсов Протоколы сервиса ресурсов APIs связи Протоколы связи

September 22, Introduction to Grid Computing Важные моменты: l Основано на протоколах и сервисе Интернет –Связь, маршруты, определение имени, и т.д. lМногоуровневость здесь чисто концептуальна, НЕ накладывает никаких ограничений на то, кто какие функции может вызвать –Протоколы/сервис/APIs/SDKs в идеале, будут самодостаточны –Некоторые вещи здесь фундаментальны: например, коммуникация и защищённость –Привлекательно для функций высокого уровня использовать стандартные функции низкого уровня

September 22, Introduction to Grid Computing Модель Песочных часов l Фокус на вопросах архитектуры –Предлагаем набор основных сервисов как основы архитектуры –Использовать для создания решений высого уровня специфичных для домейна l Принципы дизайна –Минимизировать затраты –Локальный контроль –Модель IP песочные часы Diverse global services Core services Local OS A p p l i c a t i o n s

September 22, Introduction to Grid Computing Где мы сейчас с Архитектурой? l Не существует никаких официальных стандартов l НО: –Globus Toolkit является практически de facto стандартом для многих важных протоколов (связь, ресурсы и общие) –GGF имеет рабочую группу по архитектуре –Технические детали находятся сейчас в разработке: защищённость, управление ресурсами и данными, информационный сервис –Документы (в области безопасности) приняты к публикации в Интернете

September 22, Introduction to Grid Computing Fabric уровень Протоколы и сервис l Всё что можно ожидать: огромное разнообразие совместных ресурсов –ПК, файловые системы, архивы, каталоги метаданных, сети, сенсоры и т.д, и т.п. l Несколько ограничений на технологии низких уровней (Few constraints on low-level technology): протоколы связи и ресурсов являются узким местом l Определется интерфейсами, а не физическими характеристиками

September 22, Introduction to Grid Computing GSI: Уровень связи: Протоколы & Сервис l Коммуникация –Internet протоколы: IP, DNS, routing, etc. l Защищённость: Grid Security Infrastructure (GSI) –Единая идентификация, авторизация и защищённая передача сообщений –Однократный логин, делегирование, идентификация –Public key technology, SSL, X.509, GSS-API –Инфраструктура поддержки: централизованная выдача сертификатов, управление сертификатами и ключами, …

September 22, Introduction to Grid Computing GRAM, GridFTP, GRIS: Уровень ресурсов: Протоколы & Сервис l Grid Resource Allocation Management (GRAM) –Удалённые ресурсы : выделение, резервирование, мониторинг и управление компьютерными ресурсами –GridFTP протокол (FTP расширения) –Высокоскоростной доступ к данным и пересылка l Grid Resource Information Service (GRIS) –Доступ к информации l В проекте: доступ к каталогам, доступ к библиотеке програм, Catalog access, code repository access, и т.д. l Всё пострено на уровне: GSI & IP

September 22, Introduction to Grid Computing Общий Уровень: Протоколы & Сервис l Рапределение ресурсов (e.g., Condor Matchmaker) –Поиск и выявление ресурсов l Каталог реплик l Сервис копирования l Сервис по одновременному резервированию и выделению l И т.д. Condor:

September 22, Introduction to Grid Computing Пример: Data Grid Aрхитектура Приложение, специфичное для какой-то области Выбор реплики, управление заданием, виртуальный каталог данных, … Каталог реплик, управление репликами, выделение ресурсов, выдача сертификатов, каталоги метаданных Доступ к данным, доступ к компьютерам, доступ к информации о сети,.. Коммуникации, поиск сервиса (DNS), идентификация, авторизация, делегация Системы хранрния данных, кластеры, сети,... Collective (App) App Collective (Generic) Resource Connect Fabric

Проблема программирования The Globus Project Argonne National Laboratory USC Information Sciences Institute

September 22, Introduction to Grid Computing Проблема программирования l Как мне создать надёжное, долговременное, высокоэффективное приложение для динамичных и разнородных Grids? l Для этого мне нужно: –Абстракции и модели чтобы ускорить/улучшить сам процесс –Набор програмных средств для диагностики проблем и упрощения написания программы –Создать универсальные средства, чтобы было возможно использование некоторых компонент другими

September 22, Introduction to Grid Computing Технологии Программирования в Grid l Grid приложения - очень разнообразны (данные, сотрудничество, вычисления, мониторинг,...) –Невозможно найти единое решение l Многие приложения были написаны с нуля используя или не используя возможности Grid l Библиотеки приложений показали свою действенность/полезность l Не придуманы ещё ни новые языки, ни модели программирования, которые бы решили проблему Grid –Но, в принципе, это ещё возможно

September 22, Introduction to Grid Computing Примеры Програмных Технологий в Grid l MPICH-G2: адаптированный для Grid MPI l CoG Kits, GridPort: идея портала, основано на N- уровневой архитектуре l GDMP, Data Grid Tools, SRB: управление репликами, набором данных l Condor-G: управление процессом расчётов l Legion: объектные модели для программирования в Grid l Cactus: адаптированные для Grid набор средств для решения численных задач –Обратите внимание на огромное разнообразие средств (все ориентированны на определённое приложение)

September 22, Introduction to Grid Computing MPICH-G2: MPI, Aдаптированный для Grid l Полная версия Message Passing Interface (MPI) для разнородных вычислительных платформ –Основано на версии MPICH (ANL, Gropp and Lusk) l Использует сервис для идентификации, выделения ресурсов, запуске программ, пересылка результатов, и т.д. l Программы работают в глобальной сети без каких-либо изменений

September 22, Introduction to Grid Computing Высоко-эффективные вычисления и Кондор l Высоко-эффективные вычисления –CPU работает дни (недели, месяцы, год?) при не самых благоприятных условиях –Сколько раз в месяц я могу запускать программу Х на счёт, используя все имеющиеся компьютеры? l Кондор превращает набор независимых компьютеров и компьютерных кластеров в расперделённую единую высоко-эффективную компьютерную систему l Упор сделан на надёжность и соблюдение правил

September 22, Introduction to Grid Computing Порталы l N-уровневая архитектура, где средние уровни используют функциональность Grid –Лёгкие приложения = web browsers –Средний уровень = e.g. Java Server Pages, с набором средств Java CoG Kit, GPDK, GridPort –Нижний уровень = различные ресурсы Grid l Многочисленные приложения и проекты –Unicore, Gateway, Discover, Mississippi Computational Web Portal, NPACI Grid Port, Lattice Portal, Nimrod-G, Cactus, NASA IPG Launchpad, Grid Resource Broker, …

September 22, Introduction to Grid Computing За всем этим стоит единый набор програмных средств l Каждый из перечисленных проектов не создавал протоколы и пр. с нуля! l Использовался единый набор средств, который… –Имеет все основные функции >SDKs который может быть использован для создания различных програмных продуктов >Стандартный сервис, который легко установить –Надёжный, правильно спроектированный, не противоречащий себе –Является бесплатным, широко доступным l Всем этим требованиям отвечает Globus Toolkit…

Введение в набор програмных средств Глобус ( The Globus Toolkit) The Globus Project Argonne National Laboratory USC Information Sciences Institute

September 22, Introduction to Grid Computing Globus Toolkit l Набор програмных средств, решающий основные технические проблемы при создании програмного обеспечения для Grid –Предлагает пакетный набор средств –Позволяет поэтапное создание програмных средств и приложений для Grid –Воплощает стандртные Grid протоколы и APIs –Доступен бесплатно для всех (Оpen source)

September 22, Introduction to Grid Computing Общий подход l Определить Grid протоколы & APIs –Доступ к удалённым ресурсам посредством протоколов –Интегрировать и расширить имеющиеся стандарты l Создать соответсвующий набор средств –Доступный всем Globus Toolkit –Набор утилит, SDKs, сервис, и т.д. l Адаптировать для Grid множество известных приложений –Globus Toolkit, FTP, SSH, Condor, SRB, MPI, … l Учиться на своём опыте

September 22, Introduction to Grid Computing Основные протоколы l Глобус (The Globus Toolkit) основан на четырёх основных протоколах –Уровень связи: >защищённость: Grid Security Infrastructure (GSI) –Уровень ресурсов: >Управление ресурсами: Grid Resource Allocation Management (GRAM) >Информационный сервис: Grid Resource Information Protocol (GRIP) >Пересылка данных: Grid File Transfer Protocol (GridFTP) l Также основные протоколы общего уровня –Информационный сервис, управление репликами, и т.д.

September 22, Introduction to Grid Computing Grid Security Infrastructure (GSI) l Глобус использует протоколы и APIs GSI для создания защищённости l GSI протоколы расширяют стандартные протоколы public key –Стандарты: X.509 & SSL/TLS –Расширения: X.509 Proxy Certificates & Delegation l GSI расширяет стандратное GSS-API

September 22, Introduction to Grid Computing Управление ресурсами l The Grid Resource Allocation Management (GRAM) протокол и API позволяет запуск програм на удалённых компьютерах, управление этими программами – несмотря на локальные особенности и неоднородность l Resource Specification Language (RSL) ипользуется для передачи информации/требований на удалённый ресурс l Многоуровневая архитектура позволяет конкретным приложениям специфицировать требования выделения ресурсов в терминах GRAM –Используется в Кондоре, PBS, MPICH-G2, …

September 22, Introduction to Grid Computing Доступ к данным и их пересылка l GridFTP: расширенная версия популярного FTP протокола для доступа к данным на Grid l Надёжный, эффективный, гибкий, параллельный, одновременный, и т.д.: –Пересылка данных третьими лицами, пересылка неполных файлов –Параллельность, striping (e.g., на параллельных файловых системах PVFS) –Надёжная, возобновляемая пересылка данных l Соответствующее воплощение –Существующие клиенты и серверы: wuftpd, ncftp –Гибкие, расширяемые библиотеки в Глобусе (Globus Toolkit)

September 22, Introduction to Grid Computing Выводы l Проблема Grid: Совместное использование ресурсов и координированное решение задач в динамических, много-профильных виртуальных организациях l Архитектура Grid делает упор на системную проблему –Протоколы и сервисы – для совместимости програмных продуктов и совместных инфраструктурных сервисах l Globus Toolkit: APIs, SDKs и програмные продукты, основанные на протоколах и сервисе Grid –Предлагает програмную инфраструктуру для набора програмных средств для решения проблемы программирования