Архитектура Azul Systems Евгений Кузаков Руководитель направления ЦОД

2 JAVA – бизнес-платформа 1

3 Параллельная обработка данных Большие объемы данных Надежность Коммерческая ориентированность Производительность Ограничения по памяти Невозможность гарантировать SLA Ресурсоемкость, раздутие архитектуры Платформонезависимость Сложная настройка JAVA – бизнес-платформа 1

Единственный в индустрии аппаратный Pauseless Garbage Collector, позволяющий работать со структурами данных >2ГБ Моментальное перераспределение ресурсов дает возможность предоставлять гарантированный SLA Прозрачная синхронная выгрузка с Linux, Solaris, HP/UX, IBM AIX и Windows Одновременная работа приложений на Java 1.4, 1.5 и 1.6 Технологии, позволяющие сочетать мощность, небольшие размеры и низкое энергопотребление Azul Compute appliance - NAP 4

5 AZUL – JVM в кремнии 54-х ядерный процессор До 16-ти процессоров Управление распределенной памятью До 864 ядер и 768 Гб ОЗУ в одном устройстве Поддержка на аппаратном уровне: – Garbage collector – Управление памятью – Optimistic thread locking («оптимистичный алгоритм блокировки»)

6 Processing Complex ECC caches ECC interconnects ОЗУ ECC Транзакционная память Chipkill Scrubbing Power Supplies N+1 Hot Pluggable Fat Assemblies N+1 Hot Pluggable Network Processors Redundant system monitoring Predictive fault notification Dynamic reconfiguration around failure Аппаратные компоненты Azul

7 15 перекрестных связей между процессорами До 16 процессоров и 864 ядер Двойной гигабитный Ethernet-канал Сетевой процессор Двойной гигабитный Ethernet-канал Сетевой процессор

8 Azul VM Software Суперкомпьютер Azul Уровень хранения данных Уровень представления данных App Server Hosts Вычислительный уровень

9 Web Server Operating System Главный компьютер Классическая архитектура JVM Native Libraries mylib.so Networking Database Storage NFS Java Application Classes Application Server Classes J2SE Classes (Java API) Config.xml File I/O Network I/O OS calls TCP/IP

10 Operating System Virtual Machine Engine Главный компьютер JNI calls Использование Azul Virtual Machine Proxy Java Application Classes J2SE Classes (Java API) Суперкомпьютер Azul File, Network I/O calls Proxy Interface Web сервер Сеть Engine Interface Application Server Classes NFS (Сетевая файловая система) OS calls Native Libraries mylib.so Azul VM База данных Хранилище File I/O Network I/O OS calls Config.xml

Возможности Azul: Pauseless Garbage Collection Performance Impact Complexity Impact Native Configuration -Xms2g -Xmx2g -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:TargetSurvivorRatio=80 -XX:CMSInitiatingOccupancyFraction=85 -XX:SurvivorRatio=8 -XX:MaxNewSize=320m -XX:NewSize=320m -XX:MaxTenuringThreshold=10 Azul Configuration -Xms3g –Xmx3g

Возможности Azul: Оптимистичная конкуренция «нитей» optimistic thread concurrency (OTC) Предполагается, что конкуренции за разделённый сегмент памяти никогда не происходит Если таковое случается, то происходит откат (происходит аппаратно – «бесплатный» rollback) Это возможно за счёт использования транзакционной памяти

Возможности Azul: Azul Virtual Machine (AVM) Большой объём памяти 32Bit AVM: 6Гб 64Bit AVM: 600Гб До 600Гб на приложение!

14 Аппаратное разделение приложений Гарантированные резервные ресурсы для приложений Обеспечение «совместных» ресурсов (память и ядер) при высокой нагрузке Управление политиками QOS CPM: Эффективное управление ресурсами Возможности Azul: C ompute Pool Manager(CPM)

Управление Azul Compute Appliances Активация и деактивация аппаратных ресурсов Мониторинг жизнедеятельности системы Внешняя интеграция (SNMP, LDAP) Мониторинг производительности Утилизация ресурсов Azul Applicance Ресурсы приложений Управление выделением ресурсов Создание политик по размещению ресурсов Динамическое изменение политик OutOfMemoryException? Возможности Azul: C ompute Pool Manager(CPM)

Before: Servers busy routing packets After: Servers only route external packets Azul Compute Appliances Web TierDatabase Tier Proxy servers VM Proxy App Instance A App Instance C App Instance B VM Proxy Before: latency of 2-3 network hops per message After: 0-1 hop network latency Возможности Azul: DirectPath – уменьшение сетевых «хопов»

Возможности Azul: DirectPath Initiate Azul Compute Appliances Web TierDatabase Tier Proxy servers VM Proxy App Instance A App Instance C App Instance B VM Proxy Base TCP/IP communication mechanism Type 4 jdbc drivers Oracle, etc. Java based messaging products TIBCO EMS AMQP

© 2006 Azul Systems, Inc. | Confidential Возможности Azul: VM to VM I/O With Aztek DirectPath Proxy Host 1 Single Appliance Proxy Host 2 JVM Proxy 1 JVM Proxy 2 AVM 1 AVM 2 Client side Connect Write/Read (shared mem) Server side Accept Read/Write (shared mem) 150Гбит!

Возможности Azul: High Availability Heartbeats

Возможности Azul: REALTime Performance Monitor 20 Информация о потоках Имя класса Статус потока I/O статистика Вызовы прокси Информация о кеше Критические сессии Имя монитора Время ожидания Мониторинг ОЗУ Статистика загруженности Информация о выделенных объектах

Приложения, идеально подходящие для Azul Приложения, обеспечивающие сервисы для большого количества пользователей Большинство приложений, работающих на WebLogic, WebSphere, JBoss, etc. Многопоточные Java-приложения с высоким уровнем параллельности Критичные времени отклика приложения Приложения, требующие больших размеров памяти(heap size) Приложения, часто вызывающие паузы garbage collectorа Шаги по большей оптимизации приложений Увеличение heap size для лучшего кэширования,ёмкости,производительности Модификация приложений для увеличения многопоточности

22 Business/Economic/Ecological Value 70 x 2-socket dual core x86 24 Sun V440 Servers Before Azul After Azul Performance Benefit Power Saving s Cost Saving 40% higher throughput 3.5X faster response time 55%35% 5x Higher throughput 18X faster response time 50%35% 18.75X higher throughput 6.83x faster response time 45%30% 16 Sun T2000

Sun Fire v440Azul Количество серверов306 Максимальная нагрузка Время откликарастет с количеством пользователейКонстанта Энергопотребление> 17 кВт< 4,5 кВт Модернизация Неэффективное добавление дополнительных серверов. Полная замена оборудования на более мощное и значительно более дорогое Добавление дополнительных прокси-серверов Крупная западная медиа-компания Результаты масштабирования портала 23

24 Внедрения у Заказчиков

Подход Azul Systems: Proof of Concept Почему? Даст Azul эффект или нет – зависит от конкретного приложения Пилот покажет реальные результаты «Sizing»

Итоги Гарантированное время отклика/производительность приложений – Беспаузный Garbage Collector – Optimistic thread concurrency – Compute Pool Manager Консолидация Сокращение операционных расходов – экономия на энергопотреблении – не требует резервного копирования – обслуживание многих серверов существенно дороже Колоссальные возможности разработки сложных приложений – большой объём ОЗУ, доступный Java-приложениям – эффективные инструменты диагностики приложений Простое внедрение

Ответы Вопросы?

Спасибо за внимание! Евгений Кузаков Руководитель направления ЦОД