msdevcon.ru#msdevcon

Разработка отказоустойчивой облачной архитектуры Антон Видищев

Руководитель команды, Edgar Online, RR Donnelley Company Windows Azure MVP

Почему архитектура должна отличаться?

Многие из существующих подходов и паттернов не решают задачу отказоустойчивости и масштабируемости Отрасль высоконагруженных приложений молода, и общепринятые подходы еще не выработаны

Дизайн под рабочие нагрузки Design for Workload

Сценарий: Интернет-магазин

Основные типы нагрузки Просмотр товаров и поиск - Browse & Search Оплата и управление - Checkout & Management

Модель жизненного цикла В годовом разрере

Модель жизненного цикла В недельном разрере

Модель доступности и SLA

The 9s - Девятки Доступность %Отказ в годОтказ в месяцОтказ в неделю 90% («одна девятка»)36.5 дней72 часов16.8 часов 95%18.25 дней36 часов8.4 часов 97%10.96 дней21.6 часов5.04 часов 98%7.30 дней14.4 часов3.36 часов 99% («две девятки»)3.65 дней7.20 часов1.68 часов 99.5%1.83 дней3.60 часов50.4 минут 99.8%17.52 часов86.23 минут20.16 минут 99.9% («три девятки»)8.76 часов43.2 минут10.1 минут 99.95%4.38 часов21.56 минут5.04 минут 99.99% («четыре девятки»)52.56 минут4.32 минут1.01 минут % («пять девяток")5.26 минут25.9 секунд6.05 секунд

Как посчитать свой SLA?

Связи с внешними сервисами Каков тип сервиса (party, commercial/public) Есть ли ограничения по количеству API-вызовов? Есть ли ограничения по частоте API-вызовов? Есть ли черные/белые списки? Каков SLA? Есть ли публичная ифнормация о качестве соблюдения SLA? Предоставляет ли сервис данные о своем здоровье? Предоставляет ли сервис данные напрямую или аггрегирует данные? Есть ли аналогичные сервисы?

Определяем точки отказа приложения Соединения с хранилищем данных Подключения к веб-сервису Конфигурационные файлы Внутренние взаимодействия Аутентификация

Автономность

Автономные модули приложения Имеют высокую доступность Имеют низкий риск полного отказа Легко масштабируются репликацией Предоставляют данные о собственном здоровье Редко требуют ручного вмешательства

Обработка отказов приложения

Обрабатываем отказы Асинхронность по умолчанию Тайм-ауты Обеспечиваем «мягкую» деградацию

Подходы к обработке отказов Логика повторений (Retry logic) Постепенное замедление (Exponential Back-Off) Идемпотентность Компенсирующее поведение Очереди!!!

Шаблон «Предохранитель» Circuit Breaker pattern

Предохранитель в Netflix Анализирует уровень ошибок в минуту Запрос истек по тайм-ауту Пул потоков и очередь задач заполнены на 100% Клиентская библиотека выбросила исключение на запросе При превышении критического уровня ошибок выбирает одну из стратегий обрыва: Custom Fallback Fail silent Fail fast

SLA для внешних сервисов

Что принять во внимание Белые списки Обработка Bad actors Торможение Черные списки

Автоматизируем всё! Automate all the things!

Определение вычислительной избыточности

Стратегии разбиения данных

The 3 Vs Volume Velocity Variety

Горизонтальное разделение Horizontal partitioning

Вертикальное разделение Vertical partitioning

Гибридное разделение Hybrid partitioning

Кэширование

Кэширование – техники, позволяющие снизить latency при доступе к данным Сессии Distributed caching Temporary data stores Web Caching CDNs

Кэширование Типы данных

Техники работы с разделяемыми данными Скрытие деталей Взаимозаменяемые ресурсы

Design for Operations

Сбои будут происходить, это неизбежно Нужно быть готовыми к сбоям и обеспечить возможность быстрого восстановления По возможности, нужно стараться предугадывать возможные сбои, опираясь на метрики диагностики

Health Model Обеспечьте высокий уровень логирования и сбора диагностики Введите метрики состояния модуля, минимум три Healthy Partially Healthy Unhealthy Определите интерфейсы для получения здоровья модуля Определите интерфейсы для получения детальной диагностики Определитe интерфейсы для восстановления здоровья (restart/reimage)

Обеспечьте телеметрию работы приложения Azure Management Portal MetricsHub Свои решения

Полезные материалы Failsafe: Guidance for Resilient Cloud Architectures Failsafe: Architecture and Patterns Failsafe: Building Scalable, Resilient Cloud Services

Вопрос: В чем суть подхода Exponential Back-Off? facebook.com/groups/azurerus / Ответы пишите в сообществе: Внимание - конкурс!

Круглый стол Windows Azure «Облака: второе дыхание для ваших решений» Приглашенные эксперты: Иван Бодягин. Заместитель директора по исследованиям и разработкам. Abbyy Денис Смирнов. Директор отдела цифровых изданий. Sanoma Independent Media 21:00 «Сосновый бор»

Контакты Антон Видищев Edgar Online

msdevcon.ru#msdevcon