Александр Сербул Руководитель направления контроля качества интеграции и внедрений Мониторинг веб-проектов: штаб оперативного реагирования и аналитический. - презентация

1 Александр Сербул Руководитель направления контроля качества интеграции и внедрений Мониторинг веб-проектов: штаб оперативного реагирования и аналитический центр

2 Клиенты чутко реагируют на доступность и скорость веб-проекта – днем … и ночью Вашу веб-систему есть с чем сравнить - Google, Facebook, Twitter … Вас рассматривают «под лупой», обсуждая недостатки в соцсетях и Twitter! А зачем мониторить веб-проекты?

3 «У них сайт часто зависает и глючит. В делах, видимо, еще больший бардак!» «Они потеряли мои данные. Как скоро их ждать на диске на Горбушке?» У Клиентов обострился вкус на качество веб- систем, они ждут больше и «чтобы побыстрее» А зачем мониторить веб-проекты?

4 Часть бизнес-процессов компании/проекта завязана на веб-интерфейс – узкое место Чем медленнее веб-админки, тем медленнее работает ваш бизнес Весь офис вышел «покурить»

5 Отдел продаж в конце месяца – «завесил» 20 образовательных проектов на сутки При начислении зарплаты – сайты открываются по минуте База данных «внезапно» перестала справляться с нагрузкой… Канал просел… Провайдер заглючил… Ой, мощностей не хватает со вчера!

6 Веб-лицо компании/проекта – должно нравиться и располагать к действию!

7 Клиент должен ощущать надежность веб-решения, легкость и стиль Красный «кабриолет» Зеленый «лимузин»

8 Сотрудник/группа эксплуатации – с подлинным техническим образованием Люди либо с опытом, либо … учатся на вашем проекте и Клиентах Админ «Петя» за $500 и телефон подключит, и … сервера настроит Прежде всего - люди

9 Понимание Unix/Linux изнутри и сетевых протоколов, RFC Способность иногда «программировать» на bash (приветствуется - perl, C и др.) Некий «гибрид» разработчика и администратора «Ищем сисадмина: Windows Visa/7/Free BSD/Open BSD/Net BSD/Solaris/Cisco/IP телефония, С, С++, Java. Умение верстать, JS, разбираться в чужом коде, таскать коробки и работать в Agile команде» Прежде всего - люди

10 Подход «жертвы»: «Вы скажите, позвоните, напишите, напомните – мы же умные, мы - сделаем». Сделают, но Клиент уже прокатится на «красном кабриолете» «Ой, мы потеряли данные клиентов. Сейчас настроим бэкап» «Сейчас все сделаю и за полдня – все заново протестирую» Стиль работы – «Ослик»

11 Проактивность. Узнать раньше Клиента о проблеме или одновременно. Скорость. Автоматизировать решение типовых задач – не тянуть резину по 2-3 дня. Системный подход. Не наступать на одни грабли 2 раза подряд. Фиксировать детали аварии. Заглядывать за горизонт. Сбор и анализ трендов, закупка оборудования, увеличение мощностей. Стиль работы – «Штурман»

12

13 Дальше – детали и технический хардкор

14 Наличие свежих бэкапов! Учения по восстановлению из бэкапов – прошли недавно, успешно Доступность «морды» сайтов – снаружи. Желательно из нескольких точек (ping-admin.ru, host-tracker.com …) Срок действия SSL-сертификатов Доступность «админок» – изнутри … Наличие свежих бэкапов! Что мониторим прежде всего?

15 Nagios ( Zabbix ( Регистрация событий в журнале для аудита и анализа, /SMS – уведомления, свои обработчики событий. Чем мониторим

16 Заведите машину мониторинга, если проектов много, «копейка рубль бережет» Важно мониторить сам сервер мониторинга из другого ДЦ Чем мониторим

17 Что мониторить на сервере Базовые тесты сервера – ставим везде Тесты критичного софта – иногда Тесты mysql и другой БД – отдельная интересная тема для DBA «Комплексные» тесты – ставим на машину мониторинга

18 Базовые тесты сервера Минимум, без которого - ну никак нельзя vmstat

19 Тесты критичного софта Для критичного софта: считаем число процессов, объем RSS, %CPU, process system/user time

20 Тесты БД Привожу пример для MySQL

21 Мониторинг MySQL Гистограмма времени обработки запросов (Percona)

22 Мониторинг операционной системы Очень полезные утилиты: atop, apachetop, innotop atop (

23 Мониторинг операционной системы apachetop (freecode.com/projects/apachetop) – гистограмма запросов к apache - онлайн

24 Мониторинг БД innotop (code.google.com/p/innotop)

25 Мониторинг веб-приложения Лог работы скрипта (>) – обновился за N часов Лог ошибок работы скрипта (2>) – должен быть пуст

26 Pinba! Плагин для PHP + cпециальный storage для MySQL Онлайн агрегатор хитов UDP-пакеты Тэги позволяют гибко получать информацию о различных показателях веб-приложения Уже установили? Правильно

27 Мониторинг веб-приложения Число ошибок в хитах за 15 минут - меньше L Макс. время хита (тэга pinba) – меньше M сек. Макс. использование памяти хитом – меньше N МБ Графики рисует простой плагин для munin

28 Мониторинг веб-приложения Графики рисует простой плагин для munin «Стоимость» хита в процессором времени - pinba

29 Мониторинг веб-приложения Графики рисует простой плагин для munin Хиты в разрезе - pinba

30 Мониторинг веб-приложения Гистограммы распределения времени хитов, памяти, кодам ответа – из логов (awk-скрипт) Общая температура «по палате»

31 Аналитика Видим, что было Предвидим, что будет Улавливаем тренды Планируем мощности железа Сравниваем настройки софта Веб-система перестает быть черным ящиком, видно ее развитие с течением времени

32 Аналитика Апачи MaxClients = StartServers = MinSpareServers = MaxSpareServers < 20-30

33 Аналитика Nginx

34 Аналитика - MySQL Следите за числом потоков на БД! 100 уже немало

35 Аналитика - MySQL Кэш запросов иногда эффективнее отключить

36 Аналитика - MySQL Медленные запросы – часто признак проблемы

37 Аналитика Память Apache MaxClients MySQL buffers … Нужно «прикинуть» максимальный расход памяти в приложениях и следить за ней

38 Аналитика Уход в swap. На графике машина - зависла. Скорость работы с диском на несколько порядков ниже. Нужно стараться избегать своппинга.

39 Аналитика Дисковая подсистема

40 Аналитика Дисковая подсистема iostat

41 Аналитика Сеть

42 Аналитика Нагрузка

43 Аналитика Нагрузка

44 Аналитика memcached

45 Действия при аварии Нужно быстро понять – где и как починить Смотрим срабатывание тестов nagios – часто единственный источник информации Смотрим почту от nagios Смотрим логи. Держим заготовленные скипты-парсеры логов на поиск ошибок. Вот тут наливаем чай Смотрим графики munin, базу pinba Если получается, запускаем инструменты поиска узких мест

46 Инструменты поиска узких мест Apache /server-status Включенные логи медленных запросов php-fpm, nginx, apache, mysql

47 Инструменты поиска узких мест XHProf, pinba, XDebug

48 Инструменты поиска узких мест XHProf (github.com/facebook/xhprof) Почти не создает нагрузку на бою Можно быстро найти корень проблемы Полезно автоматически сохранять трейсы долгих страниц … и анализировать их с разработчиками

49 Инструменты поиска узких мест XDebug (xdebug.org) Cоздает ощутимую нагрузку на бою Можно снимать трейсы выполнения веб-страниц Часто – незаменимый инструмент

50 Инструменты поиска узких мест Старые, добрые утилиты unix strace gdb gdb –p (gdb) source /src/php /.gdbinit (gdb) dump_bt executor_globals.current_execute_data [0x0252d628] stemming() /var/www/html/bitrix/modules/search/tools/stemming.php:231 [0x0252bc78] stemming() /var/www/html/bitrix/modules/search/classes/mysql/search.php:1090 [0x02525ec8] StemIndex() /var/www/html/bitrix/modules/search/classes/general/search.php:1332 [0x025223f8] Index() /var/www/html/bitrix/modules/iblock/classes/general/iblockelement.php:4857 [0x0251b670] UpdateSearch() /var/www/html/bitrix/modules/iblock/classes/general/iblockelement.php:3295 [0x02519c40] Add() /var/www/html/bitrix/modules/crm/classes/general/crm_webdav_helper.php:486 [0x ] Save Attachment() /var/www/html/bitrix/modules/crm/classes/general/crm_ .php:867 [0x065c2030] MessageAdd() [0x0250fcc8] call_user_func_array() /var/www/html/bitrix/modules/mail/classes/general/mail.php:2477 …

51 Автоматизация жизнеобеспечения Пишем хандлеры для nagios/zabbix Можно поиграться с Pacemaker Чем проще – тем лучше! С удовольствием пообщаюсь на эту тему в кулуарах

52 Спасибо за внимание! Вопросы? Александр