Профилирование Эрливидео Макс Лапшин max@erlyvideo.org. - презентация

1 профилирование Эрливидео Макс Лапшин

2 Эрливидео Потоковое видео Разные протоколы: MPEG-TS, RTMP, … Высокая эффективность

3 Разные нагрузки Тысячи пар: один источник, один клиент Один источник, тысячи клиентов

4 Видео Один поток: 50 кадров/сек, 500 КБит/с 2000 клиентов кадров/сек. Суммарно 1 ГБит/с

5 RTMP У каждого клиента своё Каждому клиенту своя копия потока Данные общие, заголовки разные

6 RTMP Скорости не хватает клиент залипает Ошибка в тайстемпе клиент залипает Клиент залипает надо что-то делать

7 Рост эрливидео Начались проблемы на 800 клиентах Неверная архитектура Пришлось профилировать

8 Профилирование Девелопмент одно продакшн другое Разные версии клиентов Разные скорости каналов Разные задержки на каналах

9 Профилирование Профилирование на продакшне Не отключая пользователей Без деградации системы

10 Инструменты Valgrind и профилировщики тормозят систему gdb вносит искажения в код

11 Инструменты Erlang предлагает другие подходы к профилированию

12 Erlang Данные и потоки выполнения объединены, как процессы ОС Обмен асинхронными сообщениями Message box у каждого процесса

13 Erlang Все данные немутабельные Процесс рекурсивная функция, вызывающая себя с новым значением

14 Erlang Один процесс под каждого клиента Один процесс под каждый «объект» Вызовы методов строго последовательны

15 Lowload Процесс-«поток» шлет сообщения процессам-«клиентам» Клиенты упаковывают RTMP сами в системе FPS*N сообщений

16 Тормоза Начинаются «лаги» и «залипание» Куда смотреть? Что мерять?

17 Мониторинг Меряем очереди сообщений erlang:process_info(Pid,message_queue _len)

18 Мониторинг Меряем загрузку CPU etop:start() мониторим общую память процессов

19 Узкие места В узких местах накапливаются сообщения Растет CPU, потребляемый процессом Накапливается память

20 Узкие места Процессу не хватает одного ядра Недообрабатывает сообщения Накапливается память Встают в ожидании клиентские процессы

21 Как боролись? Уменьшили количество сообщений Прямая запись в сокет Распараллелили запись в сокеты по ядрам

22 Результат Во много раз увеличили количество одновременных клиентов

23 Рекомендации Планировать количество проходящих сообщений Уменьшать работу внутри вызываемого процесса Раскладывать работу по процессам расползутся по ядрам

24 Выводы Профилировка приложений на erlang возможен без деградации качества обслуживания Методы поиска проблем несложны и эффективны

25 Вопросы? Макс Лапшин