Вы кеши продаете? Нет, просто показываем

В Додо есть частые запросы, причем бывает, что с телом ответа в несколько мегабайт (например, столько весит меню для мобильного приложения). При росте пользовательской базы (и увеличении количества запросов), в команде столкнулись с проблемой — сервера перестали справляться. Добавлять новых серверов не хотелось и в итоге сели за кеширование.

Антон и Андрей хотят рассказать:

• какие пути прошли кеширования данных (внутренние in-memory и распределенные кеши, кеширование ответов на стороне приложения, кеширование на nginx);
• какие проблемы поймали с каждыми из них;
• как сделали так, что самый частый запрос к API сайта работает совсем без кешей;
• что планируют делать дальше.

Доклад будет интересен для тех, кто создает массовые сервисы с большим количеством пользователей.