Особенности архитектуры digg.com
16 февраля 2009 года
Представлен обзор особенностей архитектуры digg.com, составленный на основе выступления главного архитектора Digg на конференции Web 2.0 Expo. digg.com входит в 100 самых посещаемых ресурсов сети, обслуживая в пиках до 27 тыс. запросов в секунду.
- Используется Debian Linux, MySQL, Apache2, FastCGI и PHP. Для кеширования задействован Memcached, для оптимизации производительности скриптов - APC PHP Accelerator;
- Главное узкое место - ввод/вывод, производительности PHP скриптов вполне хватает.
- Данные хранятся в децентрализованном виде, причем в дополнение к типичному горизонтальному масштабированию разделения данных по машинам (наборы записей по определенному признаку распределены по серверам), задействована методика вертикального масштабирования хранения данных, при которой практикуется разделение столбцов по разным таблицам. Например, при появлении необходимости добавления дополнительных столбцов, они создаются в новой таблице, не требуя реструктуризации базы. Данные распределены по нескольким кластерам: действия пользователей, база аккаунтов, комментарии и т.п. Разрозненность хранения скрыта за единым API, манипуляции с СУБД максимально упрощены, все что можно вынесено на плечи PHP скриптов.
- Для оптимизации операций чтения данных используется репликация MySQL;
- Широко используются асинхронные очереди операций. Для формирования блока данных запросы к разным СУБД производятся в параллельном режиме;
- Для хранения пиктограмм и фотографий задействована распределенная файловая система MogileFS;
- Многоуровневая система кеширования, в памяти и файлах. Часто меняющиеся данные кешируются через memcached, редко - через файловый кеш средствами APC PHP Accelerator.
- В настоящее время производится переход на использование MemcacheDB для оптимизации операций, требующих интенсивной записи в MySQL. Часть данных из MySQL будет перенесено в MemcacheDB, обеспечивающем, при неизменном с Memcached протоколе, гарантирование хранение данных на диске в Berkeley DB базе с поддержкой создания распределенных хранилищ.
Источники[править]
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии[править]
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.
