Вопросы на собеседовании по System Design
281 вопрос с реальных собеседований в 29 подтемах. У первых вопросов каждой подтемы — короткий ответ и источник.
Требования и оценка нагрузки
9 вопросовЧем функциональные требования отличаются от нефункциональных и почему архитектуру определяют вторые?
Короткий ответ
Функциональное требование говорит, что система делает: создать короткую ссылку, перенаправить по ней, показать статистику переходов. Нефункциональное задаёт, насколько хорошо она это делает: задержка на заданном процентиле, поток запросов, доступность, допустимая потеря данных, согласованность, стоимость, безопасность. Рабочим нефункциональное требование становится, когда у него есть число и окно измерения.
Источник: docs.aws.amazon.com
Какие параметры системы нужно выяснить, прежде чем предлагать архитектуру?
Короткий ответ
Нужно выяснить критические сценарии, масштаб, соотношение чтения и записи, данные, задержку, доступность и восстановление, согласованность, географию и ограничения, потому что каждое из них отбрасывает часть вариантов:
Источник: learn.microsoft.com
Как из числа активных пользователей получить средний и пиковый поток запросов в секунду?
Короткий ответ
Средний поток = активные пользователи в сутки × запросов на пользователя ÷ секунд в сутках. В сутках 86 400 секунд (в уме для прикидки берут около 10⁵, ниже считаем по точному значению).
Источник: sre.google
Масштабирование и доступность
14 вопросовЧем вертикальное масштабирование отличается от горизонтального и когда первое разумнее?
Короткий ответ
Вертикальное масштабирование увеличивает мощность одного узла: больше ядер, памяти, быстрее диски. Горизонтальное добавляет узлы и делит нагрузку между ними.
Источник: learn.microsoft.com
Почему stateless-сервис масштабируется горизонтально проще всего и куда при этом уходит состояние?
Короткий ответ
Экземпляр сервиса без состояния не хранит между запросами ничего, что понадобится следующему запросу. Поэтому любой экземпляр обслужит любой запрос. Балансировщик может отправить запрос куда угодно, без привязки клиента к экземпляру. Экземпляры можно добавлять и убирать в любой момент, и новый сразу получает свою долю трафика. Отказ экземпляра теряет только запросы, которые он обрабатывал в этот момент.
Источник: 12factor.net
В чём трудность горизонтального масштабирования stateful-сервиса?
Короткий ответ
У сервиса с состоянием экземпляры не взаимозаменяемы: запрос нужно отправить туда, где лежат его данные. Добавить узел недостаточно, данные надо либо разделить, либо скопировать, и у каждого пути своя цена.
Источник: learn.microsoft.com
Что такое привязка сессии к экземпляру (sticky sessions) и чем она мешает масштабированию и отказоустойчивости?
Короткий ответ
Привязка сессии (session affinity) — режим балансировщика, при котором запросы одного клиента всегда попадают на один и тот же экземпляр. Клиента узнают по cookie, выданному балансировщиком, или по хешу адреса. Нужна она, когда сессия хранится в памяти экземпляра.
Источник: learn.microsoft.com
Как найти узкое место системы под нагрузкой и почему масштабировать нужно именно его?
Короткий ответ
Нагрузочным тестом с ростом нагрузки находят точку, где пропускная способность перестаёт расти, и проходят по всем ресурсам методом USE (загрузка, насыщение, ошибки); масштабировать нужно ресурс, который насыщается первым.
Источник: brendangregg.com
CAP и модели согласованности
9 вопросовЧто утверждает теорема CAP и в какой именно момент системе приходится выбирать?
Короткий ответ
Теорема (гипотеза Брюера, доказанная Гилбертом и Линчем в 2002 году; здесь — в их изложении 2012 года) утверждает: в сети, где сообщения между узлами могут теряться, невозможно реализовать атомарный (линеаризуемый) регистр чтения-записи, который отвечает на каждый запрос, пришедший на работающий узел.
Источник: groups.csail.mit.edu
Почему распределённую систему нельзя честно отнести к классу CA?
Короткий ответ
Потому что разрыв сети нельзя исключить, а при разрыве выбор сводится к C или A. P в CAP — свойство среды, в которой работает система: сообщения между узлами теряются и задерживаются. Разработчик не выбирает, будут ли разрывы, он выбирает только поведение системы, когда разрыв случился. Если выбрать «CA», а разрыв всё же случится, выбор, по словам Брюера, придётся свести к C или A. Значит, система отдаст несогласованные данные или перестанет отвечать, то есть всё равно окажется на одной из двух сторон, только без заранее выбранного плана.
Источник: infoq.com
Как ведут себя CP- и AP-системы при разрыве сети? Приведите примеры хранилищ.
Короткий ответ
CP-система при разрыве отказывает той части, что не может подтвердить свежесть данных, а AP-система принимает запросы на обеих сторонах и сводит расхождения позже.
Источник: docs.cockroachlabs.com
Репликация
9 вопросовКакие задачи решает репликация данных, кроме отказоустойчивости?
Короткий ответ
Репликация даёт масштабирование чтения, изоляцию нагрузки, близость к пользователю и миграции без остановки системы, а не только сохранность данных при отказе узла:
Источник: vitess.io
Как работает репликация с одним ведущим узлом (leader-follower)?
Короткий ответ
Все записи принимает один узел — ведущий. Он применяет изменение у себя, пишет его в журнал (в PostgreSQL — WAL) и передаёт поток записей журнала ведомым узлам. Ведомые применяют записи в том же порядке и поэтому проходят ту же последовательность состояний, только с задержкой. Порядок задаёт один узел, так что конфликтов записи между копиями не бывает.
Источник: postgresql.org
Чем синхронная репликация отличается от асинхронной и что такое полусинхронная?
Выбор хранилища
25 вопросовПо каким критериям выбирают между реляционной базой и NoSQL-хранилищем для конкретной задачи?
Короткий ответ
Выбор начинается не с ярлыка «SQL или NoSQL», а со списка запросов и требований к целостности данных.
Источник: docs.aws.amazon.com
Правда ли, что NoSQL-хранилища быстрее на запись, и откуда на самом деле берётся разница?
Короткий ответ
Ярлык «NoSQL» скорость записи не объясняет. Разница складывается из трёх источников, и ни один из них не принадлежит модели данных.
Источник: github.com
Чем колоночное хранилище отличается от строкового и почему оно быстрее на аналитике?
Короткий ответ
Колоночное хранилище на аналитике читает только упомянутые в запросе колонки, а строковое читает строки целиком. В строковом хранилище все поля одной строки лежат рядом на одной странице. Прочитать или изменить запись целиком дёшево: она в одном месте. Но аналитический запрос, которому нужны три колонки из ста, всё равно читает с диска строки целиком, то есть все сто.
Источник: clickhouse.com
Чем OLTP-нагрузка отличается от OLAP и почему их разносят по разным системам?
Короткий ответ
OLTP — поток коротких транзакций, каждая читает и меняет несколько строк по ключу: оформить заказ, списать остаток, обновить профиль. Важны миллисекундная задержка, высокая конкурентность и актуальное текущее состояние.
Источник: clickhouse.com
Чем движок хранения на B-дереве отличается от движка на LSM-дереве и кому из них легче даётся запись?
Короткий ответ
Запись легче даётся LSM-дереву: оно откладывает упорядочивание и пишет последовательно, а B-дерево переписывает страницу на месте. B-дерево держит данные упорядоченными всегда. Запись находит нужную листовую страницу и переписывает её на месте, иногда с расщеплением. Чтобы изменить несколько байт, на диск уходит страница целиком, а соседние ключи лежат на разных участках носителя. Чтение предсказуемо: один путь от корня к листу.
Источник: cs.umb.edu
Для каких данных подходит хранилище широких колонок вроде Cassandra и чего в нём не стоит ожидать?
Короткий ответ
Хранилище широких колонок подходит для больших объёмов с интенсивной записью и заранее известными запросами, но в нём нет соединений, произвольных запросов и полноценных транзакций. Таблица в Cassandra задаётся ключом разбиения и ключами кластеризации. Хеш ключа разбиения определяет узлы, на которых лежит раздел. Ключи кластеризации задают порядок строк внутри раздела и позволяют выбирать диапазон. Эффективный запрос — «равенство по ключу разбиения плюс диапазон внутри раздела», он попадает в один раздел, и ёмкость растёт добавлением узлов.
Источник: cassandra.apache.org
Почему файлы и изображения хранят в объектном хранилище, а не в базе данных или на диске сервера?
Короткий ответ
Объектное хранилище выносит байты из базы и с диска сервера и берёт надёжность на себя: S3 Standard спроектирован на долговечность 99,999999999% и доступность 99,99% объектов. S3 хранит объекты по уникальным ключам и отдаёт их по HTTP.
Источник: docs.aws.amazon.com
Как организовать загрузку больших файлов в объектное хранилище так, чтобы байты не шли через бэкенд?
Короткий ответ
Бэкенд выдаёт разрешение, а байты клиент отправляет прямо в хранилище по подписанной ссылке (presigned URL).
Источник: docs.aws.amazon.com
Трафик: DNS, балансировка, CDN
10 вопросовЧто происходит между вводом адреса сайта в браузере и получением ответа от сервера?
Короткий ответ
1. Разрешение имени. Клиент спрашивает рекурсивный резолвер. Тот при промахе проходит цепочку делегирования: корневые серверы, серверы зоны верхнего уровня, авторитетный сервер домена. Ответ кэшируется на время жизни записи (TTL). Уже здесь может приниматься решение о маршруте: авторитетный сервер вернёт адрес ближайшей точки CDN или балансировщика региона. 2. Установление соединения. Трёхстороннее рукопожатие TCP — один обход до сервера. 3. TLS. В TLS 1.3 полное рукопожатие занимает ещё один обход; клиент проверяет сертификат сервера по цепочке доверия. 4. HTTP-запрос. Его принимает первый посредник: узел CDN, обратный прокси или балансировщик. Он может ответить из кэша или передать запрос серверу приложения. Приложение обращается к кэшу, базе, соседним сервисам и формирует ответ. 5. Ответ и отрисовка. Браузер разбирает HTML и запрашивает связанные ресурсы.
Источник: rfc-editor.org
Чем балансировка на уровне L4 отличается от балансировки на уровне L7?
Короткий ответ
L4 (транспортный уровень) видит адреса, порты и протокол, но не содержимое. Решение принимается один раз на соединение: экземпляр выбирают, например, по хешу адресов и портов, и всё соединение живёт на нём.
Источник: docs.aws.amazon.com
Можно ли распределять нагрузку через DNS и какие у этого ограничения?
Короткий ответ
Можно. Имя возвращает несколько адресов, и сервер меняет их порядок от ответа к ответу (round-robin DNS). Управляемые DNS-службы умеют больше: доли трафика по весам, выбор по местоположению или по задержке до региона, исключение адресов, не прошедших проверку здоровья.
Источник: rfc-editor.org
Ограничение частоты запросов
8 вопросовЗачем ограничивать частоту запросов и где в системе ставят ограничитель?
Короткий ответ
Ограничитель нужен, чтобы исчерпание ёмкости было предсказуемым и справедливым, а ставят его слоями. Он не добавляет ёмкости. Без него один потребитель (цикл без паузы у партнёра, парсер, перебор паролей) способен занять пул соединений и поднять задержку всем остальным. С ним часть запросов получает явный отказ, а остальные обслуживаются в пределах цели. Отсюда задачи: справедливость между клиентами, защита от злоупотреблений, контроль стоимости дорогих операций, защита зависимостей ниже по цепочке.
Источник: stripe.com
Как работает алгоритм token bucket и чем он отличается от leaky bucket?
Короткий ответ
Token bucket (корзина токенов). У корзины вместимость
Bи скорость пополненияrтокенов в секунду. Запрос забирает токен (или несколько, если запрос дорогой); нет токенов — отказ. Хранить достаточно двух чисел: остаток и время последнего пополнения. Пополнение считают лениво при каждом запросе:tokens = min(B, tokens + r × Δt). Средний темп ограниченr, а клиент, который молчал, может сразу отправить пачку доBзапросов. По такой схеме работают Amazon API Gateway (лимиты скорости и всплеска) и ограничитель Stripe.Источник: docs.aws.amazon.com
Почему фиксированное окно пропускает двойной всплеск на границе интервала и как это исправляют скользящие окна?
Короткий ответ
Фиксированное окно держит счётчик на ключ и календарный интервал (
user:42:12:05), увеличивает его при каждом запросе и сбрасывает с началом нового интервала. В Redis этоINCRплюсEXPIRE. Окна независимы, поэтому при лимите N в минуту клиент отправляет N запросов в последнюю секунду одной минуты и ещё N в первую секунду следующей. За две секунды проходит 2N, и формально ни одно окно не нарушено.Источник: blog.cloudflare.com
Доставка событий клиенту
9 вопросовЧем короткий опрос отличается от длинного и когда достаточно короткого?
Короткий ответ
При коротком опросе клиент через фиксированный интервал отправляет обычный запрос, а сервер сразу отвечает: есть новое или нет. Задержка доставки доходит до длины интервала, а нагрузка определяется числом клиентов и интервалом, а не числом событий: при редких событиях почти все ответы пустые. RFC 6202 формулирует это так: частота опроса зависит от задержки, которую клиент готов терпеть.
Источник: rfc-editor.org
Как выбрать между длинным опросом, Server-Sent Events и WebSocket для конкретной задачи?
Что меняется в архитектуре, когда сервису нужно держать миллион постоянных WebSocket-соединений?
Короткий ответ
Главное изменение: соединение становится состоянием, привязанным к конкретному процессу. Запрос живёт миллисекунды, соединение — часы, и мощность планируют по числу одновременно открытых соединений (память на буферы и TLS, файловые дескрипторы), а не только по запросам в секунду.
Источник: rfc-editor.org
Отказы: таймауты, повторы, идемпотентность
12 вопросовЗачем нужен таймаут на каждом сетевом вызове и как выбрать его значение?
Короткий ответ
Вызов без таймаута — обещание ждать вечно. Пока удалённая сторона не ответила, вызов держит поток, соединение или место в пуле. Если она не ответит никогда, ресурс потерян, а достаточное число таких вызовов исчерпывает пул: сервис перестаёт обслуживать всё, включая операции, не связанные с зависшей зависимостью. Таймаут превращает неопределённое зависание в явную ошибку, с которой можно что-то сделать. Значение по умолчанию на это полагаться не позволяет: в gRPC, например, дедлайна по умолчанию нет, и клиент может ждать сколь угодно долго.
Источник: builder.aws.com
Чем опасно простое увеличение таймаута, когда зависимость начала отвечать медленно?
Короткий ответ
Таймаут определяет, сколько ресурса один вызов может удерживать. При той же частоте запросов число одновременно ожидающих вызовов растёт пропорционально времени ожидания: зависимость замедлилась в пять раз, таймаут подняли до этого значения, и в полёте стало в пять раз больше запросов. Потоки и соединения вызывающего кончаются, и он сам становится медленным для своих клиентов. Так замедление одной зависимости поднимается вверх по цепочке, и это один из путей каскадного отказа, описанных в Google SRE.
Источник: sre.google
Почему ограничение времени лучше передавать по цепочке вызовов как общий дедлайн?
Короткий ответ
Независимые таймауты на каждом звене между собой не согласованы. Клиент ждёт 2 секунды, а внутренние вызовы настроены на 3 секунды каждый, да ещё с повторами. Клиент давно получил ошибку, а цепочка продолжает работать, занимая ресурсы ради результата, который никто не заберёт. Под нагрузкой такая работа вытесняет полезную.
Источник: sre.google
Какие ошибки имеет смысл повторять, а какие нет?
Короткий ответ
Повтор имеет смысл при двух условиях: ошибка связана с временным состоянием системы, а не с содержанием запроса, и повторное выполнение безопасно.
Источник: rfc-editor.org
Консенсус, лидеры и блокировки
11 вопросовЧто такое split-brain и почему кластер из двух узлов особенно к нему уязвим?
Короткий ответ
Split-brain — состояние, в котором система разделилась на две группы и в каждой свой ведущий: обе принимают записи, обе уверены, что вторая половина упала, и истории расходятся. Собирается оно из штатных механизмов: разрыв сети, детектор отказов принимает недоступных за мёртвых, роль ведущего передаётся по истечении аренды.
Источник: etcd.io
Почему кластеры координации собирают из нечётного числа узлов?
Короткий ответ
Потому что добавление узла к нечётному составу поднимает кворум, но не устойчивость к отказам. Кластер на консенсусе работает, пока доступно большинство: кворум равен
⌊n/2⌋ + 1. Отказоустойчивость — сколько узлов можно потерять с сохранением кворума — равнаn − кворум.Источник: etcd.io
Зачем распределённой системе выбирать ведущий узел и как это делают?
Короткий ответ
Зачем. Один ведущий делает систему проще: порядок операций и решения о владении принимает один узел, конфликтов нет, рассуждать и отлаживать легче. Это и эффективнее: ведущий объявляет решения, а не согласует каждое заново. Цена: ведущий — единая точка отказа и потолок масштаба. Потолок снимают шардированием: по ведущему на раздел данных.
Источник: builder.aws.com
Как Raft обеспечивает согласие узлов о журнале операций?
Короткий ответ
Raft раскладывает задачу на выбор ведущего, тиражирование журнала и ограничения безопасности.
Источник: raft.github.io
Данные в масштабе
9 вопросовКак генерировать уникальные идентификаторы в распределённой системе и чем отличаются UUID, Snowflake и выдача диапазонов?
Короткий ответ
Автоинкремент одной базы перестаёт работать, когда записи создаются на многих узлах. Схемы различаются тем, нужна ли координация, сколько занимает идентификатор и упорядочен ли он по времени.
Источник: rfc-editor.org
Как сервис коротких ссылок генерирует короткий код и гарантирует его уникальность?
Короткий ответ
Код записывают в алфавите base62 (
0-9a-zA-Z). Пространство кодов длины 7 — 62⁷ = 3 521 614 606 208, около 3,5 триллиона; длины 6 — 62⁶ = 56 800 235 584.Источник: postgresql.org
Как считать просмотры при большой нагрузке, не обновляя строку в базе на каждый просмотр?
Короткий ответ
UPDATE videos SET views = views + 1на каждый просмотр упирается в одну строку: все транзакции выстраиваются в очередь за её блокировкой. В PostgreSQL каждыйUPDATEк тому же создаёт новую версию строки, старую потом убирает VACUUM, и популярное видео порождает поток мёртвых версий и записей в журнал.Источник: redis.io
Задержка, пропускная способность и полоса
2 вопросаНагрузочный тест из 1000 запросов: 960 ответили за 15 мс, 40 запросов за 400 мс. Цель по задержке: 99% запросов быстрее 250 мс. Выполняется ли цель, и какая доля запросов пользователя заденет медленный ответ, если каждый запрос пользователя параллельно и независимо обращается к десяти таким сервисам и ждёт все ответы?
Короткий ответ
Цель не выполняется: p99 равен 400 мс, потому что медленных запросов 4%, больше допустимого 1%. Среднее при этом около 30 мс и выглядит благополучно, поэтому цели по задержке ставят по высокому процентилю, а не по среднему.
Источник: research.google
Большой файл передаётся по одному TCP-соединению между двумя регионами. Канал 1 Гбит/с, время оборота 100 мс, потерь пакетов нет, процессор и диски простаивают, а скорость держится около 5 Мбит/с. Что ограничивает скорость и как это исправить?
Короткий ответ
Скорость ограничена окном приёма. Отправитель вправе иметь в пути не больше окна неподтверждённых данных, поэтому за один оборот передаётся не больше окна. Без масштабирования поле окна в заголовке TCP ограничено 64 КиБ, и это даёт 65 536 × 8 / 0,1 ≈ 5,2 Мбит/с, как в условии. Современные стеки включают масштабирование по умолчанию, так что такая скорость говорит о том, что опция не согласовалась (её отключили или срезало промежуточное устройство) либо буфер приёма слишком мал.
Источник: rfc-editor.org
Адресация, потоки байтов и целостность данных
6 вопросовСервис с адресом 10.0.1.17 и маской /24 обращается к 10.0.1.42 и к базе 10.0.2.9. Как отправитель решает, передать пакет напрямую или шлюзу, и что произойдёт с пакетом к 10.0.2.9, если на нём по ошибке настроена маска /16?
Короткий ответ
Отправитель применяет свою маску к своему адресу и к адресу получателя. Если номера сети совпали, получатель в подключённой сети и пакет уходит напрямую; если не совпали, пакет отдаётся шлюзу (RFC 1122).
Источник: rfc-editor.org
В таблице маршрутов маршрутизатора три записи:
172.16.0.0/20напрямую через eth0,172.16.8.0/22через следующий маршрутизатор 172.16.0.77 иdefaultчерез шлюз 172.16.0.1. Куда уйдёт пакет для 172.16.9.20 и по какому правилу?Короткий ответ
Пакет уйдёт через 172.16.0.77, потому что из подходящих маршрутов выбирается самый длинный префикс (RFC 1812).
Источник: rfc-editor.org
Продуктовая сеть VPC в AWS занимает
10.0.0.0/16, тестовая в другом аккаунте занимает10.0.128.0/17. Нужно соединить их пирингом, чтобы ресурсы обращались друг к другу напрямую по своим частным адресам. Получится ли и что делать?Короткий ответ
Не получится: диапазоны пересекаются.
10.0.0.0/16покрывает адреса от10.0.0.0до10.0.255.255, а10.0.128.0/17от10.0.128.0до10.0.255.255, то есть вторая сеть целиком лежит внутри первой.Источник: docs.aws.amazon.com
Проектирование API: GraphQL и бинарные контракты
9 вопросовGraphQL-запрос
orders(first: 20) { items(first: 5) { product { name } } }выполняет наивный сервер, у которого резолвер каждого поля ходит в базу сам. В каждом из 20 заказов ровно пять позиций, у каждой позиции один товар. Сколько обращений к базе получится и как сделать, чтобы их число не росло с размером списков?Короткий ответ
Получится 1 + 20 + 100 = 121 обращение, а с пакетированием их станет 3, по одному на уровень запроса.
Источник: graphql.org
Публичный GraphQL API ограничивает глубину запроса значением 5. Клиент присылает запрос
users(first: 100) { posts(first: 100) { comments(first: 100) { text } } }. Глубина всего три, пакетирование есть. Какой предел должен отвергнуть этот запрос и как он считается?Короткий ответ
Его отвергает предел на общее число узлов (сложность запроса), который считается по аргументам
firstиlastдо выполнения запроса.Источник: graphql.org
В proto-схеме поле
string name = 2;переименовали вstring full_name = 2;, номер оставили. Сломается ли старый клиент, который обращается к сервису по gRPC, и что ещё в системе зависит от имени поля?Короткий ответ
Старый gRPC-клиент не сломается: в двоичной кодировке protobuf на проводе лежат номер поля и тип, имён нет, поэтому значение под номером 2 читается как раньше.
Источник: protobuf.dev
Связь между системами: поток изменений и прямые соединения
4 вопросаКоннектор Debezium к PostgreSQL 18 остановили на трое суток для переезда. Нагрузка на базу прежняя, но свободное место на диске основного сервера быстро тает и растёт каталог журнала транзакций. Почему это происходит и что настроить, чтобы такая остановка не уронила базу?
Короткий ответ
Журнал растёт потому, что слот репликации, через который коннектор читает изменения, не даёт удалить сегменты WAL, которые коннектор ещё не подтвердил. Слот переживает остановку коннектора и ничего не знает о том, вернётся ли потребитель.
Источник: postgresql.org
Три чужие команды подписались на поток изменений таблицы
orders, который Debezium читает из журнала базы. Владелец сервиса заказов собирается переименовать колонку и разделить таблицу на две. Что в такой схеме потока опасно для владельца и как это исправить?Короткий ответ
Сырой поток делает схему хранения публичным контрактом: потребители зависят от имён и типов колонок, и любая миграция ломает сервисы, о которых владелец мог не знать.
Источник: debezium.io
В видеозвонке один из участников сидит за корпоративным NAT. Перебор пар адресов не находит рабочей, и прямое соединение между клиентами не устанавливается. Какой компонент WebRTC даёт связь в этом случае и что это значит для нагрузки на вашу инфраструктуру?
Короткий ответ
Связь обеспечивает сервер-ретранслятор TURN (RFC 8656): он принимает трафик от обеих сторон и пересылает его друг другу. Прямого соединения нет, но звонок работает.
Источник: rfc-editor.org
Масштабирование базы данных: пул, сжатие, представления
6 вопросовСервис делает 200 запросов в секунду, пул рассчитан на 20 соединений. После релиза каждая транзакция стала держать соединение около 200 мс (внутрь добавили вызов внешнего сервиса), хотя сам SQL выполняется 10 мс. Процессор и диск базы спокойны, а 99-й процентиль задержки приложения вырос. В чём причина и что покажут метрики?
Короткий ответ
Пул стал узким местом: соединение занято дольше, чем нужно, и запросы ждут свободного. По закону Литтла число занятых соединений равно потоку, умноженному на время удержания. При 10 мс это 200 × 0,01 = 2 соединения, при 200 мс 200 × 0,2 = 40, а в пуле их 20. Пул пропускает не больше 20 / 0,2 = 100 запросов в секунду при потоке 200, поэтому очередь в приложении растёт, пока не сработают таймауты.
Источник: github.com
Чтобы убрать ожидание соединений, пул на каждом экземпляре увеличили с 20 до 100. Через неделю 99-й процентиль задержки стал выше, а процессор базы загружен сильнее. Почему размер пула не помог?
Короткий ответ
Соединений стало больше, чем база выполняет одновременно, и очередь переехала из приложения внутрь базы. Каждый запрос теперь конкурирует с остальными за процессор и память, а сама работа быстрее не стала.
Источник: github.com
Материализованное представление в PostgreSQL 18 пересчитывается раз в пять минут командой
REFRESH MATERIALIZED VIEW. Пересчёт идёт 40 секунд, и всё это время запросы читателей стоят. Как убрать блокировку и какое условие для этого нужно?Короткий ответ
Использовать
REFRESH MATERIALIZED VIEW CONCURRENTLY: читатели при таком обновлении не блокируются. Условие: у представления должен быть хотя бы один уникальный индекс по обычным столбцам, без условияWHERE.Источник: postgresql.org
Файловые и объектные хранилища, помехоустойчивое кодирование
9 вопросовСервис хранит в S3 лог-файл на сотни мегабайт, и разработчик предлагает менять в нём отдельные записи по смещению, как в обычном файле. Возможно ли это в объектном хранилище и что придётся делать?
Короткий ответ
Изменить кусок объекта на месте нельзя: объект в S3 записывается и заменяется целиком, а у обычного PutObject нет смещения записи.
Источник: docs.aws.amazon.com
В кластере HDFS лежат сотни миллионов мелких файлов по несколько килобайт, дисков и места много, но NameNode упирается в память и работа встала. Почему так происходит и что с этим делают?
Короткий ответ
NameNode держит всё пространство имён и карту «файл — блоки — DataNode» в оперативной памяти одного сервера, поэтому предел кластера задаётся числом файлов и блоков, а не объёмом дисков.
Источник: hadoop.apache.org
Команда хочет положить в HDFS данные для интернет-магазина: заказы, которые постоянно обновляются по первичному ключу, и ночные выгрузки логов на несколько терабайт для аналитики. Какие из этих данных подходят для HDFS и почему?
Короткий ответ
Для HDFS подходят выгрузки логов: он рассчитан на файлы, записанные один раз и читаемые целиком последовательно с высокой пропускной способностью. Заказы с обновлением по ключу ему не подходят.
Источник: hadoop.apache.org
Архитектурные стили: уровни, события, ports and adapters
10 вопросовВ мобильном приложении скидка по промокоду считается на клиенте, а сервер принимает итоговую сумму заказа из запроса. Что здесь не так и как должно быть устроено?
Короткий ответ
Клиент находится за границей доверия, и всё, что он присылает, может быть подменено: проверка и расчёт на клиенте нужны только для удобства пользователя. Итоговую сумму сервер обязан пересчитать сам.
Источник: cheatsheetseries.owasp.org
Чем уровень (tier) приложения отличается от сервера и что даёт разделение на уровни, если все они пока крутятся на одной машине?
Короткий ответ
Уровень — логическая роль в архитектуре (представление, бизнес-логика, данные), а сервер — физическая машина или процесс, на котором эта роль выполняется. Это независимые оси: три уровня могут работать на одной машине, а один уровень на десятках.
Источник: learn.microsoft.com
Оформление заказа проходит через пять сервисов: оплата, склад, доставка, уведомление и бонусы. Чем хореография сказывается на понимании процесса по сравнению с оркестрацией и по каким признакам выбирают каждую?
Короткий ответ
При хореографии каждый сервис реагирует на события и публикует свои, а сценарий нигде не записан целиком: он складывается из суммы подписок. При оркестрации сценарий и состояние процесса хранит один координатор, который по шагам даёт сервисам команды.
Источник: learn.microsoft.com
Паттерны микросервисов: BFF, миграция
4 вопросаУ продукта мобильное приложение и веб-клиент, и мобильному экрану главной приходится делать восемь запросов к разным сервисам. Как организовать слой, чтобы мобильный экран получал данные одним запросом, и кто должен им владеть?
Короткий ответ
Нужен слой Backend for Frontend: отдельный серверный компонент под конкретный клиент, который принимает один запрос экрана, сам обращается к нужным сервисам, собирает и сокращает ответ под этот клиент. Принадлежать он должен команде клиента.
Источник: learn.microsoft.com
Чем Backend for Frontend отличается от единого API Gateway для всех клиентов?
Короткий ответ
Единый API Gateway даёт одну входную точку для всех клиентов: маршрутизация, аутентификация, ограничение частоты. BFF создаётся отдельно под каждый тип клиента и формирует API под нужды именно его.
Источник: learn.microsoft.com
Старая система обслуживает клиентов, и её нужно заменить новой, не останавливая работу. Как по шагам это делает паттерн Strangler Fig?
Короткий ответ
Перед старой системой ставят фасад (прокси), который принимает все запросы клиентов, а затем по частям переносят функциональность в новые сервисы и переключают фасад на них.
Источник: learn.microsoft.com
Основы распределённости: отказы, разрыв сети, часы, Paxos
9 вопросовСервис заказов по сети вызвал сервис списания денег и не получил ответа за отведённое время. Что известно о том, выполнилось ли списание?
Короткий ответ
Ничего определённого: у сетевого вызова три исхода, и таймаут означает третий. Операция выполнена и ответ получен, операция отклонена и получена ошибка, либо ответа нет, и тогда списание могло не дойти до сервиса, могло выполниться с потерянным ответом или ещё выполняться.
Источник: rfc-editor.org
Сервис заказов записал заказ в свою базу и упал до отправки запроса в сервис склада. Чем такой отказ отличается от отказа одной машины с одной базой?
Короткий ответ
В распределённой системе отказ бывает частичным: часть операций выполнена, часть нет, и общего «откатить всё» нет. В одной машине с одной базой падение процесса откатывает незавершённую транзакцию, и наблюдатель видит либо состояние до, либо после.
Источник: en.wikipedia.org
В кластере из трёх узлов A, B и C пропала связь между A и C, а B по-прежнему связан с обоими. Что считает каждый из узлов о состоянии остальных?
Короткий ответ
Картины у узлов разные: A считает C недоступным, C считает недоступным A, а B видит живыми обоих. Это частичный разрыв, и вопрос «жив ли узел» не имеет единого ответа, потому что доступность задаётся парой «кто смотрит и на кого».
Источник: cockroachlabs.com
Распределённые транзакции
6 вопросовЗаказ нужно записать в базу сервиса заказов и в базу сервиса склада. Почему нельзя открыть транзакцию в каждой базе и закоммитить их одну за другой?
Короткий ответ
Между двумя коммитами возможен сбой, и тогда первая база зафиксировала изменение, а вторая нет. Откатить первую уже нельзя: её коммит необратим. Получается заказ без резерва на складе или резерв без заказа.
Источник: postgresql.org
Что происходит в PostgreSQL с транзакцией после
PREPARE TRANSACTIONи чем опасно оставить её в таком состоянии надолго?Короткий ответ
Состояние транзакции целиком записывается на диск, и она отключается от сессии: после команды в сессии нет активной транзакции, а изменения не видны другим. Дальше транзакцию можно зафиксировать (
COMMIT PREPARED) или откатить (ROLLBACK PREPARED) из любой сессии, и она переживает перезапуск сервера. Это и есть обещание участника двухфазной фиксации: зафиксировать почти наверняка получится.Источник: postgresql.org
В двухфазной фиксации все участники ответили «готов», и координатор упал до рассылки решения. Что делают участники и почему они не могут решить сами?
Короткий ответ
Участники остаются в подготовленном состоянии и ждут: они держат блокировки и не знают итога. Откатить транзакцию в одиночку нельзя, потому что координатор мог успеть записать решение «фиксировать» и разослать его другим участникам, а те уже зафиксировали. Зафиксировать в одиночку тоже нельзя: решение могло оказаться «откатить».
Источник: en.wikipedia.org
Структуры данных для масштаба
18 вопросовВ какую сторону ошибаются фильтр Блума, Count-Min sketch и HyperLogLog и как это влияет на то, где их можно применять?
Короткий ответ
Фильтр Блума ошибается в одну сторону: «элемента нет» верно всегда, а «возможно есть» может быть ложным. Поэтому он годится как предварительная проверка перед дорогим обращением: ложный положительный ответ стоит одного лишнего обращения, а нужный элемент не будет пропущен.
Источник: en.wikipedia.org
Нужен фильтр Блума для 100 миллионов ключей с долей ложных срабатываний не выше 1%. Сколько памяти и сколько хеш-функций потребуется?
Короткий ответ
Около 120 МБ и 7 хеш-функций. Оптимальный фильтр тратит m/n = −ln p / (ln 2)² бит на ключ, то есть для p = 0,01 около 9,6 бита. Для 10⁸ ключей это примерно 9,6·10⁸ бит, то есть около 120 МБ.
Источник: en.wikipedia.org
Фильтр Блума рассчитан на 1 миллион ключей при 1% ложных срабатываний, а в него добавили 10 миллионов. Что станет с ответами фильтра?
Короткий ответ
Фильтр перестанет отсеивать: почти на любой запрос он ответит «возможно есть». Ложноотрицательных ответов по-прежнему не будет, но ложноположительных станет подавляющее большинство.
Источник: en.wikipedia.org
Почему из кукушкиного фильтра можно удалять элементы, а из фильтра Блума нельзя, и какое условие нужно соблюдать при удалении?
Короткий ответ
Кукушкин фильтр хранит короткие отпечатки элементов в корзинах хеш-таблицы, и удаление убирает один экземпляр отпечатка. В фильтре Блума биты общие для многих элементов, и сброс бита испортил бы ответы про другие элементы.
Источник: en.wikipedia.org
Кукушкин фильтр хранит только отпечатки элементов. Как при вытеснении отпечатка из корзины найти его вторую корзину, если исходный элемент неизвестен?
Короткий ответ
Вторую корзину получают из первой и самого отпечатка: h2(x) = h1(x) ⊕ hash(fingerprint(x)). Исходный ключ для этого не нужен.
Источник: en.wikipedia.org
Почему Count-Min sketch оценивает частоту элемента минимумом счётчиков по строкам, а не средним, и в какую сторону ошибается оценка?
Короткий ответ
Каждый счётчик, в который попал элемент, содержит его настоящую частоту плюс вклад других элементов, столкнувшихся с ним в этой ячейке. Столкновения только прибавляют, поэтому каждый счётчик не меньше истинной частоты, и оценка не занижает её.
Источник: en.wikipedia.org
Обработка больших данных: расчёты, конвейеры, озеро
12 вопросовНочное задание агрегирует клики по user_id на кластере из 200 исполнителей. 199 задач завершились за минуту, одна работает уже два часа, и добавление узлов время не меняет. Почему так происходит?
Короткий ответ
Все записи одного ключа после перемешивания (shuffle) попадают в одну задачу свёртки, а ключ с непропорционально большой долей записей делает эту задачу тяжёлой, и расчёт заканчивается, когда закончит самая медленная задача.
Источник: spark.apache.org
Задание MapReduce считает слова в терабайте логов, и основное время уходит на передачу промежуточных пар «слово - 1» от map-задач к reduce-задачам. Какой приём уменьшит объём передаваемого по сети?
Короткий ответ
Комбайнер (combiner): локальная предагрегация выхода каждой map-задачи до отправки в reduce.
Источник: hadoop.apache.org
Ночной шаг считает выручку за вчерашний день и дописывает строки в итоговую таблицу через INSERT. Он упал на половине, шаг перезапустили, и выручка за день удвоилась. Как переделать шаг, чтобы повторный запуск был безопасен?
Короткий ответ
Сделать шаг идемпотентным: привязать его к границам периода и заменять результат периода целиком в одной транзакции.
Источник: airflow.apache.org
Конвейер каждый час загружает заказы партнёра и заменяет ими таблицу, из которой строятся отчёты. Однажды партнёр прислал файл с пустой колонкой суммы, и отчёты за час показали нули. В какой точке конвейера нужна проверка качества и что она делает при провале?
Короткий ответ
Проверка стоит после преобразования и до подмены рабочей таблицы: данные сначала попадают в промежуточную область, проверяются, и только потом заменяют результат периода.
Источник: airflow.apache.org
Выкладка: стратегии, флаги, откат
13 вопросовПеред балансировщиком стоят две группы целей, blue и green. Трафик переключили на green, но на blue ещё идут долгие запросы и открытые соединения. Когда можно выключать blue?
Короткий ответ
После того как запросы и соединения на blue завершились или истёк период слива (connection draining), а не в момент переключения.
Источник: docs.aws.amazon.com
Сервис получает около 100 запросов в минуту. Новую версию пустили на канарейку с долей 1 процент и через 10 минут решили, что ошибок нет. Новая версия при этом падала на 20 процентах запросов. Почему сигнала не было?
Короткий ответ
Доля трафика определяет, сколько событий увидит канарейка: 1 процент от 1000 запросов за 10 минут дают около 10 запросов, и при 20 процентах ошибок это в среднем две ошибки, чего не хватает для различия с контролем.
Источник: sre.google
Команда автоматизирует канареечную выкладку и решает, с чем сравнивать метрики канарейки, чтобы автоматически её остановить. С чем сравнивают и как формулируют правило остановки?
Короткий ответ
С контролем: параллельно работающими экземплярами старой версии в те же минуты. Правило формулируют как допустимое отклонение канарейки от контроля.
Источник: sre.google
Наблюдаемость
14 вопросовСервис принимает 2000 запросов в секунду, 99% из них успешные, а на каждый запрос пишется запись уровня INFO. Хранилище логов растёт на сотни гигабайт в сутки. Как сократить объём и не потерять возможность разбирать сбои?
Короткий ответ
Записи об ошибках сохраняют всегда, а записи об успешных запросах пишут выборкой, например одну из ста, и оставляют их только в тех полях, которые кто-то читает.
Источник: opentelemetry.io
В трассе запроса оформления заказа корневой участок длится 480 мс, а внутри него идут пять дочерних участков get-price к одному сервису цен, каждый по 90 мс, один за другим. Что показывает трасса и что стоит сделать?
Короткий ответ
Трасса показывает цикл из одинаковых последовательных вызовов: пять раз по 90 мс дают 450 мс из 480, то есть почти всё время запроса уходит на ожидание сервиса цен, а не на работу корневого сервиса.
Источник: opentelemetry.io
Запрос проходит через шлюз, сервис заказов кладёт сообщение в Kafka, а сервис склада читает его. В логах шлюза и заказов запросы связаны общим идентификатором, а в логах склада по этому идентификатору ничего не находится. Что нужно исправить?
Короткий ответ
Идентификатор нужно положить в сообщение, например в заголовок записи Kafka, а потребитель должен достать его оттуда и записывать в каждую запись лога при обработке.
Источник: opentelemetry.io
В три часа ночи дежурного разбудило оповещение «загрузка процессора узла выше 90%». Пользователи ничего не заметили, ошибок и задержек нет. По какому принципу выбирать, о чём будить человека?
Короткий ответ
Страницу отправляют за симптом, который видит пользователь, например долю ошибок или задержку запросов выше цели, а причины вроде загрузки процессора остаются на панелях и в заявках, на которые реагируют днём.
Источник: sre.google
Для сервиса задана цель доступности 99,9% за 30 дней. Как вывести порог оповещения, чтобы страница приходила при крупной аварии быстро и не срабатывала на короткие мелкие всплески?
Короткий ответ
Порог задают через скорость сгорания бюджета ошибок и проверяют сразу по двум окнам: длинному, которое показывает, что бюджет уходит заметными темпами, и короткому, которое подтверждает, что авария продолжается сейчас.
Источник: sre.google
Безопасность в масштабе
12 вопросовВнутри кластера сервис платежей должен принимать вызовы только от сервиса заказов, а не от любого пода в той же сети. Что нужно для проверки отправителя на уровне соединения и какова цена?
Короткий ответ
Нужна взаимная проверка подлинности по TLS (mTLS): оба сервиса предъявляют сертификаты, выданные внутренним удостоверяющим центром, а получатель проверяет подпись сертификата и сопоставляет идентичность в нём с разрешённой.
Источник: datatracker.ietf.org
Диски базы данных зашифрованы. Злоумышленник получил действующие учётные данные приложения и выгрузил таблицу клиентов запросами через обычное подключение. Защитило ли шифрование диска и что защитило бы?
Короткий ответ
Нет, шифрование диска здесь не помогло: оно прозрачно для любого, кто обращается к базе через работающий сервер, и база отдаёт данные в расшифрованном виде.
Источник: cheatsheetseries.owasp.org
В хранилище лежат миллиарды зашифрованных объектов, и мастер-ключ нужно периодически менять. Как устроено шифрование конвертом и почему оно позволяет менять ключ без перешифрования всех данных?
Короткий ответ
Каждый объект шифруется своим ключом данных (DEK), а сам DEK шифруется мастер-ключом (KEK), который хранится в сервисе управления ключами (KMS) и не покидает его в открытом виде. Зашифрованный DEK хранится рядом с объектом.
Источник: docs.aws.amazon.com
Пароль к базе данных лежит в переменной окружения контейнера и один раз утёк через логи сборки. Как перестроить выдачу секрета, чтобы такой утечкой нельзя было пользоваться долго?
Короткий ответ
Секрет выдаёт отдельное хранилище по требованию: сервис при старте подтверждает свою личность (например, токеном учётной записи Kubernetes) и получает учётные данные базы с коротким сроком жизни, а не статичный пароль.
Источник: developer.hashicorp.com
Модульность: слои, срезы и модульный монолит
6 вопросовЧтобы добавить в интернет-магазин промокод, разработчик правит контроллер, сервис, репозиторий и модель в четырёх разных папках проекта (Controllers, Services, Data, Models). Команда спорит, перейти ли на раскладку по возможностям (вертикальные срезы) или оставить слои. По какому критерию выбирать?
Короткий ответ
Выбирают по оси изменений: если работа приходит как «добавь или измени возможность», подходят вертикальные срезы, а если нужно подменять целиком одну техническую часть (хранилище, транспорт), подходят слои.
Источник: learn.microsoft.com
Команда перешла на вертикальные срезы. Через полгода в срезах «оформление заказа» и «повторный заказ» оказались две копии расчёта скидки, и они разошлись: цена в корзине и в оплате не совпадает. Что пошло не так и как это исправлять?
Короткий ответ
Срезы не отменяют общую логику: правило, которое обязано быть одним для всех срезов (расчёт скидки), нужно выносить из срезов, а в срезах оставлять то, что относится только к своему запросу.
Источник: jimmybogard.com
В модульном монолите на C# модуль заказов разделён на два проекта: Orders.Contracts с публичным интерфейсом и Orders с реализацией, контекстом базы и сущностями, объявленными как internal. Что из требований к границе модуля проверяет компилятор, а что остаётся на ревью и договорённостях?
Короткий ответ
Компилятор проверяет, что закрытые типы модуля (
internal) недоступны другим проектам: реализация,DbContextи сущности заказов не видны оплате, и проект оплаты, который ссылается наOrdersDbилиOrder, не соберётся.Источник: learn.microsoft.com
Внешняя языковая модель как зависимость
4 вопросаСервис вызывает внешнюю языковую модель. В одном сценарии пользователь смотрит на экран и ждёт ответа в чате, в другом ответ модели разбирается в JSON и кладётся в базу, а вкладку пользователь обычно закрывает. Какой режим вызова выбрать в каждом сценарии и почему?
Короткий ответ
Для чата подойдёт потоковый ответ (SSE), для записи в базу фоновая задача со статусом.
Источник: platform.claude.com
У организации лимит провайдера 120 000 токенов в минуту. Один пользователь запустил скрипт, и остальные получают
429. Как защитить сервис?Короткий ответ
Ввести квоту на пользователя в своём коде и считать её в токенах: лимиты провайдера не знают о ваших пользователях.
Источник: developers.openai.com
Запрос к языковой модели оборвался по таймауту, клиент повторил его, и в счёте два вызова, а сводки получились разные. Что изменить в обращении к модели?
Короткий ответ
Не повторять вслепую: поставить ключ идемпотентности на действие пользователя, кэш ответа по хешу входа и предел на число повторов.
Источник: developers.openai.com
Дальше по теме
Другие темы
Ответьте на вопросы по System Design голосом
Free без срока и без карты
