Дело не в нагрузке: почему пул httpx теряет соединения при отменах
TL;DR. В async-сервисе на httpx пул иногда теряет слоты. Появляется PoolTimeout, хотя свободные соединения есть.
Метрика busy растёт при ровном RPS. Причина в отмене запроса в момент, когда закрывается уже прочитанный ответ. httpcore оставляет соединение в ACTIVE и не возвращает его в пул.
habr.com