Значення
Час очікування між відправкою запиту та отриманням відповіді від сервера або мережі.
Українською: затримка (лейтенсі)
Три приклади з роботи
Performance optimization
DevOur p99 latency increased from 150ms to over 800ms during peak hours.Наша 99-та перцентиль затримки підскочила зі 150 мс до понад 800 мс у години пік.
LeadCheck for unindexed database queries and slow third-party webhooks.Перевір запити до бази без індексів та повільні сторонні вебхуки.
Global deployment
ArchitectDeploying edge servers in Europe reduced round-trip latency by seventy percent.Розгортання серверів на рівні edge у Європі скоротило затримку на сімдесят відсотків.
POOur European enterprise clients immediately noticed faster page load speeds.Наші європейські корпоративні клієнти одразу помітили прискорення відкриття сторінок.
AI response streaming
Frontend DevGenerating full AI answers takes five seconds; how do we mask the latency?Генерація повної відповіді ШІ займає п'ять секунд; як замаскувати затримку?
LeadStream the tokens as Server-Sent Events so the time-to-first-token is under 300ms.Передавай токени потоком через Server-Sent Events, щоб перше слово з'являлося менше ніж за 300 мс.
Вимірюйте затримку за перцентилями (p95, p99), а не середнім арифметичним. Низька затримка критично важлива для плавності роботи інтерфейсу.