Tutoriale how-to
Agenty głosowe w 2026: ile połączeń wytrzymają i jak je skalować
Zaktualizowano: Autor: Andrzej Niemiec8 min czytania
Agenty głosowe AI obsługują tysiące połączeń dziennie. Dowiedz się, jakie są rzeczywiste limity skalowania, jak mierzyć wydajność i które narzędzia radzą…
Spis treści
- Ile połączeń na godzinę wytrzyma agent głosowy?
- Jakie są główne warstwy, które mogą stać się wąskim gardłem?
- Jak mierzyć wydajność agenta głosowego pod obciążeniem?
- Integracje backendowe: gdzie najczęściej się łamie system?
- Które platformy radzą sobie najlepiej w Polsce?
- Jak zacząć wdrażanie agenta głosowego bez ryzyka?
- Najczęstsze pytania
- Źródła
Ile połączeń na godzinę wytrzyma agent głosowy?
Nie ma uniwersalnego progu, przy którym agent głosowy pada. Liczba 10 000 połączeń na godzinę to przepływ, nie limit równoczesności. Przy średnim czasie rozmowy 3 minuty 10 000 połączeń/godz. oznacza orientacyjnie 500 równoczesnych rozmów; przy 6 minutach około 1 000. Rzeczywisty limit ustala najsłabsza warstwa całego łańcucha: numer i operator/SIP, media, ASR (rozpoznawanie mowy), LLM (model języka), TTS (synteza mowy), CRM, system kolejkowy i webhooki [1].
Retell dokumentuje osobne limity: 20 równoczesnych połączeń dla workspace'u PAYG, osobny limit calls-per-second (CPS) i kolejkę dla połączeń przy przekroczeniu limitu [1]. Vapi podaje domyślnie 10 równoczesnych połączeń [2]. Azure Speech Service pozwala na 100 nowych połączeń na minutę i 100 równoczesnych żądań STT dla zasobu Standard [3]. Każdy dostawca ma inny model limitów, dlatego przed wdrożeniem warto przetestować rzeczywisty przepływ w środowisku testowym.
Jakie są główne warstwy, które mogą stać się wąskim gardłem?
Agent głosowy to nie pojedynczy model, ale sieć komponentów. Każdy z nich ma własne limity:
| Warstwa | Co robi | Typowy limit | Jak się mierzy |
|---|---|---|---|
| Numer i operator/SIP | Odbiera połączenia, routuje do agenta | Zależy od operatora, zwykle 100-1000 CPS | Połączenia na sekundę (CPS) |
| Media (audio stream) | Przesyła dźwięk między użytkownikiem a agentem | Zależy od dostawcy (LiveKit, Twilio, Vapi) | Równoczesne połączenia (concurrency) |
| ASR / Speech-to-Text | Zamienia mowę na tekst | Azure: 100 równoczesnych żądań STT | Żądania na sekundę (RPS) |
| LLM / Model języka | Generuje odpowiedź agenta | Zależy od modelu i dostawcy | Tokeny na minutę (TPM), latencja |
| TTS / Text-to-Speech | Zamienia tekst na mowę | ElevenLabs v4 Turbo: około 100 ms opóźnienia | Żądania na sekundę, opóźnienie |
| CRM / API backendowe | Pobiera dane klienta, zapisuje wyniki | Zależy od API | Żądania na sekundę, timeout |
| System kolejkowy | Czeka na dostępny agent | Zależy od implementacji | Czas oczekiwania, procent odrzuceń |
W praktyce: jeśli CRM obsługuje 10 żądań na sekundę, a agent potrzebuje 2 żądań na rozmowę, to maksymalnie 5 równoczesnych rozmów. Jeśli ASR ma limit 100 żądań na sekundę, a każda rozmowa generuje 3 żądania na minutę, to maksymalnie 2 000 równoczesnych rozmów, ale CRM już się załamie [1][2][3].
Jak mierzyć wydajność agenta głosowego pod obciążeniem?
Test wydajności to nie jedno połączenie, ale symulacja rzeczywistego ruchu. Należy mierzyć:
- P50/P95/P99 opóźnienia: mediana, 95. i 99. percentyl czasu odpowiedzi agenta (od pytania do pierwszego słowa odpowiedzi). Dobrze to poniżej 1 sekundy [4].
- Błędy i odrzucenia: procent połączeń, które zostały odrzucone, przerwane lub trafiły do fallbacku.
- Jakość ASR: procent słów rozpoznanych poprawnie, szczególnie dla polskich imion i terminów branżowych.
- Przerwania wypowiedzi: ile razy agent przerwał użytkownika lub użytkownik przerwał agenta.
- Transfery do człowieka: procent rozmów, które wymagały transferu do operatora.
- Zapis wyników: czy CRM poprawnie zapisał dane z rozmowy.
Rootlenses Voice twierdzi, że obsługuje ponad 10 000 połączeń w 30 minut, co oznacza około 5-6 równoczesnych rozmów przy średnim czasie 3 minuty [5]. Vapi deklaruje obsługę miliarda połączeń rocznie dla dużych klientów, ale nie publikuje szczegółów równoczesności [6].
Integracje backendowe: gdzie najczęściej się łamie system?
Agent głosowy sam w sobie może być szybki, ale integracje mogą zawieść. Typowe problemy:
- CRM osiąga limit żądań: API klienta obsługuje 10 RPS, agent potrzebuje 20 równoczesnych zapytań.
- Baza danych timeout: zapytanie do bazy trwa 5 sekund, użytkownik słyszy ciszę.
- Webhook fallback: system nie ma niezależnego fallbacku; gdy API pada, agent pada razem z nim.
- Brak idempotencji: przy retry żądania duplikują się w CRM (np. dwie transakcje zamiast jednej).
Rozwiązanie: każda integracja powinna mieć timeout (np. 2 sekundy), retry z exponential backoff, cache dla danych, które się nie zmieniają, i niezależny fallback (np. transfer do człowieka lub komunikat awaryjny) [7].
Które platformy radzą sobie najlepiej w Polsce?
Dla polskich firm najważniejsze są: obsługa polskiego ASR, TTS z naturalnym akcentem i wsparcie dla polskich numerów telefonicznych.
ElevenLabs oferuje polski TTS v4 (od 28 września 2026 r.) z około 100 ms opóźnieniem w trybie Turbo [8]. Scribe v2 transkrybuje polski z word-level timestamps i speaker diarization [9]. Plan Creator (22 USD/mies.) daje 121 000 kredytów, wystarczających na około 121 000 znaków TTS lub 6 godzin transkrypcji [10].
Retell obsługuje polskie numery i integruje się z Twilio; dokumentacja wyraźnie opisuje limity concurrency i CPS [1].
Vapi ma polskie głosy, ale dokumentacja nie gwarantuje polskiego ASR na tym samym poziomie co ElevenLabs [2].
Dla transkrypcji Notta oficjalnie wspiera polski i oferuje transkrypcję w czasie rzeczywistym [11].
Jak zacząć wdrażanie agenta głosowego bez ryzyka?
- Zacznij od małego pilota: 10-50 równoczesnych rozmów, jeden scenariusz (np. sprawdzenie salda konta).
- Przetestuj każdą warstwę osobno: ASR z polskim tekstem, TTS z polskim tekstem, API backendowe pod obciążeniem.
- Ustaw monitoring: CloudWatch, Datadog lub własne logi. Śledź P95 opóźnienia, błędy, transfery do człowieka.
- Przygotuj fallback: jeśli agent pada, połączenie trafia do człowieka lub do komunikatu awaryjnego, nie do czarnej dziury.
- Skaluj stopniowo: gdy pilot działa, zwiększaj liczbę równoczesnych rozmów o 50% tygodniowo. Obserwuj metryki.
- Dokumentuj incydenty: każdy problem (timeout, błąd ASR, transfer) zapisz z datą, czasem i przyczyn. To będzie baza do optymalizacji.
Najczęstsze pytania
Ile równoczesnych połączeń potrzebuje moja firma?
Zależy od liczby połączeń dziennie i średniego czasu rozmowy. Jeśli masz 1 000 połączeń dziennie, a każda rozmowa trwa 3 minuty, to średnio 2-3 równoczesne rozmowy. Ale w szczycie (np. 9-10 rano) może być 10-20. Warto zaplanować na 2-3x szczyt [7].
Czy polski ASR jest gotowy do produkcji?
Tak, ale z zastrzeżeniami. Whisper (OpenAI) obsługuje polski, ale może mieć problemy z polskimi imionami i skrótami. ElevenLabs Scribe v2 jest specjalizowany dla polskiego. Warto testować na rzeczywistych nagraniach z Twojej branży [14].
Co zrobić, gdy agent pada w godzinach szczytu?
Przypomina to klasyczne problemy call center. Rozwiązania: load balancing między agentami, kolejka z szacunkowym czasem oczekiwania, fallback do człowieka, lub dynamiczne skalowanie (dodanie nowych instancji agenta). Retell ma wbudowaną kolejkę [1].
Czy mogę klonować głos operatora?
Tak, ElevenLabs oferuje Professional Voice Cloning od planu Creator (22 USD/mies.). Ale pamiętaj: musisz mieć zgodę osoby, której głos klonujesz, szczególnie w Polsce (RODO) [10].
Czy agent głosowy może obsługiwać polskie numery 24/7?
Tak, ale musisz mieć numer (np. od Twilio lub lokalnego operatora), agenta (np. Retell, Vapi, ElevenLabs Voice Agents) i fallback na człowieka w godzinach, gdy agent nie radzi sobie (np. 22-6 rano). Koszty: numer około 1-5 USD/mies., agent 0,5-2 USD za minutę rozmowy [1][2].
Źródła
- Retell concurrency, CPS, and burst limits explained
- Understanding Call Concurrency
- Quotas and Limits for Azure Speech - Foundry Tools
- AI Voice Agent Services for Business: A 2026 Guide
- Check out the demo of Rootlenses Voice, your AI-powered calling platform
- The Voice AI Platform Powering a Billion Calls a Year
- Jak wdrożyć agenta głosowego AI, nie rujnując swojego call center
- September 28, 2026 - ElevenLabs Documentation
- Introducing Scribe v2
- ElevenLabs Pricing for Creators & Businesses of All Sizes
- Transcribe Polish Audio to Text - Notta
- Quotas and limits - LiveKit
- 18 AI Voice Agents Which Hold Up Best in Production Over Time
- Quality of Automatic Speech Recognition -- Polish Language case study
Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.
Jak powstają teksty: Polityka AI · O redakcji