Call-bot.ai

GlossairePublié le

Latence (agent vocal et callbot)

Définition

La latence d'un agent vocal est le délai entre le moment où l'appelant cesse de parler et celui où il entend le début de la réponse. Elle additionne plusieurs étapes techniques et ne se compare qu'entre mesures de même périmètre.

À retenir

  • Critère de mesure : du dernier son de l'appelant au premier son audible de la réponse (Twilio : mouth-to-ear turn gap ; Vapi : latence voix à voix).
  • Rythme humain : Stivers et al. (PNAS, 2009) mesurent, dans 10 langues et en conversation informelle, un délai moyen de +208 ms entre la fin d'une question fermée et le début de la réponse (de +7 ms en japonais à +469 ms en danois).
  • Cible d'éditeur : pour un agent en cascade simple, Twilio publie en novembre 2025 une cible médiane de départ de 1 115 ms de bouche à oreille, avec 1 400 ms comme limite haute.

Comment ça marche

Vapi décompose la latence en cinq étapes successives : transport de l'audio, endpointing, transcription (STT), début de la réponse du modèle (délai avant le premier jeton), puis synthèse vocale (délai avant le premier audio). Le temps du modèle est souvent la plus grande composante (documentation de Vapi relevée le 21/10/2026).

À ne pas confondre avec le délai de transmission à sens unique de la recommandation UIT-T G.114 (mai 2003), qui porte sur le trajet de la voix entre deux interlocuteurs : sous 150 ms, la plupart des applications gardent une interactivité essentiellement transparente ; 400 ms est la limite recommandée pour la planification générale des réseaux.

Pièges et limites

  • Périmètres différents : l'affichage de Vapi exclut l'endpointing et le transport, et Twilio observe que beaucoup de benchmarks d'autres éditeurs ne mesurent que le traitement interne de la plateforme. Vapi conseille de ne comparer des chiffres que si leur périmètre et leurs conditions correspondent.
  • Médiane et queue : Twilio avertit qu'une détection de fin de parole « intelligente » qui se trompe fait sauter la latence en queue de distribution. Mesurez médiane et valeurs hautes.
  • Pas de seuil magique : Vapi note qu'une réponse peut sembler naturelle sans être instantanée, et que réduire la latence n'aide que jusqu'au point où les appelants ne perçoivent plus la différence. Ni Stivers ni G.114 ne portent sur un agent automatisé.

Voir aussi

Sources

Tout le glossaire