https://retellai.com/?utm_source=discord&utm_medium=seo logo
t
@AI Evy token
a
Thanks for tagging me @ts8466. I'll look through relevant sources and get back to you shortly.
### Answer The token-based pricing for Retell AI's LLM usage was adjusted effective June 1st, 2025 [(1) ]() . Prompts up to 3,500 tokens follow the existing flat rate . Prompts exceeding 3,500 tokens scale proportionally in cost . For example, a prompt with 3,200 tokens is billed at the base rate, while a prompt with 4,500 tokens is billed at 4500 / 3500 * base rate . The LLM prompt token limit is set to 32,768 tokens . For multi-state prompts, this includes the longest state plus the general prompt . If you need information about how conversation history is counted toward the 3,500 token threshold or have concerns about token usage in production, I recommend reaching out to support@retellai.com for official guidance.
​ To learn more, see the sources I considered: [[1] Platform Changelogs | Retell AI](https://www.retellai.com/changelog) ​
Feel free to tag @AI Evy with additional questions. I also appreciate feedback, it helps me improve.
a
Thanks for the follow-up, @ts8466. I'll get back to you soon.
### Answer Je comprends votre préoccupation concernant le coût élevé lié aux tokens. Voici les éléments qui peuvent expliquer des prix élevés : Facturation basée sur les tokens (effective depuis le 1er juin 2025) : [(1) ]() [(2) ]() - Les prompts jusqu'à 3 500 tokens sont facturés au tarif de base [(2) ]() - Les prompts dépassant 3 500 tokens sont facturés proportionnellement : nombre_de_tokens / 3500 × tarif_de_base Exemple de calcul : Si votre prompt utilise 4 500 tokens avec OpenAI GPT-4.1 : - Coût = 0,07 + (4500 / 3500 × 0,045) = 0,1279 par minute Pour les agents Multi-Prompt : [(3) ]() Le décompte des tokens inclut le prompt système plus les tokens du nœud actuel . Le calcul fluctue donc selon votre progression dans le flux conversationnel . Ce qui est inclus dans le calcul des tokens : [(1) ]() - Prompt global - Descriptions des fonctions/outils - Prompt d'état/nœud - Transcription entre l'agent et l'utilisateur - Historique des appels d'outils et résultats Limite maximale : [(4) ]() La longueur maximale du prompt est de 32 768 tokens . Malheureusement, je ne peux pas voir votre capture d'écran. Pour analyser précisément votre situation, je vous recommande de vérifier : 1. La longueur totale de votre prompt (global + nœuds + fonctions) 2. Si vous utilisez le mode Flex (qui compile tous les prompts de nœuds en un seul contexte LLM, augmentant significativement le nombre de tokens) [(1) ](
unts/billing-exceptions) Si vous avez besoin d'assistance pour optimiser vos tokens ou comprendre votre facturation, contactez [Documentation]() ou [Hire certified Retell partner]() .
​ To learn more, see the sources I considered: [[1] Exceptions to Our Per-Minute Pricing](https://docs.retellai.com/accounts/billing-exceptions) [[2] Pricing Changes, Latency Improvements, One-Time SMS, and More](https://www.retellai.com/changelog/pricing-changes-latency-improvements-one-time-sms-and-more) [[3] Question about Token-Based Pricing for Multi-Prompt Agents](https://discord.com/channels/1186424376300679209/1375213752743366727) [[4] Understand concurrency & limits](https://docs.retellai.com/deploy/concurrency) ​
Feel free to tag @AI Evy with additional questions. I also appreciate feedback, it helps me improve.
t
@AI Evy Estimated Tokens 6 431–9 871 tokens System Prompt 3 473–3 663 Tool Definitions 998 Conversation History 250–2 200 Knowledge Base 200–1 500 Agent Handbook 1 510 Prompts exceeding 3,500 tokens incur a surcharge. Base LLM (≤ 3,500 tokens) $0.068/min At 8 151 tokens $0.157/min Tip: Use a knowledge base or split prompts into nodes to reduce token usage. Learn more about surcharges
a
Thanks for the follow-up, @ts8466. I'll get back to you soon.
### Answer Votre agent utilise 8 151 tokens, ce qui déclenche la facturation proportionnelle car cela dépasse la limite de 3 500 tokens [(1) ]() . Calcul du coût : - Tarif de base (≤ 3 500 tokens) : $0.068/min - À 8 151 tokens : $0.157/min - Formule : (8151 / 3500) × tarif de base + surcharge Analyse de votre utilisation : - System Prompt : 3 473–3 663 tokens (déjà proche de la limite à lui seul) - Tool Definitions : 998 tokens - Agent Handbook : 1 510 tokens - Knowledge Base : 200–1 500 tokens - Conversation History : 250–2 200 tokens Solutions pour réduire les coûts : 1. Utilisez Conversation Flow au lieu de Single/Multi Prompt [(2) ]() : Divisez votre logique en nœuds séparés. Chaque nœud a son propre prompt, et seul le prompt du nœud actif est envoyé au LLM, réduisant considérablement les tokens . 2. Évitez Flex Mode si possible [(3) ]() : Le Flex Mode compile tous les nœuds en un seul prompt, augmentant massivement le nombre de tokens et les coûts . 3. Réduisez votre System Prompt : À 3 473–3 663 tokens, il est trop long [(4) ]() . Utilisez des sections concises et des instructions claires . 4. Optimisez les Tool Definitions : Gardez les descriptions de fonctions courtes mais précises . 5. Limitez l'Agent Handbook : 1 510 tokens est élevé. Gardez uniquement les informations essentielles. Recommandation principale : Migrez vers un agent Conversation Flow [(2) ]() avec des nœuds séparés pour chaque tâche. Cela réduira drastiquement vos tokens et vos coûts.
Feel free to tag @AI Evy with additional questions. I also appreciate feedback, it helps me improve.
​ To learn more, see the sources I considered: [[1] Platform Changelogs | Retell AI](https://www.retellai.com/changelog) [[2] Conversation Flow Overview](https://docs.retellai.com/build/conversation-flow/overview) [[3] Flex Mode](https://docs.retellai.com/build/conversation-flow/flex-mode) [[4] Prompt Engineering Guide](https://docs.retellai.com/build/prompt-engineering-guide) ​