Selamlar, Livekit'de büyük bir senaryoda akış/nodelar arasında atlamalar yaşıyor. Function Tool'u çağırması gerektiğinde çağırmıyor. Ya da söylemesi gereken bir şeyi söylemiyor. Bu problemi biliyor musun?

Thanks for reaching out, İbrahim. I'm an AI assistant and I'm here to help. Give me a moment while I research this topic.

1:1 konuşma. Tek bir agent içine system prompt + senaryo + function toollar + mcp gibi şeyler veriyoruz. Ve aslında context büyüyor.

Teşekkürler — paylaştığınız bilgiler (1:1, system prompt + senaryo + function tools + MCP ve büyüyen context) için. Hızlı özet: Bu tür atlamalar genellikle chat context çok büyüyüp token/tezgah/step sınırlarını tetiklediğinde, veya `max_tool_steps`/MCP bağlantı/timeout sorunları yüzünden olur. Aşağıdaki kısa kontrolleri yapalım ve birkaç hızlı düzeltme öneriyorum. Yapmanız/kontrol etmeniz gerekenler (kısa): • Token sayısı: Oturumun

ChatContext

token sayısını loglayın (

session.chat_context.token_count

). Model sınırına yaklaşıyorsa özetleme/prune yapın. • max_tool_steps: Varsayılan 3 olabilir — daha fazla tool çağrısı bekliyorsanız oturum oluştururken

max_tool_steps

değerini arttırın (ör. 6). • Özetleme/prune: Eski turları periyodik olarak özetleyip orijinallerini kaldırın. • agent.update_tools(): Gereksiz araçları devre dışı bırakıp bağlamı hafifletin. • Loglar:

conversation_item_added

,

function_call

eventlerini, ayrıca

on_user_turn_completed

hook'larında hata/timeout var mı kontrol edin. • MCP bağlantısı ve yükleme: Araçların MCP’den yüklendiğinden ve çağrı anında erişilebilir olduğundan emin olun. • Gecikme/observability: Agent Observability ile hangi aşamada (LLM, tool, STT/TTS) gecikme veya kesinti olduğunu görün. Kısa daraltıcı sorular (cevap verirseniz direkt yönlendirme yaparım): • Sorun oluştuğunda token sayısı yaklaşık kaç? •

max_tool_steps

şu an kaç olarak ayarlı? • Loglarda herhangi bir “max_tool_steps reached”, timeout veya exception gözlüyor musunuz? • Atlanan fonksiyonun adı nedir, MCP’den mi geliyor yoksa lokal mi? • Bu durum her zaman mı oluyor yoksa belirli bir tur/sayıdan sonra mı başlıyor? Bana bu 5 kısa bilgiden en az birini gönderirseniz, size doğrudan hangi ayarı/adımdaki değişikliklerin çözüm olacağını söyleyebilirim. Sources: Understand and Improve Agent Latency | LiveKit | Agent session | LiveKit Documentation | The ReAct Pattern for Voice Agents and How AI Agents Think, Act, and Respon... | Chat context | LiveKit Documentation | Model Context Protocol (MCP) | LiveKit Documentation, with interactive elements

Aslında 2 tane sorun var. Node-graph yapısı kullanıyorum. Nodelar arasında atlama ve function tool'u çağırmama gibi şeyler oluyor. Tabi bu her zaman olmuyır.

Teşekkürler—durumu netleştirdiğiniz için. İki ayrı sorun (node-graph içinde node atlama ve function tool çağrılmaması) için hızlıca daraltmamı sağlayacak birkaç kısa bilgi rica ediyorum: 1. Atlanan node veya çağrılmayan tool isimleri nelerdir? (MCP’den mi yoksa lokal tanımlı mı) 2. Sorun çıktığında

session.chat_context.token_count

yaklaşık kaç gösteriyor? 3.

max_tool_steps

değeri ne olarak ayarlı? 4. Loglarda o an için herhangi bir uyarı/timeout/exception veya "max_tool_steps reached" mesajı görünüyor mu? 5. Bu her zaman belli bir tur/sayıdan sonra mı oluyor yoksa rastgele mi? Tekrar üretilebilir mi? Bu bilgilerle: • Hangi ayarın (özetleme,

max_tool_steps

, tool yükleme) değişmesi gerektiğini söyleyeceğim, • Kısa bir debug listesi (hangi logları, hangi eventleri izlemeniz gerektiği) göndereceğim. Yanıt verirseniz hemen yönlendirme yaparım. , with interactive elements

1. Atlanan node veya çağrılmayan tool isimleri nelerdir? (MCP’den mi yoksa lokal tanımlı mı) Lokal 2.

max_tool_steps

değeri ne olarak ayarlı? Varsayılan olarak ayarlı

Teşekkürler — verdiğiniz bilgiler için. Kısa ve hedefe yönelik bir sonraki adım listesi paylaşıyorum; bunları kontrol edip birkaç log/snippet atarsanız hemen daha kesin çözüm söylerim. Yapmanız gerekenler (hızlı kontrol, öncelik sırasına göre): 1. max_tool_steps'i artırın (varsayılan 3'ten örn. 6'ya) ve kısa test gerçekleştirin. Bu sık görülen sebep: adımlar erken sonlanıyor. 2. ChatContext token sayısını test sırasında loglayın (

session.chat_context.token_count

). Büyüdüğünde pruning/özetleme uygulayın. 3. Node-graph için geçiş/log eventlerini açın ve şu eventleri yakalayın:

node_enter

,

node_exit

,

function_call

,

function_return

. Atlanan node için tam zaman damgası ile bu eventlerin çıktısını paylaşın. 4. Fonksiyon çağrısı öncesi/sonrası local tool register kod parçacığını ve ilgili node tanımını (kısa snippet) paylaşın — yanlış kayıt/isim uyuşmazlığı bazen atlamaya yol açar. 5. Testi tekrarlanabilir hale getirmek için: küçük bir senaryo (3-5 node) oluşturup aynı araçları kullanarak tekrar çalıştırın; aynı sorun varsa o minimal senaryoyu paylaşın. Kısa daraltıcı sorular (tek satır cevaplar yeterli): • Sorun daha çok konuşma uzunlaştıktan sonra mı yoksa rastgele mi ortaya çıkıyor? • Local tool çağıran node bir koşula mı bağlı (ör. belirli intent) yoksa her turda mı çağrılıyor? • Paylaşabileceğiniz kısa bir log örneği var mı (5–10 satır yeterli)? Bana 1–2 log snippet ve bu soruların cevaplarını atarsanız, direkt hangi ayarı/patch’i uygulamanız gerektiğini söyleyeceğim. , with interactive elements