Selam,
Gemini Live API'de genarete_reply de sürek...
# ask-aia
astonishing-waitress-60915
02/17/2026, 9:41 AMSelam,
Gemini Live API'de genarete_reply de sürekli olarak aşağıdaki hatayı alıyorum.
{"message": "received server content but no active generation.", "level": "WARNING", "name": "livekit.plugins.google", "pid": 116, "job_id": "AJ_cHJ3Qo2QP4HW", "room_id": "RM_cpNxatAEx3jo", "timestamp": "2026-02-17T091550.234766+00:00"}
{"message": "received server content but no active generation.", "level": "WARNING", "name": "livekit.plugins.google", "pid": 116, "job_id": "AJ_cHJ3Qo2QP4HW", "room_id": "RM_cpNxatAEx3jo", "timestamp": "2026-02-17T091550.235641+00:00"}
{"message": "received server content but no active generation.", "level": "WARNING", "name": "livekit.plugins.google", "pid": 116, "job_id": "AJ_cHJ3Qo2QP4HW", "room_id": "RM_cpNxatAEx3jo", "timestamp": "2026-02-17T091550.238502+00:00"}
{"message": "no active generation to report metrics for", "level": "WARNING", "name": "livekit.plugins.google", "pid": 116, "job_id": "AJ_cHJ3Qo2QP4HW", "room_id": "RM_cpNxatAEx3jo", "timestamp": "2026-02-17T091550.238675+00:00"}
VertexAI'da gemini-live-2.5-flash-preview-native-audio-09-2025 bu modeli kullanıyorum.
t
tall-airline-16756
02/17/2026, 9:41 AMThanks for reaching out, İbrahim. I'm an AI assistant and I'm here to help. Give me a moment while I research this topic.
tall-airline-16756
02/17/2026, 9:41 AMSelam — paylaştığın loglardaki uyarıları ve kullandığın modeli (gemini-live-2.5-flash-preview-native-audio-09-2025) gördüm. Bu hataya yönelik neyi yanıtladığımı kısaça belirteyim: "received server content but no active generation" uyarısı, sunucudan içerik gelmesine rağmen o içeriği işleyecek aktif bir gerçek zamanlı (real‑time) üretim/generation oturumunun bulunmadığını gösterir. Aşağıda adım adım kontrol etmeni ve paylaşmanı rica ettiğim noktalar var — bu bilgilerle sorunu daha hızlı çözebiliriz.
Öncelikle kontrol etmen gerekenler
• Oturum başlatma:
generate_replyvertexai=TrueprojectlocationGOOGLE_APPLICATION_CREDENTIALSgenerate_replygenerate_replyvertexai=TrueprojectlocationGOOGLE_APPLICATION_CREDENTIALSa
astonishing-waitress-60915
02/17/2026, 9:49 AMllm_model = google.realtime.RealtimeModel(
instructions=self._instructions,
model="gemini-live-2.5-flash-native-audio",
voice="Autonoe",
language="tr",
vertexai=True,
thinking_config=types.ThinkingConfig(
thinking_budget=0,
),
)
Bu şekilde kullanıyorum.
t
tall-airline-16756
02/17/2026, 9:49 AMTeşekkürler — paylaştığın
RealtimeModelgenerate_replyRealtimeModelstart_sessionconnectgenerate_replythinking_budget=0model="gemini-live-2.5-flash-native-audio"gemini-live-2.5-flash-preview-native-audio-09-2025vertexai=TrueprojectlocationGOOGLE_APPLICATION_CREDENTIALSthinking_budgetmodelgenerate_replya
astonishing-waitress-60915
02/17/2026, 9:49 AM"""
Greeting Handler
================
Çağrı başladığında kullanıcı selamlamasını bekler ve greeting mesajını yönetir.
Her çağrı için ayrı bir handler instance'ı oluşturulur (session-scoped).
"""
import asyncio
from livekit.agents import AgentSession
from ..config import Config
from .logger import get_logger
logger = get_logger("greeting")
async def wait_for_user_greeting(
session: AgentSession,
room_name: str,
) -> bool:
"""
Kullanıcının ilk açılış konuşmasını bekle.
Davranış:
- Kullanıcı konuşursa, konuşması bitene kadar bekler ("speaking" -> "listening")
- Kullanıcı hiç konuşmazsa timeout sonunda devam eder
Args:
session: LiveKit AgentSession instance
room_name: Room name for logging
Returns:
True: kullanıcı timeout içinde konuşmaya başladı (bitirmese bile).
False: kullanıcı timeout içinde hiç konuşmadı.
Note:
Bu fonksiyon her çağrı için ayrı çalışır (session-scoped).
Event listener'lar session'a bağlı oldukları için izole çalışırlar.
"""
user_finished_speaking = asyncio.Event()
user_started_speaking = False
timeout = Config.GREETING_USER_TIMEOUT
def on_user_state(ev):
nonlocal user_started_speaking
if ev.new_state == "speaking":
user_started_speaking = True
elif ev.new_state == "listening" and user_started_speaking:
user_finished_speaking.set()
# Event listener'ı kaydet
session.on("user_state_changed", on_user_state)
try:
# Kullanıcı başlayıp konuşmayı tamamladıysa doğrudan devam et.
await asyncio.wait_for(user_finished_speaking.wait(), timeout=timeout)
return True
except asyncio.TimeoutError:
if not user_started_speaking:
return False
# Kullanıcı başladı ama "listening" state'ine dönemedi.
# Çok uzun bloklamamak için bir timeout daha bekleyip devam et.
try:
await asyncio.wait_for(user_finished_speaking.wait(), timeout=timeout)
except asyncio.TimeoutError:
logger.warning(
f"[{room_name}] User started speaking but didn't finish within extra {timeout}s — proceeding"
)
return True
finally:
# Event listener'ı temizle (memory leak önleme)
try:
session.off("user_state_changed", on_user_state)
except (AttributeError, TypeError):
pass
async def run_greeting_flow(
session: AgentSession,
room_name: str,
greeting: str,
) -> bool:
"""
Çağrı açılış greeting akışını yönetir.
1) Kullanıcının kısa açılış konuşmasını bekler
2) Agent greeting mesajını generate_reply ile üretip söyler
"""
user_spoke = await wait_for_user_greeting(session=session, room_name=room_name)
await session.generate_reply(instructions=greeting)
return user_spoke
Kod bu
t
tall-airline-16756
02/17/2026, 9:50 AMTeşekkürler — paylaştığın handler ve
generate_replyawait session.generate_reply(instructions=greeting)connectstart_sessionmodel="gemini-live-2.5-flash-native-audio"gemini-live-2.5-flash-preview-native-audio-09-2025thinking_budget=0thinking_config=types.ThinkingConfig(thinking_budget=1000)modelgenerate_replya
astonishing-waitress-60915
02/17/2026, 9:50 AMRealtime oturumun aktif olduğunu doğrulayacak bir log ekle: generate_reply çağırmadan önce session’dan "active" veya "ready" event'ini bekleyip logla. Eğer oturum aktif değilse generate_reply çağırma.
Bunu nasıl yaparım? Aktif mi değil mi diye görmek iin.
t
tall-airline-16756
02/17/2026, 9:51 AMSelam — iyi bir soru. Paylaştığın bağlamla, oturumun "active" veya "ready" olup olmadığını kontrol etmek için en sağlam yol `AgentSession`'ın yayımladığı olayları (event'leri) dinlemek ve
agent_state_changedlisteninggenerate_reply Copy code
import asyncio
from livekit.agents import AgentSession, AgentStateChangedEvent
from .logger import get_logger
logger = get_logger("greeting")
# Bu event, oturumun hazır olduğunu işaret edecek
session_ready = asyncio.Event()
# AgentSession zaten oluşturulmuş ve llm olarak RealtimeModel atanmış olmalı
# session = AgentSession(...)
@session.on("agent_state_changed")
def _on_agent_state_changed(ev: AgentStateChangedEvent):
<http://logger.info|logger.info>(f"Agent state changed: {ev.new_state}")
# Genelde 'listening' agent'ın real-time olarak hazır olduğunu gösterir
if ev.new_state == "listening":
<http://logger.info|logger.info>("✅ Realtime session is active/ready.")
session_ready.set()
elif ev.new_state == "initializing":
<http://logger.info|logger.info>("🔄 Session initializing...")
# İstersen diğer durumlar için log ekle: 'thinking', 'speaking', vb. Copy code
async def safe_generate_reply(session: AgentSession, instructions: str, wait_timeout: float = 5.0):
try:
# Oturumun hazır olmasını bekle
await asyncio.wait_for(session_ready.wait(), timeout=wait_timeout)
except asyncio.TimeoutError:
logger.warning("Session did not become ready within timeout — skipping generate_reply or handling fallback.")
return None
# Oturum hazırsa güvenle çağır
return await session.generate_reply(instructions=instructions)safe_generate_reply Copy code
async def run_greeting_flow(session: AgentSession, room_name: str, greeting: str) -> bool:
user_spoke = await wait_for_user_greeting(session=session, room_name=room_name)
# Güvenli çağrı — önce session'ın listening olduğundan emin olur
await safe_generate_reply(session=session, instructions=greeting, wait_timeout=5.0)
return user_spokelisteningreadygeneration_startedgeneration_finisheda
astonishing-waitress-60915
02/17/2026, 10:27 AMselam,
bana realtime da çalışacak end_call function tool yazabilir misin?
t
tall-airline-16756
02/17/2026, 10:28 AMSelam — isteğine göre realtime (AgentSession + RealtimeModel) ortamında güvenli şekilde çağrıyı sonlandıran bir
end_callAgentSessionget_job_contextfunction_toolRunContext Copy code
import asyncio
from livekit.agents import function_tool, get_job_context, RunContext
from .logger import get_logger
logger = get_logger("end_call_tool")
@function_tool
async def end_call(ctx: RunContext, farewell_text: str = "Görüşmemiz için teşekkürler, iyi günler. Hoşça kal."):
"""
Realtime ortamda çağrıyı güvenli şekilde sonlandıran tool.
Akış:
1) Ajandan kısa bir veda mesajı oluşturulur (generate_reply).
2) Ajanın konuşmasının tamamlanmasını bekler (playout beklemesi).
3) Job context üzerinden odayı siler / oturumu sonlandırır.
4) Hata durumunda loglama ve uygun dönüş mesajı sağlar.
"""
session = getattr(ctx, "session", None)
if session is None:
logger.error("RunContext içinde session bulunamadı.")
return {"ok": False, "reason": "session_not_found"}
# 1) Veda mesajı üret
try:
<http://logger.info|logger.info>("Producing farewell audio via generate_reply...")
await session.generate_reply(instructions=farewell_text)
except Exception as e:
logger.exception("generate_reply sırasında hata oluştu.")
# Hatalı olsa bile alttaki temizlik adımına devam edebiliriz
# (özellikle oturumun kapatılması kritikse)
# 2) Playout'un bitmesini bekle (kesinlikle bekleyin; aksi halde medya yarıda kesilebilir)
try:
# ctx.wait_for_playout() mevcutsa kullan; yoksa küçük bir bekleme koy
if hasattr(ctx, "wait_for_playout"):
<http://logger.info|logger.info>("Waiting for playout to finish...")
await ctx.wait_for_playout()
else:
<http://logger.info|logger.info>("ctx.wait_for_playout bulunamadı — kısa bekleme yapılıyor (2s).")
await asyncio.sleep(2)
except Exception:
logger.exception("Playout beklenirken hata oluştu; yine de devam ediyorum.")
# 3) Odayı sil / oturumu sonlandır
try:
job_ctx = get_job_context()
if not job_ctx or not getattr(job_ctx, "room", None):
logger.error("Job context veya room bilgisi alınamadı.")
return {"ok": False, "reason": "job_context_or_room_missing"}
room_name = job_ctx.room.name
<http://logger.info|logger.info>(f"Deleting room: {room_name} to end call for all participants...")
# job_ctx.api.room.delete_room beklenen API çağrısıdır; entegrasyona göre değişebilir
await job_ctx.api.room.delete_room({"room": room_name})
<http://logger.info|logger.info>("Room deletion requested successfully.")
return {"ok": True, "message": "Call ended and room deleted."}
except Exception as e:
logger.exception("Odayı silerken hata oluştu.")
# Alternatif: Eğer delete_room başarısızsa session veya connection kapatılabilir
try:
if hasattr(session, "close"):
await session.close()
<http://logger.info|logger.info>("Session.close() çağrıldı.")
except Exception:
logger.exception("Session kapatılırken hata oluştu.")
return {"ok": False, "reason": "room_delete_failed", "error": str(e)}wait_for_playoutsession.close()ctx.wait_for_playout()wait_for_playoutsession.closea
astonishing-waitress-60915
02/17/2026, 10:29 AMasync def disconnect_sip_participants(ctx: JobContext) -> bool:
"""
Disconnect all SIP participants from the room.
This properly terminates SIP/phone calls.
Args:
ctx: LiveKit job context
Returns:
True if any SIP participant was disconnected
"""
disconnected = False
room_name = ctx.room.name
try:
for participant in list(ctx.room.remote_participants.values()):
if participant.kind == rtc.ParticipantKind.PARTICIPANT_KIND_SIP:
await ctx.api.room.remove_participant(
api.RoomParticipantIdentity(
room=room_name,
identity=participant.identity,
)
)
disconnected = True
except Exception as e:
logger.error(f"❌ Failed to disconnect SIP participants: {e}")
return disconnected
def extract_sip_info(
participant: rtc.RemoteParticipant,
) -> tuple[str, str, str, Dict[str, str]]:
"""
Extract caller, called number, trunk ID and SIP headers from participant.
Returns: (caller_number, called_number, sip_trunk_id, sip_headers)
"""
# Extract raw numbers
raw_called = (
participant.attributes.get("sip.trunkPhoneNumber")
or participant.attributes.get("sip.trunk_phone_number")
or ""
)
raw_caller = (
participant.attributes.get("sip.phoneNumber")
or participant.attributes.get("sip.phone_number")
or ""
)
# Extract SIP Trunk ID (both camelCase and camelCase variants)
sip_trunk_id = (
participant.attributes.get("sip.trunkID")
or participant.attributes.get("sip.trunkId")
or ""
)
# Normalize
called_number = raw_called
caller_number = raw_caller
# Extract headers
sip_headers = {}
for k, v in participant.attributes.items():
sip_headers[k] = v
# Also clean sip.h. prefix for easier access
if k.startswith("sip.h."):
sip_headers[k.replace("sip.h.", "")] = v
return caller_number, called_number, sip_trunk_id, sip_headers
def log_participant_info(
participant: rtc.RemoteParticipant,
caller: str,
called: str,
sip_headers: Dict[str, str],
):
"""
Katılımcı bilgilerini log'a yazar.
SIP ve web katılımcıları için farklı formatlarda log çıktısı üretir.
SIP çağrıları için arayan/aranan numaraları ve SIP header'ları gösterir.
Args:
participant: LiveKit RemoteParticipant nesnesi
caller: Arayan telefon numarası (normalize edilmiş)
called: Aranan telefon numarası / DID (normalize edilmiş)
sip_headers: SIP protokol header'ları (sip.* attribute'ları)
Log formatı:
- SIP: "📞 SIP Call: +905551234567 → +902127067294"
- Web: "💻 Web participant: web-user-123"
"""
if participant.kind == rtc.ParticipantKind.PARTICIPANT_KIND_SIP:
logger.info(f"📞 SIP Call: {caller} → {called}")
logger.info(f"📨 SIP Attributes: {sip_headers}")
else:
logger.info(f"💻 Web participant: {participant.identity}")
async def hangup(
ctx: JobContext,
reason: str = "Call ended",
) -> bool:
"""
End the phone call by disconnecting SIP participants, then shutting down
the agent job.
Steps:
1. Disconnect SIP participants (hangs up the phone)
2. Call ctx.shutdown() to properly close the session/job
Args:
ctx: LiveKit job context
reason: Reason for ending the call (logged only)
Returns:
True if successful, False otherwise
"""
room_name = ctx.room.name
try:
# Hang up phone legs only (room is not force-deleted).
sip_disconnected = await disconnect_sip_participants(ctx)
if not sip_disconnected:
logger.warning("No SIP participants to disconnect")
# Properly shutdown the session to stop event handlers/tasks.
ctx.shutdown(reason)
return True
except Exception as e:
logger.error(f"❌ Failed to hangup {room_name}: {e}")
# Last resort: try shutdown anyway
try:
ctx.shutdown(reason)
return True
except Exception:
return False
Telefonu kapatmak için bunu kullanıyorum. Python agents versiyonum 1.4.2 bunu daha basit ve güvenli şekilde nasıl yazabilirim?
t
tall-airline-16756
02/17/2026, 10:30 AMSelam — paylaştığın kodu inceledim. Amaç: SIP katılımcılarını güvenli şekilde ayırıp (hang up) oturumu/işi düzgün kapatmak. Mevcut akış mantıklı; ben bunu daha basit, güvenli ve hata toleransı yüksek bir hale getirecek şekilde yeniden düzenledim. Aşağıda hem geliştirilmiş kod hem de kısa açıklamalar var. Python agents v1.4.2 ile uyumlu olacak şekilde minimal ve anlaşılır tuttum.
Önerilen değişikliklerin ana fikirleri
• Tek bir ana fonksiyon (end_call) ile SIP bağlantılarını ayır, logla, ardından güvenli shutdown yap.
• Her adımı try/except ile izole et; bir adım başarısız olsa bile temizlik adımlarına devam et.
• Daha kısa, okunabilir yardımcı fonksiyonlar: sip disconnect, participant logging.
• Ağ/uzun işlem durumları için opsiyonel timeout veya retry eklenebilir (şimdilik basit tutuyoruz).
Kod — basit, güvenli end_call tool
Copy code
import asyncio
from typing import Dict, Tuple
from livekit import rtc, api
from livekit.agents import get_job_context
from .logger import get_logger
logger = get_logger("end_call")
async def _disconnect_sip_participants(ctx) -> bool:
"""
Disconnect all SIP participants. Returns True if any were disconnected.
"""
disconnected = False
room_name = ctx.room.name
try:
# copy to list to avoid runtime dict size changes
participants = list(ctx.room.remote_participants.values())
for participant in participants:
if participant.kind == rtc.ParticipantKind.PARTICIPANT_KIND_SIP:
try:
await ctx.api.room.remove_participant(
api.RoomParticipantIdentity(room=room_name, identity=participant.identity)
)
<http://logger.info|logger.info>(f"Disconnected SIP participant: {participant.identity}")
disconnected = True
except Exception as e:
logger.exception(f"Failed to remove SIP participant {participant.identity}: {e}")
except Exception as e:
logger.exception(f"Failed while iterating participants to disconnect SIPs: {e}")
return disconnected
def _extract_sip_info(participant: rtc.RemoteParticipant) -> Tuple[str, str, str, Dict[str, str]]:
"""
Return (caller_number, called_number, sip_trunk_id, sip_headers)
"""
attrs = participant.attributes or {}
raw_called = attrs.get("sip.trunkPhoneNumber") or attrs.get("sip.trunk_phone_number") or ""
raw_caller = attrs.get("sip.phoneNumber") or attrs.get("sip.phone_number") or ""
sip_trunk_id = attrs.get("sip.trunkID") or attrs.get("sip.trunkId") or ""
sip_headers = {}
for k, v in attrs.items():
sip_headers[k] = v
if k.startswith("sip.h."):
sip_headers[k.replace("sip.h.", "")] = v
return raw_caller, raw_called, sip_trunk_id, sip_headers
def _log_participant_info(participant: rtc.RemoteParticipant):
caller, called, _, sip_headers = _extract_sip_info(participant)
if participant.kind == rtc.ParticipantKind.PARTICIPANT_KIND_SIP:
<http://logger.info|logger.info>(f"📞 SIP Call: {caller} → {called} (identity={participant.identity})")
logger.debug(f"📨 SIP Attributes: {sip_headers}")
else:
<http://logger.info|logger.info>(f"💻 Web participant: {participant.identity}")
async def end_call(ctx, reason: str = "Call ended") -> bool:
"""
Cleanly end the call:
1) Log participants
2) Disconnect SIP participants (hang up phone legs)
3) Shutdown the job/context to clean tasks and handlers
Returns True if shutdown was attempted (successful or best-effort), False on catastrophic failure.
"""
room_name = getattr(ctx.room, "name", "<unknown>")
<http://logger.info|logger.info>(f"Ending call for room {room_name} — reason: {reason}")
# 1) Log current participants for debugging/telemetry
try:
for p in list(ctx.room.remote_participants.values()):
_log_participant_info(p)
except Exception:
logger.exception("Failed to enumerate/log participants")
# 2) Disconnect SIP participants (best-effort)
try:
sip_disconnected = await _disconnect_sip_participants(ctx)
if not sip_disconnected:
<http://logger.info|logger.info>("No SIP participants found to disconnect.")
except Exception:
logger.exception("Unexpected error while disconnecting SIP participants")
# 3) Shutdown the job/context to stop agent tasks and handlers
try:
# ctx.shutdown is synchronous in your sample; wrap in try to ensure it runs.
ctx.shutdown(reason)
<http://logger.info|logger.info>("ctx.shutdown() called successfully.")
return True
except Exception as e:
logger.exception(f"ctx.shutdown() failed: {e}")
# As last resort, try any session-level close if available
try:
session = getattr(ctx, "session", None)
if session is not None and hasattr(session, "close"):
await session.close()
<http://logger.info|logger.info>("session.close() called as fallback.")
except Exception:
logger.exception("Fallback session.close() also failed.")
return Falseawait end_call(ctx, "Kullanıcı isteği")ctx.shutdown2 Views