OpenLLMetry
LLM-Spuren als Standard-OpenTelemetry-Spuren – damit sie im Observability-Stack landen, für den Sie bereits bezahlen.
Das praktische Problem bei der meisten LLM-Beobachtbarkeit ist, dass sie einen zweiten Beobachtbarkeits-Silo erstellt: Spuren leben in einem neuen Tool, das Ihre bestehenden Dashboards, Alerts und On-Call-Rotationen nicht kennen. OpenLLMetry vermeidet dies, indem es gewöhnliche OpenTelemetry-Spuren aus LLM- und Vektor-Datenbankaufrufen emittiert, die jeder OTel-Backend verarbeiten kann. Wenn Ihre Organisation bereits einen Tracing-Backend betreibt, ist dies in der Regel der günstigste Weg, um LLM-Sichtbarkeit ohne eine Plattformentscheidung zu erhalten.
Am besten für: Organisationen mit einem bestehenden OpenTelemetry-Stack, die keinen zweiten Beobachtbarkeits-Silo wünschen