Langfuse
Langfuse to otwartoźródłowa platforma do obserwowalności aplikacji opartych na modelach językowych. Rejestruje przebieg wywołań — prompty, odpowiedzi, koszty, czasy i błędy — i pokazuje je w formie śladów (traces) możliwych do przeanalizowania krok po kroku.
Zobacz wybrane projekty dla naszych klientów
Problem, który rozwiązuje, jest praktyczny: aplikacja z modelem językowym rzadko zawodzi w sposób oczywisty. Bez rejestrowania wywołań trudno odpowiedzieć, dlaczego konkretna odpowiedź była zła, ile kosztuje obsługa użytkownika i który krok łańcucha odpowiada za opóźnienie.
Langfuse obsługuje też ocenę jakości odpowiedzi i wersjonowanie promptów, co pozwala porównywać zmiany między wdrożeniami.