Langfuse é uma ferramenta open source que oferece observabilidade e análises para aplicações LLM, permitindo aos desenvolvedores explorar, depurar e melhorar a performance de suas aplicações através de uma interface visual intuitiva.
Atributos
- 📊 Log traces: Integração via SDKs (Python, JS/TS), API ou 🦜🔗 Langchain para registrar de forma assíncrona os rastreamentos de produção e anexar metadados.
- 🔍 Inspect & Debug: Utilize a interface visual para inspecionar e depurar rastreamentos de produção.
- 💯 Score: Atribua pontuações aos rastreamentos através de feedback do usuário ou pontuação manual em nossa interface. Filtre por rastreamentos de alta e baixa qualidade para melhorar rapidamente sua aplicação.
- 🔧 Dashboards:
- Custo: Acompanhe a contagem de tokens e os custos de computação. Desagregue por usuário, recurso, sessão, etc. para entender sua economia unitária.
- Latência: Meça a latência total e seus constituintes para melhorar a UX.
- Qualidade: Monitore a qualidade da saída ao longo do tempo, usuários e recursos para garantir que seus usuários vejam valor.
- 🏗 Open Source: Langfuse é open source, agnóstico em relação a modelos e seus SDKs totalmente assíncronos podem se integrar com qualquer LLM.
Exemplos de uso
- 🖥 Desenvolvedores:
- Depuração de Aplicações LLM: Rastreie e depure aplicações LLM complexas, entendendo como as alterações em uma etapa impactam o desempenho geral da aplicação.
- 📈 Analistas de Dados:
- Monitoramento de Métricas: Baseado nos dados ingeridos, Langfuse fornece análises pré-construídas para ajudar as equipes a se concentrarem nas métricas mais importantes ao melhorar sua aplicação LLM.
- 🌐 Integradores de Sistemas:
- Integração com LLM: Use a integração Langchain ou rastreie sua aplicação usando os SDKs do Cliente Langfuse.
🇧🇷 Disponível em Português: Sim, com o uso do tradutor nativo do navegador.
💲 Preços:
- Hobby: Grátis por mês. Inclui projetos ilimitados, eventos ilimitados (uso justo), 1 GB de armazenamento e suporte via Discord e Chat.
- Pro: USD $95 por mês. Inclui projetos ilimitados, eventos ilimitados (uso justo), 10 GB de armazenamento incluído, suporte 1:1, canal Slack e ajuda na integração.
- Enterprise: Preço personalizado. Soluções e suporte dedicados para projetos de nível empresarial.