Descrição da ferramenta:
O ccglass é uma ferramenta de inspeção que monitora e exibe detalhes das interações entre agentes de codificação de IA e modelos de linguagem, incluindo prompts, esquemas, histórico de mensagens, uso de tokens e custos associados.
Atributos:
🔍 Transparência: Fornece visibilidade detalhada sobre as comunicações entre agentes e modelos.
📊 Monitoramento: Acompanha métricas como uso de tokens, custos e respostas em tempo real.
📝 Histórico: Registra o histórico completo das mensagens trocadas durante a interação.
⚙️ Schemas: Exibe os esquemas dos prompts utilizados na comunicação.
💾 Caching: Detecta hits no cache para otimizar recursos e desempenho.
Exemplos de uso:
🔎 Análise de prompts: Inspeciona os prompts enviados aos agentes para otimização.
📈 Acompanhamento de custos: Monitora o consumo de tokens e custos associados às interações.
🧩 Depuração de respostas: Investiga respostas geradas por modelos para identificar problemas ou melhorias.
🛠️ Verificação de esquemas: Confirma a estrutura dos esquemas utilizados nos prompts.
⏱️ Análise do desempenho: Avalia o tempo e eficiência das respostas dos agentes AI.