Descrição da ferramenta: O nukon-pi-detect é uma ferramenta de varredura offline e rápida que identifica ataques de injeção de prompts em pipelines CI, utilizando padrões regex e verificações de código Unicode para garantir segurança sem dependências externas.
Atributos:
🔍 Detecção rápida: Realiza varreduras em sub-milissegundos, garantindo agilidade na integração contínua.
🛡️ Segurança robusta: Detecta cinco categorias de ataques, incluindo injeções clássicas, jailbreaks e Unicode smuggling.
⚙️ Fácil integração: Compatível com pipelines CI, produz relatórios em HTML e JSON para análise detalhada.
🚫 Sem dependências externas: Funciona sem ML, rede ou chaves API, facilitando sua implementação.
✔️ Determinismo: Utiliza regex determinístico e verificações específicas para evitar falsos positivos.
Exemplos de uso:
📝 Análise de segurança em pipelines CI: Verifica automaticamente se há tentativas de injeção durante o processo de integração contínua.
🔧 Integração com ferramentas DevSecOps: Incorpora a detecção em fluxos automatizados para reforçar a segurança do desenvolvimento.
📊 Análise de relatórios: Gera relatórios HTML ou JSON para revisão detalhada dos resultados das varreduras.
🚨 Avaliação pré-implantação: Executa verificações antes do deploy para evitar vulnerabilidades no ambiente produtivo.
🔒 Auditoria de segurança automatizada: Auxilia na identificação proativa de tentativas maliciosas relacionadas a prompts em modelos LLM.