Benchmarks(3)
Todos os artigos sobre Benchmarks, do mais recente ao mais antigo.
- Como treinámos um scanner de prompt injection super-rápido que responde em menos de 100 ms
- O nosso router de LLM corre a 30 ms p50 num servidor Hetzner de 84 €/mês, sem GPU
- As alternativas open source ao Jev não prestam, eis o benchmark