Groq API

O nível gratuito permite 30 RPM por organização; o limite diário de requisições varia por modelo: cerca de 14.400 solicitações/dia para o Llama 3.1 8B Instant, e cerca de 1.000 solicitações/dia para modelos maiores como GPT-OSS 120B/20B e Llama 3.3 70B

TPM de aproximadamente 6.000 a 8.000 (varia por modelo); gratuito a longo prazo, sem necessidade de cartão de crédito; os números exatos devem ser confirmados no painel da conta após login em console.groq.com/settings/limits.

⚠️Conhecido pela velocidade de inferência do hardware LPU, adequado para cenários sensíveis à latência; a cota diária dos modelos maiores é bem menor que a dos modelos pequenos, e o uso intenso atinge o limite com facilidade.