Groq API

El nivel gratuito permite 30 RPM por organización; el límite diario de solicitudes varía según el modelo: Llama 3.1 8B Instant ronda las 14 400 solicitudes/día, mientras que modelos más grandes como GPT-OSS 120B/20B y Llama 3.3 70B rondan las 1000 solicitudes/día.

El TPM ronda entre 6000 y 8000 según el modelo; es gratuito a largo plazo y no requiere tarjeta de crédito. La cifra exacta se muestra en el panel de la cuenta al iniciar sesión en console.groq.com/settings/limits.

⚠️Es conocido por la velocidad de inferencia de su hardware LPU, adecuado para casos sensibles a la latencia; la cuota diaria de los modelos grandes es notablemente menor que la de los modelos pequeños, por lo que un uso intensivo llega al límite con facilidad.