Groq API
Groq
免费层每机构 30 RPM,日请求上限因模型而异:Llama 3.1 8B Instant 约 14400 次/天,GPT-OSS 120B/20B、Llama 3.3 70B 等较大模型约 1000 次/天
TPM 约 6000-8000(因模型而异);长期免费、无需信用卡;精确数字以登录 console.groq.com/settings/limits 后账号面板显示为准。
Llama 3.3 70B VersatileLlama 3.1 8B InstantGPT-OSS 120BGPT-OSS 20BWhisper Large v3
以 LPU 硬件推理速度快著称,适合延迟敏感场景;大模型日额度明显低于小模型,重度使用容易触顶。