Groq API

무료 티어는 조직당 30RPM이며, 일일 요청 한도는 모델마다 다릅니다: Llama 3.1 8B Instant는 약 14400회/일, GPT-OSS 120B/20B, Llama 3.3 70B 등 대형 모델은 약 1000회/일입니다

TPM은 모델에 따라 약 6000~8000입니다. 장기 무료이며 신용카드가 필요 없습니다. 정확한 수치는 console.groq.com/settings/limits 로그인 후 계정 패널에 표시되는 값을 기준으로 합니다.

⚠️LPU 하드웨어 기반의 빠른 추론 속도로 유명해 지연 시간에 민감한 시나리오에 적합합니다. 대형 모델의 일일 한도가 소형 모델보다 뚜렷이 낮아 과다 사용 시 쉽게 한도에 도달합니다.