Groq API

無料枠は組織ごとに30RPM。1日あたりのリクエスト上限はモデルによって異なり、Llama 3.1 8B Instantで1日約14400回、GPT-OSS 120B/20BやLlama 3.3 70Bなど大型モデルでは1日約1000回です。

TPMは約6000〜8000（モデルにより異なる）。長期無料でクレジットカード登録は不要です。正確な数値は console.groq.com/settings/limits にログインしたアカウントパネルの表示に従ってください。

⚠️LPUハードウェアによる高速推論で知られ、低遅延が求められる用途に向いています。大型モデルの1日あたりクレジットは小型モデルより明らかに少なく、ヘビーユースでは上限に達しやすい点に注意してください。