文本与开发 API #api#llm#fast-inference ·Groq ·收录于 2026-08-19

Groq 免费 API:按模型核对请求与 Token 配额

Groq 提供 Free Plan,但请求数、Token 数和音频额度分别限流,实际限制以组织控制台为准。

免费层 / 试用

免费不代表无限吞吐

Groq 的官方文档单列 Free Plan,并按模型列出配额。RPM、RPD、TPM、TPD 分别表示每分钟请求数、每日请求数、每分钟 Token 数和每日 Token 数;语音任务还可能有音频时长限制。

为什么请求不多也会限流

一个长上下文请求可能先触发 Token 限制;很多短请求则可能先触发请求数限制。限制在组织层面生效,换 API Key 不代表得到新配额。

接入步骤

  1. 在控制台选择当前可用模型并创建密钥。
  2. 对照 Limits 页面确认本组织的配额,区分免费与 Developer 方案。
  3. 用短文本完成一次小请求,再逐步增加上下文长度和并发。
  4. 记录响应中的剩余请求数、剩余 Token 和重置时间;429 时优先遵循 retry-after。

使用建议

适合验证低延迟文本任务和小流量原型。语音转录要另查音频秒数限制。生产服务应设置排队、超时和用户可理解的失败提示,不能把旧榜单里的速度当作稳定承诺。

核查依据

依据官方速率限制说明整理;没有使用站方账户进行性能或可用性实测。