中文 ▾
使用试用额度体验

Groq API 模型与托管的无审查模型

搜索 groq api 模型通常意味着两件事之一:你想要 Groq 提供的模型列表,或者你指的是 xAI 的模型系列 Grok,只是打错了。它们是不同的公司,本页梳理了名称并比较了各类模型列表提供的功能。

最后更新

一排玻璃模型瓷砖,其中一块金色瓷砖放置在基座上,代表模型列表

总结

  1. Groq 是推理提供商;Grok 是 xAI 的模型系列。名称相近,但公司无关。
  2. Groq 的产品目录会变化,因此请从其自身的接口读取,而不是依赖博客文章。
  3. 此 API 暴露一个模型 ID:uncensored,通过 GET /v1/models 列出。
  4. 根据策略匹配度、上下文大小和价格进行选择,而不是根据名称。

Groq 和 Grok 不是一回事

Groq(带 q)是一家在其自有推理硬件上运行开放权重语言模型并通过 GroqCloud 出售访问权限的公司。Grok(带 k)是 xAI 用于其聊天机器人和模型的名称。两个产品,两个供应商,仅一个字母之差,这就是为什么搜索时容易混淆。

我们两者都不是。我们的服务是一个独立的 OpenAI 兼容接口,提供单一开放权重模型,针对合法成人用途进行无内容拒绝调整。它不是 xAI、Groq 或其他任何供应商的官方 API,也不是跨供应商的路由器。

如何阅读任何模型列表

提供商的模型列表是一个选择表,每一行都隐藏着同样的几个问题。按以下顺序提问。

  • 谁训练了模型? 提供来自多个实验室的开放权重模型的托管方让你在一个密钥下获得多个系列。提供自有模型的实验室让你获得一个系列。
  • 什么是上下文窗口? 这决定了单次调用中能容纳多少历史记录、代码或文档文本。
  • 输入和输出费率是多少? 两者都很重要,通常每个 token 的输出费率更高。
  • 速率限制是多少? 每分钟请求数和并发请求数决定了批处理作业需要几分钟还是几小时。
  • 使用策略允许什么? 每个提供商都会发布一份。在围绕模型构建之前请阅读它。

我们不在这里复制 Groq 的产品目录,因为它会变化,过时的列表比没有更糟。使用你自己的密钥从其模型接口实时获取,并将其文档视为权威来源。

此 API 列出的内容

我们的列表简短是故意的。GET /v1/models 返回你可以调用的唯一模型,ID 为 uncensored。

curl https://api.grockapi.com/v1/models   -H "Authorization: Bearer YOUR_KEY"

该单一模型具有 100,000 个 token 的上下文窗口,由提示词和补全共享,支持流式输出、函数调用和 JSON 模式,并接受 temperature、top_p、stop、seed 以及惩罚。它仅支持文本:不支持图像、音频、嵌入或微调。

单一模型意味着无需决定调用哪一个。这也意味着没有更便宜的小型变体用于简单任务,也没有用于代码或视觉的专家模型。如果你需要这种范围,多模型托管方是更好的选择,我们直言不讳。

单一模型在实际中的意义

使用单一模型无需路由。你无需在小型快速模型和大型慢速模型之间进行选择,也无需在配置中放置回退表。每个请求都发送到同一模型,因此行为易于推理:如果提示词今天有效,它应在相同设置下继续有效。你可以固定 seed 和 temperature 以进行可重复测试。

权衡在于通过模型选择控制成本。在多模型托管方上,你可以将简单的分类任务发送到小型模型以节省资金。在这里,你通过提示词长度和 max_tokens 来控制成本,输入 token 为每 1M $0.15,输出 token 为每 1M $0.50。

几乎相同的名称会导致真正的错误,也会扭曲搜索结果。以下是一些需要注意的:

  • 密钥不可互换。 由一个提供商颁发的密钥仅在该提供商的基础 URL 处有效。将其发送到其他地方会返回授权错误,并且还会将秘密泄露给没资格查看的托管方。
  • 环境变量。 以提供商命名,例如 GROQ_API_KEY 和 UNCENSORED_KEY,不要在不同项目间共享通用的 API_KEY。
  • 模型 ID 不同。 在一个托管方有效的模型名称在另一个托管方会被拒绝。始终传递来自该托管方自身模型列表的 ID。
  • 搜索词。 搜索提供商的模型列表会给出仅关于该提供商的结果。添加公司名称,因为发音相似的词会引入错误的提供商。

如果在你复制代码片段后立即出现 401 错误或模型未找到错误,请同时检查基础 URL、密钥和模型名称。在几乎所有情况下,这三者之一属于不同的提供商。

并排对比

问题GroqGrok (xAI)此 API
它是什么开放权重模型的推理托管方xAI 的自有模型系列托管开放权重模型,一个 ID
模型选择多个,按其产品目录多个,按 xAI 文档一个:uncensored
OpenAI 风格客户端文档显示兼容文档显示兼容是,更改 Base URL 和密钥
价格查阅其当前定价查阅其当前定价每 100 万 token 输入 $0.15,输出 $0.50
内容政策适用提供商政策适用提供商政策合法成人用途不拒绝内容

选择对您的项目最重要的行。如果模型广度很重要,请选择多模型托管商。如果特定厂商的模型很重要,请前往该厂商。如果拒绝响应是阻碍您产品的因素,最后一列就是相关选项。

在同一应用中使用多个提供商

由于这三者都支持 chat-completions 风格的 API,您可以为每个提供商保留一个小型客户端,并按任务进行路由。以下是使用两个客户端的模式:一个用于此接口,另一个用于您选择的任何托管商,其 base URL 和密钥从环境变量中获取。

import os
from openai import OpenAI

adult_fiction = OpenAI(base_url="https://api.grockapi.com/v1",
                       api_key=os.environ["UNCENSORED_KEY"])
general = OpenAI(base_url=os.environ["OTHER_BASE_URL"],
                 api_key=os.environ["OTHER_KEY"])

def ask(task, prompt):
    if task == "fiction":
        client, model = adult_fiction, "uncensored"
    else:
        client, model = general, os.environ["OTHER_MODEL"]
    r = client.chat.completions.create(
        model=model, messages=[{"role": "user", "content": prompt}])
    return r.choices[0].message.content

这使您的代码独立于任何单一厂商。稍后更换提供商只需更改三个环境变量,而无需重写调用。

测试任何模型的公平方式

模型列表告诉您有哪些模型存在。只有您自己的提示词能告诉您哪些有效。小型评估只需不到一小时。

  1. 从您的产品中收集 30 个真实提示词,包括一些难度较高的提示词。
  2. 使用相同的设置,将每个提示词针对每个候选模型运行。
  3. 并排阅读回答,并将每个回答评分为通过、部分通过或失败。
  4. 单独统计拒绝响应的数量,因为对于某些产品来说,拒绝响应比风格更重要。
  5. 记录使用的 token 数量,并计算每 100 个提示词的成本。
import json
from openai import OpenAI

client = OpenAI(base_url="https://api.grockapi.com/v1", api_key="YOUR_KEY")
prompts = json.load(open("prompts.json"))   # a list of strings

results = []
for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
        temperature=0.7,
    )
    results.append({"prompt": p,
                    "answer": r.choices[0].message.content,
                    "in": r.usage.prompt_tokens,
                    "out": r.usage.completion_tokens})

json.dump(results, open("uncensored_results.json", "w"), indent=1)

通过更改三个值,将同一脚本指向另一个提供商,并比较两个结果文件。在您自己的网络上自行测量延迟,而不是相信发布的数字,因为延迟取决于您运行的位置。

你应该选择哪一个

当您想要测试多个模型家族并选择通过评估的最便宜模型时,选择多模型托管商。当您特别需要 Grok 时,选择 xAI。当您的文本产品因合法成人内容的拒绝响应而受阻,且一个模型就足够时,选择此接口。

无论你选择什么,在正式使用前都请用真实提示词进行测试。API 密钥页面可为新账户提供 7 天内有效的 $0.50 免费试用额度,无需绑定银行卡。文档涵盖了接口和限制,定价页面列出了充值档位,我们的 uncensored Grok 指南解释了相关背景。每个计划都适用一个硬性限制:禁止涉及未成年人的性内容。

决策捷径

  • 您希望以低成本比较多个开放权重模型:使用多模型托管商,并运行上一节中的评估。
  • 您希望获得特定厂商的旗舰模型:前往该厂商。
  • 您需要图像、音频或嵌入接口:这里的纯文本选项都不适用,因此请选择提供这些功能的服务。
  • 您想要一个不拒绝合法成人请求的 OpenAI 兼容文本模型:从此处的试用密钥开始。

这些选择都不是永久性的。由于请求格式是共享的,稍后切换只需更改 base URL、密钥和模型名称。

常见问题

grock uncensored 与 Grok 是同一个模型吗? 不是。Grock uncensored 是一个独立的开放权重模型,并非由 xAI 或其他任何主要厂商出品。它针对无审查输出进行了调优,但运行在独立的架构上。

我可以将此 API 用于商业项目吗? 可以。您可以将输出用于任何合法目的。商业使用没有限制。该模型不主张对您生成文本的所有权。

我如何充值额度? 前往仪表板。选择加密货币支付。选择 TRC20 上的 USDT 或 Base 上的 USDC。发送 $20 至 $500之间的所需金额。额度将立即添加。根据金额自动应用奖励额度。

如果我出错怎么办? 额度不会退还。额度不会过期。如果您被重复扣款,请使用支持页面解决问题。支持团队将审核该交易。

常见问题

Groq 与 Grok 相同吗?

不。Groq 是开放权重模型的推理提供商。Grok 是 xAI 的模型家族。名称相似纯属巧合。

此服务是 Groq 的 API 吗?

不。这是一个独立托管的单一开放权重模型接口,不是 Groq、xAI 或任何其他厂商的官方 API。

我如何列出此处的模型?

使用您的密钥调用 GET /v1/models。它返回模型 ID uncensored,这是您在请求中作为 model 传递的值。

我可以使用现有的 OpenAI 客户端吗?

是的。将 base URL 设置为 https://api.grockapi.com/v1,将密钥作为 bearer token 使用,并将模型设置为 uncensored。

获取 API 密钥

注册,复制您的密钥,并更新 base URL。就这样。

使用试用额度尝试