Модели Groq API против размещённой модели без цензуры

Groq и Grok — это не одно и то же

Groq (с буквой q) — компания, которая запускает языковые модели с открытыми весами на собственном инференс-оборудовании и предоставляет доступ через GroqCloud. Grok (с буквой k) — название чат-бота и моделей от xAI. Два продукта, два вендора, одно отличие в букве, из-за которого их часто путают в поиске.

Мы ни то, ни другое. Наш сервис — независимый OpenAI-совместимый эндпоинт для одной модели с открытыми весами, настроенной на ответы без отказов по контенту для законного использования взрослыми. Это не официальное API xAI, Groq или любого другого вендора, и не роутер между вендорами.

Как читать любой список моделей

Список моделей провайдера — это таблица вариантов, где каждая строка скрывает несколько одинаковых вопросов. Задавайте их в таком порядке.

• Кто обучил модель? Хост, предоставляющий модели с открытыми весами от нескольких лабораторий, дает вам множество семейств под одним ключом. Лаборатория, предоставляющая свои модели, дает одно семейство.
• Каково контекстное окно? Это определяет, сколько истории, кода или текста документа помещается в один запрос.
• Какие тарифы за входные и выходные токены? Важны обе, и тариф на выходные токены обычно выше.
• Какие лимиты запросов? Запросы в минуту и параллельные запросы решают, займет ли пакетная задача минуты или часы.
• Что разрешает политика использования? У каждого провайдера она есть. Прочитайте её перед тем, как строить логику вокруг модели.

Мы не копируем каталог Groq здесь, потому что он меняется, и устаревший список хуже, чем его отсутствие. Получайте его в реальном времени с эндпоинта моделей с вашим ключом и считайте документацию Groq источником истины.

Что перечисляет это API

Наш список намеренно короткий. GET /v1/models возвращает одну модель, которую вы можете вызвать, с ID uncensored.

Copycurl https://api.grockapi.com/v1/models   -H "Authorization: Bearer YOUR_KEY"

Эта единственная модель имеет контекстное окно на 100 000 токенов, разделяемое промптом и ответом, поддерживает потоковую передачу, вызов функций и JSON-режим, принимает temperature, top_p, stop, seed и штрафы. Только текст: без изображений, аудио, эмбеддингов или дообучения.

Одна модель означает, что вам не нужно выбирать, какую вызывать. Это также означает отсутствие более дешёвого компактного варианта для простых задач и специализированной модели для кода или зрения. Если вам нужен такой диапазон, хост с несколькими моделями подходит лучше, и мы говорим об этом прямо.

Что означает одна модель на практике

С одной моделью не нужно маршрутизировать. Вы не выбираете между быстрым малым и медленным большим, и вам не нужна таблица резервирования в конфигурации. Каждый запрос идет к одной модели, поэтому поведение легко предсказать: если промпт работает сегодня, он продолжит работать с теми же настройками. Вы можете зафиксировать seed и temperature для воспроизводимых тестов.

Компромисс — контроль затрат через выбор модели. На хосте с несколькими моделями вы можете отправлять простые задачи классификации на малую модель и экономить деньги. Здесь вы контролируете затраты длиной промпта и через max_tokens, по $0.15 за 1M входных и $0.50 за 1M выходных токенов.

Ловушки именования в коде и поиске

Почти идентичные названия вызывают реальные ошибки, а также искажают результаты поиска. Вот несколько моментов, на которые стоит обратить внимание:

• Ключи не взаимозаменяемы. Ключ, выданный одним провайдером, работает только на базовом URL этого провайдера. Отправка его в другое место вернет ошибку авторизации и также утечет секрет на хост, которому его видеть не следует.
• Переменные окружения. Называйте их в честь провайдера, например GROQ_API_KEY и UNCENSORED_KEY, никогда не используйте общий API_KEY для разных проектов.
• ID моделей различаются. Имя модели, работающее на одном хосте, будет отклонено на другом. Всегда передавайте ID из собственного списка моделей этого хоста.
• Поисковые запросы. Поиск списка моделей провайдера дает результаты только об этом провайдере. Добавьте название компании, так как похожее слово привлечет не того провайдера.

Если запрос завершается ошибкой 401 или model-not-found сразу после копирования фрагмента кода, проверьте базовый URL, ключ и название модели вместе. В подавляющем большинстве случаев один из этих параметров принадлежит другому провайдеру.

Сравнение бок о бок

Вопрос	Groq	Grok (xAI)	Этот API
Что это такое	Хост инференса для моделей с открытыми весами	Собственное семейство моделей xAI	Размещенная модель с открытыми весами, один ID
Выбор модели	Несколько, согласно их каталогу	Несколько, согласно документации xAI	Одна: uncensored
Клиент в стиле OpenAI	Документировано как совместимое	Документировано как совместимое	Да, измените базовый URL и ключ
Цены	Проверьте их текущие тарифы	Проверьте их текущие тарифы	Вход $0,15, выход $0,50 за 1 млн
Контент	Применяется политика провайдера	Применяется политика провайдера	Без отказов по контенту при законном использовании взрослыми

Выберите строку, которая важнее всего для вашего проекта. Если важна широта моделей, посмотрите на хостинг с несколькими моделями. Если важна конкретная модель вендора, переходите к этому вендору. Если отказы блокируют ваш продукт, обратите внимание на последний столбец.

Использование нескольких провайдеров в одном приложении

Поскольку все три поддерживают API в стиле chat-completions, вы можете оставить небольшой клиент для каждого провайдера и маршрутизировать запросы по задачам. Вот шаблон с двумя клиентами: один для этого эндпоинта и один для выбранного хоста с его базовым URL и ключом, взятыми из переменных окружения.

Copyimport os
from openai import OpenAI

adult_fiction = OpenAI(base_url="https://api.grockapi.com/v1",
                       api_key=os.environ["UNCENSORED_KEY"])
general = OpenAI(base_url=os.environ["OTHER_BASE_URL"],
                 api_key=os.environ["OTHER_KEY"])

def ask(task, prompt):
    if task == "fiction":
        client, model = adult_fiction, "uncensored"
    else:
        client, model = general, os.environ["OTHER_MODEL"]
    r = client.chat.completions.create(
        model=model, messages=[{"role": "user", "content": prompt}])
    return r.choices[0].message.content

Это делает ваш код независимым от одного конкретного вендора. Замена провайдера позже означает изменение трёх переменных окружения, а не переписывание вызовов.

Справедливый способ тестирования любой модели

Списки моделей показывают, что существует. Только ваши собственные промпты показывают, что работает. Небольшая оценка занимает менее часа.

1. Соберите 30 реальных промптов из вашего продукта, включая несколько сложных.
2. Запустите каждый промпт против каждого кандидата с одинаковыми настройками.
3. Прочитайте ответы рядом и оцените каждый как пройденный, частичный или проваленный.
4. Считайте отказы отдельно, так как они важнее стиля для некоторых продуктов.
5. Запишите использованные токены и вычислите стоимость за 100 промптов.

Copyimport json
from openai import OpenAI

client = OpenAI(base_url="https://api.grockapi.com/v1", api_key="YOUR_KEY")
prompts = json.load(open("prompts.json"))   # a list of strings

results = []
for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
        temperature=0.7,
    )
    results.append({"prompt": p,
                    "answer": r.choices[0].message.content,
                    "in": r.usage.prompt_tokens,
                    "out": r.usage.completion_tokens})

json.dump(results, open("uncensored_results.json", "w"), indent=1)

Направьте тот же скрипт на другого провайдера, изменив три значения, и сравните два файла результатов. Измерьте задержку самостоятельно в своей сети, а не доверяйте опубликованным цифрам, так как она зависит от того, где вы запускаете.

Что же выбрать

Выберите хостинг с несколькими моделями, когда хотите протестировать несколько семейств моделей и выбрать самую дешёвую, прошедшую вашу оценку. Выберите xAI, когда вам конкретно нужен Grok. Выберите этот эндпоинт, когда ваш текстовый продукт сдерживается отказами на законный взрослый контент и одной модели достаточно.

Что бы вы ни выбрали, протестируйте реальные промпты перед тем, как окончательно остановиться на варианте. На странице API-ключа новым аккаунтам начисляется $0,50 пробного баланса, действительного в течение 7 дней, карта не требуется. В документации описаны эндпоинты и лимиты, на странице тарифов перечислены уровни пополнения, а наше руководство по Grok без цензуры объясняет контекст. Одно жёсткое ограничение действует на всех тарифах: запрещён сексуальный контент с участием несовершеннолетних.

Краткая подсказка для выбора

• Вы хотите сравнить множество моделей с открытыми весами дёшево: используйте хостинг с несколькими моделями и запустите оценку из предыдущего раздела.
• Вы хотите флагманскую модель конкретного вендора: переходите к этому вендору.
• Вам нужны эндпоинты для изображений, аудио или эмбеддингов: ни один из текстовых вариантов здесь не подойдёт, поэтому выберите сервис, который их предлагает.
• Вы хотите одну OpenAI-совместимую текстовую модель, которая не отказывает в законных взрослых запросах: начните с пробного ключа здесь.

Ни один из этих вариантов не является постоянным. Поскольку формат запросов общий, переход на другой — это лишь вопрос изменения базового URL, ключа и названия модели.

Дополнительные руководства

• Стоимость API Grok: тарификация за токены и разобранные примеры
• Grock uncensored: Полное руководство

Часто задаваемые вопросы

Является ли grock uncensored тем же самым, что и Grok? Нет. Grock uncensored — это независимая модель с открытыми весами. Она не производится xAI или каким-либо другим крупным вендором. Она настроена на вывод без цензуры, но работает на собственной архитектуре.

Могу ли я использовать этот API для коммерческих проектов? Да. Вы можете использовать вывод для любых законных целей. Ограничений на коммерческое использование нет. Модель не претендует на права на ваш сгенерированный текст.

Как пополнить баланс? Перейдите в панель управления. Выберите оплату криптовалютой. Выберите USDT в сети TRC20 или USDC в сети Base. Отправьте сумму от $20 до $500. Баланс пополняется немедленно. Бонусные средства начисляются автоматически в зависимости от суммы.

Что делать, если вы ошиблись? Баланс не возвращается. Он не сгорает. Если с вас дважды списали средства, воспользуйтесь страницей поддержки для решения проблемы. Команда поддержки рассмотрит транзакцию.