요약
- Groq는 추론 제공업체이며, Grok은 xAI의 모델 계열입니다. 이름은 비슷하지만 회사는 무관합니다.
- Groq의 카탈로그는 변경되므로 블로그 게시물이 아닌 자체 모델 엔드포인트에서 확인하세요.
- 이 API는 GET /v1/models로 나열된 단일 모델 ID uncensored를 노출합니다.
- 이름이 아닌 정책 적합성, 컨텍스트 크기 및 가격으로 선택하세요.
Groq와 Grok은 같은 것이 아닙니다
Groq(q 포함)는 자체 추론 하드웨어에서 오픈 웨이트 언어 모델을 실행하고 GroqCloud를 통해 접근 권한을 판매하는 회사입니다. Grok(k 포함)는 xAI가 자체 채팅봇과 모델에 부여한 이름입니다. 두 제품, 두 벤더, 한 글자의 차이로 인해 검색 시 혼동됩니다.
우리는 그 어느 쪽도 아닙니다. 당사는 법적으로 허용되는 성인 사용에 콘텐츠 거부 없이 답변하도록 조정된 단일 오픈 웨이트 모델용 독립 OpenAI 호환 엔드포인트입니다. 이는 xAI, Groq 또는 기타 벤더의 공식 API가 아니며, 벤더 간 라우터도 아닙니다.
어떤 모델 목록도 읽는 방법
제공업체의 모델 목록은 선택지의 표이며, 각 행은 동일한 몇 가지 질문을 숨깁니다. 이 순서로 물어보세요.
- 모델은 누가 훈련했나요? 여러 연구소의 오픈 웨이트 모델을 제공하는 호스트는 하나의 키 아래 여러 모델 계열을 제공합니다. 자체 모델을 제공하는 연구소는 하나의 모델 계열만 제공합니다.
- 컨텍스트 창이란 무엇인가요? 이는 한 번의 호출에 이력, 코드 또는 문서 텍스트가 얼마나 들어갈 수 있는지 설정합니다.
- 입력 및 출력 요금은 무엇인가요? 둘 다 중요하며, 출력은 일반적으로 토큰당 더 비쌉니다.
- 속도 제한은 무엇인가요? 분당 요청과 동시 요청은 배치 작업이 몇 분 걸릴지 몇 시간 걸릴지 결정합니다.
- 사용 정책은 무엇을 허용하나요? 모든 제공업체가 이를 공개합니다. 모델을 기반으로 빌드하기 전에 반드시 읽어보세요.
카탈로그는 변경되므로 여기에 Groq의 카탈로그를 복사하지 않습니다. 자신의 키로 모델 엔드포인트에서 실시간으로 가져오고, 문서를 사실의 출처로 취급하세요.
이 API가 나열하는 것
우리의 목록은 의도적으로 짧습니다. GET /v1/models은 호출할 수 있는 단일 모델을 반환하며, ID는 uncensored입니다.
curl https://api.grockapi.com/v1/models -H "Authorization: Bearer YOUR_KEY"이 단일 모델은 프롬프트와 완료 텍스트가 공유하는 100,000 토큰 컨텍스트 창을 가지며, 스트리밍, 함수 호출 및 JSON 모드를 지원하고 temperature, top_p, stop, seed 및 페널티 매개변수를 허용합니다. 텍스트 전용입니다: 이미지, 오디오, 임베딩 또는 파인튜닝을 지원하지 않습니다.
하나의 모델만 사용하면 어떤 모델을 호출할지 선택할 필요가 없습니다. 또한 가벼운 작업을 위한 저렴한 소형 변형이나 코드 또는 비전용 전문 모델도 없다는 의미입니다. 이러한 범위가 필요하다면 멀티모델 호스트가 더 적합하며, 우리는 이를 명확히 말합니다.
실제에서 단일 모델이 의미하는 것
단일 모델이므로 라우팅할 것이 없습니다. 소형 고속 모델과 대형 저속 모델 사이에서 선택할 필요가 없으며, 구성에 대체 테이블이 필요하지 않습니다. 모든 요청은 동일한 모델로 전송되므로 동작을 추론하기 쉽습니다: 프롬프트가 오늘 작동하면 동일한 설정에서 계속 작동해야 합니다. 반복 가능한 테스트를 위해 seed와 temperature을 고정할 수 있습니다.
상충 관계는 모델 선택을 통한 비용 제어입니다. 멀티모델 호스트에서는 가벼운 분류 작업을 소형 모델에 보내 비용을 절약할 수 있습니다. 여기서는 프롬프트 길이와 max_tokens을 통해 비용을 제어하며, 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50입니다.
코드와 검색의 명명 함정
거의 동일한 이름은 실제 버그를 유발하며 검색 결과도 왜곡합니다. 주의해야 할 몇 가지:
- 키는 서로 교체할 수 없습니다. 한 제공업체에서 발급한 키는 해당 제공업체의 Base URL에서만 작동합니다. 다른 곳에 보내면 인증 오류가 발생하며, 해당 키를 볼 필요가 없는 호스트에 비밀 키가 유출됩니다.
- 환경 변수. 제공업체 이름을 따라 이름 지정하세요. 예:
GROQ_API_KEY및UNCENSORED_KEY, 프로젝트 간 공유되는 일반API_KEY은 사용하지 마세요. - 모델 ID가 다릅니다. 한 호스트에서 작동하는 모델 이름은 다른 호스트에서 거부됩니다. 항상 해당 호스트의 자체 모델 목록에서 ID를 전달하세요.
- 검색어. 제공업체의 모델 목록을 검색하면 해당 제공업체에 대한 결과만 제공됩니다. 유사한 발음의 단어가 잘못된 제공업체를 끌어오므로 회사 이름을 추가하세요.
스니펫을 복사한 직후 401 또는 모델 없음 오류가 발생하면 기본 URL, 키 및 모델 이름을 함께 확인하세요. 거의 모든 경우 세 가지 중 하나가 다른 제공업체에 속합니다.
나란히 비교
| 질문 | Groq | Grok (xAI) | 이 API |
|---|---|---|---|
| 서비스 소개 | 오픈 웨이트 모델용 추론 호스트 | xAI의 자체 모델 계열 | 호스팅된 오픈 웨이트 모델, 단일 ID |
| 모델 선택 | 여러 개, 카탈로그 기준 | 여러 개, xAI 문서 기준 | 하나: uncensored |
| OpenAI 스타일 클라이언트 | 호환 가능하다고 문서화됨 | 호환 가능하다고 문서화됨 | 네, Base URL과 키 변경 |
| 가격 | 현재 가격 확인 | 현재 가격 확인 | 입력 1M 토큰당 $0.15, 출력 1M 토큰당 $0.50 |
| 콘텐츠 정책 | 제공업체 정책 적용 | 제공업체 정책 적용 | 합법적인 성인 사용에 대한 콘텐츠 거부 없음 |
프로젝트에 가장 중요한 행을 선택하세요. 모델의 다양성이 중요하다면 멀티모델 호스트를 확인하세요. 특정 벤더의 모델이 중요하다면 해당 벤더로 이동하세요. 거부 응답이 제품을 막는다면 마지막 열이 관련 열입니다.
동일한 앱에서 여러 제공업체 사용
세 호스트 모두 채팅 완료 스타일 API를 사용하므로 제공업체당 작은 클라이언트를 유지하고 작업별로 라우팅할 수 있습니다. 여기에는 두 클라이언트를 사용한 패턴이 있습니다. 하나는 이 엔드포인트용이고 다른 하나는 선택한 호스트용이며, 기본 URL과 키는 환경에서 가져옵니다.
import os
from openai import OpenAI
adult_fiction = OpenAI(base_url="https://api.grockapi.com/v1",
api_key=os.environ["UNCENSORED_KEY"])
general = OpenAI(base_url=os.environ["OTHER_BASE_URL"],
api_key=os.environ["OTHER_KEY"])
def ask(task, prompt):
if task == "fiction":
client, model = adult_fiction, "uncensored"
else:
client, model = general, os.environ["OTHER_MODEL"]
r = client.chat.completions.create(
model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content이렇게 하면 코드가 특정 벤더에 종속되지 않습니다. 나중에 제공업체를 변경하려면 호출을 다시 작성하는 대신 환경 변수 세 개만 변경하면 됩니다.
모든 모델을 공정하게 테스트하는 방법
모델 목록은 존재하는 모델을 보여줍니다. 실제로 작동하는지는 오직 자체 프롬프트로만 알 수 있습니다. 작은 평가에는 1시간도 걸리지 않습니다.
- 제품에서 실제 프롬프트 30개를 수집하세요. 여기서는 어려운 프롬프트도 포함됩니다.
- 각 프롬프트를 동일한 설정으로 모든 후보 모델에 대해 실행하세요.
- 답변을 나란히 읽고 각 답변을 통과, 부분 통과 또는 실패로 평가하세요.
- 일부 제품에서는 스타일보다 거부 응답이 더 중요하므로 별도로 세세요.
- 사용된 토큰을 기록하고 100개 프롬프트당 비용을 계산합니다.
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.grockapi.com/v1", api_key="YOUR_KEY")
prompts = json.load(open("prompts.json")) # a list of strings
results = []
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
temperature=0.7,
)
results.append({"prompt": p,
"answer": r.choices[0].message.content,
"in": r.usage.prompt_tokens,
"out": r.usage.completion_tokens})
json.dump(results, open("uncensored_results.json", "w"), indent=1)세 값을 변경하여 동일한 스크립트를 다른 제공업체에 연결하고 두 결과 파일을 비교하세요. 게시된 수치를 신뢰하기보다 직접 네트워크에서 지연 시간을 측정하세요. 이는 실행 위치에 따라 달라지기 때문입니다.
어떤 것을 선택해야 할까요
여러 모델 계열을 테스트하고 평가 기준을 통과하는 가장 저렴한 모델을 선택하려면 멀티모델 호스트를 선택하세요. Grok를 원한다면 xAI를 선택하세요. 텍스트 제품이 합법적인 성인 콘텐츠에 대한 거부 응답으로 인해 성능이 저하되고 하나의 모델로 충분하다면 이 엔드포인트를 선택하세요.
무엇을 선택하든 확정하기 전에 실제 프롬프트로 테스트하세요. API 키 페이지에서는 새 계정에 7일 동안 유효한 $0.50의 무료 체험 크레딧을 제공하며, 카드가 필요하지 않습니다. 문서에는 엔드포인트와 한도가 포함되어 있으며, 가격 책정 페이지에는 충전 단계가 나열되어 있고, uncensored Grok 가이드에는 배경 지식이 설명되어 있습니다. 모든 요금제에는 하나의 엄격한 한도가 적용됩니다: 미성년자가 관련된 성적 콘텐츠는 금지됩니다.
의사 결정 단축키
- 많은 오픈 웨이트 모델을 저렴하게 비교하려면: 다중 모델 호스트를 사용하고 이전 섹션의 평가 방법을 사용하세요.
- 특정 벤더의 플래그십 모델을 원한다면: 해당 벤더로 이동하세요.
- 이미지, 오디오 또는 임베딩 엔드포인트가 필요하다면: 여기에 나열된 텍스트 전용 옵션으로는 부족하므로 해당 기능을 제공하는 서비스를 선택하세요.
- 합법적인 성인 요청을 거부하지 않는 하나의 OpenAI 호환 텍스트 모델을 원한다면 여기서 시험용 키로 시작하세요.
이러한 선택은 영구적이지 않습니다. 요청 형식이 공유되므로 나중에 전환하는 것은 base URL, 키 및 모델 이름 변경의 문제입니다.
더 많은 가이드
자주 묻는 질문
grock 무검열이 Grok와 동일한가요? 아닙니다. Grock uncensored는 독립적인 오픈 웨이트 모델입니다. xAI나 기타 주요 벤더에서 생산하지 않습니다. 무검열 출력을 위해 조정되었지만 자체 아키텍처에서 실행됩니다.
상업적 프로젝트에 이 API를 사용할 수 있나요? 네. 생성된 출력물은 모든 합법적인 용도로 사용할 수 있습니다. 상업적 사용에는 제한이 없습니다. 모델은 생성된 텍스트에 대한 소유권을 주장하지 않습니다.
크레딧을 어떻게 충전하나요? 대시보드로 이동하세요. 암호화폐 결제를 선택하세요. TRC20의 USDT 또는 Base의 USDC를 선택하세요. $20에서 $500 사이의 원하는 금액을 전송하세요. 크레딧이 즉시 추가됩니다. 보너스 크레딧은 금액에 따라 자동으로 적용됩니다.
실수를 하면 어떻게 되나요? 크레딧은 환불되지 않습니다. 만료되지 않습니다. 이중 청구된 경우 지원 페이지를 사용하여 문제를 해결하세요. 지원 팀이 거래를 검토할 것입니다.
