Tích hợp API chat completions không kiểm duyệt

Xác thực và thiết lập base URL

Bắt đầu bằng cách tạo khóa của bạn qua đăng nhập Google hoặc email trên trang Lấy khóa API. Hệ thống cấp một khóa hoạt động cho mỗi tài khoản ngay lập tức, và bạn có thể thay thế nó bất cứ lúc nào. Sử dụng URL cơ sở HTTPS://api.groqapikeys.com/v1 với khóa của bạn làm mã thông báo bearer. Cấu hình này hoạt động với bất kỳ máy khách tương thích OpenAI nào mà không cần các bước proxy bổ sung.

Copycurl https://api.groqapikeys.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three advantages of low latency inference."}]
  }'

Cấu trúc endpoint hoàn thành trò chuyện

Gửi các yêu cầu POST đến /v1/chat/completions với ID mô hình của bạn là "uncensored". Điểm cuối này chấp nhận các mảng thông điệp tiêu chuẩn và trả về đầu ra văn bản. Chúng tôi không cung cấp embedding, tạo hình ảnh hoặc tinh chỉnh. Giữ các tải trọng của bạn dưới 8 MB để đảm bảo xử lý đáng tin cậy. Các lỗi như 401 (khóa không hợp lệ) hoặc 402 (không có tín dụng) được trả về ngay lập tức để bạn có thể điều chỉnh tích hợp của mình.

Phản hồi dạng stream và đếm token

Bật chế độ phát trực tiếp bằng cách đặt tham số stream thành true trong các yêu cầu của bạn. Bạn nhận được một chuỗi các chunk sự kiện gửi qua máy chủ (SSE) cho phép bạn hiển thị văn bản theo từng phần. Chunk cuối cùng chứa thống kê sử dụng đầy đủ cho yêu cầu, bao gồm số lượng token đầu vào và đầu ra. Cách tiếp cận này giảm độ trễ cảm nhận cho các phản hồi lớn và giữ cho giao diện người dùng của bạn phản hồi nhanh chóng.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Cấu hình gọi công cụ và chế độ JSON

Cấu hình đầu ra có cấu trúc bằng cách đặt response_format thành json_object. Điều này buộc mô hình trả về JSON hợp lệ thay vì văn bản tự do. Bạn cũng có thể xác định các công cụ trong thân yêu cầu để kích hoạt khả năng gọi hàm. Mô hình uncensored xử lý đáng tin cậy các định nghĩa công cụ phức tạp mà không từ chối các cấu trúc JSON tiêu chuẩn. Sử dụng điều này cho các nhiệm vụ trích xuất dữ liệu hoặc tích hợp API.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqapikeys.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Giới hạn tốc độ và độ đồng thời

Mỗi khóa API cho phép tối đa 300 yêu cầu mỗi phút và hỗ trợ 8 yêu cầu đồng thời. Cửa sổ ngữ cảnh bao gồm 100,000 token cho cả prompt và completion kết hợp. Nếu vượt quá các giới hạn này, hệ thống sẽ trả về lỗi giới hạn tốc độ 429. Hãy giữ phần thân yêu cầu dưới 8 MB để tránh chậm xử lý. Các giới hạn này đảm bảo hiệu suất ổn định cho các ứng dụng thông lượng cao mà không có các hạn chế tầng ẩn.

Xử lý lỗi và báo cáo sử dụng

Theo dõi số dư tài khoản của bạn qua bảng điều khiển vì tín dụng được trả trước và không bao giờ hết hạn. Các yêu cầu bị lỗi do từ chối nội dung hoặc sự cố mạng không tiêu thụ token của bạn. Nếu bạn gặp phải tình trạng tính phí kép hoặc vấn đề về hóa đơn, hãy sử dụng trang Hỗ trợ để giải quyết. Mô hình không từ chối các chủ đề người trưởng thành hợp pháp hoặc gây tranh cãi, vì vậy hầu hết các lỗi 4xx liên quan đến xác thực hoặc giới hạn.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqapikeys.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)