Integroi uncensored-chat-completions-API

Todennus ja base URL -asetukset

Aloita avaimen luomin Googlella tai sähköpostilogin kautta Get API key -sivulla. Järjestelmä myöntää yhden aktiivisen avaimen tilille välittömästi, ja voit vaihtaa sen milloin tahansa. Käytä perus-URL:a HTTPS://api.groqapikeys.com/v1 avaimellasi bearer-tokenina. Tämä kokoonpano toimii minkä tahansa OpenAI-yhteensopivan asiakkaan kanssa ilman lisä-proxy-vaiheita.

Copycurl https://api.groqapikeys.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three advantages of low latency inference."}]
  }'

Chat completions endpoint structure

Lähetä POST-pyyntöjä osoitteeseen /v1/chat/completions asettamalla mallin tunnus arvoksi "uncensored". Päätepiste hyväksyy standardit viestitaulukot ja palauttaa tekstitulosteen. Emme tarjoa upotuksia, kuvagenerointia tai hienosäätöä. Pidä payloadit alle 8 Mt varmistaaksesi luotettavan käsittelyn. Virheet kuten 401 (virheellinen avain) tai 402 (ei rahaa) palautetaan välittömästi, jotta voit säätää integraatiotasi.

Virtaavat vastaukset ja tokenien laskenta

Ota käyttöön streamaus asettamalla stream-parametri arvoksi true pyynnöissä. Saat peräkkäisen sarjan Server-Sent Events -lohkoja (SSE), jotka mahdollistavat tekstin näyttämisen asteittain. Viimeinen lohko sisältää pyynnön täydet käyttötilastot, mukaan lukien syöttö- ja tulostus-tokenien määrät. Tämä lähestymistapa vähentää havaittua viivettä suurissa vastauksissa ja pitää käyttöliittymän reagoivana.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Työkalukutsu ja JSON-tilan konfiguraatio

Määritä rakenteiset tulokset asettamalla response_format arvoksi json_object. Tämä pakottaa mallin palauttamaan kelvollisen JSON-tiedoston vapaan tekstin sijaan. Voit myös määrittää työkaluja pyyntöruudussasi ottaaksesi käyttöön funktiokutsut. Sensuroimaton malli käsittelee monimutkaiset työkalumäärittelyt luotettavasti kieltäytymättä standardista JSON-rakenteesta. Käytä tätä tiedonkeruuseen tai API-integraatioihin.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqapikeys.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Nopeusrajoitukset ja samanaikaisuusrajoitukset

Jokaisella API-avaimella on sallittu enintään 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä. Kontesttilaakko kattaa 100 000 tokenia sekä prompt- että completion-puolella. Jos ylität nämä rajat, järjestelmä palauttaa 429-nopeusrajoitusvirheen. Pidä pyynnön runko alle 8 Mt:n, jotta vältät käsittelyviiveet. Nämä rajat varmistavat vakaan suorituskyvyn suurten kuormien sovelluksissa ilman piilossa olevia tasoja.

Virheenkäsittely ja käyttörportointi

Seuraa tilisi saldoa hallintapaneelin kautta, koska luottokrediitit on maksettu etukäteen eikä niillä ole päättymispäivää. Pyyntöjen epäonnistuminen sisällön kiellon tai verkkovirheiden vuoksi ei kuluta tokennejasi. Jos kohtaat kaksoisveloituksen tai laskutusvirheen, käytä Tuki-sivua ratkaistaksesi sen. Malli ei kiellä laillista aikuis- tai kiistanalaista sisältöä, joten useimmat 4xx-virheet liittyvät todennukseen tai rajoituksiin.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqapikeys.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)