OneMux/Dokumentation/Chat-Generierung

Chat-Generierung

Standard-Endpunkt für die Chat-Generierung, geeignet für gängige Modelle von OpenAI, Anthropic, Google und anderen. Unterstützt mehrstufige Unterhaltungen, System-Prompts, Streaming-Ausgabe und Parameteroptimierung. Diese Seite beschreibt das Anfrageformat, die Antwortstruktur, häufig verwendete Parameter und die Fehlerbehandlung.

Schnittstelleninformationen

Endpunkt: POST /v1/chat/completions
Authentifizierung: Authorization: Bearer sk-xxx
Protokoll: OpenAI-kompatibles Format

Grundlegender Aufruf

curl https://api.onemux.net/v1/chat/completions \
  -H "Authorization: Bearer $ONEMUX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6.1-sol",
    "messages": [{"role": "user", "content": "Hallo, OneMux"}]
  }'

Antwortbeispiel

{
  "id": "chatcmpl-xxx",
  "object": "chat.completion",
  "model": "gpt-6.1-sol",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Hallo! Ich bin der OneMux-KI-Assistent..."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 10,
    "completion_tokens": 15,
    "total_tokens": 25
  }
}

Mehrstufige Unterhaltung

Das Array messages speichert den Gesprächsverlauf in chronologischer Reihenfolge:

response = client.chat.completions.create(
    model="gpt-6.1-sol",
    messages=[
        {"role": "user", "content": "Ich heiße Max"},
        {"role": "assistant", "content": "Hallo, Max!"},
        {"role": "user", "content": "Wie heiße ich?"}
    ]
)
# Die KI antwortet: Du heißt Max

System-Prompt

Lege mit der Rolle system die Verhaltensregeln der KI fest:

messages = [
    {"role": "system", "content": "Du bist ein erfahrener Python-Entwickler. Antworte präzise und professionell."},
    {"role": "user", "content": "Wie lese ich eine Datei?"}
]

Häufig verwendete Parameter

Parameter	Beschreibung	Empfohlener Wert
temperature	Kreativität (0-2)	0.7 (Standard), 1.2 für kreatives Schreiben, 0.3 für Codegenerierung
max_tokens	Maximale Ausgabelänge	Je nach Bedarf festlegen, um unnötige Ausführlichkeit des Modells zu vermeiden
top_p	Nucleus-Sampling (0-1)	0.9 (Standard)
stream	Streaming-Ausgabe	true (empfohlen, für ein besseres Nutzungserlebnis)