OneMux/문서/대화 생성

대화 생성

OpenAI, Anthropic, Google 등 주요 모델에 사용할 수 있는 표준 대화 생성 엔드포인트입니다. 멀티턴 대화, 시스템 프롬프트, 스트리밍 출력 및 매개변수 조정을 지원합니다. 이 페이지에서는 요청 형식, 응답 구조, 주요 매개변수 및 오류 처리를 설명합니다.

인터페이스 정보

  • 엔드포인트: POST /v1/chat/completions
  • 인증: Authorization: Bearer sk-xxx
  • 프로토콜: OpenAI 호환 형식

기본 호출

curl https://api.onemux.net/v1/chat/completions \
  -H "Authorization: Bearer $ONEMUX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6.1-sol",
    "messages": [{"role": "user", "content": "안녕하세요, OneMux"}]
  }'

응답 예시

{
  "id": "chatcmpl-xxx",
  "object": "chat.completion",
  "model": "gpt-6.1-sol",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "안녕하세요! 저는 OneMux AI 어시스턴트입니다..."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 10,
    "completion_tokens": 15,
    "total_tokens": 25
  }
}

멀티턴 대화

messages 배열에 대화 기록이 시간순으로 저장됩니다:

response = client.chat.completions.create(
    model="gpt-6.1-sol",
    messages=[
        {"role": "user", "content": "제 이름은 샤오밍입니다"},
        {"role": "assistant", "content": "안녕하세요, 샤오밍님!"},
        {"role": "user", "content": "제 이름이 뭐죠?"}
    ]
)
# AI는 다음과 같이 답변합니다: 샤오밍님입니다

시스템 프롬프트

system 역할을 사용하여 AI의 행동 규칙을 설정합니다:

messages = [
    {"role": "system", "content": "당신은 전문 Python 엔지니어이며, 간결하고 전문적으로 답변합니다"},
    {"role": "user", "content": "파일을 어떻게 읽나요?"}
]

주요 매개변수

매개변수설명권장 값
temperature창의성（0-2）0.7（기본값）, 창의적인 글쓰기에는 1.2, 코드 생성에는 0.3 사용
max_tokens최대 출력 길이필요에 따라 설정하여 모델의 "쓸데없는 말"을 방지합니다
top_p핵 샘플링（0-1）0.9（기본값）
stream스트리밍 출력true（권장, 더 나은 사용 경험 제공）

일반적인 오류