Эмбеддинги через API

Эндпоинт и авторизация

Эмбеддинги живут на OpenAI-совместимом входе и работают тем же ключом, что и чат: меняется только путь.

Ключ передаётся заголовком Authorization: Bearer sk-your-tokenator-key. Отдельного ключа для эмбеддингов нет.

Первый запрос

curl https://api.tokenator.top/v1/embeddings \
  -H "Authorization: Bearer sk-your-tokenator-key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-embedding-2",
    "input": "как подключить свой домен"
  }'

{
  "object": "list",
  "data": [
    {
      "object": "embedding",
      "index": 0,
      "embedding": [0.0023, -0.0147, 0.0091]
    }
  ],
  "model": "gemini-embedding-2",
  "usage": { "prompt_tokens": 6, "total_tokens": 6 }
}

Ответ всегда этой формы: data в том же порядке, что и входные строки, имя модели Tokenator и usage с числом токенов. Всё, что апстрим добавил от себя, до клиента не доходит.

Какие модели считают векторы

Параметры запроса

Пакет строк за один запрос

Поле input принимает массив. Это один запрос, один ответ и один проход по сети — для индексации базы так заметно быстрее, чем по строке за раз. Порядок векторов совпадает с порядком строк, а поле index у каждого элемента подтверждает соответствие.

curl https://api.tokenator.top/v1/embeddings \
  -H "Authorization: Bearer sk-your-tokenator-key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-embedding-2",
    "input": ["первый абзац", "второй абзац", "третий абзац"]
  }'

SDK и готовые примеры

Эндпоинт совместим с OpenAI SDK: меняются только базовый адрес и ключ.

from openai import OpenAI

client = OpenAI(
    api_key="sk-your-tokenator-key",
    base_url="https://api.tokenator.top/v1",
)

result = client.embeddings.create(
    model="gemini-embedding-2",
    input=["первый абзац", "второй абзац"],
)

print(len(result.data[0].embedding))

import OpenAI from "openai"

const client = new OpenAI({
  apiKey: "sk-your-tokenator-key",
  baseURL: "https://api.tokenator.top/v1",
})

const result = await client.embeddings.create({
  model: "gemini-embedding-2",
  input: "как подключить свой домен",
})

console.log(result.data[0].embedding.length)

Базовый адрес и ключ те же, что и для чата, поэтому в одном клиенте можно держать и чат, и эмбеддинги.

Как списываются эмбеддинги

Так же, как обычные токены. Считается prompt_tokens из ответа провайдера, умножается на множитель модели и списывается с лимита ключа — отдельного пакета для эмбеддингов не существует. Вывода у запроса нет, поэтому платите вы только за входной текст.

Расход виден в дашборде ключа вместе с чатом, а остаток — в /v1/tokens.

Коды ошибок

Частые вопросы

Читайте дальше