Перейти к содержимому

AI Gateway

LangChain

Подключите Clipia AI Gateway к LangChain через ChatOpenAI с base_url Clipia — чат, инструменты, агенты и структурированный вывод на Claude, GPT и Gemini.

Clipia AI Gateway совместим с OpenAI-контрактом, поэтому подключается к LangChain через стандартный класс ChatOpenAI — достаточно указать наш base_url и ключ Clipia. Дальше работают все привычные возможности LangChain: чат, инструменты, агенты и структурированный вывод.

Инициализация

pip install langchain-openai
import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="claude-opus-5-5",
    base_url="https://api.clipia.ai/v1",
    api_key=os.environ["CLIPIA_KEY"],
)

print(llm.invoke("Назови три факта о Марсе.").content)

Если код уже на ChatOpenAI

Если у вас уже есть код на ChatOpenAI, для перехода достаточно задать base_url (configuration.baseURL в Node.js) и подставить ключ Clipia. Поле model — строка из каталога.

Агент с инструментами

Привяжите инструменты через bind_tools или соберите готового ReAct-агента из langgraph (pip install langgraph). Пример с одной функцией-инструментом:

import os
from langchain_openai import ChatOpenAI
from langchain_core.tools import tool
from langgraph.prebuilt import create_react_agent

@tool
def get_weather(city: str) -> str:
    """Вернуть текущую погоду в городе."""
    return f"В городе {city}: 14°C, облачно"

llm = ChatOpenAI(
    model="claude-opus-5-5",
    base_url="https://api.clipia.ai/v1",
    api_key=os.environ["CLIPIA_KEY"],
)

agent = create_react_agent(llm, tools=[get_weather])

result = agent.invoke(
    {"messages": [{"role": "user", "content": "Какая погода в Москве?"}]}
)
print(result["messages"][-1].content)

Агент сам пройдёт полный цикл: запросит вызов инструмента, получит результат и сформирует финальный ответ.

Структурированный вывод

Для строгого вывода по схеме выберите модель с поддержкой response_format, например GPT-6.1 Sol, и вызовите with_structured_output с method="json_schema". Проверяйте результат перед использованием:

from pydantic import BaseModel

class Person(BaseModel):
    name: str
    age: int

structured_llm = ChatOpenAI(
    model="gpt-6.1-sol",
    base_url="https://api.clipia.ai/v1",
    api_key=os.environ["CLIPIA_KEY"],
)
structured = structured_llm.with_structured_output(Person, method="json_schema", strict=True)
person = structured.invoke("Извлеки имя и возраст: Анне 30 лет.")
print(person.name, person.age)  # Анна 30

Стриминг

Потоковый ответ доступен через llm.stream(...) (Python) и await llm.stream(...) (Node.js) — gateway отдаёт SSE-чанки в OpenAI-формате. Подробнее о стриминге и инструментах — на странице Chat Completions. Длинные ответы запрашивайте потоком: долгий запрос без стриминга может получить 504, а автоматический повтор без Idempotency-Key оплачивается заново — см. «Таймауты и повторы».