Недавно Openai классно прокачали свой Structured Output, теперь вы можете передавать не только json схему, но и кастомную "граматику ответа"

это может быть как регексп выражение:
timestamp_grammar = r"^\d{4}-(0[1-9]|1[0-2])-(0[1-9]|[12]\d|3[01])(?:[01]\d|2[0-3]):[0-5]\d$"

response = client.responses.create(
model="gpt-5",
input="Call the timestamp_grammar to save a timestamp for August 7th 2025 at 10AM.",
tools=[{
"type": "custom",
"name": "timestamp_grammar",
"description": "Saves a timestamp in date + time in 24-hr format.",
"format": {
"type": "grammar",
"syntax": "regex",
"definition": timestamp_grammar
}
}]
)

Так и что т более сложное. Например вот определение lark-схемы которая заставляет модель генерировать сумму или разность двух чисел
start: number operator number
operator: "+" | "-"
number: /[0-9]+/
Все это работает на уровне семплирования токенов, гарантируется что ответ будет соответсвовать схеме.
Подробнее как это работает я писал тут, когда год назад openai представила json Structured output

А на скриншоте пример схемы для генерации валидной mssql запроса