OpenAI запилили новую gpt-4o-2024-08-06 заточненную именно на разработку. Теперь через параметр response_format можно задать JSON схему для вывода.
Из плюшек:
1) поддердка вывода и для новой модели gpt-4o-mini-2024-07-18
2) сниженная цена и входящих -50% и исходящих токенов -33% по сравнению с gpt-4o-2024-05-13
3) Dynamically generating user interfaces based on the user’s intent - надо еще потыкать в это, демки интересные, в ответ на запрос структурированный JSON с веб страничкой
4) Extracting structured data from unstructured data - тоже надо потестить
Первый запрос с указанной схемой будет обрабатываться дольше обычного, но все последующие обещают сильно быстрее чем сейчас.
Источник:
https://openai.com/index/introducing-structured-outputs-in-the-api/
Из плюшек:
1) поддердка вывода и для новой модели gpt-4o-mini-2024-07-18
2) сниженная цена и входящих -50% и исходящих токенов -33% по сравнению с gpt-4o-2024-05-13
3) Dynamically generating user interfaces based on the user’s intent - надо еще потыкать в это, демки интересные, в ответ на запрос структурированный JSON с веб страничкой
4) Extracting structured data from unstructured data - тоже надо потестить
Первый запрос с указанной схемой будет обрабатываться дольше обычного, но все последующие обещают сильно быстрее чем сейчас.
Источник:
https://openai.com/index/introducing-structured-outputs-in-the-api/