OpenAI DevDay: GPT-4 Turbo с 128K контекстом, Assistants API, Whisper v3
Что произошло
На DevDay OpenAI анонсировала GPT-4 Turbo с контекстным окном 128K токенов, Assistants API для построения агентных приложений, Whisper v3 и снижение цен на API.
Детали
- GPT-4 Turbo: 128K контекст, превью в API
- Assistants API: агентный фреймворк с Retrieval и Code Interpreter
- JSON Mode: гарантия валидного JSON в ответе модели
- Function calling с поддержкой JSON-схем
- Whisper v3: обновлённая модель STT
- Снижение цен на API и рост rate limits (цифры не указаны)
Что это значит
128K контекст и Assistants API сдвигают порог входа для агентных приложений: больше не нужно управлять RAG-пайплайном и контекстным окном самостоятельно.
GPT-4 Turbo увеличивает контекст до 128K токенов и добавляет гарантированный JSON Mode — это позволяет загружать в промпт целые документы и получать структурированный ответ без пост-обработки.