Jev от TypeSafe: ИИ для быстрых решений внутри программ
Ключевые тезисы
- Jev — это специализированная ИИ-модель, предназначенная не для генерации текста, а для быстрого выбора одного варианта из предложенных или оценки по шкале.
- Подход называется System One: модель возвращает структурированный ответ (выбор, число), который программа может использовать напрямую, без разбора текста.
- Основное преимущество — скорость и возможность массовой параллельной обработки множества коротких вопросов на одном контексте.
- Jev не заменяет генеративные модели (GPT, Claude), а дополняет их в архитектуре приложений.
Основное содержание
Отличие от привычных языковых моделей
Обычные чат-модели (GPT, Claude) рассуждают, сравнивают и пишут объяснения. Jev же специализируется на ситуациях, когда программе нужен только конкретный выбор для включения определённой ветки логики (например, «передать задачу в работу» или «запросить уточнение»).
Как работает Jev
Взаимодействие с моделью происходит через строго определённую структуру запроса. В примере приложения для проверки ТЗ используются три типа вопросов:
- Choice: Выбор одного варианта из предложенных (например, срок «конкретный», «расплывчатый» или «не указан»).
- Score: Оценка свойства по заданной шкале (например, ясность описания результата).
- Noul: Вероятностная оценка (число от 0 до 1) наличия какого-либо признака (например, проверяемых условий приемки).
Несколько вопросов можно отправить параллельно, и Jev оценит их независимо на одном контексте, не генерируя длинных объяснений.
Практический пример: проверка технических заданий
В демонстрации было создано приложение, которое:
- Принимает текст ТЗ.
- Формирует для Jev набор вопросов по критериям (срок, ясность, условия приемки).
- На основе ответов модели (choice, score) автоматически решает: взять задачу в работу, запросить уточнение или отправить на ручную проверку.
- Ответ модели напрямую управляет поведением программы (например, подставляет в шаблон вопрос для заказчика).
Пример
Короткое задание: «Сделай красивый сайт для нашей кофейни современно, удобно и побыстрее».
Jev оценил срок как «расплывчатый», что привело к автоматическому формированию запроса на уточнение у заказчика.
Преимущества и ограничения
Преимущества:
- Скорость: Запрос в демо занял ~780 мс.
- Экономичность: Через OpenRouter 1 млн входных токенов стоит ~$0.04, выходные токены бесплатны.
- Интегрируемость: Идеально подходит для автоматизации множества мелких решений внутри программ.
Ограничения:
- Модель может ошибаться. При низком показателе уверенности (
confidence) решение стоит отправлять на проверку человеку. - Не подходит для задач, требующих долгого анализа и планирования (для этого нужны другие модели).
- Согласно документации, английский язык даёт значительно лучшую точность, чем русский.
Получение доступа и интеграция
- Регистрация на сайте
typesafe.ai. - Создание API-ключа в личном кабинете.
- Использование промптов для настройки агента в Claude Code (или другой среде) для сборки приложения с подключением к Jev.
- Важно: API-ключ не следует передавать в переписке с агентом, в демо он хранился только в памяти сервера.
Где можно использовать Jev
Проверка ТЗ — лишь один пример. Аналогичный механизм подходит для:
- Распределения обращений по отделам.
- Оценки срочности сообщений.
- Проверки отдельных требований к тексту.
Любых задач, где есть данные, конкретный вопрос и понятный формат ответа.
Выводы
Jev — это не «будущее нейросетей», а один из специализированных инструментов, который делает ИИ обычной частью программ. Он демонстрирует подход, когда разные модели работают вместе в одной архитектуре: генеративная модель планирует или пишет, Jev быстро оценивает отдельные признаки, а обычный код связывает результаты. Это позволяет не перегружать одну модель всеми ролями и создавать более эффективные и быстрые приложения.