01 Что произошло
Salesforce представила Koa Decisions — модель принятия решений на базе Google Gemma, которая маршрутизирует корпоративные запросы за 26 миллисекунд, против 1,4 секунды для общего LLM.
02 Ключевые детали
- Koa Decisions использует Google Gemma для маршрутизации запросов в миллисекунды, поддерживая изображения и аудио.
- Тестирование показало, что модель обрабатывает запросы за 26 мс, что в 50 раз быстрее, чем LLM (1,4 с).
- Доступна бесплатная демонстрация через Trailhead для всех пользователей.
- Планируется расширение функционала на интеграцию с Salesforce-приложениями и API для разработчиков.
03 Почему это важно
Koa Decisions оптимизирует работу агентов, снижая нагрузку на LLM для быстрых решений и повышая эффективность обработки запросов.
04 Кому полезно
Разработчики AI-продуктов, разработчики голосовых интерфейсов, компании с большим объёмом типовых запросов, корпоративные клиенты AI-сервисов и инженеры ИИ-инфраструктуры.
Первоисточник