Компанія Google анонсувала новий інтерфейс Gemini Decisions API та модель Gemini Decision 1, які створені для швидкого ухвалення закритих рішень на основі мультимедійних даних. Новий інструмент дозволяє обробляти текст, зображення, аудіо, відео та PDF-файли обсягом до 256 тисяч токенів за один прохід, відповідаючи одразу на тисячу запитань.
На відміну від генеративних моделей, які створюють текст по токену за раз, Gemini Decision 1 одразу оцінює можливі варіанти та повертає ймовірності й показники впевненості. Затримка системи становить від 150 до 250 мілісекунд. Вартість користування становить 0,10 долара за мільйон вхідних токенів, при цьому вихідні токени не тарифікуються взагалі.
API підтримує три типи завдань: перевірки «так/ні» з оцінкою ймовірності, вибір із множини варіантів від двох до 255, а також оцінювання за впорядкованою шкалою рубрик. До кожного результату додається бал впевненості від 0 до 1, що дозволяє розробникам налаштовувати автоматичне перенаправлення складних випадків на ручну перевірку.
Підрозділи Google вже використовують новий сервіс у своїх проєктах. Зокрема, функція застосовується для динамічного маршрутування запитів у Gemini Notebook, миттєвого редагування інтерфейсів у Stitch, вибору емодзі в сервісах Google Labs та як захисний шар для інструментів пошуку.
Скористатися новим інструментом розробники можуть через Google AI Studio, де доступний безплатний рівень для прототипування. Окрім офіційних комплектів розробника від Google, інтеграції з Decisions API поступово з’являються на таких платформах, як OpenRouter, LangChain, Vercel, LiteLLM та інших.
Джерела: blog.google

