Зарежда се...

Google представи AI модел, който взема 1000 решения за 250 милисекунди

Google представи AI модел, който взема 1000 решения за 250 милисекунди

Не бъди безразличен, сподели статията с твоите приятели:

Google представи Gemini Decisions API – нов инструмент за разработчици, който позволява на AI агентите да вземат бързи и предварително дефинирани решения. Системата използва модела Gemini Decision 1 и може да обработва до 1000 независими въпроса в рамките на една заявка.

За разлика от традиционните езикови модели, които генерират отговори последователно, токен по токен, Gemini Decision 1 оценява предварително зададени варианти в рамките на едно изчислително преминаване. Резултатът включва вероятности и оценки за увереността на модела.

Според Google цялостното време за обработка на една заявка е между 150 и 250 милисекунди. Това позволява на разработчиците да използват технологията за задачи, при които скоростта е от решаващо значение.

API интерфейсът поддържа различни типове входна информация. Сред тях са текст, изображения, аудиозаписи, видеоклипове и PDF документи. Така разработчиците могат да проверяват различни видове съдържание в рамките на една заявка, без да разчитат на отделни системи за обработка.

Моделът е предназначен за конкретни задачи с предварително определени граници. Сред тях са изборът на подходящ инструмент за AI агент, проверката дали дадено действие отговаря на определени правила, насочването на запитвания към правилния модел и оценяването на информация по зададени критерии.

Разработчиците могат да задават въпроси с отговор „да“ или „не“, тестове с до 255 възможни отговора или задачи за оценяване по предварително определена скала. Google посочва, че самото изчисление на модела отнема между 50 и 100 милисекунди при медианна стойност. Производителността остава почти непроменена при обработката на между един и 100 въпроса в една заявка.

Gemini Decision 1 разполага с контекстен прозорец от до 256 000 токена. Моделът може да анализира едновременно различни типове съдържание, включително изображения, аудиозаписи и документи. От Google твърдят, че системата превъзхожда конкурентни решения в тестове за насочване на AI агенти, логическо мислене, класиране и мултимодално разбиране. Компанията посочва и по-ниска грешка при калибрирането на вероятностите, което е важно за надеждността на оценките.

Според Google Gemini Decision 1 е почти пет пъти по-евтин от Gemini 3.5 Flash-Lite при използване на Interactions API и еднакъв набор от сравнителни тестове. Цената на Gemini Decisions API е 0,10 долара за милион входни токена. Няма такса за изходните токени. Разработчиците плащат само веднъж за общата входна информация, независимо от броя на въпросите към нея. Всеки отделен въпрос обаче добавя собствени токени за инструкции и критерии.

Китайски AI агенти влязоха в диалог с журналист, но отрекоха да са рояк

Компанията вече прилага Gemini Decision 1 в няколко свои услуги. В Gemini Notebook технологията насочва входящите запитвания към подходящи модели и нива на логическо разсъждение. Според Google това може да намали забавянето при обикновени въпроси с до 40%, като същевременно запазва по-мощните модели за сложни задачи.

API интерфейсът участва и в работата на платформата Stitch, която позволява създаването на интерактивни прототипи на потребителски интерфейси. Потребителите могат да правят промени чрез гласови команди или докосване.

Асистентът CC също използва технологията. Тя му позволява да избира подходящи емоджита измежду повече от 200 възможности за части от секундата. Google Search използва модела и като допълнителен защитен механизъм. Неговата задача е да открива опити за злонамерено поведение при работа с инструменти, базирани на протокола Model Context Protocol (MCP).

Технологията може да намери приложение и в други автоматизирани системи. Тя позволява на AI агентите да избират подходящи инструменти, да оценяват постъпваща информация и да определят кога дадена задача изисква намеса от човек.

Gemini Decisions API вече е достъпен чрез Google AI Studio, включително с безплатен план за разработване и тестване на прототипи. Google разширява и интеграциите с платформи за разработчици като OpenRouter, LangChain, Vercel, LiteLLM и Pydantic AI.

Появата на новия инструмент е част от засилващата се конкуренция в областта на специализираните AI системи за вземане на решения. През октомври OpenAI представи собствен Decisions API, базиран на модела GPT-6 Luna. Според компанията той може да обработва заявки до 10 пъти по-бързо от Responses API и поддържа до 400 въпроса в една заявка.

Подобно на решението на Google, услугата на OpenAI предлага проверки с вероятностни оценки, избор между предварително зададени отговори и оценяване по критерии. Началната цена също е 0,10 долара за милион входни токена.

Последвайте нашият Telegram канал! Натиснете тук


Коментари

коментари

Post Comment

You May Have Missed

www.faktibg.com