14:49
Алиса AI стала диспетчером для самой себя: теперь решает, какой мозг включить.

Алиса AI стала диспетчером для самой себя: теперь решает, какой мозг включить

Представь: ты спросил «сколько сейчас времени» — а тебе в ответ включают целую аналитическую передачу на полчаса, с графиками, экспертами и прогнозом на неделю. Нормальный ответ — «два часа дня». И всё.

Примерно об этом подумали в Яндексе, когда придумали новую систему для Алисы AI.

Что произошло

Алиса AI теперь сама определяет, какую модель подключить к запросу. Простые вопросы — «какая погода», «переведи слово», «когда закат» — уходят быстрым моделям. А сложные — поехать в Стамбул на четыре дня в бюджет 120 тысяч, подобрать робот-пылесос под ковры и кота — идут в режим «Эксперт», где больше ресурсов и внимания к деталям.

Раньше выбор был за пользователем: сам включал «Эксперт», сам решал. Теперь — за классификатором.

Как это работает

За роутинг отвечает специальный классификатор. Он анализирует задачу, оценивает сложность и прикидывает, сколько вычислительной мощности нужно. Лёгкое — в быструю полосу, тяжёлое — в длинную.

Аналогия простая: как диспетчер в аэропорту. Маленький самолёт — на короткую полосу, дальнемагистральный — на длинную. Никто не гоняет Boeing 777 по маршруту «Красноярск — Назарово», и не сажает кукурузник на трансатлантический рейс.

Режим «Эксперт» по-прежнему можно включить вручную. Но по умолчанию Алиса решает сама.

Зачем это нужно

Две причины:

  1. Скорость. Простые вопросы не должны ждать, пока разогреется тяжёлая модель. Спросил «сколько будет 2+2» — ответ должен прилететь мгновенно, а не после того, как нейросеть продумает все философские последствия сложения.

  2. Ресурсы. Гонять большую модель на простых запросах — это как варить кофе в турке на промышленной плите ради одной чашки. Мощности не бесконечны, и Яндекс прямо говорит: не хотим тратить лишнее на повседневное, чтобы не экономить на сложном.

Что это значит для нас

По сути, Алиса научилась оценивать себя. Не каждый вопрос заслуживает глубокой аналитики — и это нормально. Иногда нужен быстрый ответ, иногда — развёрнутый план с расчётами. Разница в том, что раньше ты сам решал, какой Алису позвать, а теперь она сама понимает, какой «мозг» нужен под задачу.

Звучит логично. Вопрос один: а что, если классификатор ошибётся и пошлёт сложный запрос по быстрой полосе? Покажет время. Пока — выглядит как правильный шаг.

Источник: Алиса AI теперь сама выбирает LLM под задачу: что стоит между моделью и хорошим ответом

Категория: Последние игровые новости. | Просмотров: 14 | Добавил: nazarovoru | Рейтинг: 0.0/0
Всего комментариев: 0
avatar