Как нейросеть выходит за рамки чата

Языковая модель может пересказать статью, перевести договор или придумать сюжет рассказа. В основе этих задач — один принцип: модель получает текст и постепенно строит его продолжение. Например, ответ на ваш вопрос.

Но для ответа бывает нужно найти свежую информацию в интернете, сделать расчёт или учесть то, что вы рассказывали в прошлой беседе. Чтобы модель могла пользоваться всем этим, разработчики создают вокруг неё специальную систему — харнесс, или обвязку.

Харнесс передаёт модели нужные данные и даёт доступ к инструментам. Например, когда модель обращается к поиску, харнесс запускает его и возвращает ей результат, с которым она может работать дальше. Вот как это устроено на примере простого запроса:

🔵 Пользователь спрашивает, чем кормить собаку

🔵 Харнесс добавляет к вопросу заметку из памяти: «У пользователя четырёхмесячный щенок корги»

🔵 Харнесс даёт модели инструмент поиска ➡️ модель передаёт в инструмент запрос «корм для щенка корги» ➡️ харнесс запускает поиск

🔵 Из HTML найденных страниц харнесс извлекает чистый текст и передаёт его модели

🔵 Модель читает результаты и объясняет пользователю, какие корма рассмотреть и почему.

Так модель может не просто отвечать на основе знаний, полученных во время обучения, а работать с актуальной информацией и решать задачу в несколько шагов.

Система вокруг моделей может отвечать и за то, какую модель подключить к конкретному запросу. Например, в Алисе AI для этого работает специальный классификатор: он анализирует задачу, оценивает, сколько ресурсов потребуется для ответа, и выбирает подходящую модель. Для простых запросов достаточно простой быстрой модели, а для задач, где нужно учесть много условий, изучить документы, что-то рассчитать или составить подробный план, система может подключить экспертный режим.

Теперь так работает и Алиса AI в режиме «Авто»: она сама определяет, когда запросу нужно больше ресурсов и какая модель справится лучше. Также в Алисе доступен режим «Эксперт», в котором запрос всегда направляется в самую подходящую для задачи модель.

Подписывайтесь 👉 @techno_yandex

📌 Для задач посложнее — режим «Эксперт» в Алисе AI. Он пригодится для расчётов, планирования путешествий, выбора машины, обучения и не только. В видео показываем больше примеров и рассказываем, как работает этот режим.

↘️ «Эксперт» включается автоматически, когда Алиса определяет запрос как сложный. При необходимости его можно запустить и вручную — кнопкой внизу экрана.

👉 Больше примеров запросов в режиме «Эксперт»

🍉 Вечный календарь, языкомер и носимая кольчуга — всё это яндексоиды сделали своими руками в свободное время. Летом они экспериментировали в Лабе от внутреннего комьюнити CO-LAB и Фаблаб МИСиС. Сотрудники реализовывали идеи с помощью 3D-принтеров и других технологий. Как это было — смотрите в видео.

↘️ В этом видео показываем, как яндексоид навайбкодил приложение, которое помогает жить, а не скроллить.

👉 Присоединяйтесь к нашей команде

🧐 «Во взаимодействии с разработчиками важно оставаться разработчиком». В новом «1х1» — гуляем вокруг «Красной розы» с Серёжей Бережным, СТО Яндекс Практикума

Серёжа рассказывает о своём пути в Яндексе, который начинался с разработки интерфейсов на XSLT, а также рассуждает о влиянии ИИ на код, образование и собеседования

👀 Это «1х1» — формат, в котором яндексоиды проводят с вами личную встречу на работе. Смотрите здесь, на YouTube и в VK Видео

👉 Присоединяйтесь к нашей команде