Как добавить поиск по смыслу в приложение? | Yandex Cloud | ПромоСтраницы
Добавить в корзинуПозвонить
Добавить в корзинуПозвонить
Как добавить поиск по смыслу в приложение?

Разверните готовый пресет с модулем Valkey-Search: находите документы и товары по смыслу, храните эмбеддинги и стройте основу для RAG.

Запустите Valkey-Search для RAG и поиска по смыслу на готовой конфигурации

Пользователь спрашивает: «Как вернуть товар?», а нужный раздел документации называется «Порядок оформления возврата».

Формулировки разные, хотя смысл один.

Готовый пресет Managed Service for Valkey позволяет развернуть кластер с включённым модулем Valkey-Search и перейти к работе с эмбеддингами, индексом и качеством поиска без самостоятельной установки и обслуживания СУБД.

Находите материалы по смыслу, а не только по словам

Текст, изображение или товар можно представить в виде числового вектора, то есть эмбеддинга.

Объекты с похожим содержанием получают близкие векторы, даже если в их названиях и описаниях нет одинаковых слов.

Векторный поиск можно использовать, чтобы:

  • находить ответы в базе знаний;
  • подбирать похожие товары и материалы;
  • искать релевантные документы;
  • улучшать поиск по каталогу;
  • создавать AI-ассистентов поддержки;
  • получать контекст для генеративной модели.

Используйте поиск как основу для RAG

В RAG-сценарии приложение сначала находит подходящие фрагменты в материалах компании, а затем передаёт их языковой модели вместе с вопросом пользователя.

Например, оно может найти актуальную инструкцию по возврату и использовать её при подготовке ответа.

При обновлении источников не обязательно переобучать модель: можно пересчитать эмбеддинги изменившихся документов и обновить индекс.

Что уже настроено

  • основной хост и реплика в двух зонах доступности (при его отказе сервис автоматически переключит нагрузку на реплику);
  • 4 vCPU и 32 ГБ RAM на каждом хосте;
  • сетевой SSD объёмом 40 ГБ;
  • модуль Valkey-Search;
  • до 80% оперативной памяти под данные;
  • политика NOEVICTION (при нехватке памяти Valkey не удаляет данные автоматически: новая запись завершится ошибкой);
  • обновления и резервное копирование со стороны сервиса.

Готовый кластер закрывает инфраструктурную часть задачи. Размер кластера и параметры индекса можно подобрать под количество и размер векторов.

Что остаётся проверить вам

Качество самого поиска зависит от данных и приложения.

На этапе прототипа важно проверить:

  • как документы разбиваются на фрагменты;
  • подходит ли выбранная модель эмбеддингов;
  • находятся ли полезные материалы;
  • не теряются ли важные результаты;
  • соответствует ли скорость поиска требованиям;
  • улучшает ли найденный контекст ответы модели.

Valkey-Search хранит эмбеддинги и выполняет поиск по векторному индексу. Разбиение документов, вычисление эмбеддингов, формирование запроса и генерация ответа остаются частью приложения.

Так команда может сосредоточиться на качестве подобранного контекста и RAG-сценария вместо инфраструктуры СУБД.

👉Посмотреть пресет «RAG и векторный поиск»

Листая дальше, вы перейдёте на yandex.cloud