Большая часть продаж в Лавке приходится всего на небольшое число поисковых запросов. Чтобы повысить эффективность поиска, именно на этих запросах нужно обеспечивать максимально качественный ответ. Эту задачу решает LLM Cache — инструмент, делающий поиск точнее там, где это важнее всего для GMV.
В докладе разберём, как устроен поисковый пайплайн с использованием LLM Cache. Особое внимание уделим практическим кейсам: от упрощённого подключения новых партнёров с незнакомым ассортиментом до успешных внедрений в таких категориях, как аптеки, зоотовары и цветы. Мы также поделимся результатами пилотных проектов с «Пятёрочкой» и «Перекрёстком» и сравним разные подходы — SaaS-решения против собственного LLM Cache.
