[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fVJ9RGvZeesxSuOSSYZb3_uZa3TQ3QPitUcQzxprRlNQ":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"Почему векторный поиск в проде врёт и как мы это чинили","vektornyy-poisk-v-prode-rag","CTO ИИ-стартапа рассказывает, как первая версия RAG выглядела идеально на демо и разваливалась на клиентах, и что пришлось переделать в первую очередь.","**С чего началась ваша боль с RAG?**\n\nПервую версию собрали за неделю: эмбеддинги, вектора в pgvector, топ-5 чанков в промпт. На демо всё сияло. А в проде пошли жалобы: клиент спрашивает про действующий тариф, а модель цитирует прайс из архива за позапрошлый год. Тогда до нас дошло, что векторный поиск честно находит похожее по смыслу, но «похожее» и «верное» живут в разных вселенных.\n\n**Что переделывали раньше всего?**\n\nНарезку документов. Мы резали текст по 512 токенов вслепую, и таблицы рвались пополам, а заголовок отрывался от своей секции. Переписали на разбиение по структуре: заголовок плюс его абзацы, таблица целиком, список целиком. Качество ответов подскочило раньше, чем мы вообще притронулись к самой модели.\n\n**Одного этого хватило?**\n\nНет. Добавили гибридный поиск: вектора плюс обычный полнотекстовый по ключевым словам, а сверху реранкер. Артикулы, номера версий, даты вектор ловит отвратительно, а BM25 находит их влёт. Реранкер потом переставляет кандидатов по реальной релевантности. Точность на наших вопросах выросла примерно с 60 до 88 процентов.\n\n**Как поняли, что стало лучше, а не показалось?**\n\nЗавели офлайн-набор из двухсот реальных вопросов с эталонными ответами. Каждый релиз гоняем по нему и смотрим, сколько ответов опирается на правильный источник. Без этого набора мы месяцами спорили бы вкусовщиной вместо цифр. Один инженер клялся, что новая версия умнее, а на наборе она проседала на трети вопросов.\n\n**Модель всё равно иногда выдумывает?**\n\nИногда да, и тут спасает не хитрый промпт, а дисциплина. Мы требуем, чтобы каждый факт в ответе опирался на конкретный источник, и показываем этот источник рядом с ответом. Нет ссылки, значит модель сочиняет, и пользователь это видит. Прозрачность дешевле, чем попытки заставить модель никогда не ошибаться.\n\n**Совет тем, кто только заходит в RAG?**\n\nНе тратьте первый месяц на подбор модной модели эмбеддингов. Сначала почините нарезку и заведите метрику. Девять из десяти провалов RAG живут не в модели, а в том, что в промпт приезжает мусор. И храните рядом с чанком метаданные: дату, версию, раздел документа. Без них вы не отрежете устаревшее, и модель будет уверенно врать свежим тоном.","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F6b3e55c9-44eb-46b3-988d-829f20b2416e","interview",3,"2026-07-05T08:47:12.000Z",{"name":14},"Интервью",{"name":16,"slug":17,"role":18,"bio":19},"Артём Соколов","artem-sokolov","главный редактор","Следит за релизами больших языковых моделей и агентных систем. Разбирает бенчмарки без хайпа и переводит новости лабораторий в понятные выводы для практиков.",[21,26,31],{"title":22,"slug":23,"reading_minutes":11,"published_at":24,"category":25},"Как я ломаю чужих ИИ-ассистентов через обычный текст","prompt-injection-bezopasnost-llm","2026-07-04T08:47:12.000Z",{"name":14},{"title":27,"slug":28,"reading_minutes":11,"published_at":29,"category":30},"Модель тихо деградирует в проде и никто этого не видит","drift-modeley-v-prode-monitoring","2026-07-03T08:47:12.000Z",{"name":14},{"title":32,"slug":33,"reading_minutes":11,"published_at":34,"category":35},"Мы выпилили половину ИИ-фич и продукт стал лучше","ai-fichi-v-produkte-metriki","2026-07-02T08:47:12.000Z",{"name":14}]