Переосмислення RAG: Як зробити ваших агентів розумнішими за допомогою нової функції NAD
За чашкою. Кави, якраз під час вивчення новаторських технологій, я натрапила на захопливий світ RAG-агентів (Retrieval-Augmented Generation). І ось, з’явилася нова неймовірна функція начебто, NAD, яка відкриває двері до нового рівня розуміння та точності.
Уявіть дивіться, собі миттєве покращення роботи ваших значить, RAG-агентів, без необхідності докладати надмірних зусиль. Звичайно, заінтриговані? Тоді приєднуйтесь до мене, адже ми разом розглянемо, що таке ре-ранкер. Як він покращує якість пошуку інформації, і як його легко налаштувати. Ми торкнемось питання використання метаданих при векторизації документів та їх подальшому пошуку. Готові? Поїхали! Щоб було ясно,
За лаштунками RAG: Розуміння основи
Усвідомлення того, що. Відбувається за кулісами, є ключем до розуміння ефекту від ре-ранкера. Основний принцип RAG полягає в тому, щоб перетворити текстові документи на. Векторну базу даних – місце, де інформація живе у формі чисел. Процес виглядає так:
- Розбиття на частини: Спочатку документ розбивається на менші, зручні для управління частини. Це дозволяє системі ефективніше працювати з інформацією.
- Вкладення (Ембеддінг): Далі ці частини передаються моделі вкладень. Ця модель перетворює їх у числове представлення, яке відображає значення кожного фрагмента. Знову ж таки, Звичайно, модель, по суті, перекладає текст у мову, яку може зрозуміти комп’ютер. Дивно,
- Векторна база даних: Ці числові представлення розміщуються у багатовимірному просторі – вашій векторній базі даних. Тут зберігається кожна частина вашого тексту у вигляді вектора.
Коли ви ставите питання RAG-агенту, відбувається щось подібне: ваше питання теж перетворюється на вектор за допомогою тієї ж самої моделі вкладень. Система потім шукає у векторній базі даних найближчі вектори до вашого питання. Ці найближчі вектори відповідають фрагментам тексту, які машина вважає найбільш релевантними.
Наприклад, візьмемо “Правила гри в гольф”. Якщо ви запитаєте: “Що мені робити, якщо мій м’яч вилетів за межі поля? “, ваше питання перетвориться на вектор і система знайде. Найближчі вектори у базі даних – частини правил гри. Ці частини будуть використані RAG-агентом для відповіді на ваше запитання.
Проблеми з традиційним пошуком
У звичайному сценарії RAG, система повертає лише кілька найближчих векторів. Це працює, але не завжди гарантує найкращий результат. Що, якщо найбільш релевантна інформація знаходиться серед наступних найближчих сусідів, які система просто ігнорує?
Ре-ранкер: Підвищення точності
Тут в гру вступає ре-ранкер. Безумовно, представте це як розумного сортувальника інформації. Замість того, щоб повертати лише три найближчі вектори, типу того. Ре-ранкер дозволяє системі взяти, наприклад, 20 або 30 векторів. Далі він аналізує їх та призначає кожному з них оцінку релевантності. В результаті система вибирає лише кілька найрелевантніших фрагментів (наприклад, три), які передаються RAG-агенту для відповіді.
Уявіть, як це покращує відповіді! Замість того, щоб отримувати відповіді з, можливо, не зовсім. Точних джерел, ви отримуєте відповіді, відфільтровані та відсортовані ре-ранкером.
Налаштування Ре-ранкера в NIDN та Superbase
Налаштувати ре-ранкер неймовірно легко. Найперше, дивіться, що треба зробити, це переконатися, що наприклад, ви. Вже налаштували потік робіт RAG, який підключений до Superbase. Далі вам необхідно:
- Налаштування ліміту: У вашому інструменті Superbase. Vector Store, переконайтесь, що встановлено ліміт на кількість повернених векторів. Простіше кажучи, за замовчуванням, цей ліміт рівний чотирьом. Звичайно, збільште його. У нашому прикладі, він був збільшений до 20.
- Ввімкнення Ре-ранкера: Знайдіть опцію “Ре-ранк результатів” та увімкніть її. Більше того,
- Вибір мовної моделі: Виберіть модель ре-ранкера та зараз ви можете використати Coherent. Для налаштування Coherent вам знадобиться створити обліковий запис та отримати ключ API. Додайте ключ API в відповідне поле. Щоб було ясно, наприклад, для простоти використовувалась модель rerank v3. 5.
Перевірка на практиці: Правила гри в гольф
Щоб переконатись, що. Ре-ранкер працює, уявіть, що у вашій базі Superbase є “Правила гри в гольф”. Справа в тому, що запитавши агента: “Як працює порядок гри? “, ви побачите, дивіться, як агент звертається до Superbase, а потім до ре-ранкера. Агент використовує інформацію для відповіді на ваше запитання.
Щоб побачити, як це працює, можна переглянути логи агента:
- Запит: Агент відправляє запит до Superbase. Очевидно,
- Вкладення: Запит перетворюється в числовий вектор.
- Ре-ранкер: 20 частин тексту відправляються в модель ре-ранкера.
- Результат: Ре-ранкер ну, відбирає 3 найрелевантніші частини, десь так.
Цей процес демонструє, як ре-ранкер відбирає найбільш корисні фрагменти, покращуючи якість відповідей агента.
Оцінка результатів
Приклад з Правилами Гольфу, хоча, можливо, не виявився найкращим для демонстрації неймовірної продуктивності ре-ранкера, але він все одно наочно показує його переваги.
Ми отримали відповідь на наше запитання, і ре-ранкер відфільтрував результати й відкинув менш відповідні.
дивіться,
Метадані: Додаємо глибину до ваших даних
Ре-ранкер. – це лише один крок до покращення RAG-агентів. Наступний важливий компонент – це метадані. До речі, насправді, припустимо, саме вони роблять ваші пошуки більш точними та ефективними.
Метадані – це інформація про ваші дані, яка допомагає їх організовувати та фільтрувати. Уявіть, що ви маєте велику бібліотеку правил гри в гольф. Замість того, щоб просто зберігати текст, ви додаєте до кожного фрагмента, наприклад, номер правила.
Розглянемо приклад:
ну,
- Вихідний текст: “Правило 1: Грайте за правилами”, щось на зразок.
- Метадані: “Номер правила: 1”.
Тепер, якщо ви запитаєте: “Все про правило 1”, система зможе швидко знайти саме ту інформацію, яка вам потрібна.
Як додати метадані
Додати метадані легко під час векторизації ваших документів. У вашому потоці взагалі, робіт знайдіть “Завантажувач даних за замовчуванням”. Там ви значить, слухайте, знайдете опцію додати метадані та вказати потрібні поля, якось так. Наприклад, додайте поле “Номер правила” та присвойте йому відповідне значення для кожного фрагмента.
Пошук за допомогою метаданих
Щоб скористатись метаданими під час пошуку, вам необхідно налаштувати фільтри у вашому інструменті Superbase. Ви вказуєте поле метаданих (наприклад, “Номер правила”) та значення, яке потрібно знайти (наприклад, “27”).
Агент метаданих
У майбутньому добре мати агента, який сам розпізнає метадані. До речі, наприклад, щоб він міг зрозуміти на основі запиту, що потрібно відфільтрувати, і як саме.
Підсумок
Використовуючи ре-ранкери та метадані, ви значно покращуєте точність та ефективність своїх RAG-агентів. Не бійтеся експериментувати, щоб якнайкраще використовувати можливості цих інструментів. Спробуйте самостійно завантажити шаблон та поекспериментувати: подивіться, як працює ре-ранкер, як виконуються запити вашим агентом, та як працює фільтр метаданих. Розуміння цих принципів допоможе вам створити ще розумніших та корисніших RAG-агентів.
