Від ШІ до власного бізнесу: Створення розумного помічника з Langflow

Штучний інтелект у Ваших руках: дивіться, Як створити власного розумного помічника (і не тільки)

Привіт, друзі, щось на зразок. Сьогодні я хочу поділитися з вами захоплюючою подорожжю у світ штучного інтелекту. Ви коли-небудь замислювалися, як було б круто мати власного розумного помічника, який допомагає вам у роботі, відповість на питання, знайде інформацію? У цьому відеоблозі ми не тільки поговоримо про це, а й покажемо, як це зробити!

Я збираюся провести вас через створення багатоагентної системи штучного інтелекту. Яка може вирішувати реальні проблеми бізнесу, а не просто бути іграшкою. Ви зможете розширити її функціональність та навіть заробляти на ній! Більше того, готові проте поїхали!

Знайомство з Langflow: Ваш інструмент для створення ШІ

Наш головний інструмент – це чудовий сервіс під назвою Langflow. Це платформа з відкритим кодом, скажімо, яка дозволяє легко створювати складні ШІ-системи за допомогою простого інтерфейсу перетягування. Він надає широкі можливості для інтеграції LLM (великих мовних моделей), роботи з даними та створення власних агентів.

Спочатку вам знадобиться створити безкоштовний акаунт на Langflow (посилання в описі). Це не складно, і вже скоро ви зможете насолоджуватися всіма перевагами платформи. Відверто кажучи,

З чого почати: Створення простого агента

Перш. Ніж занурюватися у складні задачі, давайте спробуємо створити базового агента. Це буде ваш перший крок на шляху до розумного помічника.

1. Створення нового потоку: У Langflow перейдіть. До розділу “New Flow” та оберіть “Blank Flow”.
2. Налаштування потоку: Натисніть на слухайте, значок “Flow Settings” (налаштування потоку) та присвойте назву вашому проекту. Наприклад, “Customer Support AI” і додайте стислий опис та придумайте унікальний “Endpoint”, в такому дусі. Насправді,
3. Вхід та вихід: Кожен потік у Langflow. Починається з “Text/Chat Input” та закінчується “Text/Chat Output”. Це ваші точки входу та виходу даних.
4. Агент: Додайте компонент “Agent” з лівої панелі. Це серце вашого агента, яке використовує LLM для виконання задач. Більше того,
5. Налаштування агента:
   • LLM: Виберіть модель для вашого агента (наприклад, OpenAI). Звичайно, звичайно, для цього вам знадобиться API-ключ. Цікаво, можна також використовувати відкриті моделі, якщо ви хочете працювати локально.
   • Prompt (Підказка): Створіть підказку, яка буде направляти вашого агента. Підказка – це ваш інструктаж для ШІ, як йому слід працювати.
     • Наприклад: “Ваша основна мета – точно відповідати на запитання користувачів, використовуючи інформацію з бази даних компанії. Використовуйте Retrieval Augmented Generation (RAG), щоб знайти та представити найбільш релевантні дані. Щоб було ясно, “.
     • Використовуйте змінні в підказці (наприклад, {{question}} для питання користувача) для передавання даних. До речі,
     • Підключіть вхід “Chat Input” до змінної “question” у вашій вашій підказці.
6. Зв’язки: Зв’яжіть компоненти між собою. До речі, з’єднайте “Chat Input” з входом “question” в “Prompt”, вихід “Prompt” зі входом “instructions” в “Agent”, а вихід “Agent” з входом “Text/Chat Output”. До речі,

Тепер перейдіть у вкладку “Playground” та спробуйте задати питання вашому новому агенту. Ви отримаєте базовий відповідь на ваше питання!

RAG: Розширення можливостей уявіть собі, вашого ну, агента

Тепер прийшов час. Розширити можливості вашого агента за допомогою Retrieval Augmented Generation (RAG). Що це таке? RAG – це процес, який дозволяє вашому агенту знаходити та використовувати. Інформацію з вашої бази даних для отримання більш точних та контекстних відповідей.

1. Підготовка даних: Створіть документ з часто задаваними питаннями (FAQ) вашої компанії. Справа в тому, що наприклад, у форматі PDF.
2. Векторне сховище: Додайте компонент “Astra DB Vector Store”. Це сховище, яке використовує вектори для ефективного пошуку схожої інформації.
3. Налаштування векторного сховища:
   • Створіть безкоштовний обліковий запис на DataStax Astra DB (посилання в описі). Відверто кажучи,
   • Створіть нову базу даних (“Customer”) в DataStax Astra DB.
   • Створіть нову колекцію (“FAQ”) у вашій базі даних. Оберить тип “vector-enabled”.
   • В Langflow підключіть компонент “Astra DB Vector Store” до вашої бази даних та колекції.
   • Оберіть “Embedding Model” (“Astra Vectorize”), щоб автоматично перетворити текст у вектори.
4. Завантаження PDF: Додайте компонент “Data. -> File” та завантажте ваш файл PDF з FAQ.

Використання. До речі,

1. Розбиття тексту: З’єднайте вихід “File” з компонентом “Split Text”. Це дозволить розбити PDF на окремі блоки тексту.
2. Інтеграція з вектором: З’єднайте вихід уявіть собі, “Chunks” з компонентом “Astra DB Vector Store” (“Ingest data”). Зрозуміло,
3. Пошук інформації: З’єднайте вихід “Text/Chat Input” (“question”) з. Входом “Search Input” в “Astra DB Vector Store” (“Search”).

Ваш агент тепер використовує RAG! Запитайте типу, щось, наприклад, “What are the shipping times? ” (Які терміни доставки? ), і він повинен начебто, знайти відповідь у PDF-документі з FAQ.

Створення інструментів: Додаємо можливості до запитів

Варто розуміти, що для отримання відповідей на складні питання з багатьох джерел, вам потрібно створити інструменти. Перетворите функцію FAQ на інструмент.

1. Tool Mode: Ввімкніть режим “Tool Mode” для компонента FAQ. Вам більше не потрібні вхідні дані, але вам. Потрібно налаштувати слухайте, інформацію про інструмент на вкладці “Controls”.
2. Agent description: Напишіть чіткий опис інструменту, як-от “Відшукує та надає відповіді. На часто задані питання, такі як терміни доставки, скасування замовлень та інші бізнес-питання”.
3. Новий агент (Manager): Створіть ще одного агента, який керуватиме вашими інструментами. Дайте йому назву, наприклад, “Manager Agent”.
4. Інструкції для менеджера: Напишіть чіткі інструкції для. Цього агента, пояснюючи, які інструменти він може використовувати. Наприклад: “Ви – досвідчений менеджер з обслуговування клієнтів. Який вміє вибирати правильні інструменти для вирішення задач. Ваша основна задача – використовувати доступні інструменти для надання точної інформації та відповіді на запитання. Ви можете: відшукувати номери замовлень, отримувати інформацію про. Продукти та слухайте, відповідати на питання, які часто задаються”. Надайте доступ до FAQ. З’єднайте вихід “Tool Output” з входом Manager Agent. Звичайно,
5. Підключення з’єднань: З’єднайте наш “Chat Input” з входом “question” у “Manager Agent” та вихід “Manager Agent” з входом “Output” у “Text/Chat Output”.

Тепер ви маєте багатоагентну систему! Менеджер вирішує, який інструмент використовувати для відповіді на ваш запит.

Підключення до баз даних: Обробка замовлень та продуктів

Давайте навчимо нашого агента. Працювати з базою даних, щоб мати змогу шукати інформацію про замовлення та продукти.

1. Створення колекцій: У DataStax Astra DB. Очевидно, створіть дві нові колекції: “orders” (замовлення) та “products” (продукти).
2. Завантаження даних: Завантажте дані з ваших CSV-файлів у відповідні колекції. Ви можете використовувати звичайні таблиці (не vector-enabled).
3. Order знаєте, Lookup Agent: Створіть ще одного агента та ввімкніть “Tool Mode”. Давайте, наприклад, назвемо його “Order Lookup Agent”. Очевидно,

бачите,

4. Налаштування інструментів:
   • “Astra DB” (“Tool”).
   • Tool name: order lookup
   • Description: інструмент для пошуку даних про замовлення за його номером
   • Database: customer
   • Collection: orders
   • Tool Parameters:! Order number (щоб агент міг дістати номер замовлення)
   • “Astra DB” (“Tool”).
   • Tool name: product lookup
   • Description: інструмент для пошуку ї інформації про продукти з їх ідентифікаторами.
   • Database: customer
   • Collection: products
   • Tool Parameters:! Product ID (щоб агент міг дістати код замовлення)
5. Інструкції для Order Lookup Agent: Напишіть чіткі інструкції для цього агента. Наприклад: “Ви використовуєте ці інструменти для отримання інформації про замовлення і продукти. Повертайте тільки інформацію про замовлення. “
6. Додати інструменти до Manager Agent: Додайте “Order Lookup Agent” до “Manager Agent” як інструмент.

Тепер “Manager Agent” може використовувати обидва інструменти (FAQ та Order Lookup) для відповіді на запити.

Інтеграція з вашим застосунком: Від API до інтерфейсу

.

Останній крок наприклад, – це інтеграція вашого ШІ-агента у ваш веб-додаток.

1. API доступ: Перейдіть у вкладку “API” в Langflow та скопіюйте код на Python (або JavaScript, якщо ви використовуєте фронтенд на JavaScript) для використання API.
2. Налаштування в коді:
   • Створіть новий файл (наприклад, main. Py). Цікаво, уявіть собі,
   • Вставте код з вкладки API у файл.
   • Встановіть необхідні залежності дивіться, (за допомогою pip install -r requirements. Txt).
   • Налаштуйте змінні середовища (API ключ, тощо).
3. Створення скажімо, простого Streamlit-інтерфейсу:
   • Встановіть Streamlit (pip install streamlit).
   • Використовуючи простий код на Python, створіть інтерфейс користувача. Цікаво, з текстовим полем введення повідомлення та кнопкою “Run flow”.
   • У функції основного циклу (зазвичай названої main() в Streamlit) викличте функцію run_flow(), 전달яючи повідомлення користувача.
   • Виведіть відповідь від API за допомогою st. Markdown(). Зрозуміло,

Завершення: Загальні висновки

Вітаю! Простіше кажучи, ви тільки що створили багатоагентну ШІ-систему. З використанням Langflow, яка може відповідати на запитання. Перевіряти замовлення та надавати корисну інформацію, все це – за допомогою потужності великих мовних моделей.

Основні висновки:

• Langflow – це зручний інструмент для розробки ШІ-додатків.
• Агенти – це серце ваших ШІ-систем, які використовують LLM для виконання задач, приблизно так.
• RAG дозволяє агентам використовувати конкретну інформацію але
• Багатоагентні системи дозволяють масштабувати ваші додатки, приблизно так.
• Ви можете дивіться, інтегрувати ваших агентів у веб-додатки за допомогою API.

скажімо,

Ваш власний ШІ – це лише початок!