Создание приложений ИИ с помощью DSPy на Azure Databricks

В этой статье описывается DSPy и приведены примеры записных книжек, демонстрирующих использование DSPy на Azure Databricks для создания и оптимизации агентов ИИ.

Что такое DSPy?

DSPy — это платформа для программного определения и оптимизации агентов ИИ. DSPy может автоматизировать проектирование запросов и управление тонкой настройкой LLM, чтобы повысить производительность.

DSPy состоит из нескольких компонентов, которые упрощают разработку агентов и повышают качество агента:

  • модули. В DSPy эти компоненты обрабатывают определенные преобразования текста, например ответы на вопросы или сводку. Они заменяют традиционные рукописные запросы и могут учиться на примерах, что делает их более адаптируемыми.
  • Сигнатуры: описание естественного языка для поведения входных и выходных данных модуля. Например, "вопрос -> ответ" указывает, что модуль должен принимать вопрос в качестве входных данных и возвращать ответ.
  • Компилятор: это средство оптимизации DSPy. Он улучшает конвейеры LM, изменяя модули в соответствии с метрикой производительности, либо создавая лучшие подсказки, либо производя точную настройку моделей.
  • Программа (DSPy): набор модулей, объединённых в цепочку для выполнения сложных задач. Программы DSPy являются гибкими, что позволяет оптимизировать и адаптировать их с помощью компилятора.

Создание программы DSPy для классификатора текста

В следующей записной книжке показано, как создать программу DSPy, которая выполняет классификацию текста. В этом примере показано, как работает DSPy и компоненты, которые он использует.

Создание программного блокнота DSPy для текстового классификатора

Получите ноутбук

Использование индекса поиска ИИ с программой DSPy для RAG

В следующей записной книжке показано, как создать индекс поиска ИИ и использовать его с программой DSPy, которая выполняет RAG.

Создание программного блокнота DSPy для текстового классификатора

Получите ноутбук

Мультиагентная система с Genie и DSPy

В следующей записной книжке показано, как создать систему с несколькими агентами, которая управляет этими типами агентов:

  • Агенты Genie
  • Агенты, развернутые в службе обслуживания моделей
  • Агенты вызова функций UC, созданные с помощью DSPy.

Использование мультиагента с помощью Genie и DSPy

Получите ноутбук

Создание программы DSPy для RAG

В этих записных книжках показано, как с помощью DSPy создать и оптимизировать базовую программу RAG. Предполагается, что в этих записных книжках вы используете бессерверные вычисления, и они устанавливают пакеты на уровне записной книжки, чтобы обеспечить их выполнение независимо от версии среды выполнения Databricks.

Часть 1: Подготовка данных и индекса AI Search для ноутбука программы RAG DSPy

Получите ноутбук

Часть 2: Создание и оптимизация программы DSPy для блокнота RAG

Получите ноутбук

Миграция LangChain в DSPy

Эти записные книжки показывают, как перенести код модели LangChain в DSPy и оптимизировать его для повышения производительности. Предполагается, что в этих записных книжках вы используете бессерверные вычисления, и они устанавливают пакеты на уровне записной книжки, чтобы обеспечить их выполнение независимо от версии среды выполнения Databricks.

Перенос кода модели LangChain в записную книжку DSPy

Получите ноутбук

Оптимизируйте перенесенную записную книжку модели DSPy

Получите ноутбук