Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
В этой статье описывается DSPy и приведены примеры записных книжек, демонстрирующих использование DSPy на Azure Databricks для создания и оптимизации агентов ИИ.
Что такое DSPy?
DSPy — это платформа для программного определения и оптимизации агентов ИИ. DSPy может автоматизировать проектирование запросов и управление тонкой настройкой LLM, чтобы повысить производительность.
DSPy состоит из нескольких компонентов, которые упрощают разработку агентов и повышают качество агента:
- модули. В DSPy эти компоненты обрабатывают определенные преобразования текста, например ответы на вопросы или сводку. Они заменяют традиционные рукописные запросы и могут учиться на примерах, что делает их более адаптируемыми.
- Сигнатуры: описание естественного языка для поведения входных и выходных данных модуля. Например, "вопрос -> ответ" указывает, что модуль должен принимать вопрос в качестве входных данных и возвращать ответ.
- Компилятор: это средство оптимизации DSPy. Он улучшает конвейеры LM, изменяя модули в соответствии с метрикой производительности, либо создавая лучшие подсказки, либо производя точную настройку моделей.
- Программа (DSPy): набор модулей, объединённых в цепочку для выполнения сложных задач. Программы DSPy являются гибкими, что позволяет оптимизировать и адаптировать их с помощью компилятора.
Создание программы DSPy для классификатора текста
В следующей записной книжке показано, как создать программу DSPy, которая выполняет классификацию текста. В этом примере показано, как работает DSPy и компоненты, которые он использует.
Создание программного блокнота DSPy для текстового классификатора
Использование индекса поиска ИИ с программой DSPy для RAG
В следующей записной книжке показано, как создать индекс поиска ИИ и использовать его с программой DSPy, которая выполняет RAG.
Создание программного блокнота DSPy для текстового классификатора
Мультиагентная система с Genie и DSPy
В следующей записной книжке показано, как создать систему с несколькими агентами, которая управляет этими типами агентов:
- Агенты Genie
- Агенты, развернутые в службе обслуживания моделей
- Агенты вызова функций UC, созданные с помощью DSPy.
Использование мультиагента с помощью Genie и DSPy
Создание программы DSPy для RAG
В этих записных книжках показано, как с помощью DSPy создать и оптимизировать базовую программу RAG. Предполагается, что в этих записных книжках вы используете бессерверные вычисления, и они устанавливают пакеты на уровне записной книжки, чтобы обеспечить их выполнение независимо от версии среды выполнения Databricks.
Часть 1: Подготовка данных и индекса AI Search для ноутбука программы RAG DSPy
Часть 2: Создание и оптимизация программы DSPy для блокнота RAG
Миграция LangChain в DSPy
Эти записные книжки показывают, как перенести код модели LangChain в DSPy и оптимизировать его для повышения производительности. Предполагается, что в этих записных книжках вы используете бессерверные вычисления, и они устанавливают пакеты на уровне записной книжки, чтобы обеспечить их выполнение независимо от версии среды выполнения Databricks.