Начните: запросы к моделям LLM и прототипирование агентов ИИ без написания кода

В этом 5-минутном учебном пособии без кода рассказывается о генеративном ИИ в Azure Databricks. Вы будете использовать игровую площадку ИИ для выполнения следующих действий:

• Запрашивайте большие языковые модели (LLM) и сравнивайте результаты рядом друг с другом.
• Прототип AI-агента для вызова инструментов
• Экспорт агента в код
• Необязательно: создайте прототип чат-бота для ответов на вопросы с использованием поколения, расширенного извлечением информации (RAG)

Перед тем как начать

Убедитесь, что ваше рабочее пространство может получить доступ к следующему:

• Базовые модели. См. статью "Модель обслуживания региональной доступности".

• Каталог Unity. См. статью "Начало работы с каталогом Unity".
• Платформа агента ИИ Мозаики. См. Функции с ограниченной региональной доступностью.

Шаг 1. Запрос LLM с помощью игровой платформы ИИ

Используйте песочницу ИИ для запроса LLM в чат-интерфейсе.

1. В рабочей области выберите "Детская площадка".
2. Введите вопрос, например "Что такое RAG?".

Добавьте новый LLM для сравнения ответов бок о бок.

1. В правом верхнем углу выберите + , чтобы добавить модель для сравнения.
2. В новой области выберите другую модель с помощью раскрывающегося селектора.
3. Установите флажки синхронизации , чтобы синхронизировать запросы.
4. Попробуйте создать запрос, например "Что такое составная система ИИ?", чтобы увидеть два ответа параллельно.

Продолжайте тестирование и сравнение различных LLM, чтобы помочь вам выбрать лучший вариант для создания агента ИИ.

Шаг 2: Создание прототипа агента ИИ для вызова инструментов

Средства позволяют LLM делать больше, чем создавать язык. Средства могут запрашивать внешние данные, выполнять код и выполнять другие действия. AI Playground предоставляет возможность разрабатывать прототипы без написания кода для агентов, которые обращаются к инструментам.

1. На игровой площадке выберите модель с меткой включенные инструменты.

   

2. Выберите Инструменты>+ Добавить инструмент и выберите встроенную функцию каталога Unitysystem.ai.python_exec.

   Эта функция позволяет агенту выполнять произвольный код Python.

   

3. Задайте вопрос, который включает создание или запуск кода Python. Вы можете попробовать различные варианты на формулировку запроса. При добавлении нескольких инструментов LLM выбирает соответствующее средство для создания ответа.

   

Шаг 3. Экспорт агента в код

После тестирования агента на игровой площадке ИИ выберите Экспорт, чтобы экспортировать агента в записную книжку Python.

Записная книжка Python содержит код, определяющий агент и развертывающий его в конечной точке обслуживания модели.

Необязательно: создать прототип бота для ответа на вопросы по RAG

Если в рабочей области настроен индекс векторного поиска, можно создать прототип бота с ответами на вопросы. Этот тип агента использует документы в индексе векторного поиска для ответа на вопросы, основанные на этих документах.

1. Нажмите Инструменты>+ Добавить инструмент. Затем выберите индекс векторного поиска.

   

2. Задайте вопрос, связанный с документами. Агент может использовать векторный индекс для поиска соответствующих сведений и будет ссылаться на все документы, используемые в ответе.

   

Сведения о настройке индекса векторного поиска см. в статье "Создание индекса векторного поиска"

Дальнейшие шаги

• Используйте Agent Framework для программной разработки усовершенствованных агентов. См. авторские ИИ-агенты в коде.

• Узнайте, как создать приложение RAG. См. руководство по RAG.