Сводка
Tip
Дополнительные сведения см. на вкладке "Текст и изображения ".
В этом модуле вы узнали, как оптимизировать производительность модели создания ИИ с помощью дополнительных стратегий в Microsoft Foundry.
Вы узнали, как:
- Применяйте методы инженерии запросов, включая системные сообщения, обучение с использованием нескольких примеров и параметры модели, для оптимизации выходных данных модели.
- Узнайте, когда и как использовать языковую модель с помощью дополненной генерации на основе поиска (RAG).
- Определите, когда модель улучшает согласованность поведения.
- Сравните стратегии оптимизации и определите, когда их объединить.
Основной вывод заключается в том, что проектирование запросов, RAG и тонкая настройка не являются конкурирующими подходами — это взаимодополняющие стратегии, которые учитывают различные аспекты производительности модели. Начните с разработки запросов, чтобы направлять поведение модели, добавьте RAG, когда для фактической точности требуются данные, специфичные для домена, и рассмотрите возможность fine-tuning, когда требуется последовательный стиль и формат, который разработка запросов не может надежно обеспечить.
Для сценария туристического агентства наиболее эффективное решение может объединить все три: точно настроенную модель, которая поддерживает голос бренда, RAG, который основывает ответы на фактическом каталоге отелей, а также инженерию подсказок, которая добавляет инструкции, специфичные для общения, и меры безопасности.
Дополнительные материалы
Дополнительные сведения о разделах, описанных в этом модуле, см. в следующих ресурсах:
- Начало работы с настройкой большой языковой модели (LLM)
- Техники проектирования запросов
- Проектирование системных сообщений
- Извлечение и дополненная генерация в Microsoft Foundry
- Настройка модели с доработкой
- Вопросы тонкой настройки Microsoft Foundry
- Расширение больших языковых моделей с помощью RAG или тонкой настройки