Настройте пользовательскую модель в Visual Studio Code для сред с сетевыми ограничениями

Пользовательскую модель можно использовать с модернизацией GitHub Copilot в Visual Studio Code при работе в среде с ограниченным сетевым доступом. Установите расширение и AppCAT вручную, а затем настройте Visual Studio Code, чтобы использовать конечную точку модели, доступную вашей среде.

Вам не нужно входить в GitHub Copilot для этого рабочего процесса.

Warning

Исходный код и контекст оценки отправляются в конечную точку модели, которую вы настраиваете. Пользовательская модель не гарантирует полную сетевую изоляцию, а некоторые возможности модернизации по-прежнему требуют доступа к сети. Вы несете ответственность за состояние безопасности и соответствия поставщика модели.

Prerequisites

  • Visual Studio Code.
  • Компьютер с сетевым доступом, который можно использовать для скачивания расширения и пакетов AppCAT.
  • Способ передачи скачанных пакетов на компьютер с ограниченным доступом к сети.
  • Пользовательская конечная точка модели, которой может достичь компьютер с ограниченным доступом к сети.
  • URL-адрес конечной точки, имя модели или развертывания и ключ API, если конечная точка требует проверки подлинности.

Установка расширения из VSIX

Скачайте пакет расширения на подключенном компьютере и установите его на компьютере без доступа к сети.

  1. На подключенном компьютере откройте представление Extensions в Visual Studio Code.

  2. Найдите расширение GitHub приложение Copilot modernization для модернизации приложений.

  3. Откройте контекстное меню расширения и выберите Скачать VSIX.

    Снимок экрана, показывающий представление расширений Visual Studio Code с выбранной командой Download VSIX для расширения GitHub Copilot App Modernization.

  4. Перенесите ФАЙЛ VSIX на компьютер с ограниченным доступом к сети.

  5. На компьютере с ограниченным доступом к сети откройте представление Extensions.

  6. Выберите Представления и другие действия (...), а затем выберите "Установить" из VSIX....

    Снимок экрана: представление расширений Visual Studio Code с выбранным параметром Install from VSIX.

  7. Выберите перенесенный VSIX-файл.

Установите AppCAT вручную

Расширение не может автоматически скачать AppCAT без доступа к общедоступной сети. Установите AppCAT перед выполнением оценки.

  1. На подключенном компьютере перейдите к Установка AppCAT и скачайте пакет приложения.

  2. Перенесите пакет на компьютер с ограниченным доступом к сети.

  3. Извлеките пакет в ~/.appcat.

  4. Убедитесь, что исполняемый файл AppCAT находится в одном из следующих расположений:

    • Виндовс: ~/.appcat/appcat.exe
    • Linux или macOS: ~/.appcat/appcat
  5. Добавьте ~/.appcat в систему PATH.

  6. Перезапустите Visual Studio Code.

Note

Если установленная версия AppCAT не соответствует версии, которую ожидает расширение, расширение пытается скачать другую версию. Без доступа к сети скачивание завершается сбоем, и может казаться, что оценка выполняется бесконечно. Установите последний пакет AppCAT вручную, чтобы устранить проблему.

Добавление пользовательской языковой модели

  1. Нажмите клавиши CTRL+SHIFT+P , чтобы открыть палитру команд.

  2. Запустить Chat: управление языковыми моделями.

    Снимок экрана, показывающий палитру команд Visual Studio Code с выбранной командой «Chat: Manage Language Models».

  3. В диалоговом окне Языковые модели выберите Добавить модели....

  4. Выберите поставщика, который соответствует вашему эндпоинту. Например, выберите Azure, OpenAI, OpenAI Compatible или Custom Endpoint.

  5. Введите сведения о подключении, необходимые поставщику, включая имя модели, ключ API и конечную точку.

  6. Убедитесь, что модель отображается в разделе Языковые модели.

Выберите и протестируйте пользовательскую модель

  1. Откройте чат в Visual Studio Code.

  2. Выберите пользовательскую модель из списка Выбор модели.

    Снимок экрана: средство выбора модели чата Visual Studio Code с выбранной пользовательской моделью Ollama.

  3. Отправьте тестовое сообщение и убедитесь, что модель отвечает.

    Снимок экрана: Visual Studio Code чат с ответом выбранной пользовательской модели.

Настройте полезные модели

Функция модернизации GitHub Copilot использует параметры служебной модели в Visual Studio Code для встроенных служебных потоков.

  1. Откройте параметры.

  2. Найдите chat.utility.

  3. Установите Chat: Utility Model на пользовательскую модель.

  4. Установите Chat: Utility Small Model как пользовательскую модель.

    Снимок экрана, на котором показаны параметры Visual Studio Code с выбранной пользовательской моделью для Chat Utility Model и Chat Utility Small Model.

Запустите оценку и создайте план

  1. Откройте GitHub Copilot Modernization.
  2. Выберите Начать оценку или Открыть панель мониторинга оценки.
  3. Запустите оценку и откройте отчет об оценке.
  4. Выберите результаты анализа модернизации, которые вы хотите обработать.
  5. Выберите «Создать план».

Расширение отправляет выбранные результаты оценки в чат и вызывает агент модернизации, инструменты и навыки с настроенной моделью.

Ограничения и известные проблемы

  • Домен оценки безопасности требует доступа к сети и недоступен в среде с ограниченным сетевым доступом.
  • Сканирование и устранение проблем безопасности требует сетевого доступа.
  • Несоответствия версий AppCAT могут активировать автоматическую загрузку, которая завершается сбоем без доступа к общедоступной сети.
  • Результаты зависят от возможностей пользовательской модели. Модель, которая не поддерживает необходимые средства или контекст, может не завершить рабочий процесс.
  • Настройка пользовательской модели не обеспечивает полную сетевую изоляцию. Используйте сетевые элементы управления для принудительного применения требований к исходящему трафику вашей организации.