Читати англійською

Поділитися через


Параметри вибору моделей і температури

Коли ви створюєте підказку в конструкторі підказок, панель праворуч містить розділ «Налаштування ». Цей розділ дозволяє встановити такі параметри:

  • Версія моделі генеративного ШІ
  • Температура

У цій статті ми розглянемо вплив цих параметрів.

Версії моделей генеративного ШІ

Випадаюче меню дозволяє вибрати серед генеративних моделей штучного інтелекту, які генерують відповідь на ваш настроюваний запит.

Моделлю за замовчуванням станом на листопад 2024 року є GPT 4o Mini (загальна доступність, або GA). Також можна використовувати потужнішу модель GPT 4o (GA). Саме ці незначні версії цих моделей можуть бути змінені.

Коли ви використовуєте швидкі дії в Power Apps or, Power Automate вони споживають AI Builder кредити.

Примітка

Старіші підказки, створені в конструкторі командних рядків, які покладаються на цю модель GPT 3.5 за замовчуванням, були або будуть автоматично оновлені до моделі GPT 4o Mini. Урядова хмара продовжує використовувати модель GPT 3.5 до кінця листопада 2024 року.

Виберіть модель

Вибирайте між моделями залежно від статусу та правил ліцензування.

Модель GPT Статус Правила ліцензування Функціональність Доступність для регіонів
GPT 4o Міні GA - Модель за замовчуванням Споживає кредити в Power Apps і Power Automate. Додаткова інформація: Power Platform Посібник з ліцензування Проходив навчання на даних до грудня 2023 року. Контекст допускав до 128 тисяч токенів. Доступність функцій за регіонами для підказок
ЗПТ 4 Загальна доступність Споживає кредити в Power Apps і Power Automate. Додаткова інформація: Power Platform Посібник з ліцензування GPT 4o має знання до жовтня 2023 року та має довжину контексту 128 тисяч токенів. Доступність функцій за регіонами для підказок

Вибирайте між моделями, виходячи з можливостей і сценаріїв.

Порівняння GPT-4o Mini та GPT-4o

Фактори GPT-4o Міні ЗПТ-4о
Вартість Нижчий, більш економічно вигідний Вища, преміальна ціна
Продуктивність Добре підходить для більшості завдань Покращена якість для складних завдань
Швидкість Швидша обробка Може працювати повільніше через складність
Випадки використання Узагальнення, інформаційні завдання Складні завдання з аналізу даних, міркувань та створення контенту

Опис прийняття рішення

Якщо вам потрібне економічно ефективне рішення для помірно складних завдань, у вас обмежені обчислювальні ресурси або потрібна швидша обробка, вибирайте GPT-4o Mini. Він ідеально підходить для проектів з обмеженим бюджетом і додатків, таких як підтримка клієнтів або ефективний аналіз коду.

Коли ви маєте справу з дуже складними, мультимодальними завданнями, які вимагають чудової продуктивності та детального аналізу, вибирайте GPT-4o. Це кращий вибір для великомасштабних проектів, де точність і розширені можливості мають вирішальне значення. Ще один сценарій, де це кращий вибір, це коли у вас є бюджет і обчислювальні ресурси для його підтримки. GPT-4o також є кращим для довгострокових проєктів, складність яких з часом може зростати.

Використання підказок штучного інтелекту в контексті Microsoft Copilot Studio

Підказки штучного інтелекту не споживають AI Builder кредити, коли вони перебувають у контексті Copilot Studio, але споживають повідомлення, коли вони побудовані на моделі GA GPT.

Дізнайтеся більше про споживання повідомлень у Посібнику Power Platform з ліцензування.

Температура

Повзунок дозволяє вибрати температуру генеративної моделі штучного інтелекту. Він варіюється від 0 до 1 і визначає модель генеративного штучного інтелекту щодо того, скільки креативності (1) проти детермінованої відповіді (0) вона повинна забезпечити.

Температура – це параметр, який контролює випадковість виходу, що генерується моделлю штучного інтелекту. Нижча температура призводить до більш передбачуваних і консервативних результатів. Для порівняння, вища температура дозволяє проявити більше креативності та різноманітності у відповідях. Це спосіб точно налаштувати баланс між випадковістю та детермінізмом у виході моделі.

За замовчуванням температура дорівнює 0, як і в раніше створених підказках.

Температура Функціональність Використання в
0 Більш передбачувані та консервативні виходи.
Відповіді більш послідовні.
Підказки, які вимагають високої точності та меншої варіативності.
1 Більше креативу та різноманітності у відповідях.
Більш різноманітні, а іноді й більш інноваційні відповіді.
Підказки, які створюють новий готовий контент

Хоча регулювання температури може вплинути на продуктивність моделі, воно не гарантує конкретного результату. Реакції штучного інтелекту за своєю суттю є імовірнісними і можуть змінюватися навіть при однакових налаштуваннях температури.