了解提示工程

已完成

我們傳送給 AI 模型的輸入提示品質 (例如 Azure OpenAI 中可用的這些),會直接影響我們取回的內容品質。 藉由仔細建構我們傳送至模型的提示,模型便可提供更佳且更有趣的回應。

什麼是提示工程

生成式 AI 模型會針對大量資料定型,並且可根據提示的可能後續內容產生文字、影像、程式碼和創意內容。

提示工程是一項設計及最佳化提示,以更妥善地利用 AI 模型的程序。 設計有效的提示對於提示工程的成功至關重要,而且可以大幅改善 AI 模型對特定工作的效能。 藉由提供相關、特定、明確且妥善結構化的提示,可以協助模型進一步了解內容,並產生更精確的回應。

例如,如果我們想要 OpenAI 模型產生產品描述,我們可以提供詳細說明,以描述產品的功能和優點。 藉由提供此內容,模型可以產生更精確且相關的產品描述。

提示工程也可以協助減輕偏差,並改善 AI 模型中的公平性。 藉由設計多元且包容性的提示,我們可以確保模型不會偏向特定群組或觀點。

重要

不論您能設計出多麼優秀的提示,AI 模型的回應都不應該被視為事實,或完全不受偏差影響。 請一律負責任地使用 AI。 如需詳細資訊,請參閱 Microsoft 有關 Azure OpenAI 和 Microsoft AI 原則透明度資訊

此外,提示工程可協助我們了解模型用來產生回應的參考。 生成式 AI 模型有大量參數,且其所遵循的邏輯對使用者來說大抵是未知的,因此其提供回應的原理可能會令人困惑。 藉由設計容易理解和解譯的提示,我們可以協助人類進一步了解模型如何產生其回應。 這在醫療保健等領域中特別重要,在這些領域中,了解模型如何做出決策至關重要。

在設計您自己的提示時,有多種不同方法可供運用,而且許多都涵蓋在本課程模組的後續單元中。 其中包括提供指示、內容相關內容、提示或少量範例,以及在提示中正確排序內容。 因為此範疇是一個細緻且變化多端的主題,所以此處涵蓋的方法並不詳盡。

API 端點的考量

本課程模組其餘部分的範例將著重於 ChatCompletion。 值得注意的是,ChatCompletion 也可用於非聊天案例,該案例中的系統訊息包含任何指示,並在使用者角色訊息中提供使用者內容。 如有需要,這些範例大部分都可以變更為使用 Completion 端點。

就模型可用性而言,Completion 端點可以搭配 gpt-3 和更早版本使用,而且 ChatCompletion 可以搭配 gpt-35-turbo 和更新版本模型使用。

調整模型參數

除了本課程模組中所討論的技術之外,調整模型的參數可能會對回應產生重大影響。 具體來說,因為 temperaturetop_p (top_probability) 同時控制模型中的隨機性 (不過是以不同的方式),所以最有可能影響模型的回應。

較高的值會產生更具創意性和隨機性回應,但可能較不一致或較不專注。 對於預期為虛構或唯一的回應,增加這些參數的值會有所助益,而想要更一致且具體的內容,則應該使用較低的值。

嘗試使用相同的提示調整這些參數,以查看其如何影響回應。 建議您一次變更 temperaturetop_p 其中一項,但切勿同時變更兩者。