適用於 JavaScript 開發人員的 Generative AI

使用 JavaScript 將生成式 AI 功能內建到您的網頁、行動裝置和桌面應用程式中。 本概述重點介紹核心概念、工具及學習資源，幫助您起步。

為什麼要使用 JavaScript 來做 AI？

Python 是訓練 AI 模型的常見選擇，但大多數應用程式開發者是透過網頁 API 使用模型。 由於 JavaScript 能跨瀏覽器和伺服器運行，且能良好處理 HTTP 呼叫，因此它是建構 AI 應用程式的實用選擇。

參加伴侶課程

使用配套課程，透過影片、程式碼專案以及完整的端到端範例學習。

• 課程
• 影片系列

如果你是學生或新手開發者，這門課提供你實用的學習 AI 方法。 如果你已經專業開發應用程式，這有助於你深化 AI 技能。

在本課程中，你：

• 在用生成式 AI 讓歷史人物栩栩如生的同時，學習 AI。
• 透過內建的瀏覽器 API 來應用無障礙功能。
• 利用文字與圖片生成，將 AI 整合進應用程式體驗。
• 學習 AI 應用的架構模式。

使用輔助應用程式與歷史人物交談

關於大型語言模型（LLM）的要注意事項

大型語言模型（LLMs）是神經網路，透過大型資料集訓練來理解並產生文字。 訓練通常從一個廣泛的基礎模型開始，然後針對特定任務進行微調。 LLM 能協助完成程式碼和聊天等情境，但也有限制，包括上下文視窗和訓練資料中可能存在的偏見。 這就是為什麼公平、可靠、隱私與問責等負責任的 AI 實踐至關重要。

在 課程中的LLM 單元深入了解：

• 示範
• 影片

使用提示工程技術

提示工程是撰寫引導模型達成更好結果的提示的做法。 当不需要範例时，使用零範例提示；当範例有帮助时，使用少範例提示。 清晰的指示、相關的上下文和明確的輸出格式，常常能提升回應，並讓你準備好面對像 RAG 這類進階模式。

在課程 的提示工程課程中深入瞭解更多。

• 示範
• 影片

使用RAG改善 AI 精確度和可靠性

利用檢索增強生成（RAG）將模型回應建立在當前且可信的資料中。 RAG 結合了尋找相關內容的檢索器與利用該內容回答問題的產生器。 此方法能提升準確性、使回應更易於驗證，並控制成本。 例如，房地產支援應用程式可以利用公司文件來回答詳細的客戶問題。

在課程 的RAG 會議中深入瞭解：

• 示範
• 影片

使用 LangChain.js 加速 AI 開發

使用 LangChain.js加快 AI 專案的速度。 這個 JavaScript 函式庫幫助你建立提示範本、連結模型與向量儲存庫，並組合複雜的工作流程。 它非常適合快速原型製作，例如回答 YouTube 文字稿問題的 API。 當你準備好正式生產時，你可以將本地模型和向量儲存庫換成 Azure 服務，而不必重寫應用程式。

在課程 的LangChain.js 節中深入瞭解：

• 示範
• 影片

使用 Ollama 在本機電腦上執行 AI 模型

使用 Ollama 在你的機器上執行本地 AI 模型，包括 Phi-3。 本地模型減少對雲端的依賴，支援離線開發，並在測試想法時縮短內部循環。 由於 Ollama 提供了相容 OpenAI 的 API，你可以將其整合到現有的 JavaScript 工作流程中，且只需最小的修改。

在課程 的Ollama 環節中深入瞭解：

• 示範
• 影片

免費開始使用 AI

你可以透過 Foundry Local 免費執行 AI，這讓你可以下載 AI 模型並在本地與它們互動。 還有 AI Toolkit for Visual Studio Code，這是一個支援模型下載、微調等功能的擴充套件。 Ollama 是另一個運行本地模型的受歡迎選擇。

你也可以在沒有本地設定的情況下嘗試模型，方法是建立 GitHub Codespace 並使用 Jupyter 筆記本來測試提示工程、小樣本學習和 RAG。

在課程 中的Phi-3 研討會中深入瞭解：

• 示範
• 影片

Microsoft Foundry 簡介

使用 Microsoft Foundry 開始用 JavaScript 建立生成式 AI 應用程式。 用樞紐和專案來組織資源，瀏覽模型，並部署模型在遊樂場中測試。 無論你使用託管運算或無伺服器 API，工作流程都保持不變：選擇模型、部署，並整合到你的應用程式中。

如需了解更多，請參加課程的 Foundry 單元。

• 示範
• 影片

使用 Azure Cosmos DB 建立生成式 AI 應用程式

在課程 的Azure Cosmos DB 課程中深入瞭解：

• 示範
• 影片

Azure 用於託管與儲存 AI 應用程式的工具與服務

了解哪些 Azure 工具與服務適合常見的 AI 應用架構，包括聊天應用、RAG 應用及自主代理。 本場次也展示如何使用 Azure Developer CLI（AZD）部署應用程式，並比較無伺服器與基於容器的主機方案。

在課程 的Azure 工具和服務環節中了解更多：

• 影片

使用 AI 聊天協議串流生成式 AI 輸出

使用 AI 聊天協議來支援你的 AI 服務與客戶應用程式之間的即時溝通。 你可以根據你的架構，從瀏覽器或 AI 推理伺服器串流回應。 在實施串流時，請規劃 API 金鑰保護、資料安全及協定選擇。 協定用戶端支援如 getCompletion 和 getStreamedCompletion 等方法，如在 LangChain.js 的無伺服器 RAG 範例中所示。

請在課程 的串流課程中深入瞭解更多:

• 示範
• 影片