Epizód

AI-modellek futtatása a helyi gépen az Ollama használatával (10. rész)

nevű és Yohan Lasorsa

Generatív AI JavaScripttel

Megtudhatja, hogyan integrálhatja zökkenőmentesen a helyi AI-modelleket a fejlesztési munkafolyamatba az Ollama használatával. Megtudhatja, hogyan tölthet le, futtathat és használhat hatékony AI-modelleket a gépen, és hogyan tarthatja fenn a kompatibilitást az OpenAI API-val. Megismerjük a Phi-3 modellcsaládot, és megismerjük, hogyan használható prototípusok készítésére és AI-alkalmazások kipróbálására.

Fejezetek

  • 00:00 – A helyi AI-modellek bemutatása
  • 00:12 – A helyi modellek használatának előnyei
  • 00:52 – A Phi-3 modellcsalád áttekintése
  • 01:30 – Bevezetés az Ollama használatába
  • 02:10 – Az Ollama telepítése és a modellek letöltése
  • 03:10 – Felhasználói felület futtatása Ollama használatával
  • 04:20 – Ollama HTTP API-jának használata
  • 05:50 – OpenAI-kompatibilis API-szolgáltatások
  • 06:40 – Következő lépések Ollama és Phi-3 használatával