Verwenden von Cloud AI-Modellen und KI-Features

Die Integration von KI in Ihre Windows-Anwendung kann über zwei primäre Methoden erreicht werden: ein lokales Modell über Windows AI Foundry oder ein cloudbasiertes Modell. Es gibt mehrere Aspekte, die Sie bei der Bestimmung der richtigen Option für Ihre Anforderungen berücksichtigen müssen.

• Ressourcenverfügbarkeit

  • Lokales Gerät: Das Ausführen eines Modells hängt von den ressourcen ab, die auf dem verwendeten Gerät verfügbar sind, einschließlich CPU, GPU, NPU, Arbeitsspeicher und Speicherkapazität. Dies kann begrenzt werden, wenn das Gerät keine hohe Rechenleistung oder ausreichendEn Speicher hat. Kleine Sprachmodelle (SLMs), wie Phi, eignen sich besser für die lokale Verwendung auf einem Gerät. Copilot+ PCs bieten integrierte Modelle an, die von Windows AI Foundry mit einsatzbereiten KI-Features ausgeführt werden.
  • Cloud: Cloud-Plattformen, wie Azure AI Services, bieten skalierbare Ressourcen. Sie können beliebig viel Rechenleistung oder Speicher verwenden und nur für ihre Nutzung bezahlen. Große Sprachmodelle (LLMs), wie die OpenAI-Sprachmodelle, erfordern mehr Ressourcen, sind aber auch leistungsstärker.

• Datenschutz und Sicherheit

  • Lokales Gerät: Da Daten auf dem Gerät verbleiben, kann das lokale Ausführen eines Modells Vorteile hinsichtlich Sicherheit und Datenschutz bieten, wobei die Datensicherheit auf dem Benutzer ruhet.
  • Cloud: Cloudanbieter bieten robuste Sicherheitsmaßnahmen, aber der Transfer von Daten in die Cloud ist erforderlich, was in einigen Fällen Datenschutzbedenken für den Geschäfts- oder App-Dienst-Betreuer hervorrufen kann.

• Barrierefreiheit und Zusammenarbeit

  • Lokales Gerät: Auf das Modell und die Daten kann nur auf dem Gerät zugegriffen werden, es sei denn, sie werden manuell freigegeben. Dies hat das Potenzial, die Zusammenarbeit an Modelldaten schwieriger zu machen.
  • Cloud: Das Modell und die Daten sind von überall bei bestehender Internetverbindung zugänglich. Dies kann für Szenarien für die Zusammenarbeit besser sein.

• Kosten

  • Lokales Gerät: Es gibt keine zusätzlichen Kosten, die über die anfängliche Investition in die Gerätehardware hinausgehen.
  • Cloud: Während Cloudplattformen mit einem Zahlung-nach-Nutzung-Modell arbeiten, können sich die Kosten basierend auf den verwendeten Ressourcen und der Nutzungsdauer häufen.

• Wartung und Updates

  • Lokales Gerät: Der Benutzer ist dafür verantwortlich, das System zu verwalten und Updates zu installieren.
  • Cloud: Wartung, Systemupdates und neue Funktionsupdates werden vom Clouddienstanbieter übernommen, wodurch der Wartungsaufwand für den Benutzer reduziert wird.

Azure AI Foundry für Unternehmen

Azure AI Foundry bietet eine einheitliche Plattform für KI-Vorgänge für Unternehmen, Modell-Generatoren und Anwendungsentwicklung. Diese Grundlage kombiniert die Infrastruktur auf Produktionsniveau mit freundlichen Schnittstellen, um sicherzustellen, dass Organisationen KI-Anwendungen mit Vertrauen erstellen und betreiben können.

Cloud AI-Beispiele

Wenn eine cloudbasierte Lösung für Ihr Windows-App-Szenario besser funktioniert, sind Sie möglicherweise an einigen der folgenden Lernprogramme interessiert.

Viele APIs stehen für den Zugriff auf cloudbasierte Modelle zur Verfügung, um KI-Features in Ihrer Windows-App zu nutzen, unabhängig davon, ob diese Modelle angepasst oder einsatzbereit sind. Durch die Verwendung eines cloudbasierten Modells kann Ihre App optimiert bleiben, indem ressourcenintensive Aufgaben an die Cloud delegiert werden. Einige Ressourcen, die Ihnen dabei helfen, cloudbasierte, von Microsoft oder OpenAI angebotene KI-unterstützte APIs hinzuzufügen, sind:

• Fügen Sie Ihrer WinUI 3/Windows App SDK-Desktop-App OpenAI-Chat-Fertigstellungen hinzu: Ein Lernprogramm zum Integrieren der cloudbasierten OpenAI ChatGPT-Abschlussfunktionen in eine WinUI 3 /Windows App SDK-Desktop-App.

• Fügen Sie Ihrer WinUI 3/Windows App SDK-Desktop-App DALL-E hinzu: Ein Lernprogramm zum Integrieren der cloudbasierten OpenAI-DALL-E Bildgenerierungsfunktionen in eine WinUI 3 /Windows App SDK-Desktop-App.

• Erstellen Sie eine Empfehlungs-App mit .NET MAUI und ChatGPT: Ein Lernprogramm zum Erstellen einer Beispielempfehlungs-App, die die cloudbasierten OpenAI ChatGPT-Abschlussfunktionen in eine .NET MAUI-App integriert.

• Fügen Sie Ihrer .NET MAUI Windows-Desktop-App DALL-E hinzu: Ein Lernprogramm zum Integrieren der cloudbasierten OpenAI-DALL-E Bildgenerierungsfunktionen in eine .NET MAUI-App.

• Azure OpenAI-Dienst: Wenn Ihre Windows-App auf OpenAI-Modelle zugreifen soll, z. B. GPT-4, GPT-4 Turbo mit Vision, GPT-3.5-Turbo, DALLE-3 oder die Embeddings-Modellreihe, mit den zusätzlichen Sicherheits- und Unternehmensfunktionen von Azure, finden Sie Anleitungen in dieser Azure OpenAI-Dokumentation.

• Azure AI Services: Azure bietet eine ganze Suite von KI-Diensten, die über REST-APIs und Clientbibliotheks-SDKs in beliebten Entwicklungssprachen verfügbar sind. Weitere Informationen finden Sie in der Dokumentation zu den einzelnen Diensten. Diese cloudbasierten Dienste helfen Entwicklern und Organisationen, schnell intelligente, modernste, marktfähige und verantwortungsvolle Anwendungen mit sofort einsatzbereiten und vordefinierten und anpassbaren APIs und Modellen zu erstellen. Beispielanwendungen sind die Verarbeitung natürlicher Sprache für Unterhaltungen, Suche, Überwachung, Übersetzung, Sprache, Visions- und Entscheidungsfindung.