Nota
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
En este artículo se muestra cómo configurar la autenticación basada en clave de API para cualquier punto de conexión LLM local o basado en la nube que lo necesite. Si configuró Edge RAG para usar su propio modelo de lenguaje en lugar de un modelo proporcionado por Microsoft, complete los pasos descritos en este artículo.
Importante
La versión preliminar de RAG de Edge habilitada por Azure Arc está actualmente en versión preliminar. Consulte Términos de uso complementarios para las versiones preliminares de Microsoft Azure para conocer los términos legales que se aplican a las características de Azure que se encuentran en la versión beta, en versión preliminar o que todavía no se han publicado para que estén disponibles con carácter general.
Configuración de la clave de API para la autenticación
Después de instalar la extensión RAG de Edge y configurarla para usar su propio modelo de lenguaje, obtenga una clave de API para el modelo.
En el nodo local de Azure, obtenga el secreto "bring your own model" (BYOM) que se creó durante la instalación de la extensión.
[System.Text.Encoding]::UTF8.GetString([System.Convert]::FromBase64String( (.\kubectl.exe get secret byom-api-key -n arc-rag -o jsonpath="{.data.BYOM_API_KEY}") )) Output: byom-secret
Actualice el valor del secreto a la clave de API del punto de conexión llm mediante la eliminación y recreación del secreto.
kubectl delete secret byom-api-key -n arc-rag $apiKey = "<LLM endpoint API key>" kubectl create secret generic byom-api-key --from-literal=BYOM_API_KEY=$apiKey -n arc-rag
Compruebe si el secreto está establecido en la clave de API deseada.
[System.Text.Encoding]::UTF8.GetString([System.Convert]::FromBase64String( ( kubectl get secret byom-api-key -n arc-rag -o jsonpath="{.data.BYOM_API_KEY}" ) )) Output: <Endpoint api key>
Elimine el pod de flujo de inferencia para aplicar el cambio de secreto.
kubectl.exe delete pods -n arc-rag -l app=inferencingflow