빠른 시작: .NET을 사용하여 Batch 풀 만들기 및 작업 실행

아티클
02/23/2024

이 빠른 시작에서는 Azure Batch .NET API를 사용하는 C# 앱을 실행하여 Azure Batch를 시작하는 방법을 보여 줍니다. .NET 앱:

Batch 작업 처리에 사용할 여러 입력 데이터 파일을 Azure Storage Blob 컨테이너에 업로드합니다.
Windows Server를 실행하는 두 개의 VM(가상 머신) 또는 컴퓨팅 노드로 구성된 풀을 만듭니다.
Windows 명령줄을 사용하여 각 입력 파일을 처리하기 위해 노드에서 작업을 실행하는 작업을 만듭니다.
작업이 반환하는 출력 파일을 표시합니다.

이 빠른 시작을 완료하면 Batch 서비스의 주요 개념을 이해하고 보다 현실적이고 대규모의 워크로드에서 Batch를 사용할 준비가 됩니다.

필수 조건

활성 구독이 있는 Azure 계정. 계정이 없으면 무료 계정을 만듭니다.
연결된 Azure Storage 계정이 있는 배치 계정. 다음 방법 중 하나를 사용하여 계정을 만들 수 있습니다. Azure CLI | Azure Portal | Bicep | ARM 템플릿 | Terraform.
Linux 또는 Windows용 Visual Studio 2019 이상 또는 .NET 6.0 이상.

앱 실행

이 빠른 시작을 완료하려면 앱을 다운로드하거나 복제하고, 계정 값을 제공하고, 앱을 빌드 및 실행하고, 출력을 확인합니다.

앱 다운로드 또는 복제

GitHub에서 Azure Batch .NET 빠른 시작 앱을 다운로드하거나 복제합니다. 다음 명령을 사용하여 Git 클라이언트로 앱 리포지토리를 복제합니다.

git clone https://github.com/Azure-Samples/batch-dotnet-quickstart.git

계정 정보를 제공합니다

앱은 Batch 및 스토리지 계정 이름, 계정 키 값 및 배치 계정 엔드포인트를 사용해야 합니다. Azure Portal, Azure API 또는 명령줄 도구에서 이 정보를 가져올 수 있습니다.

Azure Portal에서 계정 정보를 가져오려면:

Azure Search 창에서 배치 계정 이름을 검색하고 선택합니다.
배치 계정 페이지의 왼쪽 탐색 메뉴에서 키를 선택합니다.
키 페이지에서 다음 값을 복사합니다.

Batch 계정
계정 엔드포인트
기본 액세스 키
스토리지 계정 이름
Key1

다운로드한 batch-dotnet-quickstart 폴더로 이동하고 Program.cs에서 자격 증명 문자열을 편집하여 복사한 값을 제공합니다.

// Batch account credentials
private const string BatchAccountName = "<batch account>";
private const string BatchAccountKey  = "<primary access key>";
private const string BatchAccountUrl  = "<account endpoint>";

// Storage account credentials
private const string StorageAccountName = "<storage account name>";
private const string StorageAccountKey  = "<key1>

Important

프로덕션 용도로 앱 원본에 계정 키를 노출하지 않는 것이 좋습니다. 자격 증명에 대한 액세스를 제한하고 변수나 구성 파일을 사용하여 코드에서 이를 참조해야 합니다. Azure Key Vault에 Batch 및 스토리지 계정 키를 저장하는 것이 가장 좋습니다.

앱 빌드 및 실행 및 출력 보기

Batch 워크플로가 작동하는 모습을 보려면 Visual Studio에서 애플리케이션을 빌드하고 실행합니다. 명령줄 dotnet build 및 dotnet run 명령을 사용할 수도 있습니다.

Visual Studio에서:

BatchDotNetQuickstart.sln 파일을 열고 솔루션 탐색기에서 솔루션을 마우스 오른쪽 단추로 클릭한 다음 빌드를 선택합니다. 메시지가 표시되면 NuGet 패키지 관리자를 사용하여 NuGet 패키지를 업데이트하거나 복원합니다.
빌드가 완료되면 상단 메뉴 모음에서 BatchDotNetQuickstart를 선택하여 앱을 실행합니다.

기본 구성을 사용한 일반적인 런타임은 약 5분입니다. 초기 풀 노드 설정에는 가장 많은 시간이 걸립니다. 작업을 다시 실행하려면 이전 실행에서 작업을 삭제하되 풀은 삭제하지 마세요. 미리 구성된 풀에서 작업은 몇 초 내에 완료됩니다.

앱은 다음 예와 유사한 출력을 반환합니다.

Sample start: 11/16/2022 4:02:54 PM

Container [input] created.
Uploading file taskdata0.txt to container [input]...
Uploading file taskdata1.txt to container [input]...
Uploading file taskdata2.txt to container [input]...
Creating pool [DotNetQuickstartPool]...
Creating job [DotNetQuickstartJob]...
Adding 3 tasks to job [DotNetQuickstartJob]...
Monitoring all tasks for 'Completed' state, timeout in 00:30:00...

풀의 컴퓨팅 노드가 시작되는 동안 Monitoring all tasks for 'Completed' state, timeout in 00:30:00...에서 일시 중지됩니다. 작업이 만들어지면 Batch는 해당 작업을 풀에서 실행하도록 큐에 넣습니다. 첫 번째 컴퓨팅 노드를 사용할 수 있게 되자마자 첫 번째 작업이 해당 노드에서 실행됩니다. Azure Portal의 배치 계정 페이지에서 노드, 작업 및 작업 상태를 모니터링할 수 있습니다.

각 작업이 완료되면 다음 예와 유사한 출력이 표시됩니다.

Printing task output.
Task: Task0
Node: tvm-2850684224_3-20171205t000401z
Standard out:
Batch processing began with mainframe computers and punch cards. Today it still plays a central role...
stderr:
...

코드 검토

코드를 검토하여 Azure Batch .NET 빠른 시작의 단계를 이해합니다.

서비스 클라이언트 만들기 및 리소스 파일 업로드

스토리지 계정과 상호 작용하기 위해 앱은 .NET용 Azure Storage Blob 클라이언트 라이브러리를 사용하여 BlobServiceClient를 만듭니다.

var sharedKeyCredential = new StorageSharedKeyCredential(storageAccountName, storageAccountKey);
string blobUri = "https://" + storageAccountName + ".blob.core.windows.net";

var blobServiceClient = new BlobServiceClient(new Uri(blobUri), sharedKeyCredential);
return blobServiceClient;

앱은 blobServiceClient 참조를 사용하여 스토리지 계정에 컨테이너를 만들고, 데이터 파일을 이 컨테이너에 업로드합니다. 스토리지의 파일은 Batch가 나중에 컴퓨팅 노드에 다운로드할 수 있는 Batch ResourceFile 개체로 정의됩니다.
```
List<string> inputFilePaths = new()
{
    "taskdata0.txt",
    "taskdata1.txt",
    "taskdata2.txt"
};

var inputFiles = new List<ResourceFile>();

foreach (var filePath in inputFilePaths)
{
    inputFiles.Add(UploadFileToContainer(containerClient, inputContainerName, filePath));
}
```
앱은 Batch 풀, 작업 및 태스크를 만들고 관리하기 위해 BatchClient 개체를 만듭니다. Batch 클라이언트는 공유 키 인증을 사용합니다. Batch는 Microsoft Entra 인증도 지원합니다.
```
var cred = new BatchSharedKeyCredentials(BatchAccountUrl, BatchAccountName, BatchAccountKey);

 using BatchClient batchClient = BatchClient.Open(cred);
...
```

컴퓨팅 노드 풀 만들기

Batch 풀을 만들려면 앱에서 BatchClient.PoolOperations.CreatePool 메서드를 사용하여 노드 수, VM 크기 및 풀 구성을 설정합니다. 다음 VirtualMachineConfiguration 개체는 Windows Server Marketplace 이미지에 대한 ImageReference를 지정합니다. Batch는 광범위한 Windows Server 및 Linux Marketplace OS 이미지를 지원하며 사용자 지정 VM 이미지도 지원합니다.

PoolNodeCount 및 VM 크기 PoolVMSize는 상수로 정의됩니다. 앱은 두 개의 Standard_A1_v2 노드로 구성된 풀을 만듭니다. 이 크기는 이 빠른 시작에 대한 성능과 비용의 적절한 균형을 제공합니다.

Commit 메서드는 풀을 Batch 서비스에 제출합니다.


private static VirtualMachineConfiguration CreateVirtualMachineConfiguration(ImageReference imageReference)
{
    return new VirtualMachineConfiguration(
        imageReference: imageReference,
        nodeAgentSkuId: "batch.node.windows amd64");
}

private static ImageReference CreateImageReference()
{
    return new ImageReference(
        publisher: "MicrosoftWindowsServer",
        offer: "WindowsServer",
        sku: "2016-datacenter-smalldisk",
        version: "latest");
}

private static void CreateBatchPool(BatchClient batchClient, VirtualMachineConfiguration vmConfiguration)
{
    try
    {
        CloudPool pool = batchClient.PoolOperations.CreatePool(
            poolId: PoolId,
            targetDedicatedComputeNodes: PoolNodeCount,
            virtualMachineSize: PoolVMSize,
            virtualMachineConfiguration: vmConfiguration);

        pool.Commit();
    }
...

Batch 작업 만들기

Batch 작업은 하나 이상의 태스크에 대한 논리적 그룹입니다. 작업에는 우선 순위 및 태스크를 실행할 풀과 같은 태스크에 공통적으로 적용되는 설정이 포함됩니다.

앱은 BatchClient.JobOperations.CreateJob 메서드를 사용하여 풀에 작업을 만듭니다. Commit 메서드는 작업을 Batch 서비스에 제출합니다. 처음에는 작업에 태스크가 없습니다.

try
{
    CloudJob job = batchClient.JobOperations.CreateJob();
    job.Id = JobId;
    job.PoolInformation = new PoolInformation { PoolId = PoolId };

    job.Commit();
}
...

작업 만들기

Batch는 컴퓨팅 노드에 앱과 스크립트를 배포하는 여러 가지 방법을 제공합니다. 이 앱은 CloudTask 입력 ResourceFile 개체 목록을 만듭니다. 각 작업은 CommandLine 속성을 사용하여 입력 파일을 처리합니다. Batch 명령줄은 앱이나 스크립트를 지정하는 곳입니다.

다음 코드의 명령줄은 Windows type 명령을 실행하여 입력 파일을 표시합니다. 그런 다음 앱은 컴퓨팅 노드에서 실행할 작업을 큐에 추가하는 AddTask 메서드를 사용하여 작업에 각 태스크를 추가합니다.

for (int i = 0; i < inputFiles.Count; i++)
{
    string taskId = String.Format("Task{0}", i);
    string inputFilename = inputFiles[i].FilePath;
    string taskCommandLine = String.Format("cmd /c type {0}", inputFilename);

    var task = new CloudTask(taskId, taskCommandLine)
    {
        ResourceFiles = new List<ResourceFile> { inputFiles[i] }
    };
    tasks.Add(task);
}

batchClient.JobOperations.AddTask(JobId, tasks);

태스크 출력 보기

앱은 작업을 모니터링하고 완료되었는지 확인하기 위해 TaskStateMonitor를 만듭니다. 각 태스크가 성공적으로 실행되면 해당 출력이 stdout.txt에 기록됩니다. 그런 다음 앱은 CloudTask.ComputeNodeInformation 속성을 사용하여 완료된 각 태스크에 대한 stdout.txt 파일을 표시합니다.

foreach (CloudTask task in completedtasks)
{
    string nodeId = String.Format(task.ComputeNodeInformation.ComputeNodeId);
    Console.WriteLine("Task: {0}", task.Id);
    Console.WriteLine("Node: {0}", nodeId);
    Console.WriteLine("Standard out:");
    Console.WriteLine(task.GetNodeFile(Constants.StandardOutFileName).ReadAsString());
}

리소스 정리

앱은 만든 스토리지 컨테이너를 자동으로 삭제하고 Batch 풀과 작업을 삭제할 수 있는 옵션을 제공합니다. 풀과 노드는 작업을 실행하지 않더라도 노드가 실행되는 동안 요금이 발생합니다. 풀이 더 이상 필요하지 않으면 삭제합니다.

배치 계정 및 스토리지 계정이 더 이상 필요하지 않으면 이를 포함하는 리소스 그룹을 삭제할 수 있습니다. Azure Portal의 리소스 그룹 페이지 상단에서 리소스 그룹 삭제를 선택합니다. 리소스 그룹 삭제 화면에서 리소스 그룹 이름을 입력한 후 삭제를 선택합니다.

다음 단계

이 빠른 시작에서는 Batch .NET API를 사용하여 Batch 풀, 노드, 작업 및 태스크를 만드는 앱을 실행했습니다. 작업은 리소스 파일을 스토리지 컨테이너에 업로드하고, 노드에서 태스크를 실행하고, 노드의 출력을 표시했습니다.

이제 Batch 서비스의 주요 개념을 이해했으므로 보다 현실적이고 대규모 워크로드에서 Batch를 사용할 준비가 되었습니다. Azure Batch에 대해 자세히 알아보고 실제 애플리케이션으로 병렬 작업을 단계별로 진행하려면 Batch .NET 자습서로 계속 진행하세요.

.NET을 사용하여 병렬 작업 처리