rxFastLinear: Fast Linear 모델 - 확률적 이중 좌표 상승법

아티클
05/23/2023

선형 이진 분류 및 회귀를 위한 SDCA(확률적 이중 좌표 상승법) 최적화 트레이너입니다.

rxFastLinear는 볼록 목적 함수를 위한 최신 최적화 기술인 SDCA(확률적 이중 좌표 상승법) 방법을 기반으로 하는 트레이너입니다. 알고리즘은 다중 스레딩을 지원하는 반비동기화된 구현으로 인해 메모리가 부족한 큰 데이터 세트에서 사용하도록 스케일링할 수 있습니다. 개별 스레드의 원시 및 이중 업데이트입니다. 여러 가지 손실 함수도 선택할 수 있습니다. SDCA 방법은 로지스틱 회귀 및 SVM 알고리즘의 여러 가지 최상의 속성 및 기능을 결합합니다. SDCA에 대한 자세한 내용은 참조 섹션의 인용을 참조하세요.

SGD(확률적 경사 하강법)와 같은 기존의 최적화 알고리즘은 경험적 손실 함수를 직접 최적화합니다. SDCA는 이중 문제를 최적화하는 다른 방법을 선택합니다. 이중 손실 함수는 예제별 가중치로 매개 변수화됩니다. 각 반복에서 학습 데이터 세트의 학습 예제를 읽으면 이중 손실 함수가 현재 예제에 대해 최적화되도록 해당 예제 가중치가 조정됩니다. SDCA에서는 다양한 경사 하강법에 필요한 단계 크기를 결정하는 데 학습률이 필요하지 않습니다.

rxFastLinear는 현재 로그 손실, 힌지 손실, 매끄러운 힌지 손실이라는 세 가지 유형의 손실 함수에서 이진 분류를 지원합니다. 선형 회귀는 제곱 손실 함수도 지원합니다. 탄력적 net 정규화는 l2Weight 및 l1Weight 매개 변수로 지정할 수 있습니다. l2Weight는 수렴률에 영향을 미칩니다. 일반적으로 l2Weight가 클수록 SDCA가 더 빠르게 수렴합니다.

rxFastLinear는 확률적 및 스트리밍 최적화 알고리즘입니다. 결과는 학습 데이터의 순서에 따라 달라집니다. 재현 가능한 결과를 얻으려면 shuffle은 FALSE로 설정하고 trainThreads는 1로 설정하는 것이 좋습니다.

사용

  rxFastLinear(formula = NULL, data, type = c("binary", "regression"),
    lossFunction = NULL, l2Weight = NULL, l1Weight = NULL,
    trainThreads = NULL, convergenceTolerance = 0.1, maxIterations = NULL,
    shuffle = TRUE, checkFrequency = NULL, normalize = "auto",
    mlTransforms = NULL, mlTransformVars = NULL, rowSelection = NULL,
    transforms = NULL, transformObjects = NULL, transformFunc = NULL,
    transformVars = NULL, transformPackages = NULL, transformEnvir = NULL,
    blocksPerRead = rxGetOption("blocksPerRead"),
    reportProgress = rxGetOption("reportProgress"), verbose = 1,
    computeContext = rxGetOption("computeContext"),
    ensemble = ensembleControl(), ...)

인수

`formula`

rxFormula에서 설명된 수식입니다. 상호 작용 용어와 F()는 현재 MicrosoftML에서 지원되지 않습니다.

`data`

.xdf 파일 또는 데이터 프레임 개체를 지정하는 데이터 원본 개체 또는 문자열입니다.

`type`

문자열로 모델 유형을 지정합니다. 기본 이진 분류의 경우 "binary"이고 선형 회귀의 경우 "regression"입니다.

`lossFunction`

최적화할 경험적 손실 함수를 지정합니다. 이진 분류의 경우 다음 선택 항목을 사용할 수 있습니다.

logLoss: 로그 손실입니다. 이것이 기본값입니다.
hingeLoss: SVM 힌지 손실입니다. 해당 매개 변수는 여백 크기를 나타냅니다.
smoothHingeLoss: 평활화된 힌지 손실입니다. 해당 매개 변수는 다듬기 상수를 나타냅니다.
선형 회귀의 경우 현재 제곱 손실 squaredLoss가 지원됩니다. 이 매개 변수를 NULL으로 설정하면 기본값이 학습 유형에 따라 달라집니다.
이진 분류의 경우 logLoss입니다.
선형 회귀의 경우 squaredLoss입니다.

`l2Weight`

L2 정규화 가중치를 지정합니다. 값은 음수가 아니거나 NULL이어야 합니다. NULL을 지정하면 실제 값이 데이터 세트에 따라 자동으로 계산됩니다. 기본값은 NULL입니다.

`l1Weight`

L1 정규화 가중치를 지정합니다. 값은 음수가 아니거나 NULL이어야 합니다. NULL을 지정하면 실제 값이 데이터 세트에 따라 자동으로 계산됩니다. 기본값은 NULL입니다.

`trainThreads`

알고리즘을 실행하는 데 사용할 수 있는 동시 스레드 수를 지정합니다. 이 매개 변수를 NULL으로 설정하면 사용되는 스레드 수가 프로세스에 사용할 수 있는 논리 프로세서 수와 데이터 희박도에 따라 결정됩니다. 단일 스레드에서 알고리즘을 실행하려면 1로 설정합니다.

`convergenceTolerance`

수렴 기준으로 사용되는 허용 오차 임계값을 지정합니다. 0에서 1 사이여야 합니다. 기본값은 0.1입니다. 이 알고리즘은 이중성 간격과 원시 손실 간의 비율인 상대 이중성 간격이 지정된 수렴 허용 오차보다 낮은 경우 수렴된 것으로 간주됩니다.

`maxIterations`

학습 반복 횟수의 상한을 지정합니다. 이 매개 변수는 양수이거나 NULL이어야 합니다. NULL을 지정하면 실제 값이 데이터 세트에 따라 자동으로 계산됩니다. 반복할 때마다 학습 데이터 전체를 전달해야 합니다. 학습은 총 반복 횟수가 지정된 상한에 도달한 이후의 시간과 손실 함수가 수렴되는 시간 중 이른 시간에 종료됩니다.

`shuffle`

학습 데이터의 순서를 섞을지 여부를 지정합니다. 데이터 순서를 섞으려면 TRUE로 설정하고, 순서를 섞지 않으려면 FALSE로 설정합니다. 기본값은 TRUE입니다. SDCA는 확률적 최적화 알고리즘입니다. 순서 섞기를 설정한 경우 반복할 때마다 학습 데이터 순서가 섞입니다.

`checkFrequency`

손실 함수가 계산되고 수렴되었는지 여부가 검사되는 반복 횟수입니다. 지정된 값은 양의 정수이거나 NULL이어야 합니다. NULL이면 실제 값이 데이터 세트에 따라 자동으로 계산됩니다. 예를 들어 checkFrequency = 5를 지정하면 5회 반복마다 손실 함수가 계산되고 수렴이 검사됩니다. 손실 함수를 계산하려면 학습 데이터 전체를 별도로 전달해야 합니다.

`normalize`

사용되는 자동 정규화 유형을 지정합니다.

"auto": 정규화가 필요한 경우 자동으로 수행됩니다. 이것은 기본값입니다.
"no": 정규화가 수행되지 않습니다.
"yes": 정규화가 수행됩니다.
"warn": 정규화가 필요한 경우 경고 메시지가 표시되지만 정규화는 수행되지 않습니다.
정규화는 서로 다른 데이터 범위를 표준 배율로 다시 스케일링합니다. 기능 스케일링은 데이터 요소 간 거리가 비례하도록 보장하며, 경사 하강법과 같은 다양한 최적화 방법이 훨씬 더 빠르게 수렴되도록 합니다. 정규화가 수행되면 MaxMin 노멀라이저가 사용됩니다. 간격 [a, b]의 값을 정규화합니다. 이때 -1 <= a <= 0, 0 <= b <= 1, b - a = 1입니다. 이 노멀라이저는 0에서 0으로 매핑하여 희박도를 유지합니다.

`mlTransforms`

학습 전에 데이터에서 수행할 MicrosoftML 변환 목록을 지정하거나 수행할 변환이 없는 경우 NULL을 지정합니다. 지원되는 변환에 관해서는 featurizeText, categorical, categoricalHash를 참조하세요. 이러한 변환은 지정된 R 변환 후에 수행됩니다. 기본값은 NULL입니다.

`mlTransformVars`

mlTransforms에 사용할 변수 이름의 문자 벡터를 지정하거나 사용할 변수가 없는 경우 NULL을 지정합니다. 기본값은 NULL입니다.

`rowSelection`

데이터 세트의 논리 변수 이름(따옴표) 또는 데이터 세트의 변수를 사용하는 논리 식으로 모델에서 사용할 데이터 세트의 행(관찰)을 지정합니다. 예를 들어, rowSelection = "old"는 old 변수의 값이 TRUE인 관찰만 사용합니다. rowSelection = (age > 20) & (age < 65) & (log(income) > 10)은 age 변수의 값이 20에서 65 사이이고 income 변수의 log 값이 10보다 큰 관찰만 사용합니다. 행 선택은 데이터 변환을 처리한 후 수행됩니다(인수 transforms 또는 transformFunc 참조). 모든 식과 마찬가지로 expression 함수를 사용하여 함수 호출 외부에서 rowSelection을 정의할 수 있습니다.

`transforms`

변수 변환의 첫 번째 반올림을 나타내는 list(name = expression, ``...) 양식의 식입니다. 모든 식과 마찬가지로 expression 함수를 사용하여 함수 호출 외부에서 transforms(또는 rowSelection)를 정의할 수 있습니다.

`transformObjects`

transforms, transformsFunc, rowSelection에서 참조할 수 있는 개체를 포함하는 명명된 목록입니다.

`transformFunc`

변수 변환 함수입니다. 자세한 내용은 rxTransform을 참조하세요.

`transformVars`

변환 함수에 필요한 입력 데이터 세트 변수의 문자 벡터입니다. 자세한 내용은 rxTransform을 참조하세요.

`transformPackages`

사용 가능하게 하고 변수 변환 함수에서 사용하도록 미리 로드할 추가 R 패키지(rxGetOption("transformPackages")에 지정된 패키지 외부)를 지정하는 문자 벡터입니다. 예를 들어, transforms 및 transformFunc 인수를 통해 RevoScaleR 함수에 명시적으로 정의되거나 formula 또는 rowSelection 인수를 통해 암시적으로 정의됩니다. transformPackages 인수는 NULL일 수도 있으며, 이는 rxGetOption("transformPackages") 외부의 패키지가 미리 로드되지 않음을 나타냅니다.

`transformEnvir`

내부적으로 개발되어 변수 데이터 변환에 사용되는 모든 환경의 부모 역할을 하는 사용자 정의 환경입니다. transformEnvir = NULL인 경우 부모 baseenv()가 있는 새 “해시” 환경이 대신 사용됩니다.

`blocksPerRead`

데이터 원본에서 읽은 데이터의 각 청크에 대해 읽을 블록 수를 지정합니다.

`reportProgress`

행 처리 진행률에 대한 보고 수준을 지정하는 정수 값입니다.

0: 진행률을 보고하지 않습니다.
1: 처리된 행 수가 출력되고 업데이트됩니다.
2: 처리된 행 및 타이밍이 보고됩니다.
3: 처리된 행 및 모든 타이밍이 보고됩니다.

`verbose`

원하는 출력의 양을 지정하는 정수 값입니다. 0이면 계산 중에 자세한 정보가 출력되지 않습니다. 1에서 4 사이의 정수 값은 더 많은 양의 정보를 제공합니다.

`computeContext`

유효한 RxComputeContext로 지정되었으며 계산이 실행되는 컨텍스트를 설정합니다. 현재 로컬 및 RxInSqlServer 컴퓨팅 컨텍스트가 지원됩니다.

`ensemble`

앙상블을 위한 제어 매개 변수입니다.

`...`

Microsoft 컴퓨팅 엔진에 직접 전달할 추가 인수입니다.

값

rxFastLinear: 학습된 모델이 있는 rxFastLinear 개체입니다.

FastLinear: Fast Linear 트레이너에 대한 maml 클래스의 학습자 사양 개체입니다.

메모

이 알고리즘은 다중 스레드이며 전체 데이터 세트를 메모리에 로드하려고 시도하지 않습니다.

작성자

Microsoft Corporation Microsoft Technical Support

참조

Scaling Up Stochastic Dual Coordinate Ascent

Stochastic Dual Coordinate Ascent Methods for Regularized Loss Minimization

추가 정보

logLoss, hingeLoss, smoothHingeLoss, squaredLoss, rxFastTrees, rxFastForest, rxLogisticRegression, rxNeuralNet, rxOneClassSvm, featurizeText, categorical, categoricalHash, rxPredict.mlModel.

예


 # Train a binary classiication model with rxFastLinear
 res1 <- rxFastLinear(isCase ~ age + parity + education + spontaneous + induced,
                   transforms = list(isCase = case == 1),
                   data = infert,
                   type = "binary")
 # Print a summary of the model
 summary(res1)

 # Score to a data frame
 scoreDF <- rxPredict(res1, data = infert, 
     extraVarsToWrite = "isCase")

 # Compute and plot the Radio Operator Curve and AUC
 roc1 <- rxRoc(actualVarName = "isCase", predVarNames = "Probability", data = scoreDF) 
 plot(roc1)
 rxAuc(roc1)

 #########################################################################
 # rxFastLinear Regression

 # Create an xdf file with the attitude data
 myXdf <- tempfile(pattern = "tempAttitude", fileext = ".xdf")
 rxDataStep(attitude, myXdf, rowsPerRead = 50, overwrite = TRUE)
 myXdfDS <- RxXdfData(file = myXdf)

 attitudeForm <- rating ~ complaints + privileges + learning + 
     raises + critical + advance

 # Estimate a regression model with rxFastLinear 
 res2 <- rxFastLinear(formula = attitudeForm,  data = myXdfDS, 
     type = "regression")

 # Score to data frame
 scoreOut2 <- rxPredict(res2, data = myXdfDS, 
     extraVarsToWrite = "rating")

 # Plot the rating versus the score with a regression line
 rxLinePlot(rating~Score, type = c("p","r"), data = scoreOut2)

 # Clean up   
 file.remove(myXdf)