2클래스 로지스틱 회귀
중요
Machine Learning Studio(클래식)에 대한 지원은 2024년 8월 31일에 종료됩니다. 해당 날짜까지 Azure Machine Learning으로 전환하는 것이 좋습니다.
2021년 12월 1일부터 새로운 Machine Learning Studio(클래식) 리소스를 만들 수 없습니다. 2024년 8월 31일까지는 기존 Machine Learning Studio(클래식) 리소스를 계속 사용할 수 있습니다.
- ML Studio(클래식)에서 Azure Machine Learning으로 기계 학습 프로젝트 이동에 대한 정보를 참조하세요.
- Azure Machine Learning에 대한 자세한 정보.
ML Studio(클래식) 설명서는 사용 중지되며 나중에 업데이트되지 않을 수 있습니다.
2클래스 로지스틱 회귀 모델 만들기
범주: Machine Learning/모델 초기화/분류
모듈 개요
이 문서에서는 Machine Learning Studio(클래식)에서 2클래스 로지스틱 회귀 모듈을 사용하여 두 가지 결과를 예측하는 데 사용할 수 있는 로지스틱 회귀 모델을 만드는 방법을 설명합니다.
로지스틱 회귀 분석은 다양한 종류의 문제를 모델링하는 데 사용되는 잘 알려진 통계 기술입니다. 이 알고리즘은 감독된 학습 방법입니다. 따라서 모델을 학습시킨 결과가 이미 포함된 데이터 세트를 제공해야 합니다.
로지스틱 회귀에 대한 자세한 정보
로지스틱 회귀 분석은 결과의 확률을 예측하는 데 사용되는 통계의 잘 알려진 방법이며 특히 분류 작업에 사용됩니다. 알고리즘은 데이터를 로지스틱 함수에 맞추는 방법으로 이벤트 발생 확률을 예측합니다. 이 구현에 대한 자세한 내용은 기술 참고 사항 섹션을 참조하세요.
이 모듈에서 분류 알고리즘은 이분 또는 이진 변수에 최적화됩니다. 여러 결과를 분류해야 하는 경우 다중 클래스 로지스틱 회귀 분석 모듈을 사용합니다.
Two-Class 로지스틱 회귀를 구성하는 방법
이 모델을 학습시키려면 레이블 또는 클래스 열을 포함하는 데이터 세트를 제공해야 합니다. 이 모듈은 2클래스 문제에 적합하기 때문에 레이블 또는 클래스 열에는 정확히 두 개의 값이 포함되어야 합니다.
예를 들어 레이블 열은 “예” 또는 “아니요”의 가능한 값을 사용하는 [투표]일 수 있습니다. 또는 가능한 값이 “높음” 또는 “낮음”인 [크레딧 위험]일 수도 있습니다.
Studio(클래식)에서 실험에 2클래스 로지스틱 회귀 모듈을 추가합니다.
트레이너 모드 만들기 옵션을 설정하여 모델을 학습시키려는 방법을 지정합니다.
단일 매개 변수: 모델을 어떻게 구성하려는지 아는 경우 특정 값 집합을 인수로 제공할 수 있습니다.
매개 변수 범위: 최상의 매개 변수를 잘 모르는 경우 여러 값을 지정하고 모델 하이퍼 매개 변수 조정 모듈을 사용하여 최적의 구성을 찾아 최적의 매개 변수를 찾을 수 있습니다. 트레이너는 설정의 여러 조합을 반복하고 최상의 모델을 생성하는 값의 조합을 결정합니다.
최적화 허용 오차의 경우 모델을 최적화할 때 사용할 임계값을 지정합니다. 반복 간의 개선 사항이 지정된 임계값 아래로 떨어지면 알고리즘이 솔루션에 적용되는 것으로 간주하여 학습을 중지합니다.
L1 정규화 가중치 및 L2 정규화 가중치에 대하여 정규화 매개 변수 L1 및 L2에 사용할 값을 입력합니다. 둘 다에 0이 아닌 값을 사용하는 것이 좋습니다.
정규화는 극단적인 계수 값을 가진 모델에 페널티를 주어 과잉 맞춤을 방지하는 방법입니다. 정규화는 계수 값과 연결된 페널티를 가설의 오류에 추가하여 작동합니다. 따라서 극단적인 계수 값을 가진 정확한 모델이 더 많은 페널티를 받고, 더 보수적인 값이 있는 덜 정확한 모델이 더 적은 페널티를 받습니다.
L1 및 L2 정규화가 미치는 영향과 사용 방법은 여러 가지가 있습니다.
L1은 스파스 모델에 적용할 수 있으며 이는 고차원 데이터로 작업할 때 유용합니다.
한편, L2 정규화는 스파스가 아닌 데이터에 사용하는 것이 좋습니다.
이 알고리즘은 L1 및 L2 정규화 값의 선형 조합을 지원합니다. 즉,
x = L1및y = L2이면ax + by = c이 정규화 용어의 선형 범위를 정의합니다.참고
L1 및 L2 정규화에 더 알아보고 싶나요? 다음 Machine Learning용 L1 및 L2 정규화 문서에서는 L1 및 L2 정규화가 어떻게 다르고, 로지스틱 회귀 분석 및 신경망 모델에 대한 코드 샘플을 사용하여 모델 맞춤에 어떻게 영향을 주는지에 대해 설명합니다.
로지스틱 회귀 분석 모델을 위한 L1 및 L2 용어의 여러 선형 조합이 고안되었습니다(예: 탄력적 망 정규화). 이러한 조합을 참조하여 자신의 모델에 효과적인 선형 조합을 정의하는 것이 좋습니다.
L-BFGS용 메모리 크기의 경우, L-BFGS 최적화에 사용할 메모리 양을 지정합니다.
L-BFGS는 “제한된 메모리 Broyden-Fletcher-Goldfarb-Shanno”를 나타냅니다. 이것은 매개 변수 예측에 널리 사용되는 최적화 알고리즘입니다. 이 매개 변수는 다음 단계 계산을 위해 저장할 이전 위치 및 기울기의 수를 나타냅니다.
이 최적화 매개 변수는 다음 단계 및 방향을 컴퓨팅하는 데 사용되는 메모리의 양을 제한합니다. 메모리를 적게 지정할수록 학습 속도가 빨라지지만 정확도는 낮아집니다.
난수 초기값에 정수 값을 입력합니다. 동일한 실험의 여러 실행에서 결과를 재현할 수 있도록 하려면 시드 값을 정의하는 것이 중요합니다.
알 수 없는 범주 수준 허용 옵션을 선택하여 각 범주 열에 추가 "알 수 없는" 수준을 만듭니다. 이렇게 하면 학습 데이터 세트에서 사용할 수 없는 테스트 데이터 세트의 모든 값(수준)이 이 "알 수 없는" 수준에 매핑됩니다.
실험에 태그가 지정된 데이터 세트를 추가하고 학습 모듈 중 하나를 연결합니다.
트레이너 모드 만들기를 단일 매개 변수로 설정한 경우 모델 학습 모듈을 사용합니다.
트레이너 모드 만들기를 매개 변수 범위로 설정한 경우 모델 하이퍼 매개 변수 튜닝 모듈을 사용합니다.
참고
모델 학습에 매개 변수 범위를 전달하면 매개 변수 범위 목록의 첫 번째 값만 사용됩니다.
단일 매개 변수 값 집합을 모델 하이퍼 매개 변수 조정 모듈에 전달하는 경우 각 매개 변수에 대한 설정 범위가 예상되는 경우 값을 무시하고 학습자의 기본값을 사용합니다.
매개 변수 범위 옵션을 선택하고 매개 변수에 대해 단일 값을 입력하면 다른 매개 변수가 값 범위에서 변경되더라도 지정한 단일 값이 스윕 전체에서 사용됩니다.
실험을 실행합니다.
결과
학습 완료 후 다음이 수행됩니다.
학습에서 학습한 기능 가중치와 함께 모델의 매개 변수 요약을 보려면 모델 학습 또는 모델 하이퍼 매개 변수 조정의 출력을 마우스 오른쪽 단추로 클릭하고 시각화를 선택합니다.
새 데이터에 대한 예측을 만들려면 학습된 모델 및 새 데이터를 모델 점수 매기기 모듈의 입력으로 사용합니다.
레이블이 지정된 데이터 집합에 대해 교차 유효성 검사를 수행하려면 데이터와 학습되지 않은 모델을 모델 교차 유효성 검사에 연결합니다.
예
이 학습 알고리즘을 사용하는 방법에 대한 예제는 Azure AI 갤러리를 참조하세요.
네트워크 침입 감지: 이진 로지스틱 회귀를 사용하여 사례가 침입을 나타내는지 여부를 확인합니다.
이진 분류자의 교차 유효성 검사: 모델 평가를 포함하여 일반적인 실험 워크플로에서 로지스틱 회귀를 사용하는 방법을 보여 줍니다.
기술 정보
이 섹션에는 구현 세부 정보, 팁, 자주 묻는 질문에 대한 답변이 포함되어 있습니다.
사용 팁
로지스틱 회귀에는 숫자 변수가 필요합니다. 따라서 범주 열을 변수로 사용하는 경우 Machine Learning 값을 내부적으로 표시기 배열로 변환합니다.
날짜 및 시간의 경우 숫자 표현이 사용됩니다. (날짜 시간 값에 대한 자세한 내용은 DateTime 구조(.NET Framework) - 비고를 참조하세요.) 날짜 및 시간을 다르게 처리하려면 파생 열을 만드는 것이 좋습니다.
구현 세부 정보
로지스틱 회귀는 데이터의 로지스틱 분포 를 가정합니다. 여기서 예제가 클래스 1에 속할 확률은 수식입니다.
p(x;β0,…, βD-1)
위치:
x는 인스턴스의 모든 기능 값을 포함하는 D 차원 벡터입니다.p는 로지스틱 분포 함수입니다.β{0},..., β {D-1}는 로지스틱 배포의 알 수 없는 매개 변수입니다.
이 알고리즘은 입력에 따라 매개 변수의 로그 확률을 최대화하여 최적 값을 β{0},..., β {D-1} 찾으려고 시도합니다. 최대화는 제한된 메모리 BFGS라는 매개 변수 추정에 널리 사용되는 메서드를 사용하여 수행됩니다.
연구
이 알고리즘의 구현에 대한 자세한 내용은 Andrew 및 Gao 가 L-1 정규화된 Log-Linear 모델의 확장성 있는 학습을 참조하세요.
모듈 매개 변수
| Name | 범위 | Type | 기본값 | 설명 |
|---|---|---|---|---|
| 최적화 허용 오차 | >=double.Epsilon | Float | 0.0000001 | L-BFGS 최적화 프로그램에 대한 허용 오차 값을 지정합니다. |
| L1 정규화 가중치 | >=0.0 | Float | 1.0 | L1 정규화 가중치를 지정합니다. |
| L2 정규화 가중치 | >=0.0 | Float | 1.0 | L2 정규화 가중치 지정 |
| L-BFGS의 메모리 크기 | >=1 | 정수 | 20 | L-BFGS 최적화 프로그램에 사용할 메모리의 양(MB)을 지정합니다. |
| 난수 초기값 | 모두 | 정수 | 모델에서 사용하는 난수 생성기의 초기값으로 사용할 값을 입력합니다. 기본값을 사용하려면 비워 둡니다. | |
| 알 수 없는 범주 수준 허용 | 모두 | 부울 | True | 각 범주 열에 대해 추가 수준을 만들어야 하는지 여부를 나타냅니다. 학습 데이터 집합에서 사용할 수 없는 테스트 데이터 집합의 모든 수준은 이 추가 수준으로 매핑됩니다. |
출력
| Name | 유형 | 설명 |
|---|---|---|
| 학습되지 않은 모델 | ILearner 인터페이스 | 학습되지 않은 분류 모델입니다. |