두 가지 딥 러닝 모델 결합

딥 러닝은 산업 응용 프로그램을 포함하여 다양한 영역에서 새로운 응용 프로그램을 사용하는 데이터 분석가의 무기고에서 귀중한 도구입니다. 딥 러닝의 기본 작동 원리는 대용량 데이터를 사용하여 정확한 예측을 할 수 있는 모델을 구축하는 것입니다.

산업 자동화 엔지니어가 두 가지 딥 러닝 모델을 결합해야 하는 경우에 대한 작은 예를 살펴보겠습니다. 스마트폰 회사는 여러 모델의 스마트폰을 제조하는 생산 라인을 사용합니다. 딥 러닝 알고리즘을 사용하는 컴퓨터화된 비전은 생산 라인의 품질 관리를 수행합니다.

현재 생산 라인에서는 Phone A와 Phone B라는 두 대의 스마트폰을 제작하고 있습니다. Model A와 B는 각각 Phone A와 B에 대한 품질 관리를 수행합니다. 회사는 새로운 스마트폰인 Phone C를 출시합니다. 생산 시설에서는 Model C라는 세 번째 휴대폰의 품질 관리를 수행하기 위해 새 모델이 필요할 수 있습니다. 새 모델을 구축하려면 엄청난 양의 데이터와 시간이 필요합니다.

<센터>

그림 1. 제공 동영상 사용 맷 찬

또 다른 대안은 모델 A와 B의 학습을 결합하여 모델 C를 구축하는 것입니다. 결합된 모델은 가중치를 약간 조정하여 품질 관리를 수행할 수 있습니다.

모델을 결합해야 하는 또 다른 시나리오는 새 모델이 두 가지 작업을 동시에 수행해야 하는 경우입니다. 두 가지 딥 러닝 모델이 이러한 작업을 수행할 수 있습니다. 데이터 세트를 분류하고 카테고리별로 예측해야 하는 모델은 대용량 데이터 세트를 분류할 수 있는 모델과 예측할 수 있는 모델의 두 가지 모델을 결합하여 만들 수 있습니다.

앙상블 학습

여러 딥 러닝 모델을 결합하는 것이 앙상블 학습입니다. 이는 딥 러닝 모델의 더 나은 예측, 분류 또는 기타 기능을 만들기 위해 수행됩니다. 앙상블 학습은 또한 다양한 딥 러닝 모델의 기능을 결합하여 새로운 모델을 생성할 수 있습니다.

새 모델을 만드는 것은 새 모델을 처음부터 완전히 훈련시키는 것과 비교하여 많은 이점이 있습니다.

<울>

대부분의 학습이 결합된 모델에서 파생되기 때문에 결합된 모델을 학습시키는 데 필요한 데이터가 거의 없습니다.

새로운 모델을 구축하는 것보다 결합된 모델을 구축하는 데 시간이 덜 걸립니다.

모델을 결합할 때 더 적은 컴퓨팅 리소스가 필요합니다.

새로운 결합 모델은 새로운 모델을 얻기 위해 결합된 모델보다 정확도와 기능이 더 높습니다.

앙상블 학습의 다양한 장점으로 인해 종종 새로운 모델을 생성하기 위해 수행됩니다. 각 딥 러닝 알고리즘, 패키지 및 학습된 모델은 서로 다른 모델을 결합해야 하며 대부분의 고급 딥 러닝 알고리즘은 Python으로 작성됩니다.

그림 2. Python의 딥 러닝 신경망을 위한 스택 앙상블. 제공 이미지 사용 기계 학습 마스터

Python과 사용된 각각의 딥 러닝 도구를 아는 것은 서로 다른 모델을 결합하기 위한 전제 조건입니다. 이 모든 것이 준비되면 다양한 딥 러닝 알고리즘을 결합하기 위해 다양한 기술이 구현됩니다. 다음 섹션에서 설명합니다.

(가중) 평균 방법

이 방법에서는 두 모델의 평균을 새 모델로 사용합니다. 두 개의 딥러닝 모델을 결합하는 가장 간단한 방법입니다. 두 모델의 단순 평균을 취하여 만든 모델은 두 모델을 결합한 것보다 정확도가 더 높습니다.

결합된 모델의 정확도와 결과를 더욱 개선하기 위해 가중 평균이 실행 가능한 옵션입니다. 다른 모델에 부여된 가중치는 모델의 성능 또는 각 모델이 수행한 교육의 양을 기반으로 할 수 있습니다. 이 방법에서는 두 개의 서로 다른 모델이 결합되어 새로운 모델을 형성합니다.

포장 방법

동일한 딥 러닝 모델이 여러 번 반복될 수 있습니다. 서로 다른 반복은 서로 다른 데이터 세트로 훈련되고 서로 다른 개선 수준을 갖습니다. 동일한 딥러닝 모델의 다른 버전을 결합하는 것이 배깅 방식입니다.

방법론은 평균화 방법과 동일하게 유지됩니다. 동일한 딥 러닝 모델의 다른 버전이 단순 평균 또는 가중 평균 방식으로 결합됩니다. 이 방법은 단일 모델로 구축된 확증 편향이 없는 새 모델을 생성하여 모델을 보다 정확하고 고성능으로 만드는 데 도움이 됩니다.

부스팅 방법

부스팅 방법은 모델에 대한 피드백 루프를 사용하는 것과 유사합니다. 모델의 성능은 후속 모델을 조정하는 데 사용됩니다. 이것은 모델의 성공에 기여하는 모든 요소를 ​​축적하는 긍정적인 피드백 루프를 생성합니다.

그림 3. 앙상블 학습을 위한 부싱 방법. 제공 이미지 사용 애쉬 파텔

부스팅 방법은 모델이 경험하는 편향과 분산을 줄입니다. 이러한 부정적인 측면은 후속 반복에서 필터링되기 때문에 가능합니다. 부스팅은 가중치 기반 부스팅과 잔여 기반 부스팅의 두 가지 방식으로 수행할 수 있습니다.

연결 방법

이 방법은 다른 데이터 소스가 동일한 모델로 병합될 때 사용됩니다. 이 조합 기술은 서로 다른 입력을 받아 동일한 모델에 연결합니다. 결과 데이터 세트에는 원래 데이터 세트보다 더 많은 차원이 있습니다.

여러 번 순차적으로 수행하면 데이터 차원이 매우 크게 증가하여 중요한 정보가 과적합되고 손실되어 결합된 모델의 성능이 저하될 수 있습니다.

스태킹 방법

앙상블 딥 러닝 모델의 스태킹 방법은 이전 모델을 향상시키기 위해 이전 반복의 성능을 사용하여 딥 러닝 모델을 개발하는 다양한 방법을 통합합니다. 이 누적 모델에 가중 평균을 취하는 요소를 추가하면 하위 모델에 대한 긍정적인 기여가 향상됩니다.

마찬가지로 배깅 기법과 연결 기법을 모델에 추가할 수 있습니다. 서로 다른 기술을 결합하여 모델을 결합하는 방법은 결합된 모델의 성능을 향상시킬 수 있습니다.

딥 러닝 모델을 결합하는 데 사용할 수 있는 방법론, 기술 및 알고리즘은 무수히 많으며 항상 발전하고 있습니다. 더 나은 결과를 제공하는 동일한 작업을 수행하는 새로운 기술이 있을 것입니다. 모델 결합에 대해 알아야 할 주요 아이디어가 아래에 나와 있습니다.

<울>

딥 러닝 모델을 결합하는 것을 앙상블 학습이라고도 합니다.

딥 러닝 모델의 성능을 향상시키기 위해 다양한 모델을 결합합니다.

조합을 통해 새 모델을 구축하면 시간, 데이터 및 계산 리소스가 덜 필요합니다.

모델을 결합하는 가장 일반적인 방법은 여러 모델의 평균을 내는 것인데, 가중 평균을 취하면 정확도가 향상됩니다.

배깅, 부스팅 및 연결은 딥 러닝 모델을 결합하는 데 사용되는 다른 방법입니다.

누적 앙상블 학습은 다양한 결합 기술을 사용하여 모델을 구축합니다.