미니 배치1 배치 사이즈란? 배치 사이즈의 역할 1. 계산 효율성 향상: 모든 데이터를 한 번에 처리하는 것이 아니라 일부 데이터만을 사용하여 가중치를 업데이트하기 때문에 계산량이 줄어들어 학습 속도가 향상됩니다. 2. 메모리 효율성: 전체 데이터셋을 메모리에 올리지 않고 일부 데이터만을 처리하므로 메모리 사용량을 줄일 수 있습니다. 특히 대용량 데이터셋을 다룰 때 유용합니다. 3. 일반화 성능 향상: 배치 사이즈가 작을수록 더 일반화된 모델이 생성될 가능성이 높아집니다. 또한 미니 배치 학습은 모델이 일부 데이터에 과도하게 의존하는 것을 방지하고 일반화 능력을 향상할 수 있습니다. 배치 사이즈 선택 배치 사이즈는 하이퍼파라미터로서 모델의 성능에 영향을 미치므로 적절한 값을 선택하는 것이 중요합니다. 일반적으로 다음과 같은 접근 방.. 2024. 1. 19. 이전 1 다음
