지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2023.5
- 수록면
- 607 - 620 (14page)
- DOI
- 10.5370/KIEE.2023.72.5.607
이용수
초록· 키워드
오류제보하기
Machine learning (ML) has proven to be highly effective in solving complex problems in various domains, thanks to its ability to identify specific data tasks, perform feature engineering, and learn quickly. However, designing and training ML models is a complicated task and requires optimization. The effectiveness of ML models is highly dependent on the selection of hyperparameters that determines their performance. Hyperparameter optimization (HPO) is a systematic search process to find the optimal combinations of hyperparameters to achieve robust performance. Traditional HPO methods such as grid and random search take a lot of computing time when used in large-scale applications. Recently, various automated search strategies, such as Bayesian optimization (BO) and evolutionary algorithms, have been developed to significantly reduce the computing time. In this paper, we use state-of-the-art HPO frameworks, namely BO, Optuna, HyperOpt, and Keras Tuner, for optimizing the ML and deep learning models for the classification tasks and evaluate their comparative performance using two different sets of experiments. The first one uses different ML classifiers to solve the optimal parameter selection problem with HPO. The second one attempts to optimize the convolutional neural network (CNN) architecture using HPO frameworks to improve its performance in the image classification task. We use four publicly available real-world datasets including one image dataset. The experimental results show that HyperOpt - TPE outperforms the other HPO frameworks for the ML classifiers and achieves up to 94.12% of accuracy with 30 minutes for performing the optimization. Similarly, for the CNN model, HyperOpt-TPE outperforms the other HPO frameworks by improving 34% of the classification accuracy, while taking 2 hours and 24 minutes of computing time.
목차
Abstract
1. Introduction
2. Hyperparameter Optimization
3. Hyperparameter Optimization Frameworks
4. Comparative Performance Evaluation of HPO Frameworks
5. Previous Research
6. Conclusion
References
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
기계학습의 하이퍼파라미터 최적화 연구 동향
한국통신학회논문지
2023 .06
-
인적오류 종합실습센터(HPO Center) 구축
대한인간공학회 학술대회논문집
2022 .10
-
Comparison of Hyper-Parameter Optimization Methods for Deep Neural Networks
전기전자학회논문지
2020 .12
-
서포트 벡터 회귀 알고리즘의 예측 성능 개선을 위한 하이퍼파라미터 최적화 연구
한국추진공학회 학술대회논문집
2024 .05
-
Deep neural networks for gas concentration estimation and the effect of hyperparameter optimization on the estimation performance
제어로봇시스템학회 국제학술대회 논문집
2022 .11
-
고온의 K2HPO4/글리세롤 전해질에서 알루미늄 합금의 양극산화를 위한 최적 조건
한국표면공학회 학술발표회 초록집
2018 .06
-
K₂HPO₄/glycerol 전해질에서 양극산화를 통한 다양한 금속 산화물의 나노구조 형성
한국표면공학회 학술발표회 초록집
2019 .05
-
HS 알고리즘을 이용한 CNN의 Hyperparameter 결정 기법
한국지능시스템학회 논문지
2017 .02
-
차체 성능분석 및 최적화를 위한 Deep Neural Network 구축에 관한 연구
한국자동차공학회 추계학술대회 및 전시회
2018 .11
-
Performance Improvements of Deep Residual Convolutional Network with Hyperparameter Optimizations
한국정보과학회 학술발표논문집
2019 .12
-
합성곱 신경망에서 이미지 분류를 위한 하이퍼파라미터 최적화
융합신호처리학회 논문지
2020 .01
-
유전 알고리즘 기반의 심층 학습 신경망 구조와 초모수 최적화
멀티미디어학회논문지
2021 .04
-
자율주행 차량의 모델 예측 제어를 위한 동역학 학습 모델과 최적 파라미터
제어로봇시스템학회 국내학술대회 논문집
2022 .06
-
신경망 하이퍼 파라미터 최적화를 위한 기술 동향
한국통신학회 학술대회논문집
2023 .06
-
인공신경망 학습의 최적화 알고리즘에서 초모수의 영향
대한기계학회 춘추학술대회
2023 .05
-
노후 설비배관 진단을 위한 열화상이미지 기반 CNN 모델 Hyperparameter 최적설계
대한건축학회 학술발표대회 논문집
2022 .10
-
하모니 서치 알고리즘을 이용한 심층 강화학습 하이퍼파라미터 최적화
한국CDE학회 논문집
2023 .06
-
Novel Image Classification Method Based on Few-Shot Learning in Monkey Species
Journal of information and communication convergence engineering
2021 .06
-
HPO를 적용하여 클래스 불균형 문제를 해결하는 이상 거래 탐지 시스템 개발
대한전자공학회 학술대회
2022 .06
-
CNN Output Optimization for More Balanced Classification
INTERNATIONAL JOURNAL of FUZZY LOGIC and INTELLIGENT SYSTEMS
2017 .06
이 논문의 저자 정보
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-0101-2023-560-001445819