인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
피인용 0
초록·키워드
본 연구에서는 경량 텍스트 언어모델 DeepSeek-R1-Distill-Qwen-1.5B 를 기반으로 수학 문제 해결에 특화된 소형 추론모델 SuperSmall-R1을 제안한다. 제안된 모델은 별도의 지도 미세조정(SFT) 없이, 강화학습만으로 성능을 향상시킨다. 구체적으로, 기존의 GRPO 알고리즘에서 KL 발산 페널티를 제거한 ZeroGRPO를 제안하여 정책의 탐색 자유도를 높이고자 하였다. 또한 기존의 복잡한 penalty 기반 보상체계 대신, 간결한 포맷 일치 및 정답 여부만으로 구성된 단순하면서도 효과적인 보상 함수를 적용하였다. 특히 초기부터 어려운 문제를 풀 경우 발생하는 보상 부족 문제를 해결하기 위해 난이도를 점진적으로 높이는 커리큘럼 학습(curriculum learning)을 도입하였다. Math-500 벤치마크를 활용한 실험 결과, 제안된 방법은 원본 베이스모델뿐 아니라 기존 GRPO, Penalty GRPO 알고리즘을 사용한 방법보다 높은 정확도를 보이며, 제한된 자원 환경에서도 수학 문제 해결 능력이 효과적으로 향상됨을 확인하였다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
UCI(KEPA) : I410-151-26-02-095636163
