인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 저자정보
초록·키워드
인코더 기반 모델은 데이터를 잘 표현하여 코드 분류 태스크에 활용된다. 최근에 제안된 방법론인 EarlyBIRD는 인코더 기반 모델의 초기 계층의 결과물을 사용하여 효과적으로 태스크를 수행할 수 있음을 보였다. 하지만 해당 연구에서는 CodeBERT 모델만 사용하였으며, 특정 태스크에서만 효과를 보였다. 본 논문에서는 인코더-디코더 기반 CodeT5 모델을 이용하여 여러 태스크에서 EarlyBIRD를 적용하고 그 효과를 논의한다. 실험 결과, 태스크에서 다루는 프로그래밍 언어를 언어 모델이 사전 학습하지 않았을 때 13.79%p 성능이 향상되었지만, 비슷한 언어를 사전 학습한 경우 0.41%p밖에 성능이 향상되지 않았다. 또한 EarlyBIRD 방법론을 적용하지 않은 인코더-디코더 기반 모델의 성능이 EarlyBIRD를 적용한 인코더 기반 모델의 최고 성능과 비슷하였으며 어떤 초기 계층을 사용해야 할지 사전에 선택하기 어렵기 때문에 EarlyBIRD가 효과적이지 못함을 확인하였다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
UCI(KEPA) : I410-151-25-02-093881307