인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
개인구독
소속 기관이 없으신 경우, 개인 정기구독을 하시면 저렴하게
논문을 무제한 열람 이용할 수 있어요.
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
초록·키워드
Transformer 계열 신경망이 기존 자연어 처리 분야에서 활용된 RNN(Recurrent Neural Network) 대신에 많이 활용 되고 있다. 최근에는 이러한 신경망들이 기업 내부에서 업무 중에 사용하는 것이 개인정보나 기밀 사항 유출 우려로 사용을 금지하고 있고 이에 따라 기업 내부에서 모델을 개발하고 있다. ChatGPT와 같은 LLM(Large Language Model)의 개발은 데이터의 수, 파라미터의 개수, 학습 시간 등에 따라 개발하기 어려운 실정이다. 본 논문에서는 한국지능정보사회진흥원(NIA)에서 공개한 한국어-영어 번역 구어체 데이터를 활용해 파라미터를 줄여 학습하고자 한다. 전체 데이터셋 40만 개 중 1,000개를 사용해 파라미터 값을 설정한 결과 훈련 손실 값은 2.76의 검증 손실 값은 7.96으로 다른 값에 비해 가장 좋은 결과를 보였으며 시각화를 통해 이를 확인하였다. 이를 활용해 다양한 산업 분야에 활용이 가능할 것으로 사료된다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.