인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
초록·키워드
챗 GPT의 등장으로 거대 언어 모델의 사용은 우리의 일상이 되었다. 거대 언어 모델은 메모리 요구량 및 연산 규모가 기존 딥러닝 모델들보다 훨씬 커서 함께 실행되는 워크로드들에 따라서 그 실행 성능이 많이 달라진다. 기존 언어 모델에서는 여러 개의 실행 스레드들 중 작업을 마친 스레드가 바쁜 대기 상태로 CPU를 계속해서 점유하는 방식이다. 따라서 다중 워크로드 환경에서는 작업 스레드 간 CPU를 사용하기 위한 경쟁 상태가 빈번하다. 이를 극복하기 위해 연산을 먼저 완료한 스레드가 데이터 의존성이 있는 작업의 완료를 기다리는 동안, CPU를 즉시 반환할 수 있게 실행 방법을 개선하였다. 시스템의 CPU 개수보다 많은 워크로드들이 실행되고 있는 환경에서 기존 대비 최대 9배의 성능 향상을 달성할 수 있었다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
