인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
개인구독
소속 기관이 없으신 경우, 개인 정기구독을 하시면 저렴하게
논문을 무제한 열람 이용할 수 있어요.
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
피인용 0
초록·키워드
본 논문은 하드웨어-소프트웨어 통합설계로 구현된 트랜스포머 추론 가속 시스템을 제시한다. 추론 과정의 병목 단계를 파악하기 위해, 트랜스포머 추론 과정을 소프트웨어로 구현하고 세부 연산의 수행 시간을 프로파일링 하였다. 병목 단계로 파악된 행렬 곱셈을 가속하기 위해 전용 처리기를 구현하여 행렬 곱셈 연산을 처리하였다. 본 처리기에 피연산자 공유 기법을 적용하여 데이터 이동 시간을 줄였다. 또한 행렬 곱셈 과정은 Strassen 알고리즘을 기반으로 구현하여 연산 복잡도를 낮췄다. 이를 추론시스템에 도입하여 Multi30k 데이터 셋에 대한 추론 성능을 측정한 결과, 소프트웨어 구현 대비 BLEU 스코어를 유지하며 전체 추론 속도가 12.27배 가속되었다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
UCI(KEPA) : I410-151-25-02-090922187
