지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
초록· 키워드
오류제보하기
The purpose of this study is to assess the performance of semantic role labeling (SRL) predicted by the neural language models (NLMs, or Transformer-based pre-trained models) of Korean. First, the study built two models: the KR-BERT-BiLSTM-CRF model and the KR-BERT-Verb Position Feature (VPF)-BiLSTM-CRF model. The results from testing these two models show that the KR-BERT-VPF-BiLSTM-CRF model (67.3%) outperformed the KR-BERT-BiLSTM-CRF model (66.4%). In addition, this study examined which hidden layer improved the performance of NLMs during training. As expected, the NLM that was trained on the last hidden layer performed better than other alternative options such as the second-to-last-hidden layer and the concatenated last four layers. Thus, this study renders support to the general observation that an NLM should be trained on the last hidden layer to reach the highest performance. This study is meaningful since it is the first attempt to investigate which hidden layer is useful to train NLMs in SRL tasks of Korean.
목차
1. Introduction
2. Previous studies
3. Layer-wise analysis
4. KR-BERT for Semantic Role Labeling
5. Discussion
6. Conclusion
References
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
Event Structure and Three Layers of Merge
한국언어학회 학술대회지
2018 .12
-
L2 영어 교과서를 ‘학습’한 L2-신경망 언어 모델의 문법 일반화 양상
현대문법연구
2022 .03
-
Grammatical Transfer in L2 Neural Language Models
수어학과 언어융합연구
2024 .06
-
高麗時代 知訥의 《修心訣》에 반영된 중국어의 시대적 다층위성
중국문학
2022 .08
-
오경 문서비평의 새로운 방향 찾기: 출애굽기 13장 17절-14장 31절을 중심으로
구약논단
2023 .03
-
봉인된 한일 갈등 뒤의 ‘숨은 질서(hidden order)’
황해문화
2019 .12
-
로컬리티의 인식 층위와 주체 - 타자의 변주
인문과학연구
2017 .01
-
화성 천천리 구석기시대 유적의 검토
유라시아문화
2021 .08
-
Eight Layers of Refuge in New Orleans
Localities
2016 .11
-
How are Korean Neural Language Models ‘surprised’ Layerwisely?
언어과학
2021 .11
-
사전학습 언어모델의 기술 분석 연구
인문언어
2020 .01
-
심층신경망을 이용한 조음 예측 모형 개발
말소리와 음성과학
2016 .09
-
정원길(garden path) 문장 처리에 관한 GPT-2 신경망 언어 모델과 인간의 비교 연구
언어학 연구
2022 .07
-
Syntactic priming in the L2 neural language model
언어과학연구
2022 .12
-
깊은 신경망 특징 기반 화자 검증 시스템의 성능 비교
말소리와 음성과학
2015 .12
-
Soluble fraction from silk mat induced bone morphogenic protein in RAW264.7 cells
International Journal of Industrial Entomology
2020 .01
-
김동인의 창작방법론과 그 실천 : 1920년대를 중심으로
국어국문학
2016 .12
-
『國朝詩刪』에 보이는 神仙詩 批評의 두 層位
漢文學報
2015 .01
-
身体“躲藏”与形象建构——评严歌苓的『金陵十三钗』
순천향 인문과학논총
2019 .01
-
김승옥의 시나리오에 나타난 산업화 양상 : <영자의 전성시대>와 <여자들만 사는 거리>를 중심으로
국어국문학
2016 .09
이 논문의 저자 정보
최근 본 자료
댓글(0)
0