메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
김정호 (서울대학교) 박대동 (서울대학교) 김상욱 (서울대학교) 문용식 (서울대학교) 홍성수 (서울대학교)
저널정보
Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.44 No.5
발행연도
2017.5
수록면
460 - 468 (9page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
실시간 클라우드의 실현에 있어서 데이터 분석 프레임워크는 중추 역할을 수행한다. 현존하는 프레임워크들 중에 가장 많은 요구사항들을 충족하는 것은 Spark Streaming이다. 하지만 이 프레임워크는 초 단위 실시간 고장 복구를 충족하지 못하고 있다. Spark Streaming의 고장 복구 기법은 정상 동작시에 기록된 누적 변형 히스토리를 토대로 고장 직전 마지막 상태 데이터를 재연산하여 복구하기 때문에 히스토리의 길이에 비례하여 복구 시간이 증가된다. 따라서 제한된 시간 이내에 고장 복구가 완료됨을 보장되지 않는다. 또한 초기 상태 데이터를 고장 감내 스토리지에서 읽는 시간이 수십 초에 달하여 초 단위고장 복구 시간을 달성할 수 없다. 본 논문에서는 언급된 문제들을 해결하기 위한 두 가지 기법들을 제안한다. 이를 Spark Streaming 1.6.2에 적용하고, 실험을 통해 고장 복구 시간이 제한 시간 이내에 완료되며 평균 약 41.57% 단축됨을 확인했다.
#스파크 스트리밍 #고장 복구 #실시간 #데이터 분석 프레임워크 #Spark Streaming #fault recovery #real-time #data analytics framework

목차

요약
Abstract
1. 서론
2. Spark Streaming 기반 시스템의 고장 복구 메커니즘
3. 대상 시스템과 문제 정의 그리고 해결책 개관
4. 리니지 기반 고장 복구 시간 추정 및 체크 포인팅
5. 분산 병렬 파일 접근 기반 고장 복구 기법
6. 구현 및 실험을 통한 검증
7. 결론
References

참고문헌 (15)

참고문헌 신청
Burgstahler Daniel, et al., RemoteHorizon.KOM: Dynamic Cloud-Based eHorizon, Automotive meets Electronics (AmE 2016), 2016. Dean Jeffrey and Sanjay Ghemawat, MapReduce: Simplified Data Processing on Large Clusters, Communications of the ACM, 2008. Zaharia Matei, et al., Discretized Streams: Fault- Tolerant Streaming Computation at Scale, Proceedings of ACM Symposium on Operating Systems Principles (SOSP), 2013. Toshniwal Ankit, et al., Storm @twitter, Proceedings of ACM International Conference on Management of Data (SIGMOD), 2014. MN Cheraghlou, et al., A Survey of Fault Tolerance Architecture in Cloud Computing, Journal of Network and Computer Applications, 2015.

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

강화학습을 이용한 1축 드론 수평 제어
이태우 ,  유진후 ,  박희민 멀티미디어학회논문지 2018 .02
모바일 게임 광고에 있어서 효과적인 마케팅 활용 방향성 제안
박선하 멀티미디어학회논문지 2018 .02
리눅스 기반 시스템에서 서비스의 지연 원인을 분석하기 위한 태스크 체인 인지 경량 프로파일링 도구
김정호 ,  박대동 ,  홍성수 대한전자공학회 학술대회 2016 .11
Spark 환경에서 대용량 그래프 유사 서브 그래프 매칭 기법
임종태 ,  최도진 ,  서동민 외 3명 정보과학회 컴퓨팅의 실제 논문지 2018 .09

최근 본 자료

전체보기

댓글(0)

0