메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
Aaron Nichie (Cheong-Ju University) Heung-Seo Koo (Cheong-Ju Univ.)
저널정보
대한전기학회 전기학회논문지 전기학회논문지 제65권 제7호
발행연도
2016.7
수록면
1,277 - 1,282 (6page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
The term “Big Data” has been defined to encapsulate a broad spectrum of data sources and data formats. It is often described to be unstructured data due to its properties of variety in data formats. Even though the traditional methods of structuring data in rows and columns have been reinvented into column families, key-value or completely replaced with JSON documents in document-based databases, the fact still remains that data have to be reshaped to conform to certain structure in order to persistently store the data on disc. ETL processes are key in restructuring data. However, ETL processes incur additional processing overhead and also require that data sources are maintained in predefined formats. Consequently, data in certain formats are completely ignored because designing ETL processes to cater for all possible data formats is almost impossible. Potentially, these unconsidered data sources can provide useful insights when incorporated into big data analytics. In this project, using big data solution, Apache Spark, we tapped into other sources of data stored in their raw formats such as various text files, compressed files etc and incorporated the data with persistently stored enterprise data in MongoDB for overall data analytics using MongoDB Aggregation Framework and MapReduce. This significantly differs from the traditional ETL systems in the sense that it is compactible regardless of the data formats at source.
#Apache Spark #MapReduce #Big Data #MongoDB #Analytics

목차

Abstract
1. Introduction
2. Related Work
3. System Design and implementation
4. Experiment Setup and Results
5. Conclusion
References

참고문헌 (10)

참고문헌 신청
[인터넷자원] - D. Agrawal / / Challenges and Opportunities with Big Data: A white paper prepared for the Computing Community Consortium committee of the Computing Research Association google schola [인터넷자원] - / / Bringing Big Data to The Enterprise google schola [학술대회논문] - P. Nathan / 2015 / Intro to Apache Spark / Chicago International Software Conference 2015 : 1 ~ 188 google schola [학술대회논문] - L. Neal / 2010 / Will NoSQL Databases Live Up to Their Promise? / Technology News, IEEE Computer Society : 12 ~ 14 google schola [인터넷자원] - / / Big Data Analytics google schola

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

제한된 메모리 환경에서의 아파치 스파크 성능 비교
송준석 ,  김상영 ,  이정준 외 1명 한국컴퓨터정보학회 학술발표논문집 2016 .01
Ontology and Sequential Rule Based Streaming Media Event Recognition
소치승 ,  박현규 ,  박영택 Journal of KIISE 2016 .04
Spark based Scalable RDFS Ontology Reasoning over Big Triples with Confidence Values
박현규 ,  이완곤 ,  바트셀렘 외 1명 Journal of KIISE 2016 .01
A Comparison of Performance Between MSSQL Server and MongoDB for Telco Subscriber Data Management
Aa ,  on Nichie ,  Heung-Seo Koo 전기학회논문지 2016 .03
dbsViewer: A Tool for Visualizing Storage Space and I/O Usage for Oracle DBMS
E ,  nest Kwadwo Adu ,  Heung-Seo Koo 한국정보기술학회논문지 2013 .09

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0101-2017-560-000851832