메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
이상헌 (세종대)
저널정보
대한철학회 철학연구 철학연구 제147집
발행연도
2018.8
수록면
261 - 281 (21page)
DOI
10.20293/jokps.2018.147.261

이용수

DBpia Top 5%동일한 주제분류 기준으로
최근 2년간 이용수 순으로 정렬했을 때
해당 논문이 위치하는 상위 비율을 의미합니다.
표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
이 논문은 인공지능으로 인한 인류의 위험에 대한 최근의 논의를 다룰 것이다. 인공지능을 협의의 인공지능(ANI), 인공 일반지능(AGI), 인공 초지능(ASI)으로 구분하여 살펴볼 것이다. 먼저, ANI 즉 약한 인공지능 시스템이 불러올 수 있는 위험에 대해 살펴본다. 인간이 효율성의 극대화를 위해 자율형 인공지능에게 작업의 권한을 상당 부분 이양하고 인간의 개입 없이 판단하고 행동하게 함으로써 발생할 수 있는 위험을 예상해 볼 수 있다. 아무리 정교한 시스템이라고 하더라도 인간이 만든 인공지능 시스템은 불완전하기 마련이며, 바이러스 감염이나 버그 등으로 오류가 발생할 수도 있다. 그래서 인공지능에게 맡기는 일에 한계가 있어야 한다고 본다. 대표적으로 살상용 자율무기는 허용되지 않아야 한다고 생각한다. 강한 인공지능 연구자들은 인공 일반지능과 초지능의 출현을 낙관한다. 초지능은 모든 면에서 인간의 능력을 월등하게 능가하는 인공지능 시스템이므로 인간의 이익에 반하는 행동을 하거나 인간에게 해를 입힐 수도 있다. 그래서 초지능을 통제하는 문제가 심각하게 거론되고 있다. 이 논문에서는 초지능을 통제할 수 있을지를 현재까지 제안된 통제방안들을 중심으로 개략적으로 살펴보았다. 만일 초지능이 출현한다면, 인간이 초지능을 완벽하게 통제할 방안이 현재로서는 없다고 판단된다. 하지만 초지능의 출현이 허구적인 가정일 수도 있다. 이럴 경우에도 통제 문제에 대한 연구는 인공지능 연구의 방향을 설정하는 데 있어 실용적인 가치가 있다.
#인공지능 #초지능 #통제 문제 #지능폭발 #능력 통제 방법 #동기 제어방법 #우호적인 인공지능 #Artificial intelligence #superintelligence #control problem #intelligence explosion #capability control method #motivation control method #friendly artificial intelligence

목차

[논문개요]
1. 자율형 인공지능의 위험
2. 윤리적 인공지능에 대한 연구
3. 초지능과 인류의 존재적 위험
4. 초지능을 통제할 방안들
5. 마무리
참고문헌
〈Abstract〉

참고문헌 (10)

참고문헌 신청
[단행본] - Bostrom, Nick / 2017 / 슈퍼인텔리전스: 경로, 위험, 전략 / 까치 google schola [단행본] - Wallach, Wendell / 2014 / 왜 로봇의 도덕인가 / 메디치 google schola [학술지(정기간행물)] - Anderson, Michael / 2006 / Guest Editors Introduction : Machine Ethics / IEEE Intelligent Systems 21 (4) google schola [학술지(정기간행물)] - Anderson, Michael / 2007 / Machine ethics: Creating an ethical intelligent agent / AI Magazine 28 (4) google schola [학술지(정기간행물)] - Anderson, Michael / 2007 / The status of machine ethics: A report from the AAAI symposium / Minds and Machines 17 (1) google schola

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

인공지능과 실존적 위험 ― 비판적 검토 ―
이상욱 인간연구 2020 .01
인공지능의 발달과 문제점에 대한 고찰 -싱가포르 · 중국 · 일본을 중심으로-
최성백 일본문화연구 2019 .10
인공지능과 로봇의사윤리
맹주만 철학탐구 2018 .11
왜 우리에게 인공지능이 문제가 되는가?
김경래 제3시대 2016 .07
인공 지능에서 인공 감정으로 : 감정을 가진 기계는 실현가능한가?
천현득 철학 2017 .05

최근 본 자료

전체보기

댓글(0)

0