트롤리 딜레마
태그 :
- 개념
- - 윤리학의 사고 실험으로, 필리파 푸트가 제시하고 주디스 자비스 톰슨 및 이후의 피터 엉거와 프란세스 캄이 체계적으로 분석된 신경윤리학의 문제 - 상황에 따른 이성적 판단 VS 윤리적 판단의 문제 - 동일한 상황에서 이성적 판단 VS 윤리적 판단 중 어느것이 옳은가의 문제
Ⅰ. 신경윤리학의 대표적 딜레마 트롤리 딜레마 개요
가. 트롤리 딜레마의 정의
-윤리학의 사고 실험으로, 필리파 푸트가 제시하고 주디스 자비스 톰슨 및 이후의 피터 엉거와 프란세스 캄이 체계적으로 분석된 신경윤리학의 문제
-상황에 따른 이성적 판단 VS 윤리적 판단의 문제
-동일한 상황에서 이성적 판단 VS 윤리적 판단 중 어느것이 옳은가의 문제
Ⅱ. 트롤리 신드롬의 사례
가. 트롤리 딜레마 사례에 관한 질문
-다음에 대해서 동일한 사람의 집단에게 물었다
구분 |
설명 |
사례1 |
트롤리는 선로를 따라 달려오고 있고, 선로에는 다섯 사람이 있다. 당신은 선로 밖에 서 있고 다섯 사람을 구하기 위해서는 선로변환기를 당기면 되지만 그렇게 되면 다른 선로에 있는 다른 한 사람이 죽게 된다. 선로변환기를 당기는 행위는 도덕적으로 허용 가능한가? |
사례2 |
트롤리는 선로를 따라 달려오고 있고, 선로에는 다섯 사람이 있다. 당신은 선로 밖에 언덕 위에 서 있고, 바로 옆에는 상당히 무거운 사람이 한명 서 있다. 다섯 사람을 구하는 유일한 방법은 옆에 서 있는 사람을 선로 위로 밀쳐서 그 무게로 트롤리를 멈추게 하는 것인데, 이는 도덕적으로 허용 가능한가? |
- 트롤리 : 흙이나 바위 등을 운반하는 일종의 화차
나. 트롤리 딜레마 사례에 관한 답변
구분 |
설명 |
사례1 |
피실험자들의 85% 도덕적으로 허용 가능하다 고 답변 |
사례2 |
피실험자들의 12% 도덕적으로 허용 가능하다 고 답변 |
다. 트롤리 딜레마에 대한 답변의 이유
하버드 대학의 심리학자 조슈아 그린(Joshua Greene)은 이 두 가지 상황을 제시 받은 피험자들의 뇌 활동도를 fMRI(기능성 자기공명영상)를 이용해 조사 비교
구분 |
정의 |
판단관점 |
사례1 |
스위치만 조작해서 결정을 내리는 경우에는 전전두엽에 활성이 상승 |
이성적 문제 |
사례2 |
무언가 살냄새 나고 피냄새 나는 적극적 행동이 필요한 경우에는 편도체(amygdala) 부위의 활성 |
정서적 문제 |
Ⅲ. 트롤리 딜레마와 유사한 신경윤리학 문제 사례
-인공지능 및 원격제어와 관련된 알고리즘의 작성시 트롤리 딜레마의 문제를 어떻게 처리해야 할지 ISSUE 사항임 (이성적 판단 VS 윤리적 판단)
구분 |
정의 |
연관 기술 |
사례1 |
드론 조작 병사는 수백 수천 명의 사람을 죽일 수 있는 포탄을 쏠 때도 감성적 판단이 개입할 여지가 없어졌고, 오로지 명령을 수행했을 뿐이라는 데에 윤리적 갈등을 미루어버림 |
무기로서의 드론 제어 |
사례2 |
자율주행 자동차의 제어문제 고속이동 차량 앞에 다수의 사람등장(어린아이 포함). 회피 어려우며 회피시 운전자 사망위험 큼. 차량은 전방의 다수의 사람과 운전자중 희생자를 골라야 함 |
자율주행 자동차의 긴급상황 제어 |
-정서적 판단의 개입이 줄거나 인공지능같이 정서적 판단 없는 기계에 의한 판단의 경우 상황에 따라 윤리적인 문제가 발생가능하며 이를 기계의 알고리즘으로 이성적으로만 해결할 경우 보편적 윤리와 상충함
Ⅳ. 도적적 판단의 기준
-생물학자 마크 하우저는 사람의 도덕적 판단은 이성이나 이론보다는 직관이나 감정의 영향을 받고 있다고 주장
구분 |
설명 |
행동의 원리 |
행동함으로써 일어난 폐해(가령 누군가의 죽음)는 행동하지 않아 일어난 폐해보다 더 비도덕적이라고 판단받는다 |
의도의 원리 |
의도적으로 한 행동이 의도적이지 않은 행동보다 더 비도덕적이라고 판단받는다 |
접촉의 원리 |
직접적 신체 접촉이 수반되는 위해가 그렇지 않은 위해보다 더 비도덕적이라고 판단받는다. |
Ⅴ. 현대 사회의 인간의 문제
이슈 |
정보 혁명을 겪고 있는 21세기에는 점점 더 사람과 사람의 직접적 만남과 교류가 줄어들고, 모든 것은 기계라는 인터페이스를 통해 이루어집니다.(SNS) 이런 환경의 변화 속에서 정서적 뇌가 판단과 결정에 관여할 기회가 점점 더 줄어들고 있다는 것은 분명 우려 |
현대인 스스로가 이러한 인터페이스를 통한 만남을 선호하고 있다는 것입니다. 사회가 복잡해지고 이해관계가 얽혀갈수록, 사람들은 신속하고 손쉬운 결정을 내리기를 원합니다. 그런 와중에 감성적 판단까지 끼어들어 상황을 복잡하게 만든다면 더욱 스트레스가 가중 |
사람들이 감성적 판단을 배척하고, 이성적 판단만을 신봉하는 것입니다. 이를 위해 우리 스스로 서로 간에 벽을 쌓고 있는 것이고요. 해고 통지가 핸드폰 문자 메시지로 전해지고, 암 선고가 이메일로 보내짐 |
Ⅵ. 모랄 머신(Moral Machine)의 개념
-MIT 공대 lyad Rahwan의 Scalable Cooperation 그룹이 개발한 온라인 플랫폼으로 도덕적 딜레마를 발생시키고 사람들이 두 가지 결과 사이에서 내린 정보를 수집하여 분석.
-시나리오는 트롤리 딜레마의 다양한 사례를 활용하며, 수집된 정보는 향후 기계학습이 갖추고 있어야 할 도덕적 가치를 부여하는 데 이용됨